<br><br><div class="gmail_quote">On Sun, Feb 20, 2011 at 9:26 PM, John Cowan <span dir="ltr"><<a href="mailto:cowan@mercury.ccil.org">cowan@mercury.ccil.org</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;">
Mark S. Miller scripsit:<br>
<div class="im"><br>
> This is the only constant whose actual value differs across browsers:<br>
><br>
> <a href="tel:0.4342944819">0.4342944819</a>0325176   v8 version 2.3.9 [console: dumb]<br>
> <a href="tel:0.4342944819">0.4342944819</a>032518     Chrome 11.0.672.2 dev<br>
<br>
</div>[etc.]<br>
<br>
The two values are really the same value when represented as an IEEE<br>
double.  The difference is in the printing routine, not the internal<br>
representation.  Specifically, the "...2518" browsers are rounding, the<br>
"...25176" browsers are not.<br></blockquote><div><br></div><div>But they convert to back to two different floating point numbers, at least on all the browsers I quickly tried.</div><div><br></div><div><div>> 0.43429448190325176 === 0.4342944819032518</div>
<div>false</div><div>> 0.43429448190325176 < 0.4342944819032518 </div><div>true</div><div>> 0.43429448190325176 > 0.4342944819032518 </div><div>false</div></div><div><br></div><div>A little more testing reveals that the two numbers seem to be consecutive, in the sense that there are no intermediate representable numbers.</div>
<div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;">
<br>
"Floating-point numbers are a little like sandpiles; every time you pick<br>
one up, you get a little less sand and a little more dirt."  (But this<br>
is not true of integers up to 2^53, slightly less than 10^16.<br>
<font color="#888888"><br>
--<br>
John Cowan                                <<a href="mailto:cowan@ccil.org">cowan@ccil.org</a>><br>
Yakka foob mog.  Grug pubbawup zink wattoom gazork.  Chumble spuzz.<br>
    --Calvin, giving Newton's First Law "in his own words"<br>
</font></blockquote></div><br><br clear="all"><br>-- <br>    Cheers,<br>    --MarkM<br>