js小数点算不准

2018-01-12  本文已影响0人  我是强强

改写displaynum()函数

functiondisplaynum(){varnum = 22.77;alert(num + 10);}

点击Show按钮 结果显示32.769999999996 出现了N多小数.

也并不是所有数字都会出现这种现象, 除了 22.99  2.777 , 好像这几个数字也没什么特殊.

查了一些资料, 一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚, 有时间再去深入研究一下。

现在有两种解决方法, 第一种就是利用JS .toFixed(n) 方法, 直接获取n位小数, 个人觉得这种方法在数据精度上会有一些问题. 如果数据精度要求不高的话 可以使用. 第二种方法就是自己写js 运算方法.

以下是自定义加法函数, 使用此方法进行相加会避免上面问题。

functionaddNum(num1,num2)

{

    varsq1,sq2,m;

    try{

        sq1=num1.toString().split(".")[1].length;} 

    catch(e)

    {    

        sq1=0

    ;}

try{

    sq2=num2.toString().split(".")[1].length;} 

    catch(e)

    {

    sq2=0;

}

m=Math.pow(10,Math.max(sq1,sq2))

;return( num1 * m + num2 * m ) / m;}

当然简单一点也可以写成 alert((num * 3 + 10 * 3) /3); 这样也不会出现n多小数。

alert((num * 3 + 10 * 3) /3); 与 alert(num + 10); 这两种写法计算机在底层转换成二进制运算是有区别的, 或许这就是出现上述问题的原因

上一篇下一篇

猜你喜欢

热点阅读