js 浮点数精确度如何？0.1 + 0.2 = 0.3 ？
2020-05-26 本文已影响0人
有点皮的小黄皮
image.png
0.1 + 0.2 = 0.30000000000000004。what？？有时候这个小小舍入的误差会让我们蒙圈。
浮点数值精确度
- 最高精度 17位
- 舍入误差？了解一下IEEE数值的浮点计算通病
还是使用整数计算准一点。
image.png
image.png
image.png
0.1 + 0.2 = 0.30000000000000004。what？？有时候这个小小舍入的误差会让我们蒙圈。
还是使用整数计算准一点。
