精度丢失问题

2020-09-07  本文已影响0人  jluemmmm

0.1 + 0.2 !== 0.30000000000000004产生的主要原因是

js通过64位的二进制数据存储整数(第0位,符号位;第1-11位,存储指数部分;第12-63位,存储小数),其最大整数范围是2^{-53}-2^{53}。对阶运算是指将两个进行运算的浮点数的阶码对齐。精度损失可能出现在进制转化和对阶运算过程中。

掘金--0.1 + 0.2不等于0.3?为什么JavaScript有这种“骚”操作?

揭秘 0.1 + 0.2 != 0.3

上一篇 下一篇

猜你喜欢

热点阅读