精度丢失问题
2020-09-07 本文已影响0人
jluemmmm
0.1 + 0.2 !== 0.30000000000000004
产生的主要原因是
js通过64位的二进制数据存储整数(第0位,符号位;第1-11位,存储指数部分;第12-63位,存储小数),其最大整数范围是
。对阶运算是指将两个进行运算的浮点数的阶码对齐。精度损失可能出现在进制转化和对阶运算过程中。
0.1 + 0.2 !== 0.30000000000000004
产生的主要原因是
js通过64位的二进制数据存储整数(第0位,符号位;第1-11位,存储指数部分;第12-63位,存储小数),其最大整数范围是
。对阶运算是指将两个进行运算的浮点数的阶码对齐。精度损失可能出现在进制转化和对阶运算过程中。