不确定尾数问题

2018-04-10  本文已影响0人  扣篮的左手

浮点数间运算存在不确定尾数,不是bug

print(0.1 + 0.3) # 0.4
print(0.1 + 0.2) # 0.30000000000000004
print(0.1 + 0.2 == 0.3) # False

小数部分十进制不是都可以精确转换成二进制
round函数
round(x,d) 对x四舍五入,d是小数截取位数
不确定尾数一般发生在10^-16左右,round()函数非常有效

上一篇 下一篇

猜你喜欢

热点阅读