不确定尾数问题
2018-04-10 本文已影响0人
扣篮的左手
浮点数间运算存在不确定尾数,不是bug
print(0.1 + 0.3) # 0.4
print(0.1 + 0.2) # 0.30000000000000004
print(0.1 + 0.2 == 0.3) # False
小数部分十进制不是都可以精确转换成二进制
round函数
round(x,d) 对x四舍五入,d是小数截取位数
不确定尾数一般发生在10^-16左右,round()函数非常有效