点滴笔记(2018年08月24日更新)

2018-08-24  本文已影响13人  cynthia猫

问:浮点数为什么存在精度问题?

计算机中的浮点数对应于数学当中的小数。简单计算下,32位浮点数最多可以表示2^32个数,但从数学上说区间[0,1]中的小数就有无穷多个。所以计算机是不可能描述得尽的,必然会有一些近似,也就带来了精度损失。

上一篇下一篇

猜你喜欢

热点阅读