为什么会有小数精度问题

2018-09-28  本文已影响0人  鸡哥cy

为什么所有的语言都有小数精度问题,比如说:double result = 1.0 - 0.9,其结果是0.09999999999999998。这是因为在二进制的世界里也有无线循环小数,在十进制中都无法表示1/3。那凭什么要求二进制能够表示1/10呢?如果你一开始接受的都是二进制教育,那么这个时候你会疑惑“为什么十进制会有精度问题?” 在二进制中,1/21/43/41/8等等都是有限的,这些数没有精度问题

上一篇下一篇

猜你喜欢

热点阅读