时间管理司马腾超级自控力学院

《编码》23章 定点数和浮点数 18/71天阅读

2018-09-13  本文已影响0人  皮卡丘_83e1

单精度浮点数的精度为1/2的24次方,或1/16777216,或百万分之六。这意味着在单精度浮点格式下,16777216和16777217将表示成同一个数。不仅如此,处于这两个数之间的所有的数也将被表示成同一个数。

如果为银行编写程序,用单精度来存放美元、美分值时,更愿意使用定点数。

双精度可以提高这种精度。

由于浮点计算复杂,因此引入FPU,浮点运算单元。

上一篇 下一篇

猜你喜欢

热点阅读