CSAPP_3e

浮点数乘法

2020-06-30  本文已影响0人  橡树人

定义 浮点数乘法

x*^fy=Round(x\times y)

性质 浮点数乘法性质

注意

解释
表达式(1e20*1e20)*1e-20的值是+\infty

1e10
0101 0100 0000 1011 1110 0100 0000 0000

1e20
1111 1111 1111 1111 1111 1111 1111 1111
11111111111111111111111111111111

1e20*1e20
=0000 0000 0000 0000 0000 0000 0000 0000
上一篇 下一篇

猜你喜欢

热点阅读