No41.浮点数近似规则

2019-12-19  本文已影响0人  赫尔特

\color{purple}{1.名词}
\color{blue}{2.Truncation Methods(舍弃的方法)}

名词

保留位(Guard bit)、近似位(Round bit)和粘滞位(Sticky bit)。
保留位:近似后的最低位
近似位:保留位的后一位
粘滞位:近似位后的所有位进行或运算后视作一位
truncation:截断,舍去,因为浮点数的位数是固定的,计算中多出来的位数需要利用一些规则进行舍去(比如四舍五入)

Truncation Methods(舍弃的方法)

chopping方法:直接把把保留位(有的书上叫LSB)后面的位全部丢掉,比如:
01001001\color{green}11001 --->01001001\color{green}1
这个方法保留位处的误差从0到接近1,误差不平衡,不可取。(平衡的误差应该是从-1到1或者从0.5到0.5且分布概率一样)

Von Neumann Rounding方法:如果保留位后面的位全部是0,那就把它后面的位全部丢掉,保留位不变,否则的话,保留位置为1(不管它之前是否为1)
这个方法的误差在保留位处从接近-1到接近1,误差是平衡的,但是误差的绝对值有些小高。

Rounding方法(\color{red}{这个是主角,主角当然最后登场}
分三种情况:

举个栗子:


1
上一篇 下一篇

猜你喜欢

热点阅读