基本类型:数值之浮点数类型
2020-07-02 本文已影响0人
大象信步走来
浮点数类型
操作与整数类似
浮点数受到17位有效数字的限制
- IEEE的国际标准来限定浮点数有效数字,不像python的整数那样和数学中的计算一样
- 超过的位数用科学记数法来表示
特点
-
科学记数法
>>>4e2 400.0 >>>4e-2 0.04 >>>123456789123456789.0 1.2345678912345678e+17 #超过的位数用科学记数法表示
-
有效位数
>>>367/112 3.2767857142857144 # 最多显示十七位有效数字 >>> 3.127468275376754729840183757 3.1274682753767546 # 最多显示十七位有效数字
特性
- 进制转换导致精度误差
- 当我们进行进制转换的时候,我们输入的是一个用十进制表示的数字,但是计算机内部使用二进制表示的,所以十进制里可能是个有限小数,但是在二进制里面可能会变成一个无限小数
- 所以像4.2+2.1== 6.3 返回值就是False,为了避免这种情况,我们尽量少进行相等判断而是对等式两边做差,小于一个很小的数,来容错。
>>>5.2 + 3.1
8.3
>>>5.2 + 3.1 == 8.3
True
>>> 4.2 + 2.1
6.300000000000001
>>> 2.1 + 4.2 == 6.3
False
>>>4.2 + 2.1 - 6.3 < 0.00001
True