关于Java中浮点数精度丢失

原文链接
前几天有个同学在问，float数运算的时候精度出现问题，比如

public class Main {
    public static void main(String[] args) {
        int a = 3;
        float b = 0.9f;
        System.out.print(a * b);
    }
}

按道理来说结果应该是2.7,但是运行的结果却不是。

-w218

定点数 和 浮点数

记得老师上课的时候讲的，“你们记住，定点数就是整数，浮点数就是下小数”，当时觉得好像没有问题。
在计算机中，只有定点数和浮点数，没有整数和小数，浮点的“点”是小数点。 把小数点固定，通常固定在最右面，就是定点数。 把小数点浮动，就是浮点数。

进制转换

计算机存储任何数字都是基于二进制，那么浮点数怎么存储成二进制？定点、浮点，“点”是什么意思？
这个在 IEEE754 浮点数标准里面定义的,Java遵循了这个标准。 过程如下：

• 第一步：转换成二进制
  十进制数字转化成二进制表示形式，通过将整数部分除2取余、小数部分乘2取整来完成转换，所以这里有可能丢失精度

  0.12 =>0.00011110101110000101000111101...
  

• 第二步：用二进制科学计算法表示
  将小数点移动到第一个1的右边

0.00011110101110000101000111101...   =>       
1.1110101110000101000111101... * 2 ^ -4

• 第三步：表示成 IEEE 754 形式
  这里也可能会丢失精度

1   8位             23位               存不下了
0 01111011 11101011100001010001111     (01...)
+ 2的-4次幂 除去整数部分1之后剩余的尾数   0舍1入后忽略这部分，精度就这样没了

所以最后我们需要转换成十进制的时候，丢失部分的进度就没办法回来了

哪些数能精确表示？

举个例子：0.1 在计算机中可以精确表示吗？
我们试一下，试着乘2取整把他转换成二进制。

(1)  0.1 x 2 = 0.2  取整数位 0 得 0.0
(2)  0.2 x 2 = 0.4  取整数位 0 得 0.00
(3)  0.4 x 2 = 0.8  取整数位 0 得 0.000
(4)  0.8 x 2 = 1.6  取整数位 1 得 0.0001
(5)  0.6 x 2 = 0.2  取整数位 1 得 0.00011
(6)  0.2 x 2 = 0.4  取整数位 0 得 0.000110
(7)  0.4 x 2 = 0.8  取整数位 0 得 0.0001100
(8)  0.8 x 2 = 1.6  取整数位 1 得 0.00011001
(9)  0.6 x 2 = 1.2  取整数位 1 得 0.000110011
(10) 0.2 x 2 = 0.4  取整数位 1 得 0.0001100110
(n)...

啊哈，返现了没有，居然在循环~，所以我们没办法求出0.1用二进制表示的准确值，所以在第一步就已经丢失了精度
其实在0.1 ~ 0.9 中，只有0.5能用二进制精确表示：

(1)  0.5 x 2 = 1.0  取整数位 1 得 0.1
(2)  0.0 x 2 = 0.0  取整数位 0 得 0.10

哈哈，后面继续下去就都是0了，所以0.5的精度并没有发生丢失。
所以我们由此可以推出一个条件
如果一个十进制数的最后一位是5,那么它可以用二进制精确表示。

解决方案

一种思路

针对小数精度不够的问题（例如 0.1），软件可以人为的在数据最后一位补 5， 也就是 0.15，这样牺牲一位，但是可以保证数据精度，还原再把那个尾巴 5 去掉。

另一种办法

讲道理，上一种方法我们实际开发的时候采用是不现实的，float 用 4 个字节存储，double 用 8 个字节存储，精度肯定是有限的，但是一般的计算都足够了。
需要高精度计算的时候，我们可以采用BigDecimal类来计算。但是速度会比float和double慢很多~。