你知道 0.1+0.2 !==0.3的原理么?

2021-12-14  本文已影响0人  涅槃快乐是金

原文:https://segmentfault.com/a/1190000041111667

前言

有一个问题困扰了广大前端工程师,那就是0.1 + 0.2 !== 0.3

大家可能都知道,这是因为计算机在存储数字是是通过二进制来存储的,呈现的时候是通过十进制来存储的,所以有误差。但是再继续深问你为啥计算机的二进制存储会造成误差呢,可能你就支支吾吾了。。。

[图片上传失败...(image-7dff01-1639496589180)]

十进制转二进制

咱们先来讲讲十进制转二进制是怎么转的吧。。情况有三种:

整数

整数的十进制转二进制,是怎么转的呢?记住一条公式:除二取余,然后倒序排列,高位补零。啥意思呢?别急,我给你讲讲哈,我就拿81这个数字来举例子吧,毕竟曾经有一个男人,单场砍下81分

可以得出1000101,可以看出有7位,但是呢,计算机内部表示数是定长的,例如8位、16位、32位,所以7位是不够的,需要高位补0,也就是01000101,规范写法为(81)10 = (01000101)

负整数

负整数的话,是这样的规则:

小数

小数转二进制的话是这样的:对小数点以后的数乘以2,得出结果,取结果的整数部分(不是 0 就是 1),然后再对结果的小数点以后的数乘以2,得出结果,再取结果整数部分,再然后然后再对结果的小数点以后的数乘以2。。。。以此类推。。知道小数部分为0或者位数已经到达位数。再把这个过程中取的整数按先后顺序排好就行了。

我举个例子吧,比如0.125

我再举个例子,比如121.6

0.1 + 0.2

再回到0.1 + 0.2这个问题

可以看到,0.1和0.2转成二进制都是无限循环的,超过了52位,所以存储时只能通过近似值去存储他们两,那自然的,当0.1 + 0.2时,近似值转十进制肯定也是近似值,所以造成误差

上一篇下一篇

猜你喜欢

热点阅读