python学习笔记Python

python里“四舍五入”的坑

2020-04-16  本文已影响0人  Hobbit的理查德

之前要做批量报告的同事发来消息说,图片里的数据是不是没有四舍五入再保留2位小数的。Python批量word报告(带图)【思路篇】

我一惊,不对呀,该round的round了,该format的format了啊,

返回去看代码,确实是该加的都加上了呀,

我又回去看是哪个数据的问题,结果发现:

98.125.png

此时,之前课程上提到的关于浮点数的精度的问题浮现在脑海,

搜索引擎来一下,发现,这果然是个不小心就能掉进去的坑啊。

好在查了一遍,发现只有一份报告的一个图存在这个问题,只需要修改一个图片就行~~

不过这个坑还是很值得记一记的,之后要再来这种批量作图的时候,还是需要注意这种四舍五入的问题!


首先,round或format函数在四舍五入保留小数位数时,后一位是5的时候,很容易产生不符合要求的结果。

看了一圈,感觉这个讲得还是比较详细的,Python四舍五入问题详解,可以自己去细看。

引用该帖子里的一句话:

这是一个超出我们想象的复杂问题,其结果往往使我们很颓丧,甚至不敢再相信计算机

自己跑了一系列值之后,红色框内的结果是不符合要求的结果:

系列值.png
系列值2.png

是不是看起来很迷?

据说主要原因就是python中,float类型采用二进制编码描述浮点数,而round函数的取舍方式是靠近最近和偶数。

例如,我们输入和肉眼看到的是1.115,但是,如果将其保留20位小数的时候,并不是我们想象的那样,如下图所示:

1.115.png

因此,改值相较于1.11和1.12来说,这个值是更靠近1.11的,因此,保留两位小数的时候就是1.11了。

那这是不是就表示round或format函数不能用了呢?那倒也不是。

如果说能确定数据中不涉及到.**5的问题,例如,只是用format来解决9.89.80的形式呈现的问题的话,就可以放心的用。

但是,如果是通过python计算出来的值,然后想要四舍五入保留2位小数的话,

这时候还是自定义函数靠谱些。

例如:

#定义四舍五入函数
def new_round(_float, _len):
    if str(format(_float,'.'+str(_len+1)+'f'))[-1] == '5':
        return format(round(float(str(_float)[:-1]+'6'), _len),'.'+str(_len)+'f')
    else:
        return format(round(_float, _len),'.'+str(_len)+'f')

然后,打印比较一下上述红框中的值,通过不同函数四舍五入保留2位小数的结果,还是用自定义函数靠谱些:

new系列值.png new系列值2.png
上一篇下一篇

猜你喜欢

热点阅读