numpy的power和float_power的区别 2020-

2020-05-05  本文已影响0人  五道口的程序狐

float_power会强行转成float,但是原来如果是int64的话可能精度有损失

NumPy float_power()函数与幂函数的区别在于这些整数,float16和float32被提升为float64的最小精度的float,因此结果始终是不精确的。对于负幂,float_power()函数将返回良好的结果,而对于+ ve幂,很少会溢出。

上一篇下一篇

猜你喜欢

热点阅读