iOS 关于小数精确计算(NSDecimalNumber)

2020-06-19  本文已影响0人  玉思盈蝶

今天看有人问到这个,我试了一下,还是觉得有问题,代码如下:

let str1 = String(format: "%.2f", Double(0.100000))
let str2 = String(format: "%.2f", Double(0.99999999))
let decimalNumber1 = NSDecimalNumber(string: str1)
let decimalNumber2 = NSDecimalNumber(string: str2)
let result = decimalNumber1.multiplying(by: decimalNumber2)
print(result)

上面代码result输出啥?
0.1
str1 = “0.10”
str2 = “1.00”

PS:我们项目里也有这个问题,暂目前我们的处理是两位小数处理的,可能还是有问题吧。

参考链接:

https://www.jianshu.com/p/c6360cb13d0e

还是有精度的丢失。。。。。。话说你们都怎么处理这个精度问题?求告知~~~

上一篇 下一篇

猜你喜欢

热点阅读