iOS程序猿

double转unsigned int等于?

2019-04-13  本文已影响0人  皮皮Warrior

double转unsigned int等于?

如题所述,今天碰到一个很隐晦的Bug,调用一个函数的结果总是不符合预期。

问题

先看问题:

doube num_double = -1;
unsigned int num_uint = num_doube;

num_uint会是多少?
先说答案,是0。

数值转换的坑

上面的答案可能不够准确,在ARM平台上是0,在x86平台上是-1的补码。

我们在学校学到的知识是基于x86平台的,即:

整型负数的类型转换,是在其补码上做高位的去除和填补,浮点型负数的类型转换,是取其整数部分的补码做高位去除和填补。

由于负数在底层存储是补码,会造成无符号与有符号数字在比较,计算的不方便(有符号会转成无符号)。但浮点数负数的类型转换,在我的脑海里一直是老师教的那样,取整数部分,直到今天栽了坑。

负数转无符号整数

当负数是整数时,无符号整数只是换了一种表达方式来解释它的补码,所以-1是4294967295。

当负数是浮点数时,浮点数的存储是尾数+指数的方式,不能直接将其二进制数据转为无符号整数表达。这就依赖平台的实现了,具体的ARM会转成0,而x86会转成整数部分。

如何避免产生Bug

当实际参数和形参类型不同是,要避免在传参时直接使用函数返回值的情况,如:

double funcA(){
    return -100.000000001;
}
void funcB(unsigned int num){
    print num; 
}

我们在使用时要避免funcB(funcA())的形式, 这样会直接输出0, 最好用临时变量存住funcA的值再使用。

上一篇下一篇

猜你喜欢

热点阅读