锻炼吃饭的家伙

宏DBL_EPSILON(__DBL_EPSILON__)和FL

2018-04-24  本文已影响98人  GLGeek

一、定义

iOS工程中,打开float.h头文件,找到下面的定义

宏定义
FLT_EPSILON__FLT_EPSILON__是一个意思,表示的是float类型(单精度浮点数)所能识别的最小精度。DBL_EPSILON__DBL_EPSILON__表示的是double类型所能识别的最小精度,LDBL_EPSILON__LDBL_EPSILON__表示的是long double类型所能识别的最小精度;它们常用于比较当中:
double a = 0.5;
if (a == 0.5) {
    NSLog(@"a = 0.5是正确的。");
} else {
    NSLog(@"a = 0.5不是正确的。");
}
NSLog(@"a的值为: %f", a);

double b = sin(M_PI / 6.0);
if (b == 0.5) {
    NSLog(@"b = 0.5是正确的。");
} else {
    NSLog(@"b = 0.5不是正确的。");
}
NSLog(@"b的值为:%f", b);

第一个比较正确,因为0.5double类型的存储精度范围内;
第二个比较可能正确也可能错误,结果取决于处理器、编译器的版本和设置;

二、用法

上面比较b的正确方法应该是这样:

double b = sin(M_PI / 6.0);
if (fabs(b - 0.5) < DBL_EPSILON) {
    NSLog(@"b = 0.5是正确的。");
} else {
    NSLog(@"b = 0.5不是正确的。");
}
NSLog(@"b的值为:%f", b);

同样的,FLT_EPSILONLDBL_EPSILON也是这样使用。

三、总结

1.EPSILON是最小误差,是EPSILON+X不等于X的最小的正数;
2.在比较浮点数的时候,一定要注意精度的问题;

上一篇 下一篇

猜你喜欢

热点阅读