FLT_EPSILON-----浮点数的比较

最新推荐文章于 2025-03-23 11:28:51 发布

转载最新推荐文章于 2025-03-23 11:28:51 发布 · 2.4k 阅读 ·

大模型引用 1 次

本内容遵循CC 4.0 BY-SA版权协议

原文链接：https://www.jianshu.com/p/6f57ec7ee660

明月清风-精进不止

关注

标签

#机器学习 #人工智能

分类游戏开发

QT 同时被 2 个专栏收录

11 篇文章

订阅专栏

麒麟

8 篇文章

订阅专栏

本文介绍了FLT_EPSILON、__FLT_EPSILON__、DBL_EPSILON、__DBL_EPSILON__和LDBL_EPSILON、__LDBL_EPSILON__在编程中的作用，尤其是在比较浮点数值的精确度时。通过实例演示了正确使用这些常量避免比较误差的方法。

FLT_EPSILON和__FLT_EPSILON__是一个意思，表示的是float类型（单精度浮点数）所能识别的最小精度。DBL_EPSILON和__DBL_EPSILON__表示的是double类型所能识别的最小精度，LDBL_EPSILON和__LDBL_EPSILON__表示的是long double类型所能识别的最小精度；它们常用于比较当中：

一、使用场景

double a = 0.5;
if (a == 0.5) {
    NSLog(@"a = 0.5是正确的。");
} else {
    NSLog(@"a = 0.5不是正确的。");
}
NSLog(@"a的值为: %f", a);

double b = sin(M_PI / 6.0);
if (b == 0.5) {
    NSLog(@"b = 0.5是正确的。");
} else {
    NSLog(@"b = 0.5不是正确的。");
}
NSLog(@"b的值为：%f", b);

第一个比较正确，因为0.5在double类型的存储精度范围内；
第二个比较可能正确也可能错误，结果取决于处理器、编译器的版本和设置；

二、正确用法

上面比较b的正确方法应该是这样：

double b = sin(M_PI / 6.0);
if (fabs(b - 0.5) < DBL_EPSILON) {
    NSLog(@"b = 0.5是正确的。");
} else {
    NSLog(@"b = 0.5不是正确的。");
}
NSLog(@"b的值为：%f", b);

转自https://www.jianshu.com/p/6f57ec7ee660