DBL_EPSILON和 FLT_EPSILON的用法

时间：2014-02-26 04:59:42 阅读：476 评论：0 收藏：0 [点我收藏+]

bubuko.com,布布扣

DBL_EPSILON和 FLT_EPSILON主要用于单精度和双精度的比较当中：

double a = 0.5;
if (a == 0.5) //正确
	x++;

double b = sin(M_PI / 6.0);
if (b == 0.5) //错误
	x++;

第一个比较正确，第二个可能正确也可能错误，b==0.5的结果取决于处理器、编译器的版本和设置。比如 Visual C++ 2010 编译器编译后运行b的值为0.49999999999999994

一种正确的比较方法应该是这样的：

double b = sin(M_PI / 6.0);
if (fabs(b - 0.5) < DBL_EPSILON)
	x++;

以上的例子可以看出，EPSILON是最小误差。是EPSILON+X不等于X的最小的正数。

原文：http://blog.csdn.net/x356982611/article/details/19922453

踩

(0)

评论一句话评论（0）

分享档案

更多>