首页 > 其他 > 详细

浮点数double相等性比较

时间:2021-04-28 14:53:01      阅读:22      评论:0      收藏:0      [点我收藏+]

技术分享图片

private bool IsEqual(double a, double b)
{
   bool isEqualFlag = false;
   // 绝对误差 0.000001
   const double eps_0 = 1.0e-6;
   // 相对误差 0.0001
   const double rel_error = 1.0e-4;
   if (Math.Abs(a - b) <= eps_0)
   {
       isEqualFlag = true;
   }
   else
   {
       if (Math.Abs(a) >= 1000.0 && Math.Abs(a - b) <= rel_error * Math.Abs(a))
       {
           isEqualFlag = true;
       }
   }
   return isEqualFlag;
}

浮点数double相等性比较

原文:https://www.cnblogs.com/wesson2019-blog/p/14713535.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!