首页 > 其他 > 详细

关于浮点误差的一些东西

时间:2016-12-29 22:44:18      阅读:171      评论:0      收藏:0      [点我收藏+]

 1.貌似累加会因误差,得到的数字逐渐减小

    float f = 0.1;
    float sum = 0;
    for( i=0; i<4000000; i++)
    {
        sum += f;
    }

理论上得到的sum应该是40万,但是计算得到的结果是384524.781250!!

 

float f = 0.1;
float sum = 0;
for( int i=0; i<2000; i++)
{
float tmp_sum =0;
for (int j = 0;j<2000;j++)
tmp_sum+=f;
    sum += tmp_sum;
}
这样精度会高很多

原因在于一个特别大的数加一个特别小的数会产生较大的误差,而差不多的数相加误差较小。

用*100后来再/100的方式可以减少误差

关于浮点误差的一些东西

原文:http://www.cnblogs.com/Wade-/p/6234727.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!