1.貌似累加会因误差,得到的数字逐渐减小
float f = 0.1; float sum = 0; for( i=0; i<4000000; i++) { sum += f; }
理论上得到的sum应该是40万,但是计算得到的结果是384524.781250!!
float f = 0.1; float sum = 0; for( int i=0; i<2000; i++) { float tmp_sum =0; for (int j = 0;j<2000;j++) tmp_sum+=f; sum += tmp_sum; } 这样精度会高很多
原因在于一个特别大的数加一个特别小的数会产生较大的误差,而差不多的数相加误差较小。
用*100后来再/100的方式可以减少误差
原文:http://www.cnblogs.com/Wade-/p/6234727.html