首页 > 其他 > 详细

计算机进行小数运算会出错

时间:2015-09-10 10:43:31      阅读:252      评论:0      收藏:0      [点我收藏+]

float sum=0;

for(int i=0;i<100;i++)

  sum+=0.1;

System.out.print(sum);//10.000002

 

原因:计算机计算数字时,使用的是二进制,而十进制的0.1,无法用二进制精确表示,是一个二进制循环数,0.00011001100……(1100循环),而计算机对此二进制进行截取后,进行累加操作,必然会出现结果不对的情况。

计算机进行小数运算会出错

原文:http://www.cnblogs.com/mahuan2/p/4796887.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!