首页 > 编程语言 > 详细

警惕C++中整数除法计算的精度损失

时间:2014-06-18 07:10:31      阅读:315      评论:0      收藏:0      [点我收藏+]

很偶然发现了一个精度损失的问题,简单来说:

有表达式: l = i/30 + j/40 + k/25, 求当{i,j,k} = {50,85,27}时l的值,很简单,用计算器马上可以算出答案为4.8717,但是编写了以下程序来实现:

int i = 50,j = 85, k = 27;

double l = i/30 + j/40 + k/25;

运行后,结果显示4.000000000!

 

     为什么?这是因为在C++中两个整数相处得到的结果还是整数,故除法都被四舍五入了再相加,就得到结果4.00000了。也许你会说,这种小儿科的问题我不会犯,当然情况是这样的时候很容易看出来,也比较容易避免,可是当i,j,k都是类的三个整数类型成员的时候,经常容易忘了他们是整数类型的,而写出上述表达式。所以,在写程序时,上述类型的式子要统一写成:

int i = 50,j = 85, k = 27;

double l = i/30.0 + j/40.0 + k/25.0;

     这样就不会出错了。

     呵呵,这是早就应该知道的问题了,到现在才发现,不过也为时不晚,fighting~ O(∩_∩)O~


警惕C++中整数除法计算的精度损失,布布扣,bubuko.com

警惕C++中整数除法计算的精度损失

原文:http://blog.csdn.net/ghevinn/article/details/31790817

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!