首页 > Web开发 > 详细

js计算-浮点精确度问题

时间:2020-03-10 23:32:47      阅读:60      评论:0      收藏:0      [点我收藏+]

出现问题 

技术分享图片

 

0.7+0.1 本来应该等于0,8 现在确实0.799999

过程:十进制转二进制,运算后再转十进制 展示,而转化过程中 十进制的数字转化为 01 无限循环的二进制,结果也是无限循环的二进制数字,在转化成十进制,就成了结果不正确了

为了防止出现这样的情况,解决方案

方法1:

在做金额问题的时候 为了防止这种损失出现,一般会*10 /10 这样结果不变

(0.7*100 +0.1*100)/100 这样结果正确

方法2:

利用toFixed()规定小数的位数,

技术分享图片

 

js计算-浮点精确度问题

原文:https://www.cnblogs.com/GoTing/p/12459538.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!