首页 > Web开发 > 详细

js防止小数计算的时候精度缺失的小技巧

时间:2021-09-15 19:14:32      阅读:54      评论:0      收藏:0      [点我收藏+]
小数计算过程中精度缺失的,最经典的是0.1+0.2 = 0.30000000000000004,原因是因为数值的表示在计算机内部是用二进制的,
那么出现这种情况的时候我们如何避免计算结果达到我们要的0.3呢?其实我们只要把计算得到的结果固定10位,然后再转换为浮点数就可以了。


function calculateNum (value) {
  return parseFloat(value.toFixed(10))
}
calculateNum(0.1+0.2) // 0.3

  

js防止小数计算的时候精度缺失的小技巧

原文:https://www.cnblogs.com/kinwai/p/15267380.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!