首页 > Web开发 > 详细

解决js 浮点数计算运算精度问题

时间:2020-04-16 17:06:48      阅读:75      评论:0      收藏:0      [点我收藏+]

在进行浮点数运算时,比如0.1+0.2 != 0.3,解决思路如下:
1.将结果四舍五入
2.将浮点数转化为整数再将结果除以扩大倍数
3.把浮点数转化为字符串,模拟实际运算的过程

var a = 0.1
var b = 0.2
var c = (a*10)+(b*10)  // 方法二
console.log(a+b)
console.log(c/10)
console.log(parseFloat((a+b).toFixed(2)))  //方法一

如果直接将结果进行toFixed,则是对字符串进行操作,第三种方法可以使用目前一些成熟的库,比如bignumber.js,decimal.js,以及big.js等

解决js 浮点数计算运算精度问题

原文:https://www.cnblogs.com/lfnumber7/p/12713979.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!