首页 > 编程语言 > 详细

javascript计算精度丢失

时间:2021-02-25 23:47:45      阅读:37      评论:0      收藏:0      [点我收藏+]
function addition(num1, num2){
    //将传入的数字格式化防止出错
    if(typeof num1 != ‘number‘){
        num1 = parseFloat(num1) | 0;
    }

    if(typeof num2 != ‘number‘){
        num2 = parseFloat(num2) | 0;
    }

    //分别获取传入的两个数字的小数点后的位数
    var ext1Len = num1.toString().split(‘.‘)[1] ? num1.toString().split(‘.‘)[1].length : 0;
    var ext2Len = num2.toString().split(‘.‘)[1] ? num2.toString().split(‘.‘)[1].length : 0;

    //获取10的最大位数幂
    var m = Math.pow(10, Math.max(ext1Len, ext2Len));

    //根据计算公式得出结果
    return (num1 * m + num2 * m) / m;
}
console.log(addition(0.1, 0.2))

javascript计算精度丢失

原文:https://www.cnblogs.com/zhangly/p/14448536.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!