首页 > 编程语言 > 详细

Java及Javascript中的浮点运算

时间:2019-11-11 15:08:22      阅读:87      评论:0      收藏:0      [点我收藏+]

在进行金额计算,及某些精确计算时,会出现意想不到的很多小数的情况。

  • 对Java

  采用BigDecimal,如下代码示例

package number;

import java.math.BigDecimal;

public class NumberTest {
 
  public static void main(String[] args){
 
    double a =  2.05d;
    BigDecimal c = new BigDecimal(a);
    System.out.println("using double--");
    System.out.println("a * 100 = " + a + " * 100 = " + a*100);
    System.out.println("using BigDecimal--");
    BigDecimal m = new BigDecimal("2.05").multiply(new BigDecimal(100)); //<-- please use this.
    System.out.println("a * 100 = " + a + " * 100 = " + m);
    
    BigDecimal n = new BigDecimal(2.05d).multiply(new BigDecimal(100));
    System.out.println("a * 100 = " + a + " * 100 = " + n);

  }

}

上面程序输出的结果为:

using double--
a * 100 = 2.05 * 100 = 204.99999999999997
using BigDecimal--
a * 100 = 2.05 * 100 = 205.00  
a * 100 = 2.05 * 100 = 204.99999999999998223643160599749535322189331054687500

 

  • Javascript

使用parseFloat函数和toPrecision(12)函数。

var c=3.4-3;

alert(c);

alert(parseFloat(c).toPrecision(12)));

 

Java及Javascript中的浮点运算

原文:https://www.cnblogs.com/bjfarmer/p/11834588.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!