首页 > 其他 > 详细

var 0.2+0.1!=0.3

时间:2018-05-25 20:17:35      阅读:228      评论:0      收藏:0      [点我收藏+]

0.2 + 0.1 = 0.30000000000000004

二进制转十进制: 0101

  位数:4<--1--0--负1---<

1x2的位数次方=1x1

0x2的位数次方=0x2

1x2的位数次方=1x4

0x2的位数次方=0x8

 

十进制:5

======================

二进制        十进制

0.00000====0

0.00001====0.0625

0.00002====0.125

0.00003====0.1857

 

也就是十进制0.1二进制表示有误差。。。。

 

var 0.2+0.1!=0.3

原文:https://www.cnblogs.com/yancongyang/p/9090266.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!