首页 > 其他 > 详细

数值很大时,Long 转 Float 数据不正确问题

时间:2021-04-08 18:37:50      阅读:15      评论:0      收藏:0      [点我收藏+]

原因:32 位系统中 float 有1个符号位 + 8个2的幂次位 + 23个精度位 = 32位,long 有 1个符号位 + 31个精度位 = 32位,

  当 long 的数值大于8 位时,直接转换有效数字会有损失。

  测试代码如下:

技术分享图片

 

数值很大时,Long 转 Float 数据不正确问题

原文:https://www.cnblogs.com/dhqy/p/14633145.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!