首页 > 其他 > 详细

关于浮点数的取值范围以及精度的问题

时间:2019-08-28 17:36:06      阅读:113      评论:0      收藏:0      [点我收藏+]

根据最广泛采用的IEEE754标准规定,float数据类型长度为32位,其中最高位为符号位,中间8位为指数位,最后23位作为尾数位。因此float可以指示的范围(-3.4E+38)~(3.4E+38),这样的数值范围已经很大了基本能够满足我们的需要了,但是有一个问题就是精度的问题,23位的尾数能表示的最大范围是2^23−1=8388607,因此float数的十进制精度只有6-7位,所以在使用的时候要关注其精度。

同理double的尾数由23位扩展到52位,阶码由8位增加到了11位,计算方法不变。其指示范围为-1.7E+308~1.7E+308,其精度则为2^52-1=4503599627370495,为16位,最低可以保证有15位的精度。

关于浮点数的取值范围以及精度的问题

原文:https://www.cnblogs.com/m-zhang-yang/p/11425147.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!