你的float用对了吗

介绍

很多人都知道float是浮点类型，它不能表示数据范围内的所有数值。但是，实际使用或编码时，你又是否记得这句话呢？下面是stackoverflow中的一个问题：

why does a float variable stop incrementing at 16777216

下面是待执行的代码：

float a = 0;
while (true)
{
    a++;
    if (a > 16777216)
        break; // Will never break... a stops at 16777216
}

导致上面break不会跳出的原因就是:a是加不到16777217的，因为float真的无法表示16777217。

解释

16777216就是2²⁴，按照下面的方式来表示32个bit位

• 符号位：0（正数）
• 指数位：24（存储时按24+127的bit来存）（24+127=151=10010111）
• 尾数：0
• 所以16777216的二进制就是0 10010111 00000000000000000000000
• 所以16777216=(+)1*2²⁴*(1.0+0.0)=2²⁴=16777216

下面这张图显示了16777216的二进制表示

现在，让我们看看float是如何表示16777217（2²⁴+1）的。

• 符号位和指数位相同
• 尾数需要是2^-24，才能得到16777217,即1*2²⁴*(1.0+2^-24)=2²⁴+1
• 问题来了，尾数部分不能是2^-24，因为float的尾数位数只有23个bit。
• 所以，32位float类型不能精确地表示16777217

float能表示的下一个数值是16777218=1*2²⁴*(1+2^-23)=2²⁴+2

 参考

https://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html

http://stackoverflow.com/questions/12596695/why-does-a-float-variable-stop-incrementing-at-16777216-in-c?noredirect=1&lq=1

http://floating-point-gui.de/basic/

你的float用对了吗

原文：http://www.cnblogs.com/songqiang/p/what-you-should-know-about-float.html