首页 > 其他 > 详细

《程序员是怎样跑起来的》第三章

时间:2019-01-27 23:47:13      阅读:183      评论:0      收藏:0      [点我收藏+]

第三章是计算机进行小数运算时出错的原因。主要也是讲了这个原因,读完之后了解到这个原因,是因为有一些十进制数的小数无法转换成二进制数。就会出现错误。因为无法正确表示的数值,最后都变成了近似值。计算机这个功能有限的机器设备,是无法处理无限循环小数的,因此,在遇到循环小数时,计算机就会根据变量数据类型所对应的长度,将数据从中间截断或者四舍五入。

 

此章又详细介绍了双精度浮点数(64位)和单精度浮点数(32位),又对此加深了理解。对于此前不知道的正则表达式,了解到按照特定的规则来表示数据的形式即为正则表达式。单精度浮点数尾数部分的正则表达式如何变化还没完全理解,文章中出现的EXCESS有些不太懂,在表示负数时不时用符号为位,又怎么样表示,自己还得多看几遍。

《程序员是怎样跑起来的》第三章

原文:https://www.cnblogs.com/T0327/p/10327905.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!