首页 > 数据库技术 > 详细

奇怪的 sql server 2008 Power 函数

时间:2014-06-02 06:18:45      阅读:374      评论:0      收藏:0      [点我收藏+]

 

 

bigint 的 数据范围是  从 -2^63 (-9223372036854775808) 到 2^63-1 (9223372036854775807) 的整型数据

 

但是 , 如果这么写  

 

    print CAST(POWER(3, 20) AS BIGINT)        

 

会报这个错误 

 

Msg 232, Level 16, State 3, Line 1
Arithmetic overflow error for type int, value = 3486784401.000000.

 

尽管 3486784401  小于  bigint的最大值  。

 

解决方法是  : 改写成

 

    print CAST(POWER(3.0, 20) AS BIGINT)            

 

 

这样,输出的结果就是 

3486784401,

 

也不报错了

 

 

 

奇怪的 sql server 2008 Power 函数,布布扣,bubuko.com

奇怪的 sql server 2008 Power 函数

原文:http://www.cnblogs.com/lthxk-yl/p/3763714.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!