首页 > 其他 > 详细

INT整型最小值取负还是本身的问题

时间:2019-05-27 15:06:19      阅读:136      评论:0      收藏:0      [点我收藏+]

在刷LeetCode题目powx-n遇到。


 

题目描述

Implement pow(xn).



public
double pow(double x, int n) { if (n == 0) return 1; else if (n < 0) return pow(1 / x, -n)); else if (n % 2 == 0) return pow(x * x, n / 2); else return x * pow(x * x, n / 2); }

测试用例:(x, -2147483648) 无法通过

原因:-2147483648(整型最小值)取负等于本身。

Integer.MIN_VALUE是-2147483648,是-2147483647减1得到,-2147483647的原码是0xFFFFFFFF,补码是0x80000001。-2147483648的原码是由-2147483647的原码的非符号位减1溢出,得到原码为0x80000000。符号位不变, 其余各位取反, 最后+1,得到补码0x80000000,和原码一样。
当计算机进行取负操作时,是将补码的每一位取反然后+1。0x80000000按每位取反后是0x7FFFFFFF,加一之后还是0x80000000,所以-2147483648取负还是-2147483648。

代码修改如下

public double pow(double x, int n) {
    if (n == 0) return 1;
    else if (n < 0) return 1 / x * pow(1 / x, -(n + 1));
    else if (n % 2 == 0) return pow(x * x, n / 2);
    else return x * pow(x * x, n / 2);
}

 

INT整型最小值取负还是本身的问题

原文:https://www.cnblogs.com/yfzhou/p/10930744.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!