integer-overflow 相关问题

当操作的结果大于可由基础整数类型表示的最大值时,会发生整数溢出。

Project Euler问题8 Python整数溢出

该问题要求您“查找1000位数字中具有最大乘积的13位相邻数字。”表示以下数字:...

回答 2 投票 0

Java中x + x与2 * x之间的差异

我看到Java的一种常见做法是使用x + x代替2 * x,特别是对于int。例如int x = 1; x + = x;代替int x = 1; x = 2 * x;使用if(a

回答 1 投票 -1

请确保计算完成了64位(或至少要说其他警告)

我正在使用python和NumPy。我要计算以下基本数量:(QL *(7 ** k))** 2其中QL = 200003,k = 4让我感到困惑的是,它向我返回了一个错误的(负)数字,该数字没有产生。 ..

回答 1 投票 2



我不明白为什么该解决方案有效。 (整数溢出)

对不起,标题不好,但是我不知道如何命名。我已经解决了一些练习问题,并且遇到了这个问题。面临的挑战是为一个盒子写一个类。因此它具有经度,...

回答 1 投票 1

如何在VBA中调试平方根溢出

我是VBA的新秀,我在VBA中使用sqr()时遇到问题。每当我在VBA中使用Sqr()函数时,SigSqrdt = sigma * Sqr(dt)行上就会出现一个消息框“运行时错误'6'溢出”。我是...

回答 1 投票 0

哪个“ C”实现未对有符号整数实现模运算?

关于C11草案,第3.4.3节和C11草案,H.2.2节,我正在寻找实现除带符号整数的模运算以外的行为的“ C”实现。具体来说,我是...

回答 1 投票 -2

应该仅因整数溢出而失败的函数是noexcept?

完整的问题适合标题。这是一个简单的示例:constexpr intcrement(int const value)/ * noexcept?* / {返回值+ 1; }据我所知,noexcept应该解释为“ nofail” ...

回答 1 投票 0

如何解决Access Vba溢出错误? [关闭]

在我的Access / SQL数据库上,我收到一个溢出错误,我知道为什么,这是解决它的方法。该代码在整个数据库中使用,并具有多个公开声明的dim语句...

回答 1 投票 0

从DecimalFormat.format()获取大量错误结果

val numberFormatter = NumberFormat.getNumberInstance(Locale.getDefault())val conversionPattern =“#,## 0。####” val decimalFormatter = numberFormatter as DecimalFormat decimalFormatter.applyPattern(...

回答 1 投票 0

从UInt32转换为Int32时保留位

我需要映射正整数值的坐标(行,列)。我通过以下方式实现.GetHashCode:如果_HashCode是...,则公共函数GetHashCode为整数[

回答 1 投票 0

如何确定4位带纹波加法器-减法器中的溢出?

由以下变量c决定的函数(第一操作数的符号[0/1],第二操作数的符号[0/1],结果的符号[0/1]和操作符号[0/1])可以识别4位波纹-...

回答 1 投票 0

如何在汇编语言X86中检测溢出条件

我有一个作业,我们必须编写两个函数。还必须使用处理器的条件代码检测溢出条件,并返回0表示遇到错误。我...

回答 3 投票 0

C ++中的整数溢出和整数乘法

int y; y = 7000000000 * 1.0;这不会给cpp尽管int y错误; y = 7000000000;这会导致整数溢出。谁能解释这两种情况。

回答 1 投票 1

从算术运算中溢出

进行数学运算时,如何获得溢出的部分?例如,假设32位整数:unsigned int a = 0Xffffffff;无符号整数b = 0xffffffff;无符号整数c = a + b;在此...

回答 3 投票 2

distanceTo()整数溢出?

这是我确定两点之间距离的方法://此点与该点之间的欧式距离public int distanceTo(Point that){int distanceX = this.x-...

回答 3 投票 0

在发布模式下安全Rust中的有符号整数溢出是否被视为未定义行为?

Rust在调试和释放模式下以不同的方式对待有符号整数溢出。发生这种情况时,Rust会在调试模式下惊慌失措,而在释放模式下会默默执行二进制补码换行。据我...

回答 1 投票 2

是否有一个C代码片段,可以在不使用编译器内置函数的情况下有效地计算溢出安全加法?

这里是一个C函数,将int添加到另一个函数,如果发生溢出将失败:int safe_add(int * value,int delta){if(* value> = 0){if(delta> INT_MAX-* value)。 ..

回答 3 投票 7

如何左移整数的位

我需要在Ruby中将Integer的32位左移n。我正在尝试使用规范的实现:类Integer def rotl32 n return(self << n)| (自我>>(32-n))...

回答 1 投票 1

© www.soinside.com 2019 - 2024. All rights reserved.