integer-overflow 相关问题

当操作的结果大于可由基础整数类型表示的最大值时，会发生整数溢出。

“-ftrapv”和“-fwrapv”：效率更高哪个？

来自GNU的网站：-ftrapv此选项为加法，减法，乘法运算的带符号溢出生成陷阱。 -fwrapv此选项指示编译器假定已签名...

c++ gcc g++ gnu integer-overflow

回答 3 投票 5

如何在Javascript中单元测试不安全的整数？

这是打字稿。我有一个函数（实际上是Angular管道），它根据输入将天数转换为字符串，如“1天”或“2天”。 transform（day：number）：string {const result = / * ...

javascript integer rounding integer-overflow

回答 1 投票 0

如何检测无符号整数乘法溢出？

我用C ++编写程序来查找ab = c的所有解，其中a，b和c一起使用所有数字0-9。该程序循环使用a和b的值，并进行了数字计算......

c++ c integer-overflow

回答 31 投票 567

为什么我的输出为负？我乘以2个正数？

以下程序的预期输出是第一个完美的平方数，其最后两位数都是奇数（不存在）。所以不要返回空白屏幕（因为这样的数字...

c++ integer integer-overflow

回答 2 投票 2

为什么C＃发出错误“不能隐式地将int转换为ushort”而不是ushorts上的模运算？

在另一个帖子中，有人询问为什么在C＃中添加两个ushort值会引发错误。例如ushort x = 4; ushort y = 23; ushort z = x + y; // ERROR无法将int隐式转换为ushort

c# integer-overflow

回答 2 投票 5

在Python中将float转换为bigint时防止溢出的好方法是什么？

当修剪由于分割导致的大小数时，我遇到溢出问题。例如：>>>来自数学进口楼>>> int（100000000000000123.1）100000000000000128 >>＆...

python type-conversion integer-overflow

回答 1 投票 0

在C中包含有符号和无符号变量的解释？

我在C规范中读到一点，无符号变量（特别是unsigned short int）执行一些所谓的整数溢出回绕，虽然我找不到任何有关签名变量的东西，除了...

c integer-overflow

回答 4 投票 14

设置超出范围值时引发错误

例如，当设置uint8矩阵元素等于-1时，如何允许检查numpy中的超出范围值？当前行为只是静默接受它，将元素设置为255. ...

python numpy types integer-overflow numpy-broadcasting

回答 1 投票 0

三角形：确定数组是否包含三角形三元组（Codility）

这是来自Codility的三角形问题：给出了由N个整数组成的零索引数组A.如果0≤P<Q <R <N，则三重态（P，Q，R）为三角形，并且：A [P] + A [Q]> A [...

c++ algorithm math integer-overflow

回答 11 投票 2

处理不同CPU上的整数

我的任务是设计一个满足这些要求的函数：函数应该对给定的一维数组的成员求和。但是，它应该只汇总二进制数量为1的成员...

c++ integer-overflow

回答 1 投票 0

在循环中的什么时候整数溢出变成未定义的行为？

这是一个例子来说明我的问题，其中涉及一些我不能在这里发布的更复杂的代码。＃包括 int main（）{int a = 0; for（int i = 0; i <3; ...

c++ c undefined-behavior integer-overflow

回答 12 投票 85

C编译器是否假设添加有符号整数是可交换的？

我正在尝试检查签名添加是否会溢出。通常，要检查int a + int b是否会溢出（a和b都是正数），我检查是否（a> INT_MAX - b）但是现在我想检查是否......

c integer-overflow

回答 3 投票 0

Python3中的整数溢出

我是Python的新手，我正在阅读这个页面，在那里我看到了一个奇怪的声明：如果n + 1 == n：＃捕获一个像1e300的值，引发OverflowError（“n太大”）x等于大于它的数字？！一世 ...

python integer integer-overflow

回答 2 投票 3

优化正在扼杀我在clang 6中的整数溢出检查

我有一些针对某些财务应用程序的定点实现。它基本上是一个包含在类中的整数，它基于给定Ntreated为十进制数的小数位数。班级 ...

c++ c++11 optimization integer-overflow fixed-point

回答 2 投票 4

如何解决整数溢出？

我创建了一个1000行和1000列的矩阵（matA），我想计算这个矩阵的幂。它非常适合计算矩阵的三次幂。但是当我要求......

r matrix integer-overflow

回答 1 投票 0

定时器环绕问题

以下代码是否正确添加事件：pushEvent（std :: chrono :: steady_clock :: now（）+ dt，event_obj）;在事件循环中：// ... auto now = std :: chrono :: steady_clock :: now（）;如果（event.expireTime <= ...

c++11 integer-overflow chrono

回答 1 投票 0

在执行时上溢/下溢是否为未定义的行为？

我正在阅读有关未定义行为的内容，我不确定它是否只是一个编译时功能，或者它是否可以在执行时发生。我很好理解这个例子（这是从......中提取的）

c++ c undefined-behavior integer-overflow

回答 1 投票 5

实施安全左移

我想实现一个shift-left函数，它会在溢出时触发失败。这是我的代码：uint32_t safe_shl（uint32_t x，uint8_t y）{uint32_t z = x << y;断言（（z＆...

c++ c bit-shift integer-overflow

回答 5 投票 1

由于溢出错误，无法在整个工作簿中运行Excel宏循环

我有7张超过70,000个条目;我在每个工作表的单独列中按每个唯一属性求和。虽然宏可以在单张纸上正常工作，但我很难循环使用...

excel vba excel-vba loops integer-overflow

回答 1 投票 0

T-SQL：如何禁用整数运算的溢出检查？

在C＃中，我们取消选中以对整数操作int int1禁用溢出检查;未选中{int1 = 2147483647 + 10;整数运算结果将换行到-2,147,483,639但是在T-SQL中我...

tsql int overflow integer-overflow integer-arithmetic

回答 3 投票 0

最新问题

© www.soinside.com 2019 - 2024. All rights reserved.