integer-overflow 相关问题

当操作的结果大于可由基础整数类型表示的最大值时，会发生整数溢出。

为什么 -LLONG_MIN 会导致未定义的行为？

为什么 -LLONG_MIN 会导致未定义的行为？ C11，6.5.3.3p3：一元 - 运算符的结果是其（提升的）操作数的负数。整数促销活动在OP上进行...

c language-lawyer undefined-behavior integer-overflow negation

回答 2 投票 0

在Python中进行整数除法后得到-1

得到以下变量：第一个操作数 = 6 第二个操作数 = -132 结果 = 第一个操作数 // 第二个操作数经过上述除法后结果是（-1），应该是0。可能是什么...

python integer-overflow

回答 1 投票 0

当 v 可能为空时如何循环 0 .. v.len() - 1？

当向量 v 可能为空时，循环 0 .. v.len() - 1 的正确方法是什么？考虑以下代码，它打印向量 [5, 6, 7] 中 2 个元素的所有选择： fn 主() { 让v...

rust integer-overflow unsigned-integer

回答 2 投票 0

Rust - 正确处理 0 .. v.len() - 1

当向量 v 可能为空时，处理 0 .. v.len() - 1 的正确方法是什么？考虑以下代码，它打印向量 [5, 6, 7] 中 2 个元素的所有选择： fn 主() { 让 v：Vec...

rust integer-overflow unsigned-integer

回答 2 投票 0

std::numeric_limits的绝对值<long long>::min()

简介：我们假设以下代码 #包括 #包括 int main(int, 字符**) { 长长 v = std::numeric_limits::min(); 未签名...

c++ long-integer integer-overflow

回答 1 投票 0

如何修复此 Excel VBA 溢出错误？

你好。您知道如何编辑代码以运行此处显示的相同方程而不会出现错误吗？看来我正在尝试运行或导致值太大，因为我得到了溢出 e...

excel vba runtime-error overflow integer-overflow

回答 1 投票 0

使用 scipy 分布运行 RandomizedSearchCV 时出现“溢出错误：Python int 太大，无法转换为 C long”

我想运行以下随机搜索： from scipy.stats import 倒数，统一 tree_reg = DecisionTreeRegressor() 参数网格 = { "最大深度": np.arange(1, 12, 1), ”

python scipy integer-overflow grid-search

回答 2 投票 0

如何使用 PyQt 信号发出 64 位无符号整数

我过去在使用 PyQt5.QtCore.pyqtSignal(int) 时遇到了整数溢出问题，因为在 C++ 调用中，python int 似乎变成了 C int （32 位有符号整数）。这限制了

python pyqt pyqt5 integer-overflow

回答 1 投票 0

在 rust 中将字符串转换为 ascii 代码时出现意外的“10”

我正在尝试将字符串转换为 Rust 中的 Ascii 代码，以将字符串转换为 BrainFuck 代码：（变量“input”是字符串“hello”，此片段从第 12 行开始）为...

rust integer-overflow brainfuck

回答 1 投票 0

Numpy 在标量除法中遇到无效值以及 exp 中溢出

这是我正在尝试计算的： def prob(a1, a2, a3, phi): de = np.exp(phi * (a1 - a2)) + 1 + np.exp(phi*(a3-a2)) p1 = np.exp(phi * (a1 - a2)) / de p2 = 1 / de p3 = np.exp(la...

python numpy apple-m1 integer-overflow

回答 1 投票 0

检查 SHL x86 汇编指令是否溢出

有什么简单的方法可以在SHL EAX、CL指令之后检查理论结果（EAX乘以（2次方CL））是否适合EAX？问题是关于无符号整数。我希望有什么......

assembly x86 integer-overflow

回答 1 投票 0

当 x 是有符号整数并且 x=1 时，找到一个值 y，这样 (x < y) == (-x > -y) 将为 false？

问题问，令 int x = 1，找到 int y 的值，其中以下语句将返回 false： (x < y) == (-x > -y) 我知道答案应该是 4 个字节长（8 个十六进制数字），但我...

c undefined-behavior integer-overflow

回答 4 投票 0

JsonCpp 不能防止 uint64 溢出并且有奇怪的行为

我正在使用 JsonCpp，并注意到在到达 uint64 范围末尾时出现奇怪的行为。范围内的数字工作正常。高于范围但在 [2**64,2**64+2**10] 之间的数字返回...

c++ integer-overflow jsoncpp

回答 1 投票 0

为什么 long long int 在使用大整数初始化时会具有错误的值？

我试图将“10000000000000000000”（19个零）存储在long long int数据类型中。 #如果__WORDSIZE == 64 typedef long long int intmaximum_t; ＃别的 __扩展...

c long-integer literals integer-overflow

回答 2 投票 0

从时钟“freq”确定“ticks”同时避免微控制器上的 C 溢出的正确方法是什么？

C 中整数相乘和相除以避免溢出的正确方法是什么？我想确定以频率（以赫兹为单位）运行的计时器需要多少个滴答声才能产生延迟（以毫秒为单位）。这应该是...

c floating-point embedded real-time integer-overflow

回答 1 投票 0

在 C 中传递参数时出现整数溢出

我认为我遇到了整数溢出问题，但我不知道如何解决它。我刚刚从 Python 和 JS 开始接触 C，这对我来说是全新的。我在下面举了一个非常简单的例子来说明什么是

c integer-overflow

回答 1 投票 0

使用 mkl 构建 Arpack-ng 时出现整数错误

我正在尝试编写一个将使用 Arpack-ng 和 MKL 例程的程序。我通过运行一个简单的代码来测试行为，该代码使用对函数 dsaupd 的单个调用，这应该

integer-overflow intel-mkl arpack

回答 1 投票 0

保存有符号整数结果的变量是否会溢出（后递增的副作用），并且此后从未在任何表达式中使用过它，会导致 UB 吗？

考虑这个程序 #包括 int 主（无效）{ 整数 i = 0; // 假设用户是一个公平的人，严格遵守指示.. printf("请输入一个数字...

c integer-overflow post-increment

回答 1 投票 0

Mac 与 Linux 上不同的 numpy 溢出行为

我在 Mac 和 Linux 上使用相同版本的 numpy 时遇到了不同的溢出行为。微量元素：将 numpy 导入为 np arr = np.arange(0, 2 * 4e9, 1e9, dtype=float) 打印（arr.astype（np.uint32））打印...

python numpy integer-overflow

回答 1 投票 0

为什么 gcc 忽略“无符号”数据类型语句？

用于测试我的函数的数字之一需要存储 64 位，并且由于我使用 C 进行编码，所以我需要一个 unsigned long long 来存储这样的数字。当我尝试用该数据定义变量时......

c integer-overflow unsigned-long-long-int

回答 1 投票 0

integer-overflow 相关问题

最新问题