integer-overflow 相关问题

当操作的结果大于可由基础整数类型表示的最大值时,会发生整数溢出。

RiscV 检查乘法期间是否发生溢出

使用这个算法来计算有符号整数的乘法(我们不能使用 mul、mulh 等,所以我用移位和加法实现了 mul),你如何检查结果是否溢出。亲...

回答 1 投票 0

什么决定变量的数据类型 - 声明性关键字 (short int) 还是格式说明符 (%hd)?

我一直在尝试理解C 编程中的整数溢出。我很困惑最终值输出是否取决于声明期间赋予变量的初始数据类型...

回答 1 投票 0

安全地进行扩大整数转换

我需要进行一些安全的扩展整数转换 - 例如,uint32 到 uint 以及 uint 到 uint64。我知道可以通过显式类型转换来实现这一点: x := uint32(1) // 支持...

回答 1 投票 0

计算具有非常大的组的 Cliffs delta 会导致整数溢出

在 R 中,我需要计算 Cliffs delta。公式如下: 其中 xi 是 A 组中的观测值,xj 是 B 组中的观测值,如果 xi > xj 为真,则 [xi > xj] 为 1。 这是克里夫的(

回答 1 投票 0

自定义 2D 卷积不锐化图像

我自己写了2D卷积函数如下 def TwoD_卷积(img,内核): # 将内核翻转 180 度 内核 = 内核[::-1] 对于范围内的 i(len(kernel)): ...

回答 1 投票 0

在c中识别和处理整数溢出的最佳方法?

我对C很陌生,到目前为止我还不明白如何防止整数溢出,我读了很多文章,但我仍然不是100%确定! 在这种情况下 int ft_sqrt(int nb) { 长整型开方; ...

回答 1 投票 0

有符号整数比较,无需比较运算符或加宽

我正在寻找一个有符号整数比较函数 cmp(x: Int, y: Int) -> Int ,它不使用任何比较运算符(<, <=, >、>=、<=>等),不使用扩大到 a

回答 1 投票 0

为什么斐波那契数列的计算中偶尔会出现负值? [重复]

我用C++编写了一个计算斐波那契数列的程序。下面是代码: #包括 使用命名空间 std; int main() { int n,t1 = 0,t2 = 1,nextTerm = 0; 合作...

回答 2 投票 0

为什么 pandas sum() 对稀疏数据框给出错误的答案?

在稀疏数据框中,应用于整个数据框的 sum() 方法会给出错误的结果,而应用于特定列或数据框子集的 sum() 方法有效。 看起来像是溢出问题...

回答 1 投票 0

SQL 3.3 xmalloc 溢出示例 - 为什么?

下面的例子在网上很多地方都可以找到: 以下摘自 OpenSSH 3.3 的代码演示了整数溢出的经典案例: (错误代码) 示例语言:C NRES...

回答 1 投票 0

在 Python 和 Rust 之间传递整数的安全性

这安全吗? 假设我想从 Python 中调用一些 Rust 代码。假设我的 lib.rs 看起来像这样: #[no_mangle] pub extern fn add(左: i32, 右: i32) -> i32 { 返回我...

回答 1 投票 0

在 c++ 中 std::chrono::seconds 和 std::chrono::nanoseconds 之间的转换不会丢失信息

按照这个线程纳秒运行进入溢出,我的目的是自由地从纳秒和秒转换,但不会丢失任何信息(考虑到纳秒是 64 位的事实

回答 1 投票 0

下标运算符不会发生无符号下溢,为什么?

我一直认为下一个例子是未定义的行为(访问数组越界): int main() { int* a= 新 int[3]; a[0] = 100; 一个++; 无符号长索引 = 0;

回答 2 投票 0

无符号短整型的环绕功能

每当我运行代码时: 签名短 ssh{-3}; 无符号短 ussh{1}; std::cout << ussh + ssh << '\n'; // should be (65535-2+1) = 65534 I get the output as -2 instead of 65534 while...

回答 1 投票 0

使 PicoBlaze 组件中的摄氏度到华氏度转换器能够支持更广泛的可能输入

我制作了一个简短的 PicoBlaze 汇编程序,使用公式

回答 1 投票 0

为什么 -LLONG_MIN 会导致未定义的行为?

为什么 -LLONG_MIN 会导致未定义的行为? C11,6.5.3.3p3: 一元 - 运算符的结果是其(提升的)操作数的负数。整数 促销活动在OP上进行...

回答 2 投票 0

在Python中进行整数除法后得到-1

得到以下变量: 第一个操作数 = 6 第二个操作数 = -132 结果 = 第一个操作数 // 第二个操作数 经过上述除法后结果是(-1),应该是0。 可能是什么...

回答 1 投票 0

当 v 可能为空时如何循环 0 .. v.len() - 1?

当向量 v 可能为空时,循环 0 .. v.len() - 1 的正确方法是什么? 考虑以下代码,它打印向量 [5, 6, 7] 中 2 个元素的所有选择: fn 主() { 让v...

回答 2 投票 0

Rust - 正确处理 0 .. v.len() - 1

当向量 v 可能为空时,处理 0 .. v.len() - 1 的正确方法是什么? 考虑以下代码,它打印向量 [5, 6, 7] 中 2 个元素的所有选择: fn 主() { 让 v:Vec...

回答 2 投票 0

std::numeric_limits的绝对值<long long>::min()

简介: 我们假设以下代码 #包括 #包括 int main(int, 字符**) { 长长 v = std::numeric_limits::min(); 未签名...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.