integer-overflow 相关问题

当操作的结果大于可由基础整数类型表示的最大值时，会发生整数溢出。

我通过一个非常简单的循环来制作 Excel 图表中 2d 点移动的动画：趁真实做事 .ChartObjects(1).Chart.SeriesCollection(1).XValues = x .ChartObjects(1).Chart.SeriesCollection(1).Values = y

excel vba charts integer-overflow

回答 1 投票 0

在列表中向后循环时，对“尝试通过溢出进行减法”感到恐慌

我正在为列表编写一个循环方法，该方法向前或向后移动索引。下面的代码用于向后循环： (i-1)%列表长度在这种情况下，i 是 usize 类型，mea...

rust integer-overflow integer-arithmetic

回答 3 投票 0

C 中的有符号/无符号 char 整数溢出

我正在研究整数溢出，并提出了这个问题。（https://i.stack.imgur.com/cto3u.png）上述程序中的最后一个值是什么？为什么？我知道 'a' 将是 0...

c integer-overflow unsigned-integer unsigned-char signed-integer

回答 1 投票 0

如何避免在超过 20.000 个元素的 for 循环中出现“运行时警告：在 log10 中遇到除零”？

我有一个称为数据的数据列表。该列表包含 21073 个嵌套 numpy 数组。每个 numpy 数组依次包含 512 位长浮点值。从范式上看，一个嵌套的 numpy 数组看起来像......

python arrays numpy integer-overflow int64

回答 1 投票 0

某些数学表达式的简化形式是否有可能引发溢出错误，而复杂的数学表达式则不会？

我正在尝试leetcode的#69问题，其中涉及求给定数字的平方根。我通过二分搜索方法继续进行。 int mySqrt(int x) { 如果（x==0 || x==1）{ 返回...

c++ binary-search integer-overflow square-root

回答 1 投票 0

RiscV 检查乘法期间是否发生溢出

使用这个算法来计算有符号整数的乘法（我们不能使用 mul、mulh 等，所以我用移位和加法实现了 mul），你如何检查结果是否溢出。亲...

multiplication riscv integer-overflow

回答 1 投票 0

什么决定变量的数据类型 - 声明性关键字 (short int) 还是格式说明符 (%hd)？

我一直在尝试理解C 编程中的整数溢出。我很困惑最终值输出是否取决于声明期间赋予变量的初始数据类型...

c integer integer-overflow

回答 1 投票 0

安全地进行扩大整数转换

我需要进行一些安全的扩展整数转换 - 例如，uint32 到 uint 以及 uint 到 uint64。我知道可以通过显式类型转换来实现这一点： x := uint32(1) // 支持...

go type-conversion integer-overflow

回答 1 投票 0

计算具有非常大的组的 Cliffs delta 会导致整数溢出

在 R 中，我需要计算 Cliffs delta。公式如下：其中 xi 是 A 组中的观测值，xj 是 B 组中的观测值，如果 xi > xj 为真，则 [xi > xj] 为 1。这是克里夫的（

r integer-overflow

回答 1 投票 0

自定义 2D 卷积不锐化图像

我自己写了2D卷积函数如下 def TwoD_卷积（img，内核）： # 将内核翻转 180 度内核 = 内核[::-1] 对于范围内的 i(len(kernel))： ...

python numpy opencv image-processing integer-overflow

回答 1 投票 0

在c中识别和处理整数溢出的最佳方法？

我对C很陌生，到目前为止我还不明白如何防止整数溢出，我读了很多文章，但我仍然不是100%确定！在这种情况下 int ft_sqrt(int nb) { 长整型开方； ...

c function integer long-integer integer-overflow

回答 1 投票 0

有符号整数比较，无需比较运算符或加宽

我正在寻找一个有符号整数比较函数 cmp(x: Int, y: Int) -> Int ，它不使用任何比较运算符（<, <=, >、>=、<=>等），不使用扩大到 a

comparison bit-manipulation integer-overflow

回答 1 投票 0

为什么斐波那契数列的计算中偶尔会出现负值？ [重复]

我用C++编写了一个计算斐波那契数列的程序。下面是代码： #包括使用命名空间 std； int main() { int n，t1 = 0，t2 = 1，nextTerm = 0；合作...

c++ fibonacci integer-overflow

回答 2 投票 0

为什么 pandas sum() 对稀疏数据框给出错误的答案？

在稀疏数据框中，应用于整个数据框的 sum() 方法会给出错误的结果，而应用于特定列或数据框子集的 sum() 方法有效。看起来像是溢出问题...

python pandas sum sparse-matrix integer-overflow

回答 1 投票 0

SQL 3.3 xmalloc 溢出示例 - 为什么？

下面的例子在网上很多地方都可以找到：以下摘自 OpenSSH 3.3 的代码演示了整数溢出的经典案例：（错误代码）示例语言：C NRES...

c integer-overflow

回答 1 投票 0

在 Python 和 Rust 之间传递整数的安全性

这安全吗？假设我想从 Python 中调用一些 Rust 代码。假设我的 lib.rs 看起来像这样： #[no_mangle] pub extern fn add(左: i32, 右: i32) -> i32 { 返回我...

python rust ctypes integer-overflow

回答 1 投票 0

在 c++ 中 std::chrono::seconds 和 std::chrono::nanoseconds 之间的转换不会丢失信息

按照这个线程纳秒运行进入溢出，我的目的是自由地从纳秒和秒转换，但不会丢失任何信息（考虑到纳秒是 64 位的事实

c++ integer-overflow c++-chrono

回答 1 投票 0

下标运算符不会发生无符号下溢，为什么？

我一直认为下一个例子是未定义的行为（访问数组越界）： int main() { int* a= 新 int[3]; a[0] = 100；一个++；无符号长索引 = 0；

c++ integer-overflow

回答 2 投票 0

无符号短整型的环绕功能

每当我运行代码时：签名短 ssh{-3}；无符号短 ussh{1}； std::cout << ussh + ssh << '\n'; // should be (65535-2+1) = 65534 I get the output as -2 instead of 65534 while...

c++ integer-overflow

回答 1 投票 0

使 PicoBlaze 组件中的摄氏度到华氏度转换器能够支持更广泛的可能输入

我制作了一个简短的 PicoBlaze 汇编程序，使用公式

assembly integer-overflow picoblaze

回答 1 投票 0

integer-overflow 相关问题

最新问题