integer-arithmetic 相关问题

任何与整数运算有关的东西，即对整数的算术运算。这主要与表示具有特定数据类型的整数的语言相关（例如，C，C ++或Java中的`int`或`long`）。

R中大整数的乘法

我尝试将111111111 * 111111111乘以与111111111 ^ 2相同，并得到不正确的结果。它应该给出12345678987654321，但是会给出一个舍入错误。我需要使用一些...

r largenumber integer-arithmetic

回答 3 投票 5

当进行非常大的计算时，模量精度完全丧失

我有以下问题：> 1e20 %% 3 [1] 0警告消息：模数精度可能完全丧失结果不正确，我敢肯定这是因为1e20确实很大。但是我...

r modulus largenumber integer-arithmetic

回答 3 投票 2

如何获取int中的数字以及如何在不创建字符串的情况下分割数字

我有一个像601511616这样的数字，如果所有数字的长度都是3的倍数，那么如何不将其分割为一个数组而不用生成一个字符串，而且，如何在不使用...的情况下在int中对数字进行计数呢？]] >>

c# integer-arithmetic

回答 3 投票 1

将12位数字转换为2个8位字节

为了我的一生，我不知道如何将一个（最大）12位数字转换为2个8位字节（其中一个值显然不能超过4位）。例如，我可以转换7（...

c binary bit-shift integer-arithmetic

回答 1 投票 0

如何避免循环重置值？

我一直在尝试为我的学校项目建立一个卫生系统，但是不管monster_health是否在循环之外，我和我的朋友似乎都无法解决...]，值都会不断重置。

loops python-3.7 integer-arithmetic

回答 2 投票 0

使用带符号的int乘法数学进行移位的汇编语言

这有点转弯。通常，一个尝试使用移位执行乘法，而不是相反。在Hitachi / Motorola 6309上，没有移位n位。有...

algorithm assembly bit-shift motorola integer-arithmetic

回答 1 投票 2

减去或向大数组添加常数

我有一个很大的uint8_t数组（大小= 1824 * 942）。我想对每个元素执行相同的操作。特别是我需要从每个元素中减去-15。每秒刷新此数组20次，...

c++ arrays math pointer-arithmetic integer-arithmetic

回答 4 投票 3

减去常数或将常数添加到大数组c ++

我有一个很大的uint8_t数组（大小= 1824 * 942）。我想对每个元素执行相同的操作。特别是我需要从每个元素中减去-15。每秒刷新此数组20次，...

c++ arrays math pointer-arithmetic integer-arithmetic

回答 2 投票 1

我如何仅使用整数数据类型来计算？

我正在尝试使用MPLABX IDE和XC8编译器为PIC12微控制器在C中编写以下代码。我之前既没有编程微控制器，也没有编程过C，所以我需要做一些新的事情...

c integer-arithmetic

回答 1 投票 0

有没有一种方法来优化这个功能吗？

对于我工作的一个应用程序，我需要两个整数并使用特定的数学公式一起添加。这最终看起来像这样：int16_t add_special（int16_t一，int16_t B）...

c++ optimization integer-arithmetic

回答 3 投票 1

printf（）内的整数运算

C编程新手。为什么下面这段代码的输出不是0 20 0而是1 20 0？ printf（“\ n％d％d％d”，x！= 1，x = 20，x <30）;我的理解是代码分配x ...

c integer-arithmetic

回答 1 投票 -1

将[UInt8]的部分转换为UInt8

我正在为我的电气工程学士项目编写一个应用程序，我正在处理一个表示十六进制字符串的字节数组。收到的字节数组如下所示：|同步| ...

swift integer-arithmetic

回答 1 投票 0

如何减去两个大数字

我试图减去2个非常大的整数/大数字，但我遇到了一个问题。我的代码适用于像123 - 94,5 - 29这样的减法，但我似乎无法绕过边缘情况。例如13 - 15 ......

c++ math integer-arithmetic

回答 1 投票 0

“原始计算器” - 创建除法循环的问题

我正在尝试创建一个使用循环而不是'*'或'/'运算符的计算器。我在下面的分区循环中计算结果时遇到问题，它带有两个正数...

c++ algorithm integer-arithmetic

回答 1 投票 -1

哪种算法是多精度乘法的最有效算法？

我正在使用本机C ++ / CLI类，它使用多个精度值执行整数运算。各个整数由64位无符号整数数组表示。标志是......

algorithm optimization c++-cli integer-arithmetic

回答 1 投票 0

计算具有不同表达式的相同整数时的结果不一致

相同表达式的算术结果会导致不同的结果，这取决于我是在一行中定义一个整数还是使用了几个步骤：int main（）{unsigned long long very BigInt OnLine ...

c++ integer-arithmetic unsigned-long-long-int

回答 2 投票 0

最小值不为零

在Applescript中，我需要找到最接近零但不是零的整数值。数字都是零或大于零。目前，我有三个整数。我想我可以写一个循环，但是有...

applescript integer-arithmetic

回答 1 投票 0

如何在整数运算中执行上限除法？ [重复]

它基本上返回了box_needed。 1个盒子可以包含10个项目。因此，如果用户键入的项目为102，则代码应返回11个框。如果...有没有办法将那些轮数向上划分

python rounding integer-arithmetic

回答 4 投票 6

SQL Server：SUM导致算术溢出而实际上没有超出INT限制

我有以下SQL查询：SELECT SomeId，COUNT（*）AS Entries，SUM（Field1）AS MySum FROM MyTable WHERE SomeId IN（...... ~400 items ......）GROUP BY SomeId它抛出这个错误：消息8115，...

sql sql-server integer-arithmetic

回答 2 投票 0

在Verilog中简单减法

我一直在研究六角计算器，但似乎卡在减法部分，特别是当B> A时。我试图简单地减去两个正整数并显示结果。 ...

hex verilog difference subtraction integer-arithmetic

回答 1 投票 0

最新问题

© www.soinside.com 2019 - 2024. All rights reserved.