floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

C++ 中的 DBL_MAX 是什么？

我在看网上找到的一个程序，发现作者在一些情况下使用了DBL_MAX。我不确定它是什么，所以我做了一些研究，但没有太多解释它是什么......

c++ floating-point max

回答 3 投票 0

JAVA17 vs JAVA8 双重表示

在2个不同的JVM（JDK8和JDK17）之间进行平均时，相同值存在差异的原因是什么？那是因为浮点数吗？或者 2 之间发生变化的其他内容

java floating-point jvm precision

回答 1 投票 0

计算 32 位浮点表示和相关损失的快速方法

我正在处理来自高精度系统的给定范围（即经度和纬度）的实数，这会给我很多小数（通常为 15 位，当然加上最多 t...

floating-point precision

回答 1 投票 0

单精度浮点数的精度（IEEE 754 标准）

在根据 IEEE 754 标准的数字的单精度浮点表示中，我们使用 24 位作为尾数部分（23 位 + 1 个隐含位）。所以精度可以计算为2^...

floating-point binary precision ieee-754

回答 1 投票 0

为什么对 0d Numpy 数组进行操作会给出 Numpy 浮点数？

假设我有一个 0d Numpy 数组： x = numpy.asarray(1.) 它的类型为 numpy.ndarray。但现在对 x 进行操作： y = 1.*x 现在它的类型是 numpy.float64。使用所有 Numpy 时也是如此

python numpy floating-point numpy-ndarray

回答 1 投票 0

如何使 SIMD 除以零得到零？ (x86-64)

我有一些想要除法的浮点数，其中一些可能是零。我怎样才能做到在 x86-64 上除以零时，只返回零而不是 NaN ？我尝试将 FZ 设置为...

floating-point x86-64 simd sse divide-by-zero

回答 1 投票 0

如何根据余数、百分比或浮点值进行循环？

我的作业要求我获取不同整数形式的数据集，并通过一种方法运行它们，该方法将打印适当数量的字符以创建水平条形图。 ...

java loops floating-point fractions

回答 2 投票 0

在 Java 中，如何根据余数、百分比或浮点值循环某些内容/运行迭代？

我的作业要求我获取不同整数形式的数据集，并通过一种方法运行它们，该方法将打印适当数量的字符以创建水平条形图。 ...

java loops floating-point computer-science fractions

回答 1 投票 0

如何在bash中将浮点数四舍五入到小数点后3位

我是一个新的 bash 学习者。我想打印作为输入给出的表达式的结果，小数点后有 3 位数字，并根据需要进行四舍五入。我可以使用下面的代码，但它不四舍五入......

bash floating-point floating-point-precision floating-point-conversion

回答 4 投票 0

在大小相同的情况下，浮点型和整型数据类型有什么区别？

当大小相同时，浮点型和整型数据类型有什么区别？

java floating-point integer

回答 3 投票 0

ARM Assebmly 算法中的 IEEE.754 给出了意想不到的结果

我正在尝试实现一个简单的算法，以使用 IEEE.754 浮点表示法来添加浮点数。我已经在算法上取得了很大的进展，但它没有给我预期的

assembly floating-point arm gdb

回答 1 投票 0

为什么从 float 到 int 的转换会返回 float 的整数部分（在 C 中）？

众所周知，将 float 转换为 int 后，int 变量获取 float 变量的整数部分，丢弃小数部分。以32位浮点数为例，其值为-248.75...

c casting floating-point binary

回答 2 投票 0

舍入和浮点精度

我们正在将数据写入sql数据库（具体来说是sqlite3）。对于特定列数量，它被指定为 REAL（浮点）列，因为我们将数量存储为 1000 的倍数（因此

python sql sqlite floating-point rounding

回答 1 投票 0

“round”值是否保证平等？

假设我有一些浮点值x。假设我们执行 x = round(x, 3)，即我们在小数点后第三位之后截断。然后我们检查如下内容： x == 0.222 这是否保证有...

python floating-point

回答 1 投票 0

将 (0, 1] 更改为 (0, 1)，不分支

我有一个随机数生成器，它输出 (0, 1] 中的值，但我需要将输出提供给一个在 0 或 1 处返回无穷大的函数。如何对生成的数字进行后处理以使其位于 ( ...

performance haskell random floating-point branchless

回答 1 投票 0

有没有更有效的方法来包裹浮动？

我一直在寻找有关如何在两个数字之间包装浮点数的示例，类似于使用模数处理整数的方法。我发现的例子要么涉及使用 fmod 来查找 rema...

c++ performance math while-loop floating-point

回答 2 投票 0

浮点正零什么时候不是全位零？

在 C 语言中，空初始化将浮点变量初始化为正零。它说（在空指针值和浮动零具有全位零表示的平台上，...

c floating-point

回答 1 投票 0

如何在同一个语句中写出2位小数的值？

我很难给出两位小数的值我想给出只有 2 位小数的浮点值，但我不能在同一行中执行此操作： birth_rate = float(input("出生率是多少...

python floating-point

回答 1 投票 0

在 C 中将二进制分数分配给浮点变量

我正在尝试做如下的事情 #包括 int main() { 浮动a = 0b00000100; 浮点b = 0b0.0110； // 该行不起作用 printf("拳头花的价值...

c floating-point binary fractions

回答 1 投票 0

在给定浮点索引位置的情况下从字典中插入数据

我有一个 json 文件，其中包含给定温度下的扭矩数据数据元组。假设我从 46 度部分提取数据： j = {“46”：[[88.0, 95.3], [86.1, 93.4], [84.2, 91.3],...

python json dictionary floating-point interpolation

回答 1 投票 0

floating-point 相关问题

最新问题