ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准，特别是单精度binary32 aka浮点和双精度binary64又称双格式。

cpp：如何在-Ofast

在存在任意编译器优化标志的情况下，如何计算给定类型名的机器舍入单元的正确值？如果不可能，让我们限制可能的编译器集合

c++ rounding ieee-754 compiler-flags

回答 1 投票 0

浮点运算中x(1/x) = 1 是什么时候？

我知道在浮点运算中，由于舍入误差，x(1/x) 可能不完全为 1。发生这种情况的最小正整数应该是 x=49。我认为 x(1/x) 恰好是...

floating-point ieee-754

回答 1 投票 0

在没有显式转换为 float 的情况下使用 uint16_t 进行操作时出现意外结果

我正在做一些操作，但没有找到确切的解释来解释为什么我发现了特定的行为。语境：我收到一个值 (24.2)，然后计算一些偏移和增益然后将结果通过 CAN 发送。

c gcc floating-point ieee-754

回答 2 投票 0

0.1 + 0.2 - 0.3 在 IEEE 754 中给出非零，但在传统浮点中给出零，这是真的吗？

如果我使用 Ruby，并显示 0.1 + 0.2 - 0.3： 3.1.2 :001 > 0.1 + 0.2 - 0.3 => 5.551115123125783e-17 数字可以这样显示： 3.1.2 :001 > "%0122.120f" % [0.1 + 0.2 - ...

floating-point ieee-754

回答 2 投票 0

IEEE-754 float64 中最准确的 pi 近似值？

IEEE-754 float64 中最准确的 pi 近似值是多少？ fwiw似乎Javascript和PHP都使用3.141592653589793115997963468544185161590576171875 ，这可能就是答案，...

ieee-754 pi

回答 3 投票 0

如何在 Python 中测试负零？

我想测试一个数字是正数还是负数，特别是在零的情况下。 IEEE-754 允许 -0.0，并且它是用 Python 实现的。我能找到的唯一解决方法是：定义

python ieee-754

回答 3 投票 0

为什么NAN比较返回true？

如 Java 语言规范中所述“数值比较运算符 <, <=, > 和 >= 如果其中一个或两个操作数均为 NaN，则返回 false” 所以我正在比较两个 NAN。为什么会这样...

java floating-point ieee-754

回答 2 投票 0

精确复制浮点值的重复加法

在 IEEE 754 算术中是否有一种亚 O(n) 的方式来复制浮点值的重复求和？也就是说，是否有一种更快的方法来精确复制以下伪代码的结果...

floating-point precision ieee-754

回答 1 投票 0

Java的Math.round的舍入规则是否符合IEEE 754标准？

我从wiki上阅读了IEEE754舍入规则：https://en.wikipedia.org/wiki/IEEE_754#Rounding_rules 有一个例子：在“到最近，远离零”模式下，−12.5 应该是 -13.0 但是java...

java math rounding ieee-754

回答 1 投票 0

IEEE754 32位单精度在游戏中的实现

现在流行的一款游戏CSGO里，有物品。每个项目都分配有一个浮点值。每个项目都有一个最小浮点数和最大浮点数，例如 0-1 或 0.06-0.80。这些每个都漂浮...

javascript combinations ieee-754 ieee

回答 1 投票 0

IEEE754 单精度浮点数的字节表示不一致

使用 Common Lisp 读取包含单精度浮点数二进制编码的数据文件（可能是用 C/C++ 编写的）时，会出现此问题。在 Lisp 中，我使用了 ieee-f 中的decode-float32...

c floating-point common-lisp ieee-754

回答 1 投票 0

C++ 基本浮点解析代码与 std::atof 的结果略有不同

#包括 #包括 #包括 #包括 #包括 #包括 #包括使用命名空间 std； #...

c++ parsing optimization floating-point ieee-754

回答 2 投票 0

从 C# 中的双精度数中提取“真实”科学指数

在 C# 中，IEEE-754 数字（在本例中为 System.Double）可以用 Base 10 科学计数法声明；例如：1.234e+9 (1234000000)，但是这些值的 Base 2 浮点表示...

c# floating-point ieee-754

回答 1 投票 0

如何分别调整正弦波的左声道或右声道的音量？

我正在尝试调整正弦波中每个单独通道的音量以实现立体声输出。我只是使用 WASAPI 以 32 位 IEEE-float 立体声格式输出它。我有一个正弦波...

c++ audio ieee-754 wasapi sine-wave

回答 0 投票 0

了解 C# 和 Java 中的 IEEE-754 64 位定点表示

考虑以下 Java 代码：公开课节目{ public static void main(String args[]) { 双数 = Double.MAX_VALUE; String formattedNumber = String.format("%f&q...

java c# double ieee-754

回答 1 投票 0

浮点数和双打的最长可能的 %a 字符串？

在 printf 函数族中使用 %a 说明符时，浮点数和双精度数的最长可能字符串是多少？假设 float 和 double 是 IEEE-754 32 位和 ...

c floating-point printf ieee-754

回答 2 投票 0

四舍五入和相等是什么关系？

我知道，为了检查两个双数之间的相等性，您必须使用数字之间的绝对差，并将该差与小于 1 且大于 1 的数字进行比较

c# ieee-754

回答 2 投票 0

c++如何自动决定一个变量在这个程序中被存储为次正规？

我正在学习 C++，我真的很想了解数字在内存中的存储和操作方式。为了帮助测试我的理解，我编写了以下程序： #包括 #

c++ clang++ ieee-754

回答 1 投票 0

现在是否有 64 位处理器可以例行公事地处理 denorms，没有异常或中断？

标题说明了一切。如果有处理器的 FPU 不处理异常并导致异常，我很想知道谁是害群之马，谁是白羊。我的应用程序兴趣...

floating-point precision ieee-754

回答 0 投票 0

计算除 1 以外的 IEEE 754 浮点数的机器 epsilon 有什么魔力吗？

换句话说，我想要一个功能如下。输入：一个由 IEEE 754 表示的正数输出：满足 a + e == a 的最大数 e 符合 IEEE 754 算法（e 也是

c++ floating-point ieee-754

回答 2 投票 0

ieee-754 相关问题

最新问题