ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准，特别是单精度binary32 aka浮点和双精度binary64又称双格式。

计算机是先对运算中的数字进行四舍五入还是对结果进行四舍五入？

例如，在9.4-9.0-0.4版中：计算机是先将每个数字四舍五入并存储，还是借助一些额外的位进行计算（此示例具有双精度...

math floating-point ieee-754

回答 2 投票 0

快速精确的最近步浮点上限/无小数位数的地板

下面的函数应该将给定的数字限制到最接近的步骤：def ceil_step（x，step）：return math.ceil（x / step）* step效果很好...直到不能为止：print（ceil_step （...

python numpy floating-point ieee-754 numba

回答 1 投票 0

NaN的总和：如何计算基础位模式？

问题：JVM如何计算两个双精度NaN之和？详细信息：IEEE 754规范为NaN保留两个位模式范围：0x7ff0000000000001-> 0x7fffffffffffffff ...

java math floating-point nan ieee-754

回答 1 投票 0

使用`exp`进行受控舍入是否存在错误？

我在某些平台上观察到不正确的（IMO）舍入行为，如下所示：在舍入模式下，将log（2）的值计算为FE_DOWNWARD和FE_UPWARD（请参见 ]。在所有情况下，我都...

c floating-point rounding ieee-754

回答 1 投票 3

解压IEEE 754浮点数

我正在使用pymodbus模块从tcp客户端读取两个16位寄存器。这两个寄存器组成一个32位IEEE 754编码的浮点数。目前，我有32位二进制值...

python python-3.x struct ieee-754 pymodbus

回答 1 投票 0

获取数字（int，float或double的binary32表示形式的Python方法）

与Python int到二进制字符串有关吗？例如，将42.0转换为...

python python-3.x floating-point ieee-754

回答 1 投票 0

我目前正在做一项作业，我必须找到给定IEEE浮点表示形式的值。对于分配，有1个分割位，5个指数位和3个frac位。位...

c floating-point rounding ieee-754

回答 1 投票 0

-129！= -129 in Java Integers（Collection ）

我正在研究整数的Java ArrayList。但是，我发现int值为负数之后；类型的集合开始使用==运算符怪异。请查看代码...

java java-8 javac ieee-754

回答 1 投票 0

IEEE-754浮点数：先除还是乘以得到最佳精度？

如果我想在使用IEEE-754浮点值的计算中保持尽可能高的精度，那就更好了：a = b * c / d或a = b / d * c有区别吗？如果有，是否...

ieee-754

回答 2 投票 5

将十进制定点/浮点格式打印为十六进制[关闭]

c math floating-point ieee-754 fixed-point

回答 1 投票 0

将定点/浮点数打印为十六进制

在我的通用库中添加了将定点数字打印为十六进制的功能，并且意识到我不是％100知道我应该如何表示数字的小数部分。一个快速的谷歌...

c math floating-point ieee-754 fixed-point

回答 1 投票 0

Python中的十进制到二进制半精度IEEE 754

我只能使用struct.pack模块将十进制转换为二进制单精度IEEE754，或者使用numpy.frombuffer进行相反的操作（float16或float32），是否可以转换...

python numpy floating-point precision ieee-754

回答 2 投票 4

将浮点文字映射为其二进制表示形式的过程

请考虑精确的浮点值0.3左右）0.2999999523162841796875 2）0.2999999821186065673828125 3）0.300000011920928955078125 4）0.3000000417232513427734375 5）0.30000007152557373046875当...

c++ floating-point ieee-754

回答 1 投票 1

将浮点数转换为其IEEE（32位）值

我想用python编写一个脚本，该脚本采用一个浮点值，例如-37.32并输出其IEEE值（11000010000101010100011110101110）。如果该数字为负，则为第一位...

python floating-point ieee-754

回答 1 投票 0

如何为浮点值实现totalOrder谓词？

assembly floating-point x86-64 ieee-754 micro-optimization

回答 1 投票 3

初学者所说的NaN（非数字）是什么？

我仍然不知道NaN或（数字不是实数）确切是什么。主要问题：NaN值或确切的NaN是多少（用非数学教授的话来说）？此外，我...

c++ math floating-point nan ieee-754

回答 4 投票 3

什么是NaN（非数字）？

我仍然不知道NaN或（数字不是实数）确切是什么。主要问题：NaN值或确切的NaN是多少（用非数学教授的话来说）？此外，我...

c++ math floating-point nan ieee-754

回答 2 投票 0

什么是NaN（非数字）？

我仍然不知道NaN或（数字不是实数）确切是什么。主要问题：NaN值或确切的NaN是多少（用非数学教授的话来说）？此外，我...

c++ math floating-point nan ieee-754

回答 2 投票 0

什么是NaN（非数字）？

我仍然不知道NaN或（数字不是实数）确切是什么。主要问题：NaN值或确切的NaN是多少（用非数学教授的话来说）？此外，我...

c++ math floating-point nan ieee-754

回答 2 投票 0

Python为什么要四舍五入？

我正在使用IEEE 754定义的64位浮点算法。最小的次正规数是：2 ^ -1074 = 5e-324 = 5 * 10 ^ -16 * 10 ^ -308将后者加到实数结果中在：2 ^ -...

python numpy floating-point precision ieee-754

回答 1 投票 1

最新问题

© www.soinside.com 2019 - 2024. All rights reserved.