ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准，特别是单精度binary32 aka浮点和双精度binary64又称双格式。

用于constexpr深度和IEEE 754指数计算的NVIDIA nvcc编译标志

请考虑以下代码，将双浮点数的指数计算为常量表达式（采用IEEE 754标准指定的格式）。模板 ...

c++11 cuda constexpr ieee-754 nvcc

回答 1 投票 0

检查一个数字是否可以完全表示为`f32`

我想知道值是1/256,2 / 256,3 / 256，...... 254/256和255/256是否完全可以表示为f32。现在，聪明的人会考虑浮点数如何工作并找出那种方式。 ...

rust floating-point ieee-754

回答 2 投票 5

JAVA的Double.MIN_VALUE，IEEE 754和谷歌的计算器？

似乎谷歌的计算器可以计算出的最小的非零数字是2 ^ -1023。即2 ^ -1024等于0.在JAVA中Double.MIN_VALUE是2 ^ -1074。阅读有关JAVA的Double.MIN_VALUE ...

java math ieee-754

回答 3 投票 -1

在STDC中究竟做了什么（1.0e300 + pow（2.0，-30.0）> 1.0）？

我遇到了一个计算atan（x）的函数（源在这里）。将它简化为我的问题的核心并稍微重新格式化，它们有类似的东西：static const double one ...

c ieee-754 atan2

回答 1 投票 8

32位IEEE 754单精度浮点到十六进制

我已经学会了如何将数字转换为浮点数（在二进制，八进制和十六进制之上），并且知道如何将数字转换为浮点数。但是，在查看工作表时，我有......

floating-point hex ieee-754

回答 2 投票 1

如果x，y和a是具有整数值的数字，x / y是否会舍入到与（x * a）/（y * a）相同的值？

根据Is浮点数学是否破坏？，我知道0.1不能精确表示浮点数并将四舍五入到某些值。根据是硬编码漂浮精确，如果它可以...

javascript math floating-point division ieee-754

回答 1 投票 2

IEEE 754和浮点精度

IEEE 754提供的精度达到32位还是64位CPU会有什么不同吗？我的意思是在用C编程时，浮点数，双倍和长双倍的大小是......

c floating-point cpu 32bit-64bit ieee-754

回答 4 投票 0

在不同的平台/编译器上实现相同的浮点计算结果？

不同的平台具有不同的FP功能，具有不同的参数和行为，因此它们产生的计算结果之间存在一定程度的差异，其级联和...

c++ c double ieee-754 fpu

回答 1 投票 2

为什么从float转换为double会改变这个值？

我一直试图找出原因，但我不能。有谁能够帮我？请看下面的例子。 float f = 125.32f; System.out.println（“f =”+ f的值）; double d =（double）125.32f; ...

java floating-point double precision ieee-754

回答 9 投票 14

标准C ++ 11中的IEEE 754总订单

根据IEEE浮点数wikipage（在IEEE 754上），在双精度浮点上有一个总顺序（即在具有IEEE-754浮点数的C ++ 11实现上，如Linux /上的gcc 4.8 ...

c++11 ieee-754

回答 1 投票 9

.NET Core中gamedev的浮点确定性

背景我们正在使用C＃和.NET Core开发RTS游戏引擎。与大多数其他实时多人游戏不同，RTS游戏倾向于通过将玩家输入与其他玩家同步来工作，并且......

c# .net-core floating-point sse ieee-754

回答 2 投票 1

使用按位运算将Int转换为Float或Float转换为Int（软件浮点）

我想知道你是否可以帮助解释将整数转换为float或float转换为整数的过程。对于我的班级，我们只使用按位运算符来做这个，但我认为一个公司......

assembly floating-point arm bit-manipulation ieee-754

回答 3 投票 10

在双打中表示整数

一个double（给定数量的字节，具有合理的尾数/指数平衡）是否总能完全精确地保持无符号整数的范围是该字节数的一半？例如。能八点......

c math floating-point precision ieee-754

回答 5 投票 19

Java：IEEE双向IBM Float

我正在开展工作的侧面项目，我想读/写SAS传输文件。挑战在于数字是以64位IBM浮点数编码的。虽然我能够......

java ieee-754

回答 1 投票 -2

IEEE 754身份法：字面意义和价值改变优化

IEEE 754-2008标准规定，对于0 + x和1 * x这样的表达式，可以应用标识属性（第10.4节）：当x不是信令NaN时应用标识属性1×x，并且......

floating-point nan ieee-754

回答 1 投票 1

JavaScript中的浮点数（IEEE 754）

如果我理解正确，JavaScript编号总是存储为双精度浮点数，遵循国际IEEE 754标准。这意味着它使用52位分数...

javascript ieee-754

回答 3 投票 2

任何真实的CPU都不使用IEEE 754吗？

我正在优化数值/统计库的排序函数，基于这样的假设：在过滤掉任何NaN并做一点点琐事之后，浮点数可以比较为32位整数...

performance sorting floating-point ieee-754

回答 5 投票 30

为什么IEEE754选择11个指数位用于双精度二进制64？

我一直在阅读，似乎IEEE 754将64位浮点数（双）指数定义为11位。（https://en.wikipedia.org/wiki/Double-precision_floating-point_format）我的问题是为什么？一个64 ...

floating-point double precision ieee-754

回答 1 投票 1

MySQL如何进行浮点加法的数学计算？

我用SELECT 0.1 + 0.2测试;用MySQL（MariaDB）查询，它返回正确答案MariaDB [（无）]> SELECT 0.1 + 0.2; + ----------- + | 0.1 + 0.2 | + ----------- + | 0.3 | + --------...

mysql sql ieee-754

回答 2 投票 3

解析整数位模式，因为IEEE 754在飞镖中浮动

我通过接口（蓝牙，列表）获得4个字节的数据。数据表示IEEE 754浮点数（例如0x3fd0a3d7，表示大约1.63作为binary32浮点数）有没有办法......

dart floating-point ieee-754 type-punning

回答 1 投票 0

ieee-754 相关问题

最新问题