ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准，特别是单精度binary32 aka浮点和双精度binary64又称双格式。

在问题的最后，给出了来自 GNU C 库的计算浮点模运算 (__ieee754_fmod) 的代码。我对这个算法背后的基本思想很感兴趣。特别的

c++ c algorithm floating-point ieee-754

回答 1 投票 0

Math.pow 的 ECMAScript 规范具有以下特殊规则：如果 x< 0 and x is finite and y is finite and y is not an integer, the result is NaN. (http://es5.github.com/#...

javascript floating-point ieee-754 ecmascript-5 ecma262

回答 2 投票 0

C++11：将 "double "打印成十六进制？

我需要打印一个IEEE 64位的双数作为十六进制字符串。我知道我必须以某种方式使用std::hexfloat。但如何在这之前获得流的状态，以便它可以被重置到初始 ...

c++ c++11 floating-point ieee-754

回答 1 投票 2

在非默认四舍五入模式下长投双倍。

在Java中，当一个长值被投向双值时，当无法进行无损转换时，就会采用IEEE754四舍五入模式。例如，从1L <<55或（1L

java ieee-754

回答 1 投票 0

能否将glTF模型的顶点、UV和法线导出为有符号的短 "2字节"，而不是浮动 "4字节"？

我从 blender 导出了一个 glTF 模型，当我把 .bin 文件放到 hex 编辑器时，他的顶点、UV 和法线似乎是 "4 字节 "浮点，或者 IEEE 754 浮点，就像下面的例子。难道是...

floating-point ieee-754 short gltf

回答 1 投票 1

是否存在一个浮点数，错误地计算为略低于0.5或0.0？

我用这个来得到一个正确的四舍五入的整数除法。Math.round((float)dividred(float)divisor) 除以0已经在其他地方处理过了. 除此以外，这可能会失败吗？我可以...

rounding precision ieee-754

回答 1 投票 0

为什么当我从一个32位二进制大恩迪安编码的文件中读取IEEE-754浮点数时，会失去精度？

我正在用纯C语言重新编写一些Matlab文件处理代码，我实现了以下函数，它将从一个二进制大恩迪安编码的文件中读取4个字节，这个文件应该代表一个ieee-...

c matlab floating-point precision ieee-754

回答 1 投票 0

IEEE-754标准

我有一个其实很简单的问题，就是关于IEEE-754标准中数字的编码和保存在电脑上的问题。在大学（考试）中，我遇到了以下关于二进制16（半 ...

format ieee-754 16-bit half-precision-float

回答 1 投票 0

同样的浮点计算执行两次后产生不同的结果，是否表明IEEE 754不符合标准？

在运行32位GCC 7.3.0的特定在线判断中，这。#include volatile float three = 3.0f, seven = 7.0f; int main() { float x = three seven; std::cout << x &...。

c++ floating-point ieee-754

回答 1 投票 1

使用IEEE 754将浮点转为二进制。

你好，我需要用IEEE格式存储0.2730。现在我所做的是设置唱0，因为这个数字是正数。现在我想，既然点前的是0，那么我不......

binary floating-point ieee-754 single-precision

回答 2 投票 0

浮点数表示形式

这是1996年问的很老的问题，因此请忽略错误。这里的指数是8位，那么我们将偏差设为128对吧？但是如何进一步解决该问题，请提供帮助。

precision ieee-754 digital number-systems

回答 2 投票 0

将位转换为Double后，如何在不使用BigDecimal的情况下存储实际的float / double值？

根据几个浮点计算器以及下面的代码，以下32位00111111010000000100000110001001的实际浮点值为（0.750999987125396728515625）。 ...

java floating-point bigdecimal ieee-754 single-precision

回答 1 投票 1

关于IEEE 754浮点运算的问题

我想问一个关于IEEE 754浮点数的操作问题：（以IEEE 754单精度浮点数为例：1个符号位，8个指数位，23个尾数位...

floating-point precision ieee-754

回答 1 投票 0

如何将32位十六进制转换为python中的浮点数？

我有此十六进制值0x3e76c8b4，已使用此python代码将其转换为float。 j = float.fromhex（'0x3e76c8b4'）＃输出1047972020.0但是使用此网站，我得到的值是0.2409999966621399，...

python-3.x ieee-754 single-precision

回答 1 投票 0

双打在什么时候开始失去精度？

我的应用程序需要执行一些操作：>，

c++ floating-point ieee-754

回答 2 投票 1

IEEE-754浮点数二进制表示

我正在解决在线法官的问题：https://acm.cs.nthu.edu.tw/problem/12237/我需要用二进制表示形式来表示IEEE-754浮点数。这是我的代码：#include void ...

c binary ieee-754

回答 1 投票 -1

确保C ++双精度为64位

在我的C ++程序中，我需要从外部字节序列中提取64位浮点数。有没有办法在编译时确保double是64位？我还应该使用其他类型来存储...

c++ types precision compiler-construction ieee-754

回答 7 投票 19

IEEE 754中的舍入运算结果

对于在IEEE 754（浮点型，32位）中使用单精度值的操作，有一种方法可以以某种方式对两个操作数进行条件化，以确保在获得精确结果时对操作结果进行舍入...

floating-point rounding ieee-754

回答 1 投票 0

如何计算浮点型精度，这有意义吗？

我在理解浮点类型的精度时遇到问题。 msdn将精度写入6到9位数字。但我注意到精度取决于数字的大小：float smallNumber = ...

c# math floating-point ieee-754

回答 1 投票 0

从不带FPO的定点整数重建IEEE754浮点二进制数

我有一个使用定点数的程序，因为我使用的CPU不支持IEEE754浮点数。我一直很好，首先通过找到...

floating-point ieee-754 fixed-point

回答 1 投票 0

ieee-754 相关问题

最新问题