floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

np.finfo(np.float64).max + 1 中浮点加法如何工作？

在这种情况下，浮点加法如何工作？在[6]中：np.finfo(np.float64).max + 1 输出[6]：1.7976931348623157e+308 为什么没有溢出？

floating-point ieee-754

回答 1 投票 0

np.finfo(np.float64).max + 1 中的浮点加法如何工作？

在这种情况下，浮点加法如何工作？在[6]中：np.finfo(np.float64).max + 1 输出[6]：1.7976931348623157e+308 为什么没有溢出？

floating-point ieee-754

回答 1 投票 0

打印__float128，不使用quadmath_snprintf

在我关于 32 位十进制数字的浮点/双精度分析的问题中，一个答案说看一下 __float128。我使用了它，编译器可以找到它，但我无法打印它，因为......

c++ c floating-point precision floating-point-precision

回答 4 投票 0

如何将 float 128 的所有小数打印到控制台

我想打印常量 e，但我很快意识到，cout 无法处理 __float128。由于该函数无法打印 __float 128 。我也尝试了一些解决方案，awali...

c++ floating-point

回答 1 投票 0

快速浮点到整数转换（截断）

我正在寻找一种以快速且可移植（IEEE 754）的方式将浮点数截断为整数的方法。原因是因为在这个函数中 50% 的时间都花在了强制转换上：浮点 fm_sinf(浮点 x) {

c optimization floating-point data-conversion truncate

回答 4 投票 0

C 为什么 DBL_MANT_DIG 宏定义为 53 [重复]

我想知道为什么 DBL_MANT_DIG 设置为 53，即使 ieee 754 标准使用 52 个尾数位。它也计算符号位吗？

c floating-point precision ieee-754

回答 1 投票 0

浮点运算中加法结果的符号

如何确定浮点运算中加法结果的符号？我不确定我是否在标准 IEEE-754 中看到过任何有关它的信息，但我的猜测是：实现加法和减法...

math floating-point ieee-754

回答 1 投票 0

为什么 gcc -O1 会影响 std::rint()？

为什么下面的代码在使用 g++ -O1 编译时会产生 -1？我的gcc版本是13.2.1。 #包括 #包括 #包括使用命名空间 std； int主要...

c++ gcc floating-point rounding

回答 1 投票 0

如何在 f 字符串中格式化以逗号作为小数分隔符的浮点数？

对于Python中的某些机器控制，我将结果写入文本文件，其他人可以将其复制到Excel中（这是在这种情况下最方便的方法）。然而，在荷兰，Excel...

python floating-point format f-string

回答 6 投票 0

修正flutter中原始数据读取问题

我收到血压测量的原始数据：[DE, E2, F4, 3E, F3, FF, 07, E8, 07, 03, 13, 02, 21, 00, 34, F3, 01, C0, 00 ]。我成功读取了收缩压和舒张压的值，并且

flutter floating-point bluetooth-lowenergy device ieee-11073

回答 1 投票 0

将最小 32 位整数 (-2147483648) 转换为浮点数会得到正数 (2147483648.0)

我正在开发一个嵌入式项目，当时我遇到了一些我认为很奇怪的行为。我设法在键盘上重现它（见下文）以确认，但没有任何其他 C 编译...

c floating-point integer long-integer minimum

回答 2 投票 0

将最小的负 long long 值转换为 double 会改变其符号

我很惊讶在C中将最小的负long long值转换为long double会改变它的符号从负到正，所以我做了一个测试程序。我正在编译并运行这个 C 程序...

c floating-point long-long

回答 1 投票 0

（x/y >= z）什么时候用浮点数表示（x >= y*z）？

我知道浮点数并不是实数的精确表示，并且有各种“模糊比较”方法可以避免实践中出现意外。这个

c++ floating-point

回答 1 投票 0

如何将浮点数数组转换为 byte[] 并返回？

我有一个浮点数组需要转换为字节数组并返回浮点[]...任何人都可以帮助我正确地执行此操作吗？我正在使用 bitConverter 类，发现自己陷入困境......

c# .net floating-point arrays endianness

回答 5 投票 0

Perl 和次标准浮点零

在 Perl 中使用浮点格式时，我注意到一些奇怪的地方：看来 Perl 5.18.2（至少在 x86_64 Linux 上）不能正确处理次正常数字（如 -0）（考虑到 IEEE 64 位...

perl floating-point ieee-754

回答 1 投票 0

如何在 Perl 中比较浮点数“相等”

请注意，我已将“相等”放在双引号中，因此请继续阅读详细信息：我编写了一些代码，将 Perl 对象存储在文件中并从那里检索它们。我正在使用我自己的 JSON-ba...

perl floating-point

回答 2 投票 0

如何测试负零？

最初我认为 Math.Sign 是正确的方法，但运行测试后似乎它对待 -0.0 和 +0.0 是相同的。

c# .net floating-point

回答 7 投票 0

浮点序列化/解析舍入

我在内存中存储了以下浮点数（浮点数，而不是双精度数） 0b00111101111001000010000111001000 根据浮点转换器转换为 0.1113925576210021972656...

c++ floating-point rounding

回答 1 投票 0

理解浮点问题

这里有人可以帮助我了解如何确定浮点限制何时会导致计算错误。例如下面的代码。计算总税 = 函数 (

c# javascript vb.net floating-point

回答 4 投票 0

错误：流体模拟属性梯度计算中没有运算符“+=”与 float 和 Vector2 匹配

我正在尝试使用 C++ 和 OpenGL 来观看 Sebastian Lague 的流体模拟视频。我现在正在计算 propertyGradient 值（时间戳是 14:15）。我会尽力提供所有代码...

c++ opengl vector floating-point operator-overloading

回答 1 投票 0

floating-point 相关问题

最新问题