floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

减去两个 Ieee754 数字，我没有得到正确的结果

我目前正在编写一个编译器来测试我的编程能力，而我的目标架构没有浮点单元。为了解决这个问题，我将函数添加到我的标准库中

floating-point binary subtraction ieee-754

回答 1 投票 0

在SQL标准中，浮点列可以保存NaN吗？

在官方 SQL 标准（如果我没记错的话，现在是 ISO/IEC 9075）中，浮点类型的列/属性可以将 NaN 作为合法的非空值吗？笔记：我不是在问任何具体...

sql null floating-point nan

回答 1 投票 0

如何在 C++11 constexpr 中检查双精度位模式是否为 0x0？

我想检查给定的双精度/浮点变量是否具有实际的位模式 0x0。不要问为什么，它用在 Qt 中的一个函数（qIsNull()）中，我想将其设置为 constexpr。原始代码使用了...

c++ casting c++11 floating-point constexpr

回答 4 投票 0

如何将“6.5”浮点数格式化为带有前导零的“06.5000”？

我想以 06.5000 等数据格式将浮点值数组输出到 CSV 文件。 Python中有没有办法修剪小数点和小数点左边，就像awk的printf，或者ma...

python string floating-point formatting export-to-csv

回答 1 投票 0

当前Intel架构的单核可以执行多少次浮点乘法？

为了评估嵌入式架构的性能增益，我尝试搜索可以在 Core 2 的单个内核上执行的浮点乘法的数量，并且...

x86 floating-point cpu-architecture simd flops

回答 1 投票 0

浮点值后缀`f`有什么用

我想知道C中这两个变量有什么区别：浮动价格 = 3.00；和浮动价格 = 3.00f；这种情况下后缀f有什么用？

c floating-point literals

回答 7 投票 0

类型错误：“浮动”对象不可迭代

我在 Windows 7 上使用 python 3.2.2，我试图创建一个程序，它接受 7 个数字，然后告诉用户有多少是正数，多少是负数，多少是零。这是...

python python-3.x for-loop floating-point typeerror

回答 3 投票 0

C++ 舍入误差

给定一个整数数组，计算其正数、负数和零元素的比率。在新行上打印每个分数的小数值，并在小数点后保留几位。注意：...

c++ floating-point rounding-error

回答 1 投票 0

非正规数什么时候真正有用？

每当我搜索术语“非正规数”或“非正规数”时，我只能找到检测它们并将它们四舍五入为零的方法。显然，没有人真正喜欢他们，因为与他们打交道会带来

floating-point ieee-754

回答 3 投票 0

何时需要警告隐式浮点提升？

我的 C++ 编译器（带 -Wdouble-promotion 的 Clang）警告隐式浮点转换，如下所示 some_long_double_value() > 1.0 虽然我知道双常数 1.0 是隐含的

c++ floating-point

回答 1 投票 0

像 F 这样的 RISC-V 扩展到底是如何在流水线处理器中实现的

我知道典型的浮点运算比典型的整数运算要慢得多，所以我不太确定哪种方法（es？）适合实现 RV32IF 处理器...

floating-point cpu-architecture hardware riscv pipelining

回答 1 投票 0

浮点值截断java

我想要一个数字后3个小数位的浮点值。我不想舍入该值。例如：浮动 f=2.13275；我想要 f 作为 2.132 而不是 2.133，我该如何在 Java 中做到这一点？

java floating-point

回答 5 投票 0

如何在Python中获取fp16，fp32，bf16，int8，...等的精确内存表示？

有没有任何函数可以给我一个数字的精确表示（因为它存储在内存中）？我正在寻找具有以下行为的函数： memory_repr(3,'int8') =

python floating-point

回答 1 投票 0

是否可以对浮点算术错误中的 a 和 b 的值进行逆向工程，例如 (a -b) == 0.499，而它应该是 0.5？

在我的应用程序中，我计算经过的时间（a-b），得到0.4999978542327881（由python打印），我猜如果它没有被python四舍五入打印的话，它实际上是0.4999978542327880859375...

floating-point precision

回答 1 投票 0

C# 中浮点数的 System.Text.Json 序列化问题

我在 C# 中遇到与浮点数序列化相关的 System.Text.Json 问题。当序列化带有小数部分的浮点数（例如 4.0）时，库似乎省略了

c# json serialization floating-point system.text.json

回答 1 投票 0

检查浮点类型是否是另一个浮点类型的超集

是否有一种标准的一致且可移植的方法可以在编译时检查一种浮点类型的所有值是否可以在另一种浮点类型中表示？还请考虑即将推出的...

c++ floating-point compile-time c++23

回答 1 投票 0

Fortran CFD 代码中出现非数字

我正在尝试求解通过双收敛-发散喷嘴的流体流动的欧拉一维方程。这是我的完整代码：模块常量双精度 ::GAM, GAMM1 ,

floating-point fortran nan

回答 1 投票 0

截断小数不四舍五入[重复]

可能的重复： c# - 如何将小数值四舍五入到小数点后两位（用于页面上的输出）我想像下面这样截断小数 IE。 2.22939393 -> 2.229 2.22977777 -> 2.229

.net floating-point truncate

回答 10 投票 0

使用 AVX2 和 /fp:fast 的 Intel 2022 编译器出现 Nan 问题

我正在使用 @njaffa 的另一篇文章中描述的测试工具，尝试制作一个更快更准确的 erfc() 函数，这时我遇到了一个我仍然无法完全理解的特殊错误，并且

c floating-point nan avx2 icx

回答 1 投票 0

C中如何判断一个数是整数还是浮点数？ [已关闭]

所以我是C的新手，我主要用它来制作概率计算器之类的东西。我当前的项目发现了 2 个值的增加和减少。代码是： #包括 //

c math floating-point integer

回答 3 投票 0

floating-point 相关问题

最新问题