floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

两个“整个”双精度数的乘积能否始终正确表示？

这似乎是一个非常基本的问题，但我对浮点数的知识越来越模糊。假设我有两个双精度数（根据 IEEE 754），它们都精确地代表一个整数，例如......

floating-point precision

回答 1 投票 0

将字符串转换为浮点数而不丢失小数位

我有很多代表旋转值的字符串。这些字符串有 0 到 5 位小数。当将这些字符串转换为浮点数以将它们作为旋转值应用到游戏对象时，fl...

string unity-game-engine floating-point type-conversion rotation

回答 1 投票 0

如何处理非常小的分子的除法？

我正在开发一个 JavaScript 计算器，并面临除法运算的问题。当非常小的分子除以大的分母时，结果变为“0”。这不是

javascript math floating-point

回答 1 投票 0

Python 浮点格式 - 类似“g”，但数字更多

我使用“g”来格式化浮点值，但它对我来说切换到科学格式化太快了 - 在第 5 位数字处： >>> 格式(0.0001, "g") ‘0.0001’ >>> 格式(0.00001, ...

python formatting floating-point

回答 4 投票 0

在 SQL 或 Python 中模拟 CTCV_CONVERT_FLOAT_TO_DATE 函数

在我的 Snowflake 中，我们使用 sap 表作为数据源，在我们的 SAP 表之一中，我们以 0x1.34b049p24 格式存储值，等于 02/17/2023。现在问题出在 Snowflake 我...

floating-point snowflake-cloud-data-platform abap sap-erp

回答 1 投票 0

如何得到最小的数字A，即N倍于另一个数字B，以及更大或等于数字C

我想得到一个数字（floatB）的N倍的最小数字（floatA），并且这个数字必须大于或等于另一个数字（floatC），例如浮动_c = 20.0 浮动_b = 7.0 比数字...

floating-point precision

回答 1 投票 0

可以在闭区间[0.0,1.0]上生成随机浮点吗？

Go 的 rand.Float32() 和 rand.Float64() 在 [0.0, 1.0) 上的半闭区间生成随机浮点数。但是，我需要在两端闭合的间隔内生成的东西（即 [0.0...

go random floating-point

回答 1 投票 0

如何打印（二进制）文件中的半精度/bfloat16 值？

这是以下内容的变体：如何在shell中从二进制文件打印浮点值？在这个问题中，我们想要从二进制文件打印 IEEE 754 单精度（即 32 位）浮点值。现在

command-line floating-point binary-data half-precision-float

回答 2 投票 0

表示小于单精度最小值的数

我正在做我的硬件但卡住了。我需要计算出数字 2 * 2^{-151} 的单精度表示。我认为这是一个次正规/非正规化的数字，因此我需要设置 exp...

floating-point binary subnormal-numbers

回答 1 投票 0

减去两个 Ieee754 数字，我没有得到正确的结果

我目前正在编写一个编译器来测试我的编程能力，而我的目标架构没有浮点单元。为了解决这个问题，我将函数添加到我的标准库中

floating-point binary subtraction ieee-754

回答 1 投票 0

在SQL标准中，浮点列可以保存NaN吗？

在官方 SQL 标准（如果我没记错的话，现在是 ISO/IEC 9075）中，浮点类型的列/属性可以将 NaN 作为合法的非空值吗？笔记：我不是在问任何具体...

sql null floating-point nan

回答 1 投票 0

如何在 C++11 constexpr 中检查双精度位模式是否为 0x0？

我想检查给定的双精度/浮点变量是否具有实际的位模式 0x0。不要问为什么，它用在 Qt 中的一个函数（qIsNull()）中，我想将其设置为 constexpr。原始代码使用了...

c++ casting c++11 floating-point constexpr

回答 4 投票 0

如何将“6.5”浮点数格式化为带有前导零的“06.5000”？

我想以 06.5000 等数据格式将浮点值数组输出到 CSV 文件。 Python中有没有办法修剪小数点和小数点左边，就像awk的printf，或者ma...

python string floating-point formatting export-to-csv

回答 1 投票 0

当前Intel架构的单核可以执行多少次浮点乘法？

为了评估嵌入式架构的性能增益，我尝试搜索可以在 Core 2 的单个内核上执行的浮点乘法的数量，并且...

x86 floating-point cpu-architecture simd flops

回答 1 投票 0

浮点值后缀`f`有什么用

我想知道C中这两个变量有什么区别：浮动价格 = 3.00；和浮动价格 = 3.00f；这种情况下后缀f有什么用？

c floating-point literals

回答 7 投票 0

类型错误：“浮动”对象不可迭代

我在 Windows 7 上使用 python 3.2.2，我试图创建一个程序，它接受 7 个数字，然后告诉用户有多少是正数，多少是负数，多少是零。这是...

python python-3.x for-loop floating-point typeerror

回答 3 投票 0

C++ 舍入误差

给定一个整数数组，计算其正数、负数和零元素的比率。在新行上打印每个分数的小数值，并在小数点后保留几位。注意：...

c++ floating-point rounding-error

回答 1 投票 0

非正规数什么时候真正有用？

每当我搜索术语“非正规数”或“非正规数”时，我只能找到检测它们并将它们四舍五入为零的方法。显然，没有人真正喜欢他们，因为与他们打交道会带来

floating-point ieee-754

回答 3 投票 0

何时需要警告隐式浮点提升？

我的 C++ 编译器（带 -Wdouble-promotion 的 Clang）警告隐式浮点转换，如下所示 some_long_double_value() > 1.0 虽然我知道双常数 1.0 是隐含的

c++ floating-point

回答 1 投票 0

像 F 这样的 RISC-V 扩展到底是如何在流水线处理器中实现的

我知道典型的浮点运算比典型的整数运算要慢得多，所以我不太确定哪种方法（es？）适合实现 RV32IF 处理器...

floating-point cpu-architecture hardware riscv pipelining

回答 1 投票 0

floating-point 相关问题

最新问题