floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

在c++中将浮点转换为字符串后丢失精度[重复]

我已将字符串值转换为浮点数并尝试为其设置精度。设置精度后，我得到的值被截断。 #包括 #包括在...

c++ string floating-point precision

回答 1 投票 0

处理整数和浮点乘法中的上溢和下溢

我正在处理一个问题，我有一个巨大的 16 位有符号整数集合。我必须将每个乘以 double 类型的常数因子，然后将其转换回整数类型。我需要...

floating-point integer overflow multiplication underflow

回答 2 投票 0

将 char 数组转换为 float 时出现意外问题

我有一个char数组，需要将其转换为float。我有两个 16 位值： A = 7C37 B = 428B 它们需要像 42 8B 7C 37 一样排列来代表浮点数中的 69.743，但我有

c floating-point type-conversion

回答 1 投票 0

“浮点”与“双精度”精度

代码浮动x = 3.141592653589793238；双 z = 3.141592653589793238； printf("x=%f “， X）; printf("z=%f ”，z）； printf("x=%20.18f “， X）; printf("z=%20.18f ”，z）；会给你输出 ...

c floating-point

回答 5 投票 0

单精度浮点数在零附近时的近似分辨率是多少

我将许多经度和纬度存储为双精度，我想知道是否可以将它们存储为浮点数。要回答这个问题，我需要知道单个

c types floating-point double resolution

回答 4 投票 0

Lua：从 float 转换为 int

尽管Lua不区分浮点数和整数，但在某些情况下你想使用整数。如果您...

lua floating-point

回答 5 投票 0

python - 从 Tiff 文件读取浮点值

我需要使用具有浮点值的 32 位 tiff 文件。它是一个特殊文件，包含 4 个图层，其中包含来自深度测量相机的浮点值。我已经尝试过 imageio，

python opencv floating-point tiff 32-bit

回答 1 投票 0

是否可以仅使用 7 位将 -3/32 表示为二进制浮点值

假设浮点表示仅限于 7 位：1 个符号位、3 个指数位和 3 个小数位。首先我将 3/32 转换为二进制 0.00011，然后到标准科学

floating-point binary

回答 1 投票 0

Pytorch求和问题（可能是浮点数）

我有一个简单的Python测试来获取我放入火炬张量的列表中的几个项目的总和： lst = [0.0014, -0.0306, 0.0005, 0.0011, 0.0012, 0.0022, 0.0017, 0.0011, 0....

python pytorch floating-point

回答 1 投票 0

如何格式化浮点数以省略分数末尾的零

我想格式化一个浮点数，使其最多有 3 个小数位，但如果最后一个小数位为 0，则忽略它们。输入：预期输出 1.1234 : 1.123 1.120：1.12 1.100：1.1 1.0 ...

floating-point format precision string-formatting monkeyc

回答 1 投票 0

0.1 + 0.2 的不同答案

我知道计算机中有一个数学问题会导致意外的输出： var a = .1; var b = .2; Console.WriteLine(a + b); // 输出：0.30000000000000004 但是当我在一些

c# floating-point decimal

回答 2 投票 0

0.1 + 0.2 的不同答案

我知道计算机中有一个数学问题会导致意外的输出：使用静态 System.Console； var a = .1; var b = .2; WriteLine(a + b); // 输出：0.30000000000000004 但当我...

c# floating-point decimal

回答 1 投票 0

printf 中双精度的正确格式说明符

printf 中 double 的正确格式说明符是什么？是%f还是%lf？我相信是%f，但我不确定。代码示例 #包括 int main() { 双 d = 1.4；原则...

c floating-point printf double format-specifiers

回答 5 投票 0

np.finfo(np.float64).max + 1 中浮点加法如何工作？

在这种情况下，浮点加法如何工作？在[6]中：np.finfo(np.float64).max + 1 输出[6]：1.7976931348623157e+308 为什么没有溢出？

floating-point ieee-754

回答 1 投票 0

np.finfo(np.float64).max + 1 中的浮点加法如何工作？

在这种情况下，浮点加法如何工作？在[6]中：np.finfo(np.float64).max + 1 输出[6]：1.7976931348623157e+308 为什么没有溢出？

floating-point ieee-754

回答 1 投票 0

打印__float128，不使用quadmath_snprintf

在我关于 32 位十进制数字的浮点/双精度分析的问题中，一个答案说看一下 __float128。我使用了它，编译器可以找到它，但我无法打印它，因为......

c++ c floating-point precision floating-point-precision

回答 4 投票 0

如何将 float 128 的所有小数打印到控制台

我想打印常量 e，但我很快意识到，cout 无法处理 __float128。由于该函数无法打印 __float 128 。我也尝试了一些解决方案，awali...

c++ floating-point

回答 1 投票 0

快速浮点到整数转换（截断）

我正在寻找一种以快速且可移植（IEEE 754）的方式将浮点数截断为整数的方法。原因是因为在这个函数中 50% 的时间都花在了强制转换上：浮点 fm_sinf(浮点 x) {

c optimization floating-point data-conversion truncate

回答 4 投票 0

C 为什么 DBL_MANT_DIG 宏定义为 53 [重复]

我想知道为什么 DBL_MANT_DIG 设置为 53，即使 ieee 754 标准使用 52 个尾数位。它也计算符号位吗？

c floating-point precision ieee-754

回答 1 投票 0

浮点运算中加法结果的符号

如何确定浮点运算中加法结果的符号？我不确定我是否在标准 IEEE-754 中看到过任何有关它的信息，但我的猜测是：实现加法和减法...

math floating-point ieee-754

回答 1 投票 0

floating-point 相关问题

最新问题