floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

最小（正）浮点数（最接近零）

我试图找到可以存储在单个精度浮点数中的最小（正）值（最接近零）。使用标头我可以获取该值，但如果我...

c++ gcc floating-point

回答 3 投票 0

测量经过的时间（以 C 为单位） - 纳秒 - 浮点铸造

我想测量两个事件之间的持续时间，例如捕获不同时间点的CPU快照。乘以100000000后是否需要在这里进行强制转换以浮动...

c floating-point

回答 2 投票 0

为 a+b+c 添加 3 条指令，并进行一次舍入

背景众所周知，两个浮点数的精确乘积并不总是浮点数，但错误exact(a*b) - float(a*b) 是。一些精确乘法的代码

floating-point floating-accuracy instruction-set instructions

回答 1 投票 0

将-0.67浮点改为定点

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

floating-point precision fixed-point

回答 2 投票 0

逗号分隔的双精度字符串到数组——如何保持精度

我正在使用 JSON-C 库 v0.11 来输出 JSON。我在 char * 中有一个双精度字符串，我需要将其输出为数组。我有： const char* doubles = "0.1234, 0.5678, 1.1234, 1.5678&

c json floating-point json-c

回答 1 投票 0

测量经过的时间（以 C 为单位） - 纳秒 - 浮动套管

我想测量两个事件之间的持续时间，例如捕获不同时间点的CPU快照。乘以100000000后是否需要在这里进行强制转换以浮动...

c floating-point

回答 1 投票 0

TI 操作系统如何编码才能不出现浮点错误？

我对我的图形计算器进行了测试，以检查浮点错误，经过四十八小时的完全随机性后，计算器没有损失任何一位数字的精度。怎么...

floating-point floating-point-precision ti-basic

回答 2 投票 0

Go 中如何将字节转换为 float32 数组？

我正在将一个 float32 数字数组以字节格式从 Python 脚本写入 Elasticache Redis 集群，然后在 Go 脚本中从 Elasticache 读取字节。如何将字节转换回...

python go floating-point type-conversion

回答 1 投票 0

C++ 中双双精度扩展精度类的浮点编译器优化问题

我在C++中实现了一个“double-double”类。 “双精度”使用两个双精度来提高精度。数字被视为 number = hi + lo，尽管总和实际上并不是

c++ visual-c++ floating-point compiler-optimization double-double-arithmetic

回答 1 投票 0

std::cos 使用 valgrind 运行时给出不同的结果

我发现了一个影响我工作中的多个单元测试的问题，这种情况仅在使用 valgrind 运行单元测试时才会发生，因为从 std::cos 和 std::sin 返回的值对于

c++ floating-point precision valgrind c++-standard-library

回答 1 投票 0

固定宽度浮动类型在哪里？

C 标准定宽浮点类型是什么以及它们在哪里定义？来自 MISRA-C:2004，规则 6.3：应该使用指示大小和符号的 typedef 来代替基本数字...

floating-point language-lawyer c99 fixed-width

回答 3 投票 0

Javascript浮点乘以100仍然有错误

我有一个货币字段的文本输入。我在字段中输入 33.91，并在尝试使用“乘以 100”技术时得到以下结果。 var curWth = parseInt($('#trans_withdraw'+i...

javascript floating-point

回答 2 投票 0

如何将浮点数四舍五入到某个小数位？ [重复]

假设我有8.8333333333333339，我想将其转换为8.84。我怎样才能在Python中完成这个任务呢？ round(8.8333333333333339, 2) 给出 8.83 而不是 8.84。我是 Python 或编程新手

python floating-point

回答 12 投票 0

无法从片段着色器输出中获取精确的浮点值

我在桌面上使用OpenGL（使用PyOpenGL）进行一些图像处理操作，并在片段着色器中对每个像素进行一些浮点操作。之后，当我使用

python opengl floating-point fragment-shader pyopengl

回答 1 投票 0

固定大小的浮点类型

在 stdint.h (C99)、boost/cstdint.hpp 和 cstdint (C++0x) 标头中，除其他外，还有 int32_t 类型。是否有类似的固定大小浮点类型？像 float32_t 这样的东西？

c++ c boost floating-point

回答 6 投票 0

将最大整数转换为浮点数而不损失精度

我有一个以下代码片段，我用它来尝试测试如果将最大整数转换为双精度数是否会发生精度损失： #包括 #包括 #包括<

c++ floating-point precision

回答 1 投票 0

为 SIGFPE 设置标志并继续执行，忽略 FPE

在数值应用中，我想知道计算完成后是否发生浮点异常。默认情况下，浮点除法和无效操作会被忽略。 ...

c linux floating-point signals

回答 1 投票 0

加和的算术序列在 SQL Server 中如何工作？

我在 SQL Server 2016 上遇到了浮点数据类型总和的问题。我知道浮点数据类型的加法既不是可交换的也不是关联的意味着加法的顺序很重要，它将影响...

sql-server math sum floating-point aggregate

回答 2 投票 0

在 0..1 之间将 u64 转换为 f64

我需要一个非常快速的伪随机数生成器来用于我一直在从事的项目。到目前为止，我已经实现了 xoshiro 算法，并且可以生成伪随机 u64。但是，我需要转换...

rust random floating-point simd

回答 1 投票 0

float8、float16、float32、float64 和 float128 可以包含多少位？

Numpy 的 dtype 文档仅显示每种浮点类型的“x 位指数，y 位尾数”，但我无法将其转换为小数点之前/之后的确切位数。是...

python numpy floating-point precision

回答 2 投票 0

floating-point 相关问题

最新问题