floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

我正在调用 vrndscalepd 来舍入 zmm 寄存器。要舍入的寄存器是： 3.9304247359239284、0.85804618270500566、1.899940908279022、1.5554455222287524、9.1150061014624413、9.3562881423859334、1 .

assembly floating-point x86-64 nasm avx512

回答 1 投票 0

将大整数（uint64+）转换为十六进制

将内容导入bigquery时，我的十六进制字符串被转换为浮点数。我知道我需要修复导入，但我想尽最大努力恢复一些数据。我正在尽力...

python floating-point integer hex int128

回答 1 投票 0

使用 float 而不是 double 编译 c 代码

我有一个用 C 编写的冗长的数字积分方案。我想以浮点精度测试我的算法。有没有办法告诉 gcc 将每次出现的 double 降级为浮点数...

gcc floating-point

回答 2 投票 0

为什么计算机科学中的“(eps * 0.5) + 1”不大于“1”？

我正在学习Matlab，我不明白为什么(eps * 0.5) + 1不大于1。每股收益答案= 2.220446049250313e-16 fprintf('%.52f '，eps）； 0.

matlab math floating-point precision epsilon

回答 1 投票 0

JavaScript 中从 double 到 float？

我的理解是JavaScript中的所有数字都是双精度浮点数。如何在 JavaScript 中将双精度型转换为浮点型？我理解精度损失，但这是可以忍受的。我

javascript floating-point

回答 3 投票 0

当分配给“float”时，附加“f”何时会更改浮点常量的值？

将 f 应用于浮点常量在将常量分配给浮点数时似乎没有什么区别。 int 主函数（无效）{ 浮动 f； // 1 2345678901234567 f = 3.1415926535897932；

c floating-point

回答 2 投票 0

如何在.txt文件中找到最小的浮点数？

问题来了：假设您有一个文本文件，其中包含浮点数列表，每行一个数字。编写Python程序来搜索文件并找到并优先...

python file floating-point python-3.11

回答 1 投票 0

在Python中什么条件下`str(float(val)) == val`不成立

对于像“1.2345”这样的字符串 val 变量，assert str(float(val)) == val 总是成立吗？我已经发现它并不总是成立 >>> str(浮点('1.2345')) '1.2345' >>> ...

python floating-point precision

回答 1 投票 0

我不明白机器Epsilon是什么意思

我正在学习 Matlab 和计算机算术，但我在理解机器 Epsilon 的概念时遇到了困难。我希望得到一个简单的解释，就像我是个孩子一样。 '2.2204e-16... 是什么意思？

matlab math floating-point computer-science epsilon

回答 1 投票 0

Javascript 数字类型[重复]

我正在使用 JavaScript 并试图更好地理解浮点数的工作原理以及为什么 .1 + .2 = .3000000000004 （或类似的东西）。我想我很明白为什么...

javascript floating-point

回答 1 投票 0

如何解压TEDS ConRes类型？

在 TEDS（传感器电子数据表）模板中，有两种数据类型，描述为 ConRes。 “恒定分辨率。这是压缩的自定义数据类型浮点值

c floating-point double

回答 1 投票 0

如何准备 numpy.ndarray 将其传递给 librosa.display.waveshow()？

在我的代码中，我正在读取一个存储 44100 个一秒波形音频文件样本的列表，如下所示：将 open("./test.csv", "r") 作为 csv_file： reader = csv.reader(csv_file, qu...

python numpy floating-point wav librosa

回答 1 投票 0

Python numpy float16 数据类型操作和 float8？

对 float16 Numpy 数字执行数学运算时，结果也是 float16 类型数字。我的问题是结果到底是如何计算的？假设我正在将两个 float16 数字相乘/相加...

python numpy floating-point precision

回答 2 投票 0

使用 IEEE 754 浮点格式的 8 位版本来查找 32 以 10 为底的表示形式

使用以下 8 位版本的 IEEE 754 浮点格式（如实践中所示）：表示以 10 为底的 32 符号 1 位指数 3 位尾数 4 位我本来以为不会

floating-point computer-science ieee-754

回答 1 投票 0

双精度浮点。为什么最大指数是1023

当我们有一个二进制 Intel 处理器和一个由 64 位表示的双精度浮点数，其中 1 位用于符号，52 位用于尾数，11 位用于指数。我不明白为什么...

floating-point binary numbers double

回答 1 投票 0

用于存储小数的sqlite数据类型

我想在 sqlite 中存储加密货币财务数据，但无法弄清楚如何处理数字的精度。加密精度/规模可能低至 8 位数字，并且...

sqlite floating-point decimal sqldatatypes

回答 1 投票 0

STM32L1 snprintf 用法将浮点数转换为字符串

我在STM32上将float转换为str时遇到问题，我有两个简单的函数来打印 Int 和 Float Int 工作正常，但浮点打印导致程序崩溃无效 LCD_PrintInt(int 值) { 字符 str[...

floating-point type-conversion stm32

回答 3 投票 0

使用联合操作浮点位：查找适合浮点的正确 uint 类型

在 C 语言中，我见过这段代码用作操作浮点数的方法，具体到位：联盟{ uint32_t 位；浮点值； } 通过定义这种类型的变量，可以执行按位运算...

c floating-point bit-manipulation union

回答 1 投票 0

使用缩放公差来比较浮点数

我想到比较浮点数的一个好方法是用浮点数缩放容差。这是不是一个好主意？这个例程需要针对特殊量进行扩展，例如 NaN、+/-Inf，但是...

python floating-point compare floating-accuracy

回答 1 投票 0

是否有一种定义明确且高性能的方法将 double 按位转换为 uint64_t 并返回

以前的类似问题没有回答我的问题：将 uint64_t 位转换为 double 并返回到宏中将 uint64_t 转换为双精度值我需要将双精度数据保存到 STM 上的闪存中...

c floating-point embedded stm32 cortex-m

回答 3 投票 0

floating-point 相关问题

最新问题