floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

如何将浮点数精确转换为字符串？ Arduino C++

我有一个像 3.14159 这样的数字，我希望它是 3.1 由于某种原因，Arduino 对库非常挑剔。目前我无法使用字符串库。

c++ arduino floating-point precision arduino-c++

回答 2 投票 0

如何在C中安全地进行浮点运算

最近 (C23) 添加的 stdckdint.h 提供了一种可移植的方法来检查整数算术中的溢出问题。我过去在整数的情况下使用过类似的编译器扩展......

c floating-point precision ieee-754

回答 1 投票 0

如何获取小数点后的数字？

如何获取小数点后的数字？例如，如果我有 5.55，我如何获得 0.55？

python floating-point decimal

回答 30 投票 0

Java 17和JEP 306之后Math和StrictMath之间还有区别吗？

JEP 306，在 Java 17 中实现，提供始终严格的浮点语义，弃用 strictfp 标志。这是否意味着 java.lang.Math 的行为可以与 ... 完全相同？

java floating-point java-17 strictfp

回答 1 投票 0

无法从双精度转换为浮点错误

我正在编写一个简单的程序，将磅转换为公斤，但我有点困惑导入java.util.Scanner；公共课 FiveTenOne { 公共静态无效主（字符串[]参数） { 扫描...

java floating-point double

回答 1 投票 0

从逻辑数据类型中提取浮点数

我正在尝试弄清楚如何从 22 位逻辑数据类型计算小数，请告诉我是否有任何其他已知的工作方法。我尝试了以下方法，但结果没有...

floating-point system-verilog fixed-point

回答 1 投票 0

<ctgmath> 标头似乎不起作用？

我正在编写一些数值模拟代码，所以我非常清楚我使用的浮点类型，并且经常在 float、double 和 long double 之间切换。我发现 tgmath.h 应该是......

c++ floating-point tgmath

回答 1 投票 0

为什么 1.0 / 3.0 * 3.0 在 IEEE 浮点表示中恰好为 1？

根据这个问题我知道1.0 / 3.0不能用IEEE浮点格式精确表示，而是四舍五入为略小于1/3的IEEE浮点数，用...

floating-point

回答 1 投票 0

使用 where 避免运行时警告

我想将一个函数应用于 numpy 数组，该数组经过无穷大才能得到正确的值： def relu(x): 赔率 = x / (1-x) lnex = np.log(np.exp(赔率) + 1) 返回 lnex / (ln...

python numpy floating-point

回答 2 投票 0

Python 中的十进制浮点数到十六进制

我正在尝试将浮点数从十进制转换为十六进制。但我没有达到我想要的格式。例如，如果十进制数是 54.75，我想要 for 中的十六进制数...

python-3.x floating-point number-systems

回答 1 投票 0

当我的所有输入都是整数时，为什么使用 float 而不是 int 会给出不同的结果？

当我的所有输入都是整数时，为什么使用 float 而不是 int 会给出不同的结果？在编程中使用 float 而不是 int 时的结果差异，即使所有输入都是

floating-point integer css-float floating-accuracy algebraic-data-types

回答 2 投票 0

舍入小数值时的问题

我正在构建一个测试计费应用程序，内置 rub on Rails、Jquery 和 Postgres DB（使用十进制列）这是我存储值的以下方式，但我认为这不是应该的方式......

ruby-on-rails ruby ruby-on-rails-3 floating-point

回答 1 投票 0

Python浮点数的精度（小数点）是多少？

我试图确定Python浮点数与零比较时的精确度。请注意以下几点： 1e-323==0 > 错误 1e-324==0 > 真实我发现阈值是 324 位小数，在

python floating-point

回答 1 投票 0

MATLAB 精度

如何在 MATLAB 中实现四倍精度（128 位算术），同时求解矩阵特征值问题？我正在尝试解决不可压缩平面 C 的线性稳定性分析问题...

matlab floating-point precision

回答 3 投票 0

保持交易运行余额的列公式正在产生额外的小数位

我有一张支票账户登记表来跟踪已清算的交易。它还保持运行平衡。例如... 查看＃日期描述。数量已清除平衡 12/01 开始 $50.00 是的 $50.00 12...

google-sheets floating-point array-formulas currency decimal-point

回答 1 投票 0

有没有一种无分支的方式可以将号码移动到另一个号码而不超过它？

我想实现一个符合以下接口和契约的功能： void move_towards(float& value, 浮动目标, 浮动步骤) // 通过“step”将“value”移向“target”。 ...

c++ math optimization floating-point branchless

回答 4 投票 0

最小（正）浮点数（最接近零）

我试图找到可以存储在单个精度浮点数中的最小（正）值（最接近零）。使用标头我可以获取该值，但如果我...

c++ gcc floating-point

回答 3 投票 0

测量经过的时间（以 C 为单位） - 纳秒 - 浮点铸造

我想测量两个事件之间的持续时间，例如捕获不同时间点的CPU快照。乘以100000000后是否需要在这里进行强制转换以浮动...

c floating-point

回答 2 投票 0

为 a+b+c 添加 3 条指令，并进行一次舍入

背景众所周知，两个浮点数的精确乘积并不总是浮点数，但错误exact(a*b) - float(a*b) 是。一些精确乘法的代码

floating-point floating-accuracy instruction-set instructions

回答 1 投票 0

将-0.67浮点改为定点

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

floating-point precision fixed-point

回答 2 投票 0

floating-point 相关问题

最新问题