floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

private void waveformProgress（double currentProgressPercentage）{if（currentProgressPercentage <0.0f）currentProgressPercentage = 0.0f; if（currentProgressPercentage> 1.0f）...

java floating-point kotlin

回答 1 投票 2

用bash中的变量划分多个数字

如果用户输入圆周，我需要计算圆的面积。这就是我所拥有的，但它不起作用：让radius = $ circumference /（2 * 3.1415）并让area = 3.1415 * $ radius * $ radius

bash floating-point integer

回答 1 投票 1

浮点除法的软件实现，舍入问题

作为一个学习项目，我使用c ++在软件中实现浮点运算（add，sub，mul，div）。目标是更加熟悉浮点行为的底层细节。 ...

c++ algorithm floating-point

回答 1 投票 9

获取最低有效数字，包括其在JavaScript中的值

我想从JavaScript中的数字中提取最低有效数字，包括其值（以便不丢失任何信息）例如12.0123323 - > 0.0000003 123299000 - > 9000 123001 - > ...

javascript floating-point numbers

回答 3 投票 2

Python List to Float转换[关闭]

我的一个网页刮擦的结果产生以下：price = ['$ 1049.98']这是类型列表，我试图将其转换为浮点数。

python python-3.x list floating-point

回答 3 投票 -1

如何解析八进制字符串作为Rust中的浮点数？

我需要取一个八进制字符串，例如“42.1”，并从中获取一个浮点数（34.125）。在Rust中最好的方法是什么？我看到之前有一个from_str_radix函数，但它现在已被删除。

parsing floating-point rust

回答 1 投票 0

Erlang浮动和截断

Windows上的R15b给出：> trunc（1.9999999999999999999）。 2就此而言，只需键入float返回：> 1.9999999999999999999。 2.0 AFAIK，截断功能应该......

erlang floating-point truncate

回答 2 投票 1

Python：将字符串转换为十进制数

我有一个python列表，其中包含以下格式的字符串：A1 = ['“29.0”'，'“65.2”'，'“75.2”']如何将这些字符串转换为十进制数以对列表元素执行算术运算？

python string floating-point decimal

回答 6 投票 22

去漂浮比较[重复]

为了比较Go中的两个浮点数（float64）是否相等，我对IEEE 754的表面理解和浮点数的二进制表示使我认为这是一个很好的解决方案：func Equal（a，b ...

go floating-point ieee-754

回答 2 投票 -1

不能将小数舍入到R中的两位小数

我尝试了不同的函数将小数舍入为两位数，例如format（），formatC（），signif（）和round（）。它们都不能真正将所有小数舍入到小数点后两位。例如，我......

r floating-point

回答 1 投票 0

MASM汇编 - REAL4浮点指令

我正在尝试使用REAL4数据类型将浮点数存储在数组中。以下是什么正确的说明？从用户获取输入并存储在数组中？例如这样做但是......

assembly floating-point x86 masm32

回答 1 投票 1

WebAssembly：（f32.const nan：0x200000）表示0x7fa00000或0x7fe00000

在C中，strtof（“nan（0x200000）”，nullptr）表示为0x7fe00000。但是在WebAssembly spec解释器测试中：（assert_return（调用“f32.reinterpret_i32”（i32.const 0x7fa00000））（f32.const nan：...

c floating-point nan webassembly

回答 1 投票 0

round（）for C ++中的float

我需要一个简单的浮点舍入函数，因此：double round（double）; round（0.1）= 0 round（-0.1）= 0 round（-0.9）= -1我可以在math.h中找到ceil（）和floor（）但不是round（）。是吗 ...

c++ floating-point rounding

回答 20 投票 225

浮点舍入误差会将报告结果移动到范围内

我正在开发一个函数来报告测试结果以及该特定测试结果的下限和上限。这三个值将使用指定的公式（aX + b）/ c进行转换，其中X是......

c floating-point rounding floating-accuracy

回答 2 投票 0

相当于elm（或javascript）中的std :: nextafter（下一个可表示的浮点数）

有没有办法在Elm中获得c ++的std :: nextafter的功能？我很高兴使用外部JavaScript函数，如果这是唯一的方法。对于背景，std :: nextafter是一个带...的函数