floating-accuracy 相关问题

关于对浮点数执行的操作的准确性。

在没有上溢和下溢的情况下，对于浮点数 x，x/4 是否始终等于 x/2/2（也适用于 x*4 == x*2*2）？

例如，据我所知，一个浮点x，其中x/n^2可能不等于x/n/n，因为在x/n/n中，这会首先创建一个中间x/n。例如：文档.write(1.23456789/49 == 1.23...

javascript floating-point precision floating-accuracy

回答 1 投票 0

为什么显式整数转换没有按预期应用

请注意，我的问题不是“为什么浮点数会失去精度”，我知道并非数字的所有小数部分都可以采用二进制形式。真正存储的是实际...

c floating-point double precision floating-accuracy

回答 1 投票 0

为什么整数截断在这种情况下不适用？

请注意，我的问题不是“为什么浮点数会失去精度”，我知道并非数字的所有小数部分都可以采用二进制形式。鉴于： //这只是一次考试...

c floating-point double precision floating-accuracy

回答 1 投票 0

A) 已详尽讨论的主题 - double 和 float 之间的精度。 B)需要一些生活和学习方面的建议

A 部分）大家好，我是CS一年级学生。在早期的测验中，有一些花车是双打的。我在提交后发布此内容。所以我认为我没问题，实际上我希望没人关心。漂浮...

c floating-point double precision floating-accuracy

回答 1 投票 0

比较 WGPU/WGSL 中的 2 个浮点值

根据 GLSL、OpenCL 等的经验...我发现在着色器代码中“仅”比较浮点数是不寻常的。就像a == b那样。尽管规范写道：快递...

gpu floating-accuracy webgpu wgsl

回答 1 投票 0

Dart - 减去一些双精度值会给出错误的结果

我随机选择了两个双数：双a = 7918.52；双 b = 5000.00；我期望从 a - b 得到 2918.52。好吧，它给我的结果是 2918.5200000000004，这看起来很奇怪。原则...

dart floating-point double floating-accuracy

回答 3 投票 0

为什么这个浮点计算的结果不一致？ [已关闭]

为什么此代码片段的答案是 400.002 而不仅仅是 400？ #包括 int main(){ 使用命名空间 std；浮动a = 123.4; a = (a - int(a))*1000; 计算<< a ...

c++ double floating-accuracy

回答 1 投票 0

为什么这句C++语句的结果是这样的？

为什么不是400？我是新手。这是由于浮子的精度造成的，还是其他原因？对于C++，如果我只想保留一位小数该怎么办输入图像描述...

c++ floating-accuracy

回答 1 投票 0

MongoDB 缺乏精确递增浮点数

我有一个问题，因为 MongoDB 在增加浮点数时似乎无法保持精度。例如，以下应产生 2.0： fromdecimal import Decimal # 对于 Python 精度为了...

python mongodb floating-accuracy

回答 2 投票 0

映射到同一个双精度浮点数的两个 16 位小数精度的数字是多少？

据说，在双精度浮点数覆盖的范围内，任何用15位精度表示的十进制数都可以用一个特定的浮点数唯一标识。但是，如果我们包括...

floating-point binary precision floating-accuracy

回答 3 投票 0

Pytorch Lightning 2 精度崩溃

我是第一次尝试使用 Lightning PyTorch，但是在测试中我遇到了一些奇怪的问题。我已经报告了训练期间的损失和准确性趋势，但是，当我...

python deep-learning pytorch floating-accuracy pytorch-lightning

回答 0 投票 0

如何在 DolphinDB 中对浮点值进行精确舍入？

我想用round函数对一个float进行四舍五入，但是结果不是我想要的。例如，round(17.955, 2) 的结果是 17.95 而不是 17.96。要获得后一个，我必须添加 0.0001 ....

rounding precision floating-accuracy dolphindb

回答 0 投票 0

dplyr::filter 中 == 的替代方案，以适应浮点数

首先，让我说，我知道我们受到计算机算术和浮点数的限制，有时 0.8 不等于 0.8。我很好奇

r filter floating-accuracy

回答 0 投票 0

Math.round(intA/intB) 在每个设备上总是返回相同的值吗？

我担心像 7/2 这样的东西在某些计算机上可能会变成 3.49999999 而不是 3.5，然后四舍五入到 3 而不是 4。这可能吗？我需要每台计算机都准确地重新运行相同的数学运算。这...

javascript floating-accuracy math.round

回答 1 投票 0

如何处理过拟合精度？

这是图像描述#这是我模型的准确性。这个精度是否合适，或者我的模型会过度拟合？如果是，那么我该如何解决？还指导我如何找到混淆矩阵和准确度...

deep-learning floating-accuracy confusion-matrix horizontal-accuracy

回答 0 投票 0

JavaScript 中的货币转换和浮点精度

由于 JavaScript 有其与浮点数的怪癖（例如 0.1+0.2 > 0.3 和类似的除法），如何处理货币转换？通常货币兑换率是浮动的，从 6 到...

javascript precision currency floating-accuracy

回答 0 投票 0

python浮动实数，即使是零，也会保留重要的数字。

我必须绘制一个有特定数字的数字，即使所有数字都是零。例如，12.00000000将被打印为12.000而不是12，我已经尝试了以下内容：a='23.00000000'我......。

python floating-accuracy digits

回答 2 投票 0

python浮动实数，即使是零，也会保留重要的数字。

我必须在一个数字中绘出一些有意义的数字，即使所有的数字都是零。我的意思是，如果我有一个数字，如12.00000000，我想打印12.000而不是12。这...

python floating-accuracy digits

回答 2 投票 0

test-js: 科学软件：重要数字

我正试图使用Jest测试用TypeScript编写的科学软件。我想测试我所有的浮点结果到8位有意义的数字，但似乎在ts-...

floating-point jestjs precision floating-accuracy significant-digits

回答 1 投票 0

求满足浮点不等式的最小整数

我正在寻找一种快速算法，它可以找到满足以下不等式的最小整数N，其中s、q、u和p是浮点数（使用IEEE-754 binary32格式）：s > q + ...

c++ floating-point floating-accuracy floating-point-conversion inequality

回答 1 投票 2

floating-accuracy 相关问题

最新问题