precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

检查输入是否为100的因数，在C＃中不总是正常工作[重复]

我正在使用以下公式检查输入的数字是否为100的因数：100％n === 0但是当有人输入0.02时，它说100％0.02 = 0.0199999999999979这是不正确的。为什么...

c# floating-point precision
回答 2 投票 0

我如何在c ++中打印不超过6个十进制数字的数字？ [重复]

我正在尝试一个问题。我需要以6个十进制数字打印ans。例如，如果ans是64，我想打印64.000000，我尝试了以下方式。我做错了什么？ #include ＃...

c++ double decimal precision
回答 1 投票 0

连续分数和佩尔方程-数值问题

数学背景连续分数是一种表示数字（有理还是非有理数）的方法，使用基本的递归公式进行计算。给定数字r，我们定义r [0] = r并具有：对于...中的n，]]

math precision numeric
回答 1 投票 0

Keras与Numpy的数值误差

为了真正理解卷积层，我在基本numpy中重新实现了单个keras Conv2D层的正向方法。两个接缝的输出几乎相同，但是有一些...

python numpy keras floating-point precision
回答 1 投票 0

Java-使用double可以更精确

我目前正在为uni编写一个项目，我想知道是否有任何好的实践可以更精确地使用double值。也就是说，如果我只写很长的文字，精度会有所不同...

java floating-point double precision floating-accuracy
回答 1 投票 0

如何避免math.sin（math.pi * 2 * VERY LARGE NUMBER）的错误裕度比math.sin（math.pi * 2）大得多？

我已经阅读了其他问题，例如由于浮点表示，sin（2π）不为零，但非常接近。在我的代码中，这个很小的错误是没有问题的，因为我可以四舍五入...

python numpy math precision trigonometry
回答 3 投票 0

F1-数据不平衡得分

我正在执行二进制分类任务。我的评估数据不平衡，由appr组成。一级学生20％，二级学生80％。甚至我在每个类类型上都有很好的分类准确性，...

machine-learning statistics classification precision imbalanced-data
回答 1 投票 0

Wolfram alpha和浮点算术（不重要）

我正在研究浮点算术。假设我们具有双精度。我们知道，当我们减去两个“几乎”具有相同大小的数字时，相对误差很大。在MatLab中...

floating-point precision floating-accuracy numerical-analysis
回答 1 投票 -1

Boost C ++如何输出不带指数字符的浮点值的所有数字？

＃include #include #include 使用boost :: multiprecision :: number;使用boost :: ...

c++ boost precision boost-multiprecision
回答 1 投票 0

在C（GCC编译器）的float数据类型中打印多于6个十进制数字时打印的随机数字

我正在执行以下C代码-float a = 3.25678932; printf（“％0.10f \ n”，a）;上面的printf（）语句给出以下输出：3.2567892075我无法理解其他四位数字（'...

c gcc precision
回答 1 投票 -1

Python乘法丢失浮点精度

我最近正在使用浮点数，但我意识到了一些我不期望的关于浮点数的东西。这是一个示例a = 0.1 print（f“ {a：0.20f}”）＃'0.10000000000000000555'b = ...

python floating-point precision
回答 2 投票 2

R：是否可以绑定非数字列

library（Rmpfr）mynumber

r precision numeric cbind
回答 3 投票 1

涉及文字比较安全吗？

考虑代码：#define LITERAL 1.0 int main（）{double x = LITERAL;如果（x == LITERAL）返回1;否则返回0； }是否保证对于任何数字双精度值我们都会返回1 ...

c++ c floating-point precision literals
回答 1 投票 0

为什么会有不同的结果？ float vs double [duplicate]

System.out.println（0.1F + 0.2F）; // 0.3 System.out.println（0.1D + 0.2D）; // 0.30000000000000004我理解了0.1D + 0.2D〜= 0.30000000000000004。但我猜这些结果是相同的，但事实并非如此。 ...

java computer-science precision
回答 2 投票 0

QString：最多2个小数位数，不带零结尾的数字

我有这样一个除法：number / 1000.0有时它给出的答案如96.0000000001，有时除法可以按预期进行。我想将我的数字限制为最多两个小数位...

c++ qt precision qstring qtcore
回答 2 投票 16

单位在最后-直觉

我正在阅读David Goldberg的“每位计算机科学家必须知道的浮点数”，并且遇到了有关ULP的部分。他举了一个例子：实际结果：0.0314 = 3.14 x 10 -2 ...

floating-point precision
回答 1 投票 0

如何提高性能结果的精度

我正在使用perf来分析C库。但是，它不会产生％100的结果，因为它将数字减小到0.00x以下。由于有成千上万的呼叫，因此会影响整体...

profiling precision perf
回答 1 投票 0

使用cin时接受小数点后2位数字

我将setprecision（2）与cout一起使用。有没有办法接受具有特定浮点精度的变量值？

c++ input precision
回答 1 投票 0

Java：

当我在JVM中运行以下代码时，我无法理解为什么它会表现为这样。根据我的理解，

java precision
回答 4 投票 0

在scipy.stats中支持float128（np.longdouble）

我想用scipy.stats进行一些概率计算，并避免下溢/溢出：除了使用适当的对数函数外，我还尝试使用numpy来提高浮点精度。...

python scipy precision long-double
回答 1 投票 1
最新问题
© www.soinside.com 2019 - 2024. All rights reserved.