precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

我使用 MinGW-w64 g++ 编译器 10.2 和 10.3。我自己使用 https://github.com/niXman/mingw-builds 构建了两者。 Windows 上的 g++ 有一个奇怪的地方：应用程序的主线程将...

c++ g++ pthreads precision mingw-w64

回答 3 投票 0

How to get exact extremely p-value in R (on log scale or otherwise) [关闭]

我在 R 中运行线性回归模型，关联非常显着——P 值远低于标准 2.2e-16。回归的 t 统计量为 -44.85 和降级...

r floating-point regression precision numeric

回答 1 投票 0

与 GMAT（通用任务分析工具）相比，重力扰动状态传播的 C++ 代码显示错误

使用 Runge kutta 7 (8) 方法开发了引力摄动模型和传播模型。该模型使用 EGM96 模型的非标准化系数。与 GMAT 相比，它显示错误...

c++ math compiler-errors precision gravity

回答 0 投票 0

现在是否有 64 位处理器可以例行公事地处理 denorms，没有异常或中断？

标题说明了一切。如果有处理器的 FPU 不处理异常并导致异常，我很想知道谁是害群之马，谁是白羊。我的应用程序兴趣...

floating-point precision ieee-754

回答 0 投票 0

用非常小的数字计算反正切

我需要非常精确地计算反正切值。有问题的等式是 -atanh(1/ (1 + 10**-x)) 其中 x 应该是 240 的数量级并返回 -276.65 的近似值。我试过了……

python math precision

回答 1 投票 0

浮点数除以整数除法提高了精度但不明白为什么

我正在查看 C 应用程序代码，发现整数除法的浮点数提高了精度，但我不明白为什么。例如。将浮点数 12926.0 除以整数 100 ...

c floating-point precision

回答 0 投票 0

如果 y=1/x 其中 x,y 可以用浮点数表示而不四舍五入，并且 MIN_VALUE<=x,y,z,z*y<=MAX_VALUE, is z*y==z/x always true?

我正在查看一些代码，发现有些部分使用 num/2，而其他部分使用 num * 0.5。这启发了我一个问题：在 MIN_VALUE 和 MAX_VALUE 的范围内，num/2 和 num*0.5 可以互换吗？...

javascript floating-point precision

回答 1 投票 0

如何强制 perl 以与其他数字相同的格式打印小数字？

我真的需要这个解决方法来保持数字输出格式吗在 perl 中改变小数字？对于 ( 77777, 10, -15, 132, 66, 444.33, 0.0002) { 我的 $x = $_ / 1000 / 1000； $x =

perl printf precision

回答 2 投票 0

python 中的轻微舍入错误

在此处输入图像描述我正在根据自动分级机检查我的代码，我遇到了这个。这是我的所有代码： def zeros(n, m = 0): 如果米 == 0：米 = ñ “”“创建...

python precision rounding-error

回答 0 投票 0

在 perl 中打印 .00001 的解决方法

我有这个程序：我的 $d = 40000 * 100 / 360；打印“在赤道 "; printf "%9s° = %10.3f 米 ", 10**-$_, 10**-$_ * $d 代表 0 .. 7; 它输出在赤道 1°...

perl printf precision

回答 1 投票 0

Reverse/Inverse Change Currency Rate Calculation Issue [关闭]

在我的 SQL Server 数据库中，我有列 rate-changed-by-cashier，它以 Decimal(30,10) 类型存储数据。我将此值存储为 1/cahier-input。例如，如果收银员输入 1310 它将是 ...

sql sql-server precision

回答 0 投票 0

保持整数的精度，作为双精度传递

我有一项服务可以从外部世界接收双打。我确定所有双打小数点后只有 4 位数字。为了保持精度，我想将传入的双精度数转换为整数，...

java algorithm floating-point double precision

回答 1 投票 0

Haskell 中除 Double 值时的精度问题

我正在尝试在 Haskell 中连续将双精度浮点数 (Double) 除以 2.0 一百次。当我得到值 5960464477539.06250 时，将此值除以 2.00000 再...

haskell precision division

回答 2 投票 0

如何在 python 中对 numpy 向量强制量化（降低位精度）？

我正在尝试研究如何降低 python 中 numpy 向量的精度或对数据而不是神经网络执行量化。我的目标是植入一个量化机制（红色...

python numpy floating-point precision quantization

回答 0 投票 0

检查两个列表是否相同直到数值错误

我有两种算法，理论上应该执行相同的任务，我想检查它们是否确实如此。他们每个人都返回一个包含混合数据类型的大列表（数字，列表，strin ...

python list precision

回答 2 投票 0

浮点系统中的二次公式

假设我们正在求解二次方程 ax2 + bx + c = 0，其中 a = 1.22、b = 3.34 和 c = 2.28，使用基数 β = 10 和精度 p = 3 的归一化浮点系统。 (a) 什么是

floating-point precision

回答 1 投票 0

Java：将浮点数转换为双保留小数点精度

我有一个基于浮点数的小数存储。 float 的精度可以满足我的需要。现在我想使用 double 对这些数字执行一些更精确的计算。一个

java floating-point decimal precision floating-point-conversion

回答 3 投票 0

如何在 PyTorch 中准确计算高 Lp 范数

我正在使用 torch.norm 计算具有相对较大 p 值（在 10-50 范围内）的 Lp 范数。我这样做的向量具有相对较小的值，我注意到结果不正确

python precision linear-algebra torch magnitude

回答 0 投票 0

为什么 dpes 这段代码打印“False”？为什么它不打印“True”？ [重复]

当我运行这段代码时，它会打印出 False。我不清楚 #包括主函数() { 浮动 f = 0.1；如果（f == 0.1） printf("真"); 电子...

c floating-point precision

回答 1 投票 0

为什么这段代码打印“False”？为什么不打印“真”？

当我运行这段代码时，它会打印出 False。我不清楚 #包括主函数() { 浮动 f = 0.1；如果（f == 0.1） printf("真"); 电子...

c precision

回答 1 投票 0

precision 相关问题

最新问题