precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

具有浮点的c ++程序的输出是否可预测？ [重复]

我的C ++程序计算一些浮点数x并打印出来：cout << x;对我来说重要的是所有计算机的输出都是相同的。由于“所有”非常广泛，让我们关注......

c++ floating-point cross-platform precision

回答 1 投票 1

如何控制reportlab表中的浮点数精度？

我正在使用带有Python 3.7的reportlab创建一个表。我想知道是否有办法改变浮点数十进制精度。例如，现在一个单元格中的浮点数是4.33333333。我想要 ...

python numbers precision reportlab

回答 1 投票 0

PostgreSQL：当将一个整数转换为非整数类型以强制PostgreSQL中的浮点除法时，我应该使用哪种数字类型？

我知道StackOverflow上有很多整数除法问题，但我没有看到这个问题。与许多编程语言类似，如果两个操作数都是......，PostgreSQL会执行整数除法。

postgresql casting integer precision division

回答 1 投票 1

为什么psql返回float4数字只有3位小数

我正在使用psql与postgresql数据库进行交互，我执行了我的查询选择纬度，经度来自myschema.mytable，经度限制为10;输出纬度|经度---------...

database postgresql floating-point precision psql

回答 1 投票 0

exp / log函数的复数计算在MSVC和G ++之间差异很大

对于将某些坐标转换为GPS格式，我使用的是复数（std :: complex）。该算法必须由MSVC（2015）和g ++（7.3.0）编译。我的偏差很大......

visual-c++ g++ precision complex-numbers

回答 1 投票 1

PostgreSQL：设置数据类型Double的默认值时出错

我正在使用整数数据类型的列，我想将其更改为DOUBLE PRECISION，默认值为0.0。 ALTER TABLE public.agents ALTER COLUMN total_number_of_points TYPE DOUBLE ...

postgresql precision default-value alter-table

回答 1 投票 0

如何在float32而不是float64上强制执行python float操作

我想在float32而不是float64上做一些数学浮点运算（+， - ，x，/）。我需要对number或numpy.array执行这些操作。还有一些numpy的数学函数，比如sqrt意思

python numpy floating-point operators precision

回答 1 投票 2

如何在PHP中基本转换大/高精度浮点数？

作为一个问题的通用，我似乎很难学习如何使用BCMath在PHP中基本转换大型高精度浮点值。我想基地-...

php floating-point precision base-conversion bcmath

回答 1 投票 0

为什么我必须隐式指定Fortran中函数的双精度返回值？

我是Fortran的新手，我正在尝试使用公共块。我的代码是简单的程序主隐式双精度（p）实* 8 :: x，y common / yvalue / y x = 3d0 y = 3d0 print * ...

fortran precision fortran90

回答 2 投票 1

C中float和double之间的精度

我知道有几个主题与我的相同，但我仍然没有真正得到它，所以我期待有人可以用更简单但明确的方式解释这一点，而不是粘贴其他...

c floating-point precision

回答 2 投票 -1

什么是评估精确召回值的ML算法的正确方法？

所以我知道Precision和Recall代表什么。精确优化误报和召回假阴性。到底什么是应该采取的业务的成本目标...

machine-learning statistics precision

回答 1 投票 0

如何在Python中的scipy.integrate.quad中使用参数epsabs？

我试图通过为scipy.integrate.quad指定参数epsabs来使我的积分更精确，这里说我们将从1e-16到1.0从scipy整合函数sin（x）/ x ^ 2 ....

python scipy precision integrate quad

回答 1 投票 1

对varchar postgresql的双精度

我必须修改一个表格，其数据类型的字段为double精度到varchar，alter是成功执行的，但是数据发生了变化，我无法理解postgres在它到来时会做什么...

postgresql casting precision

回答 2 投票 1

浮点精度不在字符串格式化

当我编写一个简单的wprintf函数并使用动词符号L“％。2f”向它传递一个浮点数时，它只是在屏幕上打印“f”而不是格式为0.00的数字。一世 ...

c++ string format precision

回答 2 投票 2

PHP和单元测试断言带小数

我有一个方法返回一个像1.234567890的浮点数。我想测试它确实这样做。但是，似乎这个返回的浮点数在不同的平台上有不同的精度，所以我怎么...

php unit-testing phpunit assert precision

回答 5 投票 25

为什么在将SQL Real转换为Numeric时，规模会略微增加？

我在SQL中的Quantity字段中将值（0.15）存储为Real数据类型。只是玩，当我作为数字转换时，缩放有一些非常小的变化。我不确定为什么会这样，而且......

sql floating-point precision sqldatatypes

回答 1 投票 0

向量双重双浮点算法

存在双精度浮点不足够的工作负载，因此需要四倍精度。这很少在硬件中提供，因此解决方法是使用双倍，...

floating-point double vectorization precision

回答 1 投票 1

PI和浮点数的准确性

Pi的单/双/扩展精度浮点表示精确到小数位数？

floating-point precision floating-accuracy

回答 10 投票 11

如何从生成的代码中自动消除双精度数学？

在针对ARM Cortex M *内核的嵌入式项目中，我们使用基于ARM clang的工具链（v6）。我们使用float类型来表示浮点数学。当我们尽量减少占地面积时，我们发现......

floating-point arm embedded clang precision

回答 1 投票 2

避免快速划分（互惠）

有没有办法用分区编写C代码来命令编译器不要在代码中需要常规除法精度的几个特定位置使用快速除法（通过倒数数学）...

c math precision

回答 2 投票 2

precision 相关问题

最新问题