floating-accuracy 相关问题

关于对浮点数执行的操作的准确性。

在python中，为什么math.floor(4.99999999999999)==5？

我知道这是一些浮点错误但我读到过Python的精度是无限的所以这种事情不应该发生。自带的可运行代码： import math math.floor(4......)。

python python-3.x precision floating-accuracy

回答 1 投票 1

为什么在 numeric_limits<float>::min()中加1会返回1？

为什么从float max中减去1会返回一个合理的值, 而在float min中加1会返回1? 我认为如果你加减一个小于该特定的epsilon的值......，它将返回最小的标准化正值。

c++ gcc floating-point x86-64 floating-accuracy

回答 1 投票 0

从R：中的scale :: percent（）中删除百分号

这是我的代码。 my_boxplot

r percentage floating-accuracy

回答 2 投票 0

格式长和格式长g之间的差异

我在Matlab中搜索了long格式和long long格式之间的差异。但是我不确定它们之间到底有什么差异。它们之间的差异会影响准确性吗？谢谢...

matlab decimal rounding floating-accuracy

回答 1 投票 1

用于计算欧几里德距离的函数

我编写了计算欧几里得距离的函数。函数的返回值不符合要求的精度范围。我将所有变量加倍，这是最准确的类型，并使用了sqrt（）...

c floating-accuracy euclidean-distance

回答 1 投票 0

SQL Server Float数据类型计算与十进制

在以下查询中，声明@a float（23）声明@b float（23）声明@c float（53）设置@a = 123456789012.1234设置@b = 1234567.12345678设置@c = @a * @b选择@c选择LTRIM（STR（（@ c），32,12））...

sql-server tsql floating-point decimal floating-accuracy

回答 4 投票 2

了解32位浮点数

我试图更好地理解计算机中的浮点。在阅读有关32位浮点数的过程中，我发现一般而言，以下是32点浮点数的构造：1位表示正数/ ...

architecture floating-point precision 32-bit floating-accuracy

回答 1 投票 0

在Matlab中加速程序

我有2个函数：ccexpan-用于计算函数f的插值多项式与第一种基础的Chebyshew多项式中的N个节点的系数。 csum-为...

performance matlab numerical-methods floating-accuracy polynomials

回答 2 投票 1

生成BigInt值的随机样本

对于使用JavaScript实现的游戏，我需要生成一个随机列表，其中包含[0，N）中的n个唯一数字，其中N可能大于Number.MAX_SAFE_INTEGER。这带来了三个重要的挑战：...

javascript algorithm random floating-accuracy bigint

回答 2 投票 0

Chebychev点和浮点精度

我在演讲笔记中看到，切比雪夫点定义为（n = 20；用MatLab表示法表示）； i =（1：n + 1）'; ％Chebychev xi = 5 * cos（（2 * i-1）* pi /（2 *（n + 1）））在[-1,1]中不对称......>

floating-point interpolation precision floating-accuracy numerical-analysis

回答 2 投票 0

在Python中找到多项式的有理根

关于在python的sympy.solvers中求解多项式，我有一个小问题。我想要的是找到理性根源，而不是非理性根源。我的尝试在下面给出-来自sympy.solvers ...

python python-3.x sympy floating-accuracy

回答 1 投票 2

python浮点数，即使全为零，也保留有效数字

我必须绘制一个数字，其中某些数字具有特定的有效数字，即使全为零也是如此。我的意思是，如果我有一个像12.00000000的数字，我想打印12.000而不是12。此...

python floating-accuracy digits

回答 1 投票 0

如何以全精度打印浮点数

如果我的值0.3不能准确地用double或float表示，我如何将其实际值打印为字符串。像这样的程序：使用系统；类程序{static void Main（...

c# floating-point number-formatting floating-accuracy

回答 1 投票 0

如何将字符串准确转换为浮点数？

我正在尝试用D编程语言编写一个函数来替换对C的strtold的调用。（理论上：要使用D中的strtold，必须将D字符串转换为C字符串，这效率低下。...

floating-point d floating-accuracy

回答 5 投票 10

浮点数显着性加减运算

虽然学习浮点运算的精度和避免精度的不同方法（使用共轭，taylor级数，...），但书中经常提到两个非常相似的减法...

floating-point precision floating-accuracy numerical-analysis

回答 2 投票 1

如何在C ++中将浮点值存储在数组中

我得到一个整数值作为我的输出，但我希望它是一个浮点值。我无法在我的代码中找出问题。这是代码。 #include #include ＃...

c++ arrays algorithm floating-accuracy knapsack-problem

回答 2 投票 0

为什么在访问查询中看到-0,000000000000001？

我有一个sql：SELECT Sum（Field1），Sum（Field2），Sum（Field1）+ Sum（Field2）从表GROUP BY DateField获得Sum（Field1）+ Sum（Field2）<> 0;问题有时是field1和field2的总和是值...

sql ms-access double floating-accuracy

回答 3 投票 0

快速和浮点数之间有区别吗？

我编写了一个用于计算货币的基本程序。如果我将函数的数据类型切换为浮点型。如果我将初始值设置为16.16，便士的计数是不正确的。如果我将其切换为双...

swift double floating-accuracy

回答 1 投票 -2

如何在Qt和C ++中获得正确的浮点精度？

我正在研究Qt，我发现它真的很棒，并且容易一些，因为我已经在Microsoft中使用过MFC。我已经开发出一种科学计算器供教育使用。但是我面临的是：我要浮动...

c++ qt floating-accuracy

回答 1 投票 -1

Java-使用double可以更精确

我目前正在为uni编写一个项目，我想知道是否有任何好的实践可以更精确地使用double值。也就是说，如果我只写很长的文字，精度会有所不同...

java floating-point double precision floating-accuracy

回答 1 投票 0

floating-accuracy 相关问题

最新问题