floating-accuracy 相关问题

关于对浮点数执行的操作的准确性。

有没有办法在 PHP 中正确比较浮点数？

在PHP中，我愿意在一些操作后比较浮点数，但它不能正确显示。例如： $a = 0.2; 如果（（$a - 0.2）=== 0）返回真；别的返回假；它回来了

php compare floating-accuracy

回答 6 投票 0

浮点数计算问题。 12.7 - 20 + 7.3 不等于零

12.7 - 20 + 7.3 = -8.8817841970013e-016 我在读《Programming in Lua》这本书时遇到了这个问题，我不知道如何让计算结果为零。当我格式化资源时...

lua calculation floating-accuracy

回答 1 投票 0

如何纠正 Floor(t / dt) * dt != t 中的数值不稳定？

我有两个浮点数 t 和 dt。典型值为 t = 1 和 dt = .01f。我想在从 0 到 t 的每个“时间”执行一个函数 foo，步长为 dt。如果碰巧 t 不可整除...

c++ precision numeric floating-accuracy floor

回答 1 投票 0

Python 内置 round() 函数在 2.4 和 2.7 之间的变化

Python 中内置的 round() 函数在 2.4 和 2.7 之间有变化吗？ Python 2.4： Python 2.4.6（#1，2009 年 2 月 12 日，14:52:44） >>> f = 1480.39499999999998181010596454143524169921875 >&g...

python floating-point python-2.7 floating-accuracy python-2.4

回答 4 投票 0

ceil(double(int)*double) 或 ceil(float(int*double))？

我有这个C++代码：整数x；双 y； // 做某事 int z = ceil(x*y); 如果 x = 410，y = 1.1，则 z = 452，而它应该是 451。我更改为 z = ceil(float(x*y)) 并且它有效。我朋友建议...

c++ floating-accuracy ceil

回答 1 投票 0

快速实现5位精度的互补误差函数

[虽然这是一个自我回答的问题，但我会很乐意投票并接受任何替代答案，该答案要么为相同数量的计算工作提供卓越的准确性，要么减少金额...

c algorithm floating-point floating-accuracy

回答 1 投票 0

像Python中的Excel一样截断小数位

在我的Excel文件中，我有一些计算。计算返回 0,345，Excel 将其转换为 0,35。我用Python做的。 Python 返回 0,345，但我想像 Excel 一样获取 0,35。我尝试过...

python excel floating-point decimal floating-accuracy

回答 1 投票 0

Java float 比 double 更精确？

代码：类主要{ 公共静态无效主（字符串[] args）{ System.out.print("浮动:"); System.out.println(1.35f-0.00026f); System.out.print("双精度："); 系统...

java floating-accuracy floating-point-precision double-precision

回答 4 投票 0

计算非常大的 x,y 的 (1-1/x)^y 幂

我正在考虑在Python中计算非常大的x,y数字$(1-1/x)^y$。一种方法是使用 exp(y*log1p(-1/x))，但我不确定它的准确性。使用...有什么结果吗

python numpy floating-accuracy

回答 1 投票 0

这是我下面给出的代码，我想绘制准确性和损失图

defplot_training(hist): ''' 该函数采用训练模型并绘制准确率和损失的历史记录以及两者中最好的时期。 ''' # 定义需要的变量 tr_acc =

python training-data loss-function floating-accuracy

回答 1 投票 0

c++ fmod 对于 fmod(0.6,0.2) 返回 0.2

当我在 c++ 中使用 fmod(0.6,0.2) 时，它返回 0.2 我知道这是由浮点精度引起的，但看来我此时必须获得两个双精度数的余数非常感谢您提供任何解决方案

c++ floating-accuracy fmod

回答 4 投票 0

.NET 中的小数不准确

昨天在调试过程中发生了一些奇怪的事情，我无法解释它：所以也许我在这里没有看到明显的东西，或者我误解了 .NET 中小数的一些内容，但应该......

c# .net decimal floating-accuracy

回答 4 投票 0

如何在Golang中执行精确除法等于java中的BigDecimal.devide(BigDecimal divisor, MathContext mc)

我有一个任务是将核心银行系统从java迁移到golang，但是当我尝试在golang中执行精确除法时我遇到了困难。我尝试过使用数学/包舍入函数，但我没有得到我的

java go floating-point floating-accuracy decimal-point

回答 2 投票 0

当我的所有输入都是整数时，为什么使用 float 而不是 int 会给出不同的结果？

当我的所有输入都是整数时，为什么使用 float 而不是 int 会给出不同的结果？在编程中使用 float 而不是 int 时的结果差异，即使所有输入都是

floating-point integer css-float floating-accuracy algebraic-data-types

回答 2 投票 0

为 a+b+c 添加 3 条指令，并进行一次舍入

背景众所周知，两个浮点数的精确乘积并不总是浮点数，但错误exact(a*b) - float(a*b) 是。一些精确乘法的代码

floating-point floating-accuracy instruction-set instructions

回答 1 投票 0

NumPy 数组中高浮点错误的解决方法

我有代表 24 位 A/D 转换器响应的数据。我正在将数据设置为进入下面函数中的多项式回归，但我得到了有害的浮动量 -

python python-3.x numpy floating-accuracy gmpy

回答 1 投票 0

imshow 绘制非常大的整数，但“dtype 对象无法转换为浮点数”

我有以下代码，在网格上绘制一个函数，其中该函数恰好有一个非常大的整数值：将 matplotlib.pyplot 导入为 plt 从 matplotlib.ticker 导入 ScalarFormatter，

python matplotlib precision floating-accuracy imshow

回答 2 投票 0

Python plt.imshow() 绘制非常大的整数，但“dtype 对象无法转换为浮点数”

我有以下代码，在网格上绘制一个函数，其中该函数恰好有一个非常大的整数值：将 matplotlib.pyplot 导入为 plt 从 matplotlib.ticker 导入 ScalarFormatter，

python matplotlib precision floating-accuracy arbitrary-precision

回答 2 投票 0

使用缩放公差来比较浮点数

我想到比较浮点数的一个好方法是用浮点数缩放容差。这是不是一个好主意？这个例程需要针对特殊量进行扩展，例如 NaN、+/-Inf，但是...

python floating-point compare floating-accuracy

回答 1 投票 0

如何在双精度算术中正确舍入到最接近的整数

我必须使用Python3（PyPy实现）分析大量数据，其中我对相当大的浮点数进行一些操作，并且必须检查结果是否足够接近整数。举个例子...

python-3.x precision floating-accuracy pypy double-double-arithmetic

回答 1 投票 0

floating-accuracy 相关问题

最新问题