floating-accuracy 相关问题

关于对浮点数执行的操作的准确性。

处理融合乘法加法浮点不准确性的通用方法

昨天我正在跟踪我的项目中的一个错误 - 几个小时之后 - 我已经缩小到一段代码，这些代码或多或少地做了类似这样的事情：#include #include＆...

c++ floating-point precision floating-accuracy fma

回答 3 投票 4

是否存在两个相互相乘（或分开）的数字会引入错误？

这是我正在做的测试库，学习FP basic ops（+， - ，*，/）将如何引入错误：#include ＃包括 int main（）{std :: cout.precision（100）; ...

c++ floating-point floating-accuracy

回答 3 投票 -1

为什么这些数字不相等？

以下代码显然是错误的。有什么问题？一世

r floating-point floating-accuracy r-faq

回答 5 投票 246

使用loc，Pandas浮动值问题

对于Pandas用户来说，这可能是一个简单的用户，但是我会尽力而为，我真的很感激你的建议。我无法检索我保存到数据框中的值...

python python-3.x pandas numpy floating-accuracy

回答 1 投票 3

为什么Snowflake上的SQL查询不会出现浮点不准确？

根据Snowflake文档，FLOAT是双精度（64位）IEEE 754浮点数。这是常态。例如，Python也以这种方式实现浮点数，因而受到影响......

sql floating-accuracy snowflake-datawarehouse

回答 1 投票 0

LibreOffice浮点精度

我正在使用浮点数对日期和时间进行计算。但是，我注意到计算值不符合预期。这是代码片段。 Dim sTemp As Single，sLineDateTime As ...

libreoffice floating-accuracy basic

回答 1 投票 0

计算熊猫框架中不同列的混淆矩阵？

我有一个3000行和3列的数据帧，如下所示：0 col1 col2 col3 ID1 1 0 1 Id2 1 1 0 Id3 0 1 1 Id4 2 1 0 ...

python pandas dataframe floating-accuracy confusion-matrix

回答 1 投票 0

在Swift中获取double的小数部分

我试图在swift中分隔double的十进制和整数部分。我尝试了很多方法，但它们都遇到了同样的问题......让x：Double = 1234.5678让n1：Double = x％1.0 ......

swift math floating-accuracy

回答 5 投票 10

lua和javascript之间的不同数字浮点数

lua precision floating-accuracy

回答 1 投票 1

比较浮点值有多危险？

我知道UIKit使用CGFloat是因为分辨率独立坐标系。但每次我想检查例如frame.origin.x是否为0时它让我感到恶心：if（theView.frame.origin.x ...

objective-c ios c floating-point floating-accuracy

回答 10 投票 377

浮点算术中是否满足（1 + sqrt（2））^ 2 = 3 + 2 * sqrt（2）？

在数学中，身份（1 + sqrt（2））^ 2 = 3 + 2 * sqrt（2）成立。但是在浮点（IEEE 754，使用单精度，即32位）计算情况并非如此，因为sqrt（2）没有......

c++ math floating-point precision floating-accuracy

回答 16 投票 2

为什么我的浮动功能不按预期工作？

我的函数priceDifference里面的startShare的if语句最后没有返回计算的浮点数并在控制台中显示它。我的其他功能正常工作......

c function math floating-accuracy

回答 2 投票 0

将decimal值与evaluate进行比较

我的问题很简单。对于所有问题，以下代码应返回true。但问题4及以上返回错误，我的问题是为什么？ 1。

coldfusion coldfusion-9 floating-accuracy

回答 1 投票 0

为什么一些非常接近的浮点数会导致这个Python代码在3.4.x到至少3.6.6版本中出现这种差异？

当我执行这个代码时，它产生算术分歧或不产生非常接近的浮点数，当数字为2时，n-p / q可以产生可接受的结果，有时候......

python math floating-accuracy

回答 2 投票 1

工作精度如何在Javascript中浮动数字？

大家好我正在研究关于天文计算的javascript文件，所以我需要更多的精确度。我对每一行都有很多操作，我想要更精确的结果（也是十或二十...

javascript floating-point precision floating-accuracy

回答 2 投票 1

如何在Python中正确处理浮点运算？

如何使用浮动正确添加或减去？例如，如何执行：2.4e-07 - 1e-8，使其返回2.3e-7而不是2.2999999999999997e-07。转换为int首先产生意外...

python python-3.x floating-point precision floating-accuracy

回答 3 投票 1

如何避免具有多列的numpy数组的精确总和

我一直认为，numpy使用了一种成对求和，它确保了float32的高精度 - 操作：导入numpy为np N = 17 * 10 ** 6＃float32-precision不再足够......

python numpy floating-accuracy ieee-754

回答 2 投票 3

比较大数字时的行为不直观

刚刚在Google CodeJam中竞争时发现了一些不直观的行为。输入：pow（10,20）in [pow（10,20）* 1.0]输出：True（ok ...）输入：pow（10,30）in [pow（10,30）* 1.0]输出：False （??? ...

python boolean floating-accuracy largenumber

回答 1 投票 1

python中的负零

我在python的输出中遇到负零;它的创建例如如下：k = 0.0 print（-k）输出为-0.0。但是，当我将-k与0.0进行相等性比较时，它会产生True ....

python floating-point floating-accuracy zero

回答 5 投票 46

PI和浮点数的准确性

Pi的单/双/扩展精度浮点表示精确到小数位数？

floating-point precision floating-accuracy

回答 10 投票 11

floating-accuracy 相关问题

最新问题