floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

向量双重双浮点算法

存在双精度浮点不足够的工作负载，因此需要四倍精度。这很少在硬件中提供，因此解决方法是使用双倍，...

floating-point double vectorization precision

回答 1 投票 1

PI和浮点数的准确性

Pi的单/双/扩展精度浮点表示精确到小数位数？

floating-point precision floating-accuracy

回答 10 投票 11

C float初始化结果是意外的

Visual Studio 2019社区浮点变量不是我初始化它的。我希望避免截断，使其不那么精确。这不是“可控的”吗？试图强制init在其他方面进行回合...

c floating-point initialization

回答 3 投票 -1

如何在MATLAB中更改浮点运算的舍入模式？

我想在MATLAB中更改浮点运算的舍入模式。根据IEEE 754-2008，有五种舍入策略：舍入到最近，连接到最近的舍入，绑定...

matlab floating-point rounding

回答 1 投票 6

在Python中截断浮点数

我想从浮点数中删除数字，以便在点后面有一个固定的位数，如：1.923328437452 - > 1.923我需要作为字符串输出到另一个函数，而不是打印。我也想......

python floating-point

回答 28 投票 90

原始浮点值如何为-0.0？那是什么意思？

为什么原始浮点值可以是-0.0？那是什么意思？我可以取消该功能吗？当我有：float fl;然后fl == -0.0返回true，fl == 0也是如此。但是当我打印它时，它......

java floating-point

回答 5 投票 50

为什么在大型浮子上添加一个小浮子只是放下一个小浮子？

我说：浮动a = 3 //（gdb）p / fa = 3浮动b = 299792458 //（gdb）p / fb = 299792448然后浮点数= a + b //（gdb）p / f sum = 299792448我认为它有事情要做......

c floating-point

回答 3 投票 5

只读文本文件中指定行中的数字

我试图从文本文件的第18行和第19行读取两个浮点数并找到它们的平均值。请仅查看由#########分隔的代码部分。该文件混合了单词和数字，......

python file floating-point readfile

回答 2 投票 0

C＃如何评估悬停在中间窗口和中间窗口上的浮点数与编译后的浮点数？

我在字典中存储双打时看到了一些奇怪的东西，我对此感到困惑。这是代码：Dictionary a =新词典（）; ...

c# math floating-point

回答 4 投票 7

什么MySQL数据类型应该用于纬度/经度8位小数？

我正在使用地图数据，纬度/经度扩展到8位小数。例如：纬度40.71727401经度-74.00898606我在Google文档中看到使用：lat FLOAT（10，...

mysql types floating-point

回答 8 投票 203

java中double的数学表示

我想指定一个完全覆盖double / float数字范围的集合。对于Integer来说，它非常简单，因为它们都是从Integer.MIN_VALUE到Integer.MAX_VALUE的自然数，所以......

java math floating-point

回答 3 投票 2

带有后缀'f'的双常量用法[重复]

double f_64 = 3.35f; double f1_64 = 3.35;如果使用后缀'f'会有什么影响？使用在线FPU编译器，十六进制结果如下所示带后缀f - 0x400ACCCCC0000000，没有...

c floating-point double

回答 1 投票 0

峰会

有没有人在申请中使用过Kahan总结？什么时候额外的精度会有用？我听说在某些平台上，双重操作比浮动操作更快。我怎样才能测试...

algorithm floating-point

回答 3 投票 4

具有相同比率的2个数的除法结果总是相同吗？

a是整数。 b也是一个整数，但声明为double。 c = a / b，c也被声明为double。并且，有a2，b2，c2，具有与a，b，c类似的规则。另外，就小数代数而言，......

floating-point binary division

回答 1 投票 2

从浮点little-endian转换为big-endian再返回的问题

我正在尝试编写一个保存解析器，以小端保存浮点数，但是，Java是big-endian，所以我需要在写入时再转换FP并返回，但这确实会导致一些...

java floating-point endianness

回答 1 投票 0

如何在java中询问范围双精度值？

练习说：输入文件包含2个浮点值，小数点后一位数我绝对可以要求用户输入一个双精度值。但是我怎么能要求用户给我......

java import floating-point double

回答 1 投票 -1

比较php中的浮动

我想在PHP中比较两个浮点数，如下面的示例代码：$ a = 0.17; $ b = 1 - 0.83; //0.17 if（$ a == $ b）{echo'a和b相同'; } else {echo'a和b不相同';在这段代码里......

php floating-point

回答 13 投票 125

如何在JavaScript中将字符串转换为float？

我试图从数据网格中解析两个值。字段是数字的，当它们有逗号（例如554,20）时，我无法得到逗号后面的数字。我试过parseInt和parseFloat。我怎么能够 ...

javascript parsing floating-point

回答 8 投票 231

Enix.Sum和我的自定义和函数之间的Elixir意外浮点结果差异

作为一个功课，我已经实现了以下求和函数来返回一个数字列表的总和：defmodule作业做@spec sum（list（number（）））:: number（）def sum（l）做case l do [] ......

floating-point elixir

回答 2 投票 3

浮点不是可迭代的python

我想迭代地将浮点值存储在列表中，但它表示浮点不可迭代，即使迭代值是整数n = int（输入（'请输入N：'的值））;为我在范围内（...

python python-3.x list floating-point

回答 2 投票 1

floating-point 相关问题

最新问题