floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

使用浮点变量作为循环计数器的风险和非“==”条件的小数增量/减量的风险？

我们可以安全地使用浮点数作为循环计数器，并在每次迭代时按小数量递增/递减它们，就像下面看似无风险的程序一样吗？当然我知道使用浮点数作为......

c loops floating-point floating-point-precision loop-counter

回答 4 投票 4

从float中删除小数部分但保留类型的有效方法

我知道通过std :: round，std :: floor或std :: ceil或简单的类型转换，我们可以删除小数部分，但是使用类型转换，变量会丢失其原始类型（float或double）。在那儿 ...

c++ floating-point

回答 2 投票 0

在报告Odoo v10中显示整数

“Project”模块中有一个“任务分析”报告。它有一个字段“#Days to deadline”。该字段显示为“Float”。我可以以某种方式格式化此字段，以便它显示为整数（...

floating-point integer report rounding odoo-10

回答 1 投票 0

理解IEEE中的指数00000000和11111111

我无法理解这些指数：为什么指数0000 0000 = -126而不是-127（即0-127）？指数1111 1111的确切值是多少？为什么0 1111 1111 0000 0000 0000 0000 ...

floating-point computer-science ieee

回答 2 投票 2

具有较高尾数的fp如何表示较小的数字？

我爱FP;每当我想到它的时候，我就明白它一无所知:)这是一个我不明白的例子。我总结8次相同的数字（0.1），我打印结果，两个...

c++ floating-point

回答 4 投票 6

用C语言减去浮点数

＃包括＃包括 float sum（float * A，int len）//浮点表的总和{float ss = 0.0; int i; for（i = 0; i <len; ++ i）ss + = A [i]; ...

c floating-point precision floating-accuracy qsort

回答 2 投票 -3

Fmod函数显然输出一个预期的double，但是if（fmod == expected double）不能评估为true [duplicate]

当我调用我的函数时：formatCurrency（7.5）; string formatCurrency（double cash）{cout <<“fmod（cash，.1）等于”<< fmod（cash，.1）<< endl; if（fmod（cash，1）== 0）{cout＆...

c++ floating-point comparison

回答 1 投票 2

为什么getFloat（）的浮点值变为0.0？

我是关于java的新手是否有关于float的编码有什么问题？因为它变成了0.0而且我不明白漂浮你能解释一下吗？它发生在getFloat这个程序来计算锥...

floating-point getter-setter volume pi main-method

回答 1 投票 0

使用Java迭代所有浮点值

我正在开发一个数学函数，并希望在一个范围内的每个浮点值上测试其输出。我已经在C ++中完成了这个，但现在我想将性能与Java进行比较。我如何能 ...

java floating-point reinterpret-cast

回答 2 投票 0

JavaScript - 以干净的方式将字节转换为float

我最近发现我可以将Float32转换为表示它的字节数组 - 如下：let number = Math.PI; let bytes = new Uint8Array（new Float32Array（[number]）。buffer）; // [219,15,73，......

javascript floating-point buffer converters

回答 1 投票 1

gcc的ffast-math实际上做了什么？

我理解gcc的--ffast-math标志可以大大提高浮动操作的速度，并且超出IEEE标准，但我似乎无法找到有关它正在发生的事情的信息。能够 ...

performance math gcc floating-point fast-math

回答 2 投票 127

Math.random返回0的几率是多少？

就像这个问题的提问者一样，我想知道为什么Math.ceil（Math.random（）* 10）不比Math.floor（Math.random（）* 10）+ 1更受欢迎，并且发现它是因为Math。随机有一点点（但......

javascript random floating-point

回答 1 投票 0

在Python中的小数点后面的浮点数中添加零

我正在读取文件中的数据，修改它并将其写入另一个文件。新文件将被另一个程序读取，因此继续精确格式化至关重要，例如，一个......

python floating-point decimal

回答 3 投票 19

浮点中整数的精确表示

我试图理解浮点格式的整数表示。由于IEEE浮点格式尾数只有23位，所以我希望任何大于1的整数

c++ floating-point precision

回答 1 投票 1

预期类型int在Pycharm中浮动

sub1 = int（输入（“输入第一个主题的标记：”））sub2 = int（输入（“输入第二个主题的标记：”））sub3 = int（输入（“输入第三个主题的标记）：“））sub4 = int（...）

python-3.x floating-point int

回答 1 投票 -4

浮点数呈现背后的谜团

我正在为我的应用程序测试一些简单的解决方案，我遇到了一些问题出现在我脑海中的情况......“为什么一个浮动数字正确地用JSON表示（正如我所料）而另一个不是......

swift floating-point decimal precision floating-accuracy

回答 3 投票 0

在Javascript中处理浮点精度[重复]

我在javascript中有大量的数值y。我想通过将它们舍入到最接近的x的倍数来对它们进行分组，并将结果转换为字符串。我怎么绕过烦人的...

javascript floating-point double floating-accuracy numerical-methods

回答 5 投票 74

舍入到偶数131.575导致奇数而不是偶数

请考虑以下代码示例：var tests = new List {131.505,131.515,131.525,131.535,131.545,131.555,131.565,131.575,131.585,131.595}; foreach（测试中的双n）{...

c# .net floating-point numbers rounding

回答 1 投票 2

添加JavaScript和PHP中的浮点数和一致性

我确信很多人都经历过，我在浮点数学方面遇到了一些问题 - 我用JavaScript修复了这个问题，不过虽然在PHP中似乎没问题我想确保它可以依赖...

javascript php floating-point floating-accuracy

回答 1 投票 0

正则表达式添加数千，数百万等逗号（但避免在小数点后添加它们）Javascript

问题很简单，我们需要将逗号放在正确的位置，以帮助用户以正确的方式格式化数字。例如，如果用户输入：123123123.534343，结果应该......

javascript regex floating-point decimal

回答 2 投票 1

floating-point 相关问题

最新问题