precision 相关问题

我不能将double转换为Nd4j.INDArray而不会丢失精度。 double [] weight = new double [] { - 0.13404223866376802，-0.11294084872465669,0.11232944517596409，-0.01687720880184701,0 ....

java precision nd4j

回答 2 投票 2

为什么IEEE754选择11个指数位用于双精度二进制64？

我一直在阅读，似乎IEEE 754将64位浮点数（双）指数定义为11位。（https://en.wikipedia.org/wiki/Double-precision_floating-point_format）我的问题是为什么？一个64 ...

floating-point double precision ieee-754

回答 1 投票 1

MySQL SELECT计算精度（小数点后的数字）

我试图获得相同数量的精度（小数点后的位数），来自执行某些方程式的SELECT的结果。在性能方面有什么不同，......

mysql select precision decimal-point

回答 1 投票 0

使用2“浮动”模拟“双”

我正在编写一个只支持32位单精度浮点运算的嵌入式硬件程序。但是，我实现的算法需要64位双精度...

c++ c algorithm floating-point precision

回答 8 投票 56

C：while循环使用浮点永远不会终止[重复]

通过执行此代码：float f = 1.0;而（f！= 0.0）{f = f - 0.1; printf（“％。1f \ n”，f）;预计会运行10次并停止，但事实证明它不可避免地......

c floating-point precision

回答 4 投票 3

Python pandas使用lambda添加精度

我试图使用以下代码找到数据字段的精度fieldStructure.loc [fieldName，'Precision'] = df [fieldName] .apply（lambda x：len（str.split（str（x），“。”））[1]））。max（）然而它......

python lambda precision series

回答 1 投票 0

ASP .net C＃Decimal与Java Double之间的舍入不匹配

我正在将.NET代码转换为Java并遇到精度不匹配的问题。 .NET代码：private decimal roundToPrecision（十进制数，十进制roundPrecision）{if（roundPrecision == 0）...

java c# .net rounding precision

回答 2 投票 11

Swift Playgrounds：当在内置变量查看器中显示时，浮动总是呈圆形

使用Swift Playgrounds我正在尝试一些数学问题，特别是使用pow函数。如果我要执行以下操作：var x：Float = powf（0.2,2）它返回0.04作为答案为......

swift precision swift-playground

回答 1 投票 0

Fasttext中的精确度和召回率

我是Fasttext的新手。我已经有一些关于这个库的问题，对某些人来说它们看起来很明显，但我真的想要得到正确的直觉。非常感谢您的帮助。首先......

precision text-classification precision-recall fasttext

回答 2 投票 1

如何检索精确位置/ RW /坐标的交通流信息

给定一个坐标/ RW /位置，我正在尝试检索关于我最感兴趣的JF（Jam Factor）和FF（Free Flow Speed）的位置的交通流信息。事情就是我...

precision here-api flow traffic

回答 2 投票 0

熊猫与numpy的不同std

大熊猫和numpy之间的标准偏差不同。为什么和哪一个是正确的？（相对差异是3.5％，这不应该来自四舍五入，这在我看来很高）。 ...

python numpy pandas precision

回答 2 投票 23

工作精度如何在Javascript中浮动数字？

大家好我正在研究关于天文计算的javascript文件，所以我需要更多的精确度。我对每一行都有很多操作，我想要更精确的结果（也是十或二十...

javascript floating-point precision floating-accuracy

回答 2 投票 1

如何加总双打次数？

我怎么能加倍双打？我认为sum会开箱即用，当我只是使用类型推断它确实似乎，但是当我给出一个类型签名修复输出类型为Double的总和...

haskell double precision

回答 1 投票 1

如何在使用Pandas读取CSV时删除.0

我有一个CSV文件即时读入pandas数据帧。所有数字都没有任何小数位，但是一旦我将它读入dframe，它就会在带有小数的数字上加上一个尾随零。 1205 ......

pandas csv decimal precision

回答 1 投票 0

如何在Python中正确处理浮点运算？

如何使用浮动正确添加或减去？例如，如何执行：2.4e-07 - 1e-8，使其返回2.3e-7而不是2.2999999999999997e-07。转换为int首先产生意外...

python python-3.x floating-point precision floating-accuracy

回答 3 投票 1

precision 相关问题

最新问题