floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

IEEE754 中 inf==inf 的基本原理是什么

当你有一个符合 IEEE754 标准的浮点实现时，任何与 NaN 的比较都是 false，甚至 NaN == NaN，但 +inf == +inf 是 true，为什么？从我的角度来看，这会让更多...

floating-point ieee-754

回答 1 投票 0

Python 中的浮点到分数转换

在练习Python 3.52中的float类型到Fraction类型转换的主题时，我发现了两种不同转换方式之间的区别。第一种方法是： >>> 来自

python floating-point type-conversion fractions

回答 2 投票 0

Apache IoTDB 中可以存储“float”类型数据多少个小数点？

我现在正在向Apache IoTDB写入数据，我想知道Apache IoTDB的float类型可以保留多少位小数？这决定了我是否可以将数据存储到我想要的精度...

floating-point apache-iotdb iotdb

回答 1 投票 0

NumPy 更改数组的浮点精度

如何更改整个数组的浮点精度而无需执行 np.set_printoptions？这与印刷无关；它与印刷有关。我希望压缩这些值以与其他数组进行相等性检查...

python numpy floating-point

回答 1 投票 0

Go 中如何进行除法

我正在尝试在 Go 中执行简单的除法。 fmt.Println(3/10) 这会打印 0 而不是 0.3。这有点奇怪。有人可以分享一下这背后的原因是什么吗？我想表演

math go floating-point integer-division

回答 1 投票 0

MSVC编译器可以使用80位浮点数吗？

我正在使用 Visual Studio 和 MSVC 编译器。基本上任何其他编译器似乎都支持 x86/x64 CPU 的本机 80 位浮点，除了 MSVC。似乎解决方法是使用内联

c++ visual-c++ floating-point

回答 2 投票 0

快速实现5位精度的互补误差函数

[虽然这是一个自我回答的问题，但我会很乐意投票并接受任何替代答案，该答案要么为相同数量的计算工作提供卓越的准确性，要么减少金额...

c algorithm floating-point floating-accuracy

回答 1 投票 0

如何在 Rust 中使用以 f64 作为键的 HashMap？

我想使用HashMap，来保存已知x和键y的点到另一个点的距离。 f64 作为值在这里不重要，重点应该放在键上。让 mut 映射 =

floating-point hashmap rust

回答 5 投票 0

Python 中非常大的浮点数

我正在尝试为 Mnist 数据库构建一个神经网络。计算 softmax 函数时，我收到与“您无法存储该大小的浮点数”相同的错误代码如下

python-3.x machine-learning neural-network floating-point decimal

回答 2 投票 0

如何用C++流输出小数点后3位？

给定一个float类型的变量，如何使用C++中的iostream输出小数点后3位数字？

c++ floating-point iostream

回答 6 投票 0

如何可靠地将数字中的小数部分和浮动部分分开？

这不是这个的重复，我将在这里解释。考虑 x = 1.2。我想把它分成 1 和 0.2。我已经尝试了链接问题中概述的所有这些方法：在[370]中：x = 1....

python floating-point ieee-754 python-internals

回答 5 投票 0

如何计算float类型的大矩阵的逆？

我用高斯消元法对矩阵求逆，矩阵是12 x 12。当找到一个小矩阵时，结果是正确的，但当矩阵变大时，结果是错误的。我猜这是一个浮点数

c++ matrix floating-point

回答 1 投票 0

C++ 打印浮点数

有没有一种打印浮点数的最佳方法（我正在使用长双精度数）？我尝试了几种方法，但似乎没有一种方法适用于所有类型的数字。让我举例说明。我有三个印刷声明...

c++ floating-point cout

回答 4 投票 0

更改默认浮动打印格式

我有一些列表和包含浮点数的更复杂的结构。打印它们时，我看到带有很多十进制数字的浮点数，但是打印时，我不需要全部。所以我想定义...

python python-3.x floating-point string-formatting

回答 9 投票 0

对Python十进制库感到困惑

我正在对Python进行定量分析，与另一位同事比较结果，我们发现由于操作顺序不同，这些典型的浮点数差异在小数点后第17位左右。洛...

python floating-point decimal precision

回答 1 投票 0

像Python中的Excel一样截断小数位

在我的Excel文件中，我有一些计算。计算返回 0,345，Excel 将其转换为 0,35。我用Python做的。 Python 返回 0,345，但我想像 Excel 一样获取 0,35。我尝试过...

python excel floating-point decimal floating-accuracy

回答 1 投票 0

使用 cout 打印正确的小数位数

我有一个浮点值列表，我想用带有两位小数的 cout 打印它们。例如： 10.900 应打印为 10.90 1.000 应打印为 1.00 122.345 应打印为...

c++ floating-point precision iostream

回答 14 投票 0

浮点表示的标准化

浮点数尾数归一化有什么要求？

floating-point

回答 2 投票 0

标准化浮点加法的结果

在浮点运算中，我将两个二进制数 1.1100*2^4 和 0.0110*2^4 相加，得到 10.0010*2^4。我应该左移多少次才能使其正常化？是（10.0010*2^4）、1.0001*2^4 还是 0.1000*...

math floating-point addition normalization

回答 1 投票 0

Double.toString 总是产生与双文字完全相同的结果吗？

Double.toString(0.1) 生成“0.1”，但 0.1 是浮点数。浮点数无法在程序语言中精确表示，但 Double.toString 会产生精确的结果（...

java floating-point

回答 4 投票 0

floating-point 相关问题

最新问题