floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

如何阻止Python将int转换为float[重复]

我有一个整数变量，一旦我除以它，它就会转换为浮点数。我需要阻止这一切的发生我尝试在使用 t 声明变量后显式转换变量...

python floating-point type-conversion int

回答 1 投票 0

我的浮点问题 - 在 C++/Python 中试用

下文中理所当然地使用IEEE-754双精度浮点格式。 Python：“...几乎所有机器都使用 IEEE 754 二进制浮点运算，并且几乎所有

python c++ floating-point ieee-754

回答 2 投票 0

Python 在被零除的情况下不遵循 IEEE-754 吗？

这里有一个玩具示例，Python 表现出的行为令我感到惊讶： def Harmonic_mean(x, y): 返回 2/(1/x+1/y) 打印（harmonic_mean（0.0，1.0））在 IEEE-754 除以 0.0 时应该...

python floating-point runtime-error ieee-754 divide-by-zero

回答 1 投票 0

截断浮点数而不向上舍入

我有一个浮点数，我想截断到 3 位，但我不想四舍五入。例如，将 1.0155555555555555 转换为 1.015（而不是 1.016）。我将如何去做这件事......

ruby math floating-point decimal precision

回答 9 投票 0

当 Const=False 和数字时，EXCEL LinEst 函数返回无意义 <1E-7

要重现我的问题，只需输入 A1: 9.1E-8 和 A2: 9.2E-8，然后标记这两个单元格并向下拖动（自动填充）到 A25。然后输入B1：“=1.1*A1”并将公式复制下来，...

excel floating-point scientific-computing scientific-notation

回答 1 投票 0

使用 ToString("F1") 时浮点数舍入不正确

我有一个浮点值：12345.6489 当我使用以下命令格式化它时： (12345.6489f).ToString("F1") 然后我得到的结果是 12345.7 但这是不正确的，因为它应该是 12345.6。有谁明白吗...

c# string floating-point format

回答 3 投票 0

如何避免Python中除法后数字转换为浮点数？

我正在做codewars超级坐标和任务。 def super_sum(d, n): 返回 int((n - 1) * d / 2) * n ** d 这是我写的代码。它适用于大约 80% 的测试用例，但不适用于那些......

python floating-point integer

回答 2 投票 0

pytorch bfloat16 epsilon 减法得到相同的结果

我试图在非常窄的值范围内扫描一些参数，并使用 bfloat16 epsilong 作为步长，以避免出现诸如 a-b==a 对于非常小的 b 之类的问题，但是我偶然发现了这种情况：

pytorch floating-point precision

回答 1 投票 0

在 Python 中从二进制值创建浮点数

我目前正在开发一个项目，需要我修改浮点变量的位值。为此，我使用 struct 包来获取浮点型的二进制值作为字符串，如下所示：...

python floating-point

回答 2 投票 0

比较两个整数时，if 条件在 bash 脚本中无法正常工作

我是 bash 脚本新手，正在编写一个脚本来计算 CPU 使用率。目前，我正在计算 CPU 使用率并将其与预定义的阈值进行比较。然而，我的if条件...

linux bash floating-point compare

回答 3 投票 0

在 C 中将四个字节解析为浮点数

如何获取四个接收到的数据字节并将它们组装成浮点数？现在我将字节存储在数组中，即received_data[1] ...received_data[4]。我会...

c string parsing floating-point

回答 5 投票 0

为什么在二进制格式的 IEEE754 标准中，Round Nearest Ties Away 舍入模式是可选的？

引自 IEEE 浮点算术标准 (2008) 第 4.3.3 节本标准的实现应提供 roundTiesToEven 和三个定向舍入属性。十二月...

floating-point rounding ieee-754

回答 1 投票 0

如果值没有小数值，则将浮点类型列值转换为整数类型

这是我的代码 $data = DB::table('constructor_stands') ->join('constructors', 'constructors.constructorId', '=', 'constructor_stands.constructorId') ->选择('constructor_stand...

php laravel eloquent floating-point type-conversion

回答 2 投票 0

计算器怎么能显示这么多位数的PI？

我正在玩手机上的计算器，我发现我可以在那里看到任意位数的圆周率。我知道双精度浮点数的精度最高可达 16 位数字，所以我...

floating-point double calculator precision

回答 1 投票 0

将用户输入限制为小数点后两位时，处理浮点问题的最佳方法是什么？

我目前正在创建一个应用程序，允许用户输入重量并选择他们喜欢的单位（公斤和磅之间）。截至目前，数据库是用 Django 编写的，并存储每个用户 wei...

javascript floating-point precision

回答 1 投票 0

所有 C 编译器在将浮点转换为整数时都会隐式删除小数吗？

我注意到在 GCC 和 Clang 下，当我将 float 值转换为 int 时，后端会执行一些操作将真正的浮点数据转换为整数 - 小数部分被忽略，并且

c casting floating-point ieee-754

回答 2 投票 0

在 JavaScript 中，为什么零除以零返回 NaN，而任何其他除以零返回无穷大？

在我看来，代码控制台.日志(1 / 0) 应该返回 NaN，但它返回 Infinity。然而这段代码：控制台.log(0 / 0) 确实返回 NaN。有人可以帮我吗

javascript math floating-point nan infinity

回答 5 投票 0

计算两个浮点数之间的距离是否对称？

对于一个Java程序，我写了一个计算两个浮点数之间距离的方法。该方法对于输入顺序对称地工作是非常重要的。目前我正在使用...

java floating-point distance

回答 2 投票 0

将数字从 Excel 单元格转换为 IEEE 754 十六进制格式

最近，由于数字的 15 位有效数字显示限制，我一直在与 Excel 搏斗。我一直在寻找一种方法来显示 Excel 中包含的值的 IEEE 754 格式...

excel floating-point ieee-754 floating-point-conversion

回答 2 投票 0

两个“整个”双精度数的乘积能否始终正确表示？

这似乎是一个非常基本的问题，但我对浮点数的知识越来越模糊。假设我有两个双精度数（根据 IEEE 754），它们都精确地代表一个整数，例如......

floating-point precision

回答 1 投票 0

floating-point 相关问题

最新问题