floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

如何使用 32 位 GCC 将大数字精确地放入“double”中？

考虑以下代码： #包括 int main() { 长长x = 123456789123456789; std::cout << std::fixed; auto y = static_cast(x); // (1) 是...

c++ gcc floating-point

回答 1 投票 0

Java 模运算符产生不精确的结果[重复]

为什么此代码打印 2.4099999999999997，而不是 2.41？公开课主课 { 公共静态无效主（字符串参数[]） { 双d=5.55%3.14； System.out.println(d); ...

java floating-point modulo

回答 4 投票 0

处理浮点错误的最佳方法是什么？

所以我有一个Javascript脚本，它在循环中将小分数相加，并且有可能将0.2加到0.1。然后该值被馈送到另一个函数，但问题是我需要 0.3 来 b...

javascript floating-point numbers

回答 2 投票 0

PHP 浮点精度和浮点到字符串/整数转换

观察以下情况 php -r 'echo 4.60*100, " ", (int)(4.60*100), PHP_EOL;' 令人惊讶的是（对我来说）它打印了这个： 460 459 我知道十进制 4.60 不能表示为 fi...

php floating-point type-conversion

回答 1 投票 0

在没有上溢和下溢的情况下，对于浮点数 x，x/4 是否始终等于 x/2/2（也适用于 x*4 == x*2*2）？

例如，据我所知，一个浮点x，其中x/n^2可能不等于x/n/n，因为在x/n/n中，这会首先创建一个中间x/n。例如：文档.write(1.23456789/49 == 1.23...

javascript floating-point precision floating-accuracy

回答 1 投票 0

Python 中模运算和负浮点数的奇怪行为

负数取模运算未按预期工作。我试图获取数字的浮动部分，我使用 num % 1 来获取它，正在工作，直到它为负数，什么时候是...

python python-3.x floating-point mod python-3.11

回答 1 投票 0

尝试找到 float、double、long double 的最小正数。适用于 double 和 long double，但不适用于 float

我试图找到每种数据类型（浮点型、双精度型和长双精度型）的最大和最小数字。我正在使用 while 循环，并将每个值与无穷大（最大数字）和 0 进行比较...

c++ while-loop floating-point comparison

回答 1 投票 0

C++ 中算术运算和转换的机器值

我是 C++ 编程新手。我想知道 C++ 中以下简单操作的结果会获得什么可能的机器值：整数a = 3; 双 inv_a； inv_a = (双) 1 / (双...

c++ floating-point precision

回答 1 投票 0

C/C++ 中算术运算和转换的机器值

我是 C/C++ 编程新手。我想知道 C/C++ 中以下简单操作的结果会获得什么可能的机器值：整数a = 3; 双 inv_a； inv_a = (双) 1 / (d...

c++ c floating-point precision

回答 1 投票 0

为什么用 std::cin 读取一个巨大的双精度值时，值会略有变化？

我发现std::cin的一个奇怪的行为（在Win 10下使用VS 17）：当输入大量数字时，std::cin正在读取的数字接近但不同。有没有什么近似的方法...

c++ floating-point double user-input cin

回答 1 投票 0

在 Julia Lang 中将 float 转换为 int

有没有办法在 Julia 中将浮点数转换为 int ？我正在尝试将浮点数转换为固定精度数，小数部分表示为 8 位整数。为了...

floating-point int julia

回答 8 投票 0

pytorch 中的机器精度是多少？何时应该使用双倍？

我正在对合成数据进行实验（例如拟合正弦曲线），并且我在 pytorch 中得到的错误非常小。 1 约为 2.00e-7。我正在阅读有关机器精度的内容，它似乎...

floating-point pytorch precision

回答 1 投票 0

PHP 中科学计数法中的数字不正确

我正在从包含长数字 ID 字符串的电子表格中读取数据。我试图通过确保即使列格式不正确也能正确读取数据来使我的系统万无一失...

php math floating-point scientific-notation

回答 4 投票 0

浮点表示问题

考虑： int x = 25，我；浮点数*p = (浮点数*)&x; printf("%f “，*p）；我知道浮点数和 int 的位表示是不同的，但无论我的值是什么

c casting floating-point

回答 2 投票 0

执行时间（性能）装饰器的单元测试

我有一个执行时间（性能）装饰器，可以计算给定函数的平均执行时间并使用浮点值打印结果：从时间导入 perf_counter，睡眠 def benchmark_deco...

python unit-testing datetime time floating-point

回答 1 投票 0

如何使用javascript将整数和浮点数相加？

我正在使用下面的代码使用 JavaScript 添加整数和浮点值。但我不能这样做，它返回 NaN。我是开发新手。请帮我解决这个问题。 lbl_bal_total.value = 数字(

javascript jquery floating-point integer

回答 4 投票 0

为什么 .NET 说次正规数永远不是 2 的幂？

自.NET 7（2022年起）以来，出现了静态方法 double.IsPow2。谁决定永远不应该将次正规数视为 2 的幂？例如，如果我尝试这段代码：双倍指数 = -1000.0;...

c# .net-core floating-point double subnormal-numbers

回答 1 投票 0

检查双变量是否包含整数，而不是浮点数

我的意思是：双 d1 = 555；双 d2 = 55.343；我希望能够判断 d1 是整数，而 d2 不是。有没有一种简单的方法可以用 C/C++ 实现？

c++ c floating-point

回答 16 投票 0

为什么 float 会变成 NaN

#包括 int main() { 整数 i = 2，j = 4；浮动b； b = j / i * i; printf("%f ”，j/i*i); printf("%f ”，b)；返回0； }

c floating-point type-conversion

回答 1 投票 0

使用 %f 但得到“格式 %f 需要 double 类型”

除非我累了，否则我不会理解以下警告。我不确定编译器基于什么（它是 MPLAB X 6，使用 Microchip 的 XC16 作为 dsPIC33 微控制器）。浮动测试=5.5；优先...

c floating-point embedded printf

回答 1 投票 0

floating-point 相关问题

最新问题