floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

理解浮点问题

这里有人可以帮助我了解如何确定浮点限制何时会导致计算错误。例如下面的代码。计算总税 = 函数 (

c# javascript vb.net floating-point

回答 4 投票 0

错误：流体模拟属性梯度计算中没有运算符“+=”与 float 和 Vector2 匹配

我正在尝试使用 C++ 和 OpenGL 来观看 Sebastian Lague 的流体模拟视频。我现在正在计算 propertyGradient 值（时间戳是 14:15）。我会尽力提供所有代码...

c++ opengl vector floating-point operator-overloading

回答 1 投票 0

仅从无符号位字符串检查浮点数的边界

我试图返回将单精度浮点数从其位字符串转换为 int 的结果。我正确地从位串中获取符号位、指数和尾数，但我不确定如何...

c floating-point bitstring

回答 1 投票 0

对 MATLAB 集成的误解

大家！你们能解释一下为什么要精确集成吗？四边形( @(x)x.^3-2.*x,0,2) 是 -2.220446049250313e-016 而不是零，就像它应该的那样？

matlab floating-point precision numerical-integration

回答 1 投票 0

Python 中的最大浮点数是多少？

Python 2 中的最大整数可通过调用 sys.maxint 获得。 Python 中的最大 float 或 long 是多少？另请参阅：整数的最大值和最小值。

python floating-point max long-integer

回答 4 投票 0

将 Pytorch bfloat16 张量转换为 numpy 会抛出 TypeError

当您尝试将 Torch bfloat16 张量转换为 numpy 数组时，它会抛出 TypeError：进口火炬 x = torch.Tensor([0]).to(torch.bfloat16) x.numpy() # TypeError: 得到不支持的 ScalarType BF...

python numpy pytorch floating-point tensor

回答 1 投票 0

Java中是否有某种池可以避免重复最近的算术运算？

我有以下三种方法： public static void test1(点点) { Handler.doSomething(point.x / 2.0f, point.y / 1.75f); } public static void test2(点点) {...

java static floating-point pool

回答 1 投票 0

浮点数可以容纳的最大数字，同时仍保留一定的小数精度

我想知道 32 位浮点数可以容纳的最大正数，同时仍然能够表示大约 1/1000 的十进制分辨率。因此，例如如果浮点数代表千瓦...

floating-point precision

回答 1 投票 0

是否存在非负浮点 a,b,c 使得 a + (b - a) * c > b 且 a < b and c < 1?

这个问题与何时 (b - a) + a != b 完全为浮点数但带有一个必须严格小于 1 的附加乘法器 c 相关。正式地，我问自己是否有前...

floating-point ieee-754

回答 1 投票 0

为什么浮点运算在go中会产生不同的结果[已关闭]

以下是Go中的示例代码：包主导入“fmt” func mult32(a, b float32) float32 { 返回 a*b } func mult64(a, b float64) float64 { 返回 a*b } 函数主() { fmt.Println(3*4.3) ...

go floating-point precision ieee-754

回答 2 投票 0

在 PHP 中解析时取消金钱格式

除了parsefloat(str_replace(',', '.', $var))之外，有没有办法获得这样的字符串的浮点值：75,25 €？我希望这取决于当前的网站语言，有时还取决于

php parsing floating-point currency

回答 9 投票 0

Python 内置 round() 函数在 2.4 和 2.7 之间的变化

Python 中内置的 round() 函数在 2.4 和 2.7 之间有变化吗？ Python 2.4： Python 2.4.6（#1，2009 年 2 月 12 日，14:52:44） >>> f = 1480.39499999999998181010596454143524169921875 >&g...

python floating-point python-2.7 floating-accuracy python-2.4

回答 4 投票 0

两个 IEEE754 数字的舍入说明

最近我一直在为我的自定义语言创建一个标准库。该库包含一些软浮点功能，因为我的目标处理器没有 FPU。我不支持

floating-point rounding ieee-754 ieee

回答 1 投票 0

为什么 numpy 的正弦函数在某些点上如此不准确？

我刚刚检查了numpy的正弦函数。显然，它产生的关于 pi 的结果非常不准确。在[26]中：将numpy导入为np 在[27]中：np.sin(np.pi) 输出[27]：1.2246467991473532e-16 预期的

python numpy floating-point

回答 3 投票 0

如何避免 Numpy 自动类型转换为 float64？

是否可以避免或发出从整数和 32 位浮点数组到 64 位浮点数组的自动 Numpy 类型转换的警告？我的用例是我正在开发一个大型分析......

python numpy tensorflow floating-point

回答 2 投票 0

如何避免Numpy自动类型转换？

是否可以避免或发出从整数和 32 位浮点数组到 64 位浮点数组的自动 Numpy 类型转换的警告？我的用例是我正在开发一个大型分析......

python numpy tensorflow floating-point

回答 1 投票 0

为什么模运算符会根据所使用的编译器和变量返回不同的结果？

我有一些代码会根据我使用的编译器产生不同的结果：浮动 a = 1f; 浮点 b = 6f; 浮点数结果 = a % (a / b); 浮点结果1 = 1f % (1f / 6f); Console.WriteLine("{0...

c# compilation floating-point roslyn

回答 1 投票 0

如何 std::round 加倍，但在中途情况下舍入为零？

我面临的情况是需要将 0.5 和 -0.5 舍入为 0。所以我检查了各种文档 - 通用 C++ 方法似乎总是与 0 相差 0.5。 https://en.cppreference.com/w/cpp/

c++ floating-point std rounding

回答 1 投票 0

在Java中，float的双精度类型转换总是相同吗？

假设我们有一个 java float 定义为 float p = 4.423，每当应用程序流中的变量的 double q =(double) p 时，每当它被强制转换为 double 时，我们是否总是会得到相同的 double 值？

java floating-point

回答 1 投票 0

为什么在 C 中双精度打印与 float 具有不同大小时相同的值？

我需要使用 π 进行计算。当我检查M_PI的精度时，它只打印了7个十进制数字。所以我#define了我自己的MY_PI。但我仍然面临着同样的问题。双应该支持15-17

c floating-point double

回答 2 投票 0

floating-point 相关问题

最新问题