floating-point 相关问题

浮点数是实数的近似值,可以表示比整数更大的范围,但使用相同数量的内存,代价是精度较低。如果您的问题是关于小算术错误(例如为什么0.2 + 0.1等于0.300000001?)或十进制转换错误,请在发布之前阅读下面链接的“信息”页面。

mips 编程中的浮点数

我正在 mars 4.5 上进行 mips 编程。这是示例代码: 。数据 一半:.float 0.1 。文本 l.s $f12,一半 li $v0, 2 系统调用 我的目的是打印数字 0.1,a...

回答 1 投票 0

自定义评论星级图像未正确显示

我在故事板中拍摄了 5 个图像视图并连接了插座,如下所示: @IBOutlet var starRatingImageViews:[UIImageView]! 我从 JSON 中获取字符串值进行评级,如下所示: 评级=&...

回答 2 投票 0

Python 和 C++ long double 给出不同的结果

我正在尝试调试一段 C++ 代码和另一段返回不同结果的 Python 代码之间的不一致。 总的来说,我一直期待浮点运算

回答 1 投票 0

如何检测由于浮点加法和乘法舍入而导致的精度损失? [已关闭]

从计算机系统:程序员的角度: 使用单精度浮点 表达式 (3.14f+1e10f)-1e10f 的计算结果为 0.0:值 3.14 由于舍入而丢失。 表达式 (

回答 1 投票 0

在浮点中实现pow()函数的最有效方法

我正在尝试实现我自己版本的 pow() 和 sqrt() 函数,因为我的自定义库没有 pow()/sqrt() 浮点支持。 有人可以帮忙吗?

回答 8 投票 0

如何在MIPS中查看浮点除法中的余数?

我正在尝试在 MIPS 中除以 2(我正在使用 PCSPIM)。 基本上我在寄存器($f0)中有一个数字,已加载。 经过一些操作后,我想将这个数字除以 2,并检查是否...

回答 1 投票 0

按总顺序对 IEEE 754 浮点数进行排序

我编写了一个算法,其中涉及排序和调用 std::lower_bound 和 std::upper_bound 。 如果值类型 float 或 double 所有 NaN 比较不相等,我的算法就会失败。 为提供...

回答 1 投票 0

SIGFPE:此错误的浮点异常回溯:0x7F70C71AF7D7

我在Ubuntu 14.04下使用Fortran 90模型。 gfortran 95 编译器 (gfortran 4:4.8.2-1ubuntu6) 和 gcc 4:4.8.2-1ubuntu6 由 Ubuntu 软件中心安装。运行模型后,我得到了

回答 3 投票 0

使用长度为2的数组或者使用对象包裹两个float来提高效率?

我正在写一个需要高效率的应用程序。这是一个不断处理浮动的应用程序。 我被告知要避免常量(静态最终字段)。 所以基本上我有一个这样的方法:

回答 1 投票 0

使用约翰逊算法重新加权时的浮点误差

我正在使用约翰逊算法来检测给定图中的负循环。我遇到的问题是,当在虚拟节点上运行 Bellman-Ford 时,每次权重更新都是浮点

回答 1 投票 0

为什么在编码求幂时使用值或变量时会得到不同的结果?

下面的代码给出了不同的输出,我不知道为什么。我有基本的编程知识,所以如果它很明显,请原谅我。 数字=-0.8 打印(-0.8**-0.8) 打印(Num**Num) 输出: -1.

回答 2 投票 0

С

T=s1/(v1+k)+s2/(v2+k)+s3/(v3+k)..+vn/(sn+k) 如果我知道除了 k 之外的所有内容,我怎样才能找到它? n (1 ≤ n ≤ 1000) t (1 ≤ t ≤ 10^6) s (1 ≤ s ≤ 1000) v (|v| ≤ 1000) 我应该如何编写代码以便它

回答 1 投票 0

为什么这段代码会产生不同的输出?(python)

下面的代码给出了不同的输出,我不知道为什么。我有基本的编程知识,所以如果它很明显,请原谅我。 数字=-0.8 打印(-0.8**-0.8) 打印(Num**Num) 输出: -1.

回答 1 投票 0

IEEE 乘法与2 的幂相乘吗?

请确认我对IEEE浮点数的理解。 我相信如果我有两个数字: a = 2^ea × ma ← "数学 ×" b = 2^eb × mb 那么他们的乘积 a * b 与 ((a * ...

回答 1 投票 0

在c++中将浮点转换为字符串后丢失精度[重复]

我已将字符串值转换为浮点数并尝试为其设置精度。设置精度后,我得到的值被截断。 #包括 #包括 在...

回答 1 投票 0

处理整数和浮点乘法中的上溢和下溢

我正在处理一个问题,我有一个巨大的 16 位有符号整数集合。我必须将每个乘以 double 类型的常数因子,然后将其转换回整数类型。我需要...

回答 2 投票 0

将 char 数组转换为 float 时出现意外问题

我有一个char数组,需要将其转换为float。 我有两个 16 位值: A = 7C37 B = 428B 它们需要像 42 8B 7C 37 一样排列来代表浮点数中的 69.743,但我有

回答 1 投票 0

“浮点”与“双精度”精度

代码 浮动x = 3.141592653589793238; 双 z = 3.141592653589793238; printf("x=%f “, X); printf("z=%f ”,z); printf("x=%20.18f “, X); printf("z=%20.18f ”,z); 会给你输出 ...

回答 5 投票 0

单精度浮点数在零附近时的近似分辨率是多少

我将许多经度和纬度存储为双精度,我想知道是否可以将它们存储为浮点数。 要回答这个问题,我需要知道单个

回答 4 投票 0

Lua:从 float 转换为 int

尽管Lua不区分浮点数和整数,但在某些情况下你想使用整数。如果您...

回答 5 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.