fixed-point 相关问题

两个不同的概念： - **定点算术**使用一组小数位来完成。它可以更快，并且在其范围内，比浮点更精确。 - **定点组合器**找到固定的函数点，即值“x”，使得`f（x）= x`。

假设我有一个计算值的公式。我可以使用浮点运算或使用定点运算（使用16位整数）来计算该值。什么应该是最大的......

floating-point integer rounding fixed-point

回答 1 投票 0

我目前正试图找出如何在定点表示中乘以两个数字。说我的数字表示如下：[SIGN] [2 ^ 0]。[2 ^ -1] [2 ^ -2] .. [2 ^ -14]在我的情况下，数字......

multiplication fixed-point

回答 3 投票 3

我正在寻找固定点16.16数字的最佳逆平方根算法。下面的代码是我到目前为止（但基本上它取平方根并除以原始数字，...

math fixed-point inverse sqrt

回答 3 投票 4

在定点数学中，我使用了大量的16位信号，并使用32位中间结果进行乘法运算。例如：int16_t a = 16384; //-1.0q14或1.0 * 2 ^ 14 int16_t b = -24576; // -1.4q14或......

c math types multiplication fixed-point

回答 2 投票 5

我使用Matlab滤波器设计工具来创建低通滤波器组。我将银行导出为Simulink模型。双精度一切都很好。但是，如果我将过滤器转换为固定的-...

matlab filtering signal-processing fixed-point

回答 1 投票 -1

如果我将十进制数3120.0005转换为浮点（32位）表示，则数字向下舍入为3120.00048828125。假设我们使用的是一个比例为10 ^ 12的固定点数，那么......

c algorithm formula ieee-754 fixed-point

回答 2 投票 0

我正在为光谱学编写嵌入式代码。为了构建我的光谱，我需要将一个间隔（动态范围由问题的物理/规格给出）的线性样本映射到另一个。 ...

c embedded fixed-point integer-division

回答 2 投票 2

我有一些针对某些财务应用程序的定点实现。它基本上是一个包含在类中的整数，它基于给定Ntreated为十进制数的小数位数。班级 ...

c++ c++11 optimization integer-overflow fixed-point

回答 2 投票 4

[0,1]中的值的固定点（位级）表示与其浮点（位级）值之间的差异/相似性是什么？

floating-point fixed-point bit-representation

回答 1 投票 -1

我有一些问题包围着评估推迟如何工作。我试图用Y-Combinator来理解它：如果我们写一个简单版本的Y-Combinator我们就会遇到问题...

python lambda evaluation fixed-point delayed-execution

回答 1 投票 0