fixed-point 相关问题

两个不同的概念： - **定点算术**使用一组小数位来完成。它可以更快，并且在其范围内，比浮点更精确。 - **定点组合器**找到固定的函数点，即值“x”，使得`f（x）= x`。

优化for循环

在我的代码中，我发现处理器大部分时间都花在下面显示的功能上。循环的目的是应该找出满足条件的val1值...

c optimization simd fixed-point int64

回答 1 投票 1

是将SQL Server数据类型称为“货币”是二进制定点还是十进制定点类型？

我正在扩展一个类似的问题，标题为SQL Server'MONEY'数据类型是十进制浮点还是二进制浮点？公认的答案告诉我们，“ money”数据类型是固定的-...

sql-server sqldatatypes fixed-point

回答 1 投票 0

将十进制定点/浮点格式打印为十六进制[关闭]

c math floating-point ieee-754 fixed-point

回答 1 投票 0

将定点/浮点数打印为十六进制

在我的通用库中添加了将定点数字打印为十六进制的功能，并且意识到我不是％100知道我应该如何表示数字的小数部分。一个快速的谷歌...

c math floating-point ieee-754 fixed-point

回答 1 投票 0

在Python中复制C定点数学

我正在尝试使用最初用C语言编写的Python复制DSP算法。诀窍是，我还需要保留C版本中32位定点变量的相同行为，...

python c precision numerical-methods fixed-point

回答 1 投票 1

带有定点实现的std :: max（）函数比较中的问题

是否有可用的标准函数可以帮助我比较两个浮点值之间的max（）或min（）？我已经为此min（）和max（）函数编写了定点实现...

c++ floating fixed-point

回答 1 投票 0

将定点转换为浮点数的问题

我正在使用python numpy读取minew信标，现在我在将固定点转换为float时遇到问题。在Minew E7数据表上，我具有以下信息：我具有的数据表信息...

python numpy hex fixed-point

回答 1 投票 0

如何解决MATLAB Simulink定点工具中的下溢（/上溢）问题？

谢谢，我正在研究一个涉及浮点数据类型的Simulink模型。因此，使用Simulink中提供的定点工具，我试图将浮点系统转换为...

matlab simulink fixed-point

回答 1 投票 0

C ++编译时bignum库

在C ++中，有没有用于任意精度算术的编译时库（模板元编程）？我需要它来帮助AVR程序中的定点算术和二进制缩放...

c++ template-meta-programming compile-time fixed-point bignum

回答 2 投票 10

使用AVX-2的[32-1024位定点矢量算法

对于mandelbrot生成器，当您放大时，我想使用定点算法，范围从32到1024位。现在，由于缺少带进位和执行加法功能，因此正常情况下，SSE或AVX在这里没有帮助...

biginteger avx fixed-point avx2

回答 1 投票 0

将定点转换为16位到64位？

具有最大和最小值的16位数字的定点转换宏：#define SCALEFACTOR_16（N）（1U << N）#define Q_MAX16（SCALEFACTOR_16（16-1）-1U）#define Q_MIN16（-SCALEFACTOR_16（ ...

c fixed-point

回答 3 投票 0

具有乘法和钳位的8位无符号定点实现

我想使用8位字表示[0.0，1.0]范围内的数字（最好包括两个端点）。我希望能够有效地将它们相乘，并且加法/减法应该...

fixed-point

回答 1 投票 0

Swift中浮点数的定点表示形式

我正在尝试在Swift中准确表示浮点数。假设我们有一个数字，让doubleNumber = 16.756。问题是实际数字类似于16 ....

swift fixed-point

回答 2 投票 1

Ada 2012-用自定义版本替换Fixed_Decimal_Type'Round（）吗？

最近，我为自定义记录类型提供了自己的替换'Write（）过程，例如，...类型Pixel_Format为record-等等等等...]，我获得了巨大的成功。 [

rounding ada fixed-point

回答 1 投票 0

c-了解定点位模型

因此，我正在学习二进制值，并且试图了解如何使用定点位模型来计算数字的负数形式。在我的教科书中，它说000111.01 = 7.25，我...

c binary bit-manipulation bit fixed-point

回答 2 投票 2

Log2近似于定点

我已经使用查找表和低阶多项式逼近实现了定点log2函数，但对整个32位定点范围[-1，+ 1]的准确度不太满意。 ......

logarithm polynomials fixed-point

回答 1 投票 0

归一化两个补数

我正在使用某些Tensilica处理器，但我不了解规范化过程。 NSA-标准化班次金额用法：NSA at，NSA计算左班次...

assembly binary normalization twos-complement fixed-point

回答 2 投票 2

用于查找固定点的OCaml函数

我有一个OCaml函数用于查找不动点：>> let rec fix f x = let x'= f x in if if x = x'then x else fix f x';; （系统消息）val修复：（'a - >'a） - >'a - >'a = ...

recursion ocaml fixed-point

回答 1 投票 0

C编程中的不动点算法

我正在尝试创建一个高精度存储股票价格的应用程序。目前我正在使用双倍这样做。为了节省内存，我可以使用任何其他数据类型吗？我知道这有一些东西......

c fixed-point

回答 4 投票 23

C ++中的Json：将数字解析为字符串以避免浮点不准确

我正在处理加密货币RPC并接收json数据，如下所示：{...“amount”：1.34000000，“confirmmations”：230016，“spendable”：true，“solvable”：true ...}使用Jsoncpp .. 。

c++ json double fixed-point jsoncpp

回答 3 投票 1

fixed-point 相关问题

最新问题