fixed-point 相关问题

将 numpy 导入为 np 从 fxpmath 导入 Fxp 作为 fxp t1 = fxp(4, 假, 9, 3) t2 = fxp(5, 假, 9, 3) inter1 = fxp(0, True, 9, 3, 原始=True) inter2 = fxp(0, 真, 9, 3, 原始=真) 间 1(t1 - t2) INT...

python data-conversion fixed-point

回答 1 投票 0

在C++中实现定点运算时移位是什么意思？

我在理解定点算术及其在 C++ 中的实现方面遇到问题。我试图理解这段代码： #定义比例16 int DoubleToFixed(双数字){ 返回 num * ((d...

c++ fixed-point byte-shifting

回答 2 投票 0

Libfixmath 中的乘法是如何执行的？

我正在 CMD Batch 中移植维基百科 https://en.wikipedia.org/wiki/Libfixmath 提到的库。该库使用 Q16.16 格式。我正在尝试将其移植为 Q16.16 或 Q15.15 格式。我做什么...

c batch-file cmd fixed-point

回答 1 投票 0

从逻辑数据类型中提取浮点数

我正在尝试弄清楚如何从 22 位逻辑数据类型计算小数，请告诉我是否有任何其他已知的工作方法。我尝试了以下方法，但结果没有...

floating-point system-verilog fixed-point

回答 1 投票 0

将-0.67浮点改为定点

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

floating-point precision fixed-point

回答 2 投票 0

我们如何用定点和浮点二进制表示法来表示-0.67？

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

verilog precision fixed-point fixpoint-combinators

回答 1 投票 0

如何将字符串转换为定点格式？

我正在批量进行基本的定点数学运算。批处理中仅进行整数数学运算，变量的内部格式最大为 32 位。我正在尝试通过 put 来实现 Q16.16...

batch-file cmd fixed-point

回答 1 投票 0

Python 十进制和返回错误值

我正在使用十进制模块来避免浮点舍入错误。就我而言，这些值是金钱，所以我想要两位小数。为此，我执行了decimal.getcontext().prec = 2，但随后我得到了一些令人惊讶的结果...

python fixed-point

回答 1 投票 0

short2，10 位整数，5 位小数，1 位符号位

NVIDIA 的光流库文档指出流向量“由 32 位值表示，每个水平和垂直分量为 16 位值。最低 5 位保存

c++ math nvidia fixed-point opticalflow

回答 1 投票 0

定点二进制乘法过流问题

我正在对两个定点整数进行 32 位无符号乘法，如下所示： 888.88 x 805.00 = 7,155,484,000（大于 32 位）但我需要如下结果： 888.88 x 805.00 = 715,548.4 ...

numbers computer-science unsigned-integer fixed-point

回答 1 投票 0

如何计算定点二进制对数？

目标是这样的：给定一个无符号（64 位）整数，将其二进制对数返回为 Q64.64 定点十进制。这意味着低 64 位代表对数的小数部分...

math rust binary fixed-point

回答 1 投票 0

U0.8、U4.8、U12.8、S0.4、S4.4、S12.4、U8.8等定点表示到底是什么意思？

我发现很难理解定点表示。当我有无符号数据类型（C++）并且我想像定点一样使用该数字时，我需要执行一定数量的位

c++ fixed-point

回答 1 投票 0

fixed-point 相关问题

最新问题