如何在软件中应用/模拟量化？

Question

如何在实践中在软件中应用/模拟量化？假设我想计算一些函数输出中的错误，如果不使用16位浮点值，我将在函数的参数中使用6位整数值。如果这个问题很重要，我有兴趣将量化应用于神经网络等。

我对此的天真想法：要么以某种方式迫使机器使用降低的位精度（在Linux等通用操作系统上似乎不可行或容易做，但我有兴趣知道它是否在实践中完成），或者通过将浮点数范围映射到单个整数值来人工模拟量化，其中整数值表示一个量化值。

我把C和python作为标签，因为如果你想用代码回答我只能理解那些语言。

Answer 1

一般来说有三种方法：

1. 分析
2. 模拟
3. 测试

当然，分析你必须理解计算，并且是一位熟练的数学家。

要模拟你必须仍然理解计算，因为你需要在模拟语言中重写它，但你不需要那么擅长数学;-)

测试是最简单的，因为您既不需要了解计算也不需要深入的数学技能。在你的情况下，这应该是非常简单的：因为只有16位参数，你可以用2 ^ 16 x 2 ^ 16 = 2 ^ 32次测试迭代测试2个参数的所有组合......一眨眼在现代处理器上。使用16位浮点数和6位整数比较结果并保留一些简单的统计数据（平均误差，最大误差等）。如果你有两个以上的参数，你可以通过尝试大量随机输入来节省时间而不是详尽的测试，但其他方法相同。