说a = 580991.3636
当我b = np.float32(a)
b 580991.4
我是在追求b 580991.3636
我希望这是一个简单的,任何想法?我也假设这是我对浮子造成误解的原因。我知道python在dtypes方面是动态的,但我需要它在float32中用于特定的库(python-pcl)。
Float32只能提供6到9位数的精度。
Float32的工作原理是将符号存储为1位,指数存储为8位,值为23位(也称为小数)。因此,您可以以精确度为代价来表示各种实数。
如果您需要它更精确,它必须是双精度或使用python的库decimal。