double to float而不舍入python

问题描述 投票:0回答:1

a = 580991.3636

当我b = np.float32(a)

b 580991.4

我是在追求b 580991.3636

我希望这是一个简单的,任何想法?我也假设这是我对浮子造成误解的原因。我知道python在dtypes方面是动态的,但我需要它在float32中用于特定的库(python-pcl)。

python-3.x floating-point
1个回答
3
投票

Float32只能提供6到9位数的精度。

Float32的工作原理是将符号存储为1位,指数存储为8位,值为23位(也称为小数)。因此,您可以以精确度为代价来表示各种实数。

如果您需要它更精确,它必须是双精度或使用python的库decimal

© www.soinside.com 2019 - 2024. All rights reserved.