Python 中的舍入浮点数问题

问题描述 投票:0回答:3

我遇到了 np.round 和 np.around 的问题,它没有正确舍入。我不能包含代码,因为当我手动设置值时(而不是使用我的数据),返回有效,但这是输出:

In [177]: a
Out[177]: 0.0099999998

In [178]: np.round(a,2)
Out[178]: 0.0099999998


In [179]: np.round(a,1)
Out[179]: 0.0

我错过了什么? a 的 dtype 是 float32,我需要改变这个吗?

python numpy types floating-point rounding
3个回答
6
投票

尝试创建

np.float32(0.01)
,你会看到你的答案。您已经获得了精确度。

>>> import numpy as np
>>> x = 0.01
>>> epsilon = 0.01 - np.float32(0.01)
>>> for n in np.arange(x - 10*epsilon, x + 10*epsilon, epsilon):
...     print(repr(np.float32(n)))
...     
0.0099999979
0.0099999979
0.0099999979
0.0099999988
0.0099999988
0.0099999988
0.0099999988
0.0099999998
0.0099999998
0.0099999998
0.0099999998
0.0099999998
0.010000001
0.010000001
0.010000001
0.010000001
0.010000002
0.010000002
0.010000002
0.010000002

3
投票

注意 python 的

round
函数和
numpy.float64
类型似乎存在问题。请参见下面的示例:

In [88]: round(np.float64(16.259766999999947), 4)
Out[88]: 16.259799999999998

我能解决这个问题的唯一方法是在使用 round 函数之前将

numpy.float64
转换为浮点数,如下所示:

In [89]: round(float(np.float64(16.259766999999947)), 4)
Out[89]: 16.2598

0
投票

如果数字是 python 的 float 或 np.float64,它对我不起作用。

一旦我将数字更改为 np.float32(),它就起作用了!

type(85.10000000000001), np.round(85.10000000000001,decimals=2), np.round(np.float32(85.10000000000001),decimals=2)

结果: (浮动,85.10000000000001,85.1)

© www.soinside.com 2019 - 2024. All rights reserved.