我在乘以 2 个小数时得到了意想不到的结果。
如果我使用计算器(谷歌)来检查我的总和,我会得到正确的答案(或我期待的答案)
这是我想做的总和的一个例子 abs(-0.00012437234926353282 * 0.2)(注意:第一个数字并不总是负数,但我想要总和的 abs 结果)。
计算器给了我这个答案 0.00002487446
但是 python 给了我这个 2.4874469852706566e-05
我使用的简单代码是这样的
x = y = round(abs(-0.00012437234926353282 * 0.2), 30)
我是 Python 的新手,请多关照。
我试过阅读它,还有很多方法,包括浮动、舍入和更多的组合和不同的顺序等(都是明显错误的方法),但都得到了“意想不到”的结果
如果我没记错的话,python 确实给出了正确的结果:
2.4874469852706566e-05
表示 2.4874469852706566 * 10**(-5)
与 google 的 0.00002487446
结果相同,只是四舍五入到不同的小数位。