JavaScript乘法不精确

问题描述 投票:7回答:5

我遇到了一个奇怪的问题,我想做一些基本的数学检查。我已阅读以避免浮动数字,所以我决定将我的数学值乘以10000,因为我的值可以在0.9到0.0025之间。

一切正常,除了两个值:0.56和0.57:

var result = 0.57 * 10000

结果是:5699.999999999999,我希望5700 !!并且0.56也出错了,但所有其他值都是正确的,我在这里缺少什么?

javascript multiplying
5个回答
3
投票

您在Javascript中的选择(实际上,在大多数语言中)是整数或浮点数。如果你写“0.57”,你就会强迫它进入浮点世界,其精度有限。

如果你想要绝对准确,你需要专门用整数。


13
投票

最好的解决方案是使用toFixed(x),并设置x一些小数,这些小数应该总是大于预期的小数结果(我通常把8放在那里)。

但是你应该将结果再次转换回数字,而不是黑客攻击kirilloid-,以便删除任何不需要的小数。之后,在数字上执行您喜欢的任何格式。

所以这将返回所需的结果:

var result = +(0.57 * 10000).toFixed(8)

结果现在是5700

前面的+,将“toFixed”的字符串结果再次转换为数字。

希望有所帮助!


3
投票
var result = 0.57 * 10000;
alert (Math.round(result));​

2
投票
var multiply = function(a, b) {
    var commonMultiplier = 1000000;

    a *= commonMultiplier;
    b *= commonMultiplier;

    return (a * b) / (commonMultiplier * commonMultiplier);
};

这在已知范围内起作用。因此,将数字四舍五入到小于commonMultiplier的小数点可能是个好主意。

> multiply(3, .1)
< 0.3
> multiply(5, .03)
< 0.15

0
投票

Hacky解决方案:value.toFixed(4).substr(-4).replace(/^0+/, "");

© www.soinside.com 2019 - 2024. All rights reserved.