Javascript:比较两个浮点值

问题描述 投票:23回答:4

我有这个JavaScript函数:

Contrl.prototype.EvaluateStatement = function(acVal, cfVal) {

    var cv = parseFloat(cfVal).toFixed(2);
    var av = parseFloat(acVal).toFixed(2);

   if( av < cv) // do some thing
}

当我比较浮点数av=7.00cv=12.00时,7.00<12.00的结果是false

有什么想法吗?

javascript comparison floating-point numbers
4个回答
36
投票

toFixed返回一个字符串,并且您正在比较两个结果字符串。从词汇上看,12比1来自7比12比7。

我猜你想比较一下:

(Math.round(parseFloat(acVal)*100)/100)

它舍入到小数点后两位


9
投票

比较浮点数与精度:

var precision = 0.001;

if (Math.abs(n1 - n2) <= precision) {
  // equal
}
else {
  // not equal
}

UPD:或者,如果其中一个数字是精确的,则将精度与相对误差进行比较

var absoluteError = (Math.abs(nApprox - nExact)),
  relativeError = absoluteError / nExact;

return (relativeError <= precision);

2
投票

使用短符号比较浮点数,也接受浮点数作为字符串和整数:

var floatOne = 2, floatTwo = '1.456';

Math.floor(floatOne*100) > Math.floor(floatTwo*100) 

(!)注意:使用整数进行比较。幕后实际发生的事情:200 > 145

使用零扩展100以获得更多小数精度。例如,使用1000表示3位小数精度。

测试:

var floatOne = 2, floatTwo = '1.456';
console.log(Math.floor(floatOne*100), '>', Math.floor(floatTwo*100), '=', Math.floor(floatOne*100) > Math.floor(floatTwo*100));

2
投票

Math.fround()函数返回Number的最近的32位单精度浮点表示。

因此是比较2个花车的最佳选择之一。

if (Math.fround(1.5) < Math.fround(1.6)) {
    console.log('yes')
} else {
    console.log('no')
}

>>> yes

// More examples:
console.log(Math.fround(0.9) < Math.fround(1));                            >>> true
console.log(Math.fround(1.5) < Math.fround(1.6));                          >>> true
console.log(Math.fround(0.005) < Math.fround(0.00006));                    >>> false
console.log(Math.fround(0.00000000009) < Math.fround(0.0000000000000009)); >>> false
© www.soinside.com 2019 - 2024. All rights reserved.