当 Const=False 和数字时,EXCEL LinEst 函数返回无意义 <1E-7

问题描述 投票:0回答:1

要重现我的问题,只需输入 A1: 9.1E-8 和 A2: 9.2E-8,然后标记这两个单元格并向下拖动(自动填充)到 A25。然后输入 B1:“=1.1*A1”并将公式向下复制,这样我们就有 2 列,每列 25 个数字。 ... 现在尝试公式“=LINEST(A1:A25,B1:B25,FALSE,TRUE)” 结果如下:

当你现在改变 const=TRUE 时,公式的工作原理与它应该做的一样,给了我 0.909 (=1/1.1) 的斜率。

作为一种解决方法,我也可以将我的数字全部乘以例如1E9。这有效。

还有其他想法吗?

恕我直言,EXCEL 不应该有这样的行为。技术已经在 nm、nA、ns、nC、nF 的规模上工作多年,所以我希望现代产品能够正确处理 91n* 作为浮点。

excel floating-point scientific-computing scientific-notation
1个回答
0
投票

平方和方法不适用于接近零的数字。事实上,当数字相差很小(非常)小的时候,它的效果也会很差。我建议通过如下公式“标准化”(或缩放)您的数据: =(A2-平均(A$2:A$26))/平均(A$2:A$26) 然后计算 LINEST。您现在应该看到它产生了合理的结果。不过,您必须将其返回的常量转换回实际值。

© www.soinside.com 2019 - 2024. All rights reserved.