仅可使用八度中的小数点后8位

问题描述 投票:0回答:1

[当整数条目的矩阵的特征值(甚至3x3矩阵)在Octave中计算时,有时会报告像9.1940e-17这样的浮点值,而实际上应该为零。

尽管我以后可以将答案近似到小数点后一位,但在计算特征值和浪费计算时间时,它仍将在内部计算小数点后17位。从一开始,所有数量最多只能使用小数点后8位吗?

如果不可能,在报告时是否可以告诉八度(一次并且一次脚本中的所有次数)近似所有数量,直到小数点后8位?

octave
1个回答
0
投票

您的要求无济于事,这会使情况变得更糟。将精度设置为8个小数点(或有效数字)不会使数值误差消失,而是会将数值误差增加到该大小。进行简单的计算:

x = 1/3y = x * 6

现在您将得到1.99999998,更大的错误。

有些库则相反,提高了精度。在八度音阶中称为vpa

© www.soinside.com 2019 - 2024. All rights reserved.