matlab中的矩阵对角化精度是 多少？ [关闭]

Question

我不知道它在后台运行什么样的算法，但它似乎无法处理包含大约10 ^ -5的元素的矩阵。

Answer 1

它最多可以处理16位数字。类型：

format long;
a = 1.234567890123456;

在您的MATLAB代码或命令窗口中。

4位小数是格式短的限制。