Matlab Precision只有8位数字?

问题描述 投票:0回答:1

引自:https://www.mathworks.com/help/symbolic/increase-precision-of-numeric-calculations.html

默认情况下,MATLAB®使用16位精度。

但是为什么当我写900000000+2(9后为8个零)时返回900000002,但写900000000+2(9后为9个零)而返回9.0000e+09这不是8位精度吗?

matlab math precision matlab-guide digits
1个回答
0
投票

您使用format命令来控制要打印的位数。 help format查看更多详细信息。尝试format long g并重新运行命令以查看更多数字。

默认情况下,MATLAB®使用16位精度。

这是指计算精度,而不是打印精度。默认情况下,MATLAB将变量定义为double,通常最多可以精确到16位数字。但是您可以在较低的版本中打印这样的双精度数字(由format命令控制)

© www.soinside.com 2019 - 2024. All rights reserved.