摘要 探讨 MATLAB 中反正弦 asin 与反余弦 acos 函数的计算精度问题。
例1. 已知 计算
及
直接贴图吧:

另外,16位的正确值分别为 0.1570785896071048e1、0.1043072384837152e-4、-0.1570785896071048e1 与 0.3141582222865945e1(ISRealsoft 提供)。
容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有5位、9位、5位与4位错误数字;有效数字的错误率分别为 5/16 = 31.25% , 9/16 = 56.25% ,5/16 = 31.25% 及 4/16 = 25% .
注:可参考计算机的错误计算(七十六)与(七十七)。
&spm=1001.2101.3001.5002&articleId=143102068&d=1&t=3&u=9b42b949fde44d6cb02078573efa642b)
8180

被折叠的 条评论
为什么被折叠?



