摘要 探讨 MATLAB 中双曲反余弦函数 acosh(x)的计算精度问题。
例1. 计算 与
直接贴图吧:

另外,16位的正确值分别为 0.1065640302166440e-1 与 0.3857460304394790e-5(ISRealsoft 提供。通过公式 计算获得)。
容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB 16位的输出中分别有3位与11位错误数字;有效数字的错误率分别为 3/16 = 18.75% , 11/16 = 68.75% .
注:可参考计算机的错误计算(八十七)。
&spm=1001.2101.3001.5002&articleId=143161295&d=1&t=3&u=b40912440fe14fd3a570006ce3855fd4)

被折叠的 条评论
为什么被折叠?



