摘要 探讨 MATLAB 中双曲反正切函数 atanh(x)的计算精度问题。
浮点运算标准 IEEE 754-2019 中含有 atanh(x)函数。其定义为
例1. 已知 计算
与
直接贴图吧:

另外,16位的正确值分别为 0.1090177358429515e2 与 -0.1090177358429515e2(ISRealsoft 提供。通过公式 计算获得)。
容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB 16位的输出中均有8位错误数字;有效数字的错误率均为 8/16 = 50% .
注:可参考计算机的错误计算(八十八)。
&spm=1001.2101.3001.5002&articleId=143174589&d=1&t=3&u=6080873e7bbf48ec9ba6ebc1390aeba2)
8178

被折叠的 条评论
为什么被折叠?



