神经网络激活函数--tanh双曲正切函数

最新推荐文章于 2026-04-12 16:38:33 发布

原创最新推荐文章于 2026-04-12 16:38:33 发布 · 1w 阅读

1 ·

本内容遵循CC 4.0 BY-SA版权协议

机器学习专栏收录该内容

13 篇文章

订阅专栏

本文介绍了神经网络中常用的激活函数tanh，它基于双曲正切函数，对于自然对数的有理数对数可以计算精确值。tanh在数学上具有多种性质，如TrigFactorList、TrigToExp等操作，并在复数域上有特定的行为。在负小值和正大值时，tanh分别趋近于-1和1，且满足勾股恒等式。tanh的反函数为ArcTanh，与其他数学函数如Sinh、Coth和Tan相关联。

Tanh 是双曲正切函数，是三角学中普遍使用的 Tan 圆函数的双曲类比. Tanh[α] 定义为对应的双曲正弦和双曲余弦函数的比值，即 via . Tanh 也可以定义为，其中是自然对数 Log 的底数.
当变量是有理数的（自然）对数时，Tanh 会自动计算出精确值. 当给出精确数值表达式作为变量时，Tanh 可以算出任意精度的数值结果. TrigFactorList 可将包含 Tanh 的表达式因式分解为包含 Sinh、Cosh、Sin 和 Cos 的单项式. 对包含 Tanh 的符号表达式，其他适用的操作运算有 TrigToExp、TrigExpand、Simplify 和 FullSimplify.
Tanh 自动逐项作用于列表和矩阵. 相比之下，MatrixFunction 则可用于给出整个方阵的双曲正切值（即用矩阵幂次代替普通幂次的双曲正切函数的幂级数）而不是单个矩阵元素的双曲正切值.
对小的负的 x 值 Tanh[x] 趋向于而对大的正的 x 值则趋向于 . Tanh 和 Tan 类似，也满足勾股恒等式，即 . 双曲正切函数的定义可由等式和扩展到复数变量上. Tanh 在且是整数的这些点处取得极值 ComplexInfinity. Tanh[z] 在原点处的级数展开为 $sum_(k=0)^infty(2^(2 k)(2^(2k)-1) TemplateBox[{{2, , k}}, BernoulliB] )/((2 k)!)z^(2 k-1)$ ，可由伯努利数 BernoulliB 构成的项表示.
Tanh 的反函数是 ArcTanh. 其他相关的数学函数有 Sinh、Coth 和 Tan.

Tanh[2.2]
Out[1]=