详解softmax和sigmoid

激活函数简介

从事或对人工智能行业有了解的人员来说，相信对softmax和sigmoid这两个激活函数并不陌生，这两个激活函数实不仅在逻辑回归有应用，也是在面试或笔试中包含的内容，掌握好这两个激活函数及其衍生函数是很重要也是最基础的。下面详细介绍softmax和sigmoid：

softmax函数

在数学上，softmax函数又称归一化指数函数，是逻辑函数的一种推广。它能将一个喊任意实数的k维的向量z的“压缩”到两一个k维向量σ(z) 中，使得每一个元素的范围都在（0, 1)之间，并且所有元素和为1。

softmax函数的性质

softmax函数的公式是：
$$F(x_i)=\frac{exp(x_i)}{{\sum }_{i=0}^{k}exp(x_i)}（i=0,1,2,...k）$$