目录 反向传播梯度消失&梯度爆炸激活函数softmaxBN(Batch Normalization)Layer Normalization 反向传播 “反向传播算法”过程及公式推导(超直观好懂的Backpropagation)(建议直接看里面CASE 2,通俗易懂) 梯度消失&梯度爆炸 梯度消失和梯度爆炸原因及其解决方案梯度爆炸与梯度消失是什么?有什么影响?如何解决? 激活函数 常用激活函数(激励函数)理解与总结[深度学习] Relu层作用神经网络激活函数汇总(Sigmoid、tanh、ReLU、LeakyReLU、pReLU、ELU、maxout) softmax 一分钟理解softmax函数(超简单) BN(Batch Normalization) 一文搞懂BN的原理及其实现过程(Batch Normalization)Batch Normalization(BN)超详细解析 Layer Normalization Layer Normalization解析