吴恩达machine-learning-ex4练习题解析之代价函数

（本文原创于自己编辑的简书，时间2019.05.12 ，https://www.jianshu.com/p/57904b09f79e)

EX4主要是针对神经网络反向传播的实战，是非常重要的一课，所以花了我两天3夜地研究这道习题，还真是值得，收获满满。

        跟着ex4.pdf文档的脚步一步一步来：

1.首先1-3页都在表达初始化数据，和数据模型。

2.到了第五页，开始摩拳擦掌，实现第一段代码：神经网络代价函数

首先他给到这样的一个公式：

代价函数（无lambda项）

吼！不要被这个公式吓到了。先不考虑lambda项，后面再慢慢深入。

第一个∑

首先把∑就当成是一次for循环，去掉一个∑就等于把for循环套在外面，中间弄个sumTemp作为临时累加项，直到end结束，sumTemp就是这个求和项了，

比如去掉第一个∑就等于

for i = 1:m

sumTemp = sumTemp + xx

end

之前我们说过只要有∑项的就可以直接用矩阵相乘来考虑不用for循环，但在这个公式稍微复杂一些，分解步骤逐个求解有利于理解。

yk的转换

首先要知道这里的y(i)不能直接采用样本的y，你要想想一次神经网络的输出有10维，但y为什么只有一个值呢？那是因为中间做过处理，输出的10维向量，[0 0 0 0 0 0 0 0 1 0]，你没理由把这个给人家看，转成人看得懂的语言它就是9，所以直接的值就为单值。