利用极大似然估计计算概率
对于先验概率\(P(Y)\)，似然函数为\(L=\underset{i=1}{\overset{m}{\prod}}P(Y=y_i)\)，对数似然函数为\(l=\underset{i=1}{\overset{m}{\sum}}\log P(Y=y_i)\)，注意到有约束条件\(\underset{k=1}{\overset{K}{\sum}}P(Y=c_k)=1\)，于是利用拉格朗日乘数法可以得出下面的方程
\[\begin{cases} \frac{\underset{i=1}{\overset{m}{\sum}}I(y_i=c_k)}{P(Y=c_k)}+\lambda=0 & k=1,2,...,K \\ \underset{k=1}{\overset{K}{\sum}}P(Y=c_k)=1 \end{cases} \]
解这个方程组即可得出书上的公式
对于条件概率\(P(X|Y)\)，似然函数为\(L=\underset{i=1}{\overset{m}{\prod}}P(X=x_i|Y=y_i)\)，对数似然函数为\(l=\underset{i=1}{\overset{m}{\sum}}\log P(X=x_i|Y=y_i)\)，注意到有约束条件\(\underset{s=1}{\overset{S}{\sum}}P(
扫一扫
6920
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
