两类问题且模式都是正太分布的特殊情况:设有两种模式,W1,W2,P(w1)和P(w2)求这两类模式之间的贝叶斯判别界面的方程式
情况一
当C1!=C2时,两类模式的正态分布为:p(x|ω1)表示为N(m1, C1),p(x|ω2)表示为N(m2, C2),ω1和ω2两类的判别函数对应为:

m1和m2是两种模式的均值向量 mi = Ei{x}
Ci是协方差矩阵,这里要有一点说明,之前我一直算的跟老师给的答案不一样的原因是:我考虑了无偏估计,但是由于这个的样本数量太少,因此老师并没有将这个考虑进去,所以没有除以N-1,但是在matlab的环境下,自动除以N-1,这就是我为什么跟matlab算的一样,而跟老师算的不一样的原因。
情况二
当C1=C2=C时,有下面这个公式

因C为对称矩阵,上式可简化为:;

由此可导出类别ω1和ω2间的判别界面为:

因此:
当C1≠C2时的情况
显然,判别界面d1(x)- d2(x)=0是x的二次型方程,即ω1和ω2两类模式可用二次判别界面分开。
当x是二维模式时,判别界面为二次曲线,如椭圆,圆,抛物线或双曲线等。
当C1=C2 =C时的情况
判别界面为x的线性函数,为一超平面。
当x是二维时,判别界面为一直线。
举一个例子
P(ω1)=P(ω2)=1/2,求其判别界面。

首先求两个模式的均值:
M1 = [1,1]的转置
M2 = [5,5]的转置
其次,求两个模式的协方差矩阵,因为样本比较小,所以不考虑无偏估计。
C1 = C2 = C = [1,0;0,1]
C^-1 = [1,0;0,1]
按照两类问题且其模式都是正态分布的特殊情况得:
D1(x)-D2(x) = ln(p(w1))-ln(p(w2))+(m1-m2)C-1*x-1/2m1TC-1m1+1/2m2TC^-1m2
= (-4,-4)(x1,x2)^T+24
= -4x1-4x2+24=0
化简得:
X1+X2 = 6
画出的图形为二元一次方程:

这个题就做完了,对了,下面还有编写两类正态分布模式的贝叶斯分类程序,这个老师说是选做,我明天弄完社团纳新的事情之后看看能不能编写出来,对于我一个编程不太好的人来说会是一个提升自己的机会。
当然这种问题前面会学到最小风险判别,和最小平均风险判别。
本文介绍了两类问题且模式都遵循正态分布的特殊情况,详细阐述了不同协方差矩阵情况下,如何求解贝叶斯判别界面的方程式。通过举例说明了二维模式下判别界面的形状,并提到了编程实现此类问题的可能性,作为提升编程技能的机会。

371

被折叠的 条评论
为什么被折叠?



