多元统计分析笔记二——多元分布

最新推荐文章于 2026-04-23 02:27:50 发布

原创最新推荐文章于 2026-04-23 02:27:50 发布 · 2.6k 阅读

11 ·

本内容遵循CC 4.0 BY-SA版权协议

标签

#统计学

概率论与数理统计专栏收录该内容

23 篇文章

订阅专栏

一、Wishart分布

1.1 基本概念

Wishart分布是 $χ2\chi^2$ 分布的多元情况，假设有随机变量 $ξ∼N(0,Σ)∈Rp\xi\sim N(0,\Sigma)\in\bm R^{p}$ ，有 $i i d$ 样本 $,XnX_1,\cdots,X_n$ ，定义 $,Xn)T∈Rn×p\bm X=(X_1,\cdots,X_n)^T\in\bm R^{n\times p}$ ，那么 $M=XTX=∑i=1nXiXiT∼Wp(Σ,n)(1)M=\bm X^T\bm X=\sum\limits_{i=1}^nX_iX_i^T\sim W_p(\Sigma, n)\tag1$
$n$ 为自由度。

1.2 性质

如果 $M∼Wp(Σ,n)M\sim W_p(\Sigma, n)$ ，而且 $B∈Rp×qB\in\bm R^{p\times q}$ ，那么 $BTMB∼Wq(BTΣB,n)(2)B^TMB\sim W_q(B^T\Sigma B, n)\tag2$
当 $B=Σ−12B=\Sigma^{-\frac{1}{2}}$ 时， $Σ−12MΣ−12∼Wp(Ip,n)\Sigma^{-\frac{1}{2}}M\Sigma^{-\frac{1}{2}}\sim W_p(I_p, n)$
如果 $M∼Wp(Σ,n)M\sim W_p(\Sigma, n)$ ，那么 $E(M)=nΣE(M)=n\Sigma$
如果 $,kM_i\sim W_p(\Sigma, n_i),\quad i=1,\cdots,k$ ，且相互独立，那么 $M=∑i=1kMi∼Wp(Σ,n)(3)M=\sum_{i=1}^kM_i\sim W_p(\Sigma, n)\tag3$
其中 $n=∑i=1knin=\sum\limits_{i=1}^kn_i$
如果 $X∈Rn×p\bm X\in\bm R^{n\times p}$ ，且 $Xi∼N(0,Σ)X_i\sim N(0,\Sigma)$ ，对于对称矩阵 $C$ ，当且仅当 $C^2=C$ 时， $XTCX∼W(Σ,r)(4)\bm X^TC\bm X\sim W(\Sigma, r)\tag4$
其中， $r = r a n k (C) = t r (C)$ ，由此可以得到 $nS=XT(In−1n11T)X∼Wp(Σ,n−1)(5)nS=\bm X^T(I_n-\frac{1}{n}\bm1\bm1^T)\bm X\sim W_p(\Sigma, n-1)\tag5$
其中 $S$ 是样本协方差阵

二、Hotelling $T^2$ 分布

2.1 基本概念

对于 $X∈RpX\in\bm R^p$ ，假设 $X∼N(0,Ip)X\sim N(0, I_p)$ ， $M∼Wp(Ip,n)M\sim W_p(I_p, n)$ ，那么 $X^TM^{-1}X\sim T^2(p, n)\tag6$

2.2 结论

如果 $X∼N(μ,Σ)X\sim N(\mu, \Sigma)$ ， $M∼Wp(Σ,n)M\sim W_p(\Sigma, n)$ ，而且 $X$ 与 $M$ 相互独立，那么有 $n(X−μ)TM−1(X−μ)∼T2(p,n)(7)n(X-\mu)^TM^{-1}(X-\mu)\sim T^2(p, n)\tag7$
结合 $nS∼Wp(Σ,n−1)nS\sim W_p(\Sigma, n-1)$ ， $Xˉ∼N(μ,1nΣ)\bar{\bm X}\sim N(\mu, \frac{1}{n}\Sigma)$ ，并且 $Xˉ\bar{\bm X}$ 与 $S$ 相互独立，可知 $(n−1)(Xˉ−μ)TS−1(Xˉ−μ)∼T2(p,n−1)(8)(n-1)(\bar{\bm X}-\mu)^TS^{-1}(\bar{\bm X}-\mu)\sim T^2(p, n-1)\tag8$
$T2(p,n)=npn−p+1Fp,n−p+1(9)T^2(p, n)=\frac{np}{n-p+1}F_{p,n-p+1}\tag9$

三、一个总体平均向量的检验

3.1 $Σ\Sigma$ 已知

已知 $,Xn∼Np(μ,Σ)X_1,\cdots,X_n\sim N_p(\mu, \Sigma)$ ，令 $Xˉ=∑i=1nXi\bar{\bm X}=\sum\limits_{i=1}^nX_i$ ， $S=1n∑i=1n(Xi−Xˉ)(Xi−Xˉ)TS=\frac{1}{n}\sum\limits_{i=1}^n(X_i-\bar{\bm X})(X_i-\bar{\bm X})^T$ ，对于检验 $H0:μ=μ0VSH1:μ≠μ0(10)H_0:\mu=\mu_0 \quad VS\quad H_1:\mu\ne\mu_0\tag{10}$
由于 $Σ\Sigma$ 已知，所以可用 $T2=n(Xˉ−μ0)TΣ−1(Xˉ−μ0)∼χp2(11)T^2=n(\bar{\bm X}-\mu_0)^T\Sigma^{-1}(\bar{\bm X}-\mu_0)\sim\chi^2_p\tag{11}$
作为检验统计量

3.2 $Σ\Sigma$ 未知

对于检验 $(10)$ ，当 $Σ\Sigma$ 未知时，可用 $(n−1)−p+1(n−1)pT2∼Fp,n−p(12)\frac{(n-1)-p+1}{(n-1)p}T^2\sim F_{p, n-p}\tag{12}$ 作为检验统计量，其中， $T2=(n−1)(Xˉ−μ0)TS−1(Xˉ−μ0)T^2=(n-1)(\bar{\bm X}-\mu_0)^TS^{-1}(\bar{\bm X}-\mu_0)$

四、两个总体平均向量的检验

4.1 协方差相等且已知

对于 $,Xn∼Np(μ1,Σ)X_1,\cdots,X_n\sim N_p(\mu_1, \Sigma)$ ， $,Ym∼Np(μ2,Σ)Y_1,\cdots,Y_m\sim N_p(\mu_2, \Sigma)$ ，所有样本都相互独立，而且 $m\gt p$ 。令 $Xˉ\bar{\bm X}$ 和 $Yˉ\bar{\bm Y}$ 表示均值， $S_X$ 和 $S_Y$ 表示对应的协方差，那么对于假设 $H0:μ1=μ2VSH1:μ1≠μ2(13)H_0: \mu_1=\mu_2\quad VS \quad H_1:\mu_1\ne\mu_2\tag{13}$
在 $(13)$ 的假设下， $Xˉ−Yˉ∼N(0,n+mnmΣ)\bar{\bm X}-\bar{\bm Y}\sim N(\bm0,\frac{n+m}{nm}\Sigma)$ ，进而可用 $T2=nmn+m(Xˉ−Yˉ)TΣ−1(Xˉ−Yˉ)∼χp2(14)T^2=\frac{nm}{n+m}(\bar{\bm X}-\bar{\bm Y})^T\Sigma^{-1}(\bar{\bm X}-\bar{\bm Y})\sim\chi^2_p\tag{14}$ 作为检验统计量

4.2 协方差相等但未知

在这种情况下，用 $S_X, S_Y$ 来估计协方差，易得 $nSX+mSY∼Wp(Σ,n+m−2)(15)nS_X+mS_Y\sim W_p(\Sigma, n+m-2)\tag{15}$
令 $S=(n+m)^{-1}(nS_X+mS_Y)$ ，则 $(n+m)S∼Wp(Σ,n+m−2)(n+m)S\sim W_p(\Sigma, n+m-2)$ ，另外， $S$ 与 $Xˉ−Yˉ\bar{\bm X}-\bar{\bm Y}$ 相互独立，所以在 $(13)$ 的假设下， $nm(n+m−2)(n+m)2(Xˉ−Yˉ)TS−1(Xˉ−Yˉ)∼T2(p,n+m−2)(16)\frac{nm(n+m-2)}{(n+m)^2}(\bar{\bm X}-\bar{\bm Y})^TS^{-1}(\bar{\bm X}-\bar{\bm Y})\sim T^2(p, n+m-2)\tag{16}$
进而有 $nm(n+m−p−1)p(n+m)2(Xˉ−Yˉ)TS−1(Xˉ−Yˉ)∼Fp,n+m−p−1(17)\frac{nm(n+m-p-1)}{p(n+m)^2}(\bar{\bm X}-\bar{\bm Y})^TS^{-1}(\bar{\bm X}-\bar{\bm Y})\sim F_{p, n+m-p-1}\tag{17}$

4.3 协方差不相等但已知

对于 $,Xn∼Np(μ1,Σ1)X_1,\cdots,X_n\sim N_p(\mu_1, \Sigma_1)$ ， $,Ym∼Np(μ2,Σ2)Y_1,\cdots,Y_m\sim N_p(\mu_2, \Sigma_2)$ ，所有样本都相互独立，而且 $m\gt p$ 。

在 $(13)$ 的假设下， $Xˉ−Yˉ∼N(0,Σ1n+Σ2m)\bar{\bm X}-\bar{\bm Y}\sim N(\bm0,\frac{\Sigma_1}{n}+\frac{\Sigma_2}{m})$ ，进而可用 $T2=(Xˉ−Yˉ)T(Σ1n+Σ2m)−1(Xˉ−Yˉ)∼χp2(18)T^2=(\bar{\bm X}-\bar{\bm Y})^T(\frac{\Sigma_1}{n}+\frac{\Sigma_2}{m})^{-1}(\bar{\bm X}-\bar{\bm Y})\sim\chi^2_p\tag{18}$ 作为检验统计量

4.3 协方差不相等且未知

4.3.1 $n = m$ 时

令 $Z_i=X_i-Y_i$ ，进而有 $Zˉ=Xˉ−Yˉ\bar{\bm Z}=\bar{\bm X}-\bar{\bm Y}$ ， $S_Z$ 为相应的样本协方差，在 $(13)$ 的假设下， $Zˉ∼N(0,Σ1+Σ2n)(19)\bar{\bm Z}\sim N(\bm0, \frac{\Sigma_1+\Sigma_2}{n})\tag{19}$
而且 $nSZ∼Wp(Σ1+Σ2,n−1)(20)nS_Z\sim W_p(\Sigma_1+\Sigma_2, n-1)\tag{20}$
所以有 $(n−1)ZˉT(SZ)−1Zˉ∼T2(p,n−1)(21)(n-1)\bar{\bm Z}^T(S_Z)^{-1}\bar{\bm Z}\sim T^2(p, n-1)\tag{21}$
进而可用统计量 $n−ppZˉT(SZ)−1Zˉ∼Fp,n−p(22)\frac{n-p}{p}\bar{\bm Z}^T(S_Z)^{-1}\bar{\bm Z}\sim F_{p, n-p}\tag{22}$