10.第四章 区间估计(1)

第四章 区间估计(1)

1.区间估计的基本概念

区间估计，指用一个误差限$d(\mathbf{X})$作为点估计的偏离限度，将$g(\theta )$的取值限制在$[\hat{g}(\mathbf{X})-d(\mathbf{X}),\hat{g}(\mathbf{X})+d(\mathbf{X})]$之中。更一般地，取两个具有确定大小关系的统计量${\hat{g}}_1(\mathbf{X})\le {\hat{g}}_2(\mathbf{X})$，将$[{\hat{g}}_1(\mathbf{X}),{\hat{g}}_2(\mathbf{X})]$作为参数$g(\theta )$的区间估计。与点估计不同，点估计不可能取到实际参数值，但区间估计却存在包含实际参数值的可能；从定义也可以看出，区间估计依赖于好的点估计。

评价区间估计优劣主要有两个指标：可靠度，精度。

• 可靠度：待估参数$g(\theta )$被包含在区间$[{\hat{g}}_1(\mathbf{X}),{\hat{g}}_2(\mathbf{X})]$的可能性大小；
• 精度：区间的平均长度$E_{\theta }({\hat{g}}_2(\mathbf{X})-{\hat{g}}_1(\mathbf{X}))$。
• 一般来说，在样本大小固定时，提高可靠度意味着降低精度，反之也成立。构造可靠度和精度都尽可能高的方法通常采用Neyman原则，即在保证可靠度达到指定要求的前提下尽可能提高精度。

为了衡量区间估计的可靠度，将随机取件$[{\hat{\theta }}_1,{\hat{\theta }}_2]$包含待估参数$\theta$的概率称为置信度（置信系数），即置信度为P{θ∈[θ^1,θ^2]}\mathbf P\{\theta\in [\hat \theta_1,\hat\theta_2]\}P{θ∈[θ^1​,θ^2​]}。然而置信度是依赖于未知参数$\theta$的，而我们在估计时仅仅知道$\theta$是个定值却不知道它到底是多少，所以我们要对整个样本空间$\Theta$上的参数确定置信度，将所有置信度的下确界定为这个区间估计的置信系数，即
$$\underset{\theta \in \Theta }{\inf }{\mathbf{P}}_{\theta }({\hat{\theta }}_1\le \theta \le {\hat{\theta }}_2)$$
可以看出，用置信系数衡量区间估计的可靠度就与未知参数无关，而单单说置信度（置信水平），是依赖于未知参数的。如果要计算区间估计的置信水平或置信系数，就需要相关统计量的精确分布或渐进分布。

2.置信区间、置信限与置信域

Neyman准则要求在可靠度达到一定要求的前提下，尽可能地缩短区间估计的长度，因此需要引入置信区间的概念。对给定的$0<\alpha <1$与区间估计$[{\hat{\theta }}_1(\mathbf{X}),{\hat{\theta }}_2(\mathbf{X})]$，有
$$\begin{gathered} {\mathbf{P}}_{\theta }({\hat{\theta }}_1(\mathbf{X})\le \theta \le {\hat{\theta }}_2(\mathbf{X}))\ge 1-\alpha ,\forall \theta \in \Theta \\ 即\underset{\theta \in \Theta }{\inf }{\mathbf{P}}_{\theta }({\hat{\theta }}_1(\mathbf{X})\le \theta \le {\hat{\theta }}_2(\mathbf{X}))\ge 1-\alpha \end{gathered}$$
则称$[{\hat{\theta }}_1(\mathbf{X}),{\hat{\theta }}_2(\mathbf{X})]$是$\theta$的置信水平为$1-\alpha$的置信区间，即置信系数不小于$1-\alpha$的区间估计。

置信区间是一种双边区间估计，而如果只关心未知参数的单边估计，就用到置信限。置信限的定义与区间估计类似，分为置信上限${\hat{\theta }}_U(\mathbf{X})$和置信下限${\hat{\theta }}_L(\mathbf{X})$，分别要求在给定的置信系数$1-\alpha$下，有
$$\begin{gathered} {\mathbf{P}}_{\theta }(\theta \le {\hat{\theta }}_U(\mathbf{X}))\ge 1-\alpha ,\forall \theta \in \Theta \\ {\mathbf{P}}_{\theta }(\theta \ge {\hat{\theta }}_L(\mathbf{X}))\ge 1-\alpha ,\forall \theta \in \Theta \end{gathered}$$
并且可以推论，对于${\hat{\theta }}_L(\mathbf{X})\le {\hat{\theta }}_U(\mathbf{X})$，如果${\hat{\theta }}_L(\mathbf{X})$是置信水平$1-{\alpha }_1$的置信下限，${\hat{\theta }}_U(\mathbf{X})$是置信水平为$1-{\alpha }_2$的置信上限，则$[{\hat{\theta }}_L(\mathbf{X}),{\hat{\theta }}_U(\mathbf{X})]$是置信水平为$1-{\alpha }_1-{\alpha }_2$的双侧置信区间。

置信域将置信区间与置信限的概念拓展到参数$\theta$是多维（设为$k$维）的情形。设有一个参数分布族F={f(x,θ),θ∈Θ},θ=(θ1,⋯ ,θk)∈Θ⊂Rk\mathscr F=\{f(x,\boldsymbol \theta), \boldsymbol \theta \in\Theta\},\boldsymbol \theta=(\theta_1,\cdots,\theta_k)\in \Theta \subset \mathbf R^kF={f(x,θ),θ∈Θ},θ=(θ1​,⋯,θk​)∈Θ⊂Rk。若统计量$S(\mathbf{X})$满足对任何样本$\mathbf{X}$有$S(\mathbf{X})\subset \Theta$，且${\mathbf{P}}_{\mathbf{\theta }}(\mathbf{\theta }\in S(\mathbf{X}))\ge 1-\alpha ,\forall \mathbf{\theta }\in \Theta$，则称$S(\mathbf{X})$是$\mathbf{\theta }$的置信水平为$1-\alpha$的置信域。

常用的置信域是一些限定规则的几何图形，尤其是长方体。这里的$S(\mathbf{X})$直接规划出了一个三维区域，而不是单值。