机敏问答[概率][5] #20210619

本专栏主要作个人复习自测，有相关知识预备的同学也可作复习用。不保证无相应基础的人士能看明白。
万一考试考到了，或者对你的学习有较大帮助，一键三连不过分吧（斜眼笑）

Bernoulli试验场合极限定理

0. 对于Bernoulli实验，什么是标准化后的（和）$S_n^{\ast }$？
1. Bernoulli大数律：用（）不等式估计$P(|\frac{S_n-np}{n}|\ge ϵ)\le$（）。左边分母换成（）时恰好就不能说明（）（收敛种类）收敛了。
2. De Moivre-Laplace中心极限定理：如何处理后的$S_n$满足什么分布？
3. 解释$\frac{P(S_n=k)}{p_Z(x_k)\Delta x}$在$\mathbb{K}$上一致收敛到1这个命题中各个字母含义。

答案

0. $\frac{S_n-np}{\sqrt{npq}}$
1. 切比雪夫，$\frac{n^{-2}\cdot nvar(X)}{{ϵ}^2}$，$\sqrt{n}$，依概率
2. 标准化，标准正态分布。
3. $S_n\sim B(n,p),Z\sim N(0,1),x_k=\frac{k-np}{\sqrt{npq}},\Delta x=x_{k+1}-x_k=\frac{1}{\sqrt{npq}}$，$\mathbb{K}$是区间（不一定有限）

依概率收敛和WLLN

0. 依概率收敛的本质思想：（）时概率小，（）时误差小。
1. $r$阶收敛${\xi }_n\stackrel{r}{\to }\xi$：（）（表达式）极限为0. 其中$r$满足条件（）
2. 上面两种收敛是什么关系？（用到（）不等式）其中不成立的一边和数学分析中不一致收敛的函数的积分有何关系？
3. 弱大数律的结果是（）（收敛种类）收敛，过程中（使用矩法证明时）用到了（）（收敛种类）收敛。其中切比雪夫WLLN是两两（）随机变量且所有随机变量满足条件：（）。马尔可夫WLLN不需要独立性，也不考虑每个随机变量的（）（数字特征），但是考虑（）（随机变量）的（）（数字特征）的渐近行为是（）（填关于$n$的量级）。
4. 3.中所说收敛指的是（）（表达式）依概率收敛到0. 如果需要$S_n/n$收敛到一个常数，我们额外需要的收敛性是（），这个收敛是什么意思？
5. 用多项式逼近闭区间上连续函数：简单来说，每个点$x$处的多项式函数值是以（）为参数的（）分布的概率值。
6. （）收敛定理：几乎处处（）（填条件）和（）（收敛种类）收敛可以推出期望收敛。本质是分两段放缩（和数学分析哪里有类似处？）
7. 截断情况推出 S n / n − E X 1 { ∣ X ∣ ≤ n } S_n/n-EX1_{\{|X|\le n\}} Sn​/n−EX1{∣X∣≤n}​依概率收敛至0：充分条件是（）（含有概率的表达式）关于$x\to \infty$极限趋于0. 则构造一列随机变量列（即构造”三角形“），截断的阈值依次（），且截断”造成影响“的概率趋于（）。
8. 7.中题设条件除了用于考察截断造成影响的概率，还在考察（）的方差时作为被积函数（回忆阿贝尔变换）
9. 7.中题设条件可以由$E|X|$满足（）推出，而7.中结论结合控制收敛定理就证明了$S_n/n\stackrel{P}{\to }EX$.
10. 应用：水浒传$n$将集卡问题。 根据几何分布，已经有$k$将的卡时集下一张所需的抽取次数的期望在（）（关于$n,k$）量级，方差不超过（）量级。（总需要抽取数）变量之和的期望和方差渐近行为分别是（）（关于$n$）量级，其中特别注意（）（$n$的函数）是（）（$n$的函数）的平方的高阶小，于是再回忆4.，就得到集齐$n$张卡所需的次数在$n$趋于无穷时满足依概率收敛式（）。
11. 集齐一半卡需要抽取多少次？

答案

0. 误差大，概率大
1. $E|{\xi }_n-\xi {|}^r$，$>0$
2. $r$阶收敛是依概率收敛的充分不必要条件。马尔可夫（或：切比雪夫）。可以用类似的反例（反例的本质也有类似之处）。
3. 依概率，$r$阶，无关，方差一致有界，方差，和$S_n$，方差（关于$n$），$o(n^2)$
4. $(S_n-E{S}_n)/n$，$E{S}_n/n\to a$，数列的收敛
5. $x$，（$n$很大）二项
6. 有界，有界，依概率。例：黎曼可积的一个充分条件。
7. $xP(|X|>x)$，增大，0
8. 截断变量 X 1 { ∣ X ∣ ≤ n } X1_{\{|X|\le n\}} X1{∣X∣≤n}​
9. $<\infty$
10. $\frac{n}{n-k}$，$n^2/(n-k{)}^2$，$nlnn,n^2$，$n^2$，$nlnn$，$S_n/(nlnn)\stackrel{P}{\to }1$
11. 注意：此时$n^2/(n-k{)}^2$求和只需要$k$小的那些项，这样的$n/2$项和在$n$趋于无穷时趋于0. 结果是$T_n/(nln2)\stackrel{P}{\to }1$

几乎必然收敛

0. ”风水轮流转“，在数学分析中点点收敛总是被认为很弱，而这里的（）比点点收敛还弱却被认为很强。
1. 某个样本点处随机变量列不收敛其实就是（）（填数列）不收敛。用$ϵ-$语言叙述为（），把$ϵ$换成一列正数则叙述为（），用集合的可数次运算通过 A n , ϵ = { ∣ ξ n − ξ ∣ > ϵ } A_{n,\epsilon}=\{|\xi_n-\xi|>\epsilon\} An,ϵ​={∣ξn​−ξ∣>ϵ}表示 { ω ∣ ξ n ( ω ) → ξ ( ω ) } c \{\omega| \xi_n(\omega)\to\xi(\omega)\}^c {ω∣ξn​(ω)→ξ(ω)}c就是（）。上面表达式如果改写成为${\cup }_{k\ge 1}{A}_{1/k}=li{m}_{k\to \infty }{A}_{1/k}$，那么$A_{ϵ}$在这里是什么含义？
2. Borel-Cantelli引理：任何情况下，如果一列事件概率和满足条件（），则这列事件几乎不可能（）发生。如果相互独立且概率和满足条件（），则（）。i.o.相当于几层什么集合运算？
3. 第一引理证明：回忆1.中最外层的（）（集合运算）可以写成极限运算，这里的外层（）（集合运算）也可以写成极限运算。（再利用收敛级数的性质）
4. 第二引理证明：相互独立事件的概率等于各事件概率（），再用（）（填不等式）放缩。
5. 总结：${\xi }_n\stackrel{a.s.}{\to }\xi$的充要条件：几乎必然收敛定义是（）的概率为1，通过$ϵ-$语言转化为任意（）（希腊字母），有（）（事件）i.o.发生概率为（）。简述刚才最后一个充要条件为什么可以等价于$P({\cup }_{n\ge N}{A}_{n,ϵ})$单调趋于0？
6. 用3. 5.写出一个充分条件。

答案

0. 几乎处处收敛。
1. 数列，$\exists ϵ>0,\forall N,\exists n>N,s.t.|{\xi }_n-\xi |>ϵ$，$\exists 1/k>0,\cdots$，${\cup }_{k\ge 1}{\cap }_{N\ge 1}{\cup }_{n>N}{A}_{n,1/k}$. 直观含义是不收敛且”震荡幅度“大于$ϵ$.
2. 收敛，无穷次（i.o.），发散，几乎一定i.o.发生。两层，内并外交。
3. 并，交。
4. 乘积，$1-x<e^{-x}$.
5. 略，$ϵ$， A n , ϵ = { ∣ ξ n − ξ ∣ > ϵ } A_{n,\epsilon}=\{|\xi_n-\xi|>\epsilon\} An,ϵ​={∣ξn​−ξ∣>ϵ}，0。必要性：单调显然，而如果$P({\cup }_{n\ge N}{A}_{n,ϵ})$有非零极限则那些能……的样本的点也是能……的样本点。充分性：那些让$A_{n,ϵ}$i.o.发生的样本点也是……的样本点。
6. ${\sum }_{n}P(A_{n,ϵ})<\infty ,\forall ϵ>0$

几乎必然收敛与其它收敛

0. 依概率收敛用之前记号$A_{n,ϵ}$表示为（）。所以几乎必然收敛能推出（）（收敛种类）。
1. 为什么$r$阶收敛和几乎必然收敛两边各不推出？
2. 通过B-C第（）（序号）引理，通过设法取“误差大”的概率满足条件（）的随机变量列，可以说明（）（收敛种类）收敛的随机变量列的任意子列存在子列的子列（下称“子子列“）使得（）（收敛种类）收敛。
3. 如果一个数列的任意子列都存在子子列收敛到0，则（）。如果一个随机变量列不是依概率收敛的，则存在一个子列使得（）（用$A_{n,ϵ}$表示），该子列的任意子子列都不是几乎必然收敛到$\xi$的。故依概率收敛等价于（）。
4. 前述有界收敛定理的题设是（）（收敛种类）收敛，结论是（）（研究对象。随机变量？分布？还是什么）的收敛，但是（）作为数字特征，实际上只和分布有关。所以我们可以通过考察和原始的${\xi }_n,\xi$（）（研究对象）相同的随机变量${\eta }_n,\eta$之间的收敛性考察依分布收敛能否得到有界收敛定理。
5. 接上。具体地，请证明$F_{{\xi }_n}^{-1}(U)$和${\xi }_n$同分布。而${\xi }_n$依分布收敛到$\xi$可以推出（）（谁哪种收敛到谁）就证明了待求结论（依分布收敛的有界收敛定理）。

答案

0. $\forall ϵ,li{m}_{n}P(A_{n,ϵ})\to 0$（注：和几乎必然收敛的一个充分条件对比：就是级数收敛和级数项趋于0的关系），依概率收敛（注：考察上一节5.）。
1. 提示：“轮流偏离”则不几乎必然收敛（实际上，必然不收敛）。“不一致收敛”则不$r$阶收敛（类似数学分析反例。
2. 一，求和收敛，依概率，几乎必然。
3. 该数列收敛到0，$A_{n_k,{ϵ}_0}>{\delta }_0,\forall k$，任意子列有几乎必然收敛的子子列
4. 依概率，期望（数列），期望，分布
5. $P(F_{\xi }^{-1}(U)\le x)=P(U\le F_{\xi }(x))=P(\xi \le x)$，$F_{{\xi }_n}^{-1}(U)$几乎必然收敛到$F_{\xi }^{-1}(U)$

SLLN

0. 强大数律是让$\frac{S_n-E{S}_n}{n}$（）（收敛种类）到（）。最容易证明的一种是（）阶矩有限的情况，此时$S_n$的（）阶矩直接展开并利用变量之间（）（性质）和（）（人名）不等式直接得到渐近行为是（）（关于$n$）量级。为了把渐近行为从（）量级变成求和收敛的（）量级，需要（）阶矩！
1. 更强的：对于独立同分布（标准化后）且2阶矩有限的情况，虽然$P(A_{n,ϵ})=P(|S_n/n|>ϵ)$关于$n,ϵ$的量级是求和发散的（），但是（）（事件的概率）的量级是求和收敛的（）。所以说已知一个子列（）（通项公式）满足$S_{n_m}/n_m$（）
2. 对于上述子列以外的部分，我们考察$P(\frac{X_{m^2+1}+\cdots +X_{m^2+k}}{m^2})$，利用（）不等式估计其不超过（）（关于$m$）量级，而$n_{m+1}-n_m$是（）量级，综合起来有$ma{x}_k|X_{m^2+1}+\cdots +X_{m^2+k}|$不超过（）量级，所以考察$|S_n|\le max|X_{m^2+1}+\cdots +X_{m^2+k}|+$（）（随机变量），右边两项都是除以$n$后（）（收敛种类）到0的，则根据定义显然有$S_n/n$（）
3. Kolmogorov’s SLLN：（）（随机变量间性质）且（）（数字特征）小于无穷，则（）。请考察$S_n/n$存在的一切样本点，证明这些样本点处$X_n/n$极限为（）。
4. 反之，若$X_n/n$几乎必然收敛到0（各$X_i$独立同分布，要区别于$X/n$），则根据（）（人名）变换和用离散型随机变量的期望估计一般情况，马上得到（）（关于期望的结论）。（其中用到（）引理）
5. 如果把3.中期望满足条件改成$EX=\infty$，那么想证明（）（类比，写出要证的结论）。不失一般性设$X$非负，设$T_n$是$n$个截断随机变量（）的和，其中截断的阈值是给定的，则根据（）（定理），有（）（随机变量）几乎必然收敛到$E(min(X,M))$. 根据任意$M$都有$S_n\ge T_n$，马上得到任意$M$都有（）（随机变量）在$n\to \infty$时的（）（极限种类）几乎必然大于等于（）。
6. 根据（）（满足一定条件的事件）的交仍是（）（满足一定条件的事件），我们现在只需证明（）（数字特征）在$M$（）（满足条件）时能趋于无穷即可。这直接用（）（人名）变换考察$EX=\infty$即可。
7. 什么是独立同分布数据的样本均值？其（在期望存在时）为什么几乎必然收敛到（）？对于二阶矩存在时样本方差呢？
8. 利用SLLN说明如何用均匀随机变量$U\sim U(0,1)$做高维数值积分。
9. 对于$f,g:[0,1]\to \mathbb{R}$，$0\le f<Cg$，求$li{m}_{n\to \infty }{\int }_{高维正方体}{\sum }_{i}f(x_i)/{\sum }_{i}g(x_i)d{x}_1\cdots d{x}_n$，我们相当于构造随机变量$X_i=$（）和（）$=$（），定义部分和（）（自行定义记号），则原积分就是随机变量$W_n=$（）的期望。
10. 接上，利用（）（收敛种类）保持四则运算，说明$W_n=$（）（定义的恒等变形）几乎必然收敛到（）（随机变量的数字特征）$={\int }_0^{1}fdx/{\int }_0^{1}gdx:=w$. 然而我们要求的是期望，而不是随机变量的极限，所以还要用（）（定理名）定理。

答案

0. 几乎必然收敛，0，4，4，独立性，柯西-施瓦尔茨，$n^2$，$n^2$，$n^{-2}$，4
1. $n^{-1}{ϵ}^{-2}$，$P(A_{n^2,ϵ})$，$n^{-2}{ϵ}^{-2}$，$n_m=m^2$，关于$m$几乎必然收敛到0.
2. 切比雪夫，$m^{-3}$（忽略$ϵ$相关的量级，视为$O(1)$），$m$，$m^{-2}$，$|S_{m^2}|$，几乎必然收敛，几乎必然收敛到0
3. 独立同分布，$E|X|$，$S_n/n\stackrel{a.s.}{\to }EX$，0. 提示：相邻两项相减。
4. 阿贝尔，$E|X|=\infty$，B-C第二
5. $S_n/n$几乎必然收敛到无穷，$min(X_i,M)$，SLLN，$T_n/n$，$S_n/n$，下极限，$E(min(X,M))$
6. 概率为1事件，概率为1事件，$E(min(X,M))$，趋于无穷，阿贝尔。
7. $S_n/n$，$EX$，$\frac{1}{n}{\sum }_i(X_i-\bar{X}{)}^2$几乎必然收敛到$var(X)$
8. 理论上，${\int }_0^{1}f(x)dx=Ef(U)$；实际中，$\frac{1}{n}\sum f(U_i)$几乎必然收敛到${\int }_0^{1}fdx$. 高维略。
9. $f(U_i)$，$Y_i$，$g(U_i)$，略，略，$S_n/T_n$
10. 几乎必然收敛，$\frac{S_n/n}{T_n/n}$，$EX/EY$，有界收敛。