【統計検定】基礎の復習①
1週間ちょっと前にDBスペシャリスト試験があったので、9月あたりからはその勉強に主に時間を割いていた。11月には統計検定があるので、ここからはそこに時間を割くことになる。今週は時間が空いて忘れていた基礎の部分を復習していこうと思う。
1. 主要な分布の確率関数
正直暗記はあまり好きではないが、こういった基礎の部分は暗記しておかないとスムーズに問題を解けなくなってしまう。思い出す時間すら必要ないくらいにすっと出てくるようにしたい。暗記用に適当なシートを印刷して、定期的にすらすら書けるか確認した方が良いかな。
ベルヌーイ分布
0, 1で表せるような二つの事象が起こる確率分布。
$$
f(x) = p^x (1-p)^{1-x}
$$
二項分布
ベルヌーイ試行を複数回繰り返したときのある事象（成功）の回数の確立分布。
$$
f(x) = \binom n x p^x (1-p)^{n-x}
$$
幾何分布
はじめて成功するまで失敗した回数の確率分布。
$$
f(x) = (1-p)^{x} p
$$
負の二項分布
幾何分布を一般化したもので、ある回数成功するまでに失敗した回数の確率分布。
$$
f(x) = \binom{r+k-1}{k} (1-p)^r p^k
$$
ポアソン分布
まれな現象が起こる個数（回数）を表す確率分布。
$$
f(x) = \frac{\lambda^x}{x!} e^{-\lambda}
$$
超幾何分布
有限母集団を非復元抽出していったときの事象の個数（回数）の確率分布。超幾何分布は変数が分かりづらいので補足をすると、壺の中にM個の赤玉とN-M個の白玉が入っていて、K個の玉を取り出したときにＸ個が赤玉である確率を表している。
$$
f(x) = \binom M x \binom{N-M}{K-x} / \binom N K
$$
一様分布
区間上で全ての事象が起こる確率が等しいとする確率分布。
$$
f(x) = \frac{1}{b-a} I(a \le x \le b)
$$
指数分布
生存時間などに用いられることがある指数関数を使った確率分布。
$$
f(x) = \lambda e^{-\lambda x} I(x \gt 0)
$$
ガンマ分布
ガンマ関数を使った確率分布で、特定のパラメータの場合にカイ二乗分布と呼ばれ統計学において重要な分布となる。
$$
f(x) = \frac{1}{\Gamma(\alpha) \beta^\alpha} x^{\alpha-1} \exp\left\{ -\frac{x}{\beta} \right\} I(x \ge 0)
$$
正規分布
統計学において最も重要な分布である正規分布。中心極限定理により、どの確率分布でも独立な和は正規分布で近似できる。
$$
f(x) = \frac{1}{\sqrt{2\pi \sigma^2}} \exp\left\{ -\frac{(x-\mu)^2}{2\sigma^2} \right\}
$$
ベータ分布
区間（0, 1）上に値を持ち、特定のパラメータで一様分布となる確率分布。
$$
f(x) = \frac{1}{B(a, b)} x^{a-1} (1-x)^{b-1} I(0 \lt x \lt 1)
$$
2. 変数変換
1変数の場合
確率変数を変換したときにどういった分布に従うかを調べるために用いるのが変数変換の公式で、以下で定義される。下は$${Y=g(X)}$$で変換された確率関数を求める際のものだ。
$$
f_Y(y) = f_X(g^{-1}(y)) \left| \frac{d}{dy} g^{-1}(y) \right|
$$
導出は分布関数を用いて行う。
まず、分布関数について以下を確認する。
$$
F_Y(y) = P(Y \le y) = P(g(X) \le y) = P(X \le g^{-1}(y)) = F_X(g^{-1}(y))
$$
そのあと、微分をして確率関数を求める。
絶対値が付いているのは$${g(X)}$$によっては不等号の向きが変わってしまうためで、その場合も微分によって符号が打ち消されるため正の値となる。
$$
f_Y(y) = \frac{d}{dy} F_Y (y) = \frac{d}{dy} F_X (g^{-1}(y)) = f_X (g^{-1}(y)) \left|\frac{d}{dy} g^{-1}(y)\right|
$$
2変数の場合
2変数の変数変換についてはさらに面倒で、ヤコビアンと呼ばれる行列式を用いて変換を行うことになる。
例として、独立した二つの確率変数$${(X, Y)}$$があるときに、$${S=X, T=XY}$$という変換をしたとする。このとき、変換したあとのTの確率関数を求めるには以下のような手順を踏む（2, 3は同時に行うことが多い）。
ヤコビアンの行列式を求める
同時確率関数を求める
周辺確率関数を求める
まず1のヤコビアンについてだが、これは変換後の分布のスケールを調整する役割を持っている。1変数の場合でもひっそりと登場していたが、分布を変換した後に確率関数の総和が1になるようにしないといけない。そのために、引き伸ばされた確率の値を調整するのがこのヤコビアンだ。定義は以下のようになる。
$$
J((s, t) \to (x, y)) = \begin{vmatrix}
\frac{\partial}{\partial s} h_1(s, t) & \frac{\partial}{\partial t} h_1(s, t) \\
\frac{\partial}{\partial s} h_2(s, t) & \frac{\partial}{\partial t} h_2(s, t)
\end{vmatrix}
$$
ここで、$${X=h_1(S, T), Y=h_2(S, T)}$$とS, Tからの逆変換の関数をそれぞれ用いる。今回の場合は、$${X=S, Y=T/S}$$となり、ヤコビアンは、
$$
J((s, t) \to (x, y)) = \begin{vmatrix}
\frac{\partial}{\partial s} S & \frac{\partial}{\partial t} S \\
\frac{\partial}{\partial s} \frac{T}{S}& \frac{\partial}{\partial t} \frac{T}{S}
\end{vmatrix} \\
= \frac{1}{S}
$$
となる。
次に、S, Tの同時確率関数を求める。
これはヤコビアンを掛け合わせてS, Tの確率関数の積を取る形となる。
$$
f_{S, T}(s, t) = f_X(h_1(S, T)) f_Y(h_2(S, T)) \left| J((s, t) \to (x, y)) \right|
$$
そして最後にTのみの確率関数を求めたいので、Sに関して積分してTの周辺確率関数を求める。
$$
f_{T}(t) = \int f_{S, T}(s, t) ds
$$
これで変換後のTの確率関数を求めることができる。