合計の分布と平均の分布

tags: probability-theory

四則演算による変換の分布

$X$ を確率分布

$F$ に従う確率変数とする。この分布が確率密度関数

$f\left(x\right)$を持つとき

$$Y=X+a\sim f(y-a)$$

$$Y=X-a\sim f(y+a)$$

$$Y=aX\sim \frac{1}{a}f\left(\frac{y}{a}\right)$$

$$Y=\frac{X}{a}\sim af\left(ay\right)$$

となる。標本空間が有界の場合は、標本空間も対応する変換を受ける。

合計の分布

確率変数列

$X_1,X_2,\dots ,X_n,\dots$ を、互いに独立に同一の確率分布

$F$に関する試行の列とする。最初の

$n$個の合計を

$$S_n=X_1+X_2+\cdots X_n=\sum _{i=1}^n{X}_i$$

と記す。確率分布

$F$のモーメント母関数を

$M_X$と記すと、

$S$が従う確率分布のモーメント母関数は

$$M_S\left(t\right)={\left\{M_X\left(t\right)\right\}}^n$$

となる。

平均の分布

さて、

$M_X\left(t\right)$の

$t=0$の周りでのテイラー展開が

$$M_X\left(t\right)=1+E\left[X\right]t+\frac{E\left[X^2\right]}{2!}{t}^2+\frac{E\left[X^3\right]}{3!}{t}^3+$$

であった。

$X$の期待値

$\mu$からの偏差

$D=X-\mu$のモーメント母関数には、

$$\begin{array}{rl}{M}_D\left(t\right)& =1+E\left[(X-\mu )\right]t+\frac{E\left[{(X-\mu )}^2\right]}{2!}{t}^2+\frac{E\left[{(X-\mu )}^3\right]}{3!}{t}^3+\\ & =1+\frac{E\left[{(X-\mu )}^2\right]}{2!}{t}^2+\frac{E\left[{(X-\mu )}^3\right]}{3!}{t}^3+\end{array}$$

のように中心モーメントが現れる上に、

$t$の一次の項が消える。次に

$D$を

$1/n$した

$D/n$が従う確率分布のモーメント母関数が

$$M_{D/n}\left(t\right)=1+\frac{E\left[{(X-\mu )}^2/n^2\right]}{2!}{t}^2+\frac{E\left[{(X-\mu )}^3/n^3\right]}{3!}{t}^3+$$

となることから、

$D_1,\dots ,D_n$の平均

${\bar{D}}_n$ が従う確率分布のモーメント母関数は、

$$\begin{array}{rl}{M}_{{\bar{D}}_n}\left(t\right)& ={\{1+\frac{E\left[{(X-\mu )}^2/n^2\right]}{2!}{t}^2+\frac{E\left[{(X-\mu )}^3/n^3\right]}{3!}{t}^3+\cdots +\}}^n\\ & =1+O\left(\frac{1}{n}\right)\end{array}$$

となり、

$n\to \mathrm{\infty }$で確率分布が縮退しまうことが分かる。

ところで

$S-n\mu$を

$n$ではなく、

$\sqrt{n}$で割ると

$$\begin{array}{rl}{M}_{(S-n\mu )/\sqrt{n}}\left(t\right)& ={\{1+E\left[\frac{X-\mu }{\sqrt{n}}\right]t+\frac{E\left[{(X-\mu )}^2/n\right]}{2!}{t}^2+\frac{E\left[{(X-\mu )}^3/n^{3/2}\right]}{3!}{t}^3+\cdots +\}}^n\\ & ={\{1+\frac{E\left[{(X-\mu )}^2/n\right]}{2!}{t}^2+o\left(\frac{1}{n}\right)\}}^n\\ & ={\{1+\frac{E\left[{(X-\mu )}^2/n\right]}{2!}{t}^2\}}^n+no\left(\frac{1}{n}\right)\end{array}$$
となる。ここで

$n\to \mathrm{\infty }$ の極限を求めると

$$\underset{n\to \mathrm{\infty }}{lim}{\{1+\frac{E\left[{(X-\mu )}^2/n\right]}{2!}{t}^2\}}^n+no\left(\frac{1}{n}\right)=e^{{\mu }_2{t}^2/2}$$

となる。これが平均と期待値の差を

$\sqrt{n}$で割った分布のモーメント母関数の極限である。