# 合計の分布と平均の分布
###### tags: `probability-theory`
## 四則演算による変換の分布

$X$ を確率分布 $F$ に従う確率変数とする。この分布が確率密度関数$f\left(x\right)$を持つとき

$$
Y=X+a \sim f\left(y-a\right)
$$

$$
Y=X-a \sim f\left(y+a\right)
$$

$$
Y=aX \sim \frac{1}{a}f\left(\frac{y}{a}\right)
$$

$$
Y=\frac{X}{a} \sim af\left(ay\right)
$$

となる。標本空間が有界の場合は、標本空間も対応する変換を受ける。

## 合計の分布

確率変数列 $X_1, X_2, \ldots, X_n, \ldots$ を、互いに独立に同一の確率分布$F$に関する試行の列とする。最初の$n$個の合計を

$$
S_n = X_1 + X_2 + \cdots X_n = \sum_{i=1}^n X_i
$$

と記す。確率分布$F$のモーメント母関数を$M_X$と記すと、$S$が従う確率分布のモーメント母関数は

$$
M_S\left(t\right) = \left\{M_X\left(t\right)\right\}^n
$$

となる。

## 平均の分布

さて、$M_X\left(t\right)$の$t=0$の周りでのテイラー展開が

$$
M_X\left(t\right) = 1 + E\left[X\right] t + \frac{E\left[X^2\right]}{2!} t^2 + \frac{E\left[X^3\right]}{3!} t^3 +
$$

であった。$X$の期待値$\mu$からの偏差$D=X-\mu$のモーメント母関数には、

$$
\begin{align}
M_D\left(t\right)
&= 1 + E\left[\left(X-\mu\right)\right] t + \frac{E\left[\left(X-\mu\right)^2\right]}{2!} t^2 + \frac{E\left[\left(X-\mu\right)^3\right]}{3!} t^3 + \notag \\
&= 1 + \frac{E\left[\left(X-\mu\right)^2\right]}{2!} t^2 + \frac{E\left[\left(X-\mu\right)^3\right]}{3!} t^3 + \notag \\
\end{align}
$$

のように中心モーメントが現れる上に、$t$の一次の項が消える。次に$D$を$1/n$した$D/n$が従う確率分布のモーメント母関数が

$$
M_{D/n}\left(t\right) = 1 + \frac{E\left[\left(X-\mu\right)^2/n^2\right]}{2!} t^2 + \frac{E\left[\left(X-\mu\right)^3/n^3\right]}{3!} t^3 +
$$

となることから、$D_1, \ldots, D_n$の平均 $\overline{D}_n$ が従う確率分布のモーメント母関数は、

$$
\begin{align}
M_{\overline{D}_n}\left(t\right)
&= \left\{1 + \frac{E\left[\left(X-\mu\right)^2/n^2\right]}{2!} t^2 + \frac{E\left[\left(X-\mu\right)^3/n^3\right]}{3!} t^3 + \cdots+ \right\}^n \notag \\
&= 1 + O\left(\frac{1}{n}\right)
\end{align}
$$

となり、$n\rightarrow\infty$で確率分布が縮退しまうことが分かる。

ところで$S-n\mu$を$n$ではなく、$\sqrt{n}$で割ると
$$
\begin{align}
M_{\left(S-n\mu\right)/\sqrt{n}}\left(t\right)
&= \left\{1 + E\left[\frac{X-\mu}{\sqrt{n}}\right] t + \frac{E\left[\left(X-\mu\right)^2/n\right]}{2!} t^2 + \frac{E\left[\left(X-\mu\right)^3/n^{3/2}\right]}{3!} t^3 + \cdots+ \right\}^n \notag \\
&= \left\{1 + \frac{E\left[\left(X-\mu\right)^2/n\right]}{2!} t^2 + o\left(\frac{1}{n}\right) \right\}^n \\
&= \left\{1 + \frac{E\left[\left(X-\mu\right)^2/n\right]}{2!} t^2\right\}^n + no\left(\frac{1}{n}\right) \\
\end{align}
$$
となる。ここで $n\rightarrow\infty$ の極限を求めると

$$
\lim_{n\rightarrow\infty} \left\{1 + \frac{E\left[\left(X-\mu\right)^2/n\right]}{2!} t^2\right\}^n + no\left(\frac{1}{n}\right) = e^{\mu_2 t^2/2}
$$

となる。これが平均と期待値の差を$\sqrt{n}$で割った分布のモーメント母関数の極限である。