# 指数試行の繰り返し
###### tags: `probability-theory`
## $n=2$

二つの確率変数$X_1, X_2$が、互いに独立に同一の指数分布に従うとする。
$$
\newcommand{\indep}{\mathop{\,\perp\!\!\!\!\!\!\perp\,}}
X_1, X_2 \sim Exp\left(\lambda\right), X_1 \indep X_2
$$
このとき、$S=X_1+X_2$の確率分布の確率密度関数を導く。
$$
\begin{align}
f_S\left(s\right)
&= \int_{0}^{s} f_{X_1}\left(u\right)f_{X_2}\left(s-u\right) du \notag \\
&= \int_{0}^{s} \lambda \exp\left(-\lambda u\right) \lambda \exp\left(-\lambda\left(s-u\right)\right)du \notag \\
&= \int_{0}^{s} \lambda^2 \exp\left(-\lambda s\right) du \notag \\
&= \lambda^2 \exp\left(-\lambda s\right) \left[u\right]_{0}^{s} \notag \\
&= \lambda^2 \exp\left(-\lambda s\right) \left[s-0\right] \notag \\
&= \lambda^2 s \exp\left(-\lambda s\right) \notag \\
\end{align}
$$

## $n=3$

二つの確率変数$X_1, X_2, X_3$が、互いに独立に同一の指数分布に従うとする。
$$
\newcommand{\indep}{\mathop{\,\perp\!\!\!\!\!\!\perp\,}}
X_1, X_2 \sim Exp\left(\lambda\right), X_i \indep X_j, \,\, \forall i\neq j
$$
このとき、$S_3=X_1+X_2+X_3$の確率分布の確率密度関数を導く。
$$
\begin{align}
f_{S_3}\left(s\right)
&= \int_{0}^{s} f_{S}\left(u\right)f_{X_3}\left(s-u\right) du \notag \\
&= \int_{0}^{s} \lambda^2 u \exp\left(-\lambda u\right) \lambda \exp\left(-\lambda\left(s-u\right)\right)du \notag \\
&= \int_{0}^{s} \lambda^3 u \exp\left(-\lambda s\right) du \notag \\
&= \lambda^3 \exp\left(-\lambda s\right) \left[\frac{u^2}{2}\right]_{0}^{s} \notag \\
&= \lambda^3 \exp\left(-\lambda s\right) \left[\frac{s^2}{2}-0\right] \notag \\
&= \lambda^3 \frac{s^2}{2} \exp\left(-\lambda s\right) \notag \\
\end{align}
$$

## $n=k$

$k$個の確率変数$X_1, X_2, \ldots, X_k$が、互いに独立に同一の指数分布に従うとする。
$$
\newcommand{\indep}{\mathop{\,\perp\!\!\!\!\!\!\perp\,}}
X_1, X_2, \ldots, X_k \sim Exp\left(\lambda\right), X_i \indep X_j, \,\, \forall i\neq j
$$
このとき、$S_k=X_1+X_2+\cdots+X_k$の確率分布の確率密度関数が、次の通りであることを仮定する。
$$
\begin{align}
f_{S_k}\left(s\right)
&= \lambda^k \frac{s^{k-1}}{\left(k-1\right)!} \exp\left(-\lambda s\right)
\end{align}
$$

## $n=k+1$

$k$個の確率変数$X_1, X_2, \ldots, X_{k+1}$が、互いに独立に同一の指数分布に従うとする。
$$
\newcommand{\indep}{\mathop{\,\perp\!\!\!\!\!\!\perp\,}}
X_1, X_2, \ldots, X_{k+1} \sim Exp\left(\lambda\right), X_i \indep X_j, \,\, \forall i\neq j
$$
このとき、$S_{k+1}=X_1+X_2+\cdots+X_k+X_{k+1}$の確率分布の確率密度関数を導く。

$$
\begin{align}
f_{S_{k+1}}\left(s\right)
&= \int_{0}^{s} f_{S_k}\left(u\right)f_{X_{k+1}}\left(s-u\right) du \notag \\
&= \int_{0}^{s} \lambda^k \frac{u^{k-1}}{\left(k-1\right)!} \exp\left(-\lambda u\right) \lambda \exp\left(-\lambda\left(s-u\right)\right)du \notag \\
&= \int_{0}^{s} \lambda^{k+1} \frac{u^{k-1}}{\left(k-1\right)!} \exp\left(-\lambda s\right) du \notag \\
&= \lambda^{k+1} \exp\left(-\lambda s\right) \left[\frac{u^{k}}{k!}\right]_{0}^{s} \notag \\
&= \lambda^{k+1} \exp\left(-\lambda s\right) \left[\frac{s^k}{k!}-0\right] \notag \\
&= \lambda^{k+1} \frac{s^k}{k!} \exp\left(-\lambda s\right) \notag \\
\end{align}
$$

## 数学的帰納法

数学的帰納法により、任意の正の整数$n$について$S_n = \sum_{i=1}^n X_i$が従う確率分布の確率密度関数は
$$
f_{S_n} = \lambda^n \frac{s^{n-1}}{\left(n-1\right)!} \exp\left(-\lambda s\right)
$$
であることが示された。