期待値

tags: probability-theory

確率変数の期待値

確率変数

$X$がある確率分布

$F$に従って分布するとき、その確率変数の期待値を次のように定める。

$F$が確率密度関数

$f$を持つ場合は

$${\int }_{x\in \mathcal{X}}xf\left(x\right)dx$$

$F$が確率関数

$p$を持つ場合は

$$\sum _{x\in \mathcal{X}}xp\left(x\right)$$

いずれも確率分布に照らした

$\mathcal{X}$の中の重心を意味する量である。これらを確率変数

$X$の期待値といい、

$E\left[X\right]$と記す。

確率変数の関数の期待値

別の確率変数

$Y$がある確率分布

$G$に従って分布するとする。ただしこの

$Y$は実は

$Y=X^2$であり、

$X$の分布は

$F$と分かっている。このとき、

$F$から

$G$を導いて

$Y$の期待値を計算すべきだろうか。

実は

$Y$が

$X$の関数と分かっていれば、

$X^2$の期待値を求めれば、それが

$Y$の期待値となる。

$$E_G\left[Y\right]=E_F\left[X^2\right]=\{\begin{array}{l}{\int }_{x\in \mathcal{X}}{x}^{2}f\left(x\right)dx\\ \sum _{x\in \mathcal{X}}{x}^{2}p\left(x\right)\end{array}$$

例えば

$X$の標本空間を

$\mathcal{R}$、確率分布

$F$の確率密度関数を

$f$とすると、

$Y$が従う確率分布の標本空間は

$$\mathcal{Y}={\mathcal{R}}^{+}$$
また確率密度関数は

$$g\left(y\right)=f\left(\sqrt{y}\right)\frac{1}{2\sqrt{y}}+f(-\sqrt{y})\frac{1}{2\sqrt{y}}$$
となる。ここから

$Y$の期待値を求めると

$${\int }_0^{\mathrm{\infty }}y\{f\left(\sqrt{y}\right)\frac{1}{2\sqrt{y}}+f(-\sqrt{y})\frac{1}{2\sqrt{y}}\}dy$$
となり、計算が複雑になっていく。これよりは

$${\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{x}^{2}f\left(x\right)dx$$
の方が、最悪、部分積分2回で求まるかもしれない。

このような計算の簡略化のために期待値は、確率変数のみならず、確率変数の関数についても定義されている。

モーメント

確率変数

$X$のべき乗

$X^k$の期待値を、原点モーメントという。

$$m_k=E\left[X^k\right]$$

特に

$k=1$の場合を

$m_1=\mu$と記す。

確率変数

$X$の平均

$\mu$からの偏差のべき乗

${(X-\mu )}^k$の期待値を、中心モーメントという。

$${\mu }_k=E\left[{(X-\mu )}^k\right]$$

$k=1$の場合は常に

$0$である。

確率の期待値による表現

引数に条件式を取り、条件が成り立つ場合に

$1$を、そうでない場合に

$0$を返す関数を識別関数という。

$$I\left(\text{条件}\right)=\{\begin{array}{ll}1& \text{条件が真}\\ 0& \text{条件が偽}\end{array}$$
この関数を用いると、確率は期待値として表せる。

$$Pr[X\le a]=E\left[I(X\le a)\right]$$

$$Pr[X>a]=E\left[I(X>a)\right]$$
これは

$I(x\le a)f\left(x\right)$の全範囲での積分が、

$-\mathrm{\infty }$から

$a$までの積分に等しいことによる。

$$\begin{array}{rl}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}I(x\le a)f\left(x\right)dx& ={\int }_{-\mathrm{\infty }}^{a}I(x\le a)f\left(x\right)dx+{\int }_a^{\mathrm{\infty }}I(x\le a)f\left(x\right)dx\\ & ={\int }_{-\mathrm{\infty }}^{a}1\times f\left(x\right)dx+{\int }_a^{\mathrm{\infty }}0\times f\left(x\right)dx\\ & ={\int }_{-\mathrm{\infty }}^{a}f\left(x\right)dx\end{array}$$