多変量の連続分布

tags: probability-theory

二変量

標本空間

標本空間は2次元ユークリッド空間の部分集合である。

$\mathcal{X}\subseteq {\mathcal{R}}^2$。

標本空間の加法族

標本空間に含まれる4つの点

$(a_1,b_1),(a_1,b_2),(a_2,b_1),(a_2,b_2)$が長方形の領域を囲むように

$a_1<a_2$、

$b_1<b_2$を満たすとする。このような2組の任意の実数による

$(a_1,a_2]\times (b_1,b_2]$全体の集合から、この標本空間の加法族

$\mathcal{A}$が作られる。滑らかな曲線で囲まれた領域を和集合の極限として表現できるためには、この加法族は加算加法族である必要がある。

同時確率密度関数と同時累積分布関数

2つの確率変数の組

$(X_1,X_2)$が従う確率分布は、2次元平面上に定義される。その確率分布の同時確率密度関数とは、

$X_1\le x_1$かつ

$X_2\le x_2$という事象の確率を次のような積分で表現できる関数

$f(x_1,x_2)$のことをいう。

$$\mathrm{Pr}[X_1\le x_1,X_2\le x_2]={\int }_{-\mathrm{\infty }}^{x_1}{\int }_{-\mathrm{\infty }}^{x_2}f(u_1,u_2)d{u}_{1}d{u}_2$$

例えば正方形の領域

$[0,1]\times [0,1]$の上で

$f(x_1,x_2)\equiv 1$という関数を考える。

この関数はこの領域の上で非負であり、この領域上の定積分は

$1$となる。正方形の面積が

$1$で、関数による曲面の高さが

$1$で一定なので、平面と関数で囲まれる領域の体積が

$1$となることは、積分するまでもない。

上の確率を計算してみる。

$$\begin{array}{rl}\mathrm{Pr}[X_1\le x_1,X_2\le x_2]& ={\int }_{-\mathrm{\infty }}^{x_1}{\int }_{-\mathrm{\infty }}^{x_2}d{u}_{1}d{u}_2\\ & ={\left[u_2{\left[u_1\right]}_0^{x_1}\right]}_0^{x_2}\\ & =x_1{x}_2\end{array}$$
となる。これが同時累積分布関数である。

同時累積分布関数は

$$\underset{(x_1,x_2)\to (\mathrm{\infty },\mathrm{\infty })}{lim}F(x_1,x_2)=1$$
および

$$\underset{(x_1,x_2)\to (-\mathrm{\infty },-\mathrm{\infty })}{lim}F(x_1,x_2)=0$$
を満たす、単調非減少な関数である。

周辺確率密度関数と条件付き確率密度関数

2つの添え字

$a,b$を考える。

$a$と

$b$は片方が

$1$ならもう一方は

$2$となる。

$X_a$の周辺確率密度関数は、

$X_1$および

$X_2$の同時密度関数から次のように導かれる。

$$f\left(x_a\right)=\int (x_1,x_2)d{x}_b$$

また

$X_b$を所与としたときの、

$X_a$の条件付き確率密度は、

$X_1$および

$X_2$の同時密度から次のように導かれる。

$$f\left(x_a|x_b\right)=\frac{f(x_1,x_2)}{f\left(x_b\right)}$$

これも同じ正方形上の連続一様分布で考えてみる。

$$f\left(x_1\right)={\int }_0^{1}d{x}_2=1$$

$$f\left(x_1|x_2\right)=\frac{1}{1}=1$$

どちらも

$1$になる。

このこと

$$f\left(x_1|x_2\right)=f\left(x_1\right)$$
は、正方形上の一様分布は、確率変数同士が互いに独立なことを意味する。

周辺累積分布関数と条件付き累積分布関数

周辺確率密度関数から導かれる累積分布関数を周辺累積分布関数と呼び、条件付き確率密度関数から導かれる累積分布関数を条件付き確率密度関数と呼ぶことがある。周辺分布の累積分布関数、条件付き分布の累積分布関数と少し短く呼ばれることもある。

また同時累積分布関数と周辺累積分布関数の間には

$$\underset{x_1\to \mathrm{\infty }}{lim}F(x_1,x_2)=F\left(x_2\right)$$
および

$$\underset{x_2\to \mathrm{\infty }}{lim}F(x_1,x_2)=F\left(x_1\right)$$
という関係がある。

多変量

2変量の場合の単純な拡張で、多変量の場合も説明しておく。

同時確率密度関数

$$\mathrm{Pr}[X_1\le x_1,X_2\le x_2,\dots ,X_p\le x_p]={\int }_{-\mathrm{\infty }}^{x_1}{\int }_{-\mathrm{\infty }}^{x_2}\cdots {\int }_{-\mathrm{\infty }}^{x_p}f(u_1,u_2,\dots ,u_p)d{u}_{1}d{u}_2\cdots d{u}_p$$

同時累積分布関数

$$F(x_1,x_2,\dots ,x_p)=\mathrm{Pr}[X_1\le x_1,X_2\le x_2,\dots ,X_p\le x_p]$$

周辺確率密度関数

2つの添え字集合

$A,B$を

$A\cup B=\{1,2,\dots ,p\}$、

$A\cap B=\mathrm{\varnothing }$を満たすように定める。

$A$と

$B$は添え字集合全体の被覆ともいう。集合

$A$の大きさを

$q$、集合

$B$の大きさを

$r$とする。

$$A=\{a_1,a_2,\dots ,a_q\},B=\{b_1,b_2,\dots ,b_r\}$$

$q+r=p$である。

$A$に含まれる変数の周辺同時確率密度関数は、全体の同時密度関数から次のように導かれる。

$$f(x_{a_1},x_{a_2},\dots ,x_{a_q})=\int \int \cdots \int f(x_1,x_2,\dots ,x_p)d{x}_{b_1}d{x}_{b_2}\cdots d{x}_{b_r}$$

条件付き確率密度関数

$B$に含まれる変数を所与としたときの、

$A$に含まれる変数の条件付き確率密度は、全体の同時密度から次のように導かれる。

$$f(x_{a_1},x_{a_2},\dots ,x_{a_q}|x_{b_1},x_{b_2},\dots ,x_{b_r})=\frac{f(x_1,x_2,\dots ,x_p)}{f(x_{b_1},x_{b_2},\dots ,x_{b_r})}$$

周辺累積分布関数

$$F(x_{a_1},x_{a_2},\dots ,x_{a_q})={\int }_{-\mathrm{\infty }}^{x_{a_1}}{\int }_{-\mathrm{\infty }}^{x_{a_2}}\cdots {\int }_{-\mathrm{\infty }}^{x_{a_q}}f(u_{a_1},u_{a_2},\dots ,u_{a_q})d{u}_{a_1}d{u}_{a_2}\cdots d{u}_{a_q}$$

条件付き累積分布関数

$$F(x_{a_1},x_{a_2},\dots ,x_{a_q}|x_{b_1},x_{b_2},\dots ,x_{b_r})={\int }_{-\mathrm{\infty }}^{x_{a_1}}{\int }_{-\mathrm{\infty }}^{x_{a_2}}\cdots {\int }_{-\mathrm{\infty }}^{x_{a_q}}f(u_{a_1},u_{a_2},\dots ,u_{a_q}|x_{b_1},x_{b_2},\dots ,x_{b_r})d{u}_{a_1}d{u}_{a_2}\cdots dx{u}_{a_q}$$