従属と独立

tags: probability-theory

二つの事象の関係

復習

• 標本空間
  $\mathcal{X}$は全ての事象を含む集合
  $\iff$ 事象
  $A$は標本空間
  $\mathcal{X}$の部分集合
  $A\in \mathcal{X}$
• 二つの事象
  $A,B$が互いに素ならば、
  $P(A\cup B)=P\left(A\right)+P\left(B\right)$
• 二つの事象
  $A,B$が互いに素でなければ、
  $P(A\cup B)=P\left(A\right)+P\left(B\right)+P(A\cap B)$
• 二つの事象
  $A,B$が互いに素でなければ、
  $P\left(A|B\right)=P(A\cap B)/P\left(B\right)$
• 二つの事象
  $A,B$が互いに素ならば、
  $P\left(A|B\right)=P(A\cap B)/P\left(B\right)=0$

従属性

二つの事象

$A,B$の間に、

$$P(A\cap B)=P\left(A\right)P\left(B\right)$$
が成り立たない、すなわち

$$P(A\cap B)\ne P\left(A\right)P\left(B\right)$$
が成り立つとき、

$A$と

$B$は互いに従属しているという。

$$P(A\cap B)=P\left(A|B\right)P\left(B\right)=P\left(B|A\right)P\left(A\right)$$
という定義から、

$$P\left(A|B\right)\ne P\left(A\right)$$
や

$$P\left(B|A\right)\ne P\left(B\right)$$
が成り立つとき、

$A$と

$B$は互いに従属している。

独立性

二つの事象

$A,B$の間に

$$P(A\cap B)=P\left(A\right)P\left(B\right)$$
が成り立つとき、

$A$と

$B$は互いに従属ではない。このとき

$A$と

$B$は互いに独立である、という。

$$P(A\cap B)=P\left(A|B\right)P\left(B\right)=P\left(B|A\right)P\left(A\right)$$
という定義から、

$$P\left(A|B\right)=P\left(A\right)$$
や

$$P\left(B|A\right)=P\left(B\right)$$
が成り立つとき、

$A$と

$B$は互いに従属している。

互いに素な二つの事象は互いに従属している

二つの事象

$A,B$が互いに素

$$A\cap B=\mathrm{\varnothing }$$
な場合、

$$P(A\cap B)=P\left(\mathrm{\varnothing }\right)=0$$
であるから、

$$P(A\cap B)\ne P\left(A\right)P\left(B\right)$$
なので、

$A$と

$B$は互いに従属している。

従属と独立

午前と午後の天気の組み合わせを考える。括弧の中の一つ目の要素は午前の天気、二つ目の要素は午後の天気を表すものとし、曇りなど、雨が降らないという状況を、晴の一字で表すと、標本空間は

$$\mathcal{X}=\{(\text{晴},\text{晴}),(\text{晴},\text{雨}),(\text{雨},\text{晴}),(\text{雨},\text{雨})\}$$
となる。

標本空間の４つの単位事象それぞれの確率が、次の表のように与えられているとする。

表1　確率表

午前＼午後	晴	雨
晴	0.4	0.2
雨	0.3	0.1

この表から、午前の天気の確率と、午後の天気の確率を求める。

$$\begin{array}{rl}\mathrm{Pr}\left[\text{午前の天気が晴}\right]& =P\left(\left\{(\mathrm{晴},\mathrm{晴})\right\}\right)+P\left(\left\{(\mathrm{晴},\mathrm{雨})\right\}\right)=0.4+0.2=0.6\\ \mathrm{Pr}\left[\text{午前の天気が雨}\right]& =P\left(\left\{(\mathrm{雨},\mathrm{晴})\right\}\right)+P\left(\left\{(\mathrm{雨},\mathrm{雨})\right\}\right)=0.3+0.1=0.4\\ \mathrm{Pr}\left[\text{午後の天気が晴}\right]& =P\left(\left\{(\mathrm{晴},\mathrm{晴})\right\}\right)+P\left(\left\{(\mathrm{雨},\mathrm{晴})\right\}\right)=0.4+0.3=0.7\\ \mathrm{Pr}\left[\text{午後の天気が雨}\right]& =P\left(\left\{(\mathrm{晴},\mathrm{雨})\right\}\right)+P\left(\left\{(\mathrm{雨},\mathrm{雨})\right\}\right)=0.2+0.1=0.3\end{array}$$

これらを表に加える。

表2　確率表

午前＼午後	晴	雨	午前の周辺確率
晴	0.4	0.2	0.6
雨	0.3	0.1	0.4
午後の周辺確率	0.7	0.3

午前の天気が晴の確率は0.6、午後の天気が晴の確率は0.7なので、午後に向けて少し天気がよくなる傾向にあることが読み取れる。

このとき、

$$\begin{array}{rl}\mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{晴}\mathrm{で}\mathrm{午}\mathrm{後}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{も}\mathrm{晴}\right]& =0.4\\ \mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{晴}\right]\times \mathrm{Pr}\left[\mathrm{午}\mathrm{後}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{晴}\right]& =0.6\times 0.7=0.42\end{array}$$
$$

より

$$\mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{晴}\mathrm{で}\mathrm{午}\mathrm{後}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{も}\mathrm{晴}\right]\ne \mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{晴}\right]\times \mathrm{Pr}\left[\mathrm{午}\mathrm{後}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{晴}\right]$$
が成り立つので、午前と午後の天気は互いに従属である。

逆に、次の予報が与えられているとする。

表3　天気予報

事象	確率
午前の天気が雨	0.4
午後の天気が雨	0.3

もし午前と午後の天気が互いに独立ならば、

$$\mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{と}\mathrm{午}\mathrm{後}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{共}\mathrm{に}\mathrm{晴}\right]=(1-0.4)(1-0.3)=0.42$$
となる。しかし、地球上の気象現象が時間と共に変化することを考えると、隣接する時間帯が互いに独立な筈がない。天気予報は、表2に記した周辺確率のみを教えてくれていて、そこから表1の確率を復元できない。

なお、傘を持たずに出掛けて良いかを考える際に

$$0.6\times 0.7=0.42,min\{0.6,0.7\}=0.6,(0.6+0.7)/2=0.65$$
などの数字を参考にするのは、すべて誤りである。表1に記されている4つのか確率のうちの、少なくとも一つが併せて提供されていないと、雨が降らない確率は求まらない。それは乗法法則

$$\mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{と}\mathrm{午}\mathrm{後}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{共}\mathrm{に}\mathrm{晴}\right]=\mathrm{Pr}[\mathrm{午}\mathrm{後}\mathrm{が}\mathrm{晴}|\mathrm{午}\mathrm{前}\mathrm{が}\mathrm{晴})]\times \mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{が}\mathrm{晴}\right]$$
からも分かることである。この条件付き確率を求めるために、

$$\mathrm{Pr}[\mathrm{午}\mathrm{後}\mathrm{が}\mathrm{晴}|\mathrm{午}\mathrm{前}\mathrm{が}\mathrm{晴})]=\frac{\mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{と}\mathrm{午}\mathrm{後}\mathrm{の}\mathrm{天}\mathrm{気}\mathrm{が}\mathrm{共}\mathrm{に}\mathrm{晴}\right]}{\mathrm{Pr}\left[\mathrm{午}\mathrm{前}\mathrm{が}\mathrm{晴}\right]}$$
より同時確率が必ず必要になる。

もし確率が表4で与えられていたなら、、午前と午後の天気は互いに独立となる。

表2　確率表

午前＼午後	晴	雨	午前の周辺確率
晴	0.42	0.18	0.6
雨	0.28	0.12	0.4
午後の周辺確率	0.7	0.3