確率に関する不等式

tags: probability-theory

• 平均を
  $a$で割ると、
  $a$以上の値を取る確率の上限が求まる。(マルコフの不等式)
• 分散を
  $a^2$で割ると、平均から
  $a$以上離れた値を取る確率の上限が定まる。(チェビシェフの不等式)

マルコフの不等式により、平均のみから非負の確率変数に関する確率の上限が得られる。平均に加えて分散も分かっていれば、マルコフの不等式より大幅に精度が向上する確率変数の確率の上限が、チェビシェフの不等式により得られる。

マルコフの不等式

任意の非負の値を取る確率変数

$X$に対して

$$\mathrm{Pr}[X\ge a]\le \frac{E\left[X\right]}{a}$$
および

$$\mathrm{Pr}[X>a]<\frac{E\left[X\right]}{a}$$

が成り立つ。

バリエーション

任意の確率変数

$X$に対して

$$\mathrm{Pr}[\left|X\right|\ge a]\le \frac{E\left[\left|X\right|\right]}{a}$$
および

$$\mathrm{Pr}[\left|X\right|>a]<\frac{E\left[\left|X\right|\right]}{a}$$

が成り立つ。

証明

$X\ge a$の場合に

$$a\le X$$
が成り立つ。また

$E\left[X\right]$について

$$E\left[X\right]=E[X|X\ge a]\mathrm{Pr}[X\ge a]+E[X|X<a]\mathrm{Pr}[X<a]$$
が成り立つ。これらより

$$\begin{array}{rl}a\mathrm{Pr}[X\ge a]& =aE\left[I(X\ge a)\right]\\ & \le E[X|X\ge a]\mathrm{Pr}[X\ge a]\\ & \le E[X|X\ge a]\mathrm{Pr}[X\ge a]+E[X|X<a]\mathrm{Pr}[X<a]\\ & =E\left[X\right]\end{array}$$
が成り立つ。これの両辺を整理すると、マルコフの不等式を得る。

応用例

ある国在住の人の一人あたりの平均収入が500万円のとき、

$$\mathrm{Pr}[X\ge a]\le \frac{500\text{万円}}{a}$$
が成り立つので、上位

$10$%に入るには、

$$\frac{500,000}{5,000,000}=0.1$$
より

$a\ge 5000\text{万円}$が十分条件となる。

チェビシェフの不等式

任意の確率変数

$X$に対して

$$\mathrm{Pr}[|X-\mu |\ge a]\le \frac{V\left[X\right]}{a^2}$$

および

$$\mathrm{Pr}[|X-\mu |>a]<\frac{V\left[X\right]}{a^2}$$

が成り立つ。ただし

$\mu =E\left[X\right]$ と置いた。

バリエーション

チェビシェフの不等式から

$$\begin{array}{rl}\mathrm{Pr}[|X-\mu |>a]& =\mathrm{Pr}[\{X-\mu >a\}\cup \{X-\mu <-a\}]\end{array}$$

より

$$\mathrm{Pr}[|X-\mu |>a]\ge \mathrm{Pr}[X-\mu >a]$$

および

$$\mathrm{Pr}[|X-\mu |>a]\ge \mathrm{Pr}[X-\mu <-a]$$

も成り立つ。

証明

$Y={(X-\mu )}^2$ と置くと、

$Y>0$であり、

$Y$についてマルコフの不等式

$$\mathrm{Pr}[Y\ge a]\le \frac{E\left[Y\right]}{a}$$
が成り立つ。ここで

$E\left[Y\right]=E\left[{(X-\mu )}^2\right]=V\left(X\right)$であり、

$$\mathrm{Pr}[Y\ge a]=\mathrm{Pr}[Y^2\ge a^2]$$
より、

$a$を

$a^2$で置き換えて、チェビシェフの不等式

$$\mathrm{Pr}[|X-\mu |\ge a]\le \frac{V\left[X\right]}{a^2}$$
を得る。

応用例

ある国在住の人の一人あたりの平均収入が500万円、標準偏差が100万円のとき

$$\mathrm{Pr}[|X-500|\ge a]\le \frac{10000}{a^2}$$
が成り立つので、上位

$10$%に入るには、

$$\frac{10,000}{100,000}=0.1$$
より

$a=\sqrt{100,000}=100\sqrt{10}$ が十分条件である。さらに

$$|X-500|\ge 100\sqrt{10}$$
が成り立つための十分条件は

$$X\ge 500+100\sqrt{10}\simeq 916$$
である。つまり年収が916万円以上であれば、上位10%に入る。