マルコフの不等式・チェビシェフの不等式

数学 漸近理論



積率（モーメント）に関する不等式

マルコフの不等式

$h : \mathbb{R} \rightarrow \mathbb{R}$を非負関数とする。確率変数Xについて$E[h(X)] \le \infty$であるならば、すべての$\epsilon \ge 0$に対して
\displaystyle P(h(X) \geq \epsilon) \leq \frac{E[h(X)]}{\epsilon}

証明

\displaystyle \begin{aligned} E[h(X)] &= \int_{-\infty}^{\infty} h(x)P_X(dx) \ (\because 定義より．P_Xは分布関数を表す)\\ & \geq \int_{h(X) \geq \epsilon} h(x)P_X(dx) \ (\because 積分区間の縮小)\\ & \geq \epsilon P(h(X) \geq \epsilon) \ (\because h(x)の置き換え、分布関数の積分) \end{aligned}

補足

この証明の方法自体もよく用いられる変形であるので覚えておくとよい。

チェビシェフの不等式

確率変数Xの分散Var(X)が存在するならば、正数aに対して
\displaystyle P(|X-E[X]| \geq a) \geq \frac{Var(X)}{a^2}

証明

マルコフの不等式において$X$を$X-E[X]$，$h(x)$を$x^2$，$\epsilon$を$a^2$で置き換えると
$P(|X-E[X]|^2 \geq a^2) \leq \frac{Var(X)}{a^2}$
であり、左辺は$P(|X-E[X]| \geq a)$と等しい。よって題意が示された。　　　　$\Box$

説明

確率変数が平均値から解く離れることは非常に小さい確率でしか起きないことを主張している。

補足

余事象の確率について
$1-P(|X-E[X]| \le a) \leq \frac{Var(X)}{a^2}$より
$P(|X-E[X]| \le a) \geq 1- \frac{Var(X)}{a^2}$
$\Leftrightarrow XがE[X]-a \le X \le E[X]+a$に入る確率が$1-\frac{Var(X)}{a^2}$以上である。
確率分布の形がわからなくても平均と分散の情報からこれだけの情報が得られる。

f:id:karate_odori:20190928132857p:plain
チェビシェフの不等式で分かること