確率変数の不等式:マルコフ不等式とチェルノフ不等式

確率変数$${x}$$に対し、任意の正の実数$${a,a>0}$$を用いて、
$${\displaystyle{Pr(|x|\geq a) \leq \frac{E[|x|]}{a}}}$$
が成立し、これをマルコフの不等式と呼ぶ。

証明

$${g(x)=\left\{\begin{array}{ll}1 & |x|\geq a \\0 & x < a\end{array}\right.}$$
を使えば、
$${ag(x)\leq |x|}$$、よって、$${E[ag(x])\leq E[|x|]}$$
また$${g(x)}$$の定義から、$${E[g(x)]}$$は$${|x| \geq a}$$である確率の期待値に等しいから、
$${\displaystyle{aE[g(x)]=a\ Pr(|x|\geq a) \leq E[|x|]}}$$
よって、$${\displaystyle{Pr(|x|\geq a) \leq \frac{E[|x|]}{a}, a>0}}$$が証明された。

チェルノフの不等式

Markov不等式を、任意の非負の単調増加関数$${\phi(x)}$$で一般化する。
$${\phi(x)}$$を$${t,t> 0)}$$と共に、$${\phi(x)=e^{tx}}$$とおけば、$${x\geq a}$$より、$${e^{tx}\geq e^{ta}}$$であるから、
$${\displaystyle{Pr(x \geq a ) \leq \frac{E[e^{tx}]}{e^{ta}}}}$$
また、$${x \leq a}$$の時は、$${e^{-tx}\geq e^{-ta}}$$であるから、
$${\displaystyle{Pr(x \leq a ) =Pr(e^{-tx}\geq e^{-ta})\leq \frac{E[e^{-tx}]}{e^{-ta}}}}$$
となる。
$${\displaystyle{Pr(x \geq a ) \leq \frac{E[e^{tx}]}{e^{ta}}}}$$
$${\displaystyle{Pr(x \leq a ) \leq \frac{E[e^{-tx}]}{e^{-ta}}}}$$
をチェルノフの不等式と呼ぶ。

マルコフの不等式とチェルノフの不等式は、Chebyshev不等式とCantelli不等式、確率変数の期待値においてのヘルダー不等式、シュワルツ不等式、ミンコウスキー不等式、カントロビッチ不等式、ヘフティング不等式、ベネットの不等式の基礎をなす。