確率変数の期待値の不等式：ヘルダーの不等式、シュワルツの不等式

ヘルダーの不等式

二つの確率変数$${x,y}$$において、$${\displaystyle{\frac{1}{p}+\frac{1}{q}=1}}$$となる$${p,q}$$に対し、$${|x|^p, |y|^q}$$が期待値を持つ時、
$${\displaystyle{E[|xy|]\leq E[|x|^p]^{\frac{1}{p}}E[|y|^q]^{\frac{1}{q}}}}$$
が成り立つ。これをヘルダーの不等式と呼ぶ。

証明

　下に凸の関数$${h(x)}$$において、、$${[a,b]}$$間の任意点$${c=\theta a +(1-\theta)b, 0 < \theta < 1}$$では、常に$${h(c)}$$は$${h(a),h(b)}$$を結ぶ直線より下にある。これを数式で表せば、
$${h(\theta a +(1-\theta)b) \leq \theta h(a) +(1-\theta)h(b)}$$
右辺は、$${h(a),h(b)}$$を結ぶ直線の$${x=c}$$の値である。
ここで、凸の関数$${h(x)}$$を$${e^x}$$にとり、$${\displaystyle{\theta= \frac{1}{p}, 1-\theta=\frac{1}{q}}}$$とし、$${\displaystyle{a=\log\frac{|x|^p}{E[|x|^p]}, b=\log\frac{|y|^q}{E[|y|^q]}}}$$ととれば、
$${\displaystyle{e^{\theta a+(1-\theta)b}=e^{\theta a}e^{(1-\theta)b}=\Big(\frac{|x|^p}{E[|x|^p]}\Big)^{\frac{1}{p}} \Big(\frac{|y|^p}{E[|y|^q]}\Big)^{\frac{1}{q}} = \frac{|x|}{E[|x|^p]^{\frac{1}{p}}} \frac{|y|}{E[|y|^1]^{\frac{1}{q}}} }}$$
また、左辺
$${\displaystyle{\theta h(a) +(1-\theta)h(b) = \frac{1}{p}\frac{|x|^p}{E[|x|^p]} + \frac{1}{q}\frac{|y|^q}{E[|y|^q]}} }$$
両辺の期待値を取れば、
$${\displaystyle{\frac{E[|xy|]}{E[|x|^p]^{\frac{1}{p}}E[|y|^q]^{\frac{1}{q}}}\leq \frac{1}{p} +\frac{1}{q}=1 }}$$
よって、ヘルダーの不等式、
$${\displaystyle{E[|xy|]\leq E[|x|^p]^{\frac{1}{p}}E[|y|^q]^{\frac{1}{q}}}}$$
が得られた。

シュワルツの不等式

ヘルダーの不等式において、$${p=q=2}$$の場合をシュワルツの不等式と呼ぶ。
$${\displaystyle{E[|xy|]\leq \sqrt{E[|x|^2]E[|y|^2]}}}$$