コルモゴロフの収束条件

コルモゴロフの収束条件
 
分散が有限　$${VarX<\infty }$$ な確率変数全体からなる空間は、そこからとった任意の確率変数$${X,Y}$$に対して
$${\operatorname{cov}\left( X,Y \right)=E\left( X-EX \right)\left( Y-EY \right)}$$
を内積 とするヒルベルト空間$${{{L}^{2}}}$$ をなしている。いま、$${{{X}_{k}}\in {{L}^{2}}}$$を構成要素とする確率変数列 $${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$を考える。そして$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$が互いに無相関な列であるとき、すなわち、$${k\ne l}$$のとき、$${\operatorname{cov}\left( {{X}_{k}},{{X}_{l}} \right)=0}$$となっているとき、$${\left\{ {{X}_{n}}-E{{X}_{n}} \right\}_{n=1}^{\infty }}$$は$${{{L}^{2}}}$$の直交列をなしている。ヒルベルト空間の一般的な議論より、級数　$${\sum\limits_{k=0}^{\infty }{\left( {{X}_{k}}-E{{X}_{k}} \right)}}$$ の収束について次の定理が成り立つ
 
 
$${{{X}_{k}}\in {{L}^{2}}}$$からなる確率変数列$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$が互いに無相関な列であるとき、すなわち、$${k\ne l}$$のとき、$${\operatorname{cov}\left( {{X}_{k}},{{X}_{l}} \right)=0}$$
のとき、$${\sum\limits_{k=1}^{\infty }{Var{{X}_{k}}}<\infty }$$ ならば、$${\sum\limits_{k=0}^{\infty }{\left( {{X}_{k}}-E{{X}_{k}} \right)}}$$は$${{{L}^{2}}}$$で収束する。
 
証明）$${{{Y}_{j}}={{X}_{j}}-E{{X}_{j}}}$$は$${{{L}^{2}}}$$の直交列で$${Var{{Y}_{j}}={{\left\| {{Y}_{j}} \right\|}^{2}}}$$と書け 、$${{{S}_{n}}=\sum\limits_{j=1}^{n}{{{Y}_{j}}}}$$とすると$${\sum\limits_{k=1}^{\infty }{Var{{X}_{k}}}<\infty }$$の仮定から、$${n>m}$$ について$${m\to \infty }$$ とするとき、$${{{\left\| {{S}_{n}}-{{S}_{m}} \right\|}^{2}}={{\left\| \sum\limits_{j=m}^{n}{{{Y}_{j}}} \right\|}^{2}}=\sum\limits_{j=m}^{n}{{{\left\| {{Y}_{j}} \right\|}^{2}}}}$$$${\to 0}$$
が成り立つ。$${{{L}^{2}}}$$の完備性から（コーシー列は収束！）したがって$${{{S}_{n}}=\sum\limits_{j=1}^{n}{{{Y}_{j}}}}$$は$${{{L}^{2}}}$$で収束する。
 
一般的に$${{{S}_{n}}=\sum\limits_{j=1}^{n}{{{Y}_{j}}}}$$が$${{{L}^{2}}}$$で収束したからといって概収束almost surely convergentするとは限らない。いま、無相関$${\operatorname{cov}\left( {{X}_{k}},{{X}_{l}} \right)=0}$$の条件を強くした条件、すなわち独立性の仮定をおくと、$${{{S}_{n}}=\sum\limits_{j=1}^{n}{{{Y}_{j}}}}$$の概収束が言える。
 
 
コルモゴロフの収束条件
$${{{X}_{k}}\in {{L}^{2}}}$$からなる確率変数列$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$が互いに独立であるとき、$${\sum\limits_{k=1}^{\infty }{Var{{X}_{k}}}<\infty }$$ならば、$${\sum\limits_{k=0}^{\infty }{\left( {{X}_{k}}-E{{X}_{k}} \right)}}$$は$${{{L}^{2}}}$$収束であるだけでなく概収束する。
証明にはコルモゴロフの不等式を使う。
――――
定理（コルモゴロフの不等式）$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$を互いに独立な確率変数列とする。$${{{S}_{n}}={{X}_{1}}+{{X}_{2}}+\cdots +{{X}_{n}}}$$、$${S_{n}^{*}=\underset{1\le j\le }{\mathop{\max }}\,\left| {{S}_{j}} \right|}$$とするとき、
任意の$${\varepsilon >0}$$ に対して$${P\left( S_{n}^{*}\ge \varepsilon \right)\le \frac{1}{{{\varepsilon }^{2}}}\sum\limits_{j=1}^{n}{E\left[ X_{j}^{2} \right]}}$$
が成立する。
$${{{Y}_{j}}={{X}_{j}}-E{{X}_{j}}}$$は独立で、$${{{S}_{n}}=\sum\limits_{j=1}^{n}{{{Y}_{j}}}}$$とするとき
$${n>m}$$ について$${{{S}_{n}}-{{S}_{m}}}$$にコルモゴロフの不等式を適用すると

$${P\left( \underset{m< j\le n}{\mathop{\max }}\,\left| {{S}_{j}}-{{S}_{m}} \right|\ge \varepsilon /2 \right)\le \frac{1}{{{\left( \varepsilon /2 \right)}^{2}}}E\left[ {{\left( {{S}_{n}}-{{S}_{m}} \right)}^{2}} \right]}$$

$${=\frac{4}{{{\varepsilon }^{2}}}\sum\limits_{j=m+1}^{n}{E\left[ Y_{j}^{2} \right]=}\frac{4}{{{\varepsilon }^{2}}}\sum\limits_{j=m+1}^{n}{E\left[ X_{j}^{2} \right]}}$$
ここで、$${n\to \infty }$$ とすると

$${P\left( \underset{m< j}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{m}} \right| \ge \varepsilon /2 \right)}$$

$${\le \frac{4}{{{\varepsilon }^{2}}}\sum\limits_{j=m+1}^{\infty }{E\left[ X_{j}^{2} \right]}}$$。
これは、$${\sum\limits_{k=1}^{\infty }{Var{{X}_{k}}}<\infty }$$という仮定から、$${m\to \infty }$$ のとき０に収束する。
さらに、
$${\underset{j,k\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{k}} \right|=\underset{j,k\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{m}}+{{S}_{m}}-{{S}_{k}} \right|}$$
$${\le \underset{j\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{m}} \right|+\underset{k\ge m}{\mathop{\sup }}\,\left| {{S}_{k}}-{{S}_{m}} \right|=2\underset{j\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{m}} \right|}$$
であるから、事象の包含関係
$${\left\{ \underset{j,k\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{k}} \right|\ge \varepsilon \right\}\subset \left\{ \underset{j\ge m}{\mathop{2\sup }}\,\left| {{S}_{j}}-{{S}_{m}} \right|\ge \varepsilon \right\}}$$
より、
$${P\left\{ \underset{j,k\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{k}} \right| \right\}\le P\left\{ \underset{j\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{m}} \right|\ge \varepsilon /2 \right\}}$$
したがって、$${m\to \infty }$$ のとき
$${P\left\{ \underset{j,k\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{k}} \right|\ge \varepsilon \right\}\to 0}$$
すなわち、確率変数$${{{\delta }_{m}}=\underset{j,k\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{k}} \right|}$$ は$${m\to \infty }$$のとき０に確率収束する。
確率収束する確率変数列の部分列をとれば概収束することが知られている。
ところで、$${{{\delta }_{m}}}$$ は減少列であり$${{{\delta }_{m}}\ge 0}$$であるから部分列が収束するとき$${{{\delta }_{m}}}$$そのものがある$${\delta }$$ に収束するはずである。０に確率収束することをあわせれば、$${\delta =0}$$でなければならない。結局、$${\underset{j,k\ge m}{\mathop{\sup }}\,\left| {{S}_{j}}-{{S}_{k}} \right|\to 0}$$がalmost surely ほとんどたしかに成り立つ、つまり、$${\left\{ {{S}_{j}} \right\}_{j=1}^{\infty }}$$はalmost surely にコーシー列である。実数の完備性から$${{{S}_{n}}=\sum\limits_{k=0}^{n}{\left( {{X}_{k}}-E{{X}_{k}} \right)}}$$は概収束する。
 
 
例題）$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$をRademacher の確率変数列とする。すなわち、$${P\left( {{X}_{n}}=\pm 1 \right)=\frac{1}{2}}$$とする。（確率$${\frac{1}{2}}$$で＋１、確率$${\frac{1}{2}}$$ で$${-1}$$）、このとき、$${\sum\limits_{n=1}^{\infty }{\frac{{{X}_{n}}}{n}}}$$は０に概収束する。