コルモゴロフの強大数の法則

コルモゴロフの強大数の法則

 Kronecker の補題
$${\left\{ {{x}_{k}} \right\}_{k=1}^{\infty }}$$を実数列、$${\left\{ {{b}_{k}} \right\}_{k=1}^{\infty }\subset \left( 0,\infty \right)}$$を増加数列で$${{{b}_{k}}\uparrow \infty }$$ となるものとする。
このとき、$${\underset{n\to \infty }{\mathop{\lim }}\,\sum\limits_{k=1}^{n}{\frac{{{x}_{k}}}{{{b}_{k}}}}}$$が存在するとき、$${\underset{n\to \infty }{\mathop{\lim }}\,\frac{1}{{{b}_{n}}}\sum\limits_{k=1}^{n}{{{x}_{k}}=0}}$$が成り立つ。

定理（$${{{L}^{2}}}$$ 強大数の法則）
$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$を独立な$${{{L}^{2}}}$$確率変数列で、$${E{{X}_{n}}=\alpha }$$ , $${Var\,\,{{X}_{n}}\le {{s}^{2}}}$$とする。
$${{{S}_{n}}={{X}_{1}}+{{X}_{2}}+\cdots +{{X}_{n}}}$$とおき、正数でつくる数列$${\left\{ {{b}_{n}} \right\}_{n=1}^{\infty }}$$ が$${\sum\limits_{n=1}^{\infty }{\frac{1}{b_{n}^{2}}<\infty }}$$ をみたすとする。このとき、
$${\underset{n\to \infty }{\mathop{\lim }}\,\frac{{{S}_{n}}-n\alpha }{{{b}_{n}}}=0}$$
がほとんど確実になりたつ（概収束）。
そして$${{{L}^{2}}}$$収束 の意味でも成り立つ。

証明）
“コルモゴロフの収束条件
$${{{Y}_{k}}\in {{L}^{2}}}$$からなる確率変数列}$${\left\{ {{Y}_{n}} \right\}_{n=1}^{\infty }}$$が互いに独立であるとき、$${\sum\limits_{k=1}^{\infty }{Var{{Y}_{k}}}<\infty }$$ ならば、$${\sum\limits_{k=0}^{\infty }{\left( {{Y}_{k}}-E{{Y}_{k}} \right)}}$$は$${{{L}^{2}}}$$収束であるだけでなく概収束する。”
を利用する。コルモゴロフの収束条件において$${{{Y}_{n}}=\frac{{{X}_{n}}}{{{b}_{n}}}}$$とおいてやると$${Var{{Y}_{k}}=\frac{Var{{X}_{k}}}{b_{k}^{2}}}$$ であるから$${\sum\limits_{k=1}^{\infty }{Var{{Y}_{k}}}=\sum\limits_{k=1}^{\infty }{\frac{Var{{X}_{k}}}{b_{k}^{2}}\le {{s}^{2}}\sum\limits_{k=1}^{\infty }{\frac{1}{b_{k}^{2}}}}<\infty }$$
となり、
$${\sum\limits_{k=0}^{\infty }{\left( {{Y}_{k}}-E{{Y}_{k}} \right)}=\sum\limits_{k=0}^{\infty }{\left( \frac{{{X}_{k}}-\alpha }{{{b}_{k}}} \right)}}$$
は$${{{L}^{2}}}$$収束であるだけでなく概収束する。そして、Kroneckerの補題を使うと
$${\frac{1}{{{b}_{n}}}\sum\limits_{k=0}^{n}{\left( {{X}_{k}}-\alpha \right)}\to 0}$$
が概収束で成り立つ。また$${{{L}^{2}}}$$収束に関しては、
$${\left\| \frac{{{S}_{n}}-n\alpha }{{{b}_{n}}} \right\|_{{{L}^{2}}}^{2}=E\left[ {{\left( \frac{{{S}_{n}}-n\alpha }{{{b}_{n}}} \right)}^{2}} \right]=\frac{1}{b_{n}^{2}}Var{{S}_{n}}=\frac{1}{b_{n}^{2}}\sum\limits_{k=1}^{n}{Var{{X}_{n}}}}$$$${\le \frac{{{s}^{2}}}{b_{n}^{2}}\sum\limits_{k=1}^{n}{1}}$$であるが、
他方$${\sum\limits_{k=1}^{\infty }{\frac{1}{b_{n}^{2}}}<\infty }$$にKroneckerの補題を適用すると$${\frac{1}{b_{n}^{2}}\sum\limits_{k=1}^{n}{1}\to 0}$$となり、$${\left\| \frac{{{S}_{n}}-n\alpha }{{{b}_{n}}} \right\|_{{{L}^{2}}}^{2}\to 0}$$
が得られる。
証明おわり。
 
例として、$${{{b}_{n}}={{n}^{p}}}$$ , $${p>\frac{1}{2}}$$ や　$${{{b}_{n}}=\sqrt{n}{{\left( \log n \right)}^{1/2+\varepsilon }}}$$, $${\varepsilon >0}$$をとることができる。
また、次の定理が知られている。
 

重複対数の法則（ヒンチン）
$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$を独立な$${{{L}^{2}}}$$確率変数列で、$${E{{X}_{n}}=\alpha }$$, $${Var\,\,{{X}_{n}}={{s}^{2}}}$$とする。
$${{{S}_{n}}={{X}_{1}}+{{X}_{2}}+\cdots +{{X}_{n}}}$$について
$${\underset{n\to \infty }{\mathop{\lim \sup }}\,\frac{{{S}_{n}}-n\alpha }{\sqrt{2{{s}^{2}}n\log \log n}}=1}$$
がなりたつ。

この定理は、ブラウン運動の性質を研究する際重要となる。
$${E\left| X \right|\le \sqrt{E{{\left| X \right|}^{2}}}}$$であるから$${{{L}^{2}}\subset {{L}^{1}}}$$ である。もうひとつの精密化を与えよう。$${{{L}^{2}}}$$確率変数列の仮定を$${{{L}^{1}}}$$確率変数列の仮定でおきかえても強大数の法則がそのまま成り立つというものである。すなわち、
 
$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$ を iid $${{{L}^{1}}}$$確率変数たちで、
$${E{{X}_{n}}=\alpha }$$とする。そして、
$${{{S}_{n}}={{X}_{1}}+{{X}_{2}}+\cdots +{{X}_{n}}}$$ とする。このとき、
$${\frac{{{S}_{n}}}{n}\to \alpha }$$
がほとんど確実(almost surely)に成り立つ。
 
次の事実

系　$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$をiid で、$${X\in {{L}^{1}}}$$とする。このとき、$${X_{n}^{'}={{X}_{n}}{{I}_{\left| {{X}_{n}} \right|\le n}}}$$とおくと
$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$ ,と$${\{X_{n}^{'}\}_{n=1}^{\infty }}$$は末尾同等（tail equivalent）となる。

を用いると、$${S_{n}^{'}=\sum\limits_{j=1}^{n}{X_{j}^{'}}}$$ ,$${X_{j}^{'}={{X}_{j}}{{I}_{\left| {{X}_{j}} \right|\le j}}}$$とおいて、$${\frac{S_{n}^{'}}{n}\to \alpha }$$がほとんど確実に成り立つことを示せば、末尾同等性から$${\frac{{{S}_{n}}}{n}\to \alpha }$$が導かれる。ふたたび、コルモゴロフの収束条件を用いる。うえにのべたコルモゴロフの収束条件で$${{{Y}_{n}}=\frac{X_{n}^{'}}{n}}$$とおけば、$${Var{{Y}_{n}}=Var\frac{X_{n}^{'}}{n}\le \frac{1}{{{n}^{2}}}E{{\left| {{X}_{n}} \right|}^{2}}{{I}_{\left| {{X}_{n}} \right|\le n}}}$$であるが$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$がiid であることから
$${\sum\limits_{n=1}^{\infty }{Var{{Y}_{n}}}\le \sum\limits_{n=1}^{\infty }{\frac{1}{{{n}^{2}}}}E{{\left| {{X}_{1}} \right|}^{2}}{{I}_{\left| {{X}_{1}} \right|\le n}}}$$
ところで、$${x>1}$$のとき
$${\sum\limits_{n=1}^{\infty }{\frac{1}{{{n}^{2}}}{{I}_{x\le n}}=}\sum\limits_{n\ge x}^{\infty }{\frac{1}{{{n}^{2}}}=\int\limits_{x}^{\infty }{\frac{dt}{{{\left( t-1 \right)}^{2}}}\le \frac{1}{x-1}}\le  \frac{2}{x}}}$$

$${x \le 1}$$のとき
$${{\sum\limits_{n=1}^{\infty }{\frac{1}{{{n}^{2}}}{{I}_{x\le n}}=}\sum\limits_{n=1}^{\infty }{\frac{1}{{{n}^{2}}}}} \le 2 \le  \frac{2}{x}}$$

したがって任意の$${x>0}$$に対して、$${\sum\limits_{n=1}^{\infty }{\frac{1}{{{n}^{2}}}{{I}_{x\le n}}}}$$$${\le  \frac{2}{x}}$$
この評価を使うと
$${\sum\limits_{n=1}^{\infty }{Var{{Y}_{n}}}\le \sum\limits_{n=1}^{\infty }{\frac{2E\left| {{X}_{1}} \right|}{{{n}^{2}}}<\infty }}$$
がえられる。ふたたびKroneckerの補題を用いて
$${\frac{1}{n}\sum\limits_{k=1}^{n}{\left( X_{k}^{'}-EX_{k}^{'} \right)}\to 0}$$
がほとんど確実に成り立つ。
$${{{\alpha }_{k}}=E\left[ {{X}_{1}}{{I}_{\left| {{X}_{1}} \right|\le k}} \right]}$$ とおくと、dominated convergence theoremより$${\underset{k\to \infty }{\mathop{\lim }}\,{{\alpha }_{k}}=\underset{k\to {{\infty }^{{}}}}{\mathop{\lim }}\,E\left[ {{X}_{1}}{{I}_{\left| {{X}_{1}} \right|\le k}} \right]=E{{X}_{1}}=\alpha }$$
である。したがって、$${\frac{1}{n}\sum\limits_{k=1}^{n}{EX_{k}^{'}}=\frac{1}{n}\sum\limits_{k=1}^{n}{{{\alpha }_{k}}}\to \alpha }$$
となり、$${\frac{1}{n}\sum\limits_{k=1}^{n}{X_{k}^{'}}\to \alpha }$$がほとんど確実に成り立つことがしめされる。
証明終わり
 
 

定理（Marcinkiewicz,　Zygmund)
$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$ を iid $${{{L}^{p}}}$$ で( $${1< p< 2}$$ )に属する確率変数たちで、$${E{{X}_{n}}=\alpha }$$とする。このとき、
$${\frac{{{S}_{n}}-n\alpha }{{{n}^{1/p}}}\to 0}$$
がほとんど確実に成り立つ。

$${X_{n}^{'}={{X}_{n}}{{I}_{\left| {{X}_{n}} \right|\le {{n}^{1/p}}}}}$$とおき、$${\sum\limits_{n\ge x}{{{n}^{-2/p}}\,\,\le \frac{p}{2-p}{{\left( x-1 \right)}^{\frac{p-2}{p}}}}}$$ を示すことで、上と同様に証明される。

iid はindependent identically distributed の略である。