ボレルカンテリの第1定理、第２定理

ボレルカンテリの第1定理、第２定理
 
確率空間を$${\left( \Omega ,\mathcal{F},P \right)}$$ とする。すなわち、$${\mathcal{F}}$$は$${\Omega }$$の部分集合からなる$${\sigma }$$加法族であり、$${\Lambda \in \mathcal{F}}$$ は　”事象”　と呼ばれ、事象$${\Lambda }$$ には確率$${P\left( \Lambda \right)}$$が定義されている。$${P\left( \Lambda \right)=1}$$のとき、ほとんど確実に$${\Lambda }$$ がおきるという。逆に$${P\left( \Lambda \right)=0}$$のとき、ほとんど確実に$${{{\Lambda }^{c}}}$$ がおきるという。$${{{\Lambda }^{c}}}$$は$${\Lambda }$$の余事象である。
 
開集合全部を含む最小の$${\sigma }$$ 加法族をボレル集合体とよび$${\mathcal{B}}$$とかく。$${\mathcal{B}}$$の要素をボレル集合という。ボレル可測な関数はボレル関数という。連続関数$${f}$$ はボレル関数である。なぜなら開集合$${A}$$に対して$${{{f}^{-1}}\left( A \right)}$$ も開集合となるからである。
$${\Omega }$$上で定義された実数値関数$${X=X\left( \omega \right)}$$, $${\omega \in \Omega }$$ が、ボレル集合$${A\in \mathcal{B}}$$に対して、$${{{X}^{-1}}\left( A \right)=\left\{ \omega \in \Omega :X\left( \omega \right)\in A \right\}}$$ が$${\mathcal{F}}$$の元になるとき、$${X}$$は確率変数と呼ばれる。たとえばボレル集合として$${A=\left( a,b \right)}$$ とするとき、$${{{X}^{-1}}\left( A \right)=\left\{ \omega \in \Omega :a< X\left( \omega \right)< b \right\}}$$は可測となり、上で述べた事象である。$${P\left( {{X}^{-1}}\left( A \right) \right)}$$を$${P\left( X\in A \right)}$$ と書く。同様に$${A=\left( a,b \right)}$$のとき、$${P\left\{ \omega \in \Omega :a< X\left( \omega \right)< b \right\}}$$のことを$${P\left\{ a< X< b \right\}}$$と簡単に書いて$${X}$$ が$${a}$$と$${b}$$の間にある確率というが、意味を取り違えることはないであろう。$${\mu \left( A \right)=P\left( {{X}^{-1}}\left( A \right) \right)}$$とおくと$${\mu }$$は、$${\mathcal{B}}$$上の確率となる。すなわち、確率変数$${X}$$は 確率空間$${\left( \Omega ,\mathcal{F},P \right)}$$から、確率空間$${\left( \mathbb{R},\mathcal{B},\mu \right)}$$への写像を与えている。 $${{{X}_{1}},{{X}_{2}},\cdots ,{{X}_{n}}}$$ を$${\left( \Omega ,\mathcal{F},P \right)}$$上の確率変数（たち）とする。
定義：任意に選んだボレル集合（たち）$${{{A}_{1}},{{A}_{2}},\cdots ,{{A}_{n}}\in \mathcal{B}}$$に対して、
$${P\left( {{X}_{1}}\in {{A}_{1}},{{X}_{2}}\in {{A}_{2}},\cdots ,{{X}_{n}}\in A \right)=\prod\limits_{K=1}^{n}{P\left( {{X}_{k}}\in {{A}_{k}} \right)}}$$となるとき、$${{{X}_{1}},{{X}_{2}},\cdots ,{{X}_{n}}}$$は独立independentという。
定義：$${\mathcal{F}}$$ の部分加法族$${{{\mathfrak{A}}_{1}},{{\mathfrak{A}}_{2}},\cdots ,{{\mathfrak{A}}_{n}}}$$ が独立であるとは、任意の$${{{A}_{1}}\in {{\mathfrak{A}}_{1}},{{A}_{2}}\in {{\mathfrak{A}}_{2}},\cdots ,{{A}_{n}}\in {{\mathfrak{A}}_{n}}}$$にたいして
$${P\left( \bigcap\limits_{k=1}^{n}{{{A}_{k}}} \right)=\prod\limits_{k=1}^{n}{P\left( {{A}_{k}} \right)}}$$ となることである。
 
$${\sigma \left( X \right)}$$ を$${{{X}^{-1}}\left( A \right)}$$, $${A\in \mathcal{B}}$$ から作られる$${\sigma }$$ 加法族とする。
定理：$${{{X}_{1}},{{X}_{2}},\cdots ,{{X}_{n}}}$$が独立となる必要十分条件は$${\sigma }$$加法族$${\sigma \left( {{X}_{1}} \right),\sigma \left( {{X}_{2}} \right),\cdots ,\sigma \left( {{X}_{n}} \right)}$$が独立となることである
証明）
必要性）$${{{\Lambda }_{k}}\in \sigma \left( {{X}_{k}} \right)}$$に対して、$${{{\Lambda }_{k}}=X_{k}^{-1}\left( {{A}_{k}} \right)}$$となる$${{{A}_{k}}\in {{\mathcal{B}}_{k}}}$$ があるから、

$${\prod\limits_{k=1}^{n}{P\left( {{\Lambda }_{k}}  \right)}}$$$${=P\left( \bigcap\limits_{k=1}^{n}{{{\Lambda }_{k}}} \right)=P\left( \bigcap\limits_{k=1}^{n}{X_{k}^{-1}\left( {{A}_{k}} \right)} \right)=P\left( \bigcap\limits_{k=1}^{n}{\left( {{X}_{k}}\in {{A}_{k}} \right)} \right)}$$$${=\prod\limits_{k=1}^{n}{P\left( {{X}_{k}}\in {{A}_{k}} \right)}}$$
十分性）上の式を逆に読めばよい！
 
定理　$${\varphi }$$をボレル関数とする。確率変数たち$${{{X}_{1}},{{X}_{2}},\cdots ,{{X}_{n}}}$$が独立のとき、確率変数たち$${{{Y}_{1}}=\varphi \left( {{X}_{1}} \right),{{Y}_{2}}=\varphi \left( {{X}_{2}} \right),\cdots ,{{Y}_{n}}=\varphi \left( {{X}_{n}} \right)}$$も独立である。
証明）$${\sigma \left( Y \right)\subset \sigma \left( X \right)}$$となることから言える。
 

ボレルーカンテリの第1定理
事象列$${{{\Lambda }_{1}},{{\Lambda }_{2}}\cdots ,{{\Lambda }_{n}},\cdots }$$に対して、$${\sum\limits_{n=1}^{\infty }{P\left( {{\Lambda }_{n}} \right)<\infty }}$$ ならば、
$${P\left( \overline{\lim }\,\,{{\Lambda }_{n}} \right)=0}$$

ここで、$${\overline{\lim }\,\,{{\Lambda }_{n}}=\bigcap\limits_{n=1}^{\infty }{\bigcup\limits_{k\ge n}{{{\Lambda }_{k}}}}}$$また、$${\underline{\lim }\,\,{{\Lambda }_{n}}=\bigcup\limits_{n=1}^{\infty }{\bigcap\limits_{k\ge n}^{{}}{{{\Lambda }_{k}}}}}$$とおく。
よみかた：
$${\overline{\lim }\,\,{{\Lambda }_{n}}=\bigcap\limits_{n=1}^{\infty }{\bigcup\limits_{k\ge n}{{{\Lambda }_{k}}}}}$$
（$${n=1,2,\cdots }$$のなかの無限個の$${{{\Lambda }_{n}}}$$）
$${\underline{\lim }\,\,{{\Lambda }_{n}}=\bigcup\limits_{n=1}^{\infty }{\bigcap\limits_{k\ge n}^{{}}{{{\Lambda }_{k}}}}}$$
（$${n=1,2,\cdots }$$ のなか高々有限個を除いた残り全体の$${{{\Lambda }_{n}}}$$）
 
証明）
$${P\left( \bigcup\limits_{k\ge n}{{{\Lambda }_{k}}} \right)\le \sum\limits_{k\ge n}{P\left( {{\Lambda }_{k}} \right)}}$$。$${\bigcup\limits_{k\ge n}{{{\Lambda }_{k}}}}$$は$${n}$$について減少であるから、確率の連続性より
$${P\left( \bigcap\limits_{n=1}^{\infty }{\bigcup\limits_{k\ge n}{{{\Lambda }_{k}}}} \right)=\underset{n\to \infty }{\mathop{\lim }}\,P\left( \bigcup\limits_{k\ge n}{{{\Lambda }_{k}}} \right)\le \underset{n\to \infty }{\mathop{\lim }}\,\sum\limits_{k=n}^{\infty }{P\left( {{\Lambda }_{k}} \right)}}$$
であるが$${\sum\limits_{n=1}^{\infty }{P\left( {{\Lambda }_{n}} \right)<\infty }}$$より$${\underset{n\to \infty }{\mathop{\lim }}\,\sum\limits_{k=n}^{\infty }{P\left( {{\Lambda }_{k}} \right)}=0}$$
したがって
 $${P\left( \overline{\lim }\,\,{{\Lambda }_{n}} \right)=P\left(\bigcap\limits_{n=1}^{\infty }{\bigcup\limits_{k\ge n}{{{\Lambda }_{k}}}} \right)=0}$$

ボレルカンテリの第２定理
事象列$${{{\Lambda }_{1}},{{\Lambda }_{2}}\cdots ,{{\Lambda }_{n}},\cdots }$$を独立な事象列とする。このとき、
$${\sum\limits_{n=1}^{\infty }{P\left( {{\Lambda }_{n}} \right)=\infty }}$$ならば、$${P\left( \overline{\lim }\,\,{{\Lambda }_{n}} \right)=1}$$

証明$${{{\Lambda }_{1}},{{\Lambda }_{2}}\cdots ,{{\Lambda }_{n}},\cdots }$$が独立より$${\Lambda _{1}^{c},\Lambda _{2}^{c},\cdots ,\Lambda _{n}^{c},\cdots }$$も独立。
$${P\left( \bigcap\limits_{n\ge k}{\Lambda _{k}^{c}} \right)=\prod\limits_{n\ge k}{P\left( \Lambda _{k}^{c} \right)=}\prod\limits_{n\ge k}{\left( 1-P\left( {{\Lambda }_{k}} \right) \right)}}$$

$${ \le \exp \left( -\sum\limits_{n=k}^{\infty }{P\left( {{\Lambda }_{k}} \right)} \right)=0}$$

すなわち、
$${P\left( \bigcup\limits_{n\ge k}{{{\Lambda }_{k}}} \right)=1}$$
が任意の$${n}$$で成り立つ。よって、
$${P\left( \bigcap\limits_{n=1}^{\infty }{\bigcup\limits_{k\ge n}{{{\Lambda }_{k}}}} \right)=\underset{n\to \infty }{\mathop{\lim }}\,P\left( \bigcup\limits_{k\ge n}{{{\Lambda }_{k}}} \right)=1}$$
 
Tail equivalence(末尾同等性)
$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$ , $${\left\{ X_{n}^{'} \right\}_{n=1}^{\infty }}$$をそれぞれ$${\left( \Omega ,\mathcal{F},P \right)}$$上の確率変数列とする。
$${\sum\limits_{n=1}^{\infty }{P\left( {{X}_{n}}\ne X_{n}^{'} \right)<\infty }}$$のとき、$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$ , $${\left\{ X_{n}^{'} \right\}_{n=1}^{\infty }}$$は末尾同等（tail equivalent）という。
 
このとき、第１ボレルカンテリの定理よりある$${P\left( N \right)=0}$$となる事象$${N}$$が存在して、$${\forall \omega \in {{N}^{c}}}$$にたいして有限個の$${n}$$ を除いて、$${{{X}_{n}}\left( \omega \right)=X_{n}^{'}\left( \omega \right)}$$が成り立つことがわかる。したがって、次の系を得る
 
系） $${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$ , $${\left\{ X_{n}^{'} \right\}_{n=1}^{\infty }}$$は末尾同等（tail equivalent）とする。
このとき、ある確率変数$${X}$$ が存在して
$${\underset{n\to \infty }{\mathop{\lim }}\,\frac{1}{{{b}_{n}}}\sum\limits_{k=1}^{n}{X_{k}^{'}=X}}$$ a.s.なら $${\underset{n\to \infty }{\mathop{\lim }}\,\frac{1}{{{b}_{n}}}\sum\limits_{k=1}^{n}{{{X}_{k}}=X}}$$
が成立する。
 
証明
ある大きな$${M}$$ をえらぶと$${\underset{n\to \infty }{\mathop{\lim }}\,\frac{1}{{{b}_{n}}}\sum\limits_{k=M}^{n}{{{X}_{k}}=}\underset{n\to \infty }{\mathop{\lim }}\,\frac{1}{{{b}_{n}}}\sum\limits_{k=M}^{n}{X_{k}^{'}}}$$
が$${\forall \omega \in {{N}^{c}}}$$ にたいして成立することからわかる。
 
この系はあとで、コルモゴロフの大数の法則の証明に用いられる。
もうひとつ、不等式を示す。
 

Lemma：$${X\in {{L}^{1}}}$$ かつ$${\varepsilon >0}$$ とする。そのとき、
$${\sum\limits_{n=1}^{\infty }{P\left( \left| X \right|\ge n\varepsilon \right)}\le \frac{1}{\varepsilon }E\left( \left| X \right| \right)}$$
 

マルコフの不等式の場合
$${P\left( \left| X \right|\ge n\varepsilon \right)\le \frac{1}{n\varepsilon }E\left( \left| X \right| \right)}$$
の$${n}$$ について両辺の和をとると、$${\sum\limits_{n=1}^{\infty }{\frac{1}{n}}=+\infty }$$よりマルコフの不等式の右辺は発散するので、Lemma の不等式のほうが改良されている。
 Lemmaの証明）
 $${\sum\limits_{n=1}^{N}{{{I}_{\left[ n,\infty \right)}}}\left( x \right)\le x}$$
図を見よ：

より、
$${\sum\limits_{n=1}^{\infty}{{{I}_{\left[ n,\infty \right)}}}\left( \frac{\left| x \right|}{\varepsilon } \right)\le \frac{\left| x \right|}{\varepsilon }}$$
の両辺の期待値をとると、

$${E\sum\limits_{n=1}^{\infty}{{{I}_{\left[ n,\infty \right)}}}\left(\frac{\left| x \right|}{\varepsilon } \right)\le E\left(\frac{\left| x \right|}{\varepsilon } \right)}$$

しかし、
左辺＝$${\sum\limits_{n=1}^{\infty }{E{{I}_{\left\{ \left| X \right|\ge n\varepsilon \right\}}}}=\sum\limits_{n=1}^{\infty }{P\left( \left| X \right|\ge n\varepsilon \right)}}$$
証明おわり
 
系　$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$をi.i.d(independent identically distributed)で、$${X\in {{L}^{1}}}$$とする。このとき、$${X_{n}^{'}={{X}_{n}}{{I}_{\left| {{X}_{n}} \right|\le n}}}$$ とおくと
$${\left\{ {{X}_{n}} \right\}_{n=1}^{\infty }}$$ ,と$${\left\{ X_{n}^{'} \right\}_{n=1}^{\infty }}$$は末尾同等（tail equivalent）となる。
 
$${X\in {{L}^{1}}}$$は$${E\left| X \right|<\infty }$$のことであり、Lemmaの$${\sum\limits_{n=1}^{\infty }{P\left( \left| X \right|\ge n\varepsilon \right)}\le \frac{1}{\varepsilon }E\left( \left| X \right| \right)}$$において$${\varepsilon =1}$$として、$${\sum\limits_{n=1}^{\infty }{P\left( \left| X \right|\ge n \right)}<\infty }$$がなりたつ。$${P\left\{ {{X}_{n}}\ne X_{n}^{'} \right\}=P\left\{ {{X}_{n}}\ge n \right\}=P\left\{ X\ge n \right\}}$$ より
$${\sum\limits_{n=1}^{\infty }{P\left( {{X}_{n}}\ne X_{n}^{'} \right)}<\infty }$$がえられる。
 
 
これらの不等式は、コルモゴロフがあたえた強大数の法則を証明するための重要なステップとなる。その際$${X_{n}^{'}={{X}_{n}}{{I}_{\left| {{X}_{n}} \right|\le n}}}$$はボレル関数を用いて$${{{X}_{n}^{'}}=\varphi \left( {{X}_{n}} \right)}$$となることが示される$${\left\{ X_{n}^{'} \right\}_{n=1}^{\infty }}$$もまたi.i.d.となることがキーポイントとなる。