はだかの王様 クローﾄﾞ・シャノン４ 熱力学的エントロピーの情報理論
フォン・ノイマンは、「情報理論は熱力学と形式論理学からなる」と言った。いったいそれはどういうことなのか。彼はまた、「デジタルとアナログの違いは、古典的な通信理論である信号対雑音比(S/N)である」とも言った。
残念なことに、フォン・ノイマンは５３歳の若さで亡くなり、熱力学的な情報理論を構築できなかった。とすると、それを完成させるのは私たちの仕事である。
エントロピーを熱力学的にとらえると、どのような情報理論が生まれるのだろうか。
上の図は、シャノンの「通信の数学的理論」に図１として掲載されている図である。情報源から情報が発信されると、送信機から信号が通信回線に送りだされる。通信回線上には雑音源があり、その影響を受けた信号を受信して、到達先に届けられる。
この図はなかなかよくできている。回線上を左から右に信号(S)が伝搬し、その信号を雑音(N)が歪ませることがわかる。図が示しているのは信号対雑音比(S/N)そのものである。
雑音は熱の関数であり、雑音電力(Pn)=ボルツマン定数(k)*T(絶対温度)*B(帯域)として求められる。
図に示すように、通信回線上に雑音源があるとき、絶対温度や帯域に比例して信号(S)に歪み(⊿S)が生まれる。この⊿Sが熱力学的エントロピーである。
物理量を送受信するアナログ通信の場合、信号と歪がいったん混じると、取り除くことができない。送信する度に、信号歪が重畳していき、伝言ゲームの様相を示す。
シャノン理論の教科書では、受信信号が0か1かの確率が論じられる。しかしデータが0か1かは、情報の中身の問題であり、予測したり、確率を論ずることに意味はない。問題は、1として送信したものが0で受信される確率で「bit誤り率」と呼ばれる。
アナログ通信に対して、デジタル通信は論理値を送受信するので、送信前に信号を所定のアルゴリズムで計算してその結果を一緒に送信すると、回線上で信号誤りが起きても、確かめ算をすることで正しい値に戻すことができる。これが誤り訂正符号の理論であり、そのおかげでデジタル通信は、信号誤りがひとつもない通信が可能となった。
生命はデジタル進化
日本では昨年、１０月１０日と１１日が「デジタルの日」だった。0と1が並ぶことからこの日にしたのだろうが、正確には「二元(binary)デジタルの日」と呼ぶのが正しい。
（※今年から、10月の第一日曜、月曜になったらしいが…）
DNAの遺伝子情報が発現することによって一個の受精卵が、一個の独立した生命体である赤ちゃんになるのもデジタルである。
ヒトの核内に保持された「30億塩基対のDNA情報」が、タイミングと状況に合わせて発現することで正しい成長をする。更には、長い時間で見ると、生命体は着実に進化し、跳躍的に複雑化している。
このことを、熱力学的に考えてみる。
地球では、過去６億年をふりかえると、およそ1億年に1回の割合で、大量絶滅がおきている。それにはカンブリア大爆発や、ゴンドワナ大陸分裂も含まれる。
その際、一部の生命体で、突然変異によって、外界の熱や雑音から生命組織を保護する組織や器官が体内に生まれる。原核生物は、細胞膜が内部に陥入して核を生み真核生物に進化した。脊椎動物は、中枢神経と脳室をもつ。胎生哺乳類は、殻のない卵をメスの子宮の中で育てる。
劣悪な環境が回復すると、それらの組織や器官は、低雑音環境を提供する。この低雑音環境は、たとえるならば携帯電話やスマホのアンテナピクトが「圏外」から「アンテナ5本」になるようなものである。DocomoやAuの場合、圏外とアンテナ5本は信号雑音比(S/N)が70～80㏈(デシベル)違う。デシベルは常用対数を10倍した数字であるから、これはつまり通信能力が1000万倍から1億倍向上することを意味する。
突然変異で低雑音環境を獲得した生命体は、環境が回復した後で、1000万倍から1億倍の通信能力を獲得する。それが跳躍進化を生み出すのだ。
真核生物の場合、二重らせん構造、制限酵素、転写後修飾など、さまざまな論理進化がおき、最終的には細胞内でバクテリアと共生進化を生み出す。
脊椎動物は、視覚や聴覚からの入力が、介在ニューロンによって、反射的に運動器官に伝えられる脊髄反射が可能となった。
胎生哺乳類は、個体を超えて、リーダーがみんなのことを考えて群れとして生きるようになった。（カンガルーやコアラにはボスはいない）
このように、進化のメカニズムは、熱力学的である。
こうして進化のメカニズムを考えると、原核生物、真核生物、脊椎動物、哺乳類など、複雑度の異なる生命体が共存することが説明できる。
これまでの情報理論は、熱力学を無視してきたために、生命進化のダイナミズムを説明できなかった。雑音から身体を守る組織のおかげで、跳躍進化を生み出す環境を手にしたことを理解できないでいた。
いまこそ情報理論は、フォン・ノイマンの言ったとおりに、熱力学的に再構築する必要がある。