形式化と文学(2)(2009)
第2章 形式化
20世紀最大の数学者の一人ダフィット・ヒルベルト（David Hilbert）は、1891年、数学者と幾何学公理について議論した際に、「点、直線、平面の代わりに、椅子、テーブル、ジョッキを使っても幾何学ができるはずだ」と豪語している。それは「謎」を深めるためでは、もちろん、ない。論理を精緻化することが目的である。
ヒルベルトのこの意見は、厳密な学を目指そうとする数学の要請に基づいている。数学において、実は、「点、直線、平面」といった基本概念を明確に定義することは難しい。
ユークリッド原論では次のような曖昧な定義がいくつか見られる。
定義I-3
線の端は点である。
定義I-4
直線とは点がまっすぐに並んだ線である。
これらは「点」と「線」の関係を述べているだけであって、それぞれを定義しているわけではない。同様に、「端」や「まっすぐ」、「並んだ」も直観に依存しており、論理的な説明ではない。こういった語句を「無定義述語」と呼ぶ。
しかし、無定義述語は公理公準によって間接的に次のように定義されている。
公準1
任意の点から任意の点へ直線を引くことができる。
公理公準を満たせば、定義は必ずしも必須ではない。数学の目標は基本概念を定義することではなく、定理とその証明である。定義は外部、すなわち他者にとって必要な解説である。理論体系の内部から考えるのであれば、表現を改めて定義を公理に移動するか、もしくは省略するかでかまわない。公理が明確であれば、定義がなくても、数学の議論が進められる。ユークリッドの公理系も簡便さのための改訂や根本的な改良、批判的な変革を加えて、精緻化すればよい。
公準1は次のように言い換えられる。
公準1
相異なる任意の2つの点に対して、それらを通る直線を引くことができ、しかもその直線は1つである。
19世紀末、公理系の精緻化の流れが加速する。定義がなくてもかまわないほどの公理系の厳密性が確保されていないことに、多くの数学者たちが気づく。それには、非ユークリッド幾何学や集合論といった直観的には把握し難い新たな数学理論の登場が大きい。数学的な直観の認識の支配は無意識的である。数学者であっても、公理として明記されていないのに、直観的にそれを自然に納得してしまう。意識して直観を排して論理を厳密化しなければならない。
そうした試みの中で、最も有名なのがヒルベルトの『幾何学基礎論（Grundlagen der Geometrie）』（1899）である。これは、ゲッティンゲン大学において、1898年から99年にかけての冬学期に行った講義をまとめた小冊子で、数ヶ月もしないうちに、教科書として広く数学界で読まれている。この著作の成功はユークリッド幾何学を19世紀から20世紀へと向かうダイナミズムの中で捉え直すのではなく、それを公理主義によって解釈して見せたという点にある。
ユークリッド以来の伝統を解体せず、その理論的完成を目指している。こうした保守的な姿勢の作品は、共通理解を多く踏まえているので、読者にとって受容しやすい。ヒルベルトは、そこで立ちどまるつもりがなく、集合論の基礎づけという壮大な企てに着手していく。この整備された集合論によって数学の体系全体が再構成され、現代数学が誕生する。
野崎昭弘大妻大学名誉教授は、『不完全性定理』において、数学者の仕事を「問題提起」・「体系化」・「精密化」の三つに大別している。第一の「問題提起」は、根本的な問いを示し、新たな学問や分野の誕生を促すことである。万物のアルケーを「水」と言ったタレスが挙げられる。第二の「体系化」は堆積した成果に整合性を持たせて集大成することである。その代表はユークリッドである。第三の「精密化」は各種の理論を逆説的論法を通じて批判的に考察し、厳密化することである。パラドックスで知られるゼノンがその典型である。ただ、生産性に乏しいいう欠点がある。ヒルベルトはこれら三つのすべてをやってのけた「数学界のスーパースター」と野崎教授は賞賛している。
ヒルベルトは公理公準を区別せず、理論の出発点をすべて公理とする。それは事実ではなく、あくまでも仮定である。その公理に立脚して、定理を有限回の作業を通じて証明する。そうした論証が厳密であれば、直観に引きずられてしまうような従来の数学の概念に代わって、「椅子、テーブル、ジョッキ」でも理解できるはずだ。
意味ある言葉は直観を誘発してしまうので、「椅子、テーブル、ジョッキ」と言わずに、点を「レレレのレ」、直線を「シェー」に先の公準1を置き換えてみよう。
公準1
相異なる任意の2つのレレレのレに対して、それらを通るシェーを引くことができ、しかもそのシェーは1つである。
まったく違和感がない。このまま赤塚マンガに使えそうだ。
もっとも、日常でも、新聞や雑誌、書籍を読んでいてわからない単語が出てきても、文脈から意味を推測し、内容を理解している。近年では、ワープロ・ソフトで文書を書く場面が多くなり、変換ミス等による、誤字脱字を目にすること増え、こうした推量の場面が多くなっている。
重要なのは公理系が厳密に与えられていることである。公理に基づき、それ以外の性質を使わないで、論証を進められる。そうであるなら、定義は希薄化するから、意味が問われなくなり、言葉は何だってかまわなくなる。公理を満たしていれば、どのような文字や記号、言葉を用いてもよい。数学的に形式化されていれば、論証は現論証の合理性・確実性を保障する。
形式化の考えに従えば、次のような一風変わった文も可能になる。
ケムンパスがタイホするウナギイヌはケムンパス
バカボンがタイホするウナギイヌはバカボン
ニャロメがタイホするウナギイヌはニャロメ
ウナギイヌがタイホするウナギイヌはウナギイヌ
一見したところで、何だかわけがわからないが、これらは自然数と乗法に関する次のような公理に基づいている。
(S1) すべてのp、q、rについて
p・(q・r)=(p・q)・r
(S2) あるuがすべてのpについて
u・ｐ=ｐ
このようなuを単位元と呼ぶ
(S3) すべてのp、qについて
p・q=q・p
この公理は非常に汎用性が高い。自然数のみならず、整数でも、有理数でも、実数でも、複素数でも用いられる。また、加算やより大きい数に使えるし、工夫すれば、最小公倍数などにも適用できる。そのため、この公理から数多くの定理を証明することが可能である。なお、自然数と乗法の場合、単位元を1と考えればよい。
直観にとらわれていると、謎めいているが、そんなものはない。先の文章がpを「ケムンパス」、qを「バカボン」、rを「ニャロメ」、uを「ウナギイヌ」、・を「がタイホする」、=を「は」に置き換えただけだということがすぐわかる。
もしお望みなら、すでに発見されている公理や定理、証明を援用し、任意の単語に入れ替えて、散文や詩を作ることも可能である。
野崎教授は、『不完全性定理』の中で、点を「ピン」、無限直線を「ポン」、「通る」を「パン」と代入して、交差する直線についての定理とその証明を次のように試している。
定理 ポンLはピンPをパンするが、ピンQをパンしていないとする。そしてPとQをパンする本がL´を考える。するとそのポンL´ともとのポンLとがどちらもパンしているピンはPだけで、それ以外の同じピンを両者ともにパンすることは決してない。
［証明］ ポンL、L´が、P以外の同じピンRをパンしたと仮定しよう。するとポンLおよびL´は、どちらも相異なる2つのピンP、Rをパンすることになる。ところが相異なる2つのピンをパンするポンはただひとつである（♭）から、ポンL、L´は同一でなければならない。一方ポンLはピンQをパンするので、LとL´は同一ではありえない。だから最初の仮定は誤りで、ポンL、L´がP以外の同じピンをパンすることは決してない。［証明終］
まるでルイス・キャロルのようだが、とにかく証明はできている。言葉が何でもいいとは、こういう直観を排した論理の精緻性、すなわち形式化への意志である。その詩制を貫くのであれば、謎などという曖昧なものを排除せねばならない。謎があることはその公理系が直観に依存しているからであって、形式化が不徹底なだけである。
現代社会はこの形式化の恩恵を受けている。その一つがコンピュータである。形式的に定義された有限会の作業であれば、原理的には問題を解くことができる。コンピュータにとって言葉の意味はどうでもよい。
公理系をめぐる考えはさらに発展している。ヒルベルトは数学の基礎つけとして公理系を展開したが、構造主義以降、特定のモデルのみに当てはまるだけでなく、抽象的・一般的な理論体系を可能にする公理系が探求されるようになる。個々の公理が正しいかどうかは問われない。モデルの中で妥当であれば、それでよい。その外でのことはとやかく言わない。数学者の関心はいかなるモデルがあるかあるいはそのモデルがどれだけ生産的であるかに映る。
こうした現代化の進展は細分化・専門化・高度化を招き、ちょっとでも専門が違っただけで、その分野のことを理解できない。言葉なんて何でもいいのは、専門家集団内での論理の徹底追求のためであり、他者は排除される。同じ数学者でさえも、場合によっては、他者となる。
その好例としてすでに引用した野崎教授の『不完全性定理』が挙げられる。教授はコンピュータ科学の基礎理論を専門とし、数学教育の分野でも活動もしている。その彼が数学史を辿りながら、クルト・ゲーデルの不完全定理の入門書として1996年に公表したのが同書である。執筆に当たっては、野崎教授は専門外であるので、小野寛晰北陸先端科学技術大学院大学教授と伊藤潤一岩手県立一関第二高校教諭に確認をしてもらっている。
しかし、出版されると、それでもその分野の専門家から不備を見つけられている。林晋京都大学大学院教授が第3不完全性定理に関する誤解などを指摘している。また、円周率の桁数字に9が10個以上続けて表われるかどうかの判定を不可能と書いているが、金田康正東京大学大型計算機センター教授が実際にはすでに行われていると注意を受けている。野崎教授は正直にミスを認め、あとがきにそれらを記している。今日の学問はそれだけセクト化している。
野崎教授は、数学教育協議会の委員長も務めているように、専門外だからと言って、当て推量や思いこみで本を書くことなどしない。そんな手抜きは教育者としてあるまじき行為だ。しかも、複数の数学者に意見を尋ねている。そこまで慎重に執筆を進めても、不備が見つかってしまう。
自分の専門分野に精通していても、初心者にそれを教えるとなると、彼らの誤って理解したり、つまずいたりする傾向を認識した上で、臨まなければならない。実際、野崎教授も、『数学的センス』の中で、『岩波数学事典第2版』の「群」の項目の一部を引用して、正確であるけれども、知っている人にしかわからない説明で、初心者向けには具体例による解説が不可欠だと主張している。事典や入門書には内部と外部の両方の認識を持つことが求められる。専門家はリテラシーを暗黙知として身体化しているが、初心者にはそれを明示化して伝える必要がある。そのため、定義が重要となる。他者を相手にした場合、言葉など何でもよくはない。