科学が最善を尽くすために

新型コロナウイルスが始まった頃、様々な国や地域で多くの混乱が見られました。現代的な社会において発生した世界規模のパンデミックであったため、利用可能なデータや先例がなく、全ての対応が手探りで進められました。

多くのメディアやSNS、日常会話の中でも、エビデンス（証拠）や科学的な根拠に基づく政策決定が必要だという声が見られました。しかし、前例のない出来事に対するエビデンスとは何を指しているのでしょうか。十分な科学的な根拠がなければ政策決定が許されないのであれば、何も手を打たずにデータが蓄積されるまで待つしかないということでしょうか。

ここに、科学と現実の明確な緊張関係があります。

■最善の科学（The Best Effort Science）

証拠や検証が困難な対象を扱ったり、時間や資源が限られている状況であっても、合理的かつ客観的に対象を理解するために最善を尽くす科学的精神が、私が提案する最善の科学（The Best Effort Science）の本質です。

科学とは、合理的かつ客観的に事実を理解する知的活動です。このためには、客観性が担保された十分な量の証拠を集めたり、実験やシミュレーションにより誰が行っても同じ結果が得られることを検証することが重要です。これらの手続きを厳密にクリアすることができれば、それは合理的かつ客観的な理解として妥当であると認められます。

科学はこの精神により発展し、加えて社会にも大きな貢献を果たしてきました。科学により積み上げられてきた理解を応用することで、技術は大きく飛躍しました。その技術を社会実装することで、私たちは豊かさを飛躍的に向上させることができました。

一方で、この伝統的な科学のアプローチでは、パンデミックのような複雑で前例のない危機に対応するには不十分であることも露呈しました。十分な量のデータや実験による検証が非現実的であったり、待つ時間がない状況下では、従来の科学のアプローチを使用することができないためです。

また、危機がリアルタイムで進行している状況下以外にも、将来的に大きなリスクが予見される分野においても、科学は明らかに苦戦を強いられています。

地球温暖化問題においては、それが十分に確実性が高く、かつ時間を掛けて検証していればリスクが高まることが分かっていながら、科学コミュニティーは非常に長い時間と労力をかけて問題を検証することを強いられていました。そして、社会的な意志決定は科学コミュニティーの曖昧な表現の精度が向上するまで強力な対応や高い目標を立てることを待たされていました。

加えて、その他のリスクも目の前に見えてきています。遺伝子編集技術やAI技術です。これらのリスクに対しても同様に、科学コミュニティは十分に対応ができていません。しかも、問題が顕在化すれば、地球温暖化よりも圧倒的に速い速度でその悪影響が広がり、取り返しがつかなくなることは明白であるにも関わらず、科学は無力なままです。

特にAI技術については、地球温暖化や遺伝子編集の問題と異なり、過去の事例というもの自体がそもそも存在しません。まったく新しい概念であり、証拠もなければ実験的な検証も不可能な対象です。このため、科学はAIによるリスクに対して苦戦する以前の段階です。何もアプローチせずに傍観しているというのが現実です。

科学がこれらの問題に苦戦していたり、まったく何もしていないとすれば、私たちは何に頼れば良いのでしょうか。各自の直感に基づいて、民主的な選挙で意思決定を行えば、問題が消えるわけではありません。これらの問題に対しても、入手できる限りのデータと知識、そして合理的かつ客観的な理解に基づいて、最善の手を打っていくしかありません。

そのような従来の科学が扱うことができないものの、私たちにとって重大な問題領域に対して、合理的かつ客観的に
アプローチする責務は、どのセクターが担っているのでしょうか。

哲学でしょうか、政治でしょうか、経済でしょうか。私には、それらのセクターの責務とは思えません。科学しか、この責務を担うセクターにはなれません。

科学の精神は、合理的かつ客観的に事実を理解することにあります。決して、証拠と検証が科学の本質ではありません。対象からの証拠の得られやすさや検証のしやすさ、そして現実の状況下における限られた時間や資源を勘案して、その中で最も合理的かつ客観的に事実を理解することもまた、科学の精神に沿った知的活動です。

つまり、証拠や検証が困難な対象であっても、時間や資源が限られている状況であっても、科学は可能です。現在の科学コミュニティが、対象や状況に応じて適切に適用できる確立された方法論を持っていないだけです。

現在の科学コミュニティの方法論が科学を規定しているのではありません。科学は、方法論を拡張して、その守備範囲を広げることが可能です。そして、前例のない危機や予見される危機に対して、科学がその責務を担わなければ、私たちの社会は非合理的で主観的な判断に頼って生き延びる方法を探るしかありません。

地球規模であったり全人類的な規模の危機が出現している現在において、科学が伝統的な方法だけに固執してしまうことは、不条理であり非合理的です。科学は社会の要請によって動かされるものではありません。しかし、科学は科学自身の非合理性に対して、答えを出す必要があります。

そして、従来の方法論では新型コロナウイルスや地球温暖化の問題に対して適切にアプローチできず、科学自体の守備範囲を狭めているという事実に沿って、科学自身のために科学的な方法論を拡張する必要性を認識する必要があります。科学が正しく自己認識をして、限界を乗り越えるためにアプローチすることが、結果的に科学と社会にとって最良の選択肢になります。

これが最善の科学（The Best Effort Science）の精神です。

■バイナリリスク理論

最善の科学の応用と、その必要性について理解するために、バイナリリスク理論について紹介します。これは私が考案した理論ですが、それほど難しい理論ではなく、着想さえあれば誰もが容易に同じ結論に達する、極めて客観的で合理的な理論です。

バイナリリスクとは、そのリスクの被害を被る人や集団にとって、許容不可能な影響を及ぼすリスクのことを指しています。例えば個人であれば死のリスクや、人生の意味を定義しているような最も大事にしている物を失うリスク、などです。社会であれば社会そのものが崩壊するとか、全滅するといったリスクです。

バイナリとは「０と１の２つの値」という意味です。これは、持続的なバイナリリスクの発生確率は0%か100%に収束することに由来します。

例えば一年間にそのリスクが発生する確率が１％であっても、長期的にそのリスクが継続した場合、全期間を通してそのリスクが発生する確率は高くなっていきます。そして、永続的にリスクが存在するような場合は、そのリスクの発生確率は１００％になります。

一般にリスクについて考える場合、そのリスクをあえて受け入れることによるメリットとのバランスについて検討することになります。しかし、バイナリリスクは、メリットと比較することの意味がありません。なぜなら、リスクを受け入れた場合、１００％そのリスクはいつか発生することになります。そして、そのリスクが発生した場合、それまでの期間にメリットを享受していたとしても、それも含めて全てが無になります。

加えて、バイナリリスクは、バイナリリスク以外のリスクと比較したりバランスを取ることはできません。非バイナリリスクを下げることで得られるメリットは、バイナリリスクが発生した時に失われるためです。このため、バイナリリスクと比較することに意味があるのは、別のバイナリリスクだけです。

これがバイナリリスク理論です。

■最善の科学におけるバイナリリスク理論

このバイナリリスク理論はそれほど難しい理屈ではなく、先ほど述べたように着想さえ得れば誰が考えても同じ結論に至ります。その意味で、合理的であり、客観的です。このため、最善の科学という視点から見れば、明確に科学的な理論であり、他に追加の情報がなくても、確立した理論として認めることができます。

しかし、最善の科学を受け入れていない場合は、バイナリリスク理論は未確立のアイデアと見なされます。バイナリリスク理論を提案しても、先行研究や関連研究の列挙、証拠の提示や実験計画などを求められるはずです。それが従来の科学の方法論であり、科学コミュニティには一般に、その方法論しか存在しないためです。

このことは私の推測でしかありませんが、状況証拠はあります。

人類が全滅するリスクは、実存的リスクやＸリスクとしてよく知られた概念です。地球環境の悪化や、人工的なウイルスによるパンデミック、人工知能の暴走などが当てはまります。こうしたＸリスクは、様々な研究者が考えられるシナリオの調査や発生確率の調査などを行っており、特に近年、人工知能技術の進歩に伴って注目を集めています。

一方で、私の知る限り、バイナリリスク理論のような理論的な枠組みは登場していない様子なのです。これほど明確で考えてみればすぐに思いつくにもかかわらず提示されない理由としては、バイナリリスク理論を提示しても、証拠の提示や実験計画を求められ、あまり有用な研究成果にならないためでしょう。あるいは、単純にこうした未来予測のような理論を考えることは科学ではないと研究者自身が思い込んでいるためかもしれません。

しかし、最善の科学の精神に基けば、Xリスクに対して考えた際に、真っ先に思いつくはずの理論であり、全てのXリスクについての議論は、この理論を背景にして議論されるべきです。バイナリリスク理論を前提にして考えれば、様々なXリスクの詳細シナリオを検討したり、それらの発生確率を高精度で見積もるという努力は、ピントがずれているように見えます。

バイナリリスク理論を正しく理解すれば、各主体にとってバイナリリスクの存在に気付いたら、使用できる全ての時間とリソースを、そのバイナリリスク自体の発生確率を限りなくゼロに近づけるための努力に集中しすべき、ということになります。

線路の上に立っていて電車が近づいてきたときに考えるべきことは、電車の到着するタイミングを予測することでも、ぶつかった時に生き残る確率を計算することでもありません。どちらに移動すれば危機を逃れられるかを考えるべきであり、それが分かったらただちに移動すべきです。

しかし、現実にはXリスクの研究ではこのようなアプローチは取られていません。

このように、バイナリリスク理論は、最善の科学の応用例であると共に、最善の科学の必要性を浮き彫りにします。

■相対的フェルミ推定

最善の科学のもう１つの応用例は、相対的フェルミ推定です。

通常、フェルミ推定は、目的とする数値を、手に入る数値と大まかな計算式から概算する手法を指します。もちろん、使用した元の数値の誤差や精度の低い計算式による誤差が含まれるため、算出された数値は概算であり、実際の数値とは数倍から数十倍乖離する場合もあります。

しかし、そのように大きなズレがあるとしても、推定値として有用な場合は多くあります。例えばある値が１００より大きいかどうかが分かれば良いという場合、概算値が１００００であれば、十倍程度の誤差は問題がありません。

相対的フェルミ推定は、この考え方を、科学的な仮説同士の間の比較に使用します。従来の科学では、手に入る情報に対して明らかに矛盾しない限り仮説として有効であると判断します。一方で、仮説が妥当であると認められるためには、十分な証拠と、実験やシミュレーションによる検証が求められます。それが不十分である場合、仮説はあくまで仮説として扱われます。そして、仮説を支持する科学者の数や科学的な権威の意見に応じて、仮説の間のランク付けがなされます。

このため、ある分野においていずれの仮説も妥当性が認められていない場合、それらは同等の仮説として扱われます。かつ、そこに新しい仮説が持ち込まれても、時間をかけて支持を集めない限り、同等以下の仮説として扱われることになります。

特に、対象が本質的に決定的に証拠を得られる見込みがなく、かつ、複雑さや規模の問題で実験やシミュレーションが著しく困難な場合には、仮説はほぼ永遠に妥当性に到達することはできず、したがって全ての仮定は同等の仮定として扱われるという状況が継続することになります。

しかし、相対的フェルミ推定を用いることで、これらの証拠や妥当性が認められていない仮説の間の妥当性を、客観的に検証することができます。まず、鍵となる指標とその根拠を明確にします。そして、相対的にその指標が仮説間でどれくらいの差があるかを、得られる情報を使って概算します。

例えば得られる情報の精度と計算式の精度に２桁の誤差が見込まれ、概算した結果の差が２桁の差であれば、計算の誤差の可能性を勘案すると、明確な差があるとは言えません。

しかし、精度の誤差が２桁である一方で、概算結果の差が５桁やそれ以上であるなら、２つの仮説の間には相対的な妥当性に明確な差があると言えます。

これらの概算には、主観性やバイアスが含まれているはずです。このため、元にした数値や計算式の根拠を明示し、それを別の研究者によって再評価するプロセスを経る必要はあります。そして、多数の研究者間でこれらの概算をした結果、全て仮説間の妥当性に有意差が認められた場合には、仮説間の有意差があると客観的に認めることができます。

これは証拠や検証の仮定を経ていないため、あくまで推定的かつ相対的な優位性に過ぎません。しかし合理的で客観性を担保することができる、科学的な方法論です。そして、その結果として片方の説に明らかな優位性があれば、その差を科学的に認めることができます。

そして、最善の科学の精神に則れば、限られた時間やリソースでの理解の下では、フェルミ推定で優位であった仮説を支持することが、その時点での最善ということになります。これは追加調査に掛ける時間やリソースの分配や、意志決定に影響を及ぼします。

■さいごに：透明な知性

直感に基づく判断は、科学においては否定されます。それは主観的であり、合理性に欠けているとみなされるためです。

しかし合理的で客観的な評価と、直感が一致することは多くあります。バイナリリスク理論は、線路の上に立った時の私たちの直感的な判断と一致します。また、相対的フェルミ推定は、多くの場合、直感的な判断と一致します。これらは私たちが直感的に正しいと感じるこれらのことを、合理的で客観的な評価ができるように定式化したり方法論化したものです。

これは、伝統的な科学的な方法には含まれていません。ただそれだけで、科学的でないと否定することもできるでしょう。しかし、繰り返しますが、これらは合理性と客観性という科学の精神に則っており、かつ既存の科学的な方法論を否定するものではありません。既存の科学的な方法論の適用が困難な対象や状況において、科学的な理解をするための、科学の拡張です。

そして、その拡張の方向性は、直感に基づく判断が正しいケースが手がかりとなります。そのようなケースで、科学的な方法論が存在しない場合には、そこに最善の科学に基づく科学的方法論の拡張性の余地がある可能性が高いはずです。

このように、私たちの自然な直感が、合理性や客観性と一致する領域を、私は透明な知性と呼んでいます。透明な知性は、その時点の科学的な方法論では扱えないとしても、妥当な理解や判断を提供します。それを否定することは、自らの知性を狭めたり、場合によっては歪めてしまいます。

科学的かどうかを問う前に、それが透明な知性に合致するかどうかが重要です。科学的な方法論が適用できないとしても、科学的ではないという証拠にはならないのです。多くの人が自身の透明な知性に問いかけて妥当であると判断できることには、まだ開発されていない科学的な方法論が潜在している可能性が高いためです。

私たちは、透明な知性の重要性を認識して、物事を見つめる必要があります。そして、多くの人の透明な知性と、科学的な方法論にギャップがある場合、それを手がかりにして新しい科学的方法論を開発し、それを科学に取り入れる必要があります。そうやって、科学を拡張していくことで、最善の科学の精神を現実のものにしていくことができるのです。