科学と倫理の拡張：社会システムの改善

地球温暖化は、以前から指摘されていました。しかし、それを真剣に対処すべき問題と認識するまでには、長い年月が必要でした。そして、実際に真剣に取り組みを検討し、実施するのにも時間が必要です。

一方で、地球温暖化の問題は、対策が遅くなればなるほど、回避できる可能性が低くなり、対策のハードルも上がっていくという性質を持っていることは、当初から明らかでした。

また、状況が悪化して、ある状態を超えると後戻りができなくなるという指摘もあります。

そして、地球温暖化が後戻りできない状態になれば、時間と共に状況は悪化していきます。一部の人だけでなく全員に悪影響があります。そして、現代の人だけでなく未来の人たちにより大きな悪影響を及ぼします。

後戻りできない状態になる前に、早い段階から対策を打てば良いのです。

理屈としては誰にでもわかります。

しかし現実の社会は、本格的な対策を打つまでに長い年月がかかってしまいました。ここに現代社会の弱点があります。

この弱点には、理解と価値観の２つの側面があります。

この記事では社会の理解と価値観の弱点について説明すると共に、それを克服するために科学と倫理を拡張する必要がある、という考え方を提案します。また、その際に軸となるリファクタリングの原則やアーキテクチャ思考についても紹介します。

■理解の弱点

理解の弱点にフォーカスすると、現代社会は以下の構図になっています。

・政府、企業、個人は、科学的な理解に基づいて意思決定する。

・科学コミュニティが、科学的な理解を政府、企業、個人に提供する。

この構図の弱点は、科学的な理解にあります。

地球温暖化問題の早期対策の有利性、後戻りできない状態の存在、広範かつ恒久的な問題という性質を踏まえると、科学的な理解に必要になる時間が長すぎるのです。

では、科学的な理解を諦めればよいのかと言えば、そうではありません。科学的な理解に頼ることは、誤情報やデマや誤解に惑わされずに、事実に基づいて意思決定するための重要な知恵です。

このため、科学的な理解に基づいた意思決定という構図は変更せずに、弱点を克服する必要があります。

そのためには、問題の性質に応じて、意思決定における科学的な理解に拡張性を持たせる必要があります。

■ビルの火事の例

わかりやすく言えば、ビルの中で煙が充満してきたら、煙に気がついた人は逃げるべきだと言い、それを聞いた人は逃げる、ということです。

単に、煙が充満しているという事実を伝えても、背景知識がなければ、逃げるべきだという理解につながるとは限りません。かといって、火事になっていることを確認することに時間をかけていれば手遅れになります。

このため、逃げるべきだ、とはっきりと伝えることは理に適っています。

そして、逃げるべきだ、という理解を聞いた人は、本当に火事なのか、逃げ遅れた時に致命的な状態になる可能性はどれくらいなのかという確認をしていれば、逃げ遅れる可能性が増えるだけです。

逃げろと言った人の判断の根拠を聞いて、納得したらすぐに逃げるという意思決定が、理に適っています。

■クリティカルリスク管理指標（CRM）

１つの提案は、クリティカルリスク管理指標（CRM）という考え方です。

実際に起きている事実や確率だけでなく、問題や状況に合わせて対応すべきかどうかを示す指標は、別の概念です。クリティカルリスク管理指標は、後者のための指標です。

問題が複雑になればなるほど、指標の算出には専門家の知識と理解が不可欠になります。

例えば、煙が見えた時に火事が起きている可能性が10%で、火事の場合に逃げ遅れて致命的な結果になる可能性が10%だとします。その場合、致命的な結果になる確率は1%です。

しかし、逃げることによる致命的なリスクがない限り、CRM100%で逃げるべき、となるでしょう。

このCRM100%は「何もしなければ100%致命的な結果になる、という場合と同じように対応すべき」という意味です。

科学的に導き出した、最悪シナリオと最善シナリオにおける確率から、問題の性質に応じてCRMを算出する方法を科学コミュニティが確立しておけば、様々なクリティカルリスクに対して、科学的な理解としてCRMを示すことができます。

もちろん、CRMの算出方法はオープンで根拠のあるものにする必要があります。

■CRMの意義

CRMは迅速な意思決定を促すだけではありません。CRMは100%になる場合が多いため、その根拠となった科学的なデータや確率の算出の優先度を下げることができます。

また、先ほどの火事の例のようなシンプルな問題でなく、より複雑な問題にCRMの考え方を適用する場合、別のリスクとの競合や対策コストとの兼ね合いも考える必要が出てきます。

これは、CRMの弱点ではなく、CRM自体を提案すること自体が議論を活性化するという効果を持つということを意味します。

それは、社会の構造的な問題に対する抽象的な議論を超えて、社会の構造を改善するための具体的な取り組みとなります。

■ベストエフォートサイエンス

CRMの例は、科学的な理解というものを拡張しています。これは、既存の科学の方法を否定したり、柔軟な対応を求めるような変化を要請しているのではありません。

既存の科学の方法論はそのままにして、そこに社会の要請により適切に対応できる枠組みを追加することで、科学的な理解を拡張しています。

このような考え方を、私はベストエフォートサイエンスと呼んでいます。手に入る情報を基にして、合理性や客観性を犠牲にすることなく、役に立つ科学的な理解を社会にできるだけ提供することを目指す、という考え方です。

■価値観の弱点

価値観の弱点にフォーカスすると、現代社会は以下の構図になっています。

・政府、企業、個人は、倫理的な価値観に基づいて、必要性を判断する。

・倫理コミュニティが、倫理的な価値観を政府、企業、個人に提供する。

この構図の弱点は、倫理的な価値観にあります。

地球温暖化問題の早期対策の有利性、後戻りできない状態の存在、広範かつ恒久的な問題という性質を踏まえると、倫理的な価値観に基づいて判断するために必要になる時間が、長すぎるのです。

ここでも、倫理的な方法論の拡張の必要性が浮き彫りになります。

例えば、火事を察知したときに、ビルの中で非常に重要な会議をしていたとします。

その会議が誰かの命に緊急で関わるものでない場合は、逃げるか会議を続行するかを、迷う必要はないはずです。

火事で致命的な状態になる確率とその損失の期待値と、会議を中断した場合の損失を比較している間に、手遅れになる可能性があります。

会議のことは後で何とかするから逃げよう、という判断が合理的です。

■クリティカルバリュー

ここでも１つの提案ができます。クリティカルバリューという価値判断の方法です。

クリティカルバリューは、その価値が損なわれた場合、他の価値が全て無効になるような価値です。

例えば、お金は重要な価値です。しかし、命を失えばお金を使うことはできません。このため、命はその人のクリティカルバリューですが、お金はそうではありません。

大事なお金を失うくらいなら死んだ方がマシだ、という人もいるかもしれません。また、巨大な賞金がもらえるなら、命をかけたゲームにチャレンジしても構わないという人もいるでしょう。

このため、クリティカルバリューは、個人や状況に応じて変化します。

また、クリティカルバリューは１つとは限りません。多くの場合、複数のクリティカルバリューが存在します。その場合、クリティカルバリューを全て満たすように判断する必要があります。

■クリティカルバリューの意義

クリティカルバリューを特定することで、価値判断がシンプルで迅速になります。クリティカルバリュー以外の価値を判断基準に、持ち込む必要がないためです。

また、科学的な理解による確率が確定していない間でも、並行してクリティカルバリューの特定をすることは可能です。

もちろん、クリティカルバリューは論理的に決まるものでも客観的に決まるものでもありません。また、多数の人がいれば合意形成も必要です。

したがって、クリティカルバリューの特定は、反復的な検討やた段階的な合意形成を必要とします。

これはクリティカルバリューの弱点ではありません。こうした問題に対して、どのようにアプローチするのが合理的か、そのために社会の構造や仕組みがどうあるべきかという議論を促進します。

■主観的倫理

クリティカルバリューのような考え方は、主体や状況に応じて価値判断を的確に行うための枠組みを提供します。

このような枠組みを、主観的倫理と呼んでいます。

これは、倫理的な価値観の研究を否定するものでも、軽視するものではありません。倫理的な研究が社会の実際の価値判断に的確に活かせるように、方法論を拡張することを意図しています。

■リファクタリングの原則

社会を良くしたいと考えるとき、既存の社会の仕組みを考えから除外して、ゼロベースで考えるというアプローチを取ることがあります。

これは、思考過程では望ましいアプローチですが、社会実装において問題を抱えています。現実問題として大きな抵抗を乗り越える必要があります。そして、犠牲の大きさが倫理的な問題も起こすはずです。

また成熟した社会では、既存の社会の仕組みの中に、本物の知恵が詰まっていることが多くあります。それらの知恵の価値を全て勘案した上で、ゼロベースでより良い仕組みを考えることは、社会の成熟度にしたがって困難になっていきます。

そこで、成熟した社会では、社会実装においては現状の仕組みを上手く活かしたまま、問題点に絞った修正を行ったり、既存の仕組みに新しい仕組みを拡張するアプローチが理にかなっています。

これを、私はリファクタリングの原則と呼んでいます。ソフトウェアエンジニアリングにおけるリファクタリングの考え方を、社会の仕組みの改善に応用しているためです。

ベストエフォートサイエンスと主観的倫理は、まさにこのリファクタリングの原則に基づいています。伝統的な科学や倫理の方法論に異議を唱えるのではなく、それを活かしたまま拡張できる方法論を提案しているのです。

これにより、社会は継続して伝統的な方法論の知恵の価値を享受しつつ、その弱点を補うことができます。

■アーキテクチャ思考

社会の仕組みを維持したまま、不都合な部分を修正したり、拡張することは、高度に知的な作業となります。

的確な分析により社会システムの複雑さを乗り越えて、本質的な構造とその意味を把握する能力が試されます。

つまり、社会システムのアーキテクチャを分析して評価する能力が重要です。アーキテクチャに着目するやり方を、アーキテクチャ思考と呼びたいと思います。

アーキテクチャは対象の詳細ではなく、根幹にあたる部分です。そして、アーキテクチャが、その対象の具体的な個別の機能ではなく、性能を決定づけます。

性能には様々な種類があり、例えば社会システムのアーキテクチャの観点からは、正確性、納得度、即応性、柔軟性などが性能として考えられます。

伝統的な科学や倫理を重視する社会は、高い正確性と納得度を実現するアーキテクチャを持った社会と言えます。

そこに、対象の問題に応じてベストエフォートサイエンスや主観的倫理を適用できるようにアーキテクチャを拡張することで、より即応性と柔軟性に優れた社会システムを実現することができます。

■さいごに

こうした新しい提案は、伝統的な科学や倫理からの逸脱として抵抗を受ける懸念はあります。しかし、繰り返し強調しておきますが、ここでの提案は既存の科学や倫理の批判でも変革でもありません。既存の科学と倫理の実績と価値を生かしつつ、それだけでは対処が難しい領域をカバーするための拡張方法についての提案です。

この包括性は社会が新しい道に進むために重要です。地球温暖化の問題はこれからも議論と取り組みが継続します。そして、その他にもこうした考え方に基づいて対処する必要がある問題が出てくるはずです。