結果の倫理と過程の倫理

この記事では、全体と部分の性質についての一般則について、物質だけでなく行為にも当てはまることを掘り下げていきます。このアプローチから、行為の結果の倫理と過程の倫理について考察します。

■全体と部分の性質

例えば、生物や知能のような複雑な仕組みのことを考えていると、部分の性質の合計は全体の性質とは異なるということを思い知らされます。

単純な仕組みであってもこの事は理解できます。

例えば、２つの歯車があっても、それが離れて置かれているか、噛み合うように置かれているかで、全体の性質は異なります。

プラスチックストローも、２つに切ったり、縦に割いたりすると、役に立たなくなります。

物質としては２つの歯車や薄い面状のプラスチックですが、その配置やつなぎ合わせ方によって、全体としての新しい性質が獲得されることがあります。

■行為における全体と部分

同じことが、行為においても言えます。

行為の全体の性質は、行為の部分の性質とは異なります。部分的な行為の組み合わせによって、全体の行為に新しい性質が現れることがあります。

行為の全体と部分には、２つの分解軸があります。１つは並列軸です。多くの人が互いに別々に行う行為は、並列的な行為です。その全体が、組み合わせ方によって個々の行為とは異なる性質を持つことがあります。

例えば、車で旅行するという行為を多数の人が行った時、全体として消費されるガソリンの量や排出される二酸化炭素の量は、いつ、旅行するかによって変化することはあまりないでしょう。

一方で、同時に多くの人が同じ道路を使って車で移動すると、渋滞が発生します。渋滞という現象は、車での旅行という並列の行為が、同時に同じ場所で行われるか、バラバラのタイミングで行われるかによって、発生したりしなかったりします。

行為の分解軸の２つ目の軸は、直列軸です。ある行為と次の行為の時間的な並びです。

陸上競技の走り高跳びを考えてみると、走る行為と高跳びという行為の組み合わせになっています。走ることと高跳びをバラバラに行うと、あまり高いハードルを越えることができません。

走るという行為によって得られた運動エネルギーを利用して、高跳びという行為を行うことで、より高いハードルを越えることができます。走ることと高跳びという２つの行為の直列的な組み合わせ方により、飛べる高さが変わるわけです。

■結果の倫理と過程の倫理

行為は何らかの結果を生み出します。その結果は、価値を生み出したり維持したりすることもあれば、何か害悪をもたらすこともあります。また、結果は多面的であり、見方によって価値があり、別の見方からは害悪に見えることもあるでしょう。さらに、一つの行為は複数の物事に影響し、それぞれの物事に対する別々の結果を生み出すこともあります。

行為の評価は、この結果の全体像を見渡して決まりますが、それだけではありません。倫理的な側面からは、結果の良し悪しだけでなく、その行為の過程の倫理性にも着目することが一般的です。結果としてとても価値のある良い結果が生じたとしても、その行為の過程において、倫理的な違反を行っていた場合、行為の全体の評価は下がる事になります。

これは結果に基づく倫理と、義務としての倫理があるという事です。義務としての倫理は、たとえ行為の結果に何も倫理的な問題が無いとして、義務として課せられたことを守っていなければ非道徳的だと判断します。

この事は、一見すると不合理に思えるかもしれません。行為の過程において倫理違反があったとしても、結果としてその悪影響が出なければ問題はないという考え方にも一理あります。行為の過程における倫理は、その一回の行為だけに焦点を当てると、確かにその通りではあります。

しかし、その人の他の行為や、他の人の行為においても、同じ倫理違反がなされた場合にどうなるかという観点で考える必要があります。これはドイツの有名な哲学者カントが、定言命法と呼んだ考え方です。ある行為を行う際に、その行為が妥当であるかどうかは、他の人が皆同じことを行ったとして問題が無いかどうかという基準で考えるべきだ、というものです。

■過程の集合と組合せとしての結果

行為の過程の倫理は、この観点で捉えることが重要です。行為がある特定の過程を経た場合、ある行為は価値を生み出し、別の行為は害悪となる事があるとします。その過程を経た行為が多数行われた際に、その全体の結果の合計がどうなるのかという視点です。

全体を見た時に、価値と害悪のどちらの総量が大きいかという問題として、捉える必要があるという事です。それは過去に多くの実績情報があればそれに基づいて、あるいは未来における影響を予測して評価することになります。いずれにしても、その結果として、害悪の方が極端に大きいと評価されれば、その行為の過程は倫理的に問題があると判断することができるでしょう。

さらに、これを考える場合には、行為の並列性や直列性の視点も必要です。単独の行為の結果の平均値を合計しても、全体の性質を正しく反映できていない可能性が高いという事です。行為の結果は、価値がある場合でも害悪がある場合でも、特定の組み合わせ方、同時性や位置の集中、それぞれの行為が次の行為へ及ぼす影響などを加味すると、結果の単純な合計とは全く異なる性質を帯びる場合があります。

それは渋滞のように増幅的であったり、走り高跳びのように強化的であったり、歯車やストローのように全く新しい性質であったりします。

■複雑なシステムとしての倫理

行為の過程が集合し、並列性や直列性を持って組み合わさって、全体の結果が決まるという事は、非常に複雑な理解を必要とします。

行為の結果の倫理は、直接的で分かりやすいものの、結果が出るまで評価が出来ないことと、害悪の抑止という意味では効果が薄いことが弱点です。

行為の過程の倫理は、その結果が必ずしも害悪になると限らないため、一見不条理に感じられるかもしれません。しかし、害悪の抑止という観点からは、行為の過程の倫理を使って結果の害悪を押さえるというアプローチに頼らざるを得ません。

大きな害悪がもたらされた結果について多数の事例を見て、その原因となった行為の過程を分析して、どの過程を禁じれば同じ害悪を抑止できるかを判断して、それを行為の過程の倫理に組み込むという作業を行う必要があります。あるいは、可能であれば、大きな害悪がもたらされた結果について少数の事例を見て、そこから将来繰り返されるであろうことを推定しつつ、同様に行為の過程の倫理を組み上げて行くという事も重要です。

さらには、まだ発生していないけれども予見することのできる大きな害悪に対しては、推定のみに頼りながら、過程の倫理に加えるべき禁止事項を導出していくことも必要です。非常に被害が大きく、発生してしまうと取り返しがつかないほどの害悪に対しては、真剣に取り組まなければならないでしょう。

■行為の過程の倫理におけるジレンマ

これらの分析や推定には、単に行為の集合だけの視点ではなく、並列性と直列性の組合せの視点も必要です。組合せの視点での分析や推定は非常に難易度が高く、特に未だに一度も発生していないという害悪に対しては、困難なものとなります。

この複雑性は、行為の過程の倫理に対する印象をより不可解なものにします。そこまでの事を禁止しなければならないのかという感覚が、多くの人に生まれるでしょう。この印象は、複雑さをどこまで理解しているかということにも大きく影響します。

複雑なシステムに対する人間の理解には限界があり、それらの限界には、大きな個人差があります。病気になった知人に電話を掛ける事と、大きな災害に見舞われた地域に住む知人に電話を掛ける事には、その意味に大きな違いがあるという事を直感できる人と、そうでない人がいるでしょう。

災害に見舞われた地域では、災害救助や救援要請、必要な物資や被害情報などの連絡のために電話などの通信が重要になります。しかし、電話回線で同時に通話できる数には一定の限度がありますので、そうした活動と直結しない安否確認のために、多数の人がその地域の知人に電話をかけてしまうと、必要な電話連絡が阻害されてしまう可能性が出てきます。

これは普段使っている電話という道具の上側にあるシステムについて理解していたり、想像力が働けば理解できることですが、必ずしも全ての人が普段からそのようなことを意識しているわけでも、知識を持っているわけでもありません。また、こうした複雑さを持つ仕組みに慣れていない人は、このような説明をしても、すぐに納得することは難しいかもしれません。

複雑なシステムとしての、行為の過程の倫理は、ここに非常に大きなジレンマを抱えることになります。例えばギャンブルや薬物が法律で禁止されている国や地域は少なくないと思いますが、人に迷惑をかけているかどうかに関わらず、なぜ禁止されているのかを説明できる人は、少ないのではないでしょうか。

■高リスク技術開発の是非

バイオテクノロジにおける遺伝子編集技術や、人工知能技術における汎用人工知能の開発などは、その技術が高度化し、より安価にだれでも利用できるようになるにつれて、社会に大きなメリットを与える一方で、取り返しのつかない悲劇を起こす可能性も懸念されています。

技術自体には善も悪もなく、それを使う人間の問題だという人もいますが、行為の過程の倫理の観点では、そう言い切る事は難しいことが分かります。技術が開発されて、それが安価で誰でも利用できるようになり、十分な悪用や暴走の予防や対策の仕組みが確立していなければ、大きな悲劇が起こり得ます。

そうしたことが予見される中で、最終的な結果に直接的には関与していないという理由で、開発や普及をさせることに倫理的な問題が無いとは言えないでしょう。従って、行為の過程として、こうした大きなリスクを伴う技術開発や技術の公開には、倫理的な義務が伴う事になります。

■AI倫理やAI規制の困難性

また、特にAI倫理やAI規制の観点では、人間が最終的な決定権を持つことの必要性や、AIの自律動作や自己改変についての禁則事項などが必要と考えられます。ただし、それだけでは不十分です。これらの仕組みが結果としてできる事と、その仕組みが成立する過程は、１対１の単純なものではないためです。

例えば複数人で意思決定を行って承認を行う仕組みがあるとします。一部の人が承認を効率化するために条件に合致するかどうかを判断して合致すれば承認するという仕組みをAIとして組み入れてしまったらどうでしょうか。全体の最終的な決定には、他の承認者も関与するため、この人の行為は直接的にはAI倫理の違反には相当しません。

しかし、これを複数の承認者全員が行った場合、AI倫理の違反になってしまいます。まさに、全体の性質は、部分の性質の合計ではないという事例です。一人一人の行為はAI倫理違反にならないにもかかわらず、全員が同じことをしてしまうとAI倫理違反となってしまうわけです。

■AIがAIを開発する仕組み

もう１つの例を挙げます。AIの研究開発を、細かいプロセスに分けて実施するとしましょう。研究開発のアイデアを考えるプロセス、アイデアの実現性を考えるプロセス、実現性を検証するためにAIアルゴリズムやシステムに加える可変を設計するプロセス、設計されたものをプログラムとして実装するプロセス、実装されたものを動作させるプロセス、等です。

これらのプロセスを、クラウドソーシングサービスを使って、各分野のフリーランスのエキスパートに仕事として依頼して、得られたアウトプットを次のプロセスのエキスパートに渡す、という仕組みをプログラムで自動化したとします。この場合、AIの研究開発は、各々のエキスパートが連携して実施することになりますので、人間がAIの研究開発を行っていることになります。

しかし、このプロセスの一部を請け負った人が、AIを使ってその仕事をこなしたらどうでしょうか。例えば研究開発のアイデアを考える事は、そのアイデアの良し悪しはともかく、現在の会話型AIにも依頼して回答を得ることはできます。依頼の仕方を変化させたり、新しい研究論文などを自動的に取得してアイデアの種として与えれば、それこそ無数のアイデアを出してくれるでしょう。

アイデアの実現性を考える事も、現在の会話型のAIに依頼することで、回答を得ることはできます。多数のアイデアを与えれば、その中から有望と思われるものや、効果は分からないけれども新規性があるものを選別することもできるでしょう。

そして、実現性や新規性があるとされたアイデアを検証するための設計を行う事や、その設計を元にプログラムを実装し、それを動作させて検証することも、現在の会話型AIの機能で完全にこなすことは難しいかもしれませんが、全く不可能なわけではありません。

プロセスをより細かく細分化したり、試行錯誤するような工夫をさせれば、ある程度自動的に対応することもできる見込みはあります。もちろん、現在の会話型AIよりも高度なAIが登場すれば、個々のプロセスを人間と同様に実施することができるようになるでしょう。

■行為の過程としてのAI倫理違反

AI研究開発を複数人に作業分割し、一部の作業をAIに実施させることは、AI倫理に直接違反しているわけではありません。そして、誰かが明示的に指示をして全体をAIによる作業に置き換えるとすれば、その指示をした人や組織がAI倫理違反をしたことになります。

しかし、クラウドソーシングを使って個々のプロセスを人間に依頼した場合、いつの間にか全てのプロセスがAIによって担われているということもあり得ます。そうなれば、誰も直接的にはAI倫理違反をしていないにも関わらず、いつの間にかAIがAIを研究開発するという仕組みが出来上がってしまいます。

このことを突き詰めて考えていくと、初めから誰もAIに自分の仕事を委譲してはいけないことになります。あるいは、誰かの職責を外してAIに置き換えるということすらも、過程としてのAI倫理に違反していることになります。あるいはAIの研究開発工程を自動化する仕組みを作ったことが過程としてのAI倫理に違反していたのかもしれません。

■さいごに

全体と部分の性質の特性を、物体にだけでなく行為にも適用して考える事で、結果の倫理だけでなく過程の倫理という考え方が重要になる事を浮き彫りにすることができました。

これは集団的無責任という問題に対する、ひとつのアプローチでもあります。一人一人の行為自体が直接的には害悪とならなくても、その行為が集積したり、特定の組合せになる事で、全体の結果が個々の行為の結果の合計を大きく越えた性質を持ったり、全く異なる性質を持つことがあります。

その全体の結果について誰も考慮しない状態が集団的無責任です。もともと全体の責任者が組織的に決まっている集団では、その組織のトップが責任者ですが、そのような事前に組織体系化されていない集団的な行為には責任者がいないため、個々人が全体を意識することが重要になりますが、複雑な仕組みの理解は人間には限界が有ることと、自分の行為だけで全体の結果が決まらないため、容易に集団的無責任の状況へと陥りやすくなります。

このため、予め過程の倫理という枠組みを作って、個々の行為への倫理的な義務を課すことが、集団的無責任が生じるケースへの対策となります。

ただし、繰り返しになりますが複雑な仕組みに対する人間の理解の限界や個人差の大きさにより、過程の倫理はその正当性や実効性には常に懐疑の目が向けられることになります。

このジレンマを乗り越えるためには、複雑な仕組みを理解するためのシステム思考能力を社会全体で高めることや、高度に複雑なシステムについて本質を捉える能力を持つ人たちが深く個々の問題についての倫理的な分析を行うことが重要になります。そして、その過程の倫理の基準が必要になる理由を分かりやすく表現したり、基準を決めた過程そのものの正当性を担保するためにオープンで透明性の高い形で議論していくことが必要です。