トロッコ問題について【読書ノート】サーキット・スイッチャー
今回、採り上げる本は
『サーキット・スイッチャー』安野 貴博 (著)
です。
◆本を手に取った切っ掛け
Audibleで聞き終えた
『松岡まどか、起業します ＡＩスタートアップ戦記』
が面白く、同じく安野さんが書いた同書を手に取りました。
「トロッコ問題」の現実の応用が、とても綺麗にストーリー上で展開されていることに興奮しました。
◆あらためて『トロッコ問題』を振り返る
トロッコ問題とは、このような問題です。
トロッコ問題とは、倫理学や哲学でよく取り上げられる思考実験の一つで、「どのように人が道徳的・倫理的な判断を下すのか」を問うものです。イギリスの哲学者フィリッパ・フットが1967年に提唱しました。その後、さまざまなバリエーションが加えられて、現代でも倫理やAIの議論などで取り上げられています。
---------------------------------------
基本的な状況
以下のような設定が典型的です：
①トロッコが暴走している
トロッコ（無人の鉄道車両）が暴走しており、何もしなければ進行方向にいる5人がひかれてしまう。
②分岐点にレバーがある
あなたはトロッコの進む方向を変えられるレバーを持っている。
③分岐した先に1人がいる
レバーを操作してトロッコを別の方向に切り替えた場合、別の線路にいる1人がひかれることになる。
----------------------------------------
あなたの選択肢
・何もしない：トロッコはそのまま進み、5人が犠牲になる。
・レバーを引く：トロッコを別の線路に切り替え、1人を犠牲にして5人を救う。
----------------------------------------
何が問題なのか？
トロッコ問題が注目される理由は、倫理的なジレンマに直面する点にあります。以下が主なポイントです：
1. 行動と責任の問題
レバーを引けば、1人を犠牲にするという「行為」を選択した責任を負うことになります。
しかし、何もしなければ、自分が関与しなかった結果として5人が犠牲になるかもしれません。この場合も「不作為」の責任が問われます。
2. 功利主義 vs. 義務論
功利主義（結果主義）の観点から見ると、「1人を犠牲にして5人を救う」ほうが、全体の幸福を最大化するという理屈で正しいとされます。
一方で、義務論（行為主義）では、「たとえ結果が良くても、意図的に1人を犠牲にする行為は倫理的に許されない」と考えられます。
3. 個別的な価値の問題
5人と1人が全く同じ状況だとは限らない場合、判断はさらに複雑になります。例えば、1人が身近な家族や有名な科学者で、5人が見知らぬ人だったらどうするか、という問題が出てきます。
4. 現実の応用
トロッコ問題は現実の倫理的課題にも応用されます。たとえば、医療現場での臓器移植の優先順位や、AI（自動運転車）が事故を回避する際の意思決定アルゴリズムなどです。
------------------------------------
まとめ
トロッコ問題は、「何が正しい行動なのか」を考える際に、人間の倫理観、価値観、行動の根底にある考え方を探るためのものです。問題の核心は、どのように正しい判断を下すか、そしてその判断の基準をどのように決定するかという点にあります。結論が一つに定まらないため、議論や思考を深める重要な題材となっています。
◆問題と観察者の関係性について
なぜAIがテーマとなる時、トロッコ問題が出てくるのか？
問題とは、何かと何かの間で起こった事象と観察者の関係の中で起こります。
「雷に打たれて人が亡くなった」とすれば、
自然と死と観察者の関係性の中で、観察者には自然を変える力がないと考えられます。
一方
「自動運転のアルゴリズムに起因して人が亡くなった」とすれば、
アルゴリズムと死と観察者の関係性の中で、観察者にはアルゴリズムに主体的に働きかけることが出来る余地を残し、これが、「不作為」を想起させます。
トロッコと、トロッコが進んだ先にある人の死、そして観察者の関係性の中で、観察者はトロッコに主体的に働きかけることが出来る位置にいることが問題の起点となっています。
この部分、興味深いので、少し掘り下げてみます。
◆問題における観察者の役割
そもそも問題は、「観察者」から発生します。
問題というものは、多くの場合、観察者の視点や認識によって定義されます。ある状況が「問題」として認識されるかどうかは、その観察者の価値観、経験、文化、目標によって異なります。
同じ出来事が、一人にとっては「解決すべき課題」、別の人にとっては「自然な出来事」と見える場合があります。
渋滞を例にすると、車を運転している人にとっては問題ですが、交通量調査をしている人にとっては「観察対象」に過ぎないものです。
問題と観察者の関係性は、「問題とは何か」「どう認識されるか」「どのように解決されるか」というプロセス全体に深く関与しています。
この関係性を理解することで、問題解決において次のことが可能になります。
・問題の本質を正確に把握する。
・視点を変えることで新たな解決策を発見する。
・複数の観察者の視点を統合することで、バイアスを軽減する。
問題と観察者の関係性は単純ではありませんが、それを意識することが問題解決の質を大きく向上させるカギとなります。
そして、本書の中では、複数の観察者の視点を統合することで、バイアスを軽減する、という選択肢が上がりました。
しかしながら、個人的には、これも、問題の本質的な解決にはつながらないと考えます。
◆問題は、過去の経験となった時に解決する
そもそも、問題は、問題が発生した時点で解決をすることが困難です。
トロッコに轢かれて人が死んだとして、トロッコに乗車していた人を責めても、死んだ人は帰ってきません。
過去の事実を書き換えることは出来ません。
トロッコに人が轢かれることがない状態が実現したい未来だとすれば、その状態をいつまでに、どのように作るのか？
視点を、問題が解決されている未来に移し、未来から見た時に、問題が解決されている状態がどのような状態なのかを設定し、未来の時点から逆算して対応することが求められます。
問題は、未来の時間とセットで捉えないと解決できません。
◆どのような未来を実現したいのか？
「どのような未来を実現したいのか？」
この部分のコンセンサスを採らないと、複数の観察者の視点を統合することはできません。
しかしながら、「未来の利益」のコンセンサスを採ることが、非常に難しい。
人は「未来の利益」のために、「現在の損失」を被ることを嫌うからです。
営利組織の場合は、役割＝責任となっておりますので、組織のトップは、自らの責任における権限を行使することで、「決める」ことができます。
しかし、民主主義の中では、「未来の利益」のために、「現在の損失」を被ることを決めることが難しい。
「どのような未来を実現したいのか？」
のコンセンサスを形成するのは、やはり政治の役割なのかと思うと、安野さんが都知事選に立候補した理由も、これなのかなぁと、何となく考えてしまった次第です。
そして、AIは、
「どのような未来を実現したいのか？」
を描き、そのコンセンサスがとれた、その先に社会実装されるべきものなのでしょう。
いいなと思ったら応援しよう！
