不確実性トロッコ問題

忘れた頃に議論が巻き起こっては盛り上がる「トロッコ問題」。なかなか意地悪な倫理的ジレンマを突きつける有名な思考実験で、今なおずっと存在感を放ってることからしても、なかなかの名設定なのだと言えましょう。

江草も時々ネタにしています。

して、今回はまたふと「トロッコ問題」の変形版を思いついたので、それをご紹介してみようかなと。

まず、念のため通常の「トロッコ問題」のおさらい。

暴走しているトロッコがあってそのまま行くと線路の先に居る５人が命を落とす。ちょうど分岐レバーのところにいたあなたがレバーを引けばその５人は命が助かるけれど、その代わり分岐線の先にいる１人の命が失われる。この時、あなたはレバーを引くだろうか。

これがオーソドックスな設定ですよね。「5人の命」と「1人の命」。数値的にドライに両者の重みを比較すれば（すなわち功利主義的に考えれば）レバーを引いて「1人の命」を犠牲に「5人の命」を救うのが正しいようですけれど、自らの意思で直接的に一人の無実の人間を死に至らしめる判断をするのは実際には心情的にはつらいものがあって、なかなかどうして私たちはレバーを引くのをためらうのですね。

このジレンマがありありと立ち現れるのがこの「トロッコ問題」の秀逸さなのでした。

で、今回江草が思いついたのは、この設定に不確実性を加えてみることです。

つまり、同じくトロッコが暴走しているのですけれど、「このまま行くと5人の命が失われるかもしれない」という曖昧な設定にしてしまうのです。

暴走トロッコが向かうレールの先に5人の人間の存在がはっきりと確認できている（あるいは知っている）わけではなく、たとえば「なんかさっきこのレールの先に5人作業してる人たちがいるって話を聞いたような……」ぐらいのぼんやりした感じのシチュエーションです。

本当に暴走トロッコの行く先に5人いたらその人達の命はない。けれど、もしかしたらいないかもしれない。でもやっぱりいるかもしれない。しかし、それを確認するすべはない。

ここでポイントなのは、レバーを引いた方向転換先には確実に1人の人間がいる点は通常版から変更なしであることです。もはや目の前にはっきり分岐先の１人は見えてると考えていいでしょう。

レバーを自分が引かないと「5人の人間が死ぬかもしれない、、、、、、」。しかし、レバーを引いたら「1人の人間が確実に死ぬ」。

さてどうしますか。

ここで、仮に暴走トロッコの向かう先に5人の人間が実際に存在している確率を50%としたならば、期待値は2.5人ですから、「2.5人vs1人」の比較となって、それでもレバーを引いた方が功利主義的には妥当ということになります。

あるいは、ここでたとえば確率を20%と見積もったら、期待値は1人になって、レバーを引くかどうかが同等の膠着状態になることになります。

そして、確率が20%未満なら、期待値が1人を下回るので、レバーを引かない方が功利主義的にも支持されることになります。

すなわち、曖昧な状況であるがゆえに、どれぐらいの確率で「5人の人間が線路上に存在しているか」が重要なキーポイントになるわけですが、この「確率」の値も今回の「不確実性トロッコ問題」は曖昧にしておくという意地悪設定なんですね。

だって、たとえばさっき例に挙げたような「５人作業中って小耳に挟んだ気がする」みたいなレベルの情報って、実際のところ具体的な客観的確率に落とし込めないじゃないですか。統計を取れるような話じゃないのですから、正確な確率なんてないのです。「いるかもしれないしいないかもしれない」という、正確な確率さえ不明な曖昧模糊な不確実性に向き合うしかありません。

ここで、「多分実際に居る確率は10%ぐらいだろ（きっといないだろう）」と考えた場合も、それはあくまで主観的確率なんですね。自分としてはこれぐらいの確率だろうと推測したという意味での数値に過ぎません。真の確率は不明なので、自分の経験や勘や信念などから編み出した「確率」なわけです。

この「主観的な確率の見積もり」という行為が、今回の「不確実性トロッコ問題」のキモになるところです。

人がこうした「いるかもしれないし、いないかもしれない」という不確実な設定のまま判断を迫られる状況に置かれたら、この主観的確率を自分に都合良く見積もりたくなるという誘惑が発生するのではないかと。そこを炙り出すのが今回の設定の狙いなんです。

つまり、通常版の「トロッコ問題」で示されてるように、「５人vs１人」という設定でも私たちは自分の意思で１人を犠牲にするのをためらうのでした。ならば、今回の変形版「不確実性トロッコ問題」における「５人いるかもしれないvs１人」という設定になった場合、「きっと５人はいないだろう（主観的存在確率20%未満）」と偏って楽観的なシナリオを私たちはつい抱きたくなるのではないかということです。

もし「５人はきっと居るだろう（主観的存在確率20%以上）」と判断してしまうと、それこそ通常版「トロッコ問題」の倫理的ジレンマに陥るのが目に見えていますから。

また、仮に「きっと５人はいないだろう」と主観的に判断した場合に、もし実際には居て不運にも５人が亡くなってしまったとしても、「居るとは知らなかったんだ」と自己正当化する道が残されています。

逆に「きっと５人はいるはずだ」と主観的に判断し、そしてレバーを引いた場合、もし実際には５人はいなかったとしたら、結果的には１人の人間がただ死んでしまうことになります。この時にたとえ「多分５人が居ると思ったんだ……」と言い訳したとしても、自他からかなり責められる苦しい状況になることは想像に難くありません。

すると、「きっと５人はいないだろう」と判断しレバーを引かないのが、基本的にはとても無難ということになります。要するに「何も知らない、何もしない」という態度を取ると。「きっとさっき聞いた話は聞き間違いに違いない」なんて思ったりして。そう考えれば心穏やかに過ごせます。

でも、これはつまり暴走トロッコを私たちはそのまま何もせず次々に通過させられるということでもあります。不確実性が存在するがゆえに、いつまでもどこまでも「きっと大丈夫だろ」と思い続けることができてしまう。

ここで、たとえ自分には見えない暴走トロッコの行く先でたくさんの人がひき殺されていたとしても、「だって自分は（確実には）知らなかったんだよ」と言えてしまう。なんなら「下手なことをして目の前の１人の人間を故意に殺すような恐ろしいことをしなかった自分は、目の前の罪のない１人の人間を救ったんだ」と自負心を抱くこともできるでしょう。

しかし、そうやって自己正当化してる間、知らないうちに本当は大量の人が死んでるかもしれない。それをただ自分は見過ごしてるだけかもしれない。その結果をひとたび確認すると、逆に「不確実性」を自分の都合良く楽観的に見積もっていたことが判明してしまうかもしれないから、結果の確認もあえてしないでおく。

こうなると、誰も暴走トロッコを止めず、楽観的自己正当化の砦の中に引きこもって、その結果も積極的に確認しようとしないままに、トロッコの被害者が続々と生み出され続けるというグロテスクな状況が生み出されうることになります。

自分の都合良く解釈しえる「不確実性」という要素。「１人の人間の命を守る」などの明確な「正当化理由」。この両者が揃うと人は楽観的に無為を選ぶようになる。この点を炙り出すのがこの「不確実性トロッコ問題」の狙いなんですね。

で、実際の世の中でも、だいたいのことは正確な確率計算も怪しい「不確実」なものごとばかりですし、どういう判断だって何かしらの「正当化理由」は見つかるものです。

だから「とりあえず自ら下手なことをしない方が無難」「何だか世の中に大問題があるっぽいけどきっとどうにかなるでしょ」という態度が非常に取りやすくなってるわけですね。

この「不確実性トロッコ問題」はそうした態度に対して、「本当にそれでいいのか」「ただ都合良く楽観的に見てるだけなのでは」という問いを突きつけるものなんですね。勝手にリスク数値を自分が心地良いように見積もっているだけなのではと。

もっとも、ここでややこしいのが、だからといって何でも変えればいい、何でも行動さえすればいいというわけではないことです。そこが「不確実性」の怖いところで、実際に下手に手を出したことが逆効果になることもありえるわけです。ときに悲観的になり過ぎて変なことをしでかすのも人間です。

ここがやはりさすがの「トロッコ問題」と言いますか、どこまでもジレンマがつきまとってくるのですね。

ともかくも、実際に行動を変えるかどうかはさておき、私たちがついつい自分の都合良く状況を解釈しそうという点は、改めて見つめ直してみてもいいのかなと思い、今回の変形版「トロッコ問題」を紹介してみました。

しかし、自分で設定を考えておいてなんですが、ほんと困った問題ですよね。かくいう江草自身、レバーを引けそうにありませんから。