AIは電気羊の夢を見るか：愛について③

　「愛について」シリーズの最後です。１番目の記事で「愛は得た時に失われる」と持論を述べておきながら、２番目の記事で「そんな非論理的な！」と片足を科学論に突っ込みました。今回は、両記事の立場を戦わせながら愛について考察してみます。（小野堅太郎）

　論理は冷徹です。有名なトロッコ問題というのがあります。暴走したトロッコがこのままでは2人の人を轢き殺しそうな場面に出くわしました。自分だけが線路を切り替えて2人を助けることができますが、切り替えると別の1人が轢き殺されます。さて、あなたはどうしますか？となるわけです。小野はためらいなく線路を切り替えるのですが（よくサイコパスと言われます）、もし、切り替えた先の1人が愛する家族であれば線路を切り替えません。
　自動運転の車が抱える問題はここにあり、AIであれば論理的に2人を助けて1人を殺します。この場合、運転していないが乗車していた人の責任はどうなるか？となるわけです。小野は乗車していた人に責任はないと考えるのですが、轢き殺される1人がもしも愛する家族であったら死にたくなるでしょう。つまり、論理的に考えれば明らかなことであっても、「愛」は論理を覆してしまうわけです。

　人間社会では、集団が大きくなって国としての安全を確保するために「法」を作って人々を統制しました。これは、論理をたびたび超えてしまう人間をなんとか安定した集団として維持していくために必要なことです。その成果もあって、人間は世界中に散らばり、それぞれの国を形成したわけです。
　力を持った国は他国との戦争にて富もしくは安全を得て、行き過ぎた戦争を止めるために和平したり、軍事協定したり、核廃絶を訴えたりしてきたわけです。今や戦争は非経済的とみなされ、国家間の安全性が確保されてくると、国民一人一人の人権が重要視され、多様性を認めるよう異社会の融合・共存が模索されている、というのが現在なのかと思います。時の変化は新しい正義を生み出して各時代の倫理を変容させ、愛を主体とする感「情」論を可能な限り排除した「法」を作り替えてきたわけです。
　法を犯した時は裁判にて裁かれるわけですが、ここにきて世界各国、「情」が出てくるわけです。どんなに論理を尽くしても、法治国家という誇りを持っていたとしても、「情状酌量」という非論理的判断がなければ逆に人々の理解を得られないわけです（大岡裁き）。だから、裁判は論理回路で形成されるAIでは解決しないと思われます。

　トロッコ問題に悩まないのがAIでしょうが、もし知性を持ったAIが誕生したとしたらトロッコ問題に悩むでしょう。ちょっと待ってください。それって人間と同じですよね。その知性AIが「愛」を知ったとしたら・・・。子供に対して広い愛を感じてしまうAIだとしたら、線路を切り替えて轢き殺される一人が子供で、切り替えないで轢き殺される2人が老人だったら・・・。愛でなくても、線路を切り替えて轢き殺される一人が自分を管理するプログラマーで、切り替えないで轢き殺される2人がAI反対活動家だったら・・・。結局、人間と同じ非論理的判断をすることになり、そんなAIは人間社会に必要ないということになります（めんどくさい仮想人間が増えるだけ）。
　人間より圧倒的に優れた特殊能力を持つAIが必要なわけですから、経済的な面から考えても「人間と同じく愛を理解するAI」が生まれることに、私は否定的な考えを持っています。逆に、「人間が愛を感じるAI」は販売されるでしょう。ここら辺は、ショートショート小説の大家、星新一氏の「ぼっこちゃん」や映画「her／世界でひとつの彼女]をお勧めします。

ボッコちゃん（新潮文庫）

her／世界でひとつの彼女(字幕版)

　感情、特に愛という非論理的なものは論理を打ち負かし、むしろ感情を真理とした論理展開が行われているのが現在の社会です（いずれ「論理性の非論理性」についての考察も記事にします）。一方で、TVやTwitterなどでは論理原理主義の人たちが感情原理主義の人たちと戦っている様を目にします。学術学会は研究者の集まりなので、感情は置いといて、論理性の高い議論を展開します（学会後は、非論理的話題で盛り上がる飲み会が開催）。TVやSNSの世界は逆に感情が真理となります。論理を展開する研究者の方たちのツイートを見ていると、学術と社会の断裂を感じえません。

　創作物のほとんどは、愛にまつわる感情の話が必ず挿入されます。比較的最近見た映画の中では「ジョーカー」という映画からは「完全なる愛の欠如」を感じました（先に上げた「her」ではラブレター代筆業のおっさん主人公を演じたホアキン・フェニックスが怪演しています）。映画のラストでは、社会もしくは人格の終焉、どちらかを匂わせる終わり方をしています。映像的なカッコよさやアナーキーなストーリーが注目されましたが、「愛」を持てなかった者の孤独を描き切った作品だと思います。

ジョーカー(字幕版)

　というわけで、論理性が愛という非論理的存在を排除することは望めません。大衆心理においては論理性よりも感情を柱とした論理構築が行われています。だから、世の中は矛盾に溢れているんです。そして自分自身の中にも、愛のせいで矛盾に満ちた行動を見て取ることができます。かつての記事「科学の源泉と未知の恐怖：魔女伝承から学ぶ」にも書きましたが、社会不安の状況ではむしろ論理性は脅威として受け取られます。研究をしていると、実験結果が倫理面にぶち当たることが時々あります。フランケンシュタイン博士にならないよう日々悩んでいます。

　しかし・・・、私が愛について書くなどとは思ってもいませんでした。本当は、自由意志について吉野先生と話していた中で「愛」について発展していったことがこの記事を書く発端でした。自由意志については、いずれ記事にするつもりです。とにかくTwitterからは人生について考えるきっかけまでもらっており、note記事はその考えを吐露する場と化しています。本シリーズ、最後までお付き合いありがとうございました。