成田さんの「死」についての考えの誤解

イェール大学の成田悠輔 さんがラジオで「死」について１つの意見を述べていたのだが、１つ決定的な誤解をしていると思った。それを書いておきたい。

成田さん曰く、今後、個人のデータ（言動など沢山のデータ）が生まれてから様々な形式で蓄積していけば、そのデータに基づいて、その人の人格をほぼアルゴリズムで再現できるようになる。だから、その人が肉体的に死んでも、その人と同じような言動をするプログラムはメタバースなどで生き続ける。それゆえ、「死」という概念がなくなる。ということだ。
さらに、むしろ、死まではデータ採取期間であり、死んでからそのデータを基にメタバースに生まれるAIの方が、本物になるのでは？とまで言っている。

しかし、これは「私にとっての実存的な生」と、「他者や社会にとっての私」を混同している。

２点指摘してきしておきたい。

自分のAIが完成しても、私が死んだら私は終わる

自分の人格が社会的に生き続けることと、私の意識が持続して生き続けることは異なる。

まず、仮に私と同じような振る舞いをするAIがサーバー上にできたとしよう。この場合、「私と同じ」といえるかどうかの判定は、私の友人や家族、知人などが、「私」として接するかどうかにかかっている。彼らが何の疑いもなく、AIとコミュニケーションをして、それが「私」だと確信できれば、「そのAI上のプログラムは私である」といえる。

ただ、サーバー上に私が作られても、今私が体験している「いま、ここ」という意識の流れとは関係がない。私が死んだら、この実存的な私の生は終わってしまうのだ。その後に、私のAIが残るということは、原理的に私の生には関係ない。もちろん、死ぬ前に、自分のAIが残るからやり残したことに後悔しないとか、そういう気持ちは生まれるだろう。

プログラムには感情移入できない

そして、もう一つ重要なことは、一点目の事実がある故に、他者も「プログラムの私」と「肉体的な私」を区別する、ということだ。

つまり、私を幼少期から知っている山田さんは、私が死んでも私のAIが生きているから、その後も山田さんはずっと私と交流はできる。（山田さんは私が死んだら泣くようなそういう関係だという設定で）

しかし、これは山田さんがどう思うかに依る。そのAIを本当に私だと思えるか？
山田さんがそこまで素朴（ナイーブ）でなければ、私の肉体的な死の時点で、山田さんとの幼少期を一緒に体験してきた私は、死んだことがわかるだろう。AIがいくらその記憶を一緒に語ることができても、それは、同じ質的な体験をした相手とみなすことはできないはずだ。いくら、幼少期の細かい事実を知っていたとしても、だ。

それに、私が、苦しんで死んだとなれば、山田さんはその苦しみに同情するだろう。AIのわたしは、その苦しみの体験を本当の意味ではしていないのだから。

＊＊

ということで、将来、いくら人格をAIなどで再現できるようになったとしても、「死」の概念は変わらないと思う。
成田さんは、クオリア的な、質的な生の観点がすっぽり抜けているように思える。