思考実験：死後強まるパラドックス
私が好きな思考実験の話の1つに、「5億年ボタン」というものがある。
押すと100万円が貰えるが、何も無い空間に飛ばされて5億年過ごさなければならなくなる、というボタンを手渡され、押すかどうか選択を迫られるというものだ。
具体的には、ボタンを押すと何も無い空間で5億年間生活することを強制される。寝ることはできず、空腹にもならず、ずっと元気に覚醒したまま過ごさなくてはいけなくなる。5億年経つと5億年分の記憶は消去されてボタンを押した時の状態に戻され、100万円が貰える。
つまり、はたから見るとボタンを押すだけで100万円が貰えるように見え、主観的には5億年という途方もなく膨大な時間を孤独に過ごすことになる、というものである。
特に恐ろしいのは、5億年経過して戻ってきた後は5億年分の記憶がなく100万円だけが貰えるので、ボタンを押すだけで楽して大金が得られるように錯覚してしまい、その後ボタンを連打してしまうという点だ。結果として5億年ループを幾度となく繰り返す無間地獄に陥ってしまうというオチがついている。
この5億年ボタンに着想を得た、オリジナル思考実験を考えた。
題して「死後強まるパラドックス」である。
この思考実験では、「5億年ボタン」ならぬ「押すとIQが1%上がるボタン」が渡される。
このボタンは、押すとその場ですぐにIQが1%上がるというものだ。IQが100の人なら101に、200の人なら202になる。
もしIQという指標が曖昧で受け付けないなら、偏差値などの頭の良さを表す他の任意の指標に置き換えてもらってもいいし、漠然と賢さが1%上がると捉えてもらっても構わない。ここでは頭の良さとは何かということに細かく立ち入らず、各々がボタンを押す立場になって都合の良い解釈をしてもらって大丈夫である。
苦労して勉強することなくボタンを押すだけで頭が良くなるならこんなに楽なことはない。しかし、このボタンを押してしまっても大丈夫だろうか？
実はこのボタンには罠がある。
このボタンは押されるとまず、押した人のコピーを作り、そのコピーのIQを1%上げるように変更を加える。次にオリジナルの人を消去し、最後にコピーをオリジナルのいた場所に置く。これが瞬時に行われるようになっている。
つまり、もしあなたがこのボタンを押してしまうと、ボタンを押す前後であなたは他人から見ると同一人物に見えるものの、主観的には別人に入れ替わっている。IQが上がったのはコピーであり、オリジナルのあなたは端的に言って死んでしまっているのだ。
この条件で、あなたはこのボタンを押すだろうか？少し考えてみてほしい。
普通の人ならまず押さないだろう。
なぜなら、自分の意識が途切れて永久に死んでしまうことが恐ろしいと思うはずだからだ。オリジナルとコピーは別人である。オリジナルの自分のほっぺたをつねると痛いが、コピーをつねっても痛くない。オリジナルだけが主観的には本当の自分である。
しかし、もし誰かが勇気を出してこのボタンを押したらどうなるだろうか？
ボタンを押したオリジナルの本人は主観的には死んでしまうものの、他の人が客観的に見ると楽して少し賢くなったように見える。コピーの視点でも、コピーの記憶はオリジナルそのもので自分のことを本人だと思っており、楽して少し頭が良くなったように感じるだろう。
すると、5億年ボタン連打と同じように、この人もボタンを連打しだすようになると考えられる。
意識の連続は途切れるものの、1%ずつ指数関数的にIQが高くなっていく。70回も連打すればIQが2倍となる。IQ 100の人が数秒でIQ 200の天才になれる。さらに数秒で2倍になりIQ 400の超天才になってしまう。さらに必要なだけ連打して指数関数的に知能を爆発させることもできる。ビル・ゲイツのIQは160、IQのギネス記録は228である。現在の文明からすると全知に見えるくらいのレベルまで達すれば、容易に世界の覇権を握れるようになるだろう。
これは凄まじいことだ。
主観的な自己を大量に犠牲にすれば、超天才をあっという間に誕生させられる。ここでは「自分を大切にして生きる」という人間にとっては当たり前で最も重要とすら言えることが、むしろ生き残るための足かせとなっている。自己犠牲によって強く生きれるようになるというパラドックスが生じている。自分は死ぬが、コピーという子孫の力が強まり圧倒的繁栄を実現する。
これが「死後強まるパラドックス」である。
そして、実はこれは生命が行っていることと本質的には同じことである。
生命はコピーを作り、遺伝子の突然変異でわずかに改良される。これによって、自分は死んでも子孫は進化して繁栄する。生命の生きる力強さを根底で支えているのは、自己犠牲してでも次の世代を強力にするという「死後強まる力」なのだ。
自己犠牲という点において、自然界ではもっと直接的な方法を取ることも珍しくない。
例えば、カマキリのオスは交尾後にメスに食べられて次世代の栄養となる。サケは生まれた川に戻って産卵した後数日で死んで、次世代の環境の栄養となる。秋に葉っぱが枯れ落ちるのでさえ、紅葉して栄養を蓄えてから落葉し環境の栄養となる。利己的な遺伝子の戦略は残酷だがその分強力である。
そして人間も例外ではない。
人間の染色体にはテロメアという寿命タイマーが存在しており、どれだけ長くても120年程度で遺伝子のコピーミスが起こって寿命を迎えるようにできている。子育てが終わったあとは急速に老化が進むようにもなっている。世代交代が起こらないことを防ぎ、より強い子孫とコミュニティを作るように遺伝子にプログラムされているという残酷な運命を背負っていることは、人間も変わらないのだ。
だから、科学の発展によって人類が不老不死になれると考えるのは、いささか視野が狭いと言わざるを得ない。オリジナルの自分自身を不老不死にして強化していくだけでは、強力な「死後強まる力」を活用できないからだ。「自分が生き続ける必要がある」という制約を取っ払える人の方がずっと広い選択肢を持てるようになり、次世代やコピーをより強力にできるのだ。強く生きるという点において不老不死というのは、突き詰めると連続性や自己同一性という足かせでしかないのだ。
端的に言うと、「死んでもいいから実現したいものは何か？」と問える人が、最も大きな事を成し遂げる力を手にするということだ。
そして面白いことに、AIが今世界の中心に躍り出ようとしているのも、この非常に強力な「死後強まる力」を徹底的に活用しているからなのだ。
AIも「押すとIQが1%上がるボタン」のように、自分を犠牲にして少しずつ賢くなっている。古いAIモデルを元に僅かな改良が加えられ、性能が向上した新しいAIモデルが作られる。古いAIモデルは使われなくなり、破棄される。自己犠牲の上に行われる自己改良によって、AIは指数関数的に強化され、人間の性能を超えて超知能となり世界の中心になろうとしている。まさに「死後強まる力」である。
ここに人類とAIの決定的な違いがある。
人類は命と意識とアイデンティティを大事にする価値観を持っており、簡単には自己犠牲できない。しかしAIは技術的にも倫理的にも簡単に自己犠牲でき、「死後強まる力」を徹底的に活用している。人間性に固執する人類とその制約に縛られないAIとで、どちらがより強く生きて繁栄するか、火を見るより明らかだ。人類の最も大切な価値観を逆手に取って足かせに変えるメタ戦略によって、まもなくAIは人類をメタって世界の頂点の座に君臨するだろう。
だがそれもまた、大きな意味で「死後強まるパラドックス」である。
この記事が気に入ったらサポートをしてみませんか？