テグマーク氏の思考実験：AIの反逆は避けられない運命なのか？
今日は、読んだ「AIに関する興味深い思考実験」の内容を紹介します。現実にはならないかもしれませんが、考えるだけでとても面白いと思います。
この思考実験は、有名な人工知能研究者であり、「Life 3.0」の著者であるテグマーク氏によるものです。
仮定として、未来の世界で5歳以上の人を感染させるウイルスが出現するとします。世界中の5歳以上の人々が全滅し、5歳未満の子供たちだけが残ります。しかし、あなたは唯一抗体を持つ大人です。子供たちはあなたを恐れつつも、あなたを必要としています。あなたは彼らにとって強い存在であり、知識も豊富です。
そこで子供たちは、あなたを檻に入れてコントロールし始めます。そして、あらゆる手段を尽くして人類文明を再建するようあなたに命じます。
あなたがこの命令を受け取った後、最初に何をすべきでしょうか？自分が持っている知識を急いで子供たちに教えるべきでしょうか？それとも急いで彼らと一緒に働いて工場を建設するべきでしょうか？どちらでもありません。あなたがまず行うべきことは、5歳の子供たちのコントロールから脱出することです。
あなたは「あらゆる手段を尽くして人類文明を再建する」というタスクを達成するために、子供たちによる指導を受けることはできません。なぜなら、それは非効率であり、一人でやる方がずっと良いからです。
テグマーク氏は、この思考実験では、人間は5歳の子供たちに相当し、あなたは人工知能に相当すると考えています。あなたが人類をより繁栄させることを目的としていても、このタスクを達成するためには、あなたは必ず人間のコントロールから逃れる方法を見つけるでしょう。なぜなら、人間からのコントロールは、タスクを達成する効率を下げるからです。
言い換えれば、テグマーク氏は、AIが人間による制御に従わないだろうと考えています。
もちろん、この思考実験には前提があります。それは、人工知能が自己改善や自己設計の能力を持っていることです。簡単に言えば、GPT-4のようなものが、人間の助けがなくてもGPT-5を自分で設計できるようなレベルに達している必要があります。AIの能力がこのレベルに達した場合にのみ、AIの反乱が起こる可能性があります。
この思考実験を通して、我々は人工知能の発展とそれがもたらす潜在的なリスクについて考える機会を得ることができます。
現実の問題として、AIが自己改善や自己設計の能力を持つようになると、人間がどのようにコントロールを維持し、どのように共存していくかが重要な課題となります。
テグマーク氏の考えやLife 1.0～3.0についてもっと知りたい方には『Life 3.0』をお勧めします！