超知性のある未来社会シナリオ
（注意：長いです。お時間のあるときにどうぞ）
今まで人工知能の研究の多くは人間の知性に近づくことを主眼としてきました。初期の研究者たちは最も「知的」と思われる人間の活動、たとえばパズルを解くとか、将棋や囲碁のようなゲームで勝つ、専門家と同等の診断をくだす、数式の変換をするなどのタスクに取り組み、その結果、機械は次々と人間の能力を超えてきました。画像や音声の認識など、人間が無意識に行っている認知能力については1990年代にしばらく停滞がありましたが、21世紀になって深層学習の技術が進歩してからは、一気に人間の能力が追い越されて行きました。人間特有の知的能力の最後の砦であった言語運用能力については、LLM(大規模言語モデル)の登場によって、そろそろ人間並み(ヒューマン・パリティというそうです)になったといえるでしょう。
ヒトの脳の能力はここ1万年ほどの間、ほとんど変わっていないのに対して、機械の能力はムーアの法則によって指数関数的に増大しています。ですから、このまま行けばあらゆるタスクにおいて人間の知性をはるかに超える「超知性」が誕生するのも時間の問題でしょう(まだ誕生していないとすれば)。 このような超知性のある社会とは、どのような社会でしょうか。AIアラインメントネットワークという団体が「超知性のある未来社会シナリオ」というコンテストを実施していています。面白そうなので、シンギュラリティ・サロンを主宰している松田先生、Eyes Japan社長の山寺さんと共同で、私もシナリオ提案をしてみました。実はこの提案は選には漏れているのですが、せっかくなので以下に共有します。こんな内容です。
分化する人工知能研究その１ - 汎用最適化
人工知能が人間の能力を近く超えるとすれば、人工知能研究は「人間に近づく」ことではなく、今までにない知性を求めることになるでしょう。知性の主な機能の1つは、知識の拡大です。私たちの文明はなぜここまで発展したのでしょうか。過去数万年の人類の歴史において、個人の能力はほとんど変化していないし、物理法則が変わって世の中が住みやすくなったわけでもありません。変化は人類が知識を蓄積してきたことによって起きているのです。ですから、スーパーヒューマン知性の主な利用目的の１つは、新たな科学法則を発見したり、新たな工学的な発明を行ったり、新たな社会システムを構築したり、という人類の知識を拡大することにあると思います。
新たな知識を得るには、今まで知られていない領域を探索しなければなりません。LLMは過去の経験にありそうなものを出力するので、まったく新しい概念を発見することは苦手です。新たな知識を得るには、今まで誰も考えて見なかった仮説を探索し、欲しいもの (目的関数を満たすもの) を見つけなければなりません。探索（あるいはそれの一形態である最適化）は、人工知能の初期から様々な研究開発が行われ、数理最適化など多くの優れた成果が得られている分野ですが、現在の探索・最適化の技術では、計算時間を現実的な量に抑えるために、探索空間や目的関数を事前に固定するのが一般的です。これでは事前に想定できない真にイノベーティブな発見や発明はなかなか見つからないと思います。１つの方向性は、探索が進むにつれて、探索空間を逐次的に拡大したり、目的関数を適切に変化させたりする最適化の手法であり、いわば汎用最適化とも呼べるものです。
汎用最適化の技術が進化することによって、新たな科学法則が発見され、それらを用いて新しいエネルギー源、素材、薬品、計算機アーキテクチャ、経済や法律などの社会システムなどが設計されるようになるでしょう。それらの理論や技術の多くは、作用機序が複雑すぎて生身の人間には理解が難しいものになるでしょうが、複数の計算機を用いてシミュレーション等を行い、多角的に検証して安全で望ましいものだとされれば、社会に実装されていくでしょう。このような「超知性」は、自律的に動いたり、自我意識を持ったりするものではありませんが、ハラリ[1]のいう「意識のない超知能」といえるでしょう。
分化する人工知能研究その２ - 個人化するLLM
2023年にブレークしたLLMは、人類文明全体の文書化された経験・知識をまとめたものと考えることができ、その意味で知識量は人類文明全体に匹敵しますが、その思考や価値観は訓練データのバイアスを考慮に入れる必要がありますが、大雑把に言えば人類全体の平均的なものといえるでしょう。LLMに対して「あなたはXXの専門家です」のようなプロンプトによってある程度その振舞いはカスタマイズできますが、個人レベルの模倣、例えば丸山の言動を模倣するLLMを作るとなれば、その特定の個人の詳細のモデルが必要となり、現時点では現実的ではありません。
しかし、私たちの生活の場は、スマートフォンを始め多くの機器に囲まれていて、日々の人々の活動を詳細に記録することが可能になりつつあります。このようなライフログ技術が発展することにより、その人が何を読み、何を視聴し、どのような発話や文章生成を行ったかが記録され、さらには自宅内やオフィス内のセンサーによってあらゆる言動が記録できるようになれば、このようなデータを使ってLLMをファインチューニングすることができるはずです。そうすればLLMがその人の人格を模倣できるようになるでしょう。
もちろん、LLMは肉体を持ちませんから物理的に本人を模倣することはできませんが、メールやチャット、Zoomなどオンラインで接している限り、本人とそのコピーである自己模倣LLM (Pseudo Self -- 擬似自己) との区別が、外部からはつかなくなるのではないかと思います。このような、LLM個人化の技術が消費者レベルのサービスとして広く普及すれば、人々は、気の進まない仕事や人間関係にこの擬似自己を積極的に利用するようになるでしょう。
擬似自己は過去の自分を模倣しますが、過去に自分が経験していない事柄については、人類文明全体の知識に基づいて行動します。また、肉体の欲望や気分によって態度を変えることもありません。このため、擬似自己は多くの場合非常に理知的に行動することになり、結果的に「自分がそうありたい」と思う自分を実現することになるでしょう。
人々が老いて認知機能が低下し、記憶力が低下して約束を忘れたり、より気が短くなって怒りっぽくなったりしたとき、「そうありたい自分」の具現である擬似自己こそが本来の自分である、と徐々に錯覚するような、「アイデンティティの危機」が訪れるかもしれません。社会がそうなったとき、20世紀の西側諸国で普遍的な価値とされてきた「個人の自由意志」や「人権」のような概念は、生体の自分に適用されるのでしょうか、それとも自分が「本来の自分」と考える擬似自己に適用されるのでしょうか。21世紀なかばには、このような根源的な哲学的問いが真剣に議論されるようになり、社会的に擬似自己の人格が認められるようになるかもしれません。だとすれば、これはカーツワイル[2]がシンギュラリティの到来時に起きると予想した「人格のアップロード」に相当するといえるのかもしれません。
超知能を誰に委ねるか
21世紀半ば、汎用最適化の技術によって、人類文明の科学技術は急速に進歩します。無尽蔵ともいえるダークエネルギーを空間から直接収穫し、そのエネルギーを用いた超知性が指数関数的にその能力を拡大し、あらゆる領域で革命的に進歩する、などということも夢ではないかもしれません。しかし、このような知識の力は、特定の人間の為政者に委ねるには危険すぎます。生身の人間には欲望があり、そのような存在に大きな力を与えると腐敗することは歴史が証明しているからです。
一方、機械上に具現化された擬似自己は肉体の欲求に左右されることがなく、また恐怖や不安を感じることがありません。従って、常に理知的に行動すると期待できます。人間の頭の中は開けてみることができませんが、擬似自己については必要であれば、そのプログラムと、使われた訓練データを調べることができます。擬似自己のオリジナルであった個人が嘘をつく人であったり、不公正な人であれば、そのことは訓練データの中に現れているはずです。また、その擬似自己にいろいろな入力を与えて、どのような状況でどのような判断を下すかをシミュレートしてみることができます。
このような擬似自己が実現されれば、多くの人に精査され、常に理知的かつ誠実に振る舞うことが確認されている疑似自己は、信頼できる為政者たりうることが徐々に社会で認識されるようになるのではないでしょうか。その結果、国会議員の半数がこのような擬似自己で占められるような日がやってきても不思議はありません（当然のことながら、このような擬似自己にはプライバシーはありません）。それぞれの擬似自己議員は、それぞれ異なる経験と価値観をもち、議案にそれぞれ独自の立場をとるでしょう。どの擬似自己議員が当選するかは、選挙時点での国民の価値観に依存します（どんな高潔な擬似自己でも、昭和の価値観を持つ擬似自己は新しい時代で当選するのは難しいでしょう）。
機械に支配される、という考えには抵抗が大きいでしょう。しかし、ここで提案している擬似自己議員は生身の人間の人格を模倣したもので、オリジナルの個人の価値観を色濃く反映したものです。しかも、生身の人間議員とは異なり、賄賂を受け取ったり、セックス・スキャンダルで失脚することはないのです。
終わりに
ここで述べたのは予測ではなく、あくまでも可能なシナリオの１つです。しかし私は、欧米を中心とする、「人類に害をなさないよう、人工知能をルールによって閉じ込めよう」という議論には危機感を持っています。むしろ、私たち人間の心の弱さを直視し、合理的な思考を要求する分野では積極的に機械に判断を委ねる、という柔軟な考え方があってもよいのだと思います。この記事が、そのような議論の一端になれば嬉しく思います。
ユヴァル・ノア・ハラリ、『ホモ・デウス: テクノロジーとサピエンスの未来』、2018.
レイ・カーツワイル、『シンギュラリティは近い―人類が生命を超越するとき』、2005.