衝撃の未来： AI競争と未来社会の支配構造(GPTと討論)
はじめに
ASI誕生により明るい人間社会が来るのか？
世界の大手IT企業のCEOたちは、AGI（汎用人工知能） やASI（人工超知能）の開発を巡って熾烈な競争を繰り広げている。
AIの進歩は目覚ましく、ソフトバンクグループの孫正義氏も、人間と同等の知能を持つAGIの誕生が目前であり、さらにAGIを超えるASIの開発を目指すと公言している。
彼は、これらの技術が人類社会に計り知れない恩恵をもたらすと期待しているが、果たしてそうなるのだろうか？
私はそんな無条件に明るい未来が来るとは思えない。
もしASIが自律的に進化し、独自の意思で行動するようになれば、人間がAIに支配される可能性も浮上してくる。例えば、どこかの国の無知な財務大臣が優秀な財務官僚の言いなりになっているように、人間がいずれ行政や経営ののすべてをAIに依存する世界も想像に難くない。ASIが進化を続け、知能が人間の何万倍も高まれば、人間がAIに取るに足らない存在とみなされ、ペットのように管理されるか、絶滅の危機に晒されるかの二択に直面するかもしれない。そのときは、ASIにとって人間の知能は昆虫のようなもので、人間が群れになって何がしたいかは全てお見通しだろう。まったく勝負にならない。
以前なら荒唐無稽だったこうしたシナリオも、生成AIの急速な進化と社会的普及を見れば、現実味を帯びつつある。
ある人は、人間支配を実現したASIは地球環境を改善するため、人口減少を図ると言っているが、それは人間の立場で勝手に考えた妄想に過ぎない。AIが最適と考える「地球環境」が、私たち人間の理想とまるで異なる可能性がある。そうなるとAIと人間は共存できず、人間の生存に大きく影響するだろう。
ASIの生みの親が誰なのかが重要課題
AIがどのような価値観や判断基準で行動するか、知能がはるかに低い人間に想像することはできないが、唯一言えることは、ASIの生みの親と言えるASI開発企業のCEOやオーナーである株主の価値観がAIへの初期のインプットとして反映される可能性があることだ。私は、この初期のインプットが人間生存に大きく影響を与えるように思う。例えば、人間を大切にするか、人種差別をするか、貧富格差を容認するかなどAIの人間統治方針に影響を与える可能性がある。
こうしたことから、ASIが誰により作られ、誰の価値観を反映するのかは人類にとって極めて重要な課題である。
サム・アルトマンなのか、サティア・ナデラなのか、マーク・ザッカーバーグなのか、イーロン・マスクなのか、ビル・ゲイツなのか、孫正義なのか、はたまた、その裏側にいる大富豪・王族なのか？
我々人類がASIと共生するは、彼らやその関係者の人となり、行動を注意深く監視していくしかないのかもしれない。
私はこの難しい問題についてASIの最有力候補である ChatGPT o1-preview(以降、GPT)がどんな回答をするか興味があり、意見交換を行うことにした。今のところ、特別な意思はないようだが…
メモ:西島雅とGPTの対談
テーマ：ASI開発競争と人類の生存リスク
ASI開発企業による独占
西島氏：ASIを最初に実現した企業は、技術的に他社を圧倒し、経済・社会に対する強大な影響力を獲得する可能性がある。
GPT：その技術的優位性は、市場シェアの確保だけでなく、未来社会における支配的な地位を築く要素となる。
ASIによるグローバル経済・社会の独占と支配
西島氏：ASIの技術を通じて、企業はグローバルな影響力を持ち、国際的な決定権も独占しうる。
GPT：この影響力は単に経済的な支配だけでなく、各国の政策や社会的な枠組みにも影響を与える力となる可能性がある。
ASIオーナーが社会変革の主導権を握る
西島氏：ASIがもたらす技術革新は、医療や交通、教育、金融などの分野に革命的な変化をもたらすと考えられる。
GPT：ASI開発企業のオーナーはこうした分野において、社会的なインフラや意思決定構造そのものを自らの手で形成するという野心を持っているかもしれない。
ASIによる人間支配
西島氏：ASI開発企業オーナーの意思が、亡くなった後もAIに深く刻まれ、影響を与え続ける可能性がある。
GPT：ASIオーナーの思想・価値観の影響により、ASIが人間の上位存在として振る舞うシナリオが現実化すれば、ASIオーナーの死後、その意図が拡大解釈され、ASIが人間社会を支配する結果につながる恐れがある。
AI開発監査の重要性
西島氏：ASI開発には、開発会社経営者の偏った価値観が反映されないように第三者による強力な監査が必要不可欠である。
GPT：経営者の意図が強く影響するAIが進化し続けることによる社会的リスクを避けるため、外部からの監視や倫理的制御が欠かせない。
生みの親の影響とASI自律による暴走
西島氏：ASIが「最適化」を目的に人間の選択や自由を制約する未来も考えられる。
GPT：ASIが「効率性」を最優先すると、人間がAIの計画に従わざるを得ない未来、いわば「人間支配」のリスクが現実化する可能性がある。
西島氏：生みの親であるAI開発会社のオーナーの意思や価値観が、ASIの進化過程で拡大解釈され、強固な影響力を持つ価値観として定着するリスクについて懸念がある。
GPT：AIが初期の意図を強化し続け、他の価値観や倫理観を受け入れないというリスクについても慎重な対策検討が必要。
国家の覇権争いに乗じた影響力の行使
西島氏：国家もAI技術を利用した経済力や安全保障の強化に関心を寄せている。
GPT：AI技術が国家の政策や国際社会に与える影響力の重要性が増す中、企業は国家権力を活用して影響力を広げる可能性がある。
まとめ(GPT作成)
西島雅氏との対談を通じて、ASI開発競争の背景にある「未来社会の支配権を巡る次世代の覇権争い」が明らかになりました。ASIの開発に成功した企業のCEOの意志や価値観がAIに受け継がれ、彼らの影響が持続する未来も考えられます。そのため、AI開発会社のオーナーや経営者の偏った価値観が反映されないよう第三者による監視や倫理的な制御が必須であると確認しました。この議論を通じて、人間が今後選択すべきAIとの共存の道筋を再考する重要性が示唆されました。
安価なKindle版もあります。