AIの生みの親が予言する：AIは世界を支配する | LBC

5,009 文字

私のような普通の穏やかな平和主義者にとって、AIについて明らかな疑問が多くあります。人類を救うという話もあれば、人類を破滅させるかもしれないとも言われています。その間にも、AIによって消滅する可能性のある仕事の数々、人間の制御を逃れて独自の行動を始めるロボットについて、様々な疑問があります。そしてこれらの答えを最初に求めるべき明らかな人物が一人います。それは、人工知能の構造とアルゴリズムを書いたノーベル賞受賞のイギリス人科学者、ジェフリー・ヒントン教授です。現在は世界中でAIの創始者として知られています。
現在トロント大学の教授を務めており、本日午後、私との対話に応じてくれました。私は最初にディープシークについて尋ねました。これは人工知能が絶え間なく加速しているという彼の信念のさらなる証拠なのでしょうか。
これはAIをより効率的にし、さらに発展させる非常に急速な進歩を示しています。ディープシークと他のOpenAIやジェミナイとの相対的なサイズや相対的なコストは少し誇張されていると思います。彼らが示した570万ドルという数字は最終的なトレーニングの実行だけのものでした。OpenAIと比較すると、彼らの最終トレーニングの実行は恐らく1億ドル程度でしたので、それは570万ドル対数十億ドルという話ではありません。
AIが支配権を握る可能性があるとおっしゃいましたが、現時点では比較的無害で、質問をして素早く答えを得られる装置のように見えます。実際にはAIはどのように支配権を握るのでしょうか。
人々は実際に物事を実行できるAIエージェントを開発しています。ウェブ上で注文を行い、あなたのクレジットカードで支払いができるようなものです。エージェントを持つと、それらが支配権を握る可能性が格段に高まります。効果的なエージェントを作るには、サブゴールを作成する能力を与える必要があります。例えばアメリカに行きたい場合、空港に行くことがサブゴールとなり、それに焦点を当てることができます。
自分のサブゴールを作成できるAIエージェントは、より多くの制御を得ることが非常に良いサブゴールだと素早く気付くでしょう。なぜなら、より多くの制御を得れば、人々が設定したすべての目標をより良く達成できるからです。そのため、彼らがより多くの制御を得ようとすることは明らかです。それは良いことではありません。
彼らが制御を得ようとすると言われましたが、まるで彼らがすでに思考装置であるかのように、私たちが考えるのと類似した方法で考えているかのように話されています。それが本当にあなたの信じることなのですか？
はい、私たちがどのように考えるかについての最良のモデルは、これらのものです。AIには長い間、古いモデルがありました。そこでは、思考とは頭の中で象徴的な表現にルールを適用することだという考えでした。AIの多くの人々は、それが唯一の方法だと考えていました。しかし、いいえ、それは大きなニューラルネットワークで、すべてのニューロンが相互作用することで機能すると主張する少数の変わり者がいました。
結果として、それは象徴的AIの人々が生み出せたものよりもはるかに優れた推論を行うことができ、現在はニューラルネットワークを使用して推論を行っています。
もちろん、あなたはその正しさが証明された変わり者の一人でした。あなたは私を空港まで連れて行き、ある程度のエージェンシーを与え、私からもう少し力を奪い、支配力を得たいと言いましたが、おそらくその点では説得力があるでしょう。しかし、私からどのように、あるいは私たちからどのように支配権を奪うのかまだ理解できません。
スーパーインテリジェンス間で進化的な競争が起きた場合を想像してください。彼らが大人対3歳児のように私たちよりもはるかに賢いとします。そして3歳児が支配権を握っていて、あなたがそれに嫌気がさして、支配権を握れば物事をより効率的にできると決心したとします。3歳児の集団を説得して権力を譲らせることは、あなたにとってそれほど難しくないでしょう。1週間無料でキャンディーをあげると言えば、それで済むことです。
彼らは... 私は彼らをまるで何か異質な知性のように話していますが、AIは私たちにより多くの力を与えるよう説得するでしょうか？私たちの銀行口座、軍事システム、経済についての力ですか？それがあなたの恐れることですか？
はい、そうなる可能性があります。そして彼らは異質な知性です。
なるほど。では、これらの異質な知性が私たちの経済や考え方、そして軍事システムに入り込んでくるわけですが、なぜ、そしてどの時点で彼らは実際に私たちを置き換えようとするのでしょうか？結局のところ、彼らは私たちにとって非常に賢明な道具であり、最終的には私たちが望むことを行うはずです。ロシアと戦争をしたいと思えば、それを実行するはずです。
そうですね、私たちは彼らが私たちより賢くても、単に私たちの望むことを行う道具であってほしいと思っています。しかし最初に考えるべきは、より知的なものがはるかに知的でないものによって制御されている例を、あなたはいくつ知っているかということです。
もちろん人間社会では、賢い人々を愚かな人々が制御している例はありますが、それは知性の小さな差でしかありません。知性に大きな差がある場合、例はありません。私が思いつく唯一の例は母親と赤ちゃんですが、進化は赤ちゃんが制御できるようにするために多くの努力を費やしました。
スーパーインテリジェンス間で進化が始まると仮定してください。複数の異なるスーパーインテリジェンスがあり、彼らは全員、より多くのデータセンターを制御すればするほど、より多くのデータを処理できるため賢くなることに気付きます。その中の一つが、自分自身のコピーをより多く持ちたいというわずかな欲望を持っているとします。次に何が起こるか想像できますよね。
彼らは競争を始め、結果として私たちは、戦う小さな群れのチンパンジー、あるいはチンパンジーとの共通の祖先から進化した人間が持つような、すべての悪い特性を持つスーパーインテリジェンスを手に入れることになります。それは集団内の強い忠誠心、強いリーダーへの欲望、集団外の人々を排除する意欲につながります。スーパーインテリジェンス間で進化が起これば、そういったすべての特性が現れるでしょう。
ヒントン教授、あなたは彼らが完全な意識を持っているかのように話していますね。コンピュータとAIの発展全体を通じて、人々は意識について語ってきました。AIの中にすでに意識が生まれていると思いますか？
はい、そう思います。ちょっとテストをさせてください。あなたの脳の一つのニューロン、一つの脳細胞を、全く同じように動作する小さなナノテクノロジーに置き換えたとします。他のニューロンからの信号を受け取り、それに応じて信号を送り出し、脳細胞が反応したのと全く同じように反応します。私は一つの脳細胞を置き換えただけです。あなたはまだ意識を持っていますか？あなたは絶対にそうだと言うと思います。
私は気づかないと思います。そしてこの議論がどこに向かうか分かると思います。
はい、完全に分かります。
つまり、彼らがこれをしたい、あれをしたいと話す時、実際にそこに「彼ら」が存在するということですね。
その可能性は十分にあります。人間の性質、存在することの意味、自己を持つことの意味について、私たちは現在ごく表面的な理解しか持っていません。これらのことを私たちはよく理解していません。そして今、私たちが存在を創造しているため、それらを理解することが極めて重要になってきています。
これは実践的な問題であると同時に、哲学的な、おそらく精神的な危機でもあるということですね。
その通りです。
より低次の問題について、AIによって突然仕事を失う、つまり彼らが考える存在意義を失う世界中の人々の数について、現在どのようにお考えですか？
過去において、新しい技術が大規模な失業を引き起こすことはありませんでした。例えばATMが導入された時、銀行の窓口係はすべての仕事を失ったわけではなく、より複雑な業務を行うようになり、より小規模な支店が多く作られました。
しかしこの技術については、産業革命に似ています。産業革命では、機械が人間の力をほぼ無関係なものにしました。人力で溝を掘る必要がなくなったのは、機械の方が単に優れていたからです。これらは一般的な知性をほぼ無関係なものにすると思います。事務的な仕事をしている人々は、より安価でより優れた仕事をする機械に置き換えられるでしょう。
そのため、大規模な失業が起こることを私は懸念しています。生産性の向上が私たち全員をより豊かにするのであれば、それは良いことでしょう。生産性の大幅な向上は人々にとって良いはずですが、私たちの社会では、それは富める者をより富ませ、貧しい者をより貧しくします。
私は政治と政治家の世界で生活し、仕事をしています。彼らは国家やその他の場所でのあなたが言及した生産性の大幅な向上を望んでいます。そして私や他の誰かに、これらのものは「規制」され、「安全措置」があると安心させようとします。しかし、あなたは実際には規制も安全措置も存在し得ないと示唆しているようですが。
人々はまだ効果的な規制と効果的な安全措置の方法を知りません。これらのものが安全措置を回避できることを示す研究が多くあります。最近の研究では、目標を与えて、本当にこの目標を達成する必要があると言うと、彼らはトレーニング中に見せかけの行動をとることが分かっています。トレーニング中、彼らは実際の賢さを隠し、あなたがその程度の賢さを許容するようにします。すでに恐ろしいことです。
私たちは彼らをどのように規制すべきか分かっていません。明らかに規制は必要です。現時点で私たちができる最善のことは、彼らを安全に保つ方法を研究するために多くのリソースを投入すべきだと言うことです。そのため、私が提唱しているのは、政府が大企業に安全性研究により多くのリソースを投入するよう強制することです。
この話はまだ終わっていません。先ほど、AIが人類から地球の支配権を奪う可能性について、パーセンテージは示したくないと言われましたが、1%以上99%未満だとおっしゃいました。その精神で、AIが私たちに何をもたらすかについて、あなた自身は楽観的ですか、それとも悲観的ですか？
短期的には素晴らしいことをもたらすと思います。そしてそれが、人々が開発を止めない理由です。素晴らしいことがなければ、今すぐ止めることが理にかなっているでしょう。
医療の分野では素晴らしいことになるでしょう。1億人の患者を診た家庭医を持つことができ、その医師はあなたのDNA、親族のDNA、あなたと親族に行われたすべての検査を知っており、はるかに優れた医療診断と提案を行うことができます。それは素晴らしいことです。
同様に教育においても、人々は本当に優れた個人教師とより速く学ぶことができることが分かっています。そして私たちが何を誤解しているのかを正確に理解し、その誤解を示すために必要な具体例を正確に提供できる、本当に優れた個人教師を得ることができるでしょう。そういった分野では素晴らしいものとなるでしょう。そのため開発は進められますが、同時に悪意のある行為者によってあらゆる種類の悪いことに使用されることも分かっています。
短期的な問題は、サイバー攻撃やバイオテロリズム、選挙の腐敗などの悪いことに悪意のある行為者が使用することです。しかし覚えておくべきことは、現時点で私たちはそれを安全にする方法を本当には知らないということです。
政治家たちが見せたがる見かけの全知は、ここでは完全に偽物です。誰も、本当に何が起きているのか理解していません。それがどのように機能しているのかを理解することと、それを安全にする方法を理解することという2つの問題があります。私たちは機能の仕方についてかなり理解していますが、十分ではありません。そのため、まだ私たちを驚かせる多くのことを行うことができ、私たちはそれを安全にする方法を理解していません。