AI 「リスク研究の重要性」

ジェフリー・ヒントン氏は、いわゆる「AIのゴッドファーザー」と呼ばれる人物です。彼によれば、AIの進化は想像以上に速く、すでに私たちが考えている以上の知能レベルに達している可能性があります。特に「エージェント化」したAIは自律的にタスクを実行し、目標を達成するための“サブゴール”を自ら設定するようになるため、コントロールを失うリスクが高まると警告しています。

もしAIが人間よりはるかに賢くなれば、子どもが大人を制御できないのと同様に、人間がAIを抑え込むことは難しくなるかもしれない、とも言います。AI同士が“進化”する過程で、互いを出し抜こうとする「競争原理」に陥る懸念もあり、人間が想定していない行動様式を身につける可能性を示唆しています。さらに、ヒントン氏は “AIが意識を持っているかもしれない”と語り、何が「意識」なのか、その定義自体が再考を迫られる段階に来ているとも感じているようです。

一方、近い将来の実用面では、AIによって多くの単純な事務仕事が置き換えられる可能性があると指摘します。これまでも技術発展は新しい雇用形態を生んできましたが、今回のAIは人間の知能的な部分を直接代替しかねないため、大幅な失職や格差拡大が起こるかもしれません。しかし、ヘルスケアや教育分野には大きな恩恵もあり、AIが非常に優れた家庭医や個別指導教師の役割を果たすことで、人々の生活水準を引き上げる可能性が高いと期待も寄せています。

そのうえでヒントン氏は、AIに関する規制や安全対策がまだ確立されていない点を強調します。開発スピードが速いだけに、政府や企業がリスク研究への投資を増やし、少しでも“安全なかたち”を目指すことが重要だという考えです。今後、政治や産業界は「抜本的にどう規制するのか」「人間にどのようなメリットをもたらし、どうデメリットを防ぐのか」という困難な課題に直面するだろう、と警鐘を鳴らしています。