AIの"父"が示す衝撃の予測 | ワールドニュース | WION

2,779 文字

AIの"父"として世界的に知られる人物が、急速に発展するテクノロジーによって、今後30年以内に人類が絶滅する可能性があると警告を発しています。彼は、AIテクノロジーの進歩を産業革命に例えていますが、今回は機械が人間よりも知的になるという点が異なります。
人工知能は今後30年で人類を絶滅させる可能性があります。これは、AI分野でのノーベル賞受賞者であり、「AIの父」と呼ばれるジェフリー・ヒントン教授による衝撃的な警告です。この英国系カナダ人のコンピュータ科学者は、テクノロジーの変化のペースが予想以上に速いと警告し、今後30年以内にAIが人類を絶滅させる可能性が10〜20%あると述べています。
デミスと私は、超知能が実現すると考えています。これは誇張でも、AIの他の問題から注意をそらすためのものでもありません。私たちは長い間そう信じてきました。私はもっと先のことだと思っていましたが、最近の発展の速さを考えると、かなり早く実現すると思います。5年から20年の間だと考えています。デミスは約10年で超知能のようなものが実現すると考えており、その時、私たちがどのように制御を維持するかを真剣に考える必要があります。
ヒントン氏は、人類がこれまで自分たち以上に知的な存在に対処した経験がないことを指摘し、強力なAIシステムの知性と比較すると、人間は幼児のようなものかもしれないと述べています。
ヒントンは昨年、AIの無制限な開発がもたらすリスクについてより openly に語るため、Google での職を辞したことで話題となりました。彼は悪意のある人々がこのテクノロジーを他者に危害を加えるために使用することを懸念しています。
AIの短期的な危険の一つは、自律型致死性兵器の開発です。これに関する規制はありません。例えば、欧州の規制を見ると、軍事目的でのAIの使用にはこれらの規制が一切適用されないという特別な条項があります。政府は自律型致死性兵器に関して自己規制を望んでいません。
これは、人間よりも賢いAIの創造が、人間の制御を回避することで実存的な脅威をもたらす可能性があると主張するAI安全性活動家たちの主要な懸念でもあります。開発の速いペースは、ヒントンが時間の無駄はできないと述べる理由であり、政府によるテクノロジーの規制が緊急かつ不可欠だと主張しています。
この放送には、AIクラスルームの著者であり、AIエデュケーターの創設者でもあるチャットGPTの専門家、ダン・フィッツパトリック氏が生出演しています。
フィッツパトリック氏、AIの父として認められているジェフリー・ヒントンが、AIの進歩があまりにも急速で、今後30年以内に人類が絶滅する可能性があるという劇的な警告を発していますが、これについてどのように評価されますか？
はい、とても劇的ですね。お招きいただきありがとうございます。ジェフリー・ヒントンのような人物が警鐘を鳴らしてくれるのは素晴らしいことだと思います。私たちはおそらく必要なほどには警鐘を鳴らしていないからです。
これが実際に起こるのか、今後30年で人類が絶滅するのかについて、ヒントン自身も10〜20%の可能性だと言っています。私はその確率でも高すぎると思います。私たちは今から準備を始める必要があります。
教育的な観点からこの問題にどう取り組むか、次世代の意識をどのように高めていくか、また政府の連携についても言及されました。大量破壊兵器が大きな脅威になると認識された時、世界は協力してこれに関する条約を結びました。人工知能についても同様のことが必要かもしれません。
また、現実的になって、私たちの労働力をAIと協働できるように訓練する必要があります。協働しない場合、「私たち対彼ら」という状況になってしまい、そうなることは望ましくありません。
人工知能には多くの側面があります。チャットGPTのような、記事を書いたり、文章を完成させたり、芸術作品を生み出したりするのは、人工知能にとって比較的容易です。しかし、AIで制御されるロボットが椅子を動かして座るという、人間にとってはとても単純な作業は、ロボットにとっては非常に難しいのです。人間が当たり前のように行っていることを、AIで制御されたロボットができるようになる可能性はありますか？
はい、その通りです。しばらくの間、人間はまだ運動能力や微細な動作において優位性を持っているという議論がありましたが、それも長くは続かないでしょう。私たちはすでにロボット工学の進歩を目の当たりにしています。
私は、この技術についての認識を高め、人々がこの技術をうまく活用できるよう支援することを生業としていますが、例えばテスラのAIロボットを見せると、人々は依然として驚きを隠せません。YouTubeでも同様のロボットの例を見ることができますが、この技術の進歩の速さと高度さに人々は驚いています。
ご指摘の通り、チャットGPTのようなツールは言語やテキストを生成でき、AIには多くの異なるアプローチが必要になります。ロボット工学の分野でもそれを目にしています。異なるAIが組み合わさって機能するようになってきており、そのペースは非常に速いです。
また、ジェフリー・ヒントンが示唆している主要な脅威の一つは、軍事用AIとその軍事レベルでの使用方法についてです。
興味深いことに、人間は傲慢で、自分たちは知的であるだけでなく、特別な存在だと考えています。神が自分の姿に似せて人間を創造したと考えているのです。しかし、人工知能は人間の持つような知性を持つことができるのでしょうか？例えば、多くの人が人間には独創的な思考ができると言いますが、人間の思考方法と、本質的には学習データを処理しているAIソフトウェアの思考方法には違いがあるのでしょうか？
とても興味深い質問ですね。チャットGPTのような大規模言語モデルの仕組みと人間の脳の働き方は、確かにとても異なります。しかし、それは必ずしも私たちの知性が優れているとか、彼らの知性が優れているということを意味するわけではありません。
今後数十年で、AIの知的能力は私たちの知性の機能に危険なほど近づいていくと思います。しかし、根本的には異なり続けるでしょう。例えば、タコは私たちよりも知的かもしれないと言う人もいますが、それは単に異なるタイプの知性なのです。
私たちが直面するのも同様の状況でしょう。おそらく私たちよりも知的な技術に直面することになりますが、それは異なるタイプの知性です。ここでの重要な戦いは、その制御を維持し、それを善のために使用することを確実にすることです。
最新ニュースについては、WIONアプリをダウンロードし、YouTubeチャンネルを購読してください。