トロント大学記者会見 - ジェフリー・ヒントン教授、2024年ノーベル物理学賞受賞

10,741 文字

よろしゅうございます、皆さん。わたしはメリック・ガートラーいうもんで、トロント大学の学長を務めさせていただいております。世界中からオンラインで集まっていただいて、2024年のノーベル物理学賞を受賞された名誉教授のジェフリー・ヒントン先生をお祝いする会に参加していただき、ありがとうございます。
ジェフ・ヒントン先生は、人工ニューラルネットワークとディープラーニングの分野の先駆者として、世界中で認められ、尊敬されとるお方です。先生の学際的な研究プログラムは、AIや機械学習だけやなく、物理学、認知心理学、神経生物学、数理最適化、情報理論にも関連しとります。
ヒントン教授は複数の分野や学問に深い影響を与えてこられました。先生は文字通り、思考や学習に関する新しい考え方を生み出されたんです。先生と学生さんたちが開発されたアルゴリズムは、驚くほど広範囲に及んでおります。これらのアルゴリズムは、現在驚くほど広く使われとるデータ処理や高度な発見能力の基礎となっとるんです。
ヒントン教授の基礎的な貢献とその深遠な影響は、学術界での広範な称賛と、さらに広い一般の認知につながっております。そのため、先生はよく「AIの教父」と呼ばれとるほどです。
ヒントン教授は、輝かしい学術経歴の約30年間をトロント大学で過ごされ、2006年には本学の最高の学術的栄誉である大学教授に任命されました。若手研究者の模範的な指導者としての先生のリーダーシップのおかげで、トロント大学は機械学習とAIの世界的リーダーに成長しました。これには、先生が最近注目を集めておられるAIの倫理的影響や社会的影響も含まれとります。
それでは、2024年ノーベル物理学賞受賞者であるジェフリー・ヒントン名誉教授をご紹介させていただきます。ヒントン教授、よろしくお願いいたします。
ありがとうございます。まだちょっと驚いとるところです。カリフォルニアで朝の1時に電話がかかってきたんですわ。出るべきかどうか迷ったんですが、幸い誰が電話してきたんか確認することにしました。物理学のノーベル賞をもらえるなんて、めっちゃ驚きました。全然予想してませんでした。
この賞は、ニューラルネットワークがうまく機能する前に、長年にわたって研究してきた大勢の人々のコミュニティを認めてもらったもんやと思っとります。特に、2人の主要な指導者に感謝したいです。バックプロパゲーションアルゴリズムで一緒に仕事をしたデイビッド・ルメルハートです。デイビッドは若くして厄介な脳の病気で亡くなりました。もし彼が生きとったら、今日ここにおるのは私やなくて彼やったでしょう。
そして1980年代にボルツマンマシンの研究を一緒にし、脳について多くのことを教えてくれた同僚のテリー・シノウスキーです。
学生たちにも感謝したいです。特に、私よりもずっと賢い学生たちに恵まれ、実際に物事を機能させてくれました。彼らは素晴らしいことを成し遂げていっとります。特に、私の学生の一人がサム・オールトマンを解雇したことを誇りに思っとります。
これくらいにして、質問に答えさせていただきます。ありがとうございました。
それでは、メディアの皆様からの質問をお受けいたします。トロント大学広報チームのリサ・ピージーさんに、Q&Aの司会をお願いしております。リサ、お願いします。
ありがとうございます、ガートラー学長。できるだけ多くの質問にお答えするため、書面での質問のみをお受けいたします。質問を送信する際は、画面下部のQ&Aボックスに、お名前と所属メディアをご記入ください。質問が届くまで少々お待ちください。
待っとる間に、ヨシュア・ベンジオとヤン・ルカンにも感謝したいと思います。彼らは親しい同僚で、この分野の発展に大きな貢献をしてくれました。
Q&Aボックスに、CTVナショナルニュースのエイドリアンから質問が届いとるようです。エイドリアンさん、質問を入力していただけますか。ありがとうございます。
これはヒントン博士への質問です。ヒントン博士、AIに関してあなたの遺産は何やと思われますか？
AIが tremendous な利益をもたらし、生産性を大幅に向上させ、みんなにとってより良い生活につながることを願っとります。医療の分野ではそうなると確信しとります。
心配なのは、悪いことにもつながる可能性があることです。特に、私たちより知的な存在ができたとき、それを制御できるかどうか誰も本当のところわかりません。
次の質問は、トロント・スターのビクトリア・ギブソンからです。これもヒントン博士への質問です。「現在のニューラルネットワークを使って、トロントをより良い都市にするにはどうすればいいでしょうか？」
うーん、ダグ・フォードをどないして追い出せるかわかりませんな。
ビクトリアから続けて質問があります。トロント・スターのビクトリアからヒントン博士への質問です。「カナダの研究環境は、あなたが始められた頃と比べてどう変わりましたか？また、カナダでさらなる研究のブレークスルーを達成するうえで、最大の障害は何ですか？」
ちょっと考えさせてください。明らかな違いは、今ではニューラルネットワークが実際に機能することが認識されとるってことですな。でも、多くの部分は似たようなもんです。
カナダ先端研究所という組織があって、カナダが強い分野の研究者を大いに支援してくれとります。カナダでの研究の特徴は、アメリカほど資金がないけど、資金を賢く使うとるってことやと思います。
特に、この種の研究の主要な資金提供機関であるNSERCは、基礎的な好奇心駆動型の研究に資金を使っとります。ニューラルネットワークのこれらの進歩は全て、応用問題にお金を投げ込むんやなく、科学者が自分の好奇心に従って物事を理解しようとする基礎的な好奇心駆動型の研究から生まれたんです。カナダはそういう点ではかなり優れとると思います。
ありがとうございます。次の質問は、AFPのイサム・アーメドからです。「おめでとうございます。あなたもホップフィールド博士も、制御されていないAIの危険性や、AIの仕組みについて十分理解していないことについて警告されています。どうすれば破滅的なシナリオを回避できるでしょうか？」
現時点では、全てを回避する方法はわかりません。だからこそ、緊急に研究が必要なんです。私は、優秀な若手研究者の多くがAIの安全性に取り組むべきやと提唱しとります。そして政府は、大手企業に対して、そのために必要な計算施設を提供するよう強制すべきやと思います。
次はカナディアン・プレスのタラ・デシャンプからの質問です。これもヒントン教授への質問です。「長い間、AIは今日のようにセクシーで人気のある技術とは見なされていませんでした。この技術の基礎を作る仕事をしていた頃のことを少し教えていただけますか？」
研究すること自体はめっちゃ楽しかったです。でも、多くの人が、というかAIの分野のほとんどの人が、ニューラルネットワークは絶対に機能せえへんって言うてたのは、ちょっとイライラしましたな。複雑なこと、例えば自然言語を理解するようなことを、ニューラルネットワークを使って学習させるなんて絶対無理やって、めっちゃ自信満々で言うてました。でも、彼らは間違うとったんです。
次の質問は、CTVニュースのエイドリアン・ゴブリアルからの2つ目の質問です。「AIに関する懸念についてもう少し詳しく教えてください。AIが人間よりも知的になる可能性があると思われますか？そしてそれがどのくらいの速さで起こると考えておられますか？」
はい、私の知っとる一流の研究者のほとんどは、AIが人間より知的になると信じとります。タイムスケールについては意見が分かれとりますな。多くの研究者は、これから20年以内に起こると考えとります。もっと早く起こると考えとる人もおれば、もっと時間がかかると考えとる人もおります。
でも、かなりの数の優秀な研究者が、これから20年以内にAIが私たちより知的になると考えとります。そうなったときのことを、しっかり考えんといかんのです。
申し訳ありませんが、次の方のお名前がわかりません。でも、面白い質問をいただきました。「ノーベル賞を受賞したと知ったとき、最初に電話したのは誰ですか？」
オーストラリアにおる姉です。
続けて質問です。「その反応はどうでしたか？」
たぶん「えっ、マジで？」みたいなこと言うとったと思います。
次はカナディアン・プレスのタラ・デシャンプからの追加質問です。ヒントン教授への質問です。「今朝ノーベル賞受賞のニュースを聞いて仰天したとおっしゃいましたが、それ以降の一日はどんな感じでしたか？」
はい、ほとんど寝てません。朝の1時で、電話がかかってきたときはたぶん1時間くらいしか寝てなかったです。カリフォルニアにおるんですが、それ以降もたぶん1時間くらいしか寝てません。だからめっちゃ寝不足です。
それ以来、たくさんの人が連絡を取ろうとしてくれて、何年も会ってない昔の友達からもたくさんメッセージをもらいました。それはめっちゃうれしかったです。
次の質問は、ベータキットのイザベル・カークウッドからです。これもヒントン教授への質問です。「ヒントン教授、AIの進歩を遅らせる必要性や、この技術がもたらすリスクについて率直に発言されていますが、今回の受賞をどのように受け止めておられますか？」
AIの進歩を遅らせることは一度も提案したことはありません。それは実現不可能やと思うからです。AIには医療をはじめ、ほとんど全ての産業で多くの良い効果があるので、その発展を遅らせる可能性はないと思います。
質問の後半をもう一度言うてもらえますか？
もちろんです。「AIの進歩を遅らせる必要性や、この技術がもたらすリスクについて率直に発言されていますが、今回の受賞をどのように受け止めておられますか？」
なるほど。実際、ノーベル委員会は、安全性について話すわたしの仕事が関連しとると認めてくれました。正確な言葉は覚えてませんが、そういうことを言うてくれました。
わたしは、AIを安全にするための真剣な努力が必要やと思います。なぜなら、安全に保てれば素晴らしいものになるからです。
AFPのイサム・アーメドからの追加質問があります。ヒントン教授への質問です。「学生や専門家がLLMに過度に依存することで、能力が低下する効果があると思いますか？それとも、私たちはより高次の操作をすることになるのでしょうか？」
能力が大きく低下するとは思いません。ポケット電卓が初めて登場したときと同じようなもんやと思います。当時、人々は「子供たちはもう数学を学ばなくなる。掛け算ができんようになる」と言いました。でも、ポケット電卓があれば掛け算ができる必要はありません。LLMでも同じことが起こると思います。人々は、LLMに聞けばわかるような事実をあんまり覚えんようになるかもしれません。でも、それによって人々はより賢くなると思います。馬鹿にはならへんと思いますわ。
ありがとうございます。CTVニュースのエイドリアン・ゴブリアルからの追加質問です。「もう1つ質問させてください。『仰天した』という言葉を使われましたが、なぜそんなに驚かれたんですか？」
全く予想してませんでした。ノミネートされたことすら知りませんでした。わたしは物理学者やありません。物理学にはめっちゃ敬意を払っとります。大学1年生の時に複雑な数学ができんくて物理学を諦めたくらいです。
だから、物理学の賞をもらえるなんてめっちゃ驚きました。ノーベル委員会が人工ニューラルネットの分野で huge な進歩があったことを認めてくれて、めっちゃうれしいです。ホップフィールドの仕事は物理学と密接に関係してましたし、テリー・シノウスキーと一緒にやったボルツマンマシンの初期の研究も統計物理学からインスパイアされたものでした。
でも、最近の研究は物理学との関係が薄くなってきとるので、物理学の賞をもらえるなんてめっちゃ驚きました。
次の質問は、アソシエイテッド・プレスのマット・オブライエンからです。ヒントン教授への質問です。「先ほどのサム・オールトマンに関するコメントについて、もう少し詳しく説明していただけますか？」
はい。OpenAIは安全性を重視して設立されました。主な目的は、汎用人工知能を開発し、それが安全であることを確保することでした。わたしの元学生のイリヤが主任科学者でした。
でも時間が経つにつれて、サム・オールトマンが安全性よりも利益を気にするようになったことがわかりました。それは残念やと思います。
ありがとうございます。次の質問は、PAメディアのジェシカ・コーツからです。これもヒントン教授への質問です。「AIの不確実な未来と、その潜在的な機会とリスクをより理解する必要性について言及されました。政府がAIをより厳しく規制するために介入すべきだと思われますか？政府はAI研究をどのようにサポートできるでしょうか？」
政府は大手企業に対して、より多くのリソースを安全性研究に費やすよう促すべきやと思います。現在、ほぼ全てのリソースがモデルの改善に使われとります。新しいモデルを作るためにな。大きな競争が起こっとって、モデルはどんどん良くなっとります。それはええことやけど、それに伴って、同じくらいの努力をAIの安全性にも向ける必要があります。
その努力は1%くらいやなくて、たぶん3分の1くらいは安全性に向けるべきです。もしこれが安全でなくなったら、めっちゃヤバイことになりますからな。
次の質問は、再びCPのタラ・デシャンプからです。ヒントン教授への質問です。「ノーベル賞の賞金の使い道は決まっていますか？」
具体的な計画はまだありません。チャリティに寄付しますわ。でも、どのチャリティに寄付するかはまだわかりません。神経の多様性を持つ若者に仕事を提供するチャリティに寄付することは決めとります。他のチャリティにも寄付しますが、どこにするかはまだ決めてません。
次の質問はロイターのW・ローンからです。ヒントン教授への質問です。「将来の深刻な結果を防ぐための提案はありますか？つまり、あなたが警告されたように、AIとその使用に関して人々はどのように注意すべきでしょうか？」
個々の人がAIの使い方に気をつけることで問題が解決するとは思いません。AIを開発してる人たちが、開発の仕方に気をつける必要があると思います。そして、リソースを持つ大手企業で研究を行う必要があります。個々の人がAIをどう使うかは、あんまり大きな違いを生まないと思います。
次の質問は、AFPのイサム・アーメドからの追加質問です。再びヒントン教授への質問です。「『悪くなる』ことの意味を予測するのは難しいとおっしゃいましたが、あえて心配な分野をいくつか挙げるとすれば、どのようなものでしょうか？」
AIにはいろんなリスクがあって、それぞれ違う解決策が必要です。
即時的なリスクとしては、偽のビデオが選挙を腐敗させることなどが挙げられます。すでに政治家が他の人が偽のビデオを使ったと非難したり、自分で偽のビデオを使ったりしとるのを見とります。偽の画像もそうです。
サイバー攻撃も即時的な危険です。例えば、去年はフィッシング攻撃が1200%増加しました。これは、大規模言語モデルのおかげでフィッシング攻撃が簡単にできるようになったからです。もう、スペルミスや文法がおかしいことでフィッシングだと見分けることはできません。英語は完璧になっとります。
次の質問は、トロント・スターのビクトリア・ギブソンからです。ヒントン教授への質問です。「今日、何度か州政府とオンタリオ・サイエンスセンターについて言及されましたが、この受賞の際になぜそれが頭に浮かんだのですか？」
オンタリオ・サイエンスセンターは、若い人たちの科学に対する好奇心を促すのにめっちゃ重要な役割を果たしとりました。屋根に問題があって、改修が必要やったんです。改修の見積もりは2億ドルでした。
でも、政府は見積もりをした人たちに、その数字を1.85倍にするよう指示しました。もっと大きな数字を出して、取り壊しを正当化するためです。わたしが見る限り、政府が言うてる理由で取り壊されたわけやありません。修理できたはずやし、修理する方がずっと安かったはずです。
次は、カナディアン・プレスのタラ・デからヒントン教授への質問です。「カナダのAIとテクノロジーの状況について話すとき、あなたの名前は常にカナダが達成できることの例として挙げられます。しかし、あなたが作り出した機会を無駄にしないよう注意しなければならないとも言われています。AIの分野で主要なプレイヤーとしての地位を維持するために、カナダは何ができると思いますか？」
好奇心駆動型の基礎研究に資金を出し続けることです。それが最高の研究者をここに留めるのにめっちゃ重要です。でも、人工ニューラルネットの時代には、大学の研究者を引き留めるためにはかなりの計算リソースも必要です。
政府はそのための取り組みをしようとしとります。AI研究のための計算リソースに20億ドルを確保しました。できることをしとると思います。明らかに、中国やアメリカよりずっと小さな国ですけどな。でも、持ってるリソースを考えたら、カナダはかなりよくやっとると思います。
次の質問は、トロント大学ニュースのラフル・カルヴェッリからです。ヒントン教授への質問です。「科学界で人工ニューラルネットワークへの関心が薄れた時期にも、あなたはその研究を続けました。不人気や無駄だと思われるような取り組みを続けることについて、教授や学生へのメッセージはありますか？」
わたしのメッセージはこうです。何かを信じとるなら、その信念が間違っとる理由がわかるまで諦めんでください。よく、何かを信じとって、最終的にそれが間違っとる理由がわかることがあります。
でも、何かを信じとって、それが間違っとる理由がわからへん限り、例えば「脳はどういうふうに機能してるんやろう。だから、どうやって結合の強さを学習して機能するようになるのかを理解せなあかん」みたいなことを信じとる限り、それに取り組み続けてください。
そして、それがナンセンスやと他人に言われても、自分でなぜナンセンスなのかわからへん限り、気にせんでください。
ありがとうございます。次の質問は、読売新聞の小林康弘さんからです。「AIはいつ人間の能力を超えるでしょうか？その結果、何が起こるでしょうか？」
誰もいつ起こるかわかりません。でも、わたしの知っとる優秀な研究者のほとんどは、それは起こると考えとります。わたしの予想では、たぶん今から5年から20年の間に起こると思います。もっと長くかかるかもしれません。めっちゃ小さな可能性ですが、もっと早く起こる可能性もあります。
そのときに何が起こるかはわかりません。周りを見渡しても、より知的な存在がより知的でない存在に制御されとる例はめっちゃ少ないです。だから、AIが私たちより賢くなったとき、コントロールを奪うんやないかって考えてしまいます。
ありがとうございます、ヒントン教授。他に質問は見当たりませんが、もし最後の質問がある方がおられましたら、もう少しお待ちします。画面下部のQ&Aツールボックスをお使いいただき、お名前とメディア所属をお書き添えください。あと2、3問お受けできると思います。
トロント大学ニュースのラフルから、ガートラー学長への質問が来ました。「ヒントン教授のノーベル賞受賞が大学全体に与える影響と、AIやその他の分野の学術研究にどのような刺激を与えると考えておられますか？」
めっちゃ大きな影響があると思います。めっちゃポジティブな影響やと思いますわ。わたしがトロント大学の若手助教授やった頃、1986年に別の著名な科学者のジョン・ポラニーが化学のノーベル賞を受賞したんです。そのとき、わたしたちの知的コミュニティがどれほど誇らしく感じたか、今でも覚えとります。
それ以来、化学だけやなく、トロント大学全体にポジティブな影響を与え続けとります。ジェフの今回の受賞も、同じようなポジティブな効果があると思います。大学全体のモラルを上げるだけやなく、素晴らしい人材を引き付け、留めることにも役立つと思います。
ジェフも今日の質問への回答でそのことに触れとりましたな。こういう受賞によって、カナダ、トロント、そしてトロント大学が、国内外から才能ある新人や素晴らしい学生、優秀な教員を迎え入れる能力が高まることは、いくら強調してもし足りないくらいです。
ありがとうございます、ガートラー学長。では、再びヒントン教授に質問が来ています。AFPのイサム・アーメドからです。「AIの次のエキサイティングなフロンティアは何だと思いますか？」
わたしは76歳なんで、もうフロンティア研究はあんまりせえへんと思います。安全性に取り組むよう提唱することに時間を使おうと思っとります。
ロボット工学には、めっちゃエキサイティングなフロンティアがあると思います。AIに物を操作する技術を身につけさせることですな。現時点では、人間の方がコンピューターや人工ニューラルネットよりもずっと上手です。でも、その分野でもめっちゃ進歩があると思います。ただ、他の分野よりは時間がかかるかもしれません。
また、これらの大規模言語モデルは、推論能力がどんどん向上すると思います。OpenAIの最新モデルや、Googleのジェミナイの最新バージョンのようなモデルは、推論能力がどんどん向上しとります。それを見守るのはめっちゃエキサイティングやと思います。
次の質問は、トロント・スターのビクトリア・ギブソンからです。ヒントン教授への質問です。「サイバー攻撃や偽のビデオなど、AIが悪い方向に向かう可能性についていくつか具体例を挙げられましたが、ポジティブな役割を果たす可能性についても、もう少し具体的な例を挙げていただけますか？」
ああ、はい。例えば医療の分野を考えてみましょう。オンタリオ州の予算の大部分は医療に使われとります。AIはそこでめっちゃ大きな違いを生み出せると思います。
実際、2016年にわたしは予測をしました。今頃には、放射線科医が通常読み取るような全てのスキャン画像をAIが読み取るようになると予測したんです。その予測は間違っとりました。ちょっと楽観的すぎましたな。それが実現するまでにはあと5年くらいかかるかもしれません。でも、確実にそうなりつつあります。
AIは診断がめっちゃ上手になります。すでに、診断が難しいケースで、医師が40%正解するところを、AIシステムは50%正解します。そして、医師とAIシステムを組み合わせると60%正解するんです。これは大きな進歩です。
北米では毎年何十万人もの人が誤診で亡くなっとります。AIによって診断は格段に良くなるでしょう。
でも、本当に起こることは、1億人の患者を診たことがあるAIのホームドクターを持てるようになることです。めっちゃ知識が豊富で、あなたがどんな病気になっても、はるかに上手に対処できるようになります。なぜなら、あなたのAIホームドクターは、似たようなケースをたくさん見てきとるからです。
ありがとうございます、ヒントン教授。他に質問は見当たりませんが、もし最後の質問がある方がおられましたら、もう一度お知らせします。お名前とメディア所属を記載の上、画面下部のQ&Aボックスに質問を入力してください。
最後の質問が来るのを待っとる間に、ヒントン教授、この記者会見で触れてへんことで、何か言及したいことはありますか？あるいは、これまでの様々な質問の中で見落としてることはありますか？
一つ、ちょっとしか触れてへんことがあります。好奇心駆動型の基礎研究の役割についてです。人工ニューラルネットの基礎的な仕事は、ほとんど全て大学の研究者によって行われました。ただ好奇心に従って研究してただけなんです。
そういう研究に資金を提供することはめっちゃ重要です。他の種類の研究ほど高くつかへんけど、後に高価で技術的に複雑なものの基礎を築くんです。
ありがとうございます。トロント・スターのビクトリア・ギブソンから、もう一つ質問が来ました。たぶん、先ほどの医療とAIに関する話の続きやと思います。「あなたが予測したほどAIが医療で大きな役割を果たしていない理由は何だと思いますか？まだ障壁はありますか？」
一つの障壁は、医療専門家がめっちゃ保守的やということです。それには正当な理由があります。間違えたら人が死ぬ可能性があるんやから、保守的なのは正しい方針です。
でも、新しい技術の採用が比較的遅いんです。もう一つの理由は、わたしがスキャンの読み取りでAIシステムが放射線科医より優れるようになるスピードを見誤ったということです。
今では、いろんな種類のスキャンで放射線科医と同等の性能を発揮しとって、いくつかの分野では放射線科医より優れとります。あと数年すれば、間違いなく放射線科医より優れるようになると思います。
そうなったら、放射線科医とAIシステムの協力が見られるようになるでしょう。AIシステムがスキャンを読み取り、放射線科医がそれが間違いを犯してへんかチェックするんです。そのうち、AIシステムがほとんど全ての仕事をするようになると思います。
わかりました。ありがとうございます、ヒントン教授。これで質問の時間は終わりです。
チャットボックスにメールアドレスが表示されとると思います。追加の質問がある場合は、そちらにご連絡ください。メールアドレスは media.relations@utoronto.ca です。
では、ガートラー学長に閉会の言葉をお願いします。
ありがとうございます、リサ。そして、ジェフ、改めておめでとうございます。この素晴らしい功績に対して。
トロント大学のコミュニティ全体を代表して、そしてカナダ全体、さらには世界中のあなたの多くの友人、同僚、賞賛者を代表して申し上げますが、今日認められたあなたの功績を、わたしたちはめっちゃ誇りに思っとります。
また、この素晴らしいお祝いの会に参加してくださった皆様にも感謝いたします。乾杯！