AIが自然と宇宙の秘密を解き明かす方法 |デミス・ハサビス | TED

クリス・アンダーソン: デミス、ここに来てくれてとてもうれしいです。
デミス・ハサビス: ここに来られて最高です。ありがとう、クリス。
Time誌で「私は大きな疑問、本当に大きな疑問を理解したいと思っています。通常、それらに興味がある場合は哲学や物理学に進みます。私はAIを構築することが、それらの質問のいくつかに答える最も速い方法だと思いました。」と言っていましたね。なぜそう思ったのでしょうか?
DH: (笑)そうですね、子供の頃、私の好きな科目は物理学で、現実の根本的な性質、意識とは何か、大きな疑問すべてに興味がありました。そういうことに興味があれば、普通は物理学に進みます。でも私はファインマンなど、歴代の科学的ヒーローの偉大な物理学者の多くを読みました。そして気づいたのは、ここ20〜30年、これらの基本的な法則の理解においてあまり進歩がないということです。だから私は、人工知能という究極のツールを構築して、私たちを助けるのはどうかと考えました。同時に、そうすることで脳や自分自身についてもよりよく理解できるかもしれません。だから、それは信じられないほど素晴らしいツールであるだけでなく、大きな疑問それ自体にも役立つのです。
CA: すごく面白いですね。明らかにAIにはできることがたくさんありますが、この会話では、AIが本当に大きな疑問や巨大な科学的ブレークスルーを解き明かすためにできることに焦点を当てたいと思います。それがあなたとあなたの会社を駆り立ててきたテーマだったからです。
DH: そうですね、AIができる大きなことの1つは、私がずっと考えてきたことですが、20〜30年前のインターネット時代やコンピュータ時代の初期から、生成されるデータ量や科学的データ量が、多くの場合、人間の心では理解できないほど多くなっていることです。そしてAIの用途の1つは、膨大な量のデータからパターンや洞察を見つけ出し、人間の科学者がそれを理解して新しい仮説や推測をするために役立てることだと思います。科学的方法とも非常に相性が良いと思います。
CA: そうですね。でも、ゲームプレイはこのことを理解するためのあなた自身の旅の中で大きな役割を果たしてきました。左の若い男の子は誰ですか?誰なんですか?
DH: それは私で、9歳くらいだったと思います。イングランドのU-11チームのキャプテンを務めていて、4カ国対抗トーナメントに出場しているところです。だから全員が赤を着ているんです。フランス、スコットランド、ウェールズと対戦していたと思います。
CA: それって変だな。僕にも同じことが起きたんだ。夢の中でね。(笑)
そしてチェスだけじゃなくて、あらゆる種類のゲームが大好きだったんだね。
DH: そうですね、あらゆる種類のゲームが大好きでした。
CA: そしてDeepMindを立ち上げるとすぐに、ゲームプレイに取り組み始めました。なぜですか?
DH: そうですね、実はゲームこそが私をAIに興味を持たせてくれたきっかけなんです。イングランドチームと一緒に合宿に行ったりしていた頃、実は80年代半ばだったと思いますが、当時の初期のチェスコンピュータを使って、お互いに対戦するだけでなく、トレーニングもしていました。プラスチックの大きな塊で、物理的なボードがあって、マス目を押し下げると、LEDライトがついたのを覚えていますか。私はチェスのことだけでなく、誰かがこのプラスチックの塊をプログラムして賢くして、実際に非常に高いレベルでチェスができるようにしたという事実にただ魅了されました。そして私はただ驚きました。そして、それは私に思考について考えさせてくれました。脳はどのようにしてこれらの思考プロセスやアイデアを生み出すのか、そして私たちはどのようにしてコンピュータでそれを模倣できるのか。だから、それは私の人生全体を通してのテーマだったんです。
CA: でもDeepMindを立ち上げるためにこれだけの資金を調達して、かなりすぐにこれを使ってゲームをプレイし始めましたよね。例えばこんなことをしていました。ちょっと奇妙な使い方ですね。何が起こっていたんですか?
DH: DeepMindの初期、2010年頃はゲームから始めました。これは約10年前の最初の大きなブレークスルーです。1970年代の古典的なアタリゲーム、つまり存在する中で最もシンプルなコンピュータゲームから始めたんです。ゲームを使った理由の1つは、アイデアやアルゴリズムをテストするのに非常に便利だからです。テストするのが本当に速いんです。そしてシステムがより強力になるにつれて、より難しいゲームを選ぶこともできます。これは私たちのマシンが初めて私たちを驚かせた瞬間でした。多くの驚きの最初の1つで、ブレイクアウトというゲームで、ボールを壁の裏側に送ると、実際には壁のタイルを全部はじき出すのにはるかに安全な方法だということを発見したんです。これは古典的なアタリゲームです。そして、それが私たちの最初の本当の「あっ」という瞬間でした。
CA: このシステムは戦略をプログラムされていなかったんですね。ただ勝つ方法を見つけ出そうとしただけで、下のバットを動かして勝つ方法を見つけようとしただけなんですね。
DH: 当時は本当に革命的でした。2012年、2013年のことで、私たちはこれらの用語「深層強化学習」を作り出しました。そしてそれらのシステムの重要な点は、画面上の生のピクセル、つまり3万個のピクセルから直接学習していたことです。他には何も教えられていませんでした。スコアを最大化しろ、画面上のピクセルはこれだ、という風に言われただけでした。システムは自分で最初の原理から、何が起こっているのか、何を制御しているのか、どうすればポイントを得られるのかを理解しなければならないのです。そしてゲームを使うもう一つの良い点は、勝つ、スコアを得るという明確な目標があることです。だから、システムが改善していることを非常に簡単に測ることができるのです。
CA: でもそれから数年後、韓国や多くのアジアの国々、そして実際に世界中が熱狂した、このようなことにつながっていきました。何に対して熱狂したのでしょうか?
DH: そうですね、これは私たちのゲームプレイの仕事の頂点でした。2016年のことです。アタリをやって、もっと複雑なゲームをいくつかやって、そして頂点に達したのがこの囲碁というゲームでした。アジアではチェスの代わりにプレイされていますが、実際にはチェスよりも複雑なんです。チェスを制覇するために使われていた実際のブルートフォースアルゴリズムは、囲碁では不可能でした。囲碁ははるかにパターンベースのゲームで、はるかに直感的なゲームだからです。だから、ディープ・ブルーが90年代にガルリ・カスパロフに勝ったとしても、私たちのプログラムAlphaGoが囲碁の世界チャンピオンに勝つまでには、さらに20年かかったのです。そして、私と何年もこのプロジェクトに取り組んできた人たちは、囲碁の世界チャンピオンに勝つシステムを構築できたら、それはとても興味深いことをしたに違いないと常に考えていました。そしてAlphaGoでは、何百万回も何百万回もゲームを自分自身と対戦させることで、囲碁のアイデアや正しい戦略を自分で学習したのです。そして実際、囲碁の世界で見たことのない新しい戦略を発明したのです。2000年以上も囲碁をプレイしてきたのに、それは存在する中で最も古いボードゲームなのに。だから、とても驚くべきことでした。試合に勝っただけでなく、全く新しい戦略も生み出したのです。
CA: そして、囲碁について何も教えずに、最初の原理から自分で教えることができるようなシステムを設定するという新しい戦略で、これを続けました。AlphaZeroと、チェスで起こった驚くべきことについて話してください。
DH: これに続いて、AlphaGoでは、インターネット上でプレイされているすべての人間のゲームを与えることから始めました。だから、それが知識の基本的な出発点だったのです。そして、ゼロから始めたらどうなるか、文字通りランダムなプレイから始めたらどうなるか見てみたかったのです。AlphaZeroがゼロなのはそのためです。名前にゼロがあるのは、事前の知識がゼロから始まったからです。そうした理由は、より一般的なシステムを構築できるからです。AlphaGoは囲碁しかできませんでしたが、AlphaZeroは2人用のゲームなら何でもプレイできました。最初はランダムにプレイし、徐々に、少しずつ改善していったのです。いや、そんなにゆっくりではありませんでしたが、24時間の間に、ランダムから世界チャンピオンレベル以上になったのです。
CA: 私にとってすごく驚きなのは、その信頼性の高さです。つまり、これを見ると、モデルがあって、実験をすると...確かにタンパク質は同じ方になります。2億回も。
DH: そしてタンパク質の奥深くに入れば入るほど、それらがどれほど絶妙なものであるかがわかってきます。これらのタンパク質がどれほど美しいかをご覧ください。そしてこれらのものはそれぞれ、自然界で特別な機能を果たしています。そしてそれらはほとんど芸術作品のようです。そしてAlphaFoldが、緑が正解で、青が予測ですが、どれだけうまく予測できるかは今でも驚かされます。平均して原子の幅以内の精度で予測できるのです。これは生物学者が使うのに必要な精度で、薬のデザインや病気の理解に役立ちます。AlphaFoldはそれを可能にしてくれるのです。
CA: あなたは驚くべき決断をしました。2億個のタンパク質の実際の結果を無料で提供したのです。
DH: 私たちはAlphaFoldをオープンソース化し、素晴らしい同僚であるヨーロッパバイオインフォマティクス研究所と共に巨大なデータベースで全てを無料で提供しました。(拍手)
CA: あなたはGoogleの一員ですよね。「デミス、一体何をしたんだ?」という電話はなかったんですか?
DH: 幸運なことに、とてもサポーティブな、Googleは科学に本当に協力的で、これが世界にもたらす利益を理解してくれています。ここでの議論は、私たちだけでは、これでできることの可能性のほんの一部しか実現できないということでした。これは、科学界が行っていることのほんの100万分の1かもしれません。世界中で150万人以上の生物学者がAlphaFoldとその予測を使っています。世界中のほぼすべての生物学者、すべての製薬会社がこれを利用していると思います。だから、それらすべての完全な影響がどうなるかは、おそらく私たちには決してわからないでしょう。
CA: しかしあなたはGoogleから分離した新しい会社Isomorphで、この仕事を続けています。
DH: Isomorphicです。
CA: Isomorphic。そこでのビジョンを少し教えてください。ビジョンは何ですか?
DH: AlphaFoldは基礎生物学のツールのようなものです。これらの3D構造は何なのか、そして自然界でどのような機能を果たしているのか?そしてこれについて考え興奮しました。それは、病気を理解し、薬の設計に役立つ可能性がある、ということです。タンパク質の形がわかれば、そのタンパク質のどの部分の表面を薬物化合物でターゲットにするかがわかります。Isomorphicは、AlphaFoldで行ったこの仕事を化学の領域に拡張しています。そこでは、タンパク質の適切な場所に正確に結合し、重要なことに、体内の他の場所には結合しない化学化合物を設計することができます。だから副作用がなく、毒性がないのです。そして私たちは、化学の領域で予測を行うために、AlphaFoldの姉妹モデルのようなものを他にも多く構築しています。
CA: ここ数年で、かなり劇的な健康や医学の突破口が開かれることが期待できそうですね。
DH: 新薬の発見を数年から数ヶ月に短縮できると思います。
CA: なるほど。デミス、ちょっと方向を変えたいと思います。私たちの共通の友人、リヴ・ボエリーが去年TEDAIで「モロクの罠」と呼ぶ講演をしました。モロクの罠とは、競争の中で、その会社を運営している個人が自分では決してしないようなことを組織や会社がせざるを得なくなる状況のことです。私はこの講演に本当に衝撃を受けました。素人目には、ここ数年、モロクの罠が衝撃的に発動しているように感じられました。あなたはDeepMindで、このような素晴らしい医学的ブレークスルーや科学的ブレークスルーを追求しています。そして突然、まるで青天の霹靂のように、OpenAIがマイクロソフトとともにChatGPTをリリースしました。世界は熱狂し、突然「ああ、AIは...」と思ったのです。誰でも使えるようになったのです。そして、モロクの罠が実際に機能しているような気がしました。マイクロソフトのCEO、サティア・ナデラ氏は実際に「Googleは検索分野の800ポンドのゴリラだ。我々はGoogleをダンスさせたかった」と言ったそうです。どのように...? そして、それは実現しました。Googleはダンスしました。劇的な反応がありました。あなたの役割は変わり、GoogleのAI努力全体を引き継ぎました。製品は急いで発表されました。Geminiは、驚くべき部分と恥ずべき部分がありました。Geminiについては他で述べられているのでここでは聞きませんが、これはモロクの罠が起こっていたように感じられました。あなたや他の人たちは、この種の触媒となる競争的なことがなければ、やらなかったようなことをするように押しやられたのです。Metaも同様のことをしました。AIのオープンソース版を急いでリリースしましたが、これは無謀な行為だと言えるでしょう。これは恐ろしいことのように思えます。恐ろしいことなのでしょうか?
DH: もちろん、これは複雑な話題です。まず第一に、言うべきことがたくさんあります。第一に、私たちは多くの大規模な言語モデルに取り組んでいました。実際、ご存知のように、Google Researchが5、6年前に、これらすべてを可能にしたアーキテクチャであるTransformersを発明したのです。だから私たちは内部に多くの大規模なモデルを持っていました。ChatGPTの瞬間が変えたことは、彼らにとっても少し驚きだったと思いますが、一般の人々がこれらのシステムを受け入れる用意ができていて、実際にこれらのシステムに価値を見出していることを実証したことです。それらがどれほど印象的であっても、私たちがこれらのシステムに取り組んでいるとき、ほとんどの場合、それらの欠陥やそれらができないこと、幻覚のようなものに焦点を当てています。これらのことは今ではよくご存知だと思います。私たちは、それらの問題を改善してから一般に公開したいと考えていました。しかし興味深いことに、そのような欠陥があっても、何千万人もの人々がそれらを非常に役立つと感じていることがわかりました。だから、それは、製品と科学の収束について、私たちが実験室でやってきたこれらの素晴らしいことのすべてが、実際には科学の限られた世界を超えて一般の使用に適していることを示す興味深い更新でした。そして、それは多くの点で非常にエキサイティングだと思います。
CA: 現時点では、私たち全員が楽しんでいるエキサイティングな製品の配列があります。そして、この生成AIのものはすべて素晴らしいです。でも少し時計を進めてみましょう。マイクロソフトとOpenAIは、今日のどんなものよりも何桁も大きな計算能力を提供できる、絶対的なモンスターデータベーススーパーコンピュータを1000億ドルで構築または投資していると報じられています。このデータセンターを動かすのに5ギガワットものエネルギーが必要だと推定されています。ニューヨーク市のエネルギーに相当します。私たちはこの巨大な脳にこれだけのエネルギーを注ぎ込んでいるのです。Googleも、この種の投資に匹敵するものを行うでしょう。そうですよね?
DH: 私たちは具体的な数字については語りませんが、時間をかけてそれ以上の投資をしていくと思います。それが2014年にGoogleとチームを組んだ理由の1つでもあります。AGIに到達するためには大量の計算能力が必要になることはわかっていました。そして、それが明らかになってきました。Googleは、当時も今も最も多くのコンピュータを持っていました。
CA: 地球は、将来の経済の多くを支えるであろう巨大な脳のような巨大なコンピュータを構築しているのです。そしてそれはすべて、互いに競争している企業によるものなのです。誰かが先行し、誰かが1000億ドルを投資している状況を、どうすれば避けられるでしょうか。誰かが「ちょっと待って。ここで強化学習を使って、AIに自分のコードを微調整させ、自分自身を書き換えさせ、とてつもなく[強力]にすれば、週末の9時間で彼らがやっていることに追いつけるかもしれない。サイコロを振れ、クソッタレ、選択肢はない。さもないと株主のために大金を失うことになる」と言うのではないでしょうか。どうすればそれを避けられるのでしょうか?
DH: そうですね、もちろん明らかに避けなければなりません。私の考えでは、AGIに近づくにつれ、もっと協力する必要があります。良いことに、これらの研究所に関わっているほとんどの科学者はお互いをよく知っています。そして、学会などでお互いによく話をしています。そしてこの技術はまだ比較的新しいものです。だから、今起こっていることはおそらく大丈夫なのです。しかしAGIに近づくにつれて、社会として、構築されるアーキテクチャの種類について考え始める必要があると思います。もちろん、だからこそ私は人生をかけてAIに取り組み、AGIに向けて努力してきたのですから、私は非常に楽観的です。しかし、最初のタイプのAGIシステムとして安全なアーキテクチャを構築することが、人類が通過しなければならない一種のボトルネックだと思います。そして、その後、理想的には数学的な保証、あるいは少なくとも実用的な保証を伴う、安全なアーキテクチャから分岐した多くの異なるタイプのシステムが繁栄できるようになると思います。
CA: 公平な競争の場がどのようなものか、そして絶対にタブーなものは何かを定義するために、政府には不可欠な役割があるのでしょうか?
DH: そうですね、これは単に...実際、政府や市民社会、学界、そして社会のあらゆる部分が、産業界の研究所と共に、AGIに近づくにつれてそれがどのようなものであるべきか、必要な協力と協調について形作るために重要な役割を果たす必要があると思います。そういった暴走レースのダイナミクスが起こるのを防ぐためにです。
CA: なるほど。あなたは楽観的であり続けているようですね。この画像は何ですか?
DH: これは私のお気に入りの画像の1つです。私はこれを「すべての知識の木」と呼んでいます。科学についてたくさん話してきましたが、多くの科学は、世界に存在するすべての知識を知識の木として想像し、そして今日文明として知っていることは、その一部に過ぎないと考えることができます。そして私はAIを、科学者としての私たちが、いつかその木全体を探索できるようにするツールだと見ています。そして私たちはルートノードの問題という考えを持っています。AlphaFoldのタンパク質折りたたみ問題のように、それを解くことができれば、発見や新しい研究の全く新しい枝を解き放つことができるのです。そしてそれこそが、DeepMindとGoogle DeepMindで私たちが取り組んでいることなのです。そしてこれを正しく行えば、根本的な病気をすべて治療し、意識を星にまで広げるような、信じられないような新しい時代に突入できるかもしれません。最大限の人間の繁栄を。
CA: 時間切れですが、夢の中で、あなたの人生でAIがたどり着けるかもしれないと思う究極の質問は何ですか?
DH: AGIが構築されたら、私はそれを使って現実の根本的な性質を理解しようと思います。プランク・スケールで実験をする。理論的なスケールで可能な最小のスケールであり、それはほとんど現実の解像度のようなものです。
CA: 私は宗教的に育てられました。聖書には、うまくいかない知識の木の物語があります。(笑)人間が知ってはいけないと宇宙が言うような知識を発見するシナリオはありますか?
DH: そういう可能性はあります。知り得ないことがあるかもしれません。しかし、私は科学的方法こそ、人類が今まで考案した中で最大の発明だと思います。啓蒙主義と科学的発見です。それこそが、私たちの周りのこの信じられないほどの現代文明と、私たちが使っているすべてのツールを構築したのです。だから、私たちを取り巻く宇宙の広大さを理解するための最良の技術だと思います。
CA: デミス、あなたはすでに世界を変えてきました。ここにいるみんなが、私たちが正しい方向に加速し続けることを確実にするためのあなたの努力を応援してくれると思います。
DH: ありがとうございます。
CA: デミス・ハサビスさんでした。(拍手)