Google DeepMind の Demis Hassabis 氏との対談

皆さん、ようこそ。私はデミス卿とこの対談ができることを本当に嬉しく思っています。ご存知の通り、デミス卿は最近ナイト爵を授かりました。王から剣で肩を叩かれる儀式にはもう行かれたんですか?
まだこれからです。
そうですか。楽しみですね。お話ししたいことがたくさんあります。ロンドンでこの対談ができるのは素晴らしいですね。デミスさんはここロンドンで育ち、ディープマインドを設立し、現在はグーグル・ディープマインドのCEOとして世界中のグーグルのAI研究を率いていますからね。そこから話を始めましょうか。
2010年にディープマインドを設立した当時、控えめに言ってもAIは自明のものではありませんでした。国際的なAIサミットもなければ、何兆ドルもの投資が注ぎ込まれることもありませんでした。それが今や現実になっています。ディープマインドを設立してから14年が経ちましたが、この間に何が上手くいって、何が上手くいかなかったのか、一番驚いたことは何ですか?
そうですね、15年前に始めた頃は、ほとんど誰もAIについて語っていませんでした。産業界はもちろん、アカデミアでさえそうでした。当時、私とシェーン・レッグはともにユニバーシティ・カレッジ・ロンドンのギャツビー計算神経科学ユニットでポスドクをしていましたが、指導教官には本当のことを言えませんでした。教授は私たちのことを笑い飛ばすか、最悪の場合は研究をやめて売り込みに走ったと思われたかもしれません。
私がやろうとしていたのは、企業の中で最先端の研究、つまり深い研究ができることを示すことでした。また、アポロ計画のような取り組みによって、AIの分野で非常に迅速な進歩を遂げることができると考えていました。実はその15〜20年前からずっと考えていたことですが、2010年頃にはAIに必要な要素がそろってきたと感じていました。
ディープラーニング、当時はディープ・ビリーフ・ネットワークと呼ばれていましたが、ジェフ・ヒントンらが2006年、2007年に基礎となる論文をいくつか発表したばかりでした。まだ広く採用されてはいませんでしたが、GPUが広く利用可能になり始めていました。また、脳のアルゴリズムがどのように機能しているかについても、ある程度の理解がありました。これらすべてを組み合わせることで、本当に急速な進歩が可能になると感じたのです。
当時の出発点はどのようなものだったのでしょうか。今日では、非常に高価なので多くの人にはできませんが、「大規模言語モデルを構築しよう」「資金を調達しよう」などと考える人もいます。しかし、当時はそのようなことは考えられなかったと思います。どこから始めたのでしょうか?
率直に言って、最初のシードラウンドを何とかまとめようとしていたのです。ほとんど不可能でした。最初の2年間は自分に給料を払うこともできませんでした。しかし、これが私たちの生涯の仕事であることは分かっていました。特に私にとっては生涯の仕事でした。ようやくその時が来たのかもしれないと感じていました。
シードラウンドを完了し、この全体的な目標に向けて実際に進展を始めることができ、とてもエキサイティングでした。当時は途方もない目標に見えましたが、ディープテック企業には誰もが20年のロードマップを持っているものです。面白いのは、通常、ジョークのように「20年先の目標は、年月が経っても20年先のままだ」と言われるものですが、信じられないことに、私たちはほぼ予定通りに進んでいるのです。
おそらく最も驚くべきことは、私たちが立てたこれらの仮説が真実であることが判明したことでしょう。研究面やアルゴリズム面では、早い段階から学習と汎用性に賭けていました。強化学習やディープラーニングなどは、アタリの仕事の核心であり、私たちはディープ強化学習の分野を切り開きました。これが正しいアプローチであることが判明しました。
また、もしそれが機能すれば、それは最大のものになるはずだと知っていました。なぜなら、このような汎用知能をほぼあらゆる分野、つまり人間の努力のあらゆる分野に適用できるはずだからです。ここ数年で起こったことは、20年以上前に私たちが知っていたことを、他の誰もが気づいたということだと思います。
先週のGoogle I/Oでデモされた内容の一部は、多くの人が目にしたり耳にしたりしているかもしれませんが、デミスさんから見てハイライトはどんなところだったでしょうか。今日のAIには何ができるのでしょうか。
そうですね、あのイベントは素晴らしかったですね。私にとってのハイライトは、おそらくProject Astraと呼ばれるものだったと思います。これは、私が「汎用アシスタント」または「汎用AIエージェント」と呼んでいるものがどのようなものになるか、そして日常生活でどのように役立つかというビジョンを示したものです。
その最大の特徴は、マルチモーダルであることです。つまり、人間として活動する上で扱うさまざまなモダリティや、自分が置かれている状況を理解する能力があるということです。言語エージェントに欠けていたのは、この状況理解、つまり自分が置かれている空間的な状況や環境の理解だと思います。これが最終的に言語エージェントの有用性を制限してしまうのです。
私たちは常に、視覚を通して周囲の世界を理解し、最終的には聴覚やその他すべての感覚を通しても理解できるようなものを想像してきました。だからこそ、Geminiという大規模モデルを最初からマルチモーダルに構築したのです。どんな入力にも対応でき、最終的にはどんな出力も生成できる一連のモデルにしたのです。
これが、おそらく次の1、2年で私たちが描いているビジョンです。本当に賢いアシスタントを実現することです。これは大きなゲームチェンジャーになると思います。
Astraのデモ動画を見ていない方は、ぜひご覧になることをお勧めします。ネタバレはしたくありませんが、動画の最後の方に、これらのシステムの力、つまり動画側の非常に長いコンテキストを実際に持つことの力を示す部分があると思います。
そのとおりですね。Gemini 1.5シリーズで出てきた革新の1つが、この100万トークンという長いコンテキストです。実際には200万トークンにまで拡張しており、もっと先に行けるかもしれません。つまり、『戦争と平和』全体や、1時間の動画さえも取り込むことができるようになったのです。そして、そのアミノ酸配列について、システムに質問をすると、知的に答えてくれるのです。
これにより、分析ツールや研究アシスタントとしての新たな可能性が開かれます。また、Astraでは明らかにライブ動画をストリーミングしていて、動画ストリームの中で以前に偶然に起こったことを覚えておくようなこともしています。お年寄りの方が薬の置き場所を思い出すのに役立ったり、車の鍵の置き場所を思い出すのに役立ったりするかもしれません。これらのシステムの使い道については、まだほとんど手をつけていないと思います。
デミスさんの意見を聞きたいと多くの人が興味を持っていると思うのですが、今後数年間で「より強力なパーソナルアシスタント」のような人工知能アシスタントが登場すると既に述べられていますね。残された大きな未解決の課題で、今後数年間で進展が見られそうなものは何だと考えていますか?
現在のシステムに欠けているのは明らかで、私は何度か公の場で言及しましたが、マルチモーダリティやメモリはまさに私たちが取り組んでいて、良い進歩を遂げているものです。しかし、プランニングやアクションが欠けています。ある種の推論は行われていますが、本当の意味での推論ではありません。
この文脈でのプランニングとは何を意味するのでしょうか?
つまり、システムに設定された目標を達成する能力のことです。世界の中で行動を起こし、アクションを取る必要があります。過去に私たちが有名になったゲームエージェントのようなものですね。アルファ碁を例に取ると、ユーザーがシステムに与える目的があります。ゲームでは通常、ゲームに勝つこと、あるいはポイントを最大化することが目的ですね。
そして、その目的が非常に複雑だったり抽象的だったりする場合、システムはそれを達成可能な一連のステップ、中間目標、中間計画に分解する能力を持っている必要があります。そして、それが全体的にこのより大きな計画に組み上がっていくのです。これには、例えば、ある状況でどのようなことが起こるかを評価するために、計画の軌跡を「頭の中」で3次元的に想像するなど、ツリー探索のようなことを行う必要があるかもしれません。
つまり、現在のシステムにはない多くの追加機能が必要になるのです。そして、私たちに必要なのは、アルファ碁のようなプログラムの計画のために行ったようなことを、もちろんゲーム環境だけに限定されるのではなく、言語のすべてと、おそらく周囲のマルチモーダルな状況のすべてと組み合わせることだと思います。そのモデルを使って計画を立てる、それが次の大きな進歩になると思います。
これは非常に重要なことですね。この数年、特に大規模な言語モデル、そして今ではマルチモーダルモデルがこれほど優れたものになった理由の1つは、明らかに、トレーニングとインファレンスに投入される膨大な計算量にあると思います。
「スケールこそがすべて」と言う人もいますが、デミスさんのお話を聞いていると、スケーリングだけでは得られない新しいアイデアがあるようですね。
そうだと思います。スケーリングは間違いなく必要で、これらの大規模モデルは、例えばAGIのような全体的なソリューションの一部になるでしょう。それについてはほとんど疑いの余地はないと思います。問題は、スケーリングで十分なのかということです。
私たちが議論しているようなプランニングなどの特性の一部は、少し異なる種類の計算のように感じられます。
ですから、私の推測では、人間レベルのAIにたどり着くまでには、まだ少数の大きなブレークスルーが必要かもしれません。
これは、大規模なマルチモーダルモデルとは非常に異なるパラダイムのAI、つまり科学のためのAIについて話を進めるのに良いきっかけになるかもしれません。Google Deep Mindは、この分野でユニークな強みを持っていると思います。数週間前、永遠のように感じられますが、AIでは毎週のように進歩の世代があるようで、2週間か3週間前に、Alpha Fold 3をリリースしました。私の知る多くの科学者たちは、これを革命的だと表現していました。生物学に詳しくない人のために、それが何なのか説明していただけますか?
まず、数年前にリリースしたAlpha Fold 2から始めましょう。これは、生物学の大きな課題の1つ、つまり50年来の大きな課題であるタンパク質の折りたたみ問題を本質的に解決したプログラムです。
タンパク質は生物学の働き手であり、体内のすべてのもの、生物学のすべてがタンパク質に依存しています。タンパク質はアミノ酸配列、つまり大まかにはタンパク質の遺伝子配列によって記述されています。タンパク質の折りたたみ問題とは、その遺伝子配列、アミノ酸配列から、そのタンパク質が体内で折りたたまれる3次元の形状を予測できるかということです。
これが重要なのは、3次元の形状がそのタンパク質の機能について多くのことを教えてくれるからです。病気を理解したり、何かをターゲットとする薬を設計したりするには、タンパク質の3次元の形状を理解する必要があります。
これまでは実験的にそれを得るのが非常に難しく、5年ほどかかっていました。1人の博士課程の学生が博士号を取得するまでの間に、1つの構造を決定するのが相場だったのです。しかし、ヒトには2万個のタンパク質があり、自然界全体では科学に知られているだけで2億個のタンパク質があります。このペースでは永遠にかかってしまいます。
そこで、計算による解決策が求められたのです。それがAlpha Fold 2でした。これは本質的にその問題を解決しました。そして、私たちは1年かけて2億個のタンパク質すべてを折りたたみました。これは、博士課程の学生の時間に換算すると、10億年分に相当します。信じられないことですが、それを1年でやったのです。これこそが計算手法の力だと思います。
そして先ほど言及したAlpha Fold 3は、それをさらに一歩進めたものです。生物学は静的なシステムではなく、動的で新たに出現するシステムです。ですから、生物学を本当に理解するには、その動的な側面を理解したいのです。つまり、Alpha Fold 2はタンパク質の静的な写真のようなもので、Alpha Fold 3ではタンパク質が他の生体分子とどのように相互作用するかを理解できるようになりました。
もちろん他のタンパク質とも相互作用しますが、DNAやRNAの鎖とも、そしてリガンドのような化合物、つまり薬剤探索に役立つ化学物質とも相互作用します。これはまた大きな飛躍であり、私たちが目指しているのは、最終的には仮想細胞、つまり細胞の働きを本当に正確にモデル化することです。そうすれば、その仮想細胞でシリコン上の実験を行うことができ、それが実際の研究室で起こることを知るのに役立つでしょう。
これで何をしたいのでしょうか。みなさんはディープマインドについては聞いたことがあると思いますが、イスモアラボについてはあまりご存知ないかもしれません。イソモーフィックとは何で、どのような計画をお持ちなのでしょうか。
Alpha Fold 2が完成した後、イソモーフィックを立ち上げました。私たちがタンパク質の折りたたみに興味を持ったのは、最終的には薬の設計方法を一新するためでした。最初のステップはタンパク質の表面を理解することです。次のステップは、イソモーフィックが行っているように、タンパク質の適切な部分に結合する薬物化合物を設計することです。
理想的には、他の部位には結合しないことです。それは副作用になりますからね。つまり、オフターゲットの結合を最小限に抑えたいのです。イソモーフィックは、Alpha Foldをより動的なものにするために常に改良を重ねていますが、化学モジュールなど、より生化学に特化したモジュールも開発しています。これは、適切な場所に結合する分子を設計するための生成AIにとって、またとない領域だと思います。
Alpha Foldは、基礎生物学や疾患の理解など、今や何百万もの用途に使われていますが、薬の設計や薬剤探索のあり方を一変させ、年単位から月単位に短縮することが期待されています。
AIの観点から特にクールだと思うのは、デミスさんとあなたのチームが科学分野でやってきたことの影響は別として、AIが単一のものではないことを示していることです。つまり、大規模な言語モデルだけではないのです。
今年の初め、あるいは去年の終わりごろに発表された論文に、国際数学オリンピックの問題を解くAlpha Geometryがありました。ご存じない方のために説明しますと、これは非常に難しい数学の問題で、AGIができる前の最後の問題の1つだと言われていました。しかし、Alpha Geometryはほぼ金メダルレベルの精度でこの問題を解いています。
そうですね。幾何学の問題は、通常の国際数学オリンピックの問題セットの約3分の1を占めるだけですが、幾何学以外の分野でも進歩を遂げています。
数学は、このようなシステムにとても適していると思います。ゲームの中の動きのように考えることができるかもしれません。ある関数を別の関数に変換したり、数学的な操作を行ったりするのは、ゲームの中で動きをするようなものです。そして、新しい状態の方程式が何かを解くために進歩しているかどうかを評価する必要があります。
私たちはこれをほぼ無限に適用できると思います。そして、近いうちに国際数学オリンピックでも金メダルレベルに到達できるでしょう。そしてそれは、推論やコーディングなど、他のことにも応用できるかもしれません。
これらのシステムでよくあるのは、ある方向に向けて改善すると、それを主要なシステムに移植して改善することができるということです。しかし、あなたが指摘したように、大規模な言語モデル以上のことが行われているのです。
私は、しばらくの間、特殊なシステムがAlphaのようなAGIシステムレベルで非常に興味深いことができるようになると思います。しかし、今のところ、今後数年間は両方が必要になると思います。
面白いのは、汎用システムが特殊システムを呼び出すことができるということです。汎用システムがツールの使い方を学習し、これらの特殊システムを使って数学的能力やコーディング能力、チェスのようなゲームをすることができるという、ハイブリッドな概念を私たちは調査しています。
ゲームの話が出ましたが、ゲームの話をしましょう。デミスさんは非常に真剣なチェスプレイヤーでした。そして、AlphaGoで碁に勝ったことは有名です。多くの人がドキュメンタリーを見ていると思います。
それほど知られていませんが、一般に知られているのは、デミスさんがディプロマシーのチャンピオンプレイヤーだということです。ディプロマシーがどんなゲームか知らない人もいるかもしれませんが、同盟と裏切りのゲームです。非常にオープンエンドで、チェスのように動きが限られているわけではありません。
少し驚いたことに、これもAIが大きな進歩を遂げている分野なのです。ゲームについてどう考えていますか。AIにはまだ勝てないものがありますか。
そうですね、ゲームは常にディープマインド設立の基本的なテーゼの一部でした。ゲームを便利なテストの場として使うことです。
非常に野心的なディープテック企業を始める時に、いつも問題になるのはこのことだと思います。おそらく聴衆の中にもディープテック企業に携わっている方が多いと思いますが、20年先を見据えた壮大な目標がある一方で、それを中間マイルストーンに分解できなければなりません。
明らかにスポンサーや投資家に進捗を示すためですが、チームや自分自身に対しても、実際に正しい方向に進んでいることを証明するためです。
私たちはディープマインドでそれをうまくやったと思います。アタリやゴー、タンパク質の折りたたみなど、適切な中間目標を選んだことです。ゲームは、私の背景からして、若い頃からたくさんのゲームをプレイしてきましたし、自分の心をゲームで鍛えてきたので、常に頭の中にありました。
ゲームにはAIアルゴリズムをテストするのに適した属性がすべて揃っていると思います。しかし、ここ数年で、AIはほぼどんなゲームでも非常に高いレベルでプレイできるようになったと思います。
私たちにとってのAlphaZeroは、AlphaGoの進化版でしたが、2人用の完全情報ゲームならどんなゲームでもプレイできるようになりました。もちろん、ポーカーやディプロマシーのように、言語や隠された情報があるなど、他の課題もあります。
しかし、そのような分野でも、現在のAIシステムはかなり優れていますが、言語モデルが単純なチェスゲームでさえひどいプレイしかできないのは、いつも驚かされます。本当にイライラしますし、何とかしなければなりません。私たちも取り組んでいます。
でも、それが抱えている問題について興味深いことを物語っていますね。言語モデルには、明示的に維持できるボードの状態、アクティブな状態がありません。現時点でそれに失敗しているのは面白いことです。
スケールでこの問題は解消されると思いますか。AELという、はるかに単純なゲームに関する論文を読んだことがあります。ゲーム内で何が起こっているかについて、ある程度の表現を持っている証拠があります。
ある程度の表現はありますが、特にチェスのように精密なゲームでは、誤認が特に多いのです。通常のオープニングから外れて、もはやパターンマッチングではなくなると、自分の駒を取ったりするのです。どこに何があるのか、ただ忘れてしまうのです。明らかに何かが欠けていますね。
これは実際には非常に重要なことで、おそらく現在のシステムの能力に大きな穴があることを示唆していると思います。必ず修正されるとは思いますが、スケールだけではなく、何かが欠けていることを示唆していると思います。
デミスさんが触れた話題で、もう少し掘り下げたいと思っているのが、起業家精神、特に英国における起業家精神です。ディープマインドを始めた頃、英国で実際に企業を立ち上げる人はほとんどいませんでした。特にそのようなディープテック企業はほとんどありませんでした。
結局、資金の多くを英国外から調達することになりました。今日の英国の起業家としての立場はどうでしょうか。
私の感覚では、2010年当時とは雲泥の差です。何かを始めるのは難しかったですが、特にディープテック企業を始めるのは本当に難しかったと思います。
英国の投資コミュニティでは、そのようなことへの理解がほとんどなく、また、長期的な見返りがあるかもしれない何かに資金を提供するという意欲もほとんどありませんでした。明らかに見返りは莫大なものになるはずなのですが。
結局、米国に行くことになりました。実際、そこでもベンチャーキャピタルというよりは、自分で成功した個人の起業家たちが支援してくれました。彼らはそのような旅がどのようなものかを理解していました。
私が英国に留まった理由の一つは、もちろんここで育ったことと、ここが大好きだということもありますが、英国には膨大な人材がいると思ったからです。いつもそうでした。
世界のトップ10大学のうち3、4校が英国にあるというのは、ご存知ないかもしれません。そして、それは常にそうだったのです。だから私たちは素晴らしい人材を生み出しているのです。
以前は、例えばケンブリッジで物理学の博士号を取得したような人が、ヘッジファンドで働きたくなくて、英国に留まりたいと思っても、あまり選択肢がなかったのです。
だからこそ、ディープマインドをロンドンで立ち上げたのです。英国で、そして実際にはヨーロッパのほとんどで、ほぼ無敵の状態でその人材プールを最大限に活用できると感じたのです。
スイスやドイツなどの大きな工科大学を見てみると、それは最初の5、6、7年間は素晴らしくうまくいきました。そして、人々はそれに気づき始めました。今では、多国籍企業がロンドンに拠点を置いていることを見るのは素晴らしいことですし、ベンチャーキャピタルもそうですね。ディープマインドは、ディープテックの分野で英国の地図に名を刻むだけでなく、英国で成功できることを証明し、ベンチャーキャピタル業界に向けて人材基盤があることを示すのに、無視できない役割を果たしたと思います。これによって、その後に続く企業にとって状況がずっと良くなったことを願っています。
英国にはバイオテクノロジー、フィンテック、量子コンピューティングなど、多くの強みがあります。これらの分野では優れた大学の学部や優秀な人材がいますが、その野心を持ち、今では資金調達の環境もずっと良くなっていると思います。
そうですね。実は私たちが初めて知り合ったのは、かなり昔の2017年のことでした。当時、共通の友人であるリード・ホフマンが私たちを紹介してくれて、デミスさんはリードと一緒にEntrepreneur Firstのシリーズ Aに投資してくれました。
今のお話に関連して2つのことを言いたいと思います。1つは、ディープマインドがステルスモードだったので、誰もディープマインドのことを知らなかったのですが、それが与えた影響は驚くべきものでした。グーグルに売却したときの影響を覚えていますが、特に大学院生たちが「10年、20年、30年もの長い道のりを経て研究室の主任研究員になる必要はない。実際に何かを始めることができるんだ」と言っていたのが印象的でした。
その頃、AIスタートアップが爆発的に増えたのを目の当たりにしました。また、コンピューターサイエンスの卒業生とお会いしましたが、私たちの仕事は大学に行ってそういう人を見つけることですが、彼らは銀行で働きたがっていました。2011年や2012年の話ですが、それが一変したと思います。
私たちが両方関わっているのが、エミリーが紹介で触れてくれたARPA、先端研究発明庁ですね。デミスさんは諮問委員会に加わってくださり、私は理事会の議長を務めています。これは英国が本当に手を挙げて、ソフトウェアの首都であるだけでなく、世界を変えるような本当に難しいことにチャレンジしようとしている素晴らしい例だと思います。このようなことについてどのように考えていますか?
はい、素晴らしいことだと思います。EFで技術系の創業者を励まして起業させていることも素晴らしいと思います。ARIAも素晴らしいですし、英国政府が科学技術の振興のために行っていることも素晴らしいですね。AIサミットや安全保障サミットの開催など、もちろんあなたも深く関わっていますよね。
そうした技術基盤を奨励することは、いくつかの観点から見て、英国は本当にそれに傾注すべきだと思います。経済的な観点から見ても、私たちの強みの1つは、この非常に深い技術基盤を持っていることだと思います。今こそ、本当に素晴らしい新技術を生み出すディープテック企業を立ち上げる時だと思います。
そのような企業を中心に、産業全体を構築することができるでしょう。AIでそれが見られるようになってきていますが、今後数年間で他の多くの分野でもそうなるかもしれません。国としてそれを受け入れているのを見るのは素晴らしいことです。
それはまた、世界の舞台でより大きな影響力を持つことを意味します。この技術の社会的影響やどのように進んでいくか、倫理的な側面などに影響を与えるためです。技術の最先端にいなければ、そのような方法でリードし、影響を与える道徳的権威を失ってしまいます。テーブルを囲む席も失ってしまうでしょう。また、進歩に blindsided されてしまいます。
blindsided されないようにするには、最前線にいるか、最前線にいる顧問やあるいは最前線にいる企業や大学を持っていて、政府に助言できることが必要です。ARIAのような実験によって、それをさらに追求していくのは素晴らしいことだと思います。
今回は、アカデミアをもう少し変えて、より先を見据え、よりリスクを取り、より学際的になり、より野心的になることを目指しています。古いDARPAのようにですね。DARPAには「技術的な驚きを避け、生み出す」という一文が設立の使命にありましたよね。科学をしていないと、何が起こるかわからないという点ですね。
私はいつも、もしアラン・チューリングが迫害されるのではなく、政府がエニグマ機に関する秘密を解放していたら、どうなっていたかという別の時間軸の宇宙を想像します。
当時としては極秘だったのでしょうが、マンチェスターにシリコンバレーができていたかもしれませんね。チューリングは何か新しいメガスタートアップの先頭に立っていたはずです。
ちなみに、昨年、安全保障サミットの準備作業を共同で主導していたとき、中国に行って、彼らが参加するための外交的な働きかけをしたのですが、正直なところ、彼らがとてもやる気になっていた理由の1つは、彼らの科学技術大臣もアラン・チューリングを尊敬するヒーローの1人としていたからだと思います。
中国語で通訳を介して会議をしていたのですが、英語で話し始めて、アラン・チューリングの家とマンチェスター産業博物館に行ったことがあると言っていました。これがソフトパワーでなくて何でしょう。
その通りですね。英国には、今日の世界トップクラスの大学がありますし、ディープマインドが英国のAI産業を刺激するのに役立ったことを願っています。あなたのような人々が資金調達の環境づくりに尽力されたことも知っています。
しかし、英国にはチューリングやそれ以前のバベッジなど、信じられないほどの遺産もあります。そして、私たちは常にこの種の技術、情報理論の最前線にいたのです。ですから、私たちがその最前線にいるのを助けているのは、ある意味当然のことだと思います。
先ほど触れたように、AIへの国際的な関心は高まっています。今日は、韓国で開催された第2回AI安全サミットのために、世界の指導者たちとの電話会議に参加されたそうですね。
あなたと共同創業者のシェーンについて、私がいつも感心していることの一つは、AIの安全性について、誰もがAIの安全性について語る前から、ずっと一貫して語ってきたことです。今日、それについてどのように考えていますか?
ディープマインドを設立した当初から、それ以前から、私たちがそのように考えていた理由は、成功を計画していたからです。私たちは、AGIに到達する方法について、狂ったような野心的な計画を持っていました。もし本当に20年以内に可能だと信じていたら、それが及ぼす影響についても知っていたはずです。
したがって、常に倫理と安全性を最優先に考えながら、非常に責任を持って行う必要があるでしょう。そして、私はそれが実現したと思います。テクノロジーが進歩し、すでに大きな影響を与えていますが、それはこれから見られるであろう影響のほんの一部に過ぎないと思います。
私は人生をかけてAIに取り組んできましたが、それは AIが今まで発明された中で最も有益な技術になると信じているからです。ただし、それを正しい方法で適用し、正しい方法で構築した場合に限ります。
つまり、今後の10年、あるいは5〜10年が、ここからどうなるかを決める上で非常に重要になるということです。このような言語モデルが超メインストリーム化したことで、各国政府がそれに気づいたことは喜ばしいことだと思います。それは有益だと思います。
そして、彼らの受容力の高さと同時に、これらの技術がもたらす機会と課題の両方を理解する頭の良さには、心地よい驚きを感じています。このようなサミットを通じて、今このような議論ができているのは素晴らしいことだと思います。
あなたも英国で開催されたサミットの準備に大きく貢献してくださいましたね。これらのものが今後数年のうちに非常に強力になる前に、今それを行っているのは良いことだと思います。
私が本当に重要だと思っていて、デミスさんと以前に話したことがあるのは、このトピックを気にかけることは、テクノロジーに反対したいからではなく、素晴らしいテクノロジーを構築したいという立場からだということです。
私たちが意見を同じくしているのは、あらゆる技術、AIだけでなく、そのリスクに対処する方法は、物事を禁止したり規制したりするだけではなく、自分たちがやっていることに安全性を組み込むことでもあるということです。
デミスさんはディープマインドの当初からそれを多く行ってきました。先日、お話ししたように、私はEFで防御技術の構築に特化したプログラムを始めたばかりです。安全性と加速がうまく両立する方法だと思っています。
何が欠けていると思いますか。人々に何を構築してほしいですか?
それは素晴らしいことですね。防御能力を強調するのは素晴らしいことだと思います。それを非対称にできれば素晴らしいでしょう。ベンチマークとテストの研究がもっと必要だと思います。
本当にテストしたいのは、新しい能力が登場したときに、それが危険かどうかを評価することです。英国の安全保障研究所が取り組んでいることは知っていますし、私たちも共同で取り組んでいます。他にも多くの人が取り組んでいますが、この分野にはまだまだ多くのことがあります。
驚くべきことに、正しいベンチマークを作ることは、正しいアルゴリズムを作ることよりも難しいかもしれません。脳の解析ツールに似た、これらの仮想脳を解析するためのツールも、もっと必要だと思います。
私たちのチームには多くの計算論的神経科学者がいて、人間工学の人々と協力して、ニューラルネットワークに構築される表現を理解するための素晴らしい研究を行っています。でも、それを加速する必要があります。
そして、それを越えて、サイバーセキュリティの観点から外部から侵入されるのを防ぐだけでなく、AIシステムが潜在的に脱出するのを防ぐような、安全なサンドボックスを構築することなどを考える必要があります。
これらの多くは不確実なので、評価する必要があります。これらの多くのことが、私たちが予想していたよりもはるかに簡単に対処できることが判明するかもしれません。それは素晴らしいことです。しかし、中には今日私たちが知っているよりもはるかに難しく、はるかにリスクが高いものもあるかもしれません。
不確実性が高い状況では、慎重な楽観主義を持って進めるのが正しいやり方だと私は考えています。より多くの証拠が得られるまでは、それが思慮深く意図的にフロンティアを進めてきた科学的な方法です。
AIのような変革をもたらす可能性のあるものにとって、「速く動いて物事を壊す」というのは適切ではないと思います。それは明らかにValley的な考え方ですが、最も速い進歩を遂げるためには素晴らしいことです。
科学的な方法の方が、はるかに適切なアプローチだと思います。面白いのは、私たちが話しているように、あなたと私ほど技術的な楽観主義者はいないかもしれません。
私は信じられないほどの技術的楽観主義者です。AIは科学的発見のための究極のツールになり、それによって人類全体を前進させ、今日の社会と人類が直面している気候から病気、経済的な産出に至るまでの多くの大きな課題を解決すると常に考えてきました。
しかし、去年あたりからこの分野に参入してきた人々、おそらく去年は暗号をやっていて、今年はAIをやっているような人々が面白いのは、彼らは実際には何が来るのかの途方もなさを完全には理解していないということです。
もし理解していれば、私たちは非常に楽観的で、これを正しくやれると思っていますが、注意深くやって、必要な時間をかけなければならないということを理解するでしょう。盲目的に突き進むのではなく。
私はこの技術が当然受けるべき敬意を持って扱わなければならないと思います。そうすれば、10年後には素晴らしい、繁栄した社会になっていると確信しています。
あと1分だけ、全く別の質問をさせてください。デミスさんは非常に熱心な読書家で、AIとは関係のないことをたくさん読んでいることを知っている人は少ないかもしれません。AIとは関係のない本を1冊だけ聴衆にお勧めするとしたら、何でしょうか?
うーん、たくさんあるので選ぶのが難しいですね。私の一番のお気に入りの本の1つは、デイビッド・ドイッチュの『The Fabric of Reality』だと思います。現実の本質を理解しようとする最高の本だと思います。究極的には、それがAIでやりたいことなのです。
そして、この1年間に読んで最も楽しんだ本の1つは、Benjamin Labatutの『When We Cease to Understand the World』です。信じられないほど素晴らしい作家で、信じられないほど素晴らしい本です。天才とは何か、科学的発見がいかに素晴らしいかについて、最高の洞察を得ることができます。また、知識の最前線にいるとはどういうことかについても書かれています。
素晴らしいですね。デミスさん、とても楽しかったです。ここに来てくださってありがとうございました。最後にマーク・エフアールにバトンタッチしたいと思います。マークはストリップのUKリーダーです。ありがとうございました。[拍手]
素晴らしかったですね。ありがとうございました。