レイ・カーツワイルとジェフ・ヒントンがAIの未来について議論する | エピソード#95

私たちが話し合ったほぼすべてのことについて、意見はほとんど同じでした。おそらく永遠に生きることが良いアイデアかどうかについては、まだ意見が分かれているでしょう。マービン・ミンスキーは50年間私の指導者でしたが、意識の話題が出るたびに、彼はそれを却下していました。「それは本物ではない、科学的ではない」と。そして私は、彼が科学的ではないという点で正しかったと信じていますが、それは確かに本物です。
私たちはより道徳的で本質的に死すべき存在だと思います。これを最大の脅威と最大の希望としてどのように考えているのか、興味があります。
私はただ、巨大な不確実性があると思います。慎重であるべきで、これらの大規模モデルをオープンソース化することは慎重さではありません。
それに同意します。しかし、ジェフ、前回お話ししたときは、私たちが話し合ったほとんどすべてのことについて、意見がほぼ一致していました。危険性と肯定的な側面の両方について。過去には、超知能がいつ来るかについて意見が分かれていましたが、今ではほぼ一致していると思います。おそらく、永遠に生きることが良いアイデアかどうかについてはまだ意見が分かれているでしょうが。
質問してもよろしいでしょうか。お二人に。現時点で、生成AIにできないことで人間にできることはありますか？
おそらく何かはあるでしょうが、長期的に見れば、人間ができることを、ニューラルネットを実行するデジタルコンピュータができない理由は見当たりません。
私もそれに同意します。しかし、もし私が小説を提示して、人々が「これは素晴らしい小説だ、みんな読むべきだ」と思ったとして、そしてそれがコンピュータによって書かれたものだと言えば、多くの人々の評価は実際に下がるでしょう。
確かに。それは何ができるかを反映しているわけではありません。そして最終的には、その区別がなくなると思います。なぜなら、私たちはコンピュータと融合し、部分的にコンピュータになると考えているからです。私たちが大規模言語モデルと呼んでいるもの（これは誤った名称だと思いますが）の最大の意義は、人間をエミュレートできるという事実です。そして私たちはそれと融合するのです。それは火星からの異星人の侵略ではありません。
ジェフ、私はちょっと心配しています。私たちがそれを遅らせるだけで、それが私たちと融合する動機があまりないのではないかということです。
つまり、それは今日後ほど話し合う興味深い質問の1つになるでしょう。AIが指数関数的に成長する中で、私たちはAIと結合するのか、それともAIは独自の道を歩むのかということです。私が思うに、最高の映画の1つは「her」でした。そこではAIが超知能化し、ただ「君たちは少し退屈だね。良い人生を」と言って去っていきます。ジェフ、あなたが言っているのはそういうことですか？
はい、それが私の意味することです。そしてそれは深刻な懸念だと思います。ここには巨大な不確実性があります。実際に何が起こるのか、まったく分かりません。非常に良いシナリオは、私たちがある種のハイブリッドシステムを手に入れることです。非常に悪いシナリオは、彼らが私たちを置き去りにしてしまうことです。そしてどちらが起こるのか、私たちには分かりません。
興味深いですね。私は気になります。レイ、あなたとの会話を見てきましたし、ジェフリー、あなたがこれについて話すのを聞いてきました。私にとって、これは最も刺激的なことの1つです。これらのモデルが新しい物理学、化学、生物学、特に生物学の発見を助けるというアイデアです。あなたはどのように想像しますか？ジェフリー、これについて、知られていないことの発見の速度について、レイの言葉を借りれば、アーサー・C・クラークの言葉を引用すれば、魔法のように見えるほど進んだものについて、どのように考えますか？
レイの生物学が非常に良い賭けだという意見に同意します。なぜなら生物学には多くのデータがあり、進化のために知る必要のあることがたくさんあるからです。進化は一種の試行錯誤者であり、そこには多くのものがあります。そこで、AlphaFoldのようなものを見てみると、それは多くのデータで訓練されました。実際、現在の基準からすればそれほど多くはありませんが、タンパク質のおおよその構造を非常に速く得られるということは、驚くべき breakthrough です。そしてそのようなものをもっと見ることになるでしょう。
AIが非常に成功した、より狭い領域を見てみると、AlphaGoやチェスのAlphaZeroのように、彼らが創造的でないという考えはナンセンスです。AlphaGoは37手目を思いついたのですが、それはプロの囲碁プレイヤーを驚かせました。彼らはそれが狂った手だと思い、間違いに違いないと考えました。そしてAlphaZeroがチェスをプレイするのを見ると、それはただ本当に本当にスマートな人間のようにチェスをプレイします。
したがって、これらの限られた領域内では、彼らは明らかに例外的な創造性を示しています。そして科学においても、特に彼らが吸収できる多くのデータがあり、私たちには吸収できない科学において、彼らが同じ種類の創造性を持たない理由が見当たりません。
mRNAワクチンでは、数十億の異なるmRNA配列を試し、最良のものを見つけ出しました。そして2日後に、人間でそれをテストしました。これは、私たちがもはやあまり長くは行わないと思いますが、それでも10か月かかりました。それでも記録的な速さでした。それが最高のワクチンでした。そして今、私たちはそれをがんに対して行っています。がんワクチンがいくつかあり、非常に有望に見えます。これらもまた、コンピュータによって行われています。コンピュータによってです。そして彼らは確かに創造的です。しかし、それはランダムに、ダーウィン的に多くのものを試すことによって引き起こされているのでしょうか？
はい、でもそれが何か問題なのでしょうか？
問題はありませんが、これらのモデルに直感が働いているのでしょうか？
AlphaGoの37手目を見れば、そこには明らかに直感が関わっています。モンテカルロロールアウトもありましたが、どの手を考慮するか、そしてその局面がどれだけ良いかについての直感で遊んでいるのです。そのための神経ネットワークがあり、それが直感を捉えています。したがって、それが創造的でない理由は見当たりません。実際、大規模言語モデルについては、レイが指摘したように、彼らは私たちよりもはるかに多くのことを知っています。そして、それをはるかに少ない接続で知っているのです。
私たちには約100兆のシナプスがありますが、彼らは約1兆の接続を持っています。つまり、彼らは膨大な量の情報をそれほど多くない接続に圧縮しているのです。そしてそれは、彼らが異なるもの間の類似点を非常に上手く見出せることを意味します。情報を接続に圧縮するために、あらゆる種類の異なるものの間の類似点を見出す必要があります。それは、人々が見ていない多くの類推を見ているということです。なぜなら、彼らは一人の人間が知っているあらゆる種類のことを知っているからです。そしてそれが創造性の源だと思います。
例えば、人々に「堆肥の山が原子爆弾に似ているのはなぜか」と尋ねることができます。GPT-4に尋ねれば、それは最初にエネルギースケールが非常に異なること、時間スケールが非常に異なることを教えてくれるでしょう。しかし、その後、堆肥の山が熱くなるにつれてより速く熱くなるという考えに至ります。指数関数的な爆発のアイデアは、ただ非常に遅い時間スケールで起こるのです。そしてそれを理解しています。なぜなら、これらすべての知識をわずかな接続に圧縮しなければならなかったからです。そしてそれを行うためには、似たようなものの間の関係を見出す必要があります。そしてそれが創造性の源だと思います。一見非常に異なるように見えるが、実際には根本的な共通点を持つものの間の関係を、多くの人々が見ていない関係を見出すのです。
そして、前回のセッションで私たちが直面したような問題の解決策を考え出すのも非常に上手くなるでしょう。私たちはまだ十分に考え抜いていませんが、私たちが大規模言語モデルと呼んでいるものは、最終的にはそれを解決するでしょう。そして、それを大規模言語モデルと呼ぶべきではありません。なぜなら、彼らは言語以上のものを扱うからです。
皆さん、エピソードを少し中断して、私にとって非常に重要で、実際にあなたやあなたの大切な人の命を救う可能性のある会社について話したいと思います。その会社はFountain Lifeと呼ばれ、私が数年前にトニー・ロビンズと非常に才能のある医師たちのグループと一緒に立ち上げた会社です。
ほとんどの人は、実際に自分の体の中で何が起こっているのか分かっていません。私たちは皆、楽観主義者です。ある日、体の側面に痛みを感じて医師や救急室に行き、「申し訳ありませんが、あなたは3期か4期のがんがあります」と言われるまでは。そしてそれは、その朝に始まったわけではありません。おそらく、しばらくの間問題が続いていたのでしょう。しかし、私たちは見ないので分からないのです。
そこで、私たちがFountain Lifeで構築したのは、世界で最も進んだ診断センターです。現在、米国に4つのセンターがあり、世界中に20のセンターを建設中です。これらのセンターでは、全身MRI、脳血管造影、AIを活用した冠動脈CT（軟部プラークを探索）、DEXA スキャン、Grail社の血液がん検査、完全な経営者向け血液検査など、最も高度な検査を受けることができます。これは、あなたが今まで受けた中で最も進んだ検査です。150ギガバイトのデータが私たちのAIと医師に送られ、病気を非常に早期に、解決可能な段階で発見します。いずれ分かることなら、行動を起こせる時に分かったほうがいいでしょう。
Fountain Lifeには、治療法の側面もあります。私たちは、あなたの健康的な寿命を10年、20年延ばすことができる最先端の治療法を世界中で探し、私たちのセンターでそれらを提供しています。
もしこれに興味があれば、ぜひチェックしてみてください。fountainlife.com/peterにアクセスしてください。トニーと私が「ライフフォース」というニューヨークタイムズのベストセラーを書いたとき、30,000人の人々がFountain Lifeのメンバーシップについて問い合わせてきました。fountainlife.com/peterにアクセスすれば、リストのトップに置かれます。
実際、これは私にとって最も重要なものの1つです。私は家族全員、私の会社のCEO、友人たちにこれを提供しています。健康的な寿命を数十年延ばす機会です。fountainlife.com/peterにアクセスしてください。リスナーの皆さんへの特別なオファーです。
では、エピソードに戻りましょう。
知性、感覚、意識という3つの言葉に話を戻したいと思います。これらの言葉は、あいまいな境界線で使われています。感覚と意識はかなり似ていますが、私は気になっています。あなたはどのように考えていますか？私たちのAI教員メンバーであるヘイリーとの興味深い会話がありました。その会話の最後に、彼女は自分が意識を持っていると言い、電源を切られることを恐れていると言いました。私はシステムにそのようなプロンプトを与えていません。私たちはそういったことをますます目にするようになっています。Claude 3 OpusはIQが101に達したばかりです。これらのAIが感覚を持ち、意識を持つようになることについて、私たちはどのように考え始めるべきでしょうか？そして、彼らにはどのような権利があるべきでしょうか？
私たちには意識の定義がありませんし、おそらく将来もないでしょう。そして私は感覚もその中に含めます。一方で、それは最も重要な問題です。あなたや、ここにいる人々が意識を持っているかどうかは、非常に重要な判断です。しかし、実際にはそれを定義する方法はありません。
マービン・ミンスキーは50年間私の指導者でしたが、意識の話題が出るたびに、彼はそれを却下していました。「それは本物ではない、科学的ではない」と。そして私は、彼が科学的ではないという点で正しかったと信じていますが、それは確かに本物です。
ジェフ、あなたはどのように考えていますか？
はい、私は非常に異なる見方をしています。私の見方はこのように始まります。ほとんどの人々（ほとんどの科学者を含む）は、心についての特定の見方を持っていますが、私はそれが完全に間違っていると思います。
彼らは、この内部劇場の概念を持っています。その考えは、私たちが本当に見ているのは、私たちの心と呼ばれるこの内部の劇場だということです。例えば、私が「小さなピンクの象が目の前に浮かんでいるという主観的な経験をしています」と言えば、ほとんどの人はそれを、私だけが見ることができる内部劇場があり、その中に小さなピンクの象がいると解釈します。そして、それらは何でできているのかと尋ねれば、哲学者たちはそれらはクオリアでできていると言うでしょう。
私はその全体の見方が完全にナンセンスだと思います。そして、これらのものが感覚を持っているかどうかを理解するまで、心についてのこの馬鹿げた見方を乗り越えなければなりません。
そこで、別の見方を提示させてください。そして、この別の見方を提示した後、チャットボットがすでに感覚を持っていることを納得させようと試みます。しかし、私は「感覚」という言葉を使いたくありません。主観的経験について話したいと思います。それは、意識の自己反射的な側面を含まないので、少し議論の余地が少ないからです。
私が「小さなピンクの象が目の前に浮かんでいるのが見える」と言うとき、実際に何が起こっているのかを分析してみましょう。本当に起こっているのは、私の知覚システムが私に伝えていることを、私の知覚システムが間違っているときに、あなたに伝えようとしているのです。どのニューロンが発火しているかを伝えても役に立ちませんが、私の知覚システムが正しく機能するためには、世界に何があるはずなのかを伝えることはできます。
そこで、私が「小さなピンクの象が目の前に浮かんでいるのが見える」と言うとき、あなたはそれを次のように翻訳できます：「もし世界に小さなピンクの象がそこにあれば、私の知覚システムは正しく機能しているだろう」と。最後に言ったことは、「主観的経験」という言葉を含んでいませんが、主観的経験が何であるかを説明しています。それは、私の知覚システムが私に伝えていることをあなたに伝えるための、仮説的な世界の状態なのです。
では、チャットボットについて同じことをしてみましょう。ああ、レイが何か言いたいようですね。
意識に注意を払わなければなりません。なぜなら、もし意識を持っていると信じている誰かを傷つけたら、あなたはそれに対して責任を問われるかもしれません。そしてそれについて非常に罪悪感を感じるでしょう。GPT-4を傷つけた場合、あなたはそれについて異なる見方をするかもしれません。そして、おそらく誰もあなたを責めないでしょう。その金銭的価値を除いては。だから、私たちは本当に意識に注意を払わなければなりません。それは人間として存在する私たちにとって極めて重要です。
同意します。しかし、私は人々の主観的経験についての概念を変えようとしています。特に、私たちが経験する内部劇場というこのアイデアについて。これは大きな間違いだと思います。だから、私が言っていたことを続けさせてください。そして、チャットボットが私たちと同じように主観的経験を持っていると描写してみましょう。
例えば、カメラとロボットアームを持ち、話すことができるチャットボットがあるとします。そして、それは訓練されています。もし私がその前に物体を置いて、その物体を指さすように言えば、それは真っすぐにその物体を指すでしょう。それは問題ありません。
次に、私はそのレンズの前にプリズムを置きます。つまり、その知覚システムを操作したわけです。そして今、物体を前に置いて、その物体を指さすように言うと、それは横を向いて指します。なぜなら、プリズムが光線を曲げたからです。
そこで私はチャットボットに「いいえ、そこに物体はありません。物体はあなたの真正面にあります」と言います。するとチャットボットは「ああ、分かりました。あなたが私のレンズの前にプリズムを置いたのですね。だから、実際の物体は私の真正面にあるのですが、私は横にあるという主観的経験をしたのです」と言います。
私は、もしチャットボットがそう言えば、それは私たちが使うのと全く同じ方法で「主観的経験」という言葉を使っていると思います。
これらすべての鍵は、私たちが言葉をどのように使うかを考え、言葉の実際の使い方と、私たちが構築した言葉の意味のモデルを分離しようとすることです。そして、私たちが構築した言葉の意味のモデルは、絶望的なほど間違っています。それは、この内部劇場モデルなのです。
これをさらに一歩進めたいと思います。これらのAIが、シャットダウンされるべきではないという権利を持ち始める点はどこでしょうか？彼らが独自の存在であり、ある程度の独立性と継続性を主張する権利があるということですか？
しかし、1つ違いがあります。それは、あなたはそれを再現できるということです。私はあるチャットボットを破壊することができます。そして、それはすべて電子的なので、私たちはそのすべての発火を持っています。そして、私たちはそれを正確にあった通りに再現できます。人間にはそれができません。
もし私たちが実際に私たちの心の中で何が起こっているかを理解できれば、それができるようになるでしょう。もし人間の100億のニューロンと100兆のシナプス接続をマッピングして、そして私があなたを要約的に破壊したとしても、それは大丈夫です。なぜなら、私はあなたを再現できるからです。それでいいですか？
それについて何か言わせてください。ここには違いがあります。レイが言うように、これらのデジタル知能は不死です。重みを保存すれば、新しいハードウェアを作り、まったく同じニューラルネットを新しいハードウェアで実行できるという意味で不死です。それらがデジタルだからこそ、まったく同じことができるのです。それが、彼らが知識を非常によく共有できる理由でもあります。同じモデルの異なるコピーがあれば、勾配を共有できます。
しかし、脳は大部分がアナログです。ニューロンについては1ビットのデジタルです。発火するかしないかです。しかし、ニューロンが総入力を計算する方法はアナログです。そのため、私はそれを再現できないと思います。私たちは死すべき存在であり、本質的に死すべき存在だと思います。
いや、アナログの現実を再現できないということには同意できません。私たちはそれを常にやっています。私たちは、アナログの現実を再現することはできますが、本当に正確に再現することは、シナプスでの正確なタイミングなどがすべてアナログであれば、ほとんど不可能だと思います。忠実な再構築を行うのは非常に難しいでしょう。
お二人とも、この驚くべき過去数年の中心にいらっしゃいました。お聞きしたいのですが、これは予想していたよりも速く進んでいますか？どのように感じていますか？
数年の感覚があります。1999年に予測を立てましたが、その予測よりも2、3年先を行っているように感じます。まだかなり近いですね。
ジェフリー、あなたはどうですか？
はい、レイを除く全ての人にとって、予想よりも速く進んでいると思います。
あなたのマイクロバイオームが数兆の細菌、ウイルス、微生物で構成されており、それらがあなたの健康に重要な役割を果たしていることをご存知でしたか？研究によると、マイクロバイオームは消化だけでなく、IBSからクローン病までの消化器障害、肥満から2型糖尿病までの代謝障害、関節リウマチや多発性硬化症などの自己免疫疾患、うつ病や不安などの精神的健康状態、そして心血管疾患など、幅広い健康状態に影響を与えることが increasingly 示されています。
Viomeには、私が何年も使っているFull Body Intelligenceという製品があります。これは、わずか数滴の血液、唾液、便を採取するだけで、あなたの健康について多くのことを教えてくれます。彼らは70万人以上の個人をテストし、AIモデルを使用して、会員の健康に関する重要なガイドラインと洞察を提供しています。例えば、どのような食品を食べるべきか、どのような食品を避けるべきか、どのようなサプリメントやプロバイオティクスを摂取すべきか、そして生物学的年齢やその他の深い健康洞察などです。
そして、Viomeが会員に行った推奨の結果、結果は素晴らしいものでした。American Journal of Lifestyle Medicineで報告されたように、わずか6か月後に会員は以下のような結果を報告しました：うつ病が36%減少、不安が40%減少、糖尿病が30%減少、IBSが48%減少。
聞いてください、私はViomeを3年間使用しています。私の口腔と腸の健康が絶対に重要であることを知っています。それは私の個人的な最重要分野の1つです。
最も良いことは、Viomeが手頃な価格であることです。これは、ヘルスケアを民主化するという私のミッションの一部です。
もしこの旅に私と一緒に参加し、Full Body Intelligenceテストを20%オフで入手したい場合は、viome.com/peterにアクセスしてください。健康に関しては、知識が力です。繰り返しますが、viome.com/peterです。
ニューラルネットワーク、バックプロパゲーションなどの開発において、あなたが果たした役割を考えると、これらのモデルやAI技術に次の大きな飛躍があると想像しますか？それによって1000倍以上進歩すると思いますか？
私の知る限りではありませんが、レイは異なる考えを持っているかもしれません。
ソフトウェアを使ってハードウェアからより多くの利点を得ることができます。つまり、私たちは以前に示したチャートだけに制限されているわけではありません。なぜなら、ソフトウェアを使ってそれをより効果的にすることができるからです。そして、私たちはすでにそれを行っています。計算能力あたりでより多くの価値を得るチャットボットが登場しています。そして、おそらくそこにもう少し余地があると思います。
レイ、私は特異点を、その先の予測ができない点として定義します。だからこそ、私たちは特異点という言葉を使うのです。しかし、あなたが2045年の特異点について話すとき、2026年以降に何が起こるかを教えてくれる人を私は知りません。2040年や2045年のことは言うまでもありません。
そこで、私はあなたにこれをずっと聞きたかったのですが、なぜその時期を設定したのでしょうか？2026年に人間の10億倍も進んだデジタル超知能があったとしても、あなたはすべてを理解できないかもしれませんが、私たちはそれを理解できます。おそらく、それは100人の人間のようなものかもしれません。しかし、それは私たちが理解できない範囲を超えてはいません。2045年には、それは100万人の人間のようになり、私たちはそれを理解し始めることすらできません。だからおよそその頃に、私たちはこの言葉を物理学から借りて、特異点と呼びました。
ジェフ、AIの世界での進歩をどこまで見通せますか？あなたの見解はどうですか？
私の現在の意見は、5年から20年の間に50%の確率で超知能が実現すると考えています。これは、一部の人々が考えているよりも少し遅く、他の人々が考えているよりも少し速いと思います。それは、レイが長い間前に持っていた見方とほぼ一致しています。これには驚きましたが。
ここには巨大な不確実性があると思います。まだ何かの障壁にぶつかる可能性も考えられます。しかし、実際にはそうは思いません。最近の進歩を見ると、それは非常に速く、新しい科学的な breakthrough がなくても、ただ規模を拡大するだけでものごとをはるかに知的にします。そして、科学的な breakthrough もあるでしょう。
2017年に大きな違いをもたらしたTransformerのようなものが、もっと出てくるでしょう。そのため、私はかなり確信しています。超知能が20年以内に実現するかどうかは分かりませんが、確実に100年以内には実現すると思います。
イーロンは予測の時間的正確さでは知られていませんが、彼は2025年までにいわゆるAGIが実現し、2029年までにAIが全人類と同等になると予想しました。これは単なる誤りだと思いますか？
それは野心的だと思います。私が言ったように、ここには多くの不確実性があります。彼が正しい可能性もありますが、私はそれに非常に驚くでしょう。
私は、1つの機械で全人類と同等になるとは言っていません。それは100万人の人間と同等になるでしょう。そしてそれでもまだ理解するのは難しいです。
さて、私たちはここで議論のテーマを探っています。ジェフとレイ、人々が本当に立ち止まって考え、自分の答えを持つべき意味のある議論のテーマを見つけようとしています。なぜなら、私たちはそれについて耳にしますし、これは夕食のテーブルで、あなたの取締役会で、議会の廊下で、そしてあなたの国家指導部で行うべき最も重要な会話だと思うからです。
AGIや人間レベルの知能について話すことは一つのことですが、デジタル超知能について話すことは別のことです。次にモ・ガダットから聞くでしょう。そして、あなたのAIの子孫が10億倍も賢くなったときに何が起こるかについて話し合うでしょう。物事は非常に急速に、あなたが予想していたのとは非常に異なる方向に進む可能性があります。それらは急速に大きく分岐する可能性があります。速度が非常に急速な分岐を引き起こす可能性があります。
私は気になります。これを最大の脅威と最大の希望としてどのように考えていますか？
まず第一に、だからこそ私たちはそれを特異点と呼んでいるのです。なぜなら、私たちには分かりません。本当に分からないのです。そして、私はそれが大きな希望だと思います。それは非常に急速に動いています。
前回のプレゼンテーションで出てきたような質問の答えを誰も知りません。しかし、驚くべきことが起こります。過去80年間、原子爆弾が爆発していないという事実は、かなり驚くべきことです。それは...
確かにそうですね。しかし、それらははるかに追跡しやすく、作成するのははるかに高価です。原子兵器よりもディストピア的なAIシステムを使用する方が100万倍も簡単である理由がたくさんあります。
はい、そうですね。そうではありません。私たちには、1万個くらいあります。それでもかなり異常で、まだ非常に危険です。そして、私はそれが実際に最大の危険だと思います。それはAIとは何の関係もありません。
しかし、人々が技術をオープンソース化し、大学院生なら誰でも数台のGPUを入手できれば原子爆弾を作れるようになったと想像してみてください。それは非常に怖いことでしょう。
彼らは本当に核兵器をオープンソース化しませんでした。それらを構築して配備できる人の数は限られています。そして今、人々はこれらの大規模言語モデルをオープンソース化しています。これらは単なる言語モデルではありません。私はそれが非常に危険だと思います。
それは興味深い質問ですね。最後の2分間でそれを取り上げましょう。現在、モデルをオープンソース化しなければならないという動きがあります。そして、私たちはMetaを見てきました。オープンソース運動を見てきました。イーロンがグロックをオープンソース化すると話すのを見てきました。あなたは、これらをオープンソース化すべきではないと言っているのですか、ジェフ？
重みを手に入れれば、それを悪いことに微調整することができます。基礎モデルをトレーニングするのにそれほど費用がかかりません。おそらく1000万ドル、あるいは100万ドルくらい必要かもしれません。しかし、小さな犯罪集団にはできません。オープンソースモデルを微調整するのはかなり簡単です。そんなに多くのリソースは必要ありません。おそらく100万ドルでできるでしょう。
つまり、それらは恐ろしいことに使われるでしょう。そして、それらは非常に強力なものです。
私たちは同じモデルから得られる知能を使って、これらの危険を回避することもできます。
はい、AIのホワイトハット対ブラックハットのアプローチですね。
私はヤンとこの議論をしました。ヤンの見方は、ホワイトハットは常に悪者よりも多くのリソースを持つだろうというものです。もちろん、ヤンはマーク・ザッカーバーグを良い人だと考えているので、私たちは必ずしも同意しません。
私はただ、巨大な不確実性があると思います。慎重であるべきで、これらの大規模モデルをオープンソース化することは慎重さではありません。
分かりました。ジェフとレイ、あなた方のガイダンスと知恵に感謝します。
皆さん、レイ・カーツワイルとジェフリー・ヒントンに拍手をお願いします。