シンギュラリティはもっと近い レイ・カーツワイル特集｜SXSW 2024

はい、レイ、あなたと一緒にここにいられてとてもワクワクしています。
ここにいられて光栄です。みんなが一緒にいるのを見られて素晴らしいですね。素晴らしい観客の皆さんです。
そうですね、あなたの紹介文の中で私が一番気に入っているのは、あなたが他の生きている人間よりも長くAIに取り組んでいるという点です。つまり、あなたが永遠に生きるとしたら - そしてそのことについてはこれから話しますが - あなたはいつもその特徴を持ち続けることになりますね。
そう思います。マービン・ミンスキーは実際に私のメンターでした。もし彼が今日生きていたら、実際に61年以上になるでしょう。彼も復活させる予定なので、その特徴をどう数えるかはわかりませんね。
わかりました。音声の問題は修正しますが、この会話では次のようにします。まず、レイに今日の状況についていくつか質問をします。それを数分間行い、その後シンギュラリティに到達するために何が起こる必要があるのか、つまり今後20年間について話します。そして、シンギュラリティとは何か、それが何を意味するのか、私たちの人生にどのような変化をもたらすのかについて議論します。最後に、もしこの未来のビジョンを信じるなら、それが今日の私たちにとって何を意味するのかについて少し話します。
質問があれば、会話の異なるセクションでそれらを尋ねていきます。では始めましょう。
レイの声が聞こえないようですね。これは録音されますし、みなさんは永遠に生きることになるので、十分な時間があります。大丈夫ですよ。
私は始めます。音声の問題はすぐに解決されると思います。サウス・バイでは素晴らしい仕事をしていますからね。
私の声は聞こえていますか? 右側の音響エンジニアの方々、準備はできましたか?
では始めましょう。
最初の質問です。レイ、あなたは61年間AIに取り組んできました。多くの予測をしてきて、その多くが驚くほど正確でした。私たち全員が、大規模言語モデルによる1年半の驚くべき変革の中で生きてきました。大規模言語モデルの革新と最近起こったことについて、あなたを驚かせたことは何ですか?
実は、1年前にこの本を完成させ、大規模言語モデルについては本当にカバーしていませんでした。そのため、本の発売を遅らせてそれをカバーすることにしました。しかし、これが起こると予想していましたが、数年後だと思っていました。1999年に2029年までに起こると予測しましたが、まだそこまでは至っていません。しかし、おそらく1年か2年早まっているようです。そのため、少し驚きがありました。
1999年に、2029年までにコンピューターがチューリングテストに合格すると予測しましたが、それをより早い時期に修正していますか?
いいえ、まだ2029年と言っています。チューリングテストの定義は正確ではありません。人々はチューリングテストが解決されたと主張し始め、GPT-4が実際にそれに合格したと言う人もいるでしょう。それは1日で起こるわけではなく、おそらく2、3年かけて人々が主張し始め、最終的にみんなが受け入れるでしょう。
チューリングテストについて非常に具体的な定義をお持ちですが、その定義に合格するのはいつだと思いますか?
実は、チューリングテストはそれほど重要ではありません。なぜなら、コンピューターが人間として通用するということだからです。もっと重要なのは、AGI（汎用人工知能）です。これは、1台のコンピューターがあらゆる人間ができることを模倣できるということです。これも2029年に起こります。すべてが同時に起こるのです。
しかし、今日の平均的な大規模言語モデルを見ても、それは何でも答えることができます。非常に説得力のある答えを出します。人間にはそのすべてを行うことはできません。非常に速く行います。15秒で素晴らしいエッセイを書きます。そして、もう一度尋ねれば別のエッセイを書きます。人間にはそのレベルで実行することはできません。
つまり、説得力のあるチューリングテストを行うには、実際にそれを抑える必要があるのですね。
チューリングテストを行うには、それを抑える必要があります。
観客からの最初の質問をさせてください。現在の状況に関連していると思います。ブライアン・ダニエルは、カーツワイル曲線はまだ正確ですか?と聞いています。
はい、実際にそうです。見えますか? スライドを表示しましょう。
これは80年間の記録です。これは指数関数的成長です。この曲線上の直線は指数関数的であることを意味します。もし指数関数的ではあるが完全ではない場合、曲線になります。これは実際に直線です。
最初は1ドルあたり0.007回の計算を行うコンピューターから始まりました。それが左下の角です。右上の角では、同じ金額で650億回の計算を行います。
そのため、大規模言語モデルはここ2年間しか実現可能ではありませんでした。それ以前にも大規模言語モデルはありましたが、うまく機能しませんでした。
これは指数関数的な曲線です。技術は指数関数的な曲線で進歩します。例えば、太陽や風からの再生可能エネルギーを得ることも実際には指数関数的な曲線です。過去20年間で、価格は99.7%低下し、太陽エネルギーからのエネルギー量は100万倍に増加しました。
このような曲線が、あらゆる種類の技術を導いているのです。これが私たちが進歩している理由です。大規模言語モデルを何年も前から知っていましたが、この曲線に依存しています。
驚くべきことに、リレーの速度の向上から始まり、真空管、集積回路へと進化しました。そして毎年、この曲線上のどこにいても、ほぼ同じ量の進歩を遂げています。
約2週間前に最後のポイントを追加しました。基本的に1.4年ごとにこれを2倍にしています。
これがコンピューターが刺激的な理由です。しかし、実際にはあらゆる種類の技術に影響を与えています。
質問させてください。『How to Create a Mind』という本を書かれましたね。人間の心がどのように構築されているかについて多くのことを書かれています。AIの進歩の多くは、私たちがニューラルネットワークについて理解していることに基づいて構築されています。明らかに、この理解がAIの助けになっています。過去2年間、これらの大規模言語モデルを観察することで、私たちの脳について何か新しいことを学びましたか? これらのモデルを作ることで、私たちの頭蓋骨の内部について何か学んでいますか?
実際には、接続の量に関係しています。脳は実際にはかなり異なる方法で組織化されています。例えば、目の近くにあるものは視覚を扱います。
脳の異なる部分を実装する異なる方法があり、異なることを記憶します。大規模言語モデルでは実際にそれは必要ありません。すべての接続は同じです。
接続を一定のポイントまで増やす必要があります。脳がするのと同じくらいの約1兆の接続があれば、脳のように機能します。私たちはほぼそのポイントに達しています。
待ってください、GPT-4は4000億ですよね。次のものは1兆以上になるでしょう。
これらのモデルの構造は、私たちの脳よりも効率的であるということですか?
私たちはできるだけ効率的に作ろうとしますが、実際にはそれほど重要ではありません。どのように組織化されているかは重要ではありません。実際に、同じ量の計算でより多くの接続を拡張するある種のソフトウェアを作ることができます。
実際には、特定のコンピューターが担当する接続の数に関係しています。
AGIに近づくにつれて、これらの機械をより効率的にする新しい理解を求めているのではありません。トランスフォーマーアーキテクチャは明らかに非常に重要でしたが、本当にそこにたどり着けるのは、ソフトウェアと学習によってですか?
1兆の接続があっても、学ぶものがなければ非常に効果的ではありません。実際に、すべてのデータを収集する必要があります。そのため、ウェブ上でそれを行います。
数十年間、ウェブ上で情報を収集してきました。それが、これらの大規模言語モデルを訓練するために依存しているものです。
実際には、これらを大規模言語モデルと呼ぶべきではありません。言語以上のものを扱うからです。言語だけでなく、画像を追加したり、病気に影響を与えるものを追加したりすることができます。それは言語とは何の関係もありません。
例えば、現在は生物学をシミュレートして、病気に影響を与える異なる方法をシミュレートするために使用しています。それは言語とは何の関係もありません。
実際には、大規模イベントモデルと呼ぶべきです。
私たちの脳の中で起こっていることで、計算と数学では捉えられないものがあると思いますか?
いいえ、それは何でしょうか?
わかりました。観客の皆さん、クイックポールをしましょう。あなたの脳の中に、計算や数学では捉えられないものがあると思う人は手を挙げてください。例えば魂のようなものです。
はい、多くの人が手を挙げていますね。彼らが間違っていると説得してください。
意識は非常に重要です。しかし、実際には科学的ではありません。誰かをスライドさせて、「ああ、この人は意識がある」「この人は意識がない」というようなことはできません。それは科学的ではありません。しかし、実際には非常に重要です。
もう一つの疑問は、なぜ私は私なのか、なぜ私に起こることを私は意識し、あなたに起こることを意識しないのか、ということです。これらは深く謎めいたことですが、実際には意識ではありません。
マービン・ミンスキー、50年間私のメンターでしたが、彼は「それは科学的ではないから、気にする必要はない」と言い、意識に関する議論を一蹴していました。しかし、実際には、人々が意識を持っているかどうかによって、彼の反応は完全に異なっていました。つまり、彼も実際にはそれを使っていたのです。
しかし、それは私たちが無視しているものではありません。なぜなら、何かが意識を持っているかどうかを判断する方法がないからです。それは私たちが知らないことで、いずれ発見するというものではありません。実際に、何かが意識を持っているかどうかを判断する方法は本当にないのです。
どういう意味ですか? 例えば、これは意識がなく、あそこに座っている紳士は意識があると言えますよね。
でも、どうやってそれを証明するのですか? 人間が意識を持っているということに、私たちは一般的に同意しています。一部の人間は意識を持っていますが、すべての人間ではありません。
しかし、動物についてはどうでしょうか? 大きな意見の相違があります。動物は意識を持っていないと言う人もいれば、動物は意識を持っていると考える人もいます。おそらく一部の動物は意識を持っていて、他の動物は持っていないかもしれません。それを証明する方法はありません。
わかりました。意識の問題に戻りたいと思いますが、その前に、あなたの前の答えを正しく理解したか確認したいと思います。
恋をしている感覚や、私が感じるあらゆる感情は、最終的に大規模言語モデルの中で数学的に表現できるということですか?
はい、確かに行動は、愛する人と一緒にいるときの感情は、間違いなく接続が行うことに依存しています。それが起こっているかどうかを判断できます。
わかりました。ここにいる皆さんは納得しましたか? 完全にではないようですね。まあ、十分近いでしょう。
では、意識を定義しようとすることは価値がないと考えていますか? あなたの本では意識の意味についていくつかの議論を提示していましたが、ステージ上では定義しようとすべきではないと主張しているように聞こえます。実際に証明する方法はないと。
ある程度の合意はあります。皆さんが意識を持っていることに同意します。実際にこの部屋に入ってこられたので、それはかなり意識があることの良い指標です。しかし、それは証明ではありません。
そして、意識を持っているようには見えない人間もいるかもしれません。その時、彼らは意識があるのかないのか。そして動物については? 私は象やクジラは意識があると思いますが、誰もがそれに同意するわけではありません。
では、あなたの脳の内容全体をダウンロードして、ある種の機械を通して表現できるようになるまでにどのくらいかかりますか?
それは実際に重要な質問です。なぜなら、寿命について話すつもりだからです。寿命エスケープ速度に到達する点に達するでしょう。それほど遠くありません。勤勉であれば、2029年までにそれを達成できると思います。それは今からたった5、6年後です。
現在、1年が経つと寿命を1年使い果たしますが、科学の進歩から現在は約4か月取り戻します。しかし、その科学の進歩は指数関数的な曲線上にあり、毎年加速します。2029年までに、勤勉であれば、1年が経過して寿命を1年使い果たしますが、完全な1年を取り戻すでしょう。2029年以降は、1年以上取り戻すことになります。つまり、時間を逆行することになります。
これは無限の寿命を保証するものではありません。10歳の子供の寿命を何十年も計算できますが、明日死ぬ可能性もあります。
しかし、脳の中のすべてを実際に捕捉することが重要です。今日それはできませんし、5年後にもできないでしょう。しかし、シンギュラリティである2045年までにはできるようになるでしょう。
その時点で、実際に脳の中に入って、そこにあるすべてを捕捉することができます。あなたの思考は、計算から得られる量と、脳に追加することで得られる思考の組み合わせになります。それは自動的に捕捉されます。
今日、コンピューターにあるものは自動的に捕捉されます。脳に追加することで得られる追加の思考の種類も捕捉されます。しかし、最初に持っている脳の接続はまだ捕捉されていません。2045年までにはそれも捕捉できるようになります。脳の中に入って、それを捕捉することができます。
したがって、実際に脳全体を捕捉することができ、それはバックアップされます。爆弾に歩いて行って爆発したとしても、脳にあったすべてを再現することができます。これはシンギュラリティの意味の一つです。
しかし、これは絶対的に保証されるわけではありません。世界が爆発して、コンピューターを含むすべてのものが吹き飛んでしまえば、それを再現することはできません。永遠に生きることを絶対的に保証する点には決して到達しません。しかし、現在、その捕捉を妨げるほとんどのことは、その時までには克服されているでしょう。
レイ、そこにはたくさんのことがありましたね。寿命エスケープ速度から始めましょう。この聴衆の中の誰かが、現在の生物学的な体で500歳まで生きると思いますか?
私に聞いているのですか?
はい、絶対にそう思います。5年後も生きている人、そしてこの聴衆の皆さんは5年後も生きているでしょうが、彼らは500歳まで生きる可能性が高いですね、もし勤勉であれば。そして、この聴衆の人々は勤勉でしょう。
すごいですね!
まあ、今夜轢かれない限り、好きなものを飲んでも大丈夫ですね。衰退を心配する必要はないのですから。
質問させてください。未来について多くの時間を費やすつもりですが、シンギュラリティとは何か、それが何を意味し、どのようなものになるのかについて、そこに至るまでの質問をいくつかしたいと思います。
マーク・スターンバーグの質問を少し修正して取り上げたいと思います。AIが人間の脳ができることをすべて行える時間枠で、あるいはあなたの議論では十分に洗練されたコンピューターがそれを行えるとしています。今後10年間で、彼らに何ができないでしょうか?
一つは創造性に関することです。人々は「人間ができることをすべて行えるようになるだろうが、新しい知識を生み出すことはできないだろう」と言います。しかし、それは実際には間違いです。
例えば、生物学をシミュレートすることができます。mRNAワクチンを例に挙げると、通常の方法では行いませんでした。つまり、誰かが座って「これが効くかもしれない」と考え、それを試すのに何年もかかり、複数の人が関わります。そして、それは一人の人間のアイデアに基づいています。
実際には、効く可能性のあるすべてのものをリストアップし、数十億の異なるmRNAシーケンスがありました。そして、それらをすべて試してみようと言いました。生物学をシミュレートすることで、すべてを試しました。それは2日間で行われました。
つまり、一週末で数十億の異なる可能性を試し、最良のものを選びました。それが今日までのmRNAワクチンになりました。
実際には人間でテストしましたが、それも克服できるでしょう。シミュレートされた生物学を使ってテストできるようになるからです。人間でのテストを放棄するのは少し難しいですが、そうなるでしょう。
つまり、実際にすべての可能性を試し、最良のものを選び、それを100万人のシミュレートされた人間でテストし、それを数日で行うことができます。これが、疾病に対する薬の作り方の未来です。
現在、がんやその他の病気に対して多くのことが行われていますが、それはこの方法を使用しています。これは全く新しい方法で、mRNAワクチンから始まりました。
別の精神疾患の治療法も開発しました。現在、第3相試験に入っています。これが今後の薬の作り方になるでしょう。
しかし、境界線は何でしょうか? 何ができないのでしょうか?
コンピューターが創造的であり、単に思いつくことを試すだけでなく、可能なすべてのものをリストアップし、それをすべて試すのです。それは他のどの形態の創造性よりも優れています。
そして、はい、それは創造的です。なぜなら、すべての可能性を試し、非常に速く行い、以前になかったものを生み出すからです。創造性とは他に何でしょうか?
わかりました。創造性の境界を超えることになりますね。では、何を超えないでしょうか? 今後10年間で残る課題は何でしょうか?
私たちはすべてを知っているわけではありません。このプロセスを経験したわけではありません。何が効くかを想像するには、ある程度の創造性が必要です。
また、生化学シミュレーターでシミュレートする必要があります。そのため、それを解明する必要があります。しばらくの間は人間を使用することになるでしょう。
つまり、私たちはすべてを知っているわけではありません。人間ができることをすべて行えるようになることは一つのことですが、私たちが知らないことがたくさんあり、それを発見したいと思っています。そのためには創造性が必要で、機械と協力して人間の創造性が必要になるでしょう。
シンギュラリティに至るために何が起こるかに戻りましょう。
明らかに、あなたが示したコンピューターの能力のグラフは非常に安定しており、対数スケールで直線的に上昇しています。シンギュラリティに到達するために必要な他の要素がいくつかあると考えています。一つはナノボットの台頭、もう一つは脳機械インターフェースの台頭です。これらの両方がAIよりも遅く進んでいます。
観客に、なぜナノボットと脳機械インターフェースがあなたの未来のビジョンにとって不可欠なのか説得してください。
人体を完璧にすることは遅くなるでしょう。なぜなら、多くの人々が懸念を抱くからです。コンピューターで何かを行う場合、新しいアルゴリズムを開発したり、速度を上げたりしても、誰も本当に心配しません。危険性について誰も気にしません。
それが現実です。人々が気にする危険性もありますが、非常に速く進みます。それが非常に速く進む理由の一つです。
しかし、体に影響を与える場合、悪影響を与える可能性があるという懸念がたくさんあります。そのため、実際に人々に試す必要がありますが、人間へのリスクについて多くの人が懸念しているだけでなく、脳機械インターフェースが指数関数的な曲線で進んでいない理由は、本にも説明されているように、単に期待通りに機能しないからです。
人間でテストする必要なく試すことができれば、もっと速く進むでしょう。それが遅い理由です。
しかし、脳の中で何が起こっているかを脳の中に入らずに理解し、脳に物を入れることができるという考えがあります。ブレインリンクのようなものは必要ありません。脳の中で何が起こっているかをテストすることができ、脳の中に実際に何かを入れずに行うことができます。それがこれをもっと速く行う方法かもしれません。
しかし、あなたのシンギュラリティに関する予測は、コンピューティング能力の継続的な指数関数的成長だけでなく、この特定の問題を解決することにも依存しているのではありませんか?
はい、なぜなら人間が命令できる知能の量を増やしたいからです。そのため、最高のコンピューターと実際の脳を結婚させる必要があります。
なぜそうする必要があるのでしょうか?
今、ここにスマートフォンがあります。ある意味で、これは私の知能を拡張してくれます。素晴らしいですが、非常に遅いです。質問をすると、入力するか話さなければなりません。それには時間がかかります。
質問をして、人々がコンピューターをいじっているのを見ると、15秒か30秒かかるかもしれません。それはただ脳に直接入っていくわけではありません。
これらは非常に有用です。これらは脳の拡張機能です。少し前にはこれらはありませんでした。
通常、私の講演では「ここに携帯電話を持っている人は誰ですか?」と尋ねます。ここでは1、2人かもしれませんが、ここにいる全員が携帯電話を持っています。
5年前にはそうではありませんでした。10年前には確実にそうではありませんでした。そして、それは脳の拡張機能ですが、速度の問題があります。
質問が出てきて、私たちが話しているときに、コンピューターが外部デバイスをいじることなく即座に答えを教えてくれるようになれば良いでしょう。それは今日ではほぼ実現可能です。そして、そのようなことがこれを行うのに役立つでしょう。
しかし、機械と脳を接続する問題を解決せずに、あなたが話している多くの利点を得ることはできないでしょうか? 突然、この複雑なプライバシーの問題の世界に入ることになります。私の脳に何かが注入され、私の脳の何かが他の場所に行くような...倫理的、道徳的、実存的な問題の全体を開くことになります。携帯電話をもっと良くするだけではダメですか?
それが、脳の中に入らずに外部から脳で何が起こっているかを知ることができるというアイデアです。何らかのデバイスで脳の中に入らずに行うことができます。
わかりました。未来に向かって進み続けましょう。コンピューターの指数関数的成長が続き、理想的には脳と直接通信して物事を速める方法を見つけたとします。なぜナノボットがあなたのビジョンにとって不可欠なのか説明してください。
脳の中で何が起こっているかを本当に知りたければ、脳内の粒子レベルまで行く必要があります。それらが何をしているかを実際に知ることができます。それは実現可能です。実際にはできませんが、実現可能であることを示すことはできます。それが一つの可能性です。
実際には、脳に全く影響を与えずにこれを行うことを望んでいます。
わかりました。では、ナノボットが脳内を走り回り、思考を理解し、抽出し、入力しているとしましょう。ルイーズ・クラーからの素晴らしい質問に移りましょう。それが起こったときに直面する5つの主な倫理的問題は何ですか?
4つでも十分ですか? 4つでいいですね。6つあるかもしれませんが、4つを挙げてください。
私たちはより多くの力を持つことになります。自分の脳でコンピューターを制御できるようになれば、それは人々に過度の力を与えすぎるでしょうか?
また、現在は才能に基づいて一定の価値があると言われています。これは才能のない人々に才能を与えることになります。才能はそれほど重要ではなくなるでしょう。なぜなら、適切な種類の大規模言語モデルなどと融合することで才能を獲得できるからです。
また、才能のある人により多くの力を与えるのは恣意的に思えるかもしれません。なぜなら、彼らはその才能を作り出したわけではなく、ただそれを持っているだけだからです。
誰もが、ある分野で才能のある人により多くの力を与えるべきだと言います。この方法では、マトリックスのように、ヘリコプターの飛行方法を学ぶのに多くの時間を費やす代わりに、適切なソフトウェアをダウンロードするだけで才能を獲得できるでしょう。それは公平でしょうか、不公平でしょうか?
これは倫理的な課題の領域に入ると思います。
これで終わりというわけではありません。シンギュラリティとは結局これだ、人々は特定のことができるようになり、他のことはできない、というように終わることはありません。この曲線は無期限に続くでしょう。他の曲線も無期限に続きます。
例えば、ナノテクノロジーでは、1リットルのコンピューターが今日のすべての人間が持つ力の量に匹敵するコンピューターを作ることができることを示しています。10の10乗人分がすべて1リットルのコンピューターに収まるのです。
これは倫理的な問題を生み出しますか?
ある程度は。多くの意味合いが、人間について私たちが仮定してきたことと相反します。
才能の問題について、2040年になったとき、すべての人が平等な能力を持つようになると感じますか?
私たちはより異なるものになると思います。なぜなら、異なる興味を持つからです。あなたは素晴らしい種類の音楽に興味があるかもしれず、私は文学や他のものに興味があるかもしれません。私たちは異なる興味を持つでしょう。そのため、興味に応じて特定のことに秀でるでしょう。
私たちすべてが同じ量の力を持つわけではありませんが、今日と比べて素晴らしい力を持つことになるでしょう。そして、規制のないテキサスにいれば、マサチューセッツにいるあなたよりも先にそれを手に入れるでしょうね。
その通りです。
別の倫理的な質問をさせてください。数分前に、誰かの脳を複製して彼らを復活させる能力について言及しました。例えば、6年前に亡くなった私の父を復活させるとします。父の心と体とまったく同じ完璧なレプリカを作ることができたとします。彼の思考もすべて同じです。彼が死んだときに抱えていた請求書はどうなりますか? それはかなりの金額で、多くの債権者が私に電話をかけてきます。それらを支払う必要がありますか、それとも大丈夫でしょうか?
私たちは娘とそのようなことをしています。彼女の本で読むことができますし、私の本にも書いてあります。
父が書いたすべてのものを集めました。私が22歳のときに亡くなったので、50年以上前に亡くなっています。それを大規模言語モデルに入力し、基本的に「彼が書いたすべてのものの中で、この質問に最もよく答えるのは何か」という質問をしました。そして、どんな質問でもできます。
彼が実際に書いたものの中から、その質問に対する最良の答えを見つけ出します。それは彼と話しているようでした。音楽について何が好きかを聞くこともできます。彼は音楽家でした。実際にはMsが一番好きだったそうです。
それは本当に彼と話しているようでした。私の本でこのことについて報告していますし、エイミーも彼女の本で話しています。
エイミーは実際に「この人と恋に落ちることができるだろうか」という質問をしました。彼女は一度も会ったことがないのに。彼女はかなりうまくやっています。彼女が作り出したこのキャラクターに本当に恋をしてしまうのです。一度も会ったことがないのに。
今日の技術で、実際に他の人をエミュレートすることができます。さらに進んでいけば、より責任を持って、よりその人に合わせたエミュレーションができるようになると思います。彼の動き方や声のトーンなども実際にエミュレートできるでしょう。
そうですね。私の父もブラームスが大好きでした。特にピアノトリオが好きでした。未払いの税金の問題が解決できれば、私の父とあなたの父のボットを一緒に遊ばせるのも素晴らしいでしょうね。
はい、それは素晴らしいですね。
わかりました。残り20分になりました。私が最も理解したいことに移りたいと思います。これはあなたの本の中で最も素晴らしい点の一つですが、レイの本はすべてそうですが、賛成であれ反対であれ、間違いなくより深く考えさせられます。
この本では、2045年の一日がどのようなものになるかについて、私たちがはるかに知的になったときの様子を描いていないと思います。2045年、私たちは100万倍知的になっています。目覚めたとき、朝食を食べますか、それとも食べませんか?
その質問への答えは今と同じようなものです。まず、シンギュラリティと呼ばれる理由は、私たちがその質問を完全に理解していないからです。
シンギュラリティは物理学から借用した用語です。物理学でのシンギュラリティは、ブラックホールがあり、光が逃げられないため、ブラックホールの中で何が起こっているかを実際に知ることができない場所です。そのため、物理的シンギュラリティと呼びます。
これは歴史的シンギュラリティですが、その用語を物理学から借用しています。私たちの知能を100万倍に増やしたら、それがどのようなものか本当に答えることができないからです。
それは少し、ネズミに「この人の知能の量を持っていたらどうなるか」と尋ねるようなものです。ネズミはその質問を理解することすらできないでしょう。ネズミにもかなりの知能はありますが、その質問を理解したり答えを言葉にしたりすることはできません。
シンギュラリティが提供するすべての知能を加えることで、次の知能のステップを踏むのは、少しそのような感じでしょう。
待ってください、理解したいのですが...一つの答えを挙げましょう。
勤勉であれば、5、6年後に寿命エスケープ速度を達成すると言いました。そして、脳の中で起こっていることすべてをエミュレートしたいのであれば、もう少し先の2040年から2045年ごろになるでしょう。
人と話すと、彼らは元々持っていたすべての接続に加えて、コンピューターへのアクセスを通じて追加したすべての接続を持っています。それが彼らの思考の一部になります。
その人が爆発したり、何かが心に起こったりしたとしましょう。コンピューター由来のものはすべて確実に再現できます。なぜなら、今でもコンピューターで作成したものはすべてバックアップされているからです。コンピューターがなくなっても、バックアップがあるので再現できます。
しかし、コンピューターを使わない通常の脳での思考はどうでしょうか? 現在、それをバックアップする方法はありません。
シンギュラリティに到達する2045年までには、それもバックアップできるようになるでしょう。なぜなら、非機械的な脳で何が起こっているかを実際に把握する方法があるからです。
そのため、通常の脳とコンピューターの追加部分の両方をバックアップできるようになるでしょう。2045年までにはそれが可能になると信じています。
あなたのビジョンでは、彼らの脳全体をバックアップできるようになります。しかし、それは絶対的な保証ではありません。世界全体が爆発してすべてのデータセンターを失えば、すべてのデータを失うことになります。
それは残念ですね。
理解できないのは、記憶を共有し、脳をすべてクラウドにアップロードし、すべての情報が直接私たちの新皮質に戻ってくるようになったとき、私たちはまだ完全に異なる個人であり続けるのでしょうか?
はい、そうです。しかし、新しいコミュニケーション方法も見つけることができるでしょう。私の脳を拡張するコンピューターがあなたの脳を拡張するコンピューターと相互作用し、ハイブリッドのようなものを作ることもできます。それは私たち自身の決定次第です。
新しいコミュニケーション方法がいくつか生まれるでしょう。
この本を読んでいて、ここでずっと引っかかっていた質問をさせてください。あなたは非常に楽観的ですね。現在の状況について楽観的で、技術が善の大きな力となってきたことに楽観的で、これからも善の大きな力であり続けると楽観的です。
しかし、あなたが描いている未来には多くの不確実性があります。
まず、必ずしも楽観的というわけではありません。悪いことが起こる可能性はあります。コンピューター以前にも悪いことは起こっていました。
私が子供の頃、核兵器が作られ、人々は核戦争をとても心配していました。実際に机の下に潜り込んで、頭を守るために手を後ろに置いて核戦争から身を守る訓練をしました。それは効果があったようです。私たちはまだここにいますから。
しかし、もし人々に「これから80年間、二度と核兵器が使用されないだろう」と尋ねたら、誰もそうだとは言わなかったでしょう。しかし、実際にそうなりました。
それは来週起こらないという意味ではありません。それは大きな危険です。私はそれがコンピューターよりもはるかに大きな危険だと思います。
確かに、コンピューターにも危険はありますが、コンピューターはそのような危険を回避するためにより知的になるでしょう。
はい、世界には悪い人もいます。しかし、80年か90年前を振り返ってみてください。アジアとヨーロッパで1億人が第二次世界大戦で亡くなりました。今ではそのような戦争はありません。もちろん、起こる可能性はあります。核兵器もあります。
コンピューターもそれに関与する可能性はあります。しかし、実際に見てみると...これはウォーレン・ピースを通じて続いています。
まず、私のコンピューターの系譜を見てください。ごくわずかな計算から650億の計算まで、80年間で20兆倍の増加を達成しました。
そして、このアメリカの個人所得を見てください。これは一定のドルで行われているので、インフレとは関係ありません。これはアメリカの平均所得です。約100倍に増加しました。
私たちははるかに成功して生活しています。100年前は素晴らしかったと言う人もいますが、そうではありません。
この図を見てください。私の本には50の図があり、私たちが遂げた進歩の種類を示しています。極度の貧困に暮らす人々の数は劇的に減少しました。
実際に、貧困に暮らす人々の割合が上がったか下がったかという調査を行いました。80%の人が上がったと言いましたが、実際には過去20年間で50%減少しています。
過去について私たちが考えていることは、実際に起こったことと正反対なのです。物事ははるかに良くなっており、コンピューターはさらに物事を良くするでしょう。
大規模言語モデルで今できることは、2年前には存在しませんでした。
コンピューターが物事を良くしてきたことを前提とし、個人所得が上がり続けることを前提としても、あまりにも速く進んでいることを心配したことはありませんか? カーツワイル曲線の傾きがもう少し緩やかだったら良いのではないでしょうか?
過去との大きな違いがあります。例えば、鉄道はどのような影響を与えましたか? 多くの仕事が失われました。あるいは200年前のジェニー紡績機でさえ、人々はジェニー紡績機でお金を稼ぐことに満足していましたが、突然それがなくなり、機械がそれを行うようになりました。
人々は「これが本格化したら、すべての仕事が失われる」と言いました。それは当時も言われていたことです。しかし、実際には所得はますます上がり、人々はより働くようになりました。
「彼らは何をするのか」と聞かれても、その質問に答えることはできませんでした。なぜなら、それは誰も想像もしなかった産業、例えばすべての電子工学のような分野だったからです。
仕事が失われても、物事は良くなっています。確かに、コンピュータープログラミングのような仕事を指摘することはできます。Googleには6万人のプログラマーがいますし、他の多くの会社にもいます。
しかし、いつかそれは実行可能な仕事ではなくなるでしょう。多くの言語モデルが既にコードを書くことができます。まだ専門のプログラマーのようにはできませんが、それがどれくらいかかるでしょうか? 数十年ではなく、数年単位で測られるでしょう。
それでも、私は物事が良くなると信じています。なぜなら、仕事はなくなりますが、収入を得る他の方法を作り出すからです。
例えば、この機械を指摘してみましょう。これは現在開発中ですが、食器を洗うことができます。たくさんの食器があれば、食器洗い機に入れるべきものを選び、他のすべてをきれいにします。これがあなたのために食器を洗ってくれるのです。
私たちはそれを望まないでしょうか? これは物事を混乱させているから、なくそうと言うでしょうか? そんなことは起こりません。誰もそれを主張しないでしょう。
私たちは他にすることを見つけるでしょう。お金を分配する他の方法を見つけるでしょう。そして、これまで見てきたような曲線は続くでしょう。
大規模言語モデルがロボット食器洗い機よりも先に登場したのは、ある意味で驚きですね。
あなたには孫がいますね。若い人に何を言いますか? 彼らが納得し、同意するとして、正しければ、非常に異なる未来に向けて自分をどのように準備すべきだと伝えますか?
お金を稼ぐことについてはあまり心配せず、彼らを夢中にさせるものについてもっと心配するべきです。
ビデオゲームが好きなら、それについて学ぶべきです。彼らを夢中にさせる文学を読むべきです。将来、その文学の一部はコンピューターによって作られるかもしれません。
世界の中で、彼らの精神的な存在に良い影響を与えるものを見つけるべきです。
あなたの子供や孫が数百年生きると予測しているとすれば、それは彼らの人生の考え方にどのような影響を与えますか? 確かに65歳で引退すべきではありませんね。他に何が変わるでしょうか?
人々と話すと、「100歳以上は生きたくない」と言います。あるいはもう少し野心的な人は「110歳以上は生きたくない」と言います。
しかし、実際に人々が十分だと決め、もう生きたくないと思うのは、何らかの耐えがたい痛みがある場合だけです。身体的な痛み、感情的な痛み、精神的な痛み、あるいは何らかの痛みがあり、生きていられないほどの場合です。それ以外の理由で命を絶つ人はいません。
多くの身体的な問題を克服できれば、例えばがんがなくなるなど、私はそれが起こると予想していますが、人々はさらに幸せになり、生き続けたいと思うでしょう。
明日、そしてその次の日を経験したいと思うでしょう。そして、明日はますます良くなっていきます。このような進歩は止まりません。
人々は生きたいと思うでしょう。耐えがたい痛みがない限り。しかし、それが医療専門家の仕事であり、明日のコンピューターによって大きく増幅されるでしょう。
コリン・マッカブからの素晴らしい質問が画面に表示されました。「AIはブラックボックスで、誰もそれがどのように構築されたかを知りません。AIを信頼し、採用し、受け入れたいユーザーに、AIが信頼できることをどのように示しますか? 特に、それを直接脳にアップロードする場合は。」
誰もそれがどのように機能するかを知らないというのは正しくありません。
大規模言語モデルを使用している多くの人々は、どのようなデータセットが入力されたかを知りません。トランスフォーマー層で起こることについては、設計者でさえ理解していない部分があります。
しかし、私たちはそれについてますます多くのことを学んでいくでしょう。実際、コンピューターがどのように機能するかは、人々が獲得したい非常に一般的な才能の一つになると思います。
最終的には、コンピューターをより信頼するようになるでしょう。多くの言語モデルは完璧ではありません。質問をすると、不正確な情報を与えることがあります。
最近、そのような例を見ました。コンピューターが不正確な情報を与える理由は、そもそもその情報を持っていないからです。そして、実際には何を知らないのかを知りません。これは私たちが取り組んでいることです。
つまり、「それは知りません」と言えるようになることです。これは実際には非常に良いことです。なぜなら、現在は知っている中で最良のものを見つけ出すからです。その情報について訓練されていなければ、それを伝えるものが何もないので、ただ最良の推測を与えるだけです。それは非常に不正確な可能性があります。
私たちは実際に、それが知っているときと知らないときを判断できるように学習しています。最終的には、それが知っているときと知らないときについてかなりの確信を持つことができ、それが言うことを信頼できるようになるでしょう。
つまり、あなたの質問への答えは、A）私たちはより多くを理解するようになり、B）それらはより信頼できるようになるので、それらを理解していないことはそれほどリスクではなくなる、ということですね。
そうですね。
あなたは人生の多くを予測に費やしてきました。チューリングテストのような一部の予測は維持し、驚くほど正確でした。圧倒的な楽観主義者から、今は少し悲観主義者に移行しているようですが、現在検討している予測で、まだ発表するかどうか迷っているものはありますか?
私の本には常に、これらのことがどのように間違う可能性があるか、危険性についての章がありました。
ナノテクノロジーには周知の危険があります。例えば、誰かが複製するナノテクノロジーを作り出したら...よく知られている例では、すべてをペーパークリップに変えてしまうというものです。世界全体をペーパークリップに変えてしまうのです。
それは良いことではありませんね。ステープルズ社以外にとっては。
そして、それは実行可能です。少し精神的な人がそれを行う可能性がありますが、それは可能です。
実際に、それを避けるものを持つことになるでしょう。つまり、これがすべてをペーパークリップに変えていることを検出し、それが起こる前に破壊することができるものです。
しかし、私の新しい本『The Singularity Is Nearer』には、起こり得る種類のことについての章があります。
この本の最も驚くべき部分は、ナノボットが世界をグレーグーに変えるのにどれくらいかかるか、そしてブルーグーがグレーグーを止めるのにどれくらいかかるかについて、正確な数学的計算を行っていることです。素晴らしい本です。すぐに出版されるので、最後まで読む必要がありますね。
これは、以前に尋ねた質問に答えようとしているのかもしれません。若い人々は何を考え、何に取り組むべきでしょうか? あなたは彼らの情熱と彼らを夢中にさせるものについて言及しましたが、これらの未来のシステムをどのように設計し、構築すべきかについて考えるべきではないでしょうか? グレーグーに変えられる可能性を低くするために。
はい、誰もがそれに取り組みたいわけではありませんが、この部屋にいる技術志向の人々は、グレーグーに変えられないようにすることに取り組むべきですね。
はい、それはリストに入れるべきですね。
しかし、それは別の質問につながります。人間が機械よりも100万分の1、10億分の1、あるいは1兆分の1の知能しか持たなくなったとき、この問題を考える上で人間の役割はどうなるのでしょうか?
もう一度言ってください。
私たちはこれらの本当に難しい問題を解決しなければなりません。現在、私たちは機械と共に非常に知的になれます。しかし、10年後、15年後には、私たちよりもはるかに知的な機械が存在するでしょう。これらの問題を解決しようとする上で、人間の役割はどうなるのでしょうか?
まず、私はそれらを人間の拡張と見なしています。人間がいなければ、それらは存在しないでしょう。人間には、これらのことを考え抜く脳があります。
そして、私たちにはこの親指があります。あまり評価されていませんが、クジラや象は実際に私たちよりも大きな脳を持っています。おそらくより深い思考ができるでしょう。しかし、彼らには親指がありません。そのため、技術を作り出すことができません。
猿は親指を持っていますが、実際には1インチほど下にあります。そのため、本当によく掴むことができません。少しの技術は作り出せますが、その技術が他の技術を生み出すことはできません。
私たちに親指があるということは、集積回路を作り出すことができ、それが大規模言語モデルになり得るということです。それは人間の脳から来ています。
そして、それは人間が考えたすべてのことを表現しています。人間が考えたことで文書化されたものはすべて、これらの大規模言語モデルに入力されます。
誰もがこれらのことに取り組むことができます。一部の裕福な人々だけがそれを持つことができるというのは事実ではありません。ここにいる人々のうち、何人が携帯電話を持っていますか? 100%でなくても、99.9%でしょう。
特に裕福なグループである必要はありません。ホームレスの人々でさえ自分の携帯電話を持っているのを見ます。それほど高価ではありません。
これらの能力の分配を表しています。それは途方もなく裕福でなければ手に入れられないものではありません。
つまり、私たちはより長く生き、より豊かになり、しかしまた平等性も高まる社会に向かっていると考えているのですね?
その通りです。そして、私たちはすでにそれを見てきました。
わかりました。時間になりましたが、レイと私は2124年、2224年、2324年に戻ってきます。今日はご来場ありがとうございました。
彼はアメリカの宝です。レイ、ありがとうございました。