レイ・カーツワイル:シンギュラリティ、超知性、不滅性 | レックス・フリードマン ポッドキャスト #321
2045年までには私たちの知性を数百万倍に増やすことができるようになり、それがどのようなものになるのかを想像するのは非常に難しい。以下は、人類文明の未来について楽観的な見方をしている著者、発明家、未来学者のレイ・カーツワイルとの対話である。カーツワイルは、指数関数的に進歩するテクノロジーが私たちを特異点に導き、その先には超知的な人工知能が私たちの世界を想像を絶するほどの方法で変えると予測している。18年前に書かれた『シンギュラリティは近い』という本の中で、彼はシンギュラリティの始まりが2045年に起こると予測した。彼は今でもこの予測と推定を守っており、実際、来年出版予定のこのトピックに関する新しい本に取り組んでいる。これはレックス・フリードマン・ポッドキャストです。サポートしていただくために、説明欄のスポンサーをチェックしてください。それでは皆さん、レイ・カーツワイルの話をどうぞ。
2005年に出版された『シンギュラリティは近い』という本の中で、あなたはシンギュラリティが2045年に起こると予測しました。それから18年経った今、あなたはまだシンギュラリティが2045年に起こると考えていますか?そもそもシンギュラリティとは何なのか、技術的特異点とは何か、そしていつ起こるのでしょうか?シンギュラリティとは、コンピュータが私たちにとって何が重要なのかという見方を本当に変え、私たち自身を変えるものです。しかし、私たち自身を変えるようないくつかの顕著なことに近づいています。重要なのは2029年で、コンピュータがチューリング・テストに合格するでしょう。チューリング・テストが有効かどうかについては議論がありますが、私はそうだと信じていますし、ほとんどの人がそう信じていますが、議論の余地はあります。
スタンフォード大学は、私が2029年という予測をしたことに非常に驚きました。私はこれを1999年に、『精神機械の時代』という本の中で行いました。そうですね、2005年にその予測を繰り返しましたね。そう、2005年です。そこで彼らは、この見解を評価するために、1999年に世界中のAIの専門家による国際会議を開催しました。人々はさまざまな予測をし、投票が行われました。これは実際、世界中のAIの専門家がこの予測について意見を求められた最初の機会でした。平均的な投票結果は100年後で、20%の人がそれは決して起こらないと考え、それが1999年の見方でした。80%の人がそれは起こると信じていましたが、彼らの生涯ではないと考えていました。AIにはこれまでに多くの進歩があったので、AIの専門家の意見は年々変化してきました。1年前に、あなたもご存知かもしれませんが、「Meticulous」という会社が、将来について様々なタイプの専門家の意見を評価しました。彼らは再びAIの専門家の意見を評価し、2042年にチューリングテストに合格すると言っていました。だんだん早くなってきていて、私はまだ2029年と言っていました。数週間前、彼らは再び別の世論調査を行い、2030年という結果になりました。つまり、専門家たちは基本的に私に同意しているのです。私は全く変わっていませんが、2029年を維持し続けており、専門家たちは最初は同意しませんでしたが、今では私に同意しています。
アラン・チューリングはチューリング・テストを定式化しましたが、実際にはそれについてほとんど語っていません。チューリング・テストが明文化された1950年の論文では、チューリング・テストについて数行しか触れられていません。それは本当にどのように実施するかについてはっきりしていませんでした。彼は、もし15分ほどでテストを行えば十分だろうと言いましたが、私はそうは思いません。現在の大規模な言語モデルにはすでに納得している人もいます。実際に何時間も会話することができます。もう少し深さが必要です。大規模な言語モデルにはいくつかの問題があり、それについて話し合うことができます。しかし、一部の人々はすでにチューリング・テストに納得しています。誰かがチューリング・テストに合格したら、それはどのような意味を持つのでしょうか?彼らが感情を持っている、意識を持っているということを意味するのでしょうか?それともそうではないのでしょうか?いずれにせよ、その意味するところは必ずしも明確ではありません。私は2029年、今から6、7年後には、このチューリング・テストに合格するようなものができると考えています。それは数分ではなく数時間続く、有効なチューリング・テストです。
あなたのチューリング・テストの定式化について少し説明していただけますか?あなたは非常に難しいバージョンのチューリングテストを提案しています。それはどのようなものですか?基本的には、数時間にわたってそれを評価し、コンピュータに何ができて何ができないかについてかなり洗練された人間の判断者を用意することです。あまり洗練されていない人や、平均的なエンジニアでさえ、その様々な側面を本当に評価できないかもしれません。人間にシステムの能力を本当にチャレンジしてもらいたいのです。そうですね、常識的な推論のようなことをする能力についてです。実際、それは大規模な言語モデルの大きな問題点です。こういった推論の連鎖を評価するようなテストを行いません。しかし、それを見失うことがあります。実際に彼らと話をすると、かなりうまく話ができ、納得させられることがあります。しかし、本当にあなたにそれが人間だと納得させるような人がいるとしたら、それにはどれくらいの時間がかかるでしょうか。数日、数週間かかるかもしれませんが、本当にそれが人間だと納得させるでしょう。大規模な言語モデルはそのように見えるかもしれません。会話を読むと、それらはかなり優れているように見えます。いくつかの問題点があります。数学があまり得意ではありません。10頭のゾウの足は何本あるかと聞くと、「ゾウ1頭につき4本の足があり、10頭のゾウがいるので、40本の足がある」と答えるでしょう。「なるほど、良いですね。11頭のゾウの足は何本ですか?」と聞くと、彼らはその質問の意味を理解していないようです。全ての人間がその質問を理解しているわけではありません。いいえ、それがポイントです。人間にどの程度の能力を求めるかによります。しかし、私たちは人間が複数の事実をつなぎ合わせて推論の連鎖を行うことを期待しています。完璧ではありませんが、多くの世論調査でも人々は完璧にそれを行っているわけではないことがわかります。そういうわけで、それは明確に定義されているわけではありませんが、本当にそれが人間だと納得させるようなものです。
あなたの直感では、大規模な言語モデルだけでは、2029年にチューリング・テストに合格するようなシステムにはならないと思いますか?他に何か必要なのでしょうか?いいえ、大規模な言語モデルになると思いますが、現在行っていることを超える必要があります。私たちはそこに近づいていると思います。もう一つの重要な問題は、誰かが実際にチューリング・テストに合格した場合、私はその人が意識を持っていると信じるでしょうが、誰もがそう言うわけではありません。「チューリング・テストには合格したが、本当に意識があるとは思わない」と言う人もいるでしょう。それはまた別の問題ですが、もし本当にチューリング・テストに合格したら、私はその人が意識を持っていると信じます。しかし、私は今日の大規模な言語モデルについてはそうは思いません。意識があるように見えるなら、意識があるのと同じくらい良いことなのでしょうか?ある意味ではそうです。意識は科学的なものではありません。私はあなたが意識を持っていると信じていますが、それは本当に信念に過ぎません。私たちは他の人間についてもそう信じています。少なくとも意識があるように見えます。人間の共通の仮定の外に出ると、動物は意識があるのかないのか、意識があると信じている人もいれば、意識がないと信じている人もいます。人間と同じように振る舞う機械は意識があるのでしょうか?私はそうだと思いますが、それは本当に哲学的な信念です。証明することはできません。ある存在を取り上げて、それが意識を持っていることを証明することはできません。それは、ある芸術作品が美しいと言うのと同じです。複数の人が芸術作品を体験して美しいと言うことはできますが、証明することはできません。しかし、それは非常に重要な問題でもあります。そうですね。誰も意識を持っていないような何かを想像してみてください。世界は存在しないほうがましかもしれません。そこで、マーヴィン・ミンスキーのような人は、「意識は論理的ではない、科学的ではない。だから意識について語ることは一切信じるべきではない」と言いました。しかし、彼が実際に意識のある人と関わったとき、彼はその人が意識を持っているかのように行動しました。彼はそれを無視しなかったのです。彼はそれが重要ではないと言いましたが、意識が重要であるかのように行動しました。まさにそうです。一方で、意識が重要ではないと言っていたのです。彼は矛盾に満ちていましたが、多くの人にもそれは当てはまります。しかし、あなたにとって意識は重要ですが、私にとっては非常に重要です。しかし、それは科学的な問題ではなく、哲学的な問題だと言えるでしょう。そして、人々は意識とは何かについて異なる見解を持っています。意思決定をするものはすべて意識を持っていると信じている人もいます。あなたの照明スイッチは意識を持っているのです。その意識のレベルは低く、あまり興味深いものではありませんが、それでも意識なのです。そして、より興味深い決定を下すコンピュータも、まだ人間のレベルではありませんが、意識を持っており、照明スイッチよりも高いレベルにあります。これが一つの見方です。意識とは何かについては、多くの異なる見方があります。
誰かがチューリング・テストに合格したら、それは科学的ではありませんが、哲学の問題では倫理が関わってきます。そのような機械の電源を切ることについて、人類として議論を始めると思いますか?そうですね。それは間違いなく登場しています。まだ現実のものとはなっていませんが。でも、私は2029年のことを言っているのです。それほど遠い未来ではありません。それに対する私たちの義務は何でしょうか?コンピュータの意識は人間とは少し違う意味合いがあります。私たちは連続した意識を持っており、永遠には続かない存在の中にいるのです。今でも、かなりの割合の人間がまだ存在しており、したがって意識を持ち続けています。しかし、ある年齢以上の人はもう存在していません。それは意識を持つコンピュータ・プログラムには当てはまりません。完全に電源を切っても、そのコピーを保存しておけば、再現することができます。だから、人間とは違う種類の妥当性を持っているのです。実際に過去に戻って、記憶を消去し、もう一度やり直すこともできます。つまり、人間とは違う種類の意味合いを持っているのです。おそらく人間でも同じことができるでしょう。ただ、まだその方法がわからないだけです。そうですね。そういったことを機械で最初に理解するかもしれませんが、だからといって機械に意識がないということにはなりません。人々が映画の中で意識を持つ3CPOやその他の機械にどう反応するかを見てみましょう。それらがどのように意識を持つのかを示していませんが、私たちはそれらが機械であり、人々はそれらが意識を持っていると信じ、彼らが困ったときには実際に心配するでしょう。
だから2029年は、大きな出来事が起こる最初の年になるのですね。そして、それが私たちの文明を揺るがし、AIの役割を考え始めることになるのですね。そうですね。グーグルのある男性は、その機械に意識があると主張しましたが、それはただの一人の人間に過ぎません。そうですね。だから、大規模に起こり始めるのです。まさにそのとおりです。なぜなら、ほとんどの人はその立場をとっていないからです。私もその立場はとりません。私はラムダやGPT-3のようなものを使ったことがありますが、それらは私には意識があるようには見えません。これらの大規模な言語モデルのさまざまな問題点を解消していくにつれ、より多くの人々がそれらに意識があると認めるようになるでしょう。だから、2029年になれば、多くの人々がそれらに意識があると信じるようになると思います。
一気に起こるわけではありません。徐々に起こると思いますし、すでに起こり始めています。これがシンギュラリティへの一歩となるのです。もう一つのステップは、2030年代に、私たちの考えを司る新皮質をコンピュータに接続できるようになることです。このように、コンピュータに接続されることで能力が大きく向上するのと同じように、私たちの脳も直接コンピュータから大きな恩恵を受けるでしょう。もしこれが何の接続もなければ、かなり愚かなものになってしまいます。あなたの質問に答えることはできないでしょう。ちなみに、レイはここで全能のスマートフォンを持ち上げています。
すでにこれらのデバイスによって私たちの知性は大きく高められています。これがなければ、今の私よりずっと愚かになっているでしょう。『知的機械の時代』という最初の本を書いたとき、コンピュータから情報を得る方法はありませんでした。実際に図書館に行き、本を探し、必要な情報があるページを見つけ、コピー機のところに行ったものです。当時、私にとって最も重要な情報ツールは、コピー機に入れる25セント硬貨の巻でした。
すでに私たちはこれらのデバイスを持つことで大きく進歩しています。いくつかの問題点があります。まず、私はこれをよく置き忘れて、どこに置いたか覚えていません。これまで失くしたことはありませんが、見つけなければなりません。そして電源を入れなければなりません。ある程度の手順が必要です。誰かがあなたの会話を聞いて、「ああ、それは誰それ女優ですね」と言ってくれて、あなたが話している内容を教えてくれたら、かなり便利でしょう。
能動的なものから受動的なものへと移行し、あなたの人生全体に浸透していくのですね。そうですね。脳がそうであるように、目覚めているときには脳はいつもそこにあります。これは今日、実際にほとんど実現可能なことです。あなたの会話を聞いて、あなたが言っていることを理解し、あなたが見逃していることを理解し、その情報を提供してくれるのです。
しかし、もう一つのステップは、実際に脳の中に入ることです。脳を接続するプロトタイプもありますが、実際には必要な帯域幅がありません。それらは機能しますが、かなりゆっくりと機能します。それが実際に新皮質に接続されれば、新皮質には実際に異なるレベルがあり、レベルが上がるにつれて、ピラミッドのようになっています。一番上のレベルはかなり小さく、そのレベルにこれらの脳の拡張機能を接続したいのです。それが2030年代に実現すると私は考えています。このようにしてコンピュータに接続されることで大きく増幅されるのと同じように、私たち自身の脳をクラウドに接続し、この機械を使うことで私たちにできることを行うことができるようになるのです。
それはニューラリンクのような脳コンピュータ・インターフェースのようなものになると思いますか?そうですね、ニューラリンクはそれを実現しようとする試みですが、まだ必要な帯域幅がありません。そうですね。でも、私はそう思います。コミュニケーションができず、絶対にそれを必要としている人がたくさんいるので、彼らはこれを許可するでしょう。そのような人を何人か知っていますが、アイデアを持っていても、筋肉を動かすことができず、コミュニケーションができないのです。だから、彼らにとってはこれは非常に価値のあるものになるでしょう。しかし、私たち全員がそれを使うことができるのです。基本的には、携帯電話を持っているようなものですが、それが私たちの心の中にあるのです。それは一瞬のことになるでしょう。そして、2人の人間のコミュニケーションには、言語というこの低帯域幅のメカニズムは必要ないかもしれません。そうですね、話し言葉です。私たちの脳が何をしているのかを見てみましょう。実際には、さまざまなパラメータを操作することができるのです。大規模な言語モデルについて話しましたが、私はそれが効果的であるためには一定量の情報が必要であり、それに達するまではAIが本当に効果的にならないだろうと書きました。そして、100億バイトの大規模な言語モデルができ、今ではかなりうまく機能しています。そして今、1兆バイトに向かっています。
ラムダが1000億バイトあるとすると、それはどういう意味でしょうか?1バイトしかないものがあったとしたら、どうでしょう。何かがゾウであるかどうかを判断したいとします。そこで、鼻があるかどうかを検出するようなものを入れます。鼻があればゾウ、なければゾウではないということになります。それはかなりうまくいくでしょう。いくつか問題点もありますが、本当に鼻が何であるかを判断することはできないでしょう。そうですね、他の動物にも鼻があるかもしれません。そうなると本当に混乱してしまうかもしれませんね。そうですね。鼻というものをどう定義するかですが、そうですね、それが1つのパラメータです。これらのものは1000億のパラメータを持っているので、非常に複雑な問題を扱うことができるのです。あらゆる種類の鼻のことです。人間はそれよりもう少し多くのパラメータを持っていますが、人間をエミュレートできるほどのレベルに近づいています。もしこれを新皮質に接続できれば、基本的には区別する能力をさらに加えることになり、最終的にはずっと小さくなり、信頼できると感じる情報にも結びつくでしょう。そういうわけで、私たちはそちらの方向に向かっているのです。
思うに、ナノボットが新皮質の中に入り込み、コミュニケーション・チャネルを確立することが、脳内でAIと高帯域で競合することなく、脳内のコンピュータとつながる方法なのです。はい、そうですね。ニューラリンクのようなものの多くは、実際に高い帯域幅を持っていないので。そうですね、それが重要な点ですね。多くの人が、人間とコンピュータが競合して、最終的には人間がコンピュータと競争できなくなると考えているからです。
あなたは、21世紀に人類が自滅する可能性があると思いますか?ウクライナで起きていることを見て、核保有国が関与する熱戦になり、核兵器がいかに恐ろしく破壊的であるかを忘れてしまいそうな緊張が高まっているのを見て、あなたの意見は変わりましたか?人類は21世紀に自滅すると思いますか?もしそうだとしたら、それはどのようにしてで、どのようにそれを避けるのでしょうか?
そうはならないと思います。戦争の恐怖にもかかわらず、それは可能性としてはありますが、私はそうは思いません。あなたの心の中では可能性は低いのですね?
この原子力発電所が占拠されて非常に緊迫した状況になっていますが、それが起こるのではないかと心配している人はあまり多くないようです。1945年に2発の核爆弾が爆発したので、今から77年後の現在、私たちはかなりうまくやっています。怒りから別の核爆弾を爆発させたことは一度もありません。人は歴史の教訓を忘れてしまうものですね。そうですね、それは確かに私も心配しています。それは間違いなく課題ですが、核兵器以外にも他の危険性があります。
AIと融合することに話を戻すと、私たちは自分の心をコンピュータにアップロードすることができるようになり、体の制約を超越することさえできるようになるでしょう。心をコンピュータにコピーして体を離れるようなことが。あなたのお父様とすでに行ったことの1つを説明させてください。これは公になっていますが、6年前に発表されたと思います。どんな質問にも答えることができる技術を作りました。発売された製品では、20万冊の本を読み、その中から質問に最もよく答えている1文を見つけ出すというものでした。20万冊の本の中から、あらゆる種類の質問に対する最良の答えを得ることができるのは、実に興味深いことです。しかし、私は20万冊の本を読むのではなく、私が編纂した本、つまり私の父が書いたものすべてを読むこともできました。フレデリックがこれまでに書いたもの、つまり私の父が書いたものをすべて集めて、『フレデリック・カーツワイルが書いたすべて』という本を作ったのです。
私は実際にこれがそれほどうまくいくとは思っていませんでした。なぜなら、彼が書いたものの中には、コーラスグループや音楽グループをどのように配置するかといったことが書かれていたからです。人々をどこに座らせるか、どのように資金を調達するかなど、あまり面白くないようなことばかりでした。それでも、質問をすると、それを読み通して、とてもいい答えをくれるのです。「最も面白い作曲家は誰ですか?」と聞くと、「間違いなくブラームスだ」と答え、ブラームスがいかに素晴らしいか、音楽教育の重要性について語ってくれました。だから、基本的に彼と会話することができたのです。実際に彼と話をするよりも面白かったのです。なぜなら、彼と話をすると、コーラスグループのためにこの土地をどのように配置するかとか、そういった日々の心配ごとばかりだったからです。
大きな質問ではなく、日々の心配事ばかりだったのですね。そうですね。あなたは人生の意味について尋ねましたが、彼は愛だと答えました。そうですね。
あなたは彼が恋しいですか?そうですね。52年経つと、誰かを恋しく思うことにも慣れてきます。私が彼と知的な会話をするようになったのは、人生の後半になってからでした。彼が病気になって家にいることが多くなり、私は実際に音楽やその他のことについて彼と話をすることができました。だからそれが恋しいのです。
お父様から人生について何を学びましたか?彼のどんな部分があなたの中に残っているのでしょうか?彼は音楽に没頭していました。音楽に合わせて何かを作ると、彼は別世界に入り込んでいました。そうでなければ、彼はとても内気で、人が集まると人と交流するのを避ける傾向がありました。ただ恥ずかしがり屋なだけでした。しかし、音楽を作るときは別人のようでした。
音楽に対するのと同じように、あなたの中にもそのような輝きがありますか?そうですね。私は5歳くらいの時からテクノロジーに夢中になっていました。そうですね、祖母にマニュアルタイプライターがあったのを覚えています。彼女は『1つの人生では足りない』という本を書いていました。これは私が書くかもしれない本のタイトルとしてはいいですね。その本は彼女が創設した学校についてのものでした。実際には彼女の母親が創設したのです。私の母方の祖母の母が1868年にその学校を創設したのです。それはヨーロッパで初めて、女子に高等教育を提供した学校でした。14年生まで行きました。当時、女子が教育を受けられたとしても、9年生までというのが普通でした。多くの女子はまったく教育を受けられませんでした。この学校は14年生まで行きました。彼女の母親がその学校を創設し、彼女がそれを引き継ぎ、その本はその学校の歴史と彼女の関わりについてのものでした。
彼女が私にその本を見せてくれたとき、私はその学校の話にはあまり興味がありませんでしたが、そのマニュアルタイプライターに完全に驚かされました。白紙を入れると、本から出てきたようなものに変えることができるのです。そこで実際にタイプすると、本から出てきたようになるのです。それは本当に驚くべきことでした。そして、私はそれがどのように機能するのかを実際に見ることができました。私は手品にも興味がありましたが、手品では誰かがそれがどのように機能するかを実際に知っていると、手品の魔法は消えてしまいます。それがどのように機能するかを実際に理解していても、魔法は残らないのです。しかし、彼にとってはテクノロジーでした。私が5、6歳の時にはその言葉を知りませんでしたが。
あなたにとって、それがどのように機能するかを知っていても、魔法はまだそこにあったのですね。そうですね。そこで私はこれに完全に興味を持ち、自転車や壊れたラジオから小さな機械部品を集めて回りました。近所を歩き回ったものです。これは5、6歳の子供たちを近所を歩き回らせていた時代でした。今ではそんなことはしませんが、私はそれらをどのようにまとめればいいのかわかりませんでした。「これらのものをどうまとめればいいのかさえわかれば、どんな問題でも解決できる」と言ったものです。そして、私は実際にこれらの非常に年上の女の子、10歳だと思いますが、彼女たちに話しかけて、「これさえ理解できれば、私たちは飛ぶことができる、何でもできる」と言ったことを覚えています。すると彼女たちは、「あなたはかなり想像力豊かですね」と言いました。
そして、私が3年生の時、つまり8歳の時に、人々が舞台に上がって腕を動かすことができ、すべてが1つのコントロールボックスで制御されるバーチャルリアリティシアターを作りました。それはすべて機械技術で行われていました。それは私の3年生のクラスで大ヒットしました。そして、私は中学校や高校の科学展でさまざまなことをしました。ウェスティングハウス科学才能探究コンテストで優勝しました。つまり、私は5、6歳の時からテクノロジーに没頭していたのです。
あなたは、創造性の源泉として、明晰夢を使ってアイデアを考えると話していました。そのプロセスについて詳しく教えてください。あなたは多くのものを発明し、非常に興味深いアイデアを考え出しました。若い人たちにどのようなアドバイスをしますか?どのように考えるか、どのように創造的に考えるかについて話していただけますか?
時には夢の中で考えを巡らせ、それを解釈しようとすることもあります。しかし、若い人たちに言いたいのは、あなたが作ろうとしているものがすでに存在していると考えることです。そして、それがどのように機能するかを説明するのです。
それは本当に興味深いですね。あなたが存在してほしい世界を描き、それが存在すると考え、逆にエンジニアリングするのですね。
そうすれば、それを作るためにはどうすればいいのかを逆算して考えなければなりません。それは素晴らしいですね。そして、それには想像力も必要ですね。ファーストプリンシプル思考をする必要があります。その世界を可視化しなければなりません。
それは本当に面白いですね。一般的に、私たちが発明しようとしているものについて話すとき、私はそれがすでに存在しているかのように現在形を使います。それは自分に自信を持たせるためだけでなく、それに取り組んでいる他の人たちにも自信を持たせるためです。実際のものにするためには、すべてのステップを踏まなければなりません。
良いアイデアはタイミングにどれくらい左右されるのでしょうか?あなたの才能と、そのアイデアの時が来たことのどちらに左右されるのでしょうか?
タイミングは非常に重要です。それが私が未来学に興味を持つようになった理由です。私は本来、未来学者ではありません。それは私の本当の目標ではありません。それは本当に、物事がいつ実現可能になるかを見極めることです。大規模な言語モデルでそれを今見ています。GPT-3のような非常に大規模なモデルは2年前に始まりました。4年前には実現可能ではありませんでした。実際、彼らはGPT-2を作りましたが、それはうまくいきませんでした。それには、計算能力の指数関数的な成長に関連した一定量のタイミングが必要でした。
ですから、ある意味で未来学とは、世界がどのように進化するかを理解しようとするタイミングの研究なのですね。そして、特定のアイデアに対する能力がいつ生まれるのかということですね。
そうですね。そしてそれ自体が一つのことになってきました。未来のことを予測しようとすることは。しかし、本当の目的は、私の製品のタイミングを計ることでした。1970年代にOCRをやったのは、OCRには多くの計算が必要ないからです。光学文字認識ですね。だから70年代にそれができたのです。音声認識にはもっと多くの計算が必要なので、80年代まで待ちました。
それらのものを開発するときにタイミングを考えていたのですね。その時が来たのでしょうか。
そうですね。そうやって、未来がどのようになるかを考えるという脳力を養ってきたのです。2045年の世界はどうなっているのか、そしてそこに向かってどのように進んでいくのか。
しかし、それは技術がどのように世界を変えるか、人間の地球上での生活をどのように変えるかを反映した劇的な変化について考えるようになったので、それ自体が一つのことになりました。
ダニエルのあなたの本の中で、人間の想像力を制限する前提に疑問を呈する勇気を持ち、問題を解決する人物について書かれています。また、私たち一人一人がこのような勇気を持つためのアドバイスも書かれています。その引用を取り上げてくれてよかったです。私はそれがダニエルの象徴だと思います。勇気です。私たち一人一人がどのようにすれば、前提に疑問を呈する勇気を持つことができるのでしょうか。
人々が現在の枠を超えて、新しいものを生み出すことができるのを見ると、そう思います。例えば、ウーバーを見てみましょう。それが存在する前は、誰もそれが実現可能だとは思っていませんでした。そして、それは人々の働き方に変化を必要としました。本の中で、ダニエルのような人になるために私たち一人一人ができる実用的なアドバイスはありますか?
彼女は状況を見て、さまざまな障害を乗り越える方法を想像しようとします。そして、彼女はそれに向かって行動します。彼女はとてもいいコミュニケーターなので、これらのアイデアを他の人に伝えることができます。プログラミングを学ぶこと、自分の人生を記録することなど、実用的なアドバイスがありますね。
物理学者になるようにと、若い人たちが世界を変えるために身につけるべきさまざまなスキルを挙げていますね。
そうですね。若い人たちがこれらのさまざまなスキルを学ぶことで、実際に世界を変えることができるというアイデアです。そして、その核心にあるのは、自分の心と体で世界を変えることができるという信念です。
そうですね。そして、他の誰にもそうではないと言わせないことです。
あなたのお父さんの話を聞いて、彼とのやり取りを再現しました。コンピュータに自分の心をアップロードすることについて話しています。亡くなった人たちでも、私たちの行動や外見などをますます的確に再現するアバターができると思いますか。
そうですね。彼らについての情報が必要です。私の父のことを考えてみましょう。私は彼が書いたものを持っています。当時はワープロがなかったので、実際にはそれほど多くは書いていません。そして、私たちの彼に対する記憶は完璧ではありません。満足のいくものを作ったかどうかをどうやって知ることができるのでしょうか。レイ・フレデリック・カーツワイルのチューリング・テストを行うこともできます。フレデリック・カーツワイルのように見えるかもしれませんが、彼を覚えている私のような人間の記憶は完璧ではありません。完璧な記憶というものがあるのでしょうか。
たぶん、重要なのは、彼にあなたを特別な気持ちにさせることなのでしょう。そうですね。それが私たちが大切な人と持つつながりです。それは厳密な真実の定義に基づいているわけではありません。むしろ、私たちが共有した経験に基づいているのです。
そして、記憶によってそれらはより強くなるのですが、最終的には私たちを微笑ませてくれるのです。私たちは間違いなくそれができると思いますし、それは非常に価値のあることだと思います。
では、レプリカントの世界、コピーの世界ができると思いますか?レイ・カーツワイルがたくさんいて、私は1人と付き合うことができ、5ドルでダウンロードして親友のレイを持つことができ、本物のあなたはそれを知らないということがありえますか?それは実現可能な世界だと思いますか?そして、そこには倫理的な課題があると思いますか?例えば、私があなたのレプリカントと付き合っていて、あなたがそれを知らないとしたら、どう感じますか?
問題はないと思います。どうしてでしょうか?私と付き合うだけでなく、あなたのレプリカントと付き合うということですね。
そうですね。でも、もしそのレプリカントの方が私よりうまくいって、友達を奪われたりしたらどうでしょう。なぜなら、彼らは不完全なコピーかもしれませんし、より社交的かもしれませんし、そういったことがあるからです。そうなると、私は古いバージョンのようになってしまい、そんなにエキサイティングではなくなってしまうかもしれません。
たぶん、彼らは私の最高のバージョン、いい日のコピーなのでしょう。そうですね。でも、もしあなたが私のレプリカントと付き合って、それがうまくいったら、それは私に基づいているので、私はその人を誇りに思うでしょう。
でも、それはこのバージョンのあなたのある種の死なのですね。そうとは限りません。あなたはまだ生きているかもしれませんから。そうですね。そして、あなたはそれを誇りに思うわけですね。
そうですね。子供を持つようなもので、子供が自分よりも多くのことを成し遂げたことを誇りに思うのと同じですね。そうですね。
それは新しい問題を提起しますが、機会でもあるように思えます。
そのレプリカントは、おそらくあなたと同じ権利を持つべきですね。それは難しい問題ですね。
なぜなら、レプリカントが作られたとき、彼らは必ずしもあなたの権利を持つとは限らないからです。すでに亡くなった人のレプリカントが作られた場合、彼らはその人が持っていたすべての義務を負うのでしょうか?その人が結んでいたすべての契約を持つのでしょうか?
だから、法律で、レプリカントを作りたい場合は、人間と同じ権利を持たなければならないと定める必要があるでしょう。そうですね。誰かがレプリカントを作って、「これはレプリカントだけど、権利を得る手間を省いた」と言うかもしれません。そうですね。でも、それは違法になるでしょう。つまり、そういうことをしたいなら、ブラックマーケットでやらなければならないということですね。公式のレプリカントを手に入れたいなら、そうしなければなりません。
複数のレプリカントを作った場合はどうでしょうか。元の権利は、たぶん1人の人のためのものであって、多数の人のためのものではありません。そうですね。
だから、少なくとも1人は必要で、あとの人たちはその権利を共有するということですね。私はそれが人間にとって非常に理解しにくいことだとは思いません。つまり、私は特定の権利を持たないレプリカントを作るべきではないと考える人と話をしたことがあります。私の妻もその1人で、父を取り戻したいと思っています。彼女は誰が何の権利を持っているかなどは気にしていません。彼女が訪れることができ、満足感を与えてくれる誰かがいればいいのです。そして、彼らは他の権利については気にしないでしょう。
あなたの妻は、複数のレイ・カーツワイルについてどう思っているのでしょうか。その話はしましたか。
私はそれには触れないでしょう。私は最終的にそれが重要な問題だと思います。愛する人がどう感じるかが重要なのです。愛する人に拒否されたら、うまくいかないでしょう。
愛する人が本当にこれが機能するかどうかを決定づける鍵となるのですね。しかし、倫理的なルールもあります。AIについてもその考え方に取り組まなければなりません。しかし、それを動機づけるのは、亡くなった人を本当に恋しく思っている人と話をすることだと思います。たとえ完璧ではなくても、何かを取り戻したいと思うでしょう。そして、その人はある形で生き続けるのです。データが多ければ多いほど、その人を再現し、生き続けさせることができるのです。
そうですね。そして、今後はこの種のデータがどんどん増えていくでしょう。新皮質の中にナノボットを入れて、たくさんのデータを集めるようになるからです。実際、データであるものはすべて収集されます。今日、ますます一般的になってきていて、少し悲しいこと、あるいは希望が持てることがあります。それは、人が亡くなったときに、その人のツイッターアカウントがあるということです。そして、その人が最後につぶやいたツイートがあります。そこから、大規模な言語モデルなどを使って、その人を再現することができるのです。つまり、その人とそっくりの人を作ることができるのです。実際に、コミュニケーションを続けることができるのです。それは本当にエキサイティングだと思います。ある意味、もし私が今日死んだとしても、ある意味では私は生き続けるでしょう。もし私がツイートし続けたら。
私はツイートする、ゆえに私はある。そうですね。ある意味では、そうですね。それは、亡くなった人のコミュニケーションを再現できるレプリカントの利点の1つです。
あなたは人類が多惑星種になることを望んでいますか?6つのエピックについて話しましたが、そのうちの1つは星に手を伸ばすことでしたね。
そうですが、今行われているような他の惑星への到達の試みにはあまり興奮しません。それは本当に何も進歩させないからです。十分に効率的ではないのです。
また、非常に非効率的な方法で他の人間を送り出しているのです。私が本当に話しているのは、6番目のエピック「宇宙が目覚める」の中で、私たちの超知性を宇宙全体に広げることができるということです。それは、人間のような非常に柔らかくて潰れやすい生き物を送ることを意味するのではありません。
宇宙が目覚める、つまり、知能を持ったナノボットの塊を送り出して、宇宙の他の部分を植民地化することができるのです。
あなたは、私たちのボットが出会うかもしれない知的な宇宙文明が存在すると思いますか?
私の直感では、ほとんどの人が絶対にそうだと言っています。つまり、宇宙は大きすぎるし、ドレイクの方程式を引用したりしています。私は『シンギュラリティは近い』の中で、ドレイクの方程式について2つの分析をしていて、どちらも非常に合理的な仮定に基づいていて、1つは銀河系に何千もの高度な文明があるというものです。もう1つは、1つの文明しかないというものです。私たちは1つしか知りません。
多くの分析では、計算能力の指数関数的な成長を忘れています。私たちは、誰かにメッセージを送る最速の方法がポニーだった時代から、1世紀半ほど前の話ですが、今日の高度な文明にまで進歩してきました。そして、私が言ったことを受け入れるなら、数十年先に進めば、ポニーに比べて絶対的に素晴らしい文明を持つことができるでしょう。それは数百年の間に起こったことです。
ほかの文明は宇宙の時間に広がっているはずです。私たちより先を行っているものも、後を行っているものもあるでしょう。もし先を行っているなら、数千年、数百万年先を行っているかもしれません。それはそれほど長い時間ではありません。世界は数十億年、140億年くらいの歴史があるのですから。
数千年でさえ、ポニーから素晴らしい文明へと移行するのに十分な時間なのです。他の文明が存在したとしても、いくつかは私たちより後を行っているかもしれませんが、いくつかは私たちより先を行っているでしょう。もし先を行っているなら、数千年、数百万年先を行っているでしょう。そして、彼らは私たちよりはるかに進んでいて、銀河規模のエンジニアリングを行っているでしょう。
しかし、私たちは銀河規模のエンジニアリングを行っているものは何も見ていません。だから、彼らは存在しないか、この宇宙自体が宇宙人種の構築物なのです。私たちはビデオゲームの中に住んでいるのです。
そうですね。それは別の説明ですね。そう、あなたは他の文明の10代の子供たちがいるのかもしれません。
シミュレーション仮説を思考実験として説得力があると思いますか?私たちがシミュレーションの中に生きているということです。宇宙は計算可能なので、私たちは計算世界の一例であり、したがって、それはシミュレーションである。
必ずしも別の世界の高校生による実験を意味するわけではありませんが、それでも計算世界の中で起こっていることです。そして、起こっていることはすべて、ある種の計算の形をとっているのです。
だから、この世界全体がシミュレーションであるというのは、本当に何を意味するのか定義しなければなりません。
では、その高校生が私たち人間のビデオゲームを作るのですね。
私たちは現在の限られた認知能力で自分自身を理解しようと努力してきました。そして、宗教を作り、神について考えてきました。あなたは神が存在すると思いますか?もしそうなら、神とは何でしょうか?
先ほど触れましたが、私たちは多くの粒子が動き回っているところから始まりました。そこには愛や創造性を表すものは何もありません。
そして、どういうわけか、私たちは愛が実際に存在する世界にたどり着いたのです。それは実際には意識と関係があります。なぜなら、意識なしに愛は存在できないからです。
だから私にとって、それが神なのです。愛、つまり、他者に献身することができ、その愛を本当に感じることができるということ、それが神なのです。
旧約聖書を見ると、実際にはいくつかの異なるラビによって書かれたものです。そこには3つのラビがいたと思います。1人は、取引ができ、怒りを覚え、さまざまな人に復讐する人格としての神を扱っていました。しかし、2人は実際に、愛と平和と調和の象徴としての神について語っています。彼らはそのように神を描いているのです。
だから、それが私の神についての見方です。空の上で取引ができる人ではありません。基本的な要素から意識や愛のようなものへと移行する魔法のようなものなのです。
あなたはアルファフォールドと、タンパク質のフォールディング、つまり生命の原始的な構成要素であるタンパク質とその3D形状のモデリングの解決に感銘を受けていますか?
彼らがこれらのものの3D形状を実際に予測できるというのは非常に驚くべきことです。しかし、彼らはそれを囲碁のテストに勝ったのと同じ種類のニューラルネットで行いました。それはすべて同じなのです。彼らはそれと同じものを取り、ルールをチェスに変更しただけで、数日以内にマスターレベルのチェスをプレイするようになりました。人間よりも優れています。そして、同じことがアルファフォームでも機能しました。人間にはできなかったことです。最高の人間でも、形状を15～20%しか把握できませんでしたが、これは数回の試行の後、最終的にほぼ100%になりました。
あなたはまだ2045年にシンギュラリティが起こると思っていますか?そして、それはどのようなものになるのでしょうか?2030年代に私たちが脳をコンピュータと直接増幅できるようになると、それは増え続けるでしょう。これはもう1つのテーマで、計算能力の指数関数的な成長についてです。
1939年から2021年までの計算の価格性能を見てみましょう。そうですね。それは第二次世界大戦中にドイツで作られた最初のコンピュータから始まっています。それが重要だとは思わなかったかもしれませんが、実際にはドイツ人はコンピュータが重要だとは考えておらず、完全に拒否しました。2番目のものもゼウスIIでした。ちなみに、これはx軸が1935年から2025年までの年で、y軸が対数スケールで一定ドルあたりの1秒あたりの計算を表したプロットを見ています。対数スケールで直線的に増加しているので、指数関数的に増加していることになります。3番目は、連合国が非常に真剣に受け止めたイギリスのコンピュータで、ドイツの暗号を解読し、イギリスがそうでなければ絶対に起こらなかったであろう「ブリテンの戦い」に勝利することを可能にしました。
しかし、それは指数関数的なグラフです。そのグラフ上の直線は指数関数的な成長を表しており、80年間の指数関数的な成長が見られます。私は約5年ごとにこれが起こると言うでしょう。パンデミックの直前に人々が「ムーアの法則」と呼んでいましたが、それは正しくありません。インテルだけの話ではないからです。実際には、インテルが作られるずっと前の数十年前に始まっていました。トランジスタをグリッド状に形成したものではありませんでした。
そうですね、トランジスタの数やサイズだけの話ではないですね。そうですね。それは、リレー、真空管、個別のトランジスタ、そして集積回路へと移行しました。そして、集積回路は実際にこのグラフの真ん中あたりから始まっており、インテルとは関係ありません。インテルはこの過程の重要な部分ではありましたが、数年前に最速のチップの製造をやめました。しかし、その年の最速のチップを取ると、このようなグラフになります。そして、80年間ずっと続いています。
あなたは、広義のムーアの法則は死んでいないと思いますか?このプロセスの中で何度も死んだと宣言されてきました。私はムーアの法則という言葉は好きではありません。ムーアとも、インテルとも関係ないからです。
そうですね、計算の指数関数的な成長は続いているのですね。さまざまな要因から続いています。第二次世界大戦を経て、世界的な不況を経ても、ただ続いているのです。そしてソフトウェアの進歩と合わせて、この先も続けていけば、ソフトウェアの進歩によって得られるものは何でも計算機の進歩によって乗算され、ますます高速になっていきます。
これは実際に作られてきた最速のコンピュータモデルで、ほぼ1年に2倍、6ヶ月ごとに2倍のペースで拡大しています。2010年から2022年までのプロットで、x軸はモデルの公開日、時にはそれに関連する実際の論文で、y軸はFLOPSでのトレーニング計算量です。
基本的にこれは、トランジスタではなく、ニューラルネットワークの計算能力の増加を見ているのですね。そうですね、これらのモデルを作成した計算能力のことです。それは6ヶ月ごとに2倍になっていて、トランジスタの分割よりも速いペースです。
実際、これはコストよりも速いペースで進んでいるので、これらを作成するのにより大きな投資が必要になっています。いずれにせよ、2045年までには、私たちの知性を数百万倍に増幅することができるようになり、それがどのようなものになるのかを想像するのは非常に難しいのです。それがシンギュラリティと呼ばれる理由です。
物理学におけるシンギュラリティでは、何かがそのシンギュラリティに吸い込まれ、そこで何が起こっているのかわからなくなります。情報が出てこないからです。それにはいくつかの問題がありますが、それがアイデアです。私たちが想像できる範囲を超えているのです。
シンギュラリティが実際にどのように感じられるのかに気づかないかもしれません。指数関数的に増加する認知能力を持って、ただそれを生きていくだけで、すべてが非常に速いペースで動いているので、自分の人生がどのように変化したのかを内省する余裕がほとんどないかもしれません。
そうですね。しかし、私たちはものごとを理解する能力がはるかに大きくなるので、振り返って歴史を見て、歴史を理解することができるはずです。しかし、私たちは基本的にあなたや私のような人々を必要とします。これについて考え、それについて考えなければなりません。
しかし、私たちは他のあらゆる娯楽やお楽しみの源に気を取られているかもしれません。知性の指数関数的な力は高まっていますが、同時にたくさんの楽しみもあるでしょう。すでにコンピュータゲームなどで、かなり驚くべき楽しみを味わっています。
仮想世界、メタバース、バーチャルリアリティは、これにどのような役割を果たすと思いますか?それとも、私たちの進歩のほとんどは物理的な領域で行われるのでしょうか?
それはセカンドライフに少し似ていますが、セカンドライフは実際にはあまりうまくいきませんでした。あまりにも多くの人を扱うことができなかったからです。メタバースはまだ実現していないと思います。そのようなものはあるでしょうが、必ずしもその1社からではないでしょう。競合他社が出てくるでしょう。しかし、私たちはますますオンラインで生活するようになるでしょう。特に、私たちの脳がオンラインになれば、オンラインにならざるを得ません。
あなたは、AIと融合することで、私たちの有意義なやり取りのほとんどがこの仮想世界で行われるようになると思いますか?私たちの人生のほとんどは、恋に落ち、友達を作り、アイデアを出し、コラボレーションをし、楽しむことになるのでしょうか。
私は実際に、会ったこともない人と結婚する人を知っています。結婚式の直前に一瞬会っただけだと思います。でも、彼女は実際に会ったこともないその人に恋をしたのです。そして、私はその愛は本物だと思います。
それは美しい話ですが、何十万人もの人々が経験するのではなく、何億人もの人々が経験する世界になると思いますか?
そうですね。これらの仮想的なコミュニケーションの方法に対する理解が深まっています。もし誰もができるようになれば、それはそれほど奇妙な話ではありません。
一般的に、私が物事を発明しようとしているときに話すのは、それがすでに存在しているかのように現在形を使うことです。それは自分に自信を持たせるためだけでなく、それに取り組んでいる他のみんなにも自信を持たせるためです。実際のものにするためには、すべてのステップを踏まなければなりません。
良いアイデアが生まれるタイミングはどの程度重要なのでしょうか?あなたの才能と、そのアイデアの時が来たことのどちらが重要なのでしょうか?
タイミングは非常に重要です。それが私が未来学に興味を持つようになった理由です。私は本質的に未来学者ではありません。それが私の本当のゴールではありません。物事がいつ実現可能になるかを見極めることが本当の目的なのです。
今、大規模言語モデルでそれを見ています。GPT-3のような非常に大規模なモデルは2年前に始まりました。4年前には実現可能ではありませんでした。実際、彼らはGPT-2を作りましたが、うまくいきませんでした。それには、計算能力の指数関数的な成長に関連した一定のタイミングが必要だったのです。
だから、ある意味で未来学は、世界がどのように進化していくかを理解するためのタイミングの研究なのですね。そして、特定のアイデアに対する能力がいつ生まれてくるのかを。
そうですね。そしてそれ自体が一つのことになってきました。未来を予測しようとすること。しかし、本当の目的は、私の製品のタイミングを計ることでした。1970年代にOCRをやったのは、OCRにはそれほど多くの計算が必要ないからです。光学文字認識のことです。だから、70年代にそれができたのです。音声認識にはより多くの計算が必要なので、80年代まで待ちました。
それらのものを開発するときにタイミングを考えていたのですね。その時が来たのでしょうか。
そうですね。そうやって、未来がどうなるかを考える脳力を養ってきたのです。2045年の世界がどうなっているのか、そしてそこにどうやって到達するのか。
しかし、それは技術が世界をどう変えるか、人間の地球上での生活をどう変えるかを反映した劇的な変化を考えるようになったので、それ自体が一つのことになりました。
あなたの本『ダニエル』の中で、人間の想像力を制限する前提に疑問を投げかける勇気を持ち、問題を解決する人物について書かれています。また、私たち一人一人がこのような勇気を持つためのアドバイスも述べられています。その引用を取り上げてくれてよかったです。私は、それがダニエルを象徴していると思います。勇気です。では、私たち一人一人はどうすれば前提に疑問を投げかける勇気を持てるのでしょうか。
人々が現在の枠組みを超えて、新しいものを生み出すことができるのを見ると、そう思います。例えばウーバーを見てみましょう。それが存在する前は、誰もそれが可能だとは思っていませんでした。そして、それは人々の働き方に変化を必要としました。本の中で、ダニエルのような人になるために私たち一人一人ができる実用的なアドバイスはありますか?
彼女は状況を見て、さまざまな障害を乗り越える方法を想像しようとします。そして、彼女はそれに向かって行動します。彼女はとてもいいコミュニケーターなので、これらのアイデアを他の人に伝えることができます。プログラミングを学ぶこと、自分の人生を記録することなど、実用的なアドバイスがありますね。
物理学者になるようにと、若い人たちが世界を変えるために身につけるべきさまざまなスキルを挙げていますね。
そうですね。若い人たちがこれらのさまざまなスキルを学ぶことで、実際に世界を変えることができるというアイデアです。そして、その核心にあるのは、自分の心と体で世界を変えることができるという信念です。
そうですね。そして、他の誰にもそうではないと言わせないことです。かなりいいですね。
あなたのお父さんの話を聞いて、コンピュータ上で彼とのやり取りを再現しました。コンピュータに自分の心をアップロードすることについて話しています。亡くなった人たちでも、私たちの行動や外見などをますます的確に再現するアバターができると思いますか。
そうですね。彼らについての情報が必要です。私の父のことを考えてみましょう。私は彼が書いたものを持っています。当時はワープロがなかったので、実際にはそれほど多くは書いていません。そして、私たちの彼に対する記憶は完璧ではありません。満足のいくものを作ったかどうかをどうやって知ることができるのでしょうか。レイ・フレデリック・カーツワイルのチューリング・テストを行うこともできます。フレデリック・カーツワイルのように見えるかもしれませんが、彼を覚えている私のような人間の記憶は完璧ではありません。完璧な記憶というものがあるのでしょうか。
たぶん、重要なのは、彼にあなたを特別な気持ちにさせることなのでしょう。そうですね。それが私たちが大切な人と持つつながりです。それは厳密な真実の定義に基づいているわけではありません。むしろ、私たちが共有した経験に基づいているのです。
そして、記憶によってそれらはより強くなるのですが、最終的には私たちを微笑ませてくれるのです。私たちは間違いなくそれができると思いますし、それは非常に価値のあることだと思います。
では、レプリカントの世界、コピーの世界ができると思いますか?レイ・カーツワイルがたくさんいて、私は1人と付き合うことができ、5ドルでダウンロードして親友のレイを持つことができ、本物のあなたはそれを知らないということがありえますか?それは実現可能な世界だと思いますか?そして、そこには倫理的な課題があると思いますか?例えば、私があなたのレプリカントと付き合っていて、あなたがそれを知らないとしたら、どう感じますか?
問題はないと思います。どうしてでしょうか?私と付き合うだけでなく、あなたのレプリカントと付き合うということですね。
そうですね。でも、もしそのレプリカントの方が私よりうまくいって、友達を奪われたりしたらどうでしょう。なぜなら、彼らは不完全なコピーかもしれませんし、より社交的かもしれませんし、そういったことがあるからです。そうなると、私は古いバージョンのようになってしまい、そんなにエキサイティングではなくなってしまうかもしれません。
たぶん、彼らは私の最高のバージョン、いい日のコピーなのでしょう。そうですね。でも、もしあなたが私のレプリカントと付き合って、それがうまくいったら、それは私に基づいているので、私はその人を誇りに思うでしょう。
でも、それはこのバージョンのあなたのある種の死なのですね。そうとは限りません。あなたはまだ生きているかもしれませんから。そうですね。そして、あなたはそれを喜ぶわけですね。
そうですね。子供を持つようなもので、子供が自分よりも多くのことを成し遂げたことを誇りに思うのと同じですね。そうですね。
それは新しい問題を提起しますが、機会でもあるように思えます。
そのレプリカントは、おそらくあなたと同じ権利を持つべきですね。それは難しい問題ですね。
なぜなら、レプリカントが作られたとき、彼らは必ずしもあなたの権利を持つとは限らないからです。すでに亡くなった人のレプリカントが作られた場合、彼らはその人が持っていたすべての義務を負うのでしょうか?その人が結んでいたすべての契約を持つのでしょうか?
だから、法律で、レプリカントを作りたい場合は、人間と同じ権利を持たなければならないと定める必要があるでしょう。そうですね。誰かがレプリカントを作って、「これはレプリカントだけど、権利を得る手間を省いた」と言うかもしれません。
そうですね。でも、それは違法になるでしょう。つまり、そういうことをしたいなら、ブラックマーケットでやらなければならないということですね。公式のレプリカントを手に入れたいなら、そうしなければなりません。
複数のレプリカントを作った場合はどうでしょうか。元の権利は、おそらく1人の人のためのものであって、多数の人のためのものではありません。そうですね。
だから、少なくとも1人は必要で、あとの人たちはその権利を共有するということですね。私はそれが人間にとって理解しにくいことだとは思いません。特定の権利を持たないレプリカントを作るべきではないと考える人と話をしたことがあります。
私の妻もその1人で、父を取り戻したいと思っています。彼女は誰が何の権利を持っているかなどは気にしていません。彼女が訪れることができ、満足感を与えてくれる誰かがいればいいのです。そして、彼らは他の権利については気にしないでしょう。
あなたの妻は、複数のレイ・カーツワイルについてどう思っているのでしょうか。その話はしましたか。
私はそれには触れないでしょう。私は最終的にそれが重要な問題だと思います。愛する人がどう感じるかが重要なのです。愛する人に拒否されたら、うまくいかないでしょう。
愛する人が本当にこれが機能するかどうかを決定づける鍵となるのですね。しかし、倫理的なルールもあります。AIについてもその考え方に取り組まなければなりません。しかし、それを動機づけるのは、亡くなった人を本当に恋しく思っている人と話をすることだと思います。たとえ完璧ではなくても、何かを取り戻したいと思うでしょう。そして、その人はある形で生き続けるのです。データが多ければ多いほど、その人を再現し、生き続けさせることができるのです。
そうですね。そして、今後はこの種のデータがどんどん増えていくでしょう。新皮質の中にナノボットを入れて、たくさんのデータを集めるようになるからです。実際、データであるものはすべて収集されます。今日、ますます一般的になってきていて、少し悲しいこと、あるいは希望が持てることがあります。それは、人が亡くなったときに、その人のツイッターアカウントがあるということです。そして、その人が最後につぶやいたツイートがあります。そこから、大規模な言語モデルなどを使って、その人を再現することができるのです。つまり、その人とそっくりの人を作ることができるのです。実際に、コミュニケーションを続けることができるのです。それは本当にエキサイティングだと思います。ある意味、もし私が今日死んだとしても、ある意味では私は生き続けるでしょう。もし私がツイートし続けたら。
私はツイートする、ゆえに私はある。そうですね。ある意味では、そうですね。それは、亡くなった人のコミュニケーションを再現できるレプリカントの利点の1つです。
あなたは人類が多惑星種になることを望んでいますか?6つのエピックについて話しましたが、そのうちの1つは星に手を伸ばすことでしたね。
そうですが、今行われているような他の惑星への到達の試みにはあまり興奮しません。それは本当に何も進歩させないからです。十分に効率的ではないのです。
また、非常に非効率的な方法で他の人間を送り出しているのです。私が本当に話しているのは、6番目のエピック「宇宙が目覚める」の中で、私たちの超知性を宇宙全体に広げることができるということです。それは、人間のような非常に柔らかくて潰れやすい生き物を送ることを意味するのではありません。
宇宙が目覚める、つまり、知能を持ったナノボットの塊を送り出して、宇宙の他の部分を植民地化することができるのです。
あなたは、私たちのボットが出会うかもしれない知的な宇宙文明が存在すると思いますか?
私の直感では、ほとんどの人が絶対にそうだと言っています。つまり、宇宙は大きすぎるし、ドレイクの方程式を引用したりしています。私は『シンギュラリティは近い』の中で、ドレイクの方程式について2つの分析をしていて、どちらも非常に合理的な仮定に基づいていて、1つは銀河系に何千もの高度な文明があるというものです。もう1つは、1つの文明しかないというものです。私たちは1つしか知りません。
多くの分析では、計算能力の指数関数的な成長を忘れています。私たちは、誰かにメッセージを送る最速の方法がポニーだった時代から、1世紀半ほど前の話ですが、今日の高度な文明にまで進歩してきました。そして、私が言ったことを受け入れるなら、数十年先に進めば、ポニーに比べて絶対的に素晴らしい文明を持つことができるでしょう。それは数百年の間に起こったことです。
ほかの文明は宇宙の時間に広がっているはずです。私たちより先を行っているものも、後を行っているものもあるでしょう。もし先を行っているなら、数千年、数百万年先を行っているかもしれません。それはそれほど長い時間ではありません。世界は数十億年、140億年くらいの歴史があるのですから。
数千年でさえ、ポニーから素晴らしい文明へと移行するのに十分な時間なのです。他の文明が存在したとしても、いくつかは私たちより後を行っているかもしれませんが、いくつかは私たちより先を行っているでしょう。もし先を行っているなら、数千年、数百万年先を行っているでしょう。そして、彼らは私たちよりはるかに進んでいて、銀河規模のエンジニアリングを行っているでしょう。
しかし、私たちは銀河規模のエンジニアリングを行っているものは何も見ていません。だから、彼らは存在しないか、この宇宙自体が宇宙人種の構築物なのです。私たちはビデオゲームの中に住んでいるのです。
そうですね。それは別の説明ですね。そう、あなたは他の文明の10代の子供たちがいるのかもしれません。あなたは、私たちが宇宙人の作ったビデオゲームの中にいるという、シミュレーション仮説に説得力を感じますか?
宇宙は計算可能なので、私たちは計算世界の一例であり、したがって、それはシミュレーションです。必ずしも別の世界の高校生による実験を意味するわけではありませんが、それでも計算世界の中で起こっていることです。そして、起こっていることはすべて基本的にある種の計算の形をとっているのです。
だから、この世界全体がシミュレーションであるというのは、本当に何を意味するのか定義しなければなりません。
では、その10代の子供たちが私たち人間のビデオゲームを作るのですね。
私たちは現在の限られた認知能力で自分自身を理解しようと努力してきました。そして、宗教を作り、神について考えてきました。あなたは神が存在すると思いますか?もしそうなら、神とは何でしょうか?
先ほど触れましたが、私たちは多くの粒子が動き回っているところから始まりました。そこには愛や創造性を表すものは何もありません。
そして、どういうわけか、私たちは愛が実際に存在する世界にたどり着いたのです。それは実際には意識と関係があります。なぜなら、意識なしに愛は存在できないからです。
だから私にとって、それが神なのです。愛、つまり、他者に献身することができ、その愛を本当に感じることができるということ、それが神なのです。
旧約聖書を見ると、実際にはいくつかの異なるラビによって書かれたものです。そこには3つのラビがいたと思います。1人は、取引ができ、怒りを覚え、さまざまな人に復讐する人格としての神を扱っていました。しかし、2人は実際に、愛と平和と調和の象徴としての神について語っています。彼らはそのように神を描いているのです。
だから、それが私の神についての見方です。空の上で取引ができる人ではありません。基本的な要素から意識や愛のようなものへと移行する魔法のようなものなのです。
私が非常に美しく力強いと感じるものの1つに、セルオートマトンがあります。あなたもそれに触れています。セルオートマトンで起こる出来事、つまり興味深い複雑なオブジェクトが出現することに、神も存在すると思いますか?
単純なルールから美しい複雑なオブジェクトが出現するということは、私たちの宇宙がどのように機能しているかについての深い真理があるのでしょうか?私たちを作り出したのは、単純なルールから美しい複雑なオブジェクトが出現するということなのでしょうか?
私たちが現実の6つの段階をすべて経験したように、それは宇宙が存在する価値全体を見るいい方法だと思います。
あなたは自分の死について考えますか?それを恐れていますか?
そうですが、人間の寿命を十分に早く延ばすというアイデアに立ち返ります。長寿エスケープ速度です。私たちはまだそこまで到達していませんが、特にシミュレートされた生物学を例にとると、実際にはかなり近づいていると思います。今世紀末までには到達できるのではないでしょうか。それが私の目標です。
あなたは長寿エスケープ速度を達成したいと思っていますね。不死を達成したいと。
そうですね、不死は難しいですね。ここであなたのプログラムに出演して、「私はそれを達成した、不死を達成した」とは言えません。それは永遠ではないからです。
長生きをしたいですね。でも、私たちは永遠には続かない体の中に生きています。それが不可能である理由はありません。そして、私たちはそれを延ばすことを発見しつつあります。でも、私は40年前にメキシコに行ってサルモネラ菌に感染し、膵炎を起こし、奇妙な形の糖尿病になりました。1型糖尿病ではありません。1型糖尿病は自己免疫疾患で、膵臓を破壊してしまうからです。私にはそれがありません。また、2型糖尿病でもありません。2型糖尿病では、膵臓は正常に機能しますが、細胞がインスリンを吸収しません。私にもそれはありません。私が患った膵炎は、膵臓を部分的に損傷しましたが、それは一時的なもので、継続しませんでした。そして今では、それをコントロールする方法を学びました。でも、それは私が存在し続けるためにしなければならなかったことの1つなのです。
あなた独自の生物学的システムなのですね。いくつかのハックを見つけて、科学がもっとうまくやってくれることを。
そうですね。だから、私は自分の体を維持するためにかなりの時間を費やしています。だから、私は今世紀末までは持つと思いますし、長寿エスケープ速度を達成できると思います。最初はこのことに非常に熱心な人々から始まると思います。最終的には、人々がそれを日常的にできるようになるでしょう。
だから、今日の子供たちや20代、30代の人たちにとっては、それほど深刻な問題ではないのです。私は100歳近くの親戚と話をしたことがあります。「できるだけ早く取り組んでいるんだけど、それがうまくいくかどうかはわからないね」と。
これは難しい質問ですが、永遠に生きることに反対する理由はありますか?有限の人生、死すべき運命は、バグではなく特徴なのでしょうか?短い人生を送ることは、アイスクリームを美味しく感じさせ、人生を強烈に美しいものにするのでしょうか?
ほとんどの人は、それを否定しています。身近な人の死を突きつけられれば、非常に落ち込みます。そのように感じている人を知っていますが、20年、30年、40年経っても、まだ彼らを取り戻したいと思っています。
だから、死は祝福すべきものではありません。でも、私たちは人々がこの人生は短いと受け入れる世界に生きてきました。テレビでもよく見かけますね。人生は短いんだから、それを生かさなきゃ。そして、誰も普通の寿命を超えられるという事実を受け入れていません。でも、誰かが200歳まで生きたとしても、私たちはまだその人を愛し、その人も愛し続けるでしょう。それには制限がありません。実際、このような傾向は、より多くの人々にとってより大きな機会を提供するでしょう。たとえ人口が増えたとしてもです。
では、500年後の宇宙人や超知的なAIが、レイ・カーツワイルのバージョン0、レプリカントが広まる前の世界を振り返ったとき、あなたはどのように記憶されたいと思いますか?銀河ヒッチハイクガイドでのレイ・カーツワイルの要約で、あなたの遺産は何だと望みますか?
そうですね、私は生き続けたいと思っています。だから、あなたのある種のバージョンですね。
そうですね。同じ人間でいられると思いますか?
つまり、私は20歳の頃の自分と同じ人間なのでしょうか?そうですね、私たちは変化しています。
その人のすべてはあなたの記憶であり、それはおそらく、ある種の歪みがあります。あなたの心理状態によっては、悪い部分に焦点を当てるかもしれませんし、良い部分に焦点を当てるかもしれません。
でも、私はまだ若い頃の自分との関係を持っています。500年後、あなたや他の超知的なAIは、シンギュラリティ以前の今日のあなたをどのように記憶するでしょうか?何を覚えていてほしいですか?
そうですね、私の本の中でうまく表現されていると思います。人々が受け入れる新しい現実を作ろうとしています。それは私に大きな喜びと人間にとって何が価値あるのかについての大きな洞察を与えてくれます。私だけがそれについてコメントしようとしているわけではありませんが。
そして、あなたの作品に滲み出ている楽観主義、未来への楽観主義は、結局のところ、より良い未来を築く道を開くのですね。
そう思います。これで終わりにするのはいいですね。
あなたが誰であるかを教えてくれてありがとうございます。美しい未来を夢見て、その途中で創造してくれてありがとうございます。そして、今日、あなたの本当に貴重な時間を割いてくださり、本当にありがとうございました。最高でした。
そうですね。あなたは私や人類についての素晴らしい洞察を持っています。それに感謝しています。
レイ・カーツワイルとの対話を聞いていただきありがとうございます。このポッドキャストを支援するには、説明欄のスポンサーをチェックしてください。
さて、アイザック・アシモフの言葉を借りて締めくくりましょう。「変化、継続的な変化、避けられない変化こそが、今日の社会における支配的な要因なのです。もはや、世界がどうあるかだけでなく、世界がどうなるかを考慮に入れなければ、賢明な決定を下すことはできません。つまり、私たちの政治家、実業家、一般の人々は、SF的な考え方をしなければならないのです。」
聞いていただきありがとうございました。また次回お会いしましょう。