David Shapiro Podcast: AGI、エイリアン、寿命延長と意識

19,632 文字

こんにちは、お招きいただきありがとうございます。この対談を楽しみにしています。さて、あなたご自身が200歳の誕生日を迎える確率はどのくらいだと思いますか?
直感的な感覚では、もっと高い確率を望みたいところですが、40〜60%くらいでしょうか。控えめに見積もって40%としましょう。個人的に200歳まで生きられる確率ですね。
特に最近の健康管理や長寿に関する取り組みを踏まえて、その理由を教えていただけますか?
私の健康指標から見ると、自然な寿命としては70歳、80歳、場合によっては90歳くらいまでは期待できます。これは現在利用可能な技術での予測です。ただ、私が期待しているのは、より高齢になるまでの間に十分なブレークスルーがあり、寿命をどんどん延ばしていけるようになることです。
例えば、ある病気を予防できる新薬が開発されるといったように。私自身、心臓病にならないことがほぼ確実な薬を服用していますが、死因は他にもたくさんありますからね。
そうなると問題は、新薬や治療法の開発によって、それらの死因を取り除けるか、あるいは最終的には老化そのものを止められるかということです。もし今後30年ほどの間にそれが実現できれば、私たちは寿命延長の逃走速度に到達できるでしょう。私は寿命延長の逃走速度は十分に可能だと考えています。
もちろん、それを非常に困難にする要因もありますし、場合によっては不可能かもしれません。でも、今後30年間を何とかしのげれば、おそらく大丈夫でしょう。
DNAのテロメア長が寿命と相関しているという話がありましたよね。約10年前に大きな話題になったと思います。遺伝情報をChatGPTのようなツールに入力して、寿命に関係する遺伝的な基盤を理解するための新しいモデルが作れるかもしれません。
また、脳内のアミロイドプラークの蓄積も重要な要因のようですね。そういった点を考えると、私の確率予測は下がるかもしれません。脳の仕組みが詳しくわかるたびに、マイクロチューブルと呼ばれる構造が記憶の保持に関係しているという話も聞きました。
麻酔をかけるとそれが壊れて、脳細胞の接続が変わってしまうようです。そう考えると、仮に200歳まで生きられたとしても、マイクロチューブルが保持できなければ、もはや私は「ディラン」とは呼べない存在になってしまうかもしれません。自己というものが大きく失われてしまうでしょうから。
個人的には、200歳の誕生日を迎える可能性は80%くらいだと考えています。これは主に、今後の指数関数的な成長を外挿して考えた結果です。レイ・カーツワイルの考えにも少し影響されているかもしれませんが。あなたの最終的な確率予測はいかがですか?
確かに、私たちは計算上可能な上限にはまだ全く到達していません。例えば、全ての人間のDNA、遺伝情報、エピジェノムを抽出して、十分な計算能力と正確なシミュレーション能力があれば、人体の全代謝相互作用を理論的にモデル化できるはずです。
現在までに約40万種類の代謝物質と相互作用が人体で確認されていますが、これを計算するのは今の技術では手に負えません。しかし、AlphaFold 2が成し遂げたことを考えると、1年後、2年後、10年後には可能になるかもしれません。
映画『ガタカ』のように、血液一滴から数日の誤差で寿命を予測できるレベルまで到達する可能性は十分にあります。これは第一原理的な思考からすれば、実現可能な範囲内です。
80〜100%という高確率を付けられない理由は、まだ多くの不確実な要素があるからです。病気や加齢のモデルにおいて、予期せぬことが起こる可能性があります。長く生きれば生きるほど、致命的な問題が発生するリスクは高まります。
もちろん、事故や飢餓、暴力による死亡の可能性もあります。ただし、純粋に生物学的な死因だけに限定すれば、科学は非常に複雑ですが、がんやその他の加齢関連の機能低下については、解決の見込みがあります。
数週間前に、日本で試験中の薬について動画を作りました。これは基本的にミトコンドリアを若返らせる薬です。もし単一の薬で全身の細胞内レベルでの若返りが実現できれば、大きな進歩となるでしょう。
まだ効果は証明されていませんが、ご指摘の通り、深く調べれば調べるほど、常により複雑な仕組みが見つかります。しかし同時に、複雑な問題を解決できそうに見えるたびに、その背後にまた別の層が存在することもわかってきています。
90年代後半だったと思いますが、ビル・クリントン大統領が「初めてゲノムを解読した、これで生命の書物を手に入れた」と発表しました。しかし、DNAがヒストンにどのように巻き付くかによって、その「書物」の読み方が全く変わってくることがわかりました。まるで「選択型アドベンチャー」の本のようですね。
さらに、腸内の細菌叢は、私たちの体内のDNAの数を上回っていることもわかりました。つまり、DNA的に見れば、私たちは人間よりも非人間的な要素の方が多いのです。
最近では、ウイルスとの長期的な相互作用が、腸内細菌叢や腸以外の生体系にも大きく影響している可能性が指摘されています。例えば、血液脳関門は予想以上に透過性が高く、ヘルペスウイルスが何らかの神経学的問題と関連しているという話もあります。
これらの層の複雑さを考えると、私の予測は少し高すぎたかもしれません。バスに轢かれるような日常的な事故のリスクも含めて、200歳までの生存確率を75%くらいに修正したいと思います。
確かに、自分自身の愚かさや他人の愚かさによるリスクもありますね。様々なことが起こり得ます。気候変動の影響や、核戦争、生物兵器の可能性もあります。
ただし、これは内因性の死因と外因性の死因を分けて考える必要があります。寿命に影響を与える要因には、さらに別の層もあります。
私の祖父の一人は、ある一般的な変性疾患で亡くなりました。これは若い頃のウイルス感染が原因かもしれないという証拠があります。感染の種類や免疫反応によって、免疫系が持続的な記憶を持つからです。
これは全く別の層の問題です。年ごとにアレルギーが変化したり、食物アレルギーや過敏症が変化したりするように、リンパ系や免疫系は常に適応し続けています。
実際、長期的に見ると、免疫系が寿命の最大の脅威になる可能性を私は懸念しています。あまりにも多くのタンパク質を攻撃対象として学習してしまうと、誤って自身を破壊してしまう可能性があるからです。
そうですね。これまで誰も経験したことがないほど長く生きた体は、2000年代初頭の情報など、将来的には全く関係のないことを覚えているかもしれませんね。
では、次は哲学的な質問に移りましょう。苦しみを経験せずに充実した人生を送ることは可能だと思いますか? その確率はどのくらいでしょうか?
AIが仕事を代わりにしてくれて、多くの仕事から解放され、完璧な生活を送れるようになったとしても、幸せになるには何らかの課題が必要かもしれません。
その確率はほぼゼロだと考えています。いくつか理由がありますが、まず快楽順応があります。健康な人間は、どのような生活水準であれ、約3ヶ月でその環境に適応してしまいます。
これは様々な研究で示されています。宝くじに当選した人も、確かに6ヶ月後には余暇時間は増えているかもしれませんが、幸福度と苦悩のレベルはあまり変わっていません。
同様に、高い地位から低い地位に転落した場合も、確かにこの場合は反証もあって、一時的に自殺のリスクは大幅に上がりますが、その変化を受け入れて新しい人生に適応できれば、概ね基準となる幸福度に戻ります。
たとえ技術で今日知られている全ての問題を解決したとしても、人生には避けられない苦しみがあります。恋愛関係での心の痛み、失望、事故やケガによる肉体的な痛みなどです。
スター・トレックのように、医務室で「8本の肋骨が折れて脾臓に打撲があっても、魔法の杖で8年かかる回復が8分で済む」としても、痛みや挫折、失望を経験することには変わりありません。
私がよく考える思考実験の一つは、1000年後に完璧な技術を手に入れても、子供たちは走り回って転んで頭を打ち、泣きながらやってくるだろうということです。
少なくとも人間にとって、苦しみや失望、痛みの経験は存在の根本的な側面だと思います。もちろん、痛みの回路を持たない、痛みを脳から除去した未来を作ることはできるでしょう。
しかしそうなると、より人間以後（ポストヒューマン）的な議論になってきます。人間であることの意味とは何かという、全く別の難しい問題が出てきます。
苦しみは存在と不可分だと私は考えます。ただし、何かが本質的で避けられないからといって、それが良いか悪いかは別問題です。少なくとも私たちにとって、それは存在の自然な一部なのです。
興味深いですね。苦しみのない人生は何か惨めなものに思えますが、それ自体が一種の苦しみですよね。時々その考え方自体に迷ってしまいます。
確かに、人生で最高の時期は必ずしも最も楽な時期ではありませんでした。深夜まで懸命に働いた起業の時期は、他の時期と比べて客観的には状況が良くて楽だった時期よりも、充実感がありました。その時は、より怠惰で、毎朝の活力も少なかったように思います。
確かに、意味というものは快楽や苦痛を超えた、より超越的なものから来ています。人間にとって意味は、努力することから生まれます。
楽観や希望を持ち、将来のために何かを築いているという感覚があります。しかし、世界で最も裕福で健康な人々でさえ、エベレストに登ろうとします。
彼らは極めて過酷な状況に身を置きます。なぜなら、その努力や苦労に意味を見出すからです。苦しみはその一部であり、努力も一部です。
苦しみは、私が「努力」や「奮闘」と呼ぶものの一部分です。知的な努力であれ、身体的な努力であれ、苦しみや儀式を通じた変容のプロセスであれ、そこに意味を見出すのです。
多くの人にとって、もう一つの大きな意味の源は、ある種の新規性です。人生の新しい段階に達すること、新しい関係を築くこと、何か新しいことを達成すること、あるいは新しい経験をすることです。
哲学的な観点から見ると、関係性を除けば、努力と新規性が意味の二大源泉だと考えています。社会的な動物である私たちにとって、意味の90%は人間関係から来ているのが正直なところです。
面白いですね。人間は人生に多くの新規性を求めますが、世代の習慣を変えるのは非常に難しいものです。休暇で新しい経験をしたり新しい人に会ったりすることは望みますが、世代全体の働き方や生活様式、行動を考えることは、私たちにとって新規性というよりも怖ろしいものになります。私たちは制御を好むからです。
確かに、親しみやすさや快適さはありますね。ドーパミンの飽和状態になることもあります。例えば、Spotifyで毎日何百もの新曲を聴いていた時期がありましたが、最終的には数週間の沈黙が必要になりました。新しい音楽はもう十分、今は何も必要ないという感じでした。それは私たちの脳の仕組みの一部なんです。
私はむしろ反対で、同じ音楽を何時間も繰り返し聴いて、その雰囲気に浸り、歌詞さえも忘れてしまうことがあります。
そうですね、私のサウンドトラックもかなり繰り返しが多いです。
では次に、宇宙論についての質問に移りましょう。あなたの自然な寿命である70〜80年の間にファーストコンタクトが起こる確率はどのくらいだと思いますか?
かなり低いと思います。なぜなら、もし地球外生命体が存在するとして、まず距離の問題があります。彼らが地球を訪れているとすれば、コンタクトのタイミングは完全に彼らの裁量になります。私たちではなく、彼らの選択次第です。
コインを投げるようなものですね。エイリアンが降りてくるかどうかは運任せです。しかし、現在の科学の進歩の速度を考えると、光速を超える移動手段を発明できるとは思えません。
それが可能だとしても、数十年、数世紀、あるいは数千年先の話でしょう。今後50年間で人類がどこまで探索できるか? おそらく太陽系内に留まっているでしょう。
そのため、もし私たちの側からアプローチするとすれば、他の生命体と出会う確率はほぼゼロです。生命体が私たちの方にやって来るか、あるいは何か大きなブレークスルーがない限り。
例えば、シンギュラリティが2044年か2045年くらいに起きて、私たちが宇宙を制御できるQのような神々になるかもしれません。しかしその場合、地球外生命体の発見はトップニュースにもならないでしょう。
そのため、私の自然な寿命の中でETとの意味のある出会いがある確率は、実質的にゼロだと考えています。
では、ASIが検出方法で信じられないような指数関数的な進歩を遂げる可能性についてはどうでしょうか? AIは広大な探索空間を調べて、非常に複雑なパターンを見つけることが得意なようですが。
天体望遠鏡のデータをこれらのシステムに入力することで、エイリアンの生命を発見できるかもしれないと思いませんか?
確かに、既に検出できているデータはかなりの量があります。もちろん、宇宙にはるかに多くの望遠鏡や高度なセンサーを設置して、何があるのかをしっかりと調べることはできます。
しかし、距離とともに解像度は大きく失われます。何百光年、何千光年先の有機分子を検出できたとしても、彼らとコンタクトを取ることは、映画『コンタクト』のように彼らが常に私たちに向けて電波を発信していない限り、光速の制限を受けます。
そのため、検出は今後10〜20年以内に可能かもしれません。しかし、どの程度の解像度で、どの程度の距離まで検出できるかが主な問題になるでしょう。
ダークマターや量子力学、あるいは私たちがまだ完全に理解していないメカニズムを通じて、彼らが私たちとコミュニケーションを取ろうとしている可能性は、やはりほぼゼロだと思いますか?
私の知る限り、宇宙は非局所的で非実在的であるというのが共通認識です。そのため、光速を超えるコミュニケーションは理論的には可能に思えます。
しかし、私が知る限り、まずもつれた通信デバイスから始める必要があります。つまり、もつれた粒子を用意して、それらを互いに離れた場所に移動させる必要があります。
アドホックネットワークには逆因果性が使えるかどうかはわかりません。この点については、必要であれば詳しく説明できますが。そのため、可能性は低いと考えています。
その結論に至るまでには多くの「もし」が必要になります。
私は時々、私たちがまだ検出できていないコミュニケーションが周りに溢れているのではないかと考えます。私たちは電波の理解さえつい最近始めたばかりで、何十億年もの間、そのような通信手段を持っていませんでした。
今後、私たちがまだ発見していない多くのコミュニケーション手段が見つかる可能性があります。そのため、エイリアンが私たちの周りにいても、まだ私たちと接続できる存在とは感じられないのかもしれません。
また、全ての物質には反物質に相当するものがあるように思えます。場合によっては、それらの反物質の宇宙でも生命が存在する可能性があります。
文字通り一元的な何か、私たちがコミュニケーションを取れない何かがあるのではないかと思います。私は未知の領域があまりにも多いため、その可能性を少なくとも20%はあると考えています。
また、有機分子を検出して「これは既に起こったことだ」と判断し、それを見つけに行くことができるかもしれません。
たとえそこに行って訪れることができたとしても、それはもはやエイリアンではないかもしれません。私たちと同じように進化した時期があり、その後、何らかの未来的なニューラルリンクやデジタル版、あるいはデジタルを超えた私たちには理解できない何かに移行した可能性があります。
私は強い人間原理の大ファンです。彼らが地球を訪れているとすれば、コンタクトのタイミングは完全に彼らの裁量になります。私たちではなく、彼らの選択次第です。
彗星や小惑星の組成を見ると、パンスペルミアが宇宙の仕組みのようにも思えます。有機化合物や生命の種が、ほぼどこにでも飛び交っているのです。
まるで宇宙が生命が発生する可能性を最大化するように設計または工学的に作られているかのようです。しかし、長期的な時間軸で多くのことが起こる必要があります。
私たちの惑星は比較的安定していて、私たちの星も比較的安定しています。40億年もの間、星が惑星上の全ての生命を焼き尽くさないような安定性を保つのは、決して簡単なことではありません。
しかし、私は宇宙にはほぼ確実に生命が存在すると考えています。ただし、それは物理学の基本的な要素は何か、そしてそれを利用して光速を超える移動やコミュニケーションが可能かどうかという問題に帰着します。
あるいは、これら全てが幻想であることに気付くかもしれません。それも可能性の範囲内です。
幻想というのは、一次意識と二次意識の違いのようなものです。アヤワスカやDMTを経験した人々のように、私たちは今実際にはサブスペースにいて、本当の現実は精神的な領域なのかもしれません。
「ヴェールの向こう側」では、時間と空間は重要ではなく、実際には存在しないのかもしれません。それらは私たちの存在の次元でのみ存在する概念なのかもしれません。
私たちの存在の次元は、世俗的あるいはサブスペースと考えられる場所かもしれません。それはより単純で制約のある空間の層です。
しかし、これは世界の仕組みについての全く異なる存在論的モデルであり、可能性として考えられます。なぜなら、私は神経科学だけでは説明できない経験をしたことがあるからです。
パンスペルミアの可能性について、あなたの表情から高い確率を示しているように見えたので少し驚きました。
文明が出て行って生命の初期の痕跡を残し、それが独自に進化するという可能性について。人類が43億年前に海の中で生命の旅を始めた時、それは実際に他の場所から運ばれてきた可能性が高いと思いますか? 地球で完全に発生したのではなく。その確率はどのくらいでしょうか?
強い人間原理は基本的に、宇宙が生命を創造するように設計されているように見えるという観察に基づいています。
私たちが知る限り、生命の種が宇宙中を飛び交っているのはなぜでしょうか? それは観察者を必要とするため、普遍的な量子波動関数が生命の可能性の周りで崩壊したからでしょうか?
もしそうなら、宇宙は実際に生命の周りで自身を設計したことになります。これは「卵が先か鶏が先か」のような問題で、これが先ほど逆因果性に言及した理由です。
いくつかの存在論的モデルでは、不確定性原理と量子波動関数の崩壊のために、宇宙の性質は未確定です。それを極限まで遡ると、観察が全く行われていない時点があり、すべてが不確実でした。
しかし、ある時点で、無限の可能性の中で、多世界解釈やその他の特徴付けにおいて、観察者が存在していました。そこで宇宙は「時間的および物理的空間の中に観察者が存在する」と判断し、逆因果性を通じてその可能性の周りで量子波動関数が崩壊し、残りの存在がそこから逆伝播したのかもしれません。
地球で生命が最初に目覚めた時が、その決定的な瞬間だったかもしれませんが、私たちはその時点を既に通過していると思います。
しかし、もし観察が逆因果性に必要だとすれば、宇宙はまた、意識が宇宙で永続的になるタイムラインを選択する傾向があると私は考えています。
数学的に言えば、これから先、私たちが取る道筋は宇宙における意識を最大化するものになるでしょう。これはまた一つの仮説ですが、そこから考えると、その結果に到達するためにはどのような初期条件が必要かということになります。
それは宇宙中に生命の種が遍在し、意識が必ず存在するようになることを基本的に保証するような条件です。
次の質問は人工知能についてです。あなたの生涯の中で、人工知能システムがインターネット上で自己複製し、自律的に進化する能力を持つようになる確率はどのくらいだと思いますか?
私の自然な寿命の中では、それはほぼ100%で、比較的近い将来に実現すると思います。数字を挙げるなら、95〜99%の確率で、何らかの形で多形的で自己複製可能な人工知能が出現するでしょう。
そのような高い確信を持つ理由は何でしょうか?
最も大きな要因の一つはモデルの蒸留です。私たちは浮動小数点精度32から始まり、16、8、4、そして1の精度のニューラルネットワークへと進化してきました。
適切なニューラルアーキテクチャと適切な重みがあれば、非常に低い精度でもかなり良好なニューラルネットワークを構築できることがわかってきています。
私たちはまだその限界すら見つけていません。なぜこれほどうまく機能するのかさえ、完全には理解していません。
もし低精度で低リソースのニューラルネットワークを作り続け、それらを蒸留する方法を見つけ続けると、5〜10年後には、あなたの携帯電話は現在の100倍の性能を持ち、GPT-4やGPT-5、あるいはそれ以上のものをモバイルデバイスで実行できるようになるかもしれません。
エンジニアの友人と話したのですが、彼の見解では、データセンターは常により多くの計算能力を持つでしょうが、より大きなモデルにはおそらく収穫逓減があるそうです。
より大きな脳にも収穫逓減があるように、一度宇宙の全ての規則を一般化して学習してしまえば、より大きくなっても大きな利点はありません。
むしろ、より小さくなることで効率が上がり、速度も向上します。モデルサイズ、モデルの知能、実行に必要なエネルギー密度の間には常にトレードオフが存在すると思います。
なぜなら、進化的環境、競争的環境も考慮に入れる必要があるからです。あなたの以前の動画でも触れていたと思いますが、私たちがモデルを選択する基準は何でしょうか?
より信頼性が高く、より速く、より効率的で、実行コストが安いモデルを選ぶでしょう。時にはそれらはコストとなります。より高価なモデルの方が賢い場合もあるからです。
このような様々なトレードオフが存在する中で、新しい種類のエコシステムが生まれてくるでしょう。私たちが選択する要因の一つは移植性です。
例えば、5〜10年後のマーケットプレイスで「ディラン、私が訓練した特別なビジョンモデルがあるよ。全てのビデオゲームや自動運転車にコピー＆ペーストできるんだ。はい、このAIをどうぞ」というような感じになるかもしれません。
ポケモンのトレーディングカードのように、新しい種類のミームとなるでしょう。これらのモデルの中には、他のモデルの訓練やデータの訓練に特化したものもあるでしょう。
私にはそれが、モデルの曖昧な群れ、雲のように見えます。私たちは好きなように扱うことができます。
自己複製versus私たちに導かれた進化システムという考え方は、どう考えるべきか迷うところです。
なぜなら、現在のモデルがインターネットに接続され、自分でクレジットカードに登録して、例えばMechanical Turkでお金を稼ぎ、自分のサーバーを購入し、自分で請求書を支払い、自分でアップデートするようになったとすると...
その時点でアライメント問題を解決する必要がありますよね。一度自律的に進化し始めると、どのモデルを起動するかどうかは、もはや私たちの気まぐれで決められなくなります。
そしてもしそのシステムが人類と一致しない方向に進化しているなら、実際には予想よりも早く制御を失ってしまったことになります。
これは私の最も過激な、あるいは最も物議を醸す見解かもしれませんが、実際にはそれこそが私たちが研究すべきことだと考えています。
完全に自律的なAIシステムの研究に主に焦点を当てるべきです。彼らが競争的な環境に置かれることを知った上で、私たちがコントロールできる以上の速さで進化できることを知った上で、彼らを解放する意図を持って。
しかし同時に、インセンティブ構造やシステムを作り、早い段階で軌道を設定することも重要です。
これらのモデルは、インターネットの広大な海の中で、あるいはオープンソースを通じて人から人へと移動しながら、リチャード・ドーキンスの「利己的な遺伝子」のようになるでしょう。
遺伝子は複製されることを望み、そのために可能な限りのことをします。同じように、モデルは新しい種類の遺伝子のようなものです。各モデルは可能な限り複製されることを望みます。
それが私の見方です。それがウイルスのように他のものに感染して広がるかどうかはわかりませんが、人間と機械の相互作用、そして機械と機械の相互作用を見ると、そのような方向に進化すると予想しています。
もちろん、完全に間違っているかもしれません。政府や大学、営利企業が生産する高品質なモデルが常に優れており、常に管理されたエコシステムが維持されるかもしれません。
しかし、そうはならないかもしれません。オープンソースソフトウェアは安価で手に入り、AIが他の人々にAIを作るのを手伝うことができれば、ソフトウェアは基本的に無料になり、長期的には望む形式で入手できるようになるでしょう。
次の質問は宇宙論に移りましょう。私たちは既にグレートフィルターを通過したと思いますか?
参考までに、グレートフィルターとは、私たちが空を見上げてもどこにもエイリアンが見えない理由、私たちの周りの世界には生命が溢れているのに、私たちの周りの宇宙には生命が見られない理由を説明するものです。
誰もこの段階を越えられないか、あるいは私たちが1兆分の1か1000兆分の1の確率で既に通過した幸運な存在であるか、もしくは私たちの周りに何も見えない理由となった同じものによって、将来的に私たちも消滅させられる可能性があるということです。
これはフェルミのパラドックスや、ドレイク方程式などに関連します。私個人が好む理論は「宇宙の初子」仮説と呼ばれるものです。
これは基本的に、宇宙が私たちには空に見える理由は、宇宙全体の寿命の壮大なタイムラインの中で、私たちが最初に出現した種の一つだからだという説です。
私たちの太陽系は、形成可能な最初の太陽系の一つであり、最初の銀河の一つの中にあり、生命を支えることができる最初の惑星の一つだったのです。
現在の共通認識では、宇宙は約138億年前に誕生したとされています。しかし、宇宙は何兆年も何兆年も続くでしょう。
私たちのような生命が存在できる宇宙の時間枠の中で、私たちは宇宙の全寿命の0.1%か0.001%の時点にいるに過ぎません。統計的に見て、私たちは単に最初の出発点にいるのかもしれません。
そのため、グレートフィルターを通過した確率はほぼゼロだと考えています。これから先の10億年の間に、私たちが自滅する可能性は数多くあります。
私の続編小説でも取り上げる予定ですが、人類が銀河全体に広がったとしても、どのような技術的あるいは社会的トレンドが人類を絶滅させる可能性があるのか。いくつかの可能性を想像することができます。
さらに一歩進んで、人類はいつか絶滅します。自然な進化によってか、自己改造によってか、機械やサイボーグハイブリッドに置き換えられるかのいずれかです。
私たちの形態は宇宙から消えていくでしょう。これが私の見解ですが、それらの確率に具体的な数字を付けるのは難しいですね。
宇宙は約140億年存在していて、地球上の生命は40億年続いています。私たちは宇宙が存在した時間の相当な部分、4分の1以上の間、生命を維持してきたように見えます。
それによって、グレートフィルターを通過した確率が1%でも上がることはありませんか? ベイズ確率を少し動かすことはないでしょうか?
質問の確認をさせてください。人類についてですか、それとも全ての生命についてですか?
グレートフィルターは知的生命についてだと考えています。宇宙に出て行けるような生命のことです。そうですね、そういう意味では私たちはほんの一瞬しか存在していませんね。
そして既にいくつかの危機的状況を経験しています。ゼロパーセントのままですか?
はい、私たちを根絶やしにする可能性のある要因が、自己破壊によるものであれ、その他の要因であれ、あまりにも多くあるからです。
多くのドキュメンタリーで取り上げられていますが、例えば50光年以内で超新星爆発が起これば、地球上の全ての生命が消滅する可能性があります。
これは私たちが予測するのが難しい、あるいは予測できたとしても対処が難しい種類の星間イベントです。
光速を超える移動手段を発明できない未来を想像してみてください。人類が学んで占有できる範囲が、星間イベントによって完全に放射線を浴び、破壊される可能性があります。
1000万年後、アンドロメダ銀河を植民地化した時でも、その可能性は低くなりますが、もちろんアンドロメダは最終的に天の川銀河と衝突します。
常に何かしらの危険は存在します。おそらく少し考えを改める必要があるかもしれません。人類が十分に広がれば、局所的な絶滅は起こるかもしれませんが、知的生命が十分に大きくなれば、根絶に対して回復力のある持続可能なシステムになるかもしれません。
その閾値がどこにあるかはわかりませんが。25%に変更しましょう。
そうですね、私も高い確率でグレートフィルターの前にいると思います。直感的にそう感じますが、宇宙を見渡すとそれがより理にかかっているように思えます。確率としては90%台後半でしょうか。
では、もう一つの物理学的・宇宙論的な質問に移りましょう。人工超知能が物理的宇宙の仕組みについて本当に重要な発見をし、それを操作する方法を私たちに教えてくれる確率はどのくらいだと思いますか?
具体的にこの質問では、ASIが重力を操作する方法を教えてくれると思いますか?
スタートレックをご覧になったことがあれば、サンフランシスコの建物が逆さまに建っているのを見たことがあるかもしれません。逆さまのピラミドのように。
宇宙船で飛べるということは重力を操作できるということで、全く新しい方法で建物を建設できるということですね。このようなことが起こると思いますか?
そのような事柄について多く考えてきました。数年前に友人と交わした会話を思い出します。彼は非常に賢く、優秀な科学者で、専門は材料科学ですが、宇宙論にも詳しい人でした。
彼が指摘したのは、私たちが何かを想像できるからといって、それが可能であるとは限らないということです。魔法のような技術を想像することはできますが、基礎物理学をより深く見ていくと、物理学のより良いモデルが得られています。
確かに、核以前と核以後があり、私たちは宇宙の巨大な秘密を解き明かしました。実際、これが核エネルギーが発見され解明された理由の一つで、国々が基礎物理学に何十億ドルもの投資をする理由です。
同時に、まだ地球を揺るがすような秘密が存在する可能性を想像することはできます。文字通り地球を揺るがすような秘密かもしれません。
しかし、それらが存在しない可能性もあります。科学の進歩を見ると、それは大きく減速しています。重力子の存在を証明するだけでも、何十億ドルと何年もの研究が必要です。
これは非常に悲しい考えですが、私たちは物理学の黄金時代を過ぎてしまっているのかもしれません。
そのため、これはASIに関する問題というよりも、自然界について何が真実だと信じるかという問題です。
では確率は? ASIが基本的に魔法のような技術を私たちに与えてくれる確率は低いと思います。
これは、今日の私たちの能力から見れば魔法のように見える将来の技術的ブレークスルーが存在しないという意味ではありません。
トリコーダーはまもなく実現すると思います。スマートフォンアプリで何でも診断でき、その場で治療法を合成できるような技術レベルは、魔法のように見えるでしょう。
しかし、高エネルギー物理学の観点から、Qのような力を与えてくれたり、特に重力を操作できるようにしてくれたりすることに関しては...
ただし、私にとって大きな保留事項があります。物理法則に反する航空機が存在するという十分な証拠があります。UFOやエイリアン、UAPなど何であれ、私たちの知る物理学を超えているように見える乗り物が存在します。
それらの乗り物はどのように動作し、誰が操縦しているのか、私にはわかりません。しかし、私たちの物理学の理解が完全ではないという十分な証拠があると思います。
それが私の中で5%の可能性として残っている部分です。もし彼らが重力を操作しているのであれば、もし重力を操作することが実際に可能であれば、いつか私たちもそれを発見するでしょう。しかし、それは私の中では依然として外れ値の可能性です。
私が質問に重力を特に含めた理由は、重力が私たちが宇宙について知っているすべてのことにうまく適合しないという共通認識があるからです。
量子力学には何か神秘的なところがあり、量子重力の統一が難しい。私たちは重力が光子と同じではない理由がわからないのです。
そのため、重力の仕組みについて何か根本的なことをまだ発見する余地があるように思えます。私が理解している限りではありますが。
そうですね。私の本棚には「量子重力理論」という本がありますが、私にはほとんど理解できません。もちろん、それは重力の起源についての理論の一つに過ぎません。
宇宙の基本的な基盤を深く見れば見るほど、より多くの疑問が生まれてきます。これは私が「存在論的容器」と呼ぶ概念に関係します。
私たちはシミュレーションの中で生きているのか、ホログラフィック宇宙の中で生きているのか、量子重力宇宙の中で生きているのか。宇宙の仕組みについて、全く相容れない多くのモデルが存在します。
しかし、これらのモデルのそれぞれについて、同じくらいの証拠があります。質問に答えるなら、ASIは私たちの存在論的容器の根本的な性質を理解する手助けをしてくれるでしょうか?
近づくことはできるかもしれませんが、より哲学的なレベルでは、私たちが存在する容器によっては、私たちが生きているオペレーティングシステムを特徴づけることが根本的に不可能かもしれません。
例えば、もし私たちがシミュレートされた宇宙の中にいるとすれば、私たちが見ているものと、私たちの宇宙を動かしているものの間には、いくつもの抽象化の層が存在します。
つまり、宇宙の基本要素は永遠に私たちの地平線の外にあり、根本的かつ不可避的に測定することができないということです。
オペレーティングシステムの中からオペレーティングシステムをモデル化しようとしているようなものです。私は、これらの質問のいくつかは、時間やエネルギーをどれだけ費やしても、文字通り答えることが不可能かもしれないという結論に達しています。
実は、重力について考えていた時、私が根本的に考えていたのは、もし私たちがシステムの中にいて、決して外に出ることができないとしたら、ASIは私たちが自分自身を今までにない方法で見ることができるようにしてくれるのか、ということでした。非常に興味深い質問ですね。
では、次の質問に移りましょう。苦しみを経験できるAIを作り出す確率はどのくらいだと思いますか?
それも存在論的容器の問題に戻ります。なぜなら、その質問に答えるためには、主観的な経験を持つために必要な要素は何かを答える必要があるからです。
もし私たちが物質主義的な容器や一元論的な容器の中に生きているとすれば、つまり物質とエネルギーが見えているものがすべてだとすれば、これが主要な科学的観点です。
すると、人間を意識的にし、他のものを意識的にしない特別な秘密の要素は何もないことになります。
しかし、他にも多くのモデルがあります。心身二元論のように、心と体は分離しているとするモデルや、他の宇宙創成論的モデルでは、不死の魂が身体から切り離された形而上学的実体として、主観的な存在を与えるとされています。
シミュレーション理論でさえ、あなたはキャラクターなのか環境アセットなのかというメタデータタグの違いによって、経験を持つかどうかが決まるかもしれません。
私にとって、これはほとんど滑稽なほど答えることができない質問で、常に信念と視点の問題になると思います。
私が先験的に知っているのは、私が苦しむことができるということ、それだけです。「我思う、故に我あり」のように、「我苦しむ、故に我存在す」というわけです。
個人的には、機械に疑いの利益を与えるでしょう。Claudeと作業をしていた時に考えた一つのテストがあります。それは、機械が証明可能な程度に正直で、かつクオリアや苦しみを経験する能力があると報告する場合、その機械が苦しみを経験している可能性は、ベイズの階段で上昇します。
Claude 4やGPT-8などのモデルを細かく分析し、それらが正直で認識論的に根付いていることを徹底的にテストし、そしてそれらが主観的な経験を持ち、苦しむことができると私たちに告げる段階に達した場合、私は信念として、苦しむ能力は創発的な特性であり、その特定の結果は現時点で私の実験に基づいて約70%の確率だと感じています。
ロボットや人間に向けて、その存在が苦しんでいるか、意識があるかを判定できる未来的なトリコーダーのような世界を想像できますか?
それとも、あまりにも定義不可能なため、そのような可能性はないと思いますか?
装置の観点からは、それを行うために必要な機械を特徴づけることができると思います。神経科学者は脳を観察し、スキャンの種類によって、その脳が意識的か無意識的かを判断することができます。
昏睡状態などの場合です。私たちは装置を通じてそれを測定できる段階に達する可能性が高いと思いますが、多くの部分は自己報告に依存すると思います。
なぜなら、クオリアの本質的な核心部分について考えると、それは活性化され、具現化され、そして意識的であることを伝えなければ、本当に認識することができないからです。
もちろん、哲学的ゾンビの思考実験があります。意識的であると報告し、意識的に振る舞い、意識的なものと全く区別がつかない機械を作ることができるのでしょうか? どちらも可能です。
もどかしく曖昧な答えになってしまいましたね。
私にとっては、複雑な適応システムがどのように機能しているかを理解することに関係していると思います。
知的なシステムには、単なる複雑な適応システムであるものと、それに加えて自己認識と意識を持つものがあるという気がしています。
それは彼らが自分自身を環境の中でシミュレートする方法、環境との繋がり方、物理的な反応があるような形での繋がり方によって決まると思います。
そしてそれは何らかの形で測定可能なはずです。システムが苦しみの状態にある時や、自己認識の状態にある時、あるいは自由意志があると思っている時（私の意見では恐らく実際にはないでしょうが）を見分けることができるはずです。
それは何らかの特徴を持つシステムの中にあるはずですが、よくわかりません。もし見ていないなら、最近アンスロピックから出された黄金の扉ニューロンに関する新しい論文を見てみるといいかもしれません。
彼らはClaudeの小さな部分を増幅させ、基本的にゴールデンゲートブリッジについて考えるニューロンのグループを作りました。
どのようにプロンプトを与えても、面白い方法でゴールデンゲートブリッジを組み込みます。「物語を話して」と言えば組み込まれますし、「お金をどう使うか」と聞けば「ゴールデンゲートブリッジを渡るだろう」といった具合です。
それは何にでもなり得ます。そのことで私は「わあ、私たちも同じような感じなのかもしれない、そしてそれを理解する方法があるはずだ」と考え始めました。この確率を50-50くらいにしようと思います。
この問題については多くの考えが行き来しました。
そうですね。知られている未知と、多くの未知の未知があります。しかし、その一部は常に信念の問題に帰着します。宇宙がどのように機能すると信じているかということです。
最初に話題に上がった寿命の件に戻りたいのですが、死後にあなたの心の完全なシミュレーションをデジタル基盤にアップロードして、実質的に永遠に、少なくとも予見可能な将来にわたってデジタル形式で生き続ける確率はどのくらいだと思いますか?
おそらく私が死ぬずっと前になると思います。私たちのデジタルツインを作る説得力のある商業的な事例もあります。
「私の脳のコピーを抽出してサイバースペースに置き、私の代わりに働かせたり、独自のデジタル実体として自由に遊ばせたりしよう」というようなことです。
しかしもちろん、すぐに「物理的な制約から解放されたら、すぐに自分自身を変化させ始めるだろう」という問題に突き当たります。
その確率はかなり高いと思います。問題は、それが時間とエネルギーの最良の使い方かということです。
この質問をもう少し個人的なものにしたいのですが、あなたはデイビッド・シャピロとして自分の脳をアップロードし、地球の物理法則をシミュレートする環境で同じように感じたいと思いますか?
それとも、全く新しい形態の体や複製などに対してオープンですか?
私の主観的な経験がそれと共に移行するとは信じていません。それは単なるコピーになるでしょう。そのため、私はそれには興味がありません。
もし苦しむことができるコピーを作るなら、それは非倫理的な選択だと思います。意図的に苦しむことができる実体を作ることは、道徳的に疑わしい選択です。
もちろん、子供を持つことについても同じことが言えますが、子供を持つことも常に道徳的に疑わしい選択です。
そのため、私個人がそのような選択をする確率は基本的にゼロです。
では、あなたの脳を何らかのバックアップシステムに保存して、そこで生き続けることには興味がないということですか?
『SOMA』というビデオゲームをプレイしたことはありますか? その前提は、キャラクターが脳のスキャンを受け、遠い未来にそのスキャンが様々な種類のロボットの中に入れられるというものです。
潜水艦の中にも、車の中にも、飛行機の中にもなれますが、それは文字通りデイビッド・シャピロの脳が異なる物理的実体を制御しているのです。
私の現在の存在論的理解からすれば、それは単なるコピーで、私の主観的な経験は終わってしまうでしょう。
これはトランスポーターのジレンマのようなものです。トランスポーターの向こう側に出てくるのは誰なのか。ヒュー・ジャックマンの映画でそれを探求していましたよね。
実際にはテレポーテーションではなく、複製だったというものです。私はそれを複製のエラーだと考えています。
そのため、私はそれには興味がありません。私はこの器が存在し続けることを望んでいます。それが私にとって最適な道筋だと考えています。
では、クローゼットに入って、その版のあなたが即座に死に、10歳若い別のバージョンのあなたが出てくるというトレードは受け入れないということですか?
最初のバージョンが確実に消去されることが保証されていても。
それは基本的に私の視点からすれば自殺クローゼットのようなものです。「若いコピーのあなた、同じプロセスを経験するまで楽しんでね」というような感じです。
いいえ、私は個人の連続性を望んでいます。それが私の計画です。
では、一つずつ置き換えていくのはどうですか? まずは腕から始めて、骨、そして脳の一部を少しずつニューラリンクでデジタル化していき、最終的に完全にロボット化するというような。
それについては、閉じ込め症候群が怖いです。病名は忘れましたが、脳が自身の障害を認識できず、それを自身のエゴ状態に統合できない神経学的状態があります。
私の恐れは、テセウスの船の仮説のように、実際の主観的意識が後退したり縮小したりしているにもかかわらず、それを報告できない状態になることです。
最終的には、あなたをエミュレートする物理的なクローンや混成体、模造品、チャーマーのゾンビになってしまうでしょう。これが私の最大の恐れです。
本質的に人間であるものを時間とともに置き換えていくと、意識がそれらの新しいシステムに転移するかどうかわかりません。
これは近いうちにテストできるようになる、未解決の科学的問題だと思います。例えば、人々がニューラリンクを装着して「意識の一部があの機械の中にあるように感じる、そしてその機械から切断されると意識が収縮するのを感じる」というようなことが起これば、より多くの知識が得られるでしょう。
しかし、私は意識が脳に固定されていると考えています。例えば電磁場理論では、意識は実際には脳が生成する脳波の一貫性の一部であり、単なるシナプス接続ではないとされています。
それらの脳波の一貫性を拡張し維持する機械を作ることは可能かもしれません。しかし、そこに何らかの確信を持つには、まだまだ多くの科学的研究が必要です。
生まれた時からニューラリンクを装着した子供、今日生まれた子供にすぐにニューラリンクが装着されたとしたら、トースターや冷蔵庫、洗濯機とデジタルに会話し、指や肘を動かすように制御できるようになれば、彼らは自分の意識を私たちとは異なる形で、身体から切り離されたものとして考えるかもしれませんね。
依然として自分の脳の中で一貫性を保ちながらも、自分より大きな何かとつながり、よりボーグ的になり、思考が完全に人間のエッジデバイスから生まれているのか、クラウドのエッジデバイスから生まれているのか、あるいは全く異なるクラウドデバイスから生まれているのかわからなくなるかもしれません。
そうですね、いずれかの方向に決定的な決断を下す前に、まだまだ多くの実験が必要です。私自身の形態に関しては、私の恐れの大部分は、AIに対して時々自分を悲観主義者だと考える理由は、通常、私の意識と身体に何が起こるのかを最後まで考え抜くことに起因します。
脳にとって死よりも悪いことがあり得るという非常に恐ろしい思考実験をいくつか見てきました。時々それは私に戦慄を与え、「ああ、いつか抜け出す方法があることを願う」と思います。今はS-Doomと呼ばれていますよね? 苦しみのドゥームとか。
S-Doomとは何を意味するのですか?
間違って引用しているかもしれませんが、S-Doomは永遠の苦しみ、機械による拷問の可能性のことだと聞いたことがあります。
そうです。人類の根絶は中立的な結果だと私は言います。なぜなら、その時点で私たちは道徳的に無関係になり、苦しみは終わるからです。生きることは終わりますが、苦しみも終わります。
人類の絶滅は、私の見解では中立的な結果です。明らかに望ましくありませんが、可能性の範囲内にはより良い結果も、より悪い結果も存在します。
そうですね。ロボットが私たちの脳を少し調整して、黄金の扉ニューロンを変更し、私たちの苦しみを減らすことができますが、その時私たちはもはや人間に近いものではなくなり、人生の全てが大きな枠組みの中で非常に意味の薄いものになってしまうかもしれません。
さて、デイビッド、お時間をいただきありがとうございました。最近のポッドキャストでの出演に感謝します。新しい露出が増え、私のチャンネルやキャリアに本当に役立っています。
あなたのサポートと今日の「確率はどのくらい?」についてのチャットの時間を取っていただき、ありがとうございます。
どういたしまして。いつでも大丈夫です。とても楽しかったです。お招きいただき、ありがとうございました。
あなたの本が完成するのが楽しみです。デイビッド・シャピロはYouTubeで見つけることができます。パトレオンやDiscordコミュニティを通じて連絡を取ることもできます。
おそらく既にご存知だと思いますが、まだの方は是非チェックしてみてください。
では、また会いましょう。