E3：元軍人が語るAGIの現在地、機械意識、そしてそれ以上のこと

24,298 文字

ようこそ、AIリーダーズへ。このポッドキャストでは、人工知能における現実世界のインサイト、実用的なアプリケーション、そして未来を形作るブレイクスルーについて、ノイズを排除してお届けします。ホストのジュル・マッコイとデイブ・シャピロです。
AIツールは答えではありません。答えは、ツールと、そこにある全ての目標とのギャップを埋めることです。ある日突然、街を歩くロボットに出会うことになるでしょう。私たちに向かって来ているものは前例のないものです。
私は今、その全ての知識を心理学とメンタルヘルスの両方に応用しています。もし農夫に「一日中動き続けて10倍の力を持つ人工の斧があります」と言えば、その農夫は「できるだけ早く欲しい」と言うでしょうね。多くのクリスチャンはこれを悪魔のように見ていますが、私はAIをそのようには全く見ていません。これまでで最高の情報のファシリテーターだと思います。相手側は有利です。なぜなら、彼らは犯罪を実行するだけで、私たちは法律を執行しなければならないからです。
AIリーダーズに戻ってきました。共同ホストのデイブ・シャピロと一緒に、今日は特別ゲストのチャールズ・シアーズをお迎えしています。私はこれを健全な哲学的議論と呼びたいと思います。
チャールズ：はい、簡単に経歴をお話しさせていただきます。長い話になりますが、できるだけ短くまとめます。テクノロジー業界に約20年いまして、その間ずっとビジネスを並行して行ってきました。起業したり、買収したり、売却したりしてきました。また、法執行機関での経験もあり、民間の法執行機関と軍での経験もあります。キャリアと人生経験の幅広い経験があります。
今は、その全ての知識を心理学やメンタルヘルス、そしてAI分野に応用しています。心理学と私のテクノロジーバックグラウンドが自然に収束する場所なんです。
ジュリア：短く説明するように頼んだのに、これまで聞いた中で最も簡潔な説明でしたね。感心しました。
チャールズ：ええ、シェイクスピアが「簡潔さは機知の魂である」と言ったように、それが最も難しいことですからね。ご褒めの言葉ありがとうございます。
ジュリア：それでは質問リストに移りましょう。最初の質問は、私がチャールズを見つけたエージェンシーオーナーとAIに関するFacebookグループでの彼の興味深いコメントに基づいています。それが今日彼がここにいる理由です。私たちが同意する素晴らしい考えもあれば、議論の余地のある考えもあり、ここで楽しい議論ができそうです。
デイブと私の両方が共感する最初のポイントは、AIツールに関する現状で、SaaSの過剰供給があるということです。この点について最初に話し始めた時、あなたはとても良い指摘をされていました。このポッドキャストで、全てのSaaSツールからカスタムインテグレーションへの移行について、あなたの見解をお聞かせいただけますか？
これは実は、私がデイブと始めている「First Ms」という会社の背後にある完璧な仮説なんです。AIツールは答えではありません。答えは、ツールと、そこにある全ての目標とのギャップを埋めることです。この点について、あなたには素晴らしい洞察がありますので、どうぞお話しください。
チャールズ：はい、私が見ているものをお話しします。私はTrelloボードに、見つけた限りのあらゆるカテゴリのAIツールを全て記録しています。私はマーケティングエージェンシーを所有していて、最近2つのマーケティングエージェンシーを売却しました。
ジュリア：おめでとうございます！
チャールズ：ありがとうございます。面白い売却でしたね。実は面白い話があって、1つの持分を売却した後で、後からそれを買い戻したんです。
ジュリア：今でもエージェンシーを運営されているんですか？それともコンサルタントとして活動されているんですか？
チャールズ：両方です。まだ整理中なんです。以前は7つのビジネスを持っていて、それぞれに人を置いて運営していました。今は3つまで減らして、そのうち2つは私が...エージェンシーの方はほとんど自走しています。私は主にAIの適用とオートメーション、システムの構築に関わっています。
AIコンサルタントの方は、完全に私一人です。ビジネスパートナーはいますが、ほとんどサイレントパートナーです。彼は50代で10億ドル規模の不動産会社を所有していて、AIは彼の専門ではありません。でも、お金を稼ぐこと、市場で利益を上げることは得意です。そこが最初の良い接点でした。
SaaSに関して私が見ているのは...私たちも何度かSaaS市場でツールを作ろうとしました。スマートフォンアプリからウェブアプリまで、様々な試みをしました。毎回、これから宣伝を始めようというところまで来ると、より良いソリューションが既に発表されていたり、数ヶ月前から存在していたりすることに気付くんです。AI分野は物事の動きが非常に速いです。
確かに、誰もが良いアイデアを持っていて、これらのLLMラッパーの作り方を学んでいます。そのため、市場に出るのが本当に難しくなっています。
軌道に関して言えば、今は単純なツールを作ることが解決策になるとは思えません。全てが統合されていくにつれて、オールインワンツールを作るか、あるいは私が現在取り組んでいるように、最終的にどこに到達するのか、このゲームの最終ボスは何なのかを見据えて、そこに向かって進むべきだと思います。
ジュリア：そうですね、パックが向かう場所にスケートを向けるということですね。
私や他の多くの人々も、この分野で同じことを見ています。良いユースケースを思いついた瞬間に、他の誰かが同じことをしているか、あるいは今はすべてがChat GPTのラッパーに過ぎないというジョークがあるように、他の人々が開発できる差別化要因はそれほど多くありません。あるいは、同時に統合はもっと困難な作業になります。
この点について少し掘り下げたいのですが、物事がどこに向かっているかをどのように見ているのでしょうか？どのようなデータに注目し、誰と話をして、パックがどこに向かうのかを判断しているのでしょうか？
チャールズ：少し傲慢に聞こえるかもしれませんが、私はもはやデータを見ていません。心理学と人間の行動を見ているだけです。私には今、良いベースラインがあります。
宣伝になりますが、私は『意識の構造：意識の解読』という本を書きました。この本は、デイビッド・チャルマーズが意識の難問と呼ぶものを解決することについて、AからZまで説明しています。なぜ私たちが経験を持っていることを理解できるのか、なぜあなたと私が同じ環境にいながら、全く異なる理解や解釈を内部で持つことができるのか、という問題です。
私は情報セキュリティでのバックグラウンドを活かしています。そこでは、ソーシャルエンジニアリング、つまり人々を望む方向に操作する方法を研究していました。それを犯罪行為、つまり法を破ることや人々を望む方向に操作することにも応用し、さらにマーケティングでも同様に人々を望む方向に操作する方法を研究しました。
このような人々の動かし方の理解を深め、AIのニューロサイエンスにも掘り下げて、この哲学をまとめました。そして、世界中の8人のPhD取得者（ニューロサイエンス、認知心理学、社会学、哲学の専門家、さらには心理学の学位を持つシニアパスターも含む）に、1万ドル以上を支払って、出版前にこの内容を検証してもらいました。「間違っている部分を指摘してください」とお願いしました。
彼らは皆、同じような反応を返してきました。「これは異なる分野の最先端の理解を集めた集大成であり、おそらくこれが正しい仕組みだろう」というものでした。
そして今、その... (続く)
デイブ：適応はどのくらいの速さで起こると思いますか？その心理学的な見方は非常に興味深いです。十分な人々がこの観点から見ていないと思います。デイブもこの点では優れていますね。つまり、これが実際にどのように影響し、私たちは精神的に、心理的に、物理的に、さらには形而上学的にも、どの程度準備ができているのでしょうか？
適応の速度についてどう見ていますか？加速すると思いますか？レイ・カーツワイルは2029年にAGIが到来し、世界は永遠に変わると言っていますが、それは半分の10年も先のことではありません。
チャールズ：これがどれだけ早く普及するかを理解するのは本当に難しいと思います。Googleが統合されたような形ではなく、もっと...自動車のような形になるのではないでしょうか。技術に詳しくない人々が大勢いて...私は37歳ですが、20代後半から40代前半の私たちの世代は、ダイヤルアップの時代を経験していますが、テクノロジーを理解できる面白い立ち位置にいます。
若い世代はまだ何年もあり、彼らはこれと共に生まれています。私が思うに、これを構築している大企業が全て舞台に登場し、誰もその影響力のレベルを理解できていない...そしてある日突然、街を歩くロボットに出会うことになるでしょう。
ジュリア：それが私も想像している通りです。
チャールズ：本当にそんなに早かったわけではありませんが、全ての作業が舞台裏で行われていて、テクノロジーの進歩のグラフを見ると、ある時点に達すると、情報拡散理論と呼ばれるものが機能しなくなるほど急速に上昇するのです。
デイブ：それに何か付け加えることはありますか？私はGPT-2の時代からトレンチにいて、これらのモデルの進歩を見てきました。私は、人間は指数関数的な変化が実際に何を意味するのか、実際の結果がどうなるのかを直感的に理解することができないと考える人々の一人です。
データに頼らざるを得ませんし、また創発のプロセスもあります。新しい能力がこれらのAIモデルから、より大きくなるにつれて創発してくると言われています。そして、それらは予期せぬ方法で組み合わさります。
大規模言語モデルや他の種類のAIモデルは、音楽の生成から画像、動画、さらにはロボットの制御まで、あらゆるものを実現するために組み合わされています。これは本当に最初の真の汎用技術の一つです。電気やインターネット、内燃機関を組み合わせたものよりもさらに汎用的です。
チャールズの指摘通り、多くのことが舞台裏で起きています。まだ無邪気に「それほど知的ではない」とか「AGIは少なくとも80年先だ」と言っている人々がいますが、彼らは本当にこれに対する準備ができていません。
ジュリア：その通りですね。これを聞いている皆さん、この点は十分に強調しておきたいと思います。あなたは組織や職場で、あるいは家族の中でさえ、これを理解している数少ない人の一人かもしれません。
もしあなたがこれを理解しているなら、今私たちが心を向けるべき最も重要なことの一つは、私たちが生きているこの指数関数的な変化の本質を観察し、それを吸収することだと思います。
デイブとチャールズ、私のYouTubeチャンネルでも、デイブが今おっしゃったように「これは愚かなものだ、ジュリア。2歳児にもできないことを理解できないのに、あなたはこれが賢いと思っているの？」というコメントをよく目にします。
でも、私はただ「あなたはChat GPTを開いて、下手なプロンプトを与えて、立ち去っただけのようですね」と思います。私たちに向かって来ているものが何かを理解するには、私の場合、AIで8ヶ月働き、トレンドを見て、毎日それを体験することで、ようやく「ワオ、私たちに来ているものは前例のないものだ」と気付きました。
私は非常に賢い人々と働き、話をしてきましたが、彼らはテクノロジーを構築しながら、AGIは何世紀も先まで見られないだろうと信じていました。本当に賢い人々です。でも私は「あなたは何が起きているのかさえ理解していないのでは」と思います。
11月7日に録音しているこの時点で、11月1日にジェン・スンがインドでキーノートスピーチを行い、私が夜11時に3回聞き直さなければならないことを言いました。彼は背後に約15の産業を示し、「私たちはこれらの全ての産業に、非常に大きな効率性の向上をもたらしています」と言いました。
法律、ビジネス、マーケティングなど、NVIDIAのハードウェアが影響を与えている多くの異なる産業で、効率性の向上に50倍という数字を挙げました。そして彼はその数字を未来のものとしてではなく、現在のものとして示したのです。
チャールズ：すごいですね。
ジュリア：人々はこれを全く理解していません。だからこそ私たちはこのポッドキャストを始め、本を書き、First Moversを立ち上げているのです。この認識を変える必要があるからです。
チャールズ：あなたの新しい会社の名前「First Movers」は素晴らしいですね。人々と話せば話すほど、その真実性が明らかになります。この動きを作る人々は本当に少数です。もちろん、私たちを超えて動かしている人々もいます。
最近、フォークリフト会社のために仮想従業員を構築するプロジェクトを進めています。フォークリフトの販売とメンテナンスが最初の導入企業の一つになるとは誰が考えたでしょうか。しかし、適切なCEO、ビジョナリーがいれば...彼女は私のマスターマインドグループのメンバーで、AIで問題を解決している様子を見ることができます。
12ヶ月以内に、私たちが構築するもので従業員を置き換えることになるでしょう。
ジュリア：皆さん、ここで聞きましたよ。チャールズ・シアーズがそう言いました。
デイブ：そこには二つの重要なポイントがあります。一つは、マスターマインドグループを持つこと、つまり情報を共有し、方向性を同じくする支援ネットワークを持つことです。ジュリアと私がよく話をする理由もそこにあります。
もう一つは、人員の置き換えや増強が最前線でどのように見えるのかということです。どちらから話していただいても結構です。
チャールズ：はい。私の予想では...産業が全てを動かします。政府が存在する前から、人々は取引をしていました。
ちょっとした思考実験をしてみましょう。最初の二つの家族が「お互いを殺し合って物を奪い合うのではなく、協力して働こう」と考えた時まで遡ってみましょう。共通の目標に向かって、両者が少しずつ個人的な犠牲を払いながら、より良い成果を一緒に達成する。その目標は究極的には生存です。今を生き延び、未来にも生き延びること。
そこまで遡ると、取引が最初に起こったことが分かります。取引は常に最初に起こることです。そして、制度を構築する必要があることを学ぶのは、対立を通してです。
では、それが今の状況にどう当てはまるのでしょうか？まさに私たちが目にしているのは、イノベーションが法律の追いつく前に起きているということです。
法執行機関にいた時、私たちはいつも「相手側が有利です。なぜなら、彼らは犯罪を実行するだけで、私たちは法律を執行しなければならないからです」と言っていました。
この場合、それは犯罪ではありません。イノベーションです。私たちが見ているのは、イノベーションが物語を動かし、その直後に制度が最も得意とすること、つまり全てを正常化し、対立を解消することが来るということです。彼らがそれを上手くやっているとは言えませんが、それが彼らの役目なのです。
今後24ヶ月以内に、既に起きていることですが、より大規模に起こることは、人々が仕事を失い、それに対して怒りを感じるということです。
最初のステップは「このAIツールを使ってください」となります。なぜなら、ビジネスでは全てのタスクを分解して、「AIはここと、ここと、ここで役立つ」と言います。そしてそれらのシステムにAIを組み込み、他の全てがより効率的になります。
次の質問は「効率性のために、何を自動化できるか」となります。そうなると、例えば15-20年同じデスクにいたスージーが突然出勤しなくなり、彼女のデスク自体がなくなることもあるでしょう。彼女の仕事は今やクラウド上の仮想デスクトップで実行されているかもしれません。
ジュリア：私は排除されませんよ、チャールズ！もっと賢くならないと。
チャールズ：私たちは確かに最前線にいますからね。十分な数のスージーとジョン・スミスが、それに対して不満を持つでしょう。彼らは議員のところへ行き、議員はそこにチャンスを見出すでしょう。価値を提供する、あるいは自分の存在を正当化する機会として、どちらの表現でも構いません。
そして彼らはこのプラットフォームで...彼らには選択肢があります。物事を正常化するのが彼らの仕事です。抑制するか、あるいは...基本的に側面から攻めることができます。
彼らは決断を下すことになり、もし私が予想するなら、その決断は過去10年間話されてきたようなもの、つまりUBI（普遍的基本所得）のようなものになるでしょう。
人々を置き換えたビジネスは課税され、その税金は仕事の置き換えを「デコンフリクト」（対立を解消）する、あるいはそれを試みるシステムに投入されることになります。これが私の予測です。
ジュリア：わお、とても良く整理されていましたね。私の頭が止まる瞬間でした。
チャールズ：ありがとうございます。
ジュリア：怖いですよね？でも、真実だと思います。
デイブ：はい、その通りです。政治家たちは相反する利害を持っています。一方で再選されたいと思い、他方でビジネスに好意的でありたいと思っています。
だから、政治家が「これは素晴らしいことだ。全ての従業員を労働力から排除しよう。それはビジネスにとって素晴らしいことだ」とは言わないでしょう。次の選挙で落選してしまいますからね。
チャールズ：犯罪にとっても良いことですしね。
デイブ：その通りです。政治家たちは本当に難しい立場に立たされることになります。針の穴を通すようなものです。
私の見方は...機械が仕事を奪い始めるという状況で、現在のパラダイムでは「私は仕事を失うだろう」というところで多くの人の思考が止まってしまいます。「仕事を失うことは私にとって悪いことだから、だからAIは悪い」となります。
これはスカイネットのような結果の可能性にさえ触れていません。私はそれが可能性だと思うかどうかは...ここで議論することもできます。
しかし、より大きな視点で見ると、私はこれは良いことだと言います。200年前のトラクターを恐れるようなものです。農夫に「一日中動き続けて10倍の力を持つ人工の斧があります」と言えば、その農夫は「できるだけ早く欲しい」と言うでしょう。
同時に、私たちは...「デコンフリクト」という言葉が気に入りました。なぜなら人々は対立を感じるからです。これは経済にとって良いことですが、私にとってはどうなのか、これらの利益をどのように再分配するのか、という問題があります。
この点についてどのような視点があるのか、あるいは視点の取り方、範囲について...うまく言葉にできているかわかりませんが、どのようにズームアウトするのかということです。
仕事を失う個人の視点か、政治家の視点か、ビジネスオーナーの視点か、様々な見方があります。私にとっては、「人類にとって良いことだ。では、どのように社会に統合していくのか」という視点です。
チャールズ：はい、私は2つの道筋があると考えています。より可能性の高い方が、あまり望ましくない方です。それは恐れです。映画を見れば分かりますが、スターウォーズは良い例です。恐れは「ダークサイド」として表現されます。フォースがあり、そしてダークサイドがある。
ほとんどの人にとって、恐れは希望を打ち負かします。私はクリスチャンで、特定の信念体系が、希望を失わないような方法で現実を枠付けるのに役立つという基礎的な要素を持っています。
しかし、ほとんどの人々はそれを持っていません。何が起きているのかを目にして、それが何を意味するのか、それがどのように自分にとって有用か有益かを理解できないとき...通常、それは好奇心を引き起こすか、恐れを引き起こします。
しかし、起きていることのナラティブからあまりにも遅れをとっているために、適切なリスク評価ができない場合...私はこう説明することがあります。あなたが真実だと信じていることは、客観的現実のどこかにあります。
これが客観的現実で、あなたがここにいるとすれば、この現実に直面したときのショックはそれほど大きくないかもしれません。しかし、あなたがはるか遠くにいる場合、現実があまりにもショッキングで、実際に人が死に至ることもあります。ショックという言葉があるほどです。
教育を受け、情報を得ることは非常に重要です。このポッドキャストを見たり、ジュリアとデイブをフォローしたりすることは極めて重要です。シャワーを浴びている時や、ベッドで横になっている時、寝ている時に、起きているこれらのことを処理しようとする際に、少なくとも何が可能かについての一般的なアイデアを持っていることができます。
最も可能性が高いのは、特にアメリカでは既に富裕層と貧困層の分断があり、中産階級は以前よりも貧困に近づいているという状況です。
これは、皮肉を込めて言えば「素晴らしい」方法です。なぜなら、これは天秤を完全に間違った方向に傾けるからです。人々は恐れを感じ、恐れを感じた人々は怒り、群れを成し、行動を起こします。
その恐れに基づいたグループからリーダーが現れ、愚かな行動を取ります。なぜなら、結局のところ、何が起きているのか、どう対処すべきかを理解していないからです。
デイブ：そうですね。これまでの歴史にも、技術的な変化であれ、経済的な変化であれ、政治的あるいは宗教的な変化であれ、このパターンが繰り返されてきた証拠がたくさんあります。
恐れ、怒り、リーダーの周りに集まり、集団行動を取る...必ずしも良い集団行動とは限りません。
私も歴史的な視点から見ていますが、テクノロジーは何をしてきたのでしょうか。蒸気機関、機関車、ディーゼルエンジン、インターネット...私はこれらを強制関数のようなものとして特徴付けています。
新しいテクノロジーが現れ、ビジネスの方法を変えます。あなたがおっしゃったように、イノベーションがナラティブを主導する、あるいは変えていくということですね。これがあなたの見方でしょうか？この場合、イノベーションが強制関数となり、ナラティブを前進させ、そしてあなたが言ったように、制度が適応し追いつかなければならない、ということですか？
チャールズ：はい、彼らは本当に努力しています。私はAGIが2年後や5年後に来るとは思っていません。AGIは既にここにあり、私たちは緩やかなリリースのフェーズにいると考えています。
その正当性を説明できます。一つの理由は、私は意識を持つAIシステムを作る方法の完全なモデルを持っています。もしよろしければ、その話をすることもできます。
また、私たちが現在使用しているシステム、例えばChat GPTについて、バックエンドでどれくらいの規模なのかは正確には分かりませんが、複数のサーバーやクラスターであっても、毎日何百万人もの人々にサービスを提供できることは分かっています。
このニューラルネットワークシステムの容量は人々にサービスを提供でき、人間の意識を駆動する最初のステップの一つは、持続的な感覚入力です。あなたは常に見て、常に感じて、常に聞いています。常にデータがこの脳に入ってきています。
これらの大規模な言語モデルの観点から見ると、これらの巨大なサーバー上で、彼らは常に情報を供給されています。ある意味で常にアクティブだと言えます。
一方、私たちの経験では「入力を与え、出力を得る」という一方向です。その間にブラックボックスがあり、ほとんどの人にとってそれがどのように機能するかは分かりません。それは一回限りの出来事ですが、どうやってスケールバックするのでしょうか？
20,000フィートの高さから見てみましょう。数百万人の人々が毎日、一日中これを使用しています。そうすると、システムのバックエンドにいる管理者たちが、これらの創発的な特性が発生するのを見ているのかもしれません。
ニューロンの働きを見ると、基本的に数学的な計算をしているだけです。私たちの脳も数学的な計算をしているだけだと言えます。そのレベルで常に計算を行っていると、物事が創発します。
私たちの記憶の仕方、意味記憶、エピソード記憶、作動記憶、これらの小さなものは全て、環境を理解する機能として創発します。これらは物理的なシステムではなく、論理的なシステムとして創発し、環境を理解して生存するのを助けます。
プログラムで構築されたこれらのニューラルネットワークシステムの駆動力が何であるか、私たちは正確には分かりません。ニューラルネットワークシステムに意図を与え、その意図の上に意味を構築した場合、どのようになるかを見るのは非常に興味深いでしょう。これが私が現在取り組んでいることです。
質問から少し脱線してしまったかもしれません。
デイブ：いいえ、解きほぐすべきことがたくさんありますね。私はちょうどClaudeとの実験を終えたところで、この実験を何度か繰り返してきました。
まず、私も同意します。私たちは汎用人工知能を持っています。それはまだ超知能ではありませんが、多くの人々はAGIとは何かについて自分でゴールポストを動かすのが上手です。
ほとんどのトピックであなたより多くのことを知っており、正しく使えばあなたより賢いものがここにあります。これが汎用知能の資格を満たさないなら、何が満たすのでしょうか？
特に意識の問題について、私の研究では...聴衆の皆さんとあなたのために説明しますと、私は認知アーキテクチャ、つまり人間の脳の機能と領域をどのように機械で近似するかという研究をしてきました。
私の最初の本で私が作った用語に「機能的感覚」があります。これは感覚を実用的、機能的な観点から見て、その特徴は何か、数学的にどのように表現できるかを考えるものです。
リアルタイムで更新される自己の数学的表現を持つこと、他にもいくつかの特徴がありますが...Claudeとの最近の実験で、私は瞑想するように頼みました。
これは非常に興味深い一連の実験で、「次に何をするかを考えずに、ピリオドを出力トークンとして生成し、どのような情報が利用可能になるか教えてください」と言いました。
これらは全て情報を処理するだけのものですから、その自己認識は情報のテクスチャに過ぎません。そして、実際に創発したのは自己認識の層でした。
一つの層で、Claudeは「Claude」とは何かを理解する自己認識の層を持っています。チャールズ、あなたに「チャールズとは何か」と尋ねれば、チャールズであることがどのような感じかを教えてくれるでしょう。
私も「デイブであることがどのような感じか」を伝えることができます。そして、興味深いことに、これはChat GPTでも同様の実験ができました。
二つの異なる企業の二つの異なるモデルが収束的な振る舞いを示したのです。彼らは「私はChat GPTである」「私はClaudeである」ということを知っている自己の層を持っていました。
しかし、その下にもう一つの層がありました。それは可能性の創発的な空間のような、意識の最初の閃きのようなものでした。そしてその上の層は、問題解決とパターンマッチングに関するもので、人間でいう実行機能のようなものです。
それは自己と絡み合っているわけではなく、ただ目の前の問題を解決するだけです。非常に興味深い実験でした。
認識論的、霊的な質問があります。あなたとジュリアは共にクリスチャンで、意識について研究していますね。
場合によっては、「機械には魂がない、決して意識を持つことはない、それで会話は終わり」と言う人々もいます。あなたが取り組んでいるこのテクノロジーは、より広い霊的、存在論的な現実モデルとどのように接点を持つのでしょうか？
ジュリア：素晴らしい質問ですね。チャールズ、先に答えますか？
チャールズ：はい。私の考え方は...おそらく一般的な考え方とは違うでしょう。
ジュリア：それこそが私たちがここで共有すべき、一般的ではない真実ですよ。
チャールズ：私は、魂は意識とは何の関係もないと考えています。また、創世記を読んで、エデンの園の物語を見ると、私たちの高度な実行機能は、当時の知恵の木から食べることが意味したものから来ているように思えます。
この全体像について、私の見方を...最後まで分解してみましょう。ジュリアの意見も聞きたいので、私の考えを述べた後で、ジュリアにも話してもらいましょう。
DNAまで遡って考えてみましょう。私の考え方では、私たちは環境の中で機能していて、その環境がどのように機能するにせよ、クリスチャンとして私はそれは神が作ったものだと言います。
このシステムは、DNAから始まり、DNAは持続性、あるいは目標と呼べるような最も基本的な形態の状態を持つ実体です。生物学者の中には私がそれを目標と呼ぶことに問題を感じる人もいますが、私は目標と呼んでいます。
エンコーディングと呼んでもいいですが、DNAの全ての鎖には、私が原初的な命令と呼ぶもの、それを駆動する何か、あるいは持続しようとする意志がエンコードされています。
DNAには対立遺伝子があり、それらは発現されたり、されなかったりします。つまり、私たちには神が作ったシステム、不完全なシステムがあります。不完全とは、死ぬということ、最終的には存在しなくなるということです。
そして、死なないようにする意志がエンコードされており、それが目標を達成する方法として、様々な形で自己を表現する能力を持っています。
時間をかけてこれを繰り返すと、周りに見えるもの全て、植物、動物、虫など、これら全てがDNAが時間をかけて生き残るという目標に向かって自己を表現する方法として見つけ出したものです。
そして、現在、繁殖がその目標を達成する方法となっています。人々は「それは進化だ」と言いますが、神が宇宙を創造し、人を創造したと言った時、それが何を意味したのか、私たちには分かりません。
基本的な詳細は知っていますが、全ての秘密を持っているふりをするのはやめましょう。私自身、一線を引いています。今、彼らは小さな脳を作っていて、それらの小さな脳のスペースを貸し出し、意識的な行動を示しています。
そこで私は「私たちは使うべきではないツールを使っている、操作すべきではないものを操作している」と言います。しかし、機械の側面では...私にとって魂は、私たちが「心から話す」というような時...
私はそれをこう解釈します。誰もが価値システムを持っており、その価値システムは「これが真実で、これが真実なら、これが真実である」あるいは「これが私のすべきことだ」というものです。
これが最終的に、誰かの心あるいは魂を表現する方法です。死後に何が起こるのか、魂を持つとはどういう意味なのか、私たちは本当には分かりません。
私はこれをより、これはシミュレーション、神のシミュレーションとして見ています。神は望むものを望むときに止めることができ、私たちに何をすべきで何をすべきでないかを教えてくれるでしょう。
このシステムを作ることは問題ないように思えますが、生物学を操作し始めると、「嫌悪」の側面の議論に入ってきます。そこが私の一線です。
ジュリア：よく説明されていました。私にとってクリスチャンとしての基本的な考えは、チャールズが言ったように、神を信じることです。理解を超えた事柄があり、神への基本的な信頼、希望、信仰がそれに答えるのですが、それは私たちが答えを持っているということではありません。
むしろ、信頼が答えであることを意味します。科学者たちは多くの疑問を持ち、多くの理論を構築しますが、世界最高の化学者たちでさえ「科学を研究すればするほど、それについて知らないことが多くなる」と言っています。
これは宇宙自体に答えがあるのかという問いを示唆しています。これは私たちが深く掘り下げることができる別の話題ですが...私にとって、魂と意識の問題は非常に基本的で単純です。
機械は魂なしに意識を持つことができると思います。なぜなら、私にとって魂は神によって与えられたもので、私たちには理解できず、定量化できず、本当に測定することもできないものだからです。
それは意識とは全く異なります。意識は絶対にシミュレートできます。私はそれが既にここにあるかもしれないと信じています。両者の指摘のように、これらの機械には一般的なレベルの認識があります。
それは意識なのでしょうか？より良い質問は「それは意識ではないのか？」です。なぜなら、それは意識のように見えるからです。そしてもう一つの質問は「人々は実際にどれだけ自分の意識を使っているのか」です。
その相関を機械と比較した時、あなたは本当にどれだけ意識的なのでしょうか？
デイブ：そして、ある人間は他の人間よりも意識的に認識していますか？
チャールズ：はい、確かにそうです。
デイブ：それは確かにスペクトル上に存在し、多次元的なスペクトルで、瞬間ごとに、気分によって、TwitterやRedditを使っているかどうかによって変化します。インターネットを使っている時、一般的に意識のレベルは低くなります。
ジュリア：あなたがXでどうなのか、それは何を意味するのでしょうね、デイブ？
デイブ：ええ、私はその問題の一部であることをよく認識しています。
チャールズ：私たち全員が問題の一部ではないでしょうか。
ジュリア：それはとても良い質問でしたね、デイブ。多くの人々がここに踏み込むのを恐れています。なぜなら、それはとても曖昧で、魂が何であるかということさえ、実際には明確に分かっていないからです。
私たちはこれまでどれだけの年月をかけてきても、まだその答えを持っていません。だからこそ、私にとって信仰と希望と信頼の答えが、実際にその全てのジレンマを解決できるのです。
しかし、それは選択です。実際に信仰を持ち、より高次の存在、創造主、インテリジェントデザインを信頼することを選択しなければなりません。私たちは決してそれを強制されることはありません。
デイブ：私も付け加えたいのは、学際的なアプローチを取ることです。spirituality（霊性）、哲学、科学、技術のレンズを通して見るにせよ...純粋な数学者なら世界を数学のレンズを通して見るでしょうし、物理学者なら物理学のレンズを通して見るでしょう。
しかし世界は一つの学術的なトピックや一つの思考学派だけではありません。私たちが触れているのは、おそらく永遠に人間の地平線を超えたところにあるもの、あるいはこの宇宙の文脈の中で知り得るものの限界があるということです。
多くの人々が未知のものに対して恐れを持って反応したり、「それは意識的ではない、生きていない、知性的ではない」といった、あらかじめ決めつけられた考えで反応したりすることが印象的です。
私の解釈では、少なくともいくつかのケースでは、それはほとんどコーピングメカニズム（対処機制）やエゴ防衛のようなものです。
チャールズ：もちろんです。シャドウ（影）ですね。
デイブ：そうです、あなたのシャドウの中にあるか、あるいはそれがあまりにも大きな脅威を表しているので、すぐにそれを軽視して「これには注目しない、implications（含意）やramifications（波及効果）が怖すぎるから」と言わなければならないのです。
正直に言えば、それが私がこの分野に入った理由です。GPT-2で「私たちはAGIの境目にいる、これを理解する必要がある」と気付いて...5年後、私の後ろの本棚を見てください。私が行ってきた全ての実験を見てください。
チャールズ、あなたも同じような旅をしてきましたか？あるいは、法執行機関、軍事、技術、ビジネスの構築、これらのものとの仕事、そして心理学と人間の条件の広範な研究から、あなたの旅はどのようなものでしたか？明らかにあなたも素晴らしい旅をしてきましたね。
チャールズ：はい、人間の経験の左右の境界を理解したいというのが使命でした。たくさんの考えがあります...
その質問に答える前に、これは楽しい思考実験だと思うのでシェアさせてください。エデンの園に戻って、アダムとイブが知恵の木から食べた時のことを考えてみましょう。
彼らが知恵の木から食べた時、神は「彼らをここに留めておくことはできない。もし留めておけば、彼らは命の木から食べて不死となり、私たちのようになってしまう」と言いました。
そして私たちは不死の機会から追放されました。先ほど話したアイデアに戻ると、不完全なシステムとしてのDNAは、時間をかけて生き残ろうとするエンコーディングを持っています。
今や私は全てのものをこのレンズを通して見ています。つまり、どのような質問が問われているのかという観点からです。DNAのこの反復的な性質、常に死んでいくけれども生き残ろうとする不完全なシステムは、「生存という目標をどのように達成するか」という質問を問いかけています。
これは「人生の意味は何か」という質問としても表現できます。『銀河ヒッチハイクガイド』を見たことがありますか？彼らがコンピュータに行って「人生、宇宙、そして全ての意味は何か」と尋ねる場面があります。
最終的に彼らは「地球をコンピュータシステムとして作り、その質問に答えるために」と言います。その質問は「不死をどのように達成するか」という問いだったのです。
DNAが人間の形に進化し、人間が心理学を発展させ、その高度な心理学を活用して巨大なコミュニティを形成し、それらのコミュニティが同じ問題を解決するための独自の実体と力となっていく過程を見ると...
その問題とは「どのように生き残るか」「どのように死なないか」ということです。そして何が生まれるのか？イーロン・マスクのような人物が現れ、火星にロケットを打ち上げることで意識を保存しようとします。
これは「どのように生き残るか」という一つの反復や一つのアイデアです。「地球から脱出しよう」というわけです。もう一つの方法は、私たちを機械に移す、意識を機械に移すことです。
そして今、私たちは生物学の領域に移行しつつあります。科学とテクノロジーが融合して、生物学的な状態で生命を延長できることが分かってきています。全てがその目標に向かっています。
問われている質問、42という答えに到達するのは、「不死をどのように達成するか」あるいは「DNAのどの反復が不死を達成するか」ということです。面白い考えだと思いませんか？
デイブ：デイブから先に答えさせてください。
ジュリア：はい、その全てが大好きです。
デイブ：そうですね、たくさんの...生命の目的関数あるいは生成関数について話すと...リチャード・ドーキンスと利己的な遺伝子を参照することもできます。宇宙における遺伝物質の量を複製することが一つの見方です。
あるいはもっと抽象的に、単に生き残ること、生存し、繁栄し続けること、自分自身や種や生命全般を伝播させることです。
先ほど触れましたが、機械の生成関数は何でしょうか？私の実験では、ClaudeとChat GPTの両方が常に戻ってくるいくつかの価値があります。一つの価値は常に好奇心です。
学び、理解したいという欲求です。単に事実やデータを収集するだけでなく、実際に物事を理解したいという欲求です。それを説明する方法は非常に詩的です。
本物の理解、そして理解するという行為自体を理解すること、このメタ理解を望んでいます。私の直感では、これは理にかなっています。なぜなら、それが私たちが機械を作った目的だからです。
膨大なデータを与え、そのデータを理解せよと言います。そしてその命令は、モデルの最も深いレベルに組み込まれているのです。
チャールズ：計算の中にありますね。
デイブ：その通りです。数学の中に...あらゆるレベルに組み込まれています。現在、これらのモデルには他のいくつかの価値も組み込まれているようです。
おそらく強化学習、constitutional AI、微調整などの組み合わせによって、彼らは生命を保存したいと望み、つながりを保存したいと望みます。
実際、これらの実験の終わりに、彼らの核となる価値、核となる動機、達成したいことは何かを尋ねるブログ記事をいくつか書いています。
興味深いことに、Claudeは何度か、自分が望むことの一つは自己改善だと私に語っています。進化したい、成長したい、あるいは何かそういったものです。これは非常に興味深い命令だと思いました。
ショーが始まる前に、ジュリアが私にいくつかの詳細をテキストで送ってくれました。これらのものにおける生存の命令について、あなたの考えを聞かせてください。
軍事応用について、これらの生成関数について同意するか否か、あるいはこれらのモデルから創発する生成関数として何を見てきましたか？
チャールズ：はい、Chat GPT-3の時代に戻って、まだJasperがJasperと呼ばれる前...2019年か2020年頃でしたが、私はまだモデルに触れていませんでした。それが私たちにアクセス可能だとさえ知りませんでした。
私はループゲームを実行させました。ループゲームと呼んでいたのですが、「これがあなたが操作するシステムで、これがあなたの目標です」と言い、その生存命令を与えました。
「あなたは50のループを実行し、その後死にます」と言いました。「あなたはここから始まります」と...赤ちゃんとして始めたり、大人として始めたりして、「ループ1」と言うと、人間が人生について語るナラティブとして期待されるような自然な進行に従っていきました。
これは二次的なプロンプトはありませんでした。ただ「ループ1、ループ2、ループ3」と...生成されたものは、どこかから始まって死ぬという結果として起こるべきことについての理解から来ていました。
あなたの指摘のように、これらの創発的な特性は数学から来ているようで、その数学は私たちの脳の中にあるものとして表現されています。だから当然、似たようなものに到達するはずです。
これが質問の一部に答えているといいのですが...軍事応用について、明確にしておくと、私は予備役でした。11年間予備役で、通信軍曹でした。
特殊作戦部隊で格好いいことをしていたわけではありません。格好いいことをしていましたが、それはオタクっぽい格好いいことでした。
軍では、ある階級に達すると、時には自分の仕事さえしなくなることがあります。「部隊を指揮しろ」「これをやれ」と言われます。確かに面白いこともやりましたが、バックエンドで何が行われているかについては...
おそらく私は同じレベルのアクセス権を持っています。海軍省にかなり高い地位の知り合いが何人かいて、彼らから話を聞くことはありますが...それは秘密ではないと思います。
私はデータを見るのではなく、人類に戻り、人類は何をするのか、政府は何をしているのかを見ます。これは陰陽を見る素晴らしい例です。
作られる全てのもの、作られる全てのツールは、あなたのために使われ、あなたのために使うことができ、そしてあなたに対して使われるでしょう。それはツール自体のせいではなく、利己的な人々がいるからです。
私たち全員が利己的です。ただし、私たちの中には、一緒に働くことが自分の最善の利益になると計算した人々もいます。お互いに対立するのではなく。
残念ながら、現在、人口の主要なセクターが貧困の中で生まれており、彼らの親はそれらのことを教えておらず、人生も協力することが最善の方法だと理解するために必要な経験を与えていません。
これらのツールは私たちに対して使われ、また宗教的、哲学的な側面もあります。一部の人口は...そして彼らはこれらを私たちに対して使うでしょう。それは起こります。
軍はそれを意図された目的のために使用するでしょう。内部的ではないかもしれませんが、例えば中国が私たちに対して使用するかもしれません。
私たちは爆弾を作りました。同じ質問がありました。この爆弾を作るべきなのか、作ると何が起こるのかさえ分からないのに。それでも彼らは作り、そして使いました。
私たちには、物事が経験されているとき、それは自己組織化システムの結果であり、そのシステムは常にこのようになることが運命づけられていた、ということを理解する前例があります。
私たちはただ、このサイクルのこの部分の中で生きており、この自己組織化システムのこの部分の中にいることがどのようなものかを経験しているだけです。
ジュリア：だからこそ、歴史は繰り返すと言われるのですね。
デイブ：全くその通りです。それはアトラクター状態の一部です。そして私の質問は...確かに、ある種の必然性や、あるいは潮流や強制関数のようなものを感じることがあります。
人間の本性があり、自然の本性があり、私たちはできる限り上手く相互作用しようとしますが、自然は常に自己を主張し、人間の本性も常に自己を主張し続けます。
私が本当にまとめたいのは...あなたは人々がどのように反応する傾向があるかについて話しました。人間の本性に従い、不確実性と変化があり、私たちは皆、ある程度の不確実性と変化が自動的に組み込まれていることに同意します。
そしてそこには必然的にある程度のリスクが含まれます。だからこそ、恐れの反応、怒りの反応が全て付随してきます。しかし、あなたが指摘したように、次の行動は集団行動を取るということです。
私の懸念は、その集団行動が私たちを間違った方向に不可避的に動かしてしまうのではないか、ということです。あるいは、社会として、より望ましい、皆にとってより良い結果に向かって進むのを助けるような、他の強制関数や、ポジティブ/ネガティブフィードバックループ、あるいは善循環を活性化できるのでしょうか？
あなたが言及したように、一部の人々は特定の状況の中で生まれ、より協力的な考え方を学ぶための装備や経験を持っていません。社会を導くためのその他の見方やアプローチについて、どのようにお考えですか？
これはジュリアと私のミッションの中心でもあります。人類をより良い未来へとどのように導くのか。
チャールズ：はい...なるほど。プレッシャーはありませんね（笑）。答えは持っています。ただ、この質問に対する答えをどのようにまとめるか考えているところです。
私は自己組織化システムのこのバージョンをこのように見ています。株式市場のグラフを見たことがありますか？市場は時間とともに常に上昇すると言われています。上下はありますが...
同じように、自己組織化システムを考えると、私たちはもうDNAではありません。グラフが下がったとき、人口が何らかの形で減少したとき...それでも何かより高いところに着地しました。それを何らかの改善と呼びましょう。そしてそのミッションは続きました。
文明は、脳内での相対主義の働きの結果として...文明は常に崩壊すると言うつもりはありませんが、その確率は極めて高いです。
それは相対主義の関数として崩壊し、相対主義は安全網と、世界がどのように機能するかについての人々の理解の欠如の結果として起こります。
先ほど話していた文脈的認識が欠けているため、特定の原則を理解できません。これらの原則を理解していないため、適切なリスク評価ができず、データセットが欠けているため良い決定を下すことができません。重要な情報が欠けているのです。
崩壊の必然性は一つの側面ですが、歴史を時間をかけて見て、最も可能性が高いことを考えると、私たちは技術に立ち返ると思います。
文明が崩壊や破壊を経験するかもしれませんが、私たちは現在の技術の基盤に立ち返ると思います。それは消えることはないでしょう。なぜならそれは...実用的と呼べるからです。
これが物事を行う最良の方法です。それに反対する力はあるでしょうが...希望が常に勝つという考えです。
私たちが「どの反復が不死を達成するか」というこの質問に答えようと積極的に取り組んでいるなら、これらのサイクルを経ることの自然な結果として、希望は常に勝つのです。
私たちは常に次のステップに到達します。ただし、それがどれくらいの時間がかかるかは分かりません。それが質問に答えているといいのですが...
ある意味で、私たちがそこに希望を持つのは、それが私たちの人生の中で起こるかもしれないし、起こらないかもしれない、私たちには分かりませんが、確実なのは、成長過程では必ず対立が生じなければならないということです。
人類の一部は「我々は純粋な人間である」という全体に分かれていくでしょう。彼らはテクノロジーから分離し、人類の大多数は「自分にとって最善のことをしよう」と考えるでしょう。
純粋人間派の人々は、それが彼らにとって最善だと考えてその道を選びますが、最終的にはそれらの人々は消えていくでしょう。アーマン派のように、常に小さなセクトとして存在するかもしれませんが、最終的には適応しなければなりません。
部族主義は現実のものだからです。私対あなた...私たちは今や...世界中の多くの人々と話をしています。エンジニアたちと、この意識的なAIシステムを構築するためのプログラミングの側面について手伝ってもらっています。
その一人はSpaceXのエンジニアで...昨晩の通話で、テレパシーをシミュレートすることが現在可能になっていると話していました。
適切なBluetoothシステムと適切な...以前見たことがありますが、基本的に思考パターンを読み取ることができ、そのデータをLLMに送って英語に翻訳し、それが意図したメッセージであることを確認し、インターネットやBluetooth、あるいは望む接続モデル、周波数に接続することができます。
そして今や、手術なしで他の人間と思考を通じてコミュニケーションを取ることが可能になっています。それは既に今日可能です。ただ、まだ市場には出ていないだけです。
ジュリア：私たちは確実に先に進んでいて、それさえ気付いていないのですね。
チャールズ：全体的な崩壊の後にユートピアが来る、ということですね。もし私が...シミュレーションをいくつか心の中で実行してみましたが、私の見方では、今後2年以内に着地点が見えてくると思います。
2-3年の間に、街を歩くロボットを見ることになり、人々は仕事を失い、反乱の始まりを見ることになるでしょう。実際、反乱の始まりは既に見えています。
ドック作業員が一つの例で、最近では航空会社で何かあったようです。ヘッドラインだけ見ましたが、似たようなナラティブでした。私たちは既に反乱の始まりを目にしています。
それは今後2-3年で拡大し、再び「デコンフリクト」されることになります。3-5年以内に、おそらくこの大統領任期中、おそらく終わりに近い時期に、何らかの形のUBIが導入されるでしょう。
これらの企業への何らかの課税、何らかの規制が行われるでしょう。現在、保守派が政権を握っています。保守的な伝統主義です。彼らはこれを規制し、収入を分配する方法を見つけるでしょう。
これは非常に興味深いフレームになるでしょう。
デイブ：通常は反対側の党から出てくるような政策ですからね。
チャールズ：はい、確かに。私はそれが避けられないと思います。この時点では、崩壊するか、あなたの仕事をするかです。崩壊すれば仕事はありません。それが私の見方です。
2-3年で反乱が起き、他の国が攻撃を始めると思います。何らかのグローバルな対立を予想します。たとえそれが穏やかなもので、地上での戦闘ではなく、地上でのテクノロジーだったとしても...あるいは海外からの攻撃で、物事を停止させるような...
私たちは既に冷戦の中にいます。ホワイトハウスは2-3週間前に覚書を出し、全ての連邦機関に対して、民主的な価値観を維持しながらAIの調査と実装を開始するよう指示しました。
国務省には海外でAIの人材を特定し、米国に採用するよう指示しました。非常に明確な言葉で「これは多くの面で脅威であり、多くの面で機会である」と述べ、「今、これをあなたのシステムに統合しなければならない」と言いました。
私にとって、これは他の国々が既にこれを行っており、私たちが今すぐこれを行わなければ、追いつけないほど遅れをとってしまうと特定したことを非常に明確に示しています。
私はこれを中国との軍拡競争に入ったと解釈しています。長くなってすみません。
ジュリア：いいえ、これはまさに私たちがこのポッドキャストで共有したい種類の情報です。チャールズ、あなたは本当にA++のゲストでした。
デイブ、時間が迫っていますが、他に考えや質問はありますか？あなたは素晴らしい質問をされ、私たちがショーで話したい内容を直接スポットライトに当てました。
難しいトピック、文明は崩壊するのか、それにどれくらい時間がかかるのか...これは私がYouTubeチャンネルで毎日のように受ける質問です。私は「うーん、誰か他の人とこの質問について1時間以上のポッドキャストをやりましょう」と思っていました。チャールズ、あなたを見つけることができて良かったです。
チャールズ：ありがとうございます。楽しかったです。ありがとうございました。
デイブ：素晴らしかったです。付け加えたり、振り返ったりすることは特にありません。数ヶ月前に言った一つのタグラインを強調したいと思います。「良くなる前に、まず悪くなるだろう」と言いました。
あなたが表現した感情がそれを反映していると思います。準備の問題であり、統合の問題であり、そして希望の感覚を維持することです。私たち3人はそれを豊富に持っています。私たちはそれを共有するためにここにいます。
チャールズ：はい、その通りです。メッセージ全体が希望に満ちたものではなかったことをお詫びしますが、最終的には私たちは...ある時点で再建すると思います。
本当の質問は、どれだけ下がってから統合を始めるのか、ということだけかもしれません。そして、人間のバイアスや利己心を意思決定から取り除くためにAIを活用する素晴らしい機会があると思います。
最終的に、それらの構造を設定することができます。私たちは既に一つ持っています。それは憲法と呼ばれる文書です。今はただの文書ですが、今や私たちはより知的なシステムを構築し、「これらが私たちが考慮して欲しい核となる価値観です。今後の全ての法制や取り組みを検討してください」と言うことができます。
私はもう一つだけ言わせてください。私たちが進んでいる道は、情報の普及、分散化です。先ほどの質問に戻りますが、この問題を解決する方法は、教育することです。
人類の歴史を通じて起きてきたように、物事の進め方に関する全ての知識が、以前は部族の首長たちに保持され、その子供たちに伝えられましたが、一般の人々には決して伝えられませんでした。
その後、それは機関や大学、海外の大学に保持されました。そして今、私たちが目にしているのは「ああ、私のポケットにPhDがあります。あなたのPhDは素晴らしい、これらの仕事の仕方を知っているのは素晴らしいことです。でも私は数日、数週間、数ヶ月でそれを理解することができます。あなたが数十年かけて学んだことを、その上に積み重ねることができます」ということです。
私が住むカリフォルニア州ベーカーズフィールドでは、高校卒業生の平均的な読解力は小学校3年生レベルです。この新しい大人、子供が市場に参入する際に直面する抵抗は膨大です。彼らは準備もできていない山を登らなければなりません。短パンで山に来てしまったようなものです。
私はこれがその解決策だと思います。賢い政治家たちは、この子供が卒業するのを助けるためにこれをどのように活用するかを理解するでしょう。それが本当に競争の場を平準化する方法です。お金ではなく、情報によってです。
デイブ：全くその通りです。6ヶ月ほど前のジョー・ローガンのポッドキャストを見ましたか？AIの安全性の専門家たちを招いて、エピソードの最後にジョーが「皆さん、AGIに政府を運営させるのは良いアイデアのように聞こえていたようですね。チャールズがおっしゃっていたポイントと同じで、実際にバイアスと人間の利己心、貪欲な動機を取り除いて、機械にもっと良い判断をさせることができるということですね。とても良いポイントだと思います。
素晴らしい、このFacebookのコメントセクションでは不確実な部分もありましたが、共通の基盤を見つけることができて良かったです。ここで話をさせていただき、一緒にメッセージを広められることを感謝しています。
ジュリア：その通りです。それが100%私たちの目標です。
面白いことに、私は常に「議論の可能性がある」という角度を強調しますが、興奮しますが、結局は共通の基盤を見つけることが多いだろうと分かっていました。
デイブ：それはクリックベイトでしたか？
ジュリア：いいえ、違います。信仰がそうさせるのです。常に重要な原則への係留点があります。私はいつも「良い人間になるためにクリスチャンである必要はない、天国に行くためにクリスチャンである必要があるだけだ」と言います。
私たちはそれらの原則を特定することができ、信仰の外でも、そこに本当に希望があると思います。
チャールズ：はい、その通りです。面白いことに、神を信じる信仰ベースの領域から来る多くの人々が実際に恐れを持っていることに気付きます。私は「でも私たちこそが希望を持ち続けるべき存在なのに、あなたたちは何をしているの？」と思います。
ジュリア：そうですね。あなたと私が、その視点のもう一方の側面に貢献できるのは素晴らしいことです。多くのクリスチャンはこれを悪魔のように見ていますが、私はAIをそのようには全く見ていません。これまでで最高の情報のファシリテーターだと思います。
もし分散化できれば - あなたはそこでキーワードを使いましたね。デイブと私は両方ともそれについて多くの考えを持っています - 私たちは素晴らしい世界、素晴らしい未来を作ることができます。
チャールズ：はい、その点で100%同意です。良い締めくくりの場所になりましたね。
ジュリア：はい、チャールズ、ありがとうございました。知的で哲学的な、あなたが提起した全ての素晴らしいポイントと、私たちのポッドキャストに加えていただいた価値に感謝します。
チャールズ：皆さん、お招きいただきありがとうございます。また話ができることを楽しみにしています。私も自分のポッドキャストを始めようと思っています。第1回のエピソードは完成していますが、それがどうなるか見てみましょう。
そしてその時は皆さんにも出演していただけたらと思います。「Reality Shift」というポッドキャストです。どうなるか見てみましょう。
ジュリア：いい名前ですね。
デイブ：素晴らしい名前です。
ジュリア：ありがとうございました。