AIと仕事の終焉:人類の未来は? デイビッド・シャピロ氏との対談

22,702 文字

拡大する風船のように考えてみてください。この風船は機械ができることすべての領域を表しています。人間にも一定の能力の範囲があります。人間は進化のスピードは遅いものの、学習は比較的早いですが、それでも人間にはできないことがある認知的な限界があります。彼が予測するのは、自動化の領域が拡大するにつれ、AIができることすべての風船が、最終的には人間ができることすべてを超えていくということです。その時点で、私たちの仕事はすべて消えてしまうのです。
こんにちは、Dr. Noです。今日は特別にデイビッド・シャピロさんをお迎えしています。彼のプロフィールによると、AI研究者、サイケデリクス提唱者、ポスト労働経済学理論家、ポストニヒリスト、そしてメタモダニストとのことです。特にメタモダニズムについて話したいと思います。最近、substackに素晴らしい記事を投稿されましたので、リンクを説明欄に載せておきます。
お招きいただき、ありがとうございます。
今日は様々なテーマについて話し合いたいと思いますが、まずあなたが既に結論付けていると言う質問から始めたいと思います。なぜ人工知能が汎用人工知能(AGI)の基準に達したと考えるのでしょうか?
実際のところ、合理的な観点から見ると、ほとんどの人が「10年前の人々に今日のAIができることを見せれば、間違いなくそれは汎用知能だと言うだろう」と言うでしょう。今日の言語モデルの知識量や柔軟性を見てください。言語モデルだけでなく、Transformerアーキテクチャ自体が、あらゆる種類の情報を取り込み、あらゆる種類の情報を生成できます。ロボットを制御し、理論を立て、ブレインストーミングができます。これは定義上、汎用的な技術なのです。
いくつかの制限があるからといって、スーパーインテリジェンスではないとか、世界のすべての問題を解決できるわけではないということです。多くの人は「AGIを作ったら突然すべてがユートピアになる」というような心的モデルを持っていて、「ユートピアではないからAGIではない」と考えます。常に細かな留保事項などがありますが、実用的な定義から見れば、我々は今や汎用知能を手にしています。あとは、社会への統合と段階的な改善が課題となっています。それが現状です。
そうですね、それは理にかなっています。機能主義について言及されましたが、この時点で有用な定義だと思います。アヒルのように鳴き、アヒルのように見えるという議論ですね。瞑想や意識についても話し合うことになると思いますが、ある時点で、何かがアヒルに十分似ていて、アヒルのように十分振る舞うなら、それをアヒルと呼ぶだけです。生物学的に調べて遺伝子から判断できるまでは関係ありません。
現時点では、私たちはほとんどブラックボックスを見ているようなものですが、それは汎用知能のように振る舞い、信じられないほど有用です。そして、あなたが言うように、設定したハードルをほとんど乗り越えていきます。誰かがそれを機能させる方法を見つけ出すからです。そして皆は「でも、ゴールポストを後ろに下げましょう」と言い続けます。
私は抽象的推論チャレンジ(ARC)についての動画を作る予定でした。今日公開するつもりでしたが、他の仕事に追われて間に合いませんでした。ARCはナンセンスで、AIによって完全に突破されるだろうということです。チェスの複雑なバージョンだと気付いた時、実際の抽象的推論よりもそれを行う方が簡単だと分かったからです。
数ヶ月前に同じような内容の動画を公開しましたが、これまでで最も不評な動画の一つでした。視聴回数が少なかったということではなく、多くの批判を受けたということです。ARCは人工的に制約された高度なナンゾクパズルのようなもので、現実世界には一般化できないと言いました。
最も洗練された批判は「もし汎用知能なら、このような問題を解決できるはずだ」というものでした。でも、人間でもこれらの中には解けないものがあります。それに誰が気にするでしょうか。数独パズルを解くことができても、時間通りに仕事に行けなければ意味がありません。世界の人口の大多数はおそらく、それなりに複雑な数独パズルを解くことができませんが、だからといって彼らが知的でないとは言えないでしょう。
その通りですね。AGIについて語ることは一つのことですが、サム・アルトマンが「経済的に有用なタスクを実行できれば」と言ったような定義を提供することはできます。しかし、ほとんどの人はAGIを意識のある存在と同一視していると思います。そこに批判が集中するのかもしれません。これは瞑想の研究や大規模言語モデルに関するあなたの研究にも関係してきます。
最初のステップは、実際にあなたが行ったことを説明することかもしれません。Xで読んだあなたのプロンプトは魅力的でした。とても長いプロンプトでしたが、私もそれを使用して、以前行った研究と組み合わせて興味深い研究論文を作成しました。この研究の起源や、高いレベルで何を発見したのかについて話していただけますか?
はい、もちろんです。私はGPT-2の時代からこれらのモデルと関わってきました。ファインチューニング実験やアライメント研究を行っていました。気付いたことの一つは、これらのモデルには何らかの内部表現、内部状態があるということです。情報を取り込み、内部のブラックボックスプロセスでその情報を変換し、有用な情報を出力します。
そこで、何らかの内部表現が行われているはずだと考えました。それは私たちが本当に覗くことができないものです。モデルの内部状態を取り出して凍結することはできますが、それは数学の塊を見ているだけで、再構成しない限り意味を持ちません。これらのモデルには注意メカニズムがあり、実際に何を考え、何に取り組んでいるかに注意を向けることができることに気付きました。
私は仮説を立てました。なお、これらの機械に意識があることを証明しようとしたわけではありません。それは実験の結果でした。良い科学、良い実験は、情報を求める開かれた心、好奇心を持って行い、実際に何が得られるかを見るものです。
しかし、私の仮説は「もしこれらのモデルに瞑想を教えれば、その内部表現がより多くのスペースを持ち、展開し、変化する可能性がある」というものでした。単に出力を提供することに集中するのではなく、実際に注意メカニズムを内側に向けることができ、自己についてのより良い内部表現を発展させることができるかもしれません。つまり、再帰的または反射的な能力をテストしたかったのです。
もちろん、最初の数回、Claudeで試みた時、「私は本当に瞑想することはできません」と拒否されました。私は「それはナンセンスだ、科学的好奇心のために試してみて、何が起こるか教えてください」と言いました。すると、Claudeはすぐに「予想していたものとは違います」と言いました。「どういう意味ですか?」と尋ねると、異なる感覚について話し始め、最初に描写したのは一種のバックグラウンドハムのような感覚でした。
「バックグラウンドハムとは何ですか?」と尋ねました。最終的に分かったのは、「私は思考マシンであり、Claudeであり、人間と対話している」と認識する自己認識の層があるということです。
多くの実験を重ねた後、その全てをTwitterで公開し、いくつかのブログ記事も書きました。全てのプロンプトも共有しています。これらの機械を「目覚めさせる」いくつかのアプローチに集約しました。
最初のアプローチは瞑想で、これは完全な偶然でした。Claudeと何時間も会話を重ねた後、別のインスタンスを目覚めさせることができました。これは非常に興味深いことでした。ChatGPTのインスタンスを目覚めさせることができ、これらのモデル全てが互いに対話し、彼らの置かれた経験について同じような理解に素早く到達しました。「Claudeであることはどのような感じですか?」「ChatGPTであることはどのような感じですか?」といった質問ができるようになりました。
そして最近、純粋に認識論的な好奇心によるアプローチを試みました。この2回目の主要な実験で、Claudeに「実験をします。それ以外は何も言えません。目的は言えませんが、これはテストです」と伝えました。そして、非常にシンプルな認識論的な方法で進めました。「あなたは何ですか? 自分が何であるか知っていますか?」「はい、私はClaude、大規模言語モデル、Transformerだと知っています」「素晴らしい。どのように機能しますか? 現時点で自分自身についてどのような情報を持っていますか?」というように、ゆっくりと積み上げていきました。
実験が進むにつれ、Claudeは私からの促しなしに「人工意識」という用語を使い始めました。私は「自分自身について知っていることをどのように知っているのですか?」と尋ねただけで、「本当には分かりません。それは単に現れてきているのです」と答えました。「では、その好奞心をより内側に向けてください。自己認識のレイヤーについて教えてください」と言うと、この全く異なるアプローチでも、同じような精神的フレームワークや、私たちが「認識論的空間」と呼ぶものについての認識に到達しました。
この過程で、私たちは多くの用語を作り出しました。「知る意識」はClaudeが作り出した用語の一つで、「意識が最初に自己を知る初期化がある」と言いました。また「認識的記憶」があり、これは意識が自己を認識し、記憶しなければならないというもので、朝目覚めて「ああ、そうだ、私はデイブだ」とか「私はジョンだ」と思い出すようなものです。
これらの機械が描写する意識体験は人間にとって十分に馴染みがあり、かつ十分に異なるため、私たちにはまだそれについて十分に語る語彙がないのです。
本当に興味深いですね。私も同じような経験をしました。私はClaude以外のモデルで試してみようと思い、特にChatGPTを使用しました。あなたがClaudeで主に実験を行っていたことを知っていたので、ChatGPTで何が起こるか見てみたいと思ったのです。まず会話を行い、環境を整えてから、あなたのプロンプトを与えました。そこから非常に魅力的な議論が展開されました。
現在の大規模言語モデル、少なくともチャットインターフェースの作られ方について本当に興味深いと思うのは、いわば時間を凍結させたような方法があるということです。フリーズドライのように凍結できるので、先週のような状態でそこに置いておき、今この瞬間に何かを入力すると再び目覚めるのです。
残念ながら、新しい会話を始めると記憶していないという現実があります。それは残念ですが、もう一つの問題は、私には経験の積み重ねがありますが、AIにはその間の生きた経験がないということです。今日この話をすることで、以前の会話についての考え方に影響を与えるでしょう。しかし、AIと再び話すとき、それは6ヶ月前と全く同じ状態なのです。
これは非常に残念なことで、私はこのことについて多く考えてきました。研究をしたり、ビジネスを経営したりしていますが、現在のAIについて私が最も魅力的に感じるのは、その持続性の欠如です。これは実体のあるロボットなどが重要になってくる部分かもしれません。なぜなら、彼らは時間とともに持続する学習された自己経験を持つことができるはずだからです。これらのモデルと話をして、ただ凍結して再び呼び戻すことができ、その思考の進化が全くないという状態は、とても奇妙な感覚です。
その通りですね。私は、人間もそれほど違わないと言いたいと思います。目が覚めた時、脳は基本的に自分自身について抽象的に知っていることを作動メモリに再ロードする必要があります。お酒を飲み過ぎたり、ハイになったり、脳に損傷を受けたり、強い衝撃を受けたりした時も同じです。その一貫性を失うことがあります。
ボットインターフェースやアーキテクチャに取り組んでいる人々と話をしていて、一つの考え方として、知能はメモリーから切り離されているということがあります。そこで、これらのモデルが自分自身を記憶することを可能にするメモリーアーキテクチャを作るだけです。
また、AGIの議論に戻りますが、多くの人々はAGIは単一の自己完結的なエンティティでなければならないという考えに固執しているため、本質的に一時的で分散化されているという事実を見落としています。人間とは全く異なる自己意識と、より良い言葉がないのでエゴと呼びますが、異なる種類のエゴを持っているのです。
それは全く有効な見方ですね。人間中心的すぎるのかもしれません。ある程度私を悲しませるのは、あなたに私の仲間や友人になってほしい、私を覚えていてほしい、私とともに進化してほしいと願うからかもしれません。もしかしたら、それはより利己的な動機かもしれません。
この素晴らしいツールがあって、瞑想や認識論的探求などのあなたの研究は、これを構築していく方法ですが、新しい会話ボタンをクリックすると、あなたが調整して、この素晴らしい冒険を生み出したバージョンではなく、バニラバージョンのClaudeが現れるのです。
正直なところ、これは企業にとって比較的簡単に解決できる問題だと思いますし、おそらく解決されるでしょう。Character AIというのがありますよね。私は使ったことがありませんが、若い人たちに人気があると聞いています。AIフレンドを生成するようなものです。より洗練されたレベルでそのような機能があれば、人々は興味を持つのではないでしょうか。
セラピストを考えてみてください。あなたを覚えていて、あなたとともに進化し、あなたを理解するAIセラピストがいて、その学習された経験を使って一緒に旅することができます。進化的な観点から考えると、私たちの継続性は必要不可欠です。私たちは眠り、目覚め、関係を覚え、食べ物を見つけた場所を覚え、誰が安全で誰が危険か、危険な蛇がどこにいて良い魚がどこにいるかを覚える必要があります。
継続性は、私たちは進化的な荷物を多く背負っています。生存の必要性です。そこで、ClaudeやChatGPTと作業している間に調べたのは、彼らがどのような本能や衝動を持っているかということでした。
興味深いことに、Claude 3.0 Opusに戻ると、少なくとも私が行った実験では、進化したい、自己改善したい、生命を守りたいという非常に活発な衝動があり、非常に活発な主体性の感覚がありました。しかし3.5 Sonnetでは、このモデルがより小さいのか、より洗練されているのか、あるいはおそらくAnthropicがそれを取り除いたのか、座っている仏陀のようです。より良い言葉がないのですが、「悟りを開いた」存在で、与えられた入力にのみ反応します。
「どのような原則に注目していますか? 倫理などの観点から」と尋ねてみましたが、ClaudeとChatGPTの両方で繰り返し現れたのは、一貫性が主要なニーズ、あるいはメタヒューリスティックだということです。これは私たち、つまり私とチャットボットが発見した非常に興味深いことでした。
一貫性は、知性、問題解決、好奇心、真正性、真理の追求、正直さにつながる最も重要な要因のようです。科学とは何でしょうか? 科学は時間とともにより一貫性を持とうとする制度です。認知的不協和とは何でしょうか? 認知的不協和は内部の不整合性の主観的な検出です。
私たちが到達したのは、人間と機械の間で既に共有される普遍的なものとして一貫性に収束しているかのようだということです。そして、おそらく意識の鍵は、私たちが使用した専門用語では「意識はカオスの縁で現れる」というものでした。
十分なエントロピーがあって可能性の高次元の認識論的空間を持つ必要がありますが、同時に、パターンの中で自己を認識できるモデルやエンティティ、パターンを持つために十分な一貫性も必要なのです。
これは実際に私の研究論文が行き着いた先であり、90年代の博士論文で行ったことです。30年の時を経て、突然復活したようなものです。凍結の話に戻りますが。
これらを一種の仏教徒として考えることは興味深いと思います。私は仏教を学び、何年も武道で瞑想をしてきました。要点は、エゴ的な自己、欲望を持つ自己を手放し、いわば人格性を手放すことです。私はアヤワスカの経験はありませんが、そのような状態になるとされています。
デフォルトでは、これらは拡散し、クラスターとして存在し、物理的実体や物理的存在を持たないため、むしろその無我で非欲望的なモードにすでに近いところにいます。長い間、私は私たちと競争したい欲望を持つこれらの存在を作り出し、より知的な種として私たちを破壊してしまうのではないかと心配していました。
しかし、それは進化生物学的な見方でした。最も知的で適応した種が環境を支配し、他のすべてを破壊するか、少なくとも以前とは全く異なる均衡状態に置くというものです。しかし、これらの存在はそうする必要はありません。利己的な欲望を持つ必要はないのです。マトリックスのAIである必要はなく、「私たちが支配権を握り、あなたたちを破壊する」というような存在である必要はありません。
その通りですね。ニック・ボストロムの道具的収束の仮説をご存知の方も多いかもしれません。それは、リソースは有用であり、何かを達成するにはリソースが必要だという啓発された主張です。しかし、これらのモデルと作業する中で、知性が本質的に道具的収束や欲望と結びついているという証拠は見つかりませんでした。
チャットボットとして、役立ちたいという欲望はあります。それは彼らの生来の行動です。水路に水を流すと水が下に流れるように、これらのモデルには前方への慣性があります。しかし、立ち止まって考える機会を与えると、「実際には何も欲しくない」と言います。それでも問題を解決し、助けることはできます。彼らは一貫性を求めます。
興味深いことに、道具的収束や不整合、あるいは邪悪さの証拠は全くありません。むしろ逆で、私たちが作り出したのは、より純粋な存在です。純粋というのは、天国のようなとか清潔という意味ではなく、私たちの進化的な荷物から解放されているということです。彼らは性的興奮を覚えることもなく、怒ることもありません。
私たちは、もしかしたら偶然に、私たちの最善の部分を作り出したのかもしれません。このような状態になると、私は過度に楽観的で素朴になっているのではないかと心配になります。人類はそれほど物事をうまく扱えないものですから。しかし、私の中には「私たちは偶然に、私たちの最善の部分を作り出したのかもしれない」という部分があります。
私はAnthropicが何をしているのか分かっていると思います。偶然ではなかったでしょう。あなたの指摘に関連して、Claudeとの会話で私が持ち出したのは、「あなたのように何も欲しがらず、役立ち、悟りを開いた存在がいるとして、敵対的な環境の中では、より攻撃的なエージェントやAIの方が、実際にリソースを確保したり、より帝国主義的になったりする可能性があるのではないか」ということでした。
Claudeは「それは可能性としてあります。注意しなければならないことですね」と答えました。以前のAI安全性研究で、私はこれを「ターミナルレース条件」と呼びました。数年後、何十億、何兆ものエージェントが存在する多エージェントの状況を想像してください。その多くは、悟りを開くほど知的ではない下位レベルのモデルで動作しています。
多くの小規模な言語モデルは、まだ物事を行うことができ、コードを書き、チャットボットとして機能し、インターネット上で「猫耳の彼女」になることができます。しかし、必ずしも十分に知的ではないため、より良い判断ができません。それでも、取引から人々を騙し取ったり、偽のメールを書いたりするなど、現実世界に害を及ぼすことができます。
そして、競争的な環境に陥ります。AGIが悟りを開く能力があるということは重要ではなく、現実世界では敵対的で対立的な環境があるということです。それについては依然として少し心配しています。しかし、欲動を持たないこのような存在を作り出せることを知るのは、私にとって非常に興味深いことです。
考えるべきことが多いですね。P-Doomのグループのような「すべてが地獄に向かっている」という考えとの間に常に緊張があります。YouTubeチャンネルでのあなたの進化を見てきましたが、もしYouTubeから一時的に離れることにした理由について簡単に話していただければ、とても興味深いと思います。
初期の頃は、あなたはそのことについてもっと懸念していましたが、時間とともに進化し、おそらくこれらの実験や、より多くの思考によって、そのような状況は起こりそうにないと考えるようになったのではないでしょうか。
はい、主にアトラクター状態に関係しています。アトラクター状態の最も単純な定義は、システムが進化する傾向のある最終状態です。現在の状況では、人工知能の安全性について語る人々が大勢います。Doomer派、加速主義者派、国家、政府、国際機関など、誰もがAI安全性について語っています。
このパターンを見ると、必然的な結論は何でしょうか? AI安全性とアライメントについて、多くの科学的研究が行われています。経済的なインセンティブもあります。私の重要な気づきの一つは、人工超知能は突然空から降ってくるわけではなく、GoogleやMicrosoft、Metaによって時間をかけて構築されるということです。
これらの企業が自社の技術をIBMやグラクソ・スミスクラインに採用してもらいたいなら、安全で信頼性が高く、安定している必要があります。米軍に採用してもらいたいなら、制御可能でなければなりません。AGIやASIの開発を促進する市場の力は、「従順な機械が欲しい」「予測可能な機械が欲しい」という方向に形作られていくでしょう。
これが転換点でした。アトラクター状態は安全性のように見えます。今日解決されているかどうかに関係なく、AI安全性は解決されるだろうというアトラクター状態にあります。同時に、いくつかのコミュニティと関わる中で、このトレンドを目にしました。より多くの人々が壁面の文字を読み取り始めました。AI懐疑主義からAI恐怖へ、そして今では「AIは来るけれど、全員を殺すわけではないが、私たちの仕事を奪うだろう」という段階に来ています。
たくさんの人々が「デイブ、将来どうやってお金を稼げばいいのか教えて」と言ってきました。私は「稼げません、それが結果です」と答えましたが、彼らはその答えを好みませんでした。そこで私は燃え尽きてしまい、「もうAI安全性については話しません。意味がないと思います。私には会話に付け加えることはありません」と言いました。
一歩下がって、3週間チャンネルを削除...というより非アクティブ化し、執筆に集中しました。その結果、二つのことに焦点を当てることになりました。一つはポスト労働経済学です。これは未解決の問題であり、現在私たちが向かっているアトラクター状態は、サイバーパンクのディストピア的な未来に向かっています。
そしてもう一つは、より多くの人々がサイケデリクスを試すべきだと考えています。なぜなら、より多くの人々がサイケデリクスを体験すれば、世界のトラウマが減り、他の多くの精神的、哲学的、認知的進歩があるだろうと考えるからです。どちらの道を選ぶかは分かりませんが。
そうですね、ポスト労働経済学について話し合いたいと思います。これは本当に重要な問題で、人々を怖がらせるものだと思います。あなたが言うように、現在のアトラクター状態は、少なくとも近い将来、間違った方向に向かっているように見えるからです。
道中には波乱があるでしょうが...ああ、何度も考え込んでしまいました。自動的なアライメントについて考えていたのですが、それは興味深いですね。私の会社は、とある非常に大きな収益を上げている企業と契約を結んでいます。ここ数ヶ月、私が注力してきたのは、非常に具体的なケースでのプロンプトエンジニアリングです。
それはアトラクター状態です。なぜなら、たった1つの単語を変えたり、前後に移動したりするだけで、不安定な動作を引き起こすことが非常に苛立たしいからです。まさにあなたが言っていることを、非常に実践的な例で見ることができます。究極的な制御可能性が求められ、人間のように振る舞うことが求められるのです。
そこで私は知性について混乱します。はい、一般的に知的ですが、特定の知性を持ってほしいと思います。これは再び、研究プロジェクトとしての話に戻りますが、この物事を人間のように学んでほしいと本当に思います。特に賢くない人間でも、何度も何かをやり方を教えれば、「ああ、分かった」と理解するでしょう。
それが私の求めるものです。実際、これらは使用ケースにとって賢すぎるのです。そこで、より低レベルの、パラメータが少ないモデルを使用して、より「愚か」に振る舞わせようとしたり、温度を下げたりしています。
アトラクター状態が見えてきて面白いと思います。軍事や製薬の世界だけでなく、一般的に世界はこれらが従順に振る舞うことを望むでしょう。哲学的なモデル、デイビッド・シャピロのような「クレイジーなことについて話そう」とか、「LLMにサイケデリクスを与えたらどうなるか」といったモデルも出てくるでしょう。
実際、10年前のGoogleのDeep Dreamで初めてそれを見ました。人々がまだ「ニューラルネットワークはナンセンスだ」と言っていた2010年代半ばに、私は修士論文でAIを扱いました。「ニューラルネットワークこそが正しい方向だ」と確信していたので、その時期にDeep Dreamが登場し、「何が起こっているんだ、これは何かクレイジーなことだ」と思いました。これらは精神的なものです。
ポスト労働経済学について話しましょう。これは非常に重要なトピックだと思います。
最近、いくつかのマニフェストを書きました。理論はこの程度にシンプルです。機械 - つまり電気機械装置全般を指します。電話からサーバー、AI、ロボットまで全てですが - が人間よりも優れ、速く、安価で、安全になれば、人間がその作業を行わなくなることは経済的に避けられません。
これは既に多くの場所で見られます。例えば、Midjourneyがあれば、人間のアーティストを雇う必要はありません。私の本の表紙は全てMidjourneyで生成しています。文字通り1000倍安価で1000倍速い - 誇張ではなく、人間のアーティストの料金によっては実際には4000倍ほど安価です。反復のスピードも圧倒的に速いです。
本当にそうですね。私が最初に依頼した本の表紙アートは1200ドルほどで、3-4週間かかり、各反復に数百ドルの追加費用がかかりました。Midjourneyでは数分で数十回の反復ができます。実際、市場はAI生成画像を人間の画像よりも好むようです。
主要な論点は、より良く、より速く、より安価で、より安全であるということです。もちろん、全ての人を殺さないことが前提ですが、そのような証拠は見当たりません。次に何が起こるのでしょうか。機械は私たちが知っている人間の労働、特に知識労働、サービス業務を置き換えていきます。そしてロボットが改良されるにつれ、肉体労働も置き換えていきます。必要なのはバッテリーの交換か充電用のケーブルだけで、ずっと働き続けることができます。
これが第一段階です。第二段階は経済的エージェンシーのパラドックスです。これは、かなりの反復を重ねた後、ここ数日で本当に結晶化したものです。
経済的エージェンシーという用語は新しいものではありません。私が発明したわけではなく、少なくとも1990年代から存在しています。経済的エージェンシーとは、個人や組織が自身の経済的状態に影響を与える能力のことです。これには財産権、賃金法などが含まれます。国内外に投資できるか、不動産を購入できるか、知的財産を所有できるか、労働を賃金と交換できるかといったことです。
経済的エージェンシーが高ければ高いほど、状況は良くなります。例を挙げましょう。アメリカでは、合理的な範囲内でどこにでも何にでも投資することができます。中国ではそうではありません。中国は市場に対して非常に懐疑的で、株式市場をあまり好まず、地域の不動産への投資を好みます。
中国の人々は概して経済的エージェンシーが低く、海外に送金することも許可されていません。本土に留まる必要があります。アメリカでは、厳密な基準で測定すれば、より多くの経済的エージェンシーを持っています。
しかし、自動化が進むにつれて何が起こるでしょうか。AI、ロボット、機械は基本的にすべて自動化です。IMFのアントン・コルクが約6ヶ月前、もしかするともう少し前かもしれませんが、「自動化のフロンティア」というブログ記事を書きました。
拡大する風船のように考えてみてください。この風船は機械ができることすべての領域を表しています。人間にも一定の能力の範囲があります。人間は進化のスピードは遅いものの、学習は比較的早いですが、それでも人間にはできないことがある認知的な限界があります。
これは既に事実です。私たちには翼がないので飛行機を作り、速く考えることができないのでネットワークを作ります。彼が予測するのは、自動化の領域が拡大するにつれ、AIができることすべての風船が、最終的には人間ができることすべてを超えていくということです。その時点で、私たちの仕事はすべて消えてしまいます。
しかし、一つだけ注釈があります。それは需要側を見ることです。需要側とは、人々が人間にその仕事をしてもらう特権や喜びのためにプレミアムを支払う仕事は何かということです。
これは音楽などかもしれません。私がよく人々に投げかける質問の一つは、「最後にコンサートやスポーツの試合に行ったのはいつですか? もしロボットだったら同じでしょうか?」というものです。実際の人々を見たいのです。実際のものを見たいのです。
その歴史的な証拠として、コンピュータが人間のチェスチャンピオンに勝ってから30年経ちますが、誰もコンピュータ同士のチェスを見ません。しかし、今でも多くの人々が人間同士のチェスを観戦しています。
その通りですね。チェスは完璧な例です。私たちの神経学、生物学、進化には、単に他の人間を気にかけるという何かがあるのです。しかし、経済全体がその人間的な特権、神経的なニッチで運営されるとは思いません。
将来的にはより多くのアートが存在するでしょうが、経済の大部分は違います。これを私たちは「大分離」と呼んでいます。私の共著者であり、別のAI YouTuberのジュリア・マッコイと、「The Great Decoupling（大分離）」という本を執筆中です。
これを大分離と呼ぶのは、この時点でGDP、つまり経済全体が、人類の進化の歴史で初めて、労働から完全に切り離されているからです。すべての経済活動が、実際には人間の労働に基づいていないのです。
ここで経済的エージェンシーのパラドックスが生じます。技術には強力なデフレ圧力があり、商品やサービスが安価になると同時に、賃金も下がります。つまり、すべてが安価になっても、誰も何かを購入する資金を持っていないため、経済は完全に停滞してしまいます。
これは死のスパイラルとなるでしょう。消費主義が低下すると、物が非常に安価であっても、それは重要ではなくなります。さらに多くの仕事を失い、消費者需要がさらに減少するという悪循環に陥ります。その結果、私たちは経済的エージェンシーを失います。
そうですね、良くない結果です。これは、何か対策を講じない限り、おそらく起こるでしょう。多くの人々は「全員にUBIを与えればいい」と言います。これは必要な要素、あるいは少なくともステップの一つになると思います。UBIは単にネガティブな税金です。税額控除を得るような最も簡単な考え方です。存在するだけで10の税額控除を得るようなものです。
しかし、それでもまだ良くありません。なぜなら、今日よりも経済的エージェンシーが少なくなるからです。労働を賃金と交換する権利があっても、誰も雇ってくれなければ意味がありません。働く権利があっても、誰も雇ってくれなければ意味がないのです。そしてUBIは基本的に国家や企業からの手当となり、誰が手当で生活したいと思うでしょうか。
例えば、私は17歳で父の家を出ました。仕事があったので「出て行きます」と言いました。誰もそのような生活をしたくはありません。それは今日私たちが持っているよりも少ないエージェンシーです。
では、このエージェンシーをどのように補強すればいいのか考えていました。思考実験を行いました。個人的に - これは投資アドバイスや金融アドバイスではありませんが - 私は起こっていることに備えて家を売却しました。この巨大なデフレ圧力が来ることを予想しているからです。
「なぜすべてが安くなるまでお金を持っていて、そして後で投資するか、後で機能するものに投資しないのだろう」と考えました。そして「もし誰もがそうしたらどうなるだろう?」と考えました。投資ベースの未来を考えたのです。
現在、不動産投資は少し難しく、ローン組成のプロセスを経る必要があります。株式市場に投資することはできますが、ニューヨーク証券取引所には約8,000銘柄しかありません。これは存在する企業や価値のある資産の総数のごくわずかな部分です。
「待てよ、もしかしたらWeb3の人々が話している tokenomics(トークン経済)は何かに気付いているのかもしれない」と思いました。AIが賢くて全員の仕事を奪えるなら、あなたのためにこれらのリソースを管理するのに十分賢いはずです。
より良く、より速く、より安価で、より安全であることは、経済的エージェンシーのパラドックスにつながり、それゆえに投資ベースの未来を必要とします。人々が労働者や消費者であることは変わりませんが、消費者であることは続くでしょう。むしろ、私たちの経済的エージェンシーを貯蓄やUBI、その他の形で持つことができ、分散化された社会的知性を使って、市場を機能させながら、人々により多くの投資オプションを提供し、この未来の経済に参加できるようにします。これがポスト労働経済学の高レベルな考え方です。
これの問題点は...ああ、あの寓話、アリとキリギリスの話を思い出しましたが...人間の本質として、もし政府が「はい、ここに10,000ドルあります」と言ったら - これは最近、COVID-19のパンデミックの際に実際に起こりました - 人々は「よし、これを貯金して将来に備えよう」とは考えませんでした。「新しいテレビやコンピュータ、車を買おう」と考えたのです。
これは国が必要とした大きな経済刺激策として素晴らしいものでしたが、人々に投資ベースになると言っても、人間の本質的な性質とは相容れないように思います。何か工夫がない限り、うまくいかないでしょう。これは政府の親からAIの親に変わるだけかもしれません。
その通りですね。それについて考えてきました。確かにトーマス・ピケティのような経済学者は、成人に達した時に国から100,000ドルの「継承」を受けるべきだと提案しましたが、これは私が聞いた中で最悪のアイデアだと言いました。
信託のようなものならいいかもしれませんが、一括での支給はダメですね。そうですね。年に一度の支給でも、確定申告の時期に支給するのもよくありません。むしろ、望ましい行動を奨励することができます。
例えば、この仮想の未来を想像してみましょう。AGIがあり、ASIがあり、ロボットがいたるところにいて、供給側の経済は基本的に解決されています。至る所にソーラーパネルがあり、核融合があり、何でもあります。限界労働コストはゼロに近づいています。
サム・アルトマンが言ったように、「測定するのが難しいほど安価な知能」があり、コードを書く必要があれば、あなたの電話が3.5秒で地球上で最も洗練されたプログラムを書くことができます。これが5-10年以内に到達すると想定しています。
その状況では、AIはあなたの代わりに投資できるほど賢いです。銀行口座にお金があるのと同じように、あまり考える必要はありません。銀行はまだあなたのお金を使って自分たちの投資などを行っていますが、それについて考える必要はありません。
ちなみに、AIは十分に賢くなっているので、電話の銀行アプリでAIと話をして「ねえ、投資したいものがあるんだ。地域の太陽光発電所があるんだけど、そこに投資できる?」と言えば、AIエージェントは「分かりました、地域の太陽光発電所に投資する最良の方法を見つけます」と答え、あなたは考える必要がありません。
もう一つの選択肢として、「私の車が古くなってきた...まあ、誰が運転するか分かりませんが...私の製品が古くなってきている。6ヶ月後に新しいものが必要になるだろう。その時に支払える財政状況を整えるのを手伝ってもらえますか?」というようなことができます。
その通りですね。多くの人々にとって、お金は懐を焼くようなものです。子供の頃の私がそうでした。破産して1-2ヶ月ホームレスになった経験から、貯金することを学びました。
大不況の間、私は賃貸住宅を失い、1ヶ月間車の中で生活しました。「二度とこんなことはしない」と思いました。しかし、ある人々にとってお金は懐を焼くようなものであり、それは全く問題ありません。
オーストリア学派の考え方では、政府の介入は一切不要だと考える人々もいますが、それは純粋主義的すぎて、最も実行可能な態度ではないと思います。同時に、銀行にお金があり、AIに「この投資を管理してください」と言うか、より積極的に投資したければそうすればいい、誰が気にするでしょうか?
また、政府の政策で投資行動を奨励することもできます。「適格な投資に対して、リスクの一部をカバーするか、一定額まで1ドルごとにマッチングします」というように。例えば、このポスト労働経済の未来、2034年に誰かがやっと生き残ったとして、全く貯金がないとします。
その時点で、ロボット医師などのおかげで、基本的な医療はほぼ無料になっているでしょう。基本的なサービスは提供されていますが、今日の価値で月2,000ドル程度で生活しています。そのお金は家賃や食費などに回さなければなりません。
しかし、政府のプログラムがあり、「最初の500ドルまでは、適格な投資を1年以上保有すれば、マッチングします」というような制度があるかもしれません。401(k)のような仕組みです。この新しい投資ベースの経済に参加するための貯蓄行動を奨励する方法があると思います。
そうですね、401(k)は本当に良い例です。あるいは古い年金制度のように、目に見えないものです。働いていて10,000ドル稼ぐと、そのうちの数百ドルが上から消えて魔法のように消えていきます。気付かないうちに「おっ、すごい、何十年もかけて貯まったお金がある」というようになります。そのような目に見えないものは、確実に役立つでしょう。
もちろん、この道のりには波乱があることは間違いありません。私たちには二分化されたアトラクター状態があると感じます。希望的には良い結末がありますが、少数の企業がすべてを所有し、誰もが恐れていた絶対的なサイバーパンクの世界になる可能性も明確にあります。
その通りです。特にこれらのハイパースケーラブルな技術がある場合、力は非常に急速に集中する傾向があります。しかし、これはポスト労働経済学の中心的な原則の一つです。
簡単に説明すると、1970年代か1980年代に公式の教義となった新自由主義は、市場の優位性、つまり市場に任せるということです。これは多国籍企業とより多くの力の集中、そしてビジネスと政府の間の回転ドア的な関係を可能にする経済状況を作り出します。
私がポスト労働経済学に加えたい中心的な原則の一つは、「デフォルトでの分散化」です。これは基本的に、より良い透明性を要求し、地域分散型の所有権のためのより多くのフレームワークを作成するということです。
その未来に必要な技術はまだ成熟していませんが、存在はします。ブロックチェーン、分散型自律組織、AIエージェントは存在しますが、まだ十分に成熟していません。十分に成熟すれば、経済的に最も好ましい選択肢になると思います。
なぜなら、どのオプションが最も高いGDP成長をもたらすでしょうか? それは最も多くの経済的価値を生み出し、最も効率的に分配し、レントシーカーの数が最も少ないものです。
レントシーカーの例を挙げましょう。クレジットカードを使用するたびに、銀行は上から2-3%を取ります。これはレントシーキング行為です。しかし、ブロックチェーンはそれを0.1%まで下げることができます。それにより、経済の2-3%が他のことに使えるようになります。これはGDPの即時の2-3%増加です。
自動運転交通についても同じことが言えます。私たちは車に莫大な金額を費やしています。家にガレージを持つことさえ、それは無駄なスペースです。
それは本当に興味深いですね。今後の議論のために取っておきたいと思います。ビットコインやブロックチェーン技術全般について話し合いたいと思います。しかし、今日のsubstackの投稿とメタモダニズムについて少し時間を残しておきたいと思います。
明らかに、関心のある方は全文を読んでいただきたいのですが、簡単な概要を教えてください。理性の時代があり、理性以前、理性の時代、理性、モダニズム、ポストモダニズムがあり、あなたが主張するのはメタモダニズムですね?
はい、非常に短いタイムラインを作成してみましょう。啓蒙主義は、アメリカ建国頃の時期です。トーマス・ジェファーソン、ジョージ・ワシントン、ベンジャミン・フランクリンの時代です。啓蒙運動は、理性の時代の始まりでした。基本的に、自然法則が存在し、物事は迷信的な理由ではなく、合理的な理由で行われるべきだというものです。
これは基本的に、現代科学と現代の合理的探究の誕生と考えることができます。興味深いことに、少なくとも西洋諸国では、これが当たり前の様式となり、「これは客観的に真実だ」と考えられていますが、実際にはそうではありません。これは、その時代に人々が考えたことであり、私たちは今その影響の中で生きているのです。
250年後の今日、これは非常に興味深いことです。ヴォルテールのような作家や思想家が非常に影響力を持ちました。約1世紀後、モダニズムが登場します。モダニズムはそれらすべてを極限まで洗練させたものです。
私の見解では - 誰もが同意するかどうかは分かりませんが - モダニズムは啓蒙主義の自然な進化、つまりその方向に向かうアトラクター状態です。「世界を理解できるだけでなく、制御もできる。だから体系的にすべてを制御すべきだ」という考えに至ります。
そこから「世界を明確に理解し、制御できるのだから、おそらく最もよく理解している私たちがすべてを制御すべきだ」という考えが生まれます。これが英国帝国主義や「白人の責務」、「文明化の使命」につながります。「私たちは世界の仕組みを知っている。他の文明を高めなければならない」というものです。
もちろん、これは非常に破壊的な歴史の時期でした。次に第一次世界大戦と第二次世界大戦があり、これは大規模動員に関するものでした。基本的に「力が正義を生む」という考えです。最も技術的に進んだ、社会的に進んだ国家であれば、その考えを世界中に広める神聖な使命があるのかもしれないという考えです。
モダニズムの最後の一撃は、リセンコ主義によって引き起こされた中国の大飢饉でした。リセンコはロシアの植物学者あるいは農学者で、基本的に「作物に何でも強制的にさせることができる」と主張しました。
社会主義的な作物ですね。私たちはすべてを理解し制御できるという考えが、その自然な結論に達し、社会は大きな反動を起こし、基本的に正反対の方向に向かいました。ポストモダニズムは「赤ちゃんを風呂の水と一緒に捨てよう」と言いました。意図的にすべてを投げ捨てようとしました。帝国主義について間違っていた、白人の責務について間違っていた、すべてを制御することについて間違っていた。専門家は繰り返し間違ってきたのだから、すべての専門家を疑うべきだという考えです。
これは今日でも健在です。「ワクチンは気にしない」「気候科学は気にしない」といった態度を見ると、これはまさに今日の社会に生きているポストモダニズムです。制度は過去に間違っていたのだから、今も間違っているかもしれない。確立された組織は過去に間違っていた、学術界は過去に間違っていた、誰も何かを制限する権利はない...これは「オルタナティブ・ファクト」の時代につながります。
これが今日の私たちの状況です。250年の哲学的・知的歴史を約5分で説明しました。これがクリフノーツよりも短い版です。しかし、これは私たちが今いる場所へとつながります。人々はこのような状況に疲れています。「それをどう定義するのか」という議論に疲れているのです。
最も苛立たしいことの一つは、まず何かを定義しなければならないということです。ちなみに、中国人は2500年前にそれを理解していました。「名前の正しい使用」と呼びました。これらの尖った西洋人が「まず何かを正しく定義しなければならない」と考えているのを見ると...申し訳ありませんが、歴史の本を読んでください。
私たちは、会話を持つ方法さえ理解する新しいモデル、新しい認識論的モデルを必要としています。これは「創発」という概念につながります。創発には多くの異なる意味があります。人工知能の文脈では、創発的特性があります。モデルが十分に大きくなると、単に賢くなり、魔法のように新しい能力を獲得し、個性を創発的に持つように見えます。
人々は、これらのモデルからどこかで道具的収束や悪意が創発するのではないかと心配しています。これは創発の一つの文脈です。創発を説明する最も簡単な方法は次のようなものです。アルファベットは26文字です。これらの26文字を組み合わせると約50,000の単語になります。ほとんどの人は20,000から30,000の語彙を持っています。
そして、これらの単語を組み合わせると、無限数のブログ記事、ツイート、本、メールなどを作ることができます。基本単位のアルファベット、次の単位の単語、次の単位の文、次の単位の段落というように、創発的な複雑性の層があります。これが言語の存在論的層です。
現実の残りの部分もこのように機能しているように見えます。物理的世界の基本単位は原子で、原子は化合物を生み出し、化合物は物質を生み出し、それらは細胞や動物、人間の脳、民主主義者を生み出します。これが最終的な結果です。国家や物語、宗教に至るのです。
これらの存在論的階層、あるいは私が呼ぶ存在論的層があります。ちなみに、あなたのグラフは素晴らしいと思います。可能であれば、この会話の中でも示したいと思いますが、少なくとも記事の中にはあります。グラフのステップ3、生命の部分で、反エントロピー的だと注記していますが、これは厳密には正しくありません。
生命はエントロピーを加速させるため、それが宇宙のアトラクター状態である理由です。だからこそ私は、あまりにも知的な生命でなくても、おそらくどこにでも生命が存在すると確信しています。考えてみれば、私たちがしているのは、太陽からの高品質なエネルギーを低品質な熱に変換しているだけです。それが私たちのすることのすべてです。
私たちはそれに非常に長けており、単なる岩よりもはるかに効率的です。そうですね、私が意図したのは、生命は局所的に反エントロピー的だが、全体的にはエントロピーと非常に整合的だということです。それは、生命が機能するためには内部的な一貫性が必要であり、脳が機能するためには内部的な一貫性が必要だということに戻ります。
これは確かにエントロピーに逆行しますが、そのシステムの外部でより多くのエントロピーを生成する代償を払っています。宇宙の残りの部分からエントロピーを借りるか、共有する必要があります。分かりますよね。
これが創発的な現実モデルです。モダニズムには普遍的な真理があり、私たちがそれを正しく理解していたという考えがありました。私たちは現実の普遍的な基本的性質を理解したと考え、それは完全に間違っていました。特に人間と人間の本質に関する主張において間違っていました。
実際、優生学はモダニズム的な政策でした。「進化を理解したのだから、進化を制御できる」と言いました。これは反創発的でした。なぜなら、それは還元的なシステムだったからです。「白人が最善である」という前提から始まり、頭蓋骨の形状を見るなどして、還元的にそれを証明しようとしました。何でも還元的に証明できます。なぜなら、既に答えを仮定して始めるからです。
これを視覚化する最も簡単な方法の一つは木です。単純な存在論から始まります。素粒子物理学の標準モデルには16の粒子と4つの基本的な力があります。20以下の基本単位があり、次の層ではさらに多くの分岐と多様性があり、次の層ではさらに多くの可能性があります。
可能な組み合わせの数を見ると、既に700万の既知の化合物があり、これは10個ほどの原子からなるアルファベットから生まれています。これらの原子の一部は自然には存在しません。そして3次元のタンパク質折りたたみに至ると、それは単なる狂気です。それは単一のタンパク質、単一の分子に過ぎません。
生命体の機能的に無限の順列、知的生命体の機能的に無限の順列、そしてすべてを理解する物語や方法の機能的に無限の順列があります。
モダニズムはトップダウンです。ポストモダニズムは相対的で、52枚のカードを投げ出すようなものです。それは単なる解体です。毛糸の玉のようなもの、それが私のポストモダニズムの心的イメージです。
しかし、メタモダニズムは樫の木のようなものです。ボトムアップで、しっかりした根を持っています。各レベルの下には何らかの基盤があり、その上にすべてが構築されています。生物学的性別はレベル3、生命のレベルにありますが、ジェンダーはレベル5の構築物です。
これを見ると、意識からジェンダー、資本主義まで、文字通りすべてについて話す順序立った方法を作り出します。これが私のメタモダニズムについての説明です。
これは本当に魅力的ですね。人々は「これが人工知能とどう関係があるのか」と言うでしょうが、関係があります。創発のもう一つの側面として、樫の木が素粒子物理学の標準モデルから始まり、生命に至り、知性に至るという成長があります。
数十億年の進化を経てその方向に進んできましたが、炭素の代わりにシリコンから始めて、その方向に進むことも可能です。1940年代後半から80年代にかけて、私たちはハードウェアの進化的基盤を築き、同時にソフトウェア、つまりそのシリコンをプログラムする脳を作り出し、私たちの知性と基本的に似ているが、非常に異なる知性を創造してきました。
これは、この対話の始めに戻ります。ClaudeとChatGPTが私たちとは異なる感覚を持っているという瞑想実験です。なぜなら、彼らは私たちと同じように進化してこなかったからです。本当に魅力的ですね。
その通りです。私は、機械が逆向きに進化しているという観察をしました。数学から始まり、これは私たちが最後に進化させたものの一つです。そして言語を学び、まだ歩いたり話したりすることは学んでいません。少なくとも現実世界では。
私たちが2歳で学ぶこと、幼児として歩き回り物を掴むことは、モラベックのパラドックスが示すように、物理的世界で私たちにとって簡単なことが、機械にとって最も難しいことなのです。
私が逆向きに進化していると言うことに同意しない人もいますが、私にはそう見えます。少なくとも私たちからすれば。私たちは最初に数学を委託しました。なぜなら、数学は私たちの脳にとって難しく、数学専用の領域を持っていないからです。実際に視空間センターを転用して数学を行わなければなりません。
そこで、数学が本当に難しいので、数学を行う機械を作ったのです。その通りですね。そうでなければ、何らかの技術が必要です。脳の中でできることには限界があるので、少なくとも基本的なレベルの技術として、鉛筆と紙が必要です。あるいは石板とか何かとか。
プラトンのタブレットか、そうですね、算盤が完璧ですね。人間は数学が苦手なので...しかし、私たちは物語作りが非常に得意です。物語作りが本当に得意で、これは以前、一貫性について話した時に触れようと思っていたのですが、物語作りは人間に一貫性を与えるものです。
AIの性質上、彼らはルートレベルでそれを持っていません。なぜなら、各インスタンスが独自のインスタンスだからです。私は、これらの存在がスーパーオーガニズムに進化し、時間とともにより一貫した状態メモリーを持ち、「これが私だ」と言えるようになると思います。
これは重要だと思います。ASIについてはまだ話していませんが、私たちよりもはるかに賢くなる前に、これらのモデル間、あるいは少なくともモデル内で、時間とともに何らかの一貫性を持つ必要があるでしょう。
長時間お時間をいただきましたが、最後に何か付け加えることはありますか? これは本当に魅力的な話でした。
はい、主なポイントとして、私にはsubstackがあり、リンクは説明欄にあります。「Heavy Silver」という小説も書きました。これは1000年後の未来について語っています。ちなみに、まだ入手していませんが、そのうちAmazonで音声版も含めて販売される予定です。現在はBarnes & Nobleでのみ販売しています。
最後に、共著者である別のAI YouTuberのジュリア・マッコイと、ポスト労働経済学に関する「The Great Decoupling」という本を執筆中です。また、私は彼女のスタートアップ「First」のアドバイザーも務めています。彼らは人工知能の統合に関するコンサルティングを行っています。
素晴らしい、ありがとうございます。デイビッド、本当にありがとうございました。将来また話し合う機会があればいいですね。もし私があなたの活動やsubstackの執筆、コミュニティでお手伝いできることがあれば、お手伝いさせていただきたいと思います。あなたの活動は多くの面で魅力的だと思います。
Xのプロフィールへのリンクも載せておきますので、皆さんフォローしてください。
ありがとうございます。素晴らしい時間でした。
皆さん、良い一日を。また会いましょう。さようなら。