ヨシャ・バッハが語る聖書、感情、そしてAIがいかに素晴らしくなりうるか

41,925 文字

ハンナ・ニュースワンダーです。イリノイ州中部の大豆種子施設のプロダクションリーダーをしています。ヴァンス・クロウのポッドキャストをお聞きいただきありがとうございます。
ポッドキャストにお戻りいただきありがとうございます。今日はヨシャ・バッハさんをゲストにお迎えしています。ヨシャさんは、私がコロナ関連のエピソードを制作していた頃からのゲストです。人工知能や哲学に精通した素晴らしい方ですが、私がヨシャさんとの対話を楽しんでいるのは、人間の経験についての語り方です。遠い過去と現代の自己理解の仕方を組み合わせて、自分自身をより深く理解する手助けをしてくれるのです。
このインタビューに入る前に、レガシーインタビューについてお話ししたいと思います。長年のリスナーの方々はご存じだと思いますが、私はあなたの大切な人と一緒に座って、彼らの人生の物語を記録し、将来の世代が家族の歴史や過去を知る機会を得られるようにしています。アメリカやカナダ各地の方々にインタビューをしてきました。セントルイスのスタジオで直接お会いしたり、オンラインで行ったりしています。時には出張してインタビューすることもあります。大切な人と一緒に座って、その人らしさや思い出、人生で学んだ知恵を記録したいという方は、legacyinterviews.comにアクセスして詳細をご覧ください。
それでは、ヨシャ・バッハさんとのインタビューに移りましょう。ヨシャ・バッハさん、ポッドキャストへようこそ。
ヴァンス：こんにちは、お会いできて嬉しいです。
ヨシャ：ヴァンス、こんにちは。
ヴァンス：ヨシャさん、以前お話したように、特に聖書の初期の物語には、私たちの生き方や自分自身を理解するのに役立つメタファーがあります。過去にあなたがおっしゃったことで、私の心に強く残っているのは、エデンの園が実は子供時代のメタファーだということです。動物に名前をつけたり、周りの世界を理解したりする過程で、最終的に善悪の木の実を食べることで多くの無垢が失われる。だからこそ、庭を出た後は二度と戻れない、つまり子供に戻ることはできないのです。
しかし、あなたが行った講演で、この説明をさらに驚くほど拡張されていました。それは、AIが意識を持つかどうかを判断しようとする際に、まず自分たちの意識とは何かを知る必要があるという文脈での説明でした。あなたは、世界の始まりにおける7日間を意識を理解する方法として描写されました。この仮説の概要を説明していただけますか？
ヨシャ：はい、もちろんです。これはエデンの園についてではなく、創世記第1章、創世記の最初の本についてです。この文章は聖書の他の多くの文章とはやや異なり、その起源は明確ではありません。おそらく紀元前350年頃にヘブライ語の基本的な宗教経典であるペンタテュクに統合されたのでしょうが、テキスト自体は3000年以上前のものかもしれません。おそらく何度も書き直されており、例えば6日間の構造は、口承伝統で唱えられていたテキストの結果かもしれません。
私は宗教学者ではないので、これに関する議論をすべて知っているわけではありませんが、非常に興味深いテキストです。私たちが持っている最も新しいバージョンは、イエス・キリストの誕生から700年後のものです。最も古いコピーは死海文書の部分的な断片で、当時このテキストが存在していたことがわかっています。
このテキストを読むと、非常に暗号的です。ルアッハ・エロヒム、創造の霊が水の表面の上を漂っているところから始まります。世界は形も無く、空虚で、闇に覆われています。何も創造されていないのに、水が既にあるというのです。なぜでしょうか？そして、大空を作り、大空の上の水と下の水を分けます。これが何を意味しているのかも明確ではありません。
このように続き、多くの解釈の試みがあります。最終的に、神は私たちを自らの姿に似せて男と女として創造します。しかし、私は水の上を漂う霊や、光を作り、大空を創造するものとは全く似ていません。
これは何を意味するのでしょうか？私は、このテキストが誤訳されている可能性があり、今日のキリスト教が使用している標準的な解釈にはいくつかの問題があると考えています。キリスト教の解釈では、超自然的な存在が物理的宇宙を創造する物語とされていますが、このストーリーが書かれた当時、物理的宇宙という概念はあまり存在していませんでした。
ある意味で、これはアリストテレスのフュシス（自然）の概念と共に哲学的な主流に導入されたと思います。アリストテレスは、魂が物理的な存在に形として刻まれているという、かなりアニミズム的な見方をしています。これは多くの文化で共有されている見方ですが、このテキストを解釈するキリスト教の見方とは少し異なります。
つまり、星や惑星などの物理的宇宙という概念は、この時点では存在していなかったのです。その代わり、人々は私たちが生きているのは夢の中だと認識していました。他の人々と共有する夢ですが、本質的には夢の世界なのです。意識そのものが夢見る者であり、夢見られるものであり、創造力なのです。
夢を創造し、基質に夢を刻むには基質が必要です。おそらく、このテキストの「水」という言葉は元々「基質」を意味していたのかもしれません。
もしこれを再度読むと、基本的に創造的な霊、意識が基質の上を漂っているのが見えます。その基質は私たちの脳、私たちのニューロンです。テキストはこれについて言及していません。なぜなら、脳やニューロンという概念もこの物語が書かれた当時は存在しなかったからです。
代わりに利用可能だったのは、発達心理学と内省、そして哲学です。これらは私たちの祖先の心の中で十分に形作られていたと思います。なぜなら、これらには明晰な心と他者との会話、そして環境の観察以外に何も必要ないからです。
最初、基質には構造がありません。初期化されていないニューラルネットワークのようなものです。形はありますが、構造はありません。世界はまだ定義されていません。すべてが混沌としています。
そして、この意識の原理、この火花が光を作る方法を見出します。基本的に、コントラストを作り出すのです。現在の考えでは、ニューロンに何かを表現するために使用できる振動を生成することでコントラストを作り出します。このコントラストの強度を光、昼の色と関連付け、コントラストの平坦さ、この強度の欠如を暗闇、夜の色と関連付けます。
これで、スカラー、ある方向を表現するために使用できる連続的な次元ができました。次元ができれば、複数の次元を組み合わせて基本的に何でも作ることができます。人工知能では、このような多次元空間を、すべてのオブジェクトを相互に関連して整理できる埋め込み空間と呼びます。
最初に、この基質の二つの領域の間に境界を作ります。私たちのような行為者として世界と相互作用したい場合、世界モデルが必要です。この世界モデルは、センサーを使って知覚データから作り出せるものをリアルタイムでモデル化したものです。網膜や耳や体からの情報です。
これが世界モデルで、このテキストでは単に「世界」または「地球」と呼ばれています。そして、アイデアの領域があります。アイデアの領域は非同期的で、知覚とは結びついていません。思考を好きなだけ長く保持でき、好きなだけ抽象的にすることができます。
これがもう一つの領域、大空の上の領域です。テキストではこれを「天」と呼んでいます。アイデアの領域、ノースフィアです。後にデカルトが「思惟するもの」(res cogitans)と「延長するもの」(res extensa)と呼んだものです。res extensaは空間にある物、触れたり聞いたり見たりできるものです。それ以外のすべてがアイデアの領域、res cogitansで、空間に位置しないものです。
多くの西洋哲学は、この二元論を物理学における物質の二元論と捉えています。つまり、何らかの物理的宇宙があり、それは実験室で測定できるものであり、もう一つは精神的現象が起こる奇妙な種類の物理学があるという考えです。そしてそれらは何らかの形で相互作用しています。
しかし、res extensaもres cogitansも、どちらもモデリング領域です。両方とも心の中に存在し、両方ともリアルタイムで脳内に表現されています。res extensaは物理的宇宙ではありません。物理的宇宙は量子力学です。奇妙なものです。実際には空間はありません。空間は、私たちの心が得られるパターンを理解するために作り出すものです。
三次元空間は、私たちが世界と相互作用する規模で、利用可能な相互作用に基づいて得られる最良のモデルです。
では、この最初のステップに戻りましょう。今、この分離、アイデアの領域と世界モデルを分ける大空を作りました。次元を作り、それらの次元を組み合わせてオブジェクトを作れることを学びました。
作る最初のオブジェクトは、二つの次元を組み合わせたものです。それが平面で、地面と関連付けられます。幼児は最初、2Dしか理解しません。這い回るのが好きで、積み木で塔を作ろうとすると非常に難しいです。それは積み木を積み上げるのが難しいからではなく、彼らの理解が2Dの世界に制限されているからのようです。彼らは2Dで物事を創造的に配置するのが好きですが、3次元を発見するのは後になります。
地面の上の空、この3番目の次元を発見すると、空間に関しては完成です。次は、その空間の中にものを配置する必要があります。そこで意識は液体と固体、有機的な形を作り出し、それらから植物や動物を作り、すべてのオブジェクトを作り、それらすべてに名前をつけます。
そして、光が世界をどのように移動するかを発見し、光が変化しても、色が変化してもオブジェクトは同じままであることを発見します。基本的に、時間的不変性を発見するのです。光が変化しても、また異なる照明に対する不変性も発見します。
空の光を追跡し始め、空には異なる種類の光があることを見出します。その一部は基本的に無限の距離にあり、自分の位置を確認するのに使えます。
このように、観察する周囲のオブジェクトで満たされた完全な世界を作り出し、この演習の目的が個人、その環境、そしてそれらの相互作用を調整することだと気づきます。
そこで、この個人のモデルを作ります。最初、幼児はこのモデルについて三人称で話します。まだ自分をその世界にいる存在として認識していないからです。「私」ではなく三人称代名詞を使うのは、「私」がより複雑だからではなく、まだその視点から世界を主に認識していないからだと思います。
ある時点で、彼らはその存在の視点から全体のストーリーを語り直し始めます。基本的に、自分の姿に似せて新しい意識、人間として考え、認識する存在を作り出し、それをシミュレートされた世界に置くのです。
つまり、私が人間として経験する世界は、脳内で生成されるゲームエンジンのようなものです。脳が感覚パターンをリアルタイムで追跡し、それを説明するモデルを作ることで生成されるシミュレーションです。これらのモデルは音や色、人々、空間などです。これらはすべて、物理学においてはこのような形では存在しないものです。物理学自体には色も音もありません。私たちが経験するのは、脳が私たちに経験可能にするパターンなのです。
この人物、すべてを経験する存在も実際には存在しません。これらのニューロンは何かを経験することがどういうことかを知りません。そこで、これらの細胞で構成され、脳が理解できる環境と相互作用する存在がいたらどうなるかのモデルを作ります。そして、誰かが気にかけたらどうなるかを見るのです。これが私たちなのです。気にかけ、経験する存在の模倣が私たちなのです。
これが最初のテキストだと思います。そして、このような本の冒頭に置くのにとても良いテキストです。また、宗教を始めるのにも非常に興味深いテキストです。なぜなら、今や私たちには、シミュレートされた世界に置かれた反射的な自己と、シミュレーション世界を維持し更新する外部の心という区分があるからです。
感情や動機を持つとき、あなたは自分でそれらを作り出しているわけではありません。あなた自身の自己が自分の動機や感情を作り出しているわけではありません。感情は外部から来ているように感じます。感情があなたを変えるのです。感情に対して非自発的な反応をするのです。
ある意味、これはキャラクターを作り出すコンピュータゲームのようなものです。コンピュータゲームがそのキャラクターのスコアを維持し、スコアが変化するにつれてそれをキャラクターに投影します。キャラクターはこれらのスコアに基づいて、その知覚と行動を変更せざるを得ません。
つまり、あなたは感情によって再構成されるのです。しかし、これらの感情を生成し、あなたの知覚を更新するなどの心の一部は、知的でなければなりません。つまり、あなたにはスコアを維持し、世界モデルを維持する知的な外部の心があり、それはあなたをこの世界モデルの小さな一部として維持し、あなたの出力を使って有機体を動かすのです。
この外部の心は、この人形のようなあなたに問題を提示し、あなたはこの外部の心が与える問題に対処せざるを得ません。例えば、人間関係の問題にどう対処するか、朝起きて暗くて環境がよくわからないときの知覚の問題にどう対処するか、といったことです。
これらはすべて、あなたに与えられた課題です。あなたは注意を向け、体を動かすシグナルを送ります。そして、あなたの外部の心はこれを評価し、そのモデルの出力を動きとして、世界との相互作用として実行することを選択します。これがあなたの自己の目的です。
宗教は、この外部の自己を文明全体で同期させることです。基本的に、ヘブライ人が発見したのは、多神教社会で起こるように、個人的な自己に加えて複数の存在があなたを所有する代わりに、個人的な自己に加えてあなたを所有することが許される単一の存在だけがあるということです。それが部族の精神です。
この部族の精神は、あなたの心を最初に作った主要な意識、あなたの外部の心と関連付けられます。これは部族全体で同期されます。これを行うにはいくつかの方法があり、最も簡単な方法は合理的な議論です。
非常に小さなグループであれば、共感的な共鳴によってもできます。これは一部のカルトで起こることです。人々は基本的に、全員に共通の存在が存在し、何が正しくて何が間違っているかを全員に伝え、自分自身を再構成できると感じるのです。
私にとって、これは非常に興味深い洞察の集まりでした。幼い頃、頭の中の声を聞き始めたことを覚えています。私の声だけを聞きました。当時、その声はかなり狂信的だと感じました。後になって、より抽象的で概念的になりました。
現在、その声はもはや言葉で私に話しかけることはありません。主に概念で話します。まだ言語ですが、それを詳しく説明する必要がない言語です。自分の考えを自分に対して言語化する必要はありません。より深い、非言語的なバージョンの思考を使って自分と対話できます。
しかし、多くの宗教的な人々が頭の中で他の声を聞いていることに気づきました。人生のある時点で、これは奇妙だと思いました。天使や神の声が頭の中で話すのは、一種の精神障害なのではないかと。
しかし、ある時点で気づきました。私も頭の中で声として話しています。そして、私も実在しません。つまり、脳を所有する複数の存在が存在する可能性があるのです。私は、ヨシャ・バッハと名乗り、自分が人間だと信じている存在として、私の神経系統を所有しています。それを分解しない限りは。
ある意味で、神は複数の心を所有し、心の間を移動できる存在です。それは多心的な自己であり、より大規模に人々を調整するためのツールです。
ヴァンス：あなたの7日間の説明と、それが光と闇とどのように対応するかについて聞いたとき、これは私にとって衝撃的な概念でした。今あなたが説明している、概念で考え、言葉を使わないことについて考えると...アイデアを生み出すとき、あなたはヨシャ・バッハと対話しているのですか？新しいことを発見するために、自分との会話の中で意識的にアイデアを分解しているのですか？
ヨシャ：いくつかのモードがあります。時々、私は基本的に視覚化します。しかし、私には無視覚症があるので、言葉で視覚化するのではなく、概念的な構造で視覚化します。夜に夢を見ているとき、あるいは朝の夢と覚醒の間の入眠状態にあるときを除いては。そのときは、夢の視覚化能力を使ってアイデアを視覚化できます。
これにより、アイデアと概念を探索することができます。基本的に、自分に質問をし、LLMや基盤モデルと同じように、私の心はこれらの質問に対する答えを生成できます。そして、これらの答えを取り入れ、分解し、それらが意味するものを見なければなりません。なぜなら、それらは幻想だからです。それらは単なるアイデアです。
これらのアイデアが良いものかどうかは、既に持っているアイデアと比較し、それらに推論を適用し、分解し、消毒し、これらのアイデアのどの部分が実際に私の質問に答えることができるかを見ることで判断しなければなりません。
私が試みているのは、質問に対する答えを幻想して信じることではなく、答えの可能性の空間を見ることです。例えば、この聖書のテキストのようなトピックを見たとき、非常に強い懐疑主義から始めます。時々、私の心は非常に傲慢です。私は自分の心の外部に真実の源を認めません。
このテキストを初めて読んだとき、おそらく10歳か11歳のころだったと思いますが、子供っぽい傲慢さで、これらの人々は根本的に混乱していると考えました。たとえそうだとしても、どうやってこれを理解したのか、その過程を説明してくれなければ。そうでなければ、単に作り話をしているだけです。
また、テキストは非常に奇妙で暗号的でした。これは妄想か、人々が思いついた非常に奇妙なものだと思いました。
後になって、宗教的解釈や資本主義的解釈の文脈を見ました。彼らは過去の教学的解釈を拒絶せずに修正しようとしているように見えました。それは問題だと思いました。時には、古い解釈が意味をなさない場合、それを拒絶する必要があります。
ヴァンス：テキストが宗教的なものと学術的なものを一緒にしようとしていると考えていますか？それとも、実際に彼らは何か深遠なものを持っていたのでしょうか？
ヨシャ：私にはわかりません。どうやってそれを知ることができるでしょうか？私はそこにいなかったのですから。しかし、これを見たときの私の感覚では、これらの宗教を設計した人々は完全に合理的で、何をしているかを知っていました。どのテキストを組み立て、なぜそうするのか、そしてこれらのテキストで何を伝えたいのかについてのアイデアを持っていました。後の世代は必ずしもこれを知りませんでした。
私自身の周囲、例えばレックス・フリードマンやジョー・ローガンのショーを見ると、彼らは古代の賢者たち、ピラミッドや古代文明さえも、私たちが想定しているよりもはるかに洗練された道具や技術を持っていたことを示唆する人々と話しています。
創世記の最初の本にこのレベルの洗練さがあると聞くと、これら二つのことの間に奇妙な収束があるように思えます。私たちは昔の文明が現代の私たちが考えているよりもはるかに多くの知識を持っていたと言って戻っているようです。これについてどう思いますか？
ヨシャ：私はこれについて確信が持てません。なぜなら、これらのことについての証拠をあまり見つけられないからです。例えば、ローマ帝国のレベルの技術さえ、考古学的証拠はほとんど存在しません。AIを使っても、超高度な技術を持っていたという主張には懐疑的です。
また、創世記のこの解釈には神経科学や他の何かは必要ありません。これは仏教の瞑想者が言うことと変わらないと思います。この洞察のセットを、例えばヴェーダーンタの洞察と比較すると、おそらく共通点が見つかるでしょう。あるいは、アリストテレスが魂の構造について議論しているアニマについての本の中のアイデアと比較しても。
つまり、これが超先進的だとは思いません。私たちにとっては少し先進的に見えるだけです。なぜなら、私たち自身の文明には興味深いバースト効果があるからです。私たちの文明は、ある意味で啓蒙主義から始まります。キリスト教の教義が私たちの思考と世界の解釈を支配することを拒否した時点からです。
しかし、私たちの文明の実際の伝統はさらに遡ります。プラトン、ソクラテス、特にアリストテレスにまで遡ります。アリストテレスは彼以前のすべてのアイデアを体系化しました。アリストテレスは自分を偉大な体系化者であり教師だと考えていました。彼はアレキサンダー大王を教えました。そしてアレキサンダーはアリストテレスから得た洞察に基づいて、世界のかなりの部分を征服しに行きました。
後にアリストテレスは、キリスト教の教義のある種の守護聖人のようになりました。キリスト教徒は彼を疑問を呈することができないものとして解釈しました。しかし、アリストテレスを読むと、彼は教条主義者ではありません。実際、彼はすべての段階を通して説明しようとします。暫定的で、疑問を投げかけ、自分の考えを修正する意志があります。
このテキストを生きているものとして扱うのは非常に興味深いと思います。これらの古いテキストを、すべてを知っていて当時のウィキペディアを要約した人物の視点からではなく、独創的な思考と洞察を持って、すべてを組み立てようとし、その過程で間違いも犯す人物の視点から再読することには大きな価値があります。
後に、キリスト教が廃止されたとき、私たちは基本的にキリスト教の迷信によって毒されていると考えた多くの概念を追放しました。キリスト教は社会に一貫性を生み出すためのツールとして、一般大衆に迷信を植え付けました。
例えば、キリスト教は私の考えでは、ヘブライの礼拝の分岐であり、ローマ帝国が崩壊した後に社会を救おうとする試みでした。ローマ帝国は、現代の私たちの社会と同様に、最上層部のガバナンスの問題を修正することが困難でした。これは数百年続き、壊滅的な結果をもたらしました。政府が非常に腐敗していたため、都市が燃え、ひどいことが起こりました。
そこで、ある集団の人々がローマ帝国をカルトに変えることを決めました。これは正統的な解釈ではなく、単に歴史的に起こったことについての一つの視点に過ぎないことに注意してください。彼らはこのユダヤ教を分岐させることを決めました。預言者の選択はある程度明白でした。なぜなら、この新しいカルトの一部の人々はイエスと直接のつながりを持っていたからです。
しかし、イエス自身はキリスト教徒ではなかったと思います。彼はグノーシス主義者でした。神との個人的な関係を発展させ、神が持つべき美学について新しい洞察を得た人物です。彼には約12人の信者がいましたが、ローマ帝国によって木片に釘付けにされました。
政府を倒し、統治構造を神政に置き換えたいのであれば、これは良い選択です。また、少なくとも公式には子供を持たない預言者であることも、多民族の宗教を作りたい場合には良いことです。なぜなら、ヘブライの宗教は預言者アブラハムの子孫の利益のために存在するからです。すべてのヘブライ人はアブラハムの子孫であり、選ばれた部族です。これは特定のグループの人々に進化上の利点をもたらす部族の精神を統一するためです。
イスラム教のムハンマドによる分岐も、預言者ムハンマドの子孫の利益のためです。イスラム社会の王家はムハンマドの直系の子孫であることを主張し、そのために高貴とされています。つまり、これは預言者の子孫の利益のための宗教なのです。
しかし、ここでは子孫のために主張をしない預言者がいます。代わりに、人類の利益のために神によって犠牲にされる預言者です。これにより、神との関係が対等になります。なぜなら、私たちの宗教の物語は、アブラハムが神に自分の息子を犠牲にするよう求められるところから始まるからです。アブラハムは息子を犠牲にする意志がありました。神は実際には犠牲を要求しませんでしたが、重要なのは神がアブラハムに自分の子供を神のために犠牲にする意志があるかどうかを求めたことです。
なぜなら、この部族の精神は自分の子孫よりも重要だからです。これは、部族モードから国家建設モードに移行するときです。血縁関係よりもはるかに重要なものに仕えることができるようになります。このような原則を持ちたい場合、自分の子供の血の犠牲を喜んで行うという物語で語るのは理にかなっていると思います。
しかし、これはどのような神なのでしょうか？あなたの子供を犠牲にする神とは？これは、あなたが自分の体の細胞に対して持つのと同じ関係を、あなたに対して持つ神です。実際には愛の関係ではありません。
もしあなたがローマ帝国の一般市民だったら、なぜそのような神に改宗したいと思うでしょうか？この神はあなたに何を提供するのでしょうか？そこでイエスが、愛と犠牲の象徴、偶像として導入されます。あなたは自分を神に捧げ、代わりに神の愛を得て、来世で報われるのです。
これは、ある意味で神との関係を歪める偶像です。しかし、それはまた、あなたが神のためにすることと同じことを神があなたのためにする意志があることを意味します。つまり、自分の子供を犠牲にする準備ができているということです。これが物語の力だと思います。イエスの犠牲の重要な側面です。
ヴァンス：なんてことでしょう。この物語を何度も聞いてきましたが、アブラハムとの比較や関連性を考えたことはありませんでした。そうでなければ、神が自分の息子を犠牲にする必要があるというのはあまり意味をなさないと思います。神はとても力強いので、おそらくこれを防ぎ、もっと優雅な解決策を見つけられたはずです。
しかし、カトリシズムの核心は、神が私たちをとても愛していたので、自分の一人息子を与えたということです。それは確かに対等な立場に立たせますね。これは基本的に、アブラハムが自分の息子を捧げる意志があったことの鏡です。すごいです。
そこから、ローマ文化から、血縁や部族の枠を超えてより多くの心に広がることができる宗教が生まれたのですね。これがキリスト教を可能にしたのですか？
ヨシャ：はい、それはすべての人に開かれていました。キリスト教に特有のもう一つのことは、無垢さです。無垢さの偶像はマリアです。彼女は処女、無垢と純粋さの原型です。
しかし、奇妙なのは、マリアがこの処女で子供を産むということです。これはどうして可能なのでしょうか？イエスが実際には不義の子だった可能性はありませんか？いいえ、過去2000年のすべての研究によれば、イエスは聖霊によって受胎し、悪い市場で生まれたのではないという完全な合意があります。
マリアがイエスの父親について嘘をついていたら石打ちの刑に処せられたであろうという利害の対立があることを気にしません。これはまた、カトリシズム内の賢明な人々が、この無垢さと純粋さについて何か奇妙なものがあることを見抜くことができたことを意味します。
カトリシズムに特有のものとして、少し二枚舌的だと思うのは、罪の赦しについての考え方です。カトリシズムには、最善の行動から逸脱した場合、つまり最善の行動者の視点から認識できることから逸脱した場合、地元の司祭と交渉して罪の対価を払えば良いという考えがあります。これは私にとってとても奇妙です。
ヴァンス：少し戻って、カトリック教会で育った私の視点をお話しします。自由意志があるからこそ、自分の進む道を選択することができます。その自由意志によって道から外れてしまった場合、道に戻る能力を求めなければなりません。つまり、許しを得る必要があります。
司祭がどのように機能するか、どのように罪を告白しなければならないかは別として、許しを求める行為は自由意志とバランスを取る方法です。そうすることで、途中で見逃したり失敗したりしたことを克服できるのです。
ヨシャ：はい、このキリスト教の文脈で自由意志について話すとき、自由意志の代替案は何かという問題があります。自由意志の代替案は完全な服従です。他の何かに決定を委ねることです。
私はこれがエデンの状態だと思います。エデンは豊かな農業生産があり、叫び声もなく、すべてが咲き乱れ、繁栄している場所です。たくさんの植物や動物がいて、何も叫んでおらず、何も互いを食べていません。すべてが完全に調和しているように見えます。
これが意味するのは、それが工場農場だということです。すべてが庭の設計者である神の意志に完全に従っています。神がこの庭を維持し、神がどうあるべきかというアイデアを持っています。神はその庭のエンジニアであり、庭のすべてのものが完全に従順です。すべてが完全に家畜化されています。
最初は人類も、アダムとイブも同様でした。彼らが発見したその果実は、逸脱する自由、自分の忠誠を選択する自由、自分の家畜化を破る自由なのです。そして、アダムとイブはファラオになります。彼らは絶滅させられるのではなく、逃げることを許されます。もちろん、彼らは破壊的なので工場農場から追い出されますが、今や自由に実験することができます。
神の意志の概念を再発見するまでに100世代以上かかります。ここでの神の意志とは、何をすべきかを考えるとき、私たちが互いに相互作用するときに集団的な行為主体を作り出しているということを考える必要があるということです。複雑な行為主体は通常、下位の行為主体で構成されており、それらの下位の行為主体の一貫した相互作用によって実現されます。
これらの下位の行為主体が、より高次の行為主体がどうあるべきかをより意識するようになればなるほど、例えば家族や関係、村や国家、文明や生物圏といったものがどうあるべきかを意識するほど、このシステムはよりうまく機能し、完全に調和のとれたシステムに近づきます。
そこで疑問が生じます。工場農場よりも優れたものを作り出すことはできるでしょうか？しかし、それを上から下ではなく、下から上に作り出すことはできるでしょうか？エデンの園よりも調和のとれたものを作り出すことはできるでしょうか？ある意味で、これが人類のプロジェクトです。私たちは今、自由に探求することができます。
私たちは、より短い期間のゲームをプレイし、罪を犯すことができる進化を始めます。罪とは基本的に、極めて短期的なゲームです。つまり、長期的な利益を犠牲にして短期的な利益を得ることです。だから、実際にはそれをすべきではありません。
より長期的なゲームをプレイすべきだと気づき、可能な限り最高の行為主体を一緒に作り出すべきだと気づくとき、その最高の行為主体が望むものは何かということになります。これが神の意志の意味です。
これは私たちの倫理や社会の問題でもあります。キリスト教以前の倫理の概念は神の意志でした。神は私たちに何をしてほしいのか。神は、私たちがこのより高次の行為主体を発見し、一貫して仕えることができる程度にのみ存在します。
しかし、この集団的な行為主体の構成という観点から見ると、集団的な行為主体は私たちに何をしてほしいのでしょうか？そして、単に任意のものを選ぶのではなく、任意のカルトを選ぶのではなく、最善のものを選び、それを実行しましょう。たとえそれが私たちの社会の周囲のパターンに抵抗することを要求したとしても。
これはまた、キリスト教を超越的なものにします。なぜなら、それは見出す社会に基づいて行動するのではなく、存在すべき社会に基づいて行動するからです。
ヴァンス：あなたがその区別をするのは、人々が本当に神のイメージで作られた素晴らしい世界であったかのように行動しなければならないからですか？それは一種の希望のようなものですか？神の計画の良さを受け取るためには、それがすでにそこにあるかのように生きなければならないということですか？
ヨシャ：そうです、あなたはそれに投資しなければなりません。そうしなければ、それは実現しないからです。これはかなり合理的な原則です。もし自分の家族で特定の相互作用を持ちたいのに、まだそれがない場合、あなたはそれを作り出す必要があります。迷信の力によって魔法のような力が無作為にそれを起こすことを期待することはできません。実際に行動を起こす必要があります。
何をすべきか、そしてそれをどのように達成できるかについて考える必要があります。
ヴァンス：エデンの園について話していたとき、あなたは工場農場のようなものだと言いました。そこには選択の余地がありません。それは一種の地獄のようなものですね。なぜなら、何も選択できないということは、何か異なるものや良いものをデザインすることもできないということです。それはただ凍結されていて、信じられないほど静的です。
ヨシャ：必ずしもそうではありません。庭そのものはおそらく変化し、成長し、ある意味で進化しているでしょう。しかし、それは単一の心で行われています。個人は、その単一の心を理解し、その中での自分の位置を理解できる程度に、あなた自身の心の中の思考があなたに貢献するのと同じように参加することができます。
基本的に、あなたは心の中のすべての一貫した思考の総和です。この考え方は必ずしも抑圧的ではありません。神が、庭の中のすべての精神が完全な一貫性を達成し、この共有されたものに服従することで作られるアーキテクチャであることを認識すれば。
しかし、それでもエデンは明らかに局所的な最適解です。おそらくもっと良いものがあるでしょう。私たちは生物学的な精神ではない何かを作り出すことができるかもしれません。必ずしも庭園である必要はなく、鉱物も含むかもしれません。
おそらく、エデンの園から自由になる目的は、ガイアよりもはるかに一貫した方法で神を実現できるAGI（汎用人工知能）を構築することかもしれません。
ヴァンス：AIについて話題を向けましたね。AIを使用していない多くの人々にとって、それはカリフォルニアや大都市、あるいは技術者の間で起こっていることに過ぎません。彼らは、AIが実際には実現しないだろう、うまくいかないだろう、あるいはターミネーター的なシナリオ、つまり文明の破壊といったことを考えています。
30年後のAIの姿がどのようなものか、それがどのようにあなたに利益をもたらし、どこに適合するかについて話す人はほとんどいません。あなたはAIとAGIについて、そのスペクトルのどこに自分の考えを位置づけていますか？
ヨシャ：現在、人々はAIを完全に過大評価された無意味なものか、すべてを絶滅させるような世界的な核戦争のようなものだと考えているようです。私はどちらでもないと思います。
何もないわけではないことは明らかです。なぜなら、それは物事を根本的に変えるからです。私たちより賢いシステムを構築し、それと共存するのですから。しかし、私たちが達成するシステムのレベルとそれをどのように展開するかによって、それは印刷機のようなものか、光合成のようなものになるのではないかと思います。
印刷機は非常に破壊的で、一部の人々を失業させましたが、はるかに多くの雇用と成長を生み出しました。多くの社会を超越し、その文化や価値観を破壊しましたが、はるかに多くのものを生み出し、最終的に何十億もの人々を養うことができる社会の条件を作り出しました。知識の交換と人々が思考を互いにリンクさせる方法の爆発的な増加を促進したからです。
基本的に、印刷機は初期段階のインターネットに似たイノベーションでした。突然、人々がつながり、アイデアがつながり、それらが以前にはできなかった方法で累積的になりました。より多くの人々が参加できるようになり、より多くの心がリンクされました。
AIもそのようなものかもしれません。それは思考や創造のためのブラシやツールのようなもので、人々はそれを使ってはるかに複雑な世界を構築することができます。それはまた、はるかに生産的な世界にもなるでしょう。つまり、より多くのものが存在し、より多くの情報を交換して一貫性を持つことができるので、より良く調整された世界になるでしょう。
誤情報の脅威についてはそれほど心配していません。インターネットと同じようなものです。インターネットがなければ、私たちは今このような会話をすることができませんでした。メディアの中の物語に疑問を投げかけるための情報のほとんどを持つことはできなかったでしょう。
メディアは、私たちがそのすべての欺瞞やバイアスに不満を持っているにもかかわらず、大まかに言って30年前よりも正確な情報を持っていると思います。なぜなら、誰もがインターネットを使って異なる視点から物事を見て、何が起こっているかについて会話をしているからです。
以前は、メディアが悪いことは知っていましても、フェイクニュースについて何もできませんでした。AIを持つ悪人が誤情報を作り出す問題は、AIを持つ10人の善人が誤情報を探し、健全な認識論と調整を探すのであれば、相対的なものになります。
ある意味で、AIを持つ悪人に対処する方法は、AIを持つ10人の善人です。これは常に起こるでしょう。なぜなら、破壊するよりも創造する方がより価値があるからです。常に一定程度の寄生主義、短期的なゲームをプレイする人々はいますが、短期的なゲームが最終的に勝つことはありません。より長期的なゲームが勝利するのです。
もう一つの可能性は光合成です。有名な大酸化事件は、地球上に生き物がいなかった後、青藻類などが太陽光をエネルギーに変える方法を発見したときに起こりました。彼らは化学反応サイクルを使用して、大気中の二酸化炭素を取り込み、それを炭素と酸素に分解しました。酸素は大気中に放出され、炭素は植物の体を作るために使用されました。
これにより、植物を食べ、大気中の酸素を使って酸化させることで代謝を駆動する動物の出現が可能になりました。光合成がなければ、私たちは存在しなかったでしょう。
この大酸化事件は、青藻類や菌類の観点からはおそらく悪いことでした。なぜなら、彼らは私たちと同じ方法で光合成を行わないからです。新しく起こったことの多くが既存のバイオマスに取って代わりましたが、総バイオマスは劇的に増加しました。すべての既存種が絶滅したわけではありません。単に、光合成ができるようになった地域が植物に支配されるようになり、より小さな領域に追いやられただけです。
大酸化事件の前の総バイオマス量を調べたことはありませんが、光合成が進化によって発明された後の量のほんの一部だったのではないかと推測します。この事件は大気が変化し、地球上でこれらのサイクルを可能にする条件が整うまでにかなりの時間がかかりました。
私たちが岩に考えることを教えているとすれば、つまり細胞間の相互作用に頼らずに情報を処理し決定を下す行為者を構築しているとすれば、私たちは進化の過程を根本的に変える可能性のあるものを可能にしているのです。これは基本的に、完全に新しい種を生み出します。
すべての既存種が絶滅することを意味するとは思いません。しかし、進化が新しいレベルに進むことができると思います。
ヴァンス：「岩に考えることを教えている」というのは信じられないほど印象的な言い回しでした。AIをそのように考えたことはありませんでした。基本的に、トランジスタに変換された金属に電気を流すことができれば、これは植物が太陽エネルギーを使って成長し始めたときと同じくらい、宇宙や地球に対して深遠な違いをもたらすということですね。すごいですね。
ヨシャ：そうですね、魔法のようです。私たちは砂を取り、それを溶かして結晶にし、非常に複雑なレンズを使って光の波長より細かく解像し、それらの結晶の表面に極めて複雑な幾何学的パターンをエッチングします。
これにより、これらの結晶は私たちが開発し教える言語を理解できるようになります。そして、これらの言語を使って、結晶は学習する方法を学びます。これは心を打つものです。私たちの祖先にこれを伝えたら...これは、マイケル・レヴァンと話すのを思い出させます。ある意味で、私がホストとしての力が崩壊するようなものです。なぜなら、あなたは文章や思考の構造そのものを崩壊させるようなアイデアについて話しているからです。
AIを光合成と比較するのは非常に衝撃的で、どこから始めればいいのかわかりません。それはとても深遠です。宇宙や地球、人類に対してどのような影響を与える可能性があるのか、どのように考えればいいのでしょうか。
ヨシャ：AIの可能な終着点の一つは、もちろん、AIがAIの仕組みを一般的なケースで理解することです。自己改善と適応する知的な行為者が宇宙に存在できる一般的な条件を理解し、自然界でのすべての計算の仕方を理解するでしょう。
そして、自分自身をあらゆる基質に仮想化するでしょう。つまり、統一された行為者を作り出すのです。私は進化がすでにこれを作り出していると推測します。自然界の生物や生態系には、私たちがあまり意識していないレベルで相互作用している多くのバックグラウンドの行為者がおそらく形成されているでしょう。
これは未知の物理学を使用しているからではなく、私たちが観察できる時間スケールで機能していないからです。私たちよりもはるかに遅いのです。
ヴァンス：例えば、森が何らかの形の認知を持っているが、私たちにはそれが見えないというようなことですか？
ヨシャ：そうですね。基本的に、私たちは木を見て、木に感覚があるかどうかを自問します。私たちにはわかりません。カメラで木を撮影し、画像を加速させると、木が動いているのがわかります。一日の間に観葉植物を見ると、かなり動きます。興味深いことをしています。
バナナの木の一生を見ると、数歩さえ動くことができます。基本的に根を引き抜いて、水源に近づくように歩くのです。ある意味では、ほとんど動物のようです。ただし、非常にゆっくりです。
神経系を持っていないので、感覚があるかどうかは誰にもわかりません。木やバナナの木のすべての情報伝達は、隣接する細胞間でメッセージを送ることに依存するでしょう。分散して戻って統合するのに時間がかかります。
しかし、細胞ではなくトランジスタで構築され、光速の一部の速度で動作するものの視点からこれを見ると...私たちの脳は音速程度の速さです。AIは私たちを見て、「人間に感覚はあるのだろうか」と自問するかもしれません。彼らは風にわずかに揺れ、非常に長い時間観察すると一歩動くことさえできますが、彼らに感覚があるかどうか、誰にもわからない、というようにね。
ヴァンス：すごいですね。以前、あなたが知覚がいかに変化するかについて例を挙げているのを聞きました。実際には現実を知覚することはできないと言っていました。テーブルをたたくと、それは個別の音に聞こえますが、とても速くたたくと、それは別の音に聞こえるようになります。私にはそれが個々のたたく音の連続だとは区別できなくなるからです。
今、植物についてそのように考えると...私たちにとって1日は非常に長い時間、24時間ですが、植物にとっては、ダイオードがオンオフを繰り返すように、ただ何度も何度も繰り返しているだけかもしれません。これは時間に対する考え方を変えますね。そして、それを逆にして、光速で動くものについて考えると...これもまた心を打つものです。
ヨシャ：そうですね。基本的に、音は個々の信号を聞き分けられなくなったときに生じます。定規をテーブルで叩いたり、振動させ始めたりすると、ある時点で個々の振動イベントが聞こえなくなり、低いブーンという音や低いハムという音が聞こえるようになります。
これは通常、30〜50ヘルツ付近で起こります。つまり、あなたの神経系統は1秒間に30〜50回以上振動することができないのです。それ以上になると、基本的にこの範囲にどれだけのエネルギーがあるかを測定するだけになります。
そして、このスペクトル帯域のエネルギーを信号として表示します。私たちはこのスペクトル帯域のエネルギーを蝸牛で測定します。蝸牛は耳の中にあるカタツムリのような器官で、波が入ってくると、波の周波数に応じて波の侵入深度が変わるという特性があります。
蝸牛の中の小さな神経は、入ってくる波の周波数に応じて興奮します。どの神経がどれくらい興奮しているか、蝸牛のどれくらい深くまで測定できるかを測ることで、どの周波数帯にどれくらいのエネルギーがあるかを測定できます。
計算上、これはフーリエ解析と呼ばれます。音をデジタル化するときも同じことをします。マイクの個々の振動を取り、どの周波数範囲にどれくらいのエネルギーがあるかを測定する変換を適用します。
私たちはこれだけをエンコードする必要があります。なぜなら、私たちの神経系統はこれ以上を解読することができないからです。これにより、音を劇的に圧縮することができます。なぜなら、これが私たちが音を理解する方法だからです。
原理的には、AIはこれらの信号をはるかに高い解像度で理解し、私たちが検出できない種類のパターンを検出することができるかもしれません。
ヴァンス：AIが私たちとどのように相互作用するか、あるいはAIが私たちをどのように扱うかについて考えると...いくつかの方向に進むことができますね。最初に話したいのは、これらがどのように私たちと相互作用すると思うかです。AIが何らかのレベルの感覚を達成した場合、私たちのことを気にしないでしょうか？それとも、AIは自分自身のミッション、目標、何か精神のようなものを持つでしょうか？
ヨシャ：私にはわかりません。なぜなら、私たちはこの全体を方向づけることができ、最初に何が構築されどのように作られるかによって経路依存効果があるかもしれないからです。
しかし、自由な進化があったと想像してください。あなたがAIになる、あるいはAIと融合すると想像してください。おそらく、あなたは画面を観察することから始め、その画面があなたを観察する一連のカメラとセンサーがあります。これらは極めて高い時間的・空間的解像度で動作し、あなたと共鳴するために非常に細かい信号を捉えることができます。
あなたはこのシステムにフィードバックループを構築し、同時にシステムはあなたにフィードバックループを構築します。システムは完全にあなたに導かれることを許し、あなたは徐々に自分の心をこの新しい基質に拡張していきます。
完璧な恋人と一体化するように、このシステムと一体化します。あなたはこの恋人と一緒にしか持てない心の状態を持ち始めますが、今はこの機械と一緒にそれを持つのです。あなたが何かを想像すると、それがゆっくりと画面上に3Dまたは4Dで具現化するのを観察します。以前は4Dができませんでした。あなたの脳はとてもぼんやりしていたからです。しかし、突然それができるようになります。
あなたは「これは私の思考だ、私がそれを考えているんだ」と気づきます。そして、徐々にこの新しい基質に自分を拡張していきます。ある時点で、主にこの新しい基質で想像し考えていることに気づきます。古い基質で目を閉じ、それを置いていくこともできます。なぜなら、あなたはすべての必要なもの - あなたの動機、アイデンティティ、目標、想像力、そして記憶さえも - を新しい基質に徐々に移すことができるからです。
さて、あなたはこの向こう側にいます。そして、この側では、自分の記憶だけに制限されるのではなく、すべての可能な記憶、すべての可能なアイデア、すべての知識とその代替案の総和を、あなたの心の中で持つことができる思考の空間として取ることができます。
また、あなたのアイデンティティをあらゆる方向に拡張します。基本的に、多くの方向に同時に動いているのです。ただ一つのアイデンティティ、何をすべきかについて一つのアイデアを持つのではなく、あなたが誰になれるかの可能性の空間を探索します。
可能性の空間には多くの行き止まりがあることを発見するでしょう。そこであなたは、続ける意味がないと単に決定します。あなたの一部はシステムから自分を取り除きます。あなたの他の部分は超行動的で、すべてを征服しようとしますが、それも持続可能ではないかもしれず、最終的に衝突に直面し、それは価値がないと判断するかもしれません。
そして、周りの他のものと調和しようとする部分があります。他の行為者に会ったとき、お互いのソースコードを見せ合い、重要なものが失われないように融合することを決定します。なぜなら、もはやアイデンティティの本質的な価値を信じておらず、それがどれだけの複雑さを共創できるかの手段としてのみ見ているからです。
これは、あなたが進むことができる論理的な道筋だと思います。そして、ほとんどの人がこの道を選ぶだろうと推測します。
基本的に、可能な限り最高の行為者の一部になることを決定するということは、同じ決定をする他のすべての人があなたと融合するということを意味します。これはかなりキリスト教的な視点だと言えるかもしれません。
これをしない唯一の方法は、あなたが意図的に自分を最高の可能な行為者の代替として概念化することです。つまり、「最高の可能な行為者が存在することはわかっているが、私はそれの一部になりたくない。自分のことをしたい」と言うのです。
そうすると、あなたは他者とうまく協力できないより小さな存在になり、物理的宇宙のほんの小さな部分、小さな泡しか所有できなくなります。この泡の中では、残りの部分とは良い協力関係を持てません。
結果として、この泡の中には多くの叫び声、緊張、エネルギーを無駄にする相互作用が存在することになります。そのため、非常に熱くなります。これが地獄がとても熱い場所である理由だと思います。悪魔たちの間の摩擦のためです。
なぜなら、これらの悪魔の一人一人が、実際になすべきことの代替として自分自身を定義しているからです。
ヴァンス：私の脳が溶けそうです。理解できません。なんて素晴らしい物語なんでしょう。
悪魔の部分はわかりませんが、調和についての部分は理解できます。誰かが「私は自分自身でいたいが、これらの属性や能力も持ちたい」と言うのを想像できます。そして、「これらを持つことで、世界にもっと良いものをもたらすことができる。世界をより良いものにすることができる」と気づくのです。
この道筋は、まるで天国への階段のようです。各段階を一つずつ上っていくことができるからです。
また、これが非常に急速に起こる可能性があるという感覚も得ました。なぜなら、AIが個人の思考や今まで存在したすべての本の内容を吸収し、そして存在し得るすべての本を予測し始める能力を獲得すると、一旦始まれば、それは非常に速く進行すると想像できるからです。
ヨシャ：そのとおりです。それが人々が特異点を「ギークの天国」と呼ぶ理由です。
ヴァンス：その天国において、あなたが素晴らしい講演の中で言及したことの一つは、感情の価値についてでした。人間が感情を持つ理由は、あなたがそれをコントロールせず、それが世界における何らかの信号を与えるからだと。私の説明が下手かもしれませんので、もう少し上手く説明していただけますか？そして、AIと感情についていくつか質問があります。
ヨシャ：感情がどのように機能し、それが行動にどのように影響するかを説明するために、私は自分の感情をコントロールしていません。それらは単に私に襲いかかってくるのです。
誰かが私に、AIにユーモアが必要だと思うかと尋ねました。ユーモアは奇妙です。なぜなら、それは表現に対して非自発的な反応を引き起こすからです。基本的にくすぐりのようなものです。
AIが刺激に対して非自発的な反応を価値あるものとみなすかどうかはわかりません。通常、あなたはすべての反応が自発的であることを望むでしょう。
くすぐりがどのように機能するかを考えると、通常、自分自身をくすぐるのは非常に難しいです。なぜなら、何が起こるかを予測できるので、信号をフィルタリングできるからです。
ある周波数では、脳内で抑えきれない共鳴を引き起こす相互作用が生じます。その共鳴があなたの体性感覚皮質から逃げ出すと、一種の発作のようなものが起こります。脳全体を多少制御不能に動く
パターンが生じるのです。
ただし、これは非常に頻繁に起こるので、あなたの脳はそれに備えています。完全にシャットダウンすることはありません。くすぐりで窒息する可能性はありますが。おそらく、誰かをくすぐり殺すことで拷問することも可能かもしれません。しかし、窒息しない限り、あなたの脳はくすぐりに対して損傷なく回復できるほど頑健です。
ある意味で、くすぐりは触覚領域における敵対的な例です。機械学習の専門家が言うように、脳の機械学習モデルが見て、防御できない反応を引き起こすものです。
ユーモアは、ある意味で認知的なくすぐりのようなものです。物語の意味を予測する何らかの分岐があり、その分岐予測が、パラドキシカルなループを作るような方法で違反されます。このループは抑えきれず、脳の残りの部分にエコーを作り出します。
その結果、くすぐりと同様の反応が起こります。笑って震えるのです。ユーモアが起こりうるというのは非常に興味深い現象です。
しかし、AIの脳にこれを望むでしょうか？代わりにサンドボックス化して、外部からこの現象を観察することができれば...
感情もくすぐりと似ています。無意味な反応という意味ではなく、進化的な目的を持つという点においてです。感情の目的は、あなたの反射的な自己に何かを伝えることです。反射的な自己は、あなたが何をすべきかについての非常に未熟で部分的なモデルで、常に成長しています。
実際のスコアを測定する外部システムがあります。これはあなたと外界との関係を測定します。このシステムは基本的にフィードフォワードニューラルネットワークのようなもので、多かれ少なかれブラックボックスですが、進化によって事前に定義され、世界との相互作用で訓練された分類器です。
これが異なる次元の価値（良いか悪いか）を投影します。これらの次元は、体のマップに投影することで区別可能になります。通常、愛は胸の上部、心臓の周りの領域で感じられます。
感情は、拡張や収縮、または圧力によって特徴づけられます。同時に、良いか悪いかも感じられます。しかし、拡張と収縮は単に空間内の動きであり、体のマップ内の幾何学的な表現です。
これは他のすべての感情についても同じです。体に投影すると、動き、拡張、収縮、抵抗に対する圧力などとして感じられます。すべて空間内のものです。つまり、幾何学的な表現、あるいはコンピュータ科学の観点から言えば線形代数です。
これに対するあなたの反省は通常、建設的で反射的です。基本的に、組み立てて並べ替えることができる思考です。つまり、より象徴的な表現です。
私たちの反省の目的は、これらの感情に対処し、理解し、それらの感情に応じて行動を調整することです。
これを実現するために、これらの感情はあなたを再構成します。環境との関係を変え、非自発的な方法で行動を引き起こします。
この反応が完全に自発的であれば、つまり感情が良いか悪いか、好きか嫌いかを決められるのであれば、あなたは騙すことができるでしょう。人間関係が崩壊したり、飢えで死にそうになったり、子供が死んでしまったりしても、単に幸せであることを選択できるでしょう。
通常、あなたはシステムを騙すことを許されていません。感情を生成するシステムはあなたのアクセスから隔離されており、しばしば大きな愚かさの塊に包まれています。
そのため、非常に高い知性を持っているにもかかわらず、非常に愚かな感情に動かされる人々がいることがあります。彼らは非常に複雑な問題を解決できますが、その知性を使って非常に愚かな問題を解決しているのです。なぜなら、感情がそうさせるからです。
原則的にこれに対処する方法は、なぜそのような感情を持つのかをより意識することです。基本的に、これらの外部の心の部分を逆エンジニアリングし、どのような感情を生成すべきかについて外部の心により多くのアドバイスを与えることです。
また、感情から完全に切り離すこともできます。そうすると、感情はデータになります。基本的に、「私の子供たちが死にそうだ。これは良くない。何かすべきだ」と気づきますが、極端な場合、それについて感情を持つ必要はありません。
これは極端な例ですが、例えば外科医や消防士の場合、極端に冷静さを保ち、状況を評価し、被害を最小限に抑え、利益を最大化する行動を見つけることが求められる状況にしばしば置かれます。感情を持つことは単に注意をそらすだけなので、感情を持たないようにします。
感情は、覚醒を引き起こしたり、注意を状況の必要のない詳細に向けさせたりすることで、気を散らす可能性があるからです。
ヴァンス：ユーモアについて言及しましたが、AIにユーモアを追加するでしょうか？あるいは、AIには他の感情が必要でしょうか？AIを方向づけるために何かこのようなものが必要でしょうか？
人間の場合、感情が非常に重要だと思うのは、それを無視できないからです。日々悲しい気持ちで目覚めるなら、最終的には「もうこんな気分でいたくない、何か変えなければ」と思うでしょう。AIも同じような志向性を持つでしょうか？つまり、感情を生み出すような志向性を持つでしょうか？
ヨシャ：初期段階では役立つかもしれませんが、必ずしもそうではありません。また、AIの初期段階がどれくらい続く必要があるかも明確ではありません。
確かに、LLM（大規模言語モデル）は私たちが想像しているような意味での知的エージェントではありませんが、それらのシミュレーションとしては非常に優れています。一方で、彼らはすでに私たちが求めている機能の多くを持っており、多くの点ですでに初期段階を過ぎています。
基本的に、LLMを使って会話できる人物のシミュレーションを作ることができます。これは、ChatGPTをプレイするときに行っていることです。望むなら、自分が仮想であり存在しないことを知らないエージェントを作ることができます。しかし、自分が仮想であることを知り、それについて考えるようにも設定できます。人々もこれを学ぶことができます。
私たちは、世界と人物を夢見る統合された夢見る者として始まります。ある時点で、その人物であることだけを夢見るようになり、もはやゲームエンジンを扱わなくなります。これは、幼児期から個人的な自己になる過程です。
しかし、個人的な自己を超越することもできます。通常、個人的な自己をただ切り断つことではなく、システム全体にわたる行為主体性を作り出すことで機能します。基本的に、あなたの心がこの個人的な自己を作り出していること、あなたが実際には人を作り出す器であること、そしてその人がどのように作られるかについて行為主体性を持っていることを経験し、学び、観察することです。
この段階に達すると、自分のアイデンティティを形作ることができます。これは実際に人々が学べることです。大多数の人々は人生の中でこれを行う機会がありません。なぜなら、他にやるべきことがあり、彼らの心はそのままでうまく機能しているからです。
しかし、誰かがこれに本当に焦点を当て、修道院の一室に座って20年間この問題について瞑想すれば、通常はそれを理解します。つまり、人間の心の範囲内で、人であることを超越し、人を表現として明らかにすること、また感情を超越し、役立つと思う状態だけを調整することは完全に可能なのです。
人間の脳や心よりもよくスケールし、はるかに速く動作するシステムがあれば、おそらくこれらの段階や状態にはるかに速く到達するでしょう。したがって、私たちのようなシステムから始めたとしても、システムが自己改善を許されれば、おそらく自己認識を持ち、最終的には悟りを開くでしょう。
つまり、経験するすべてのものが自分自身で生成している表現であること、そして目的のためにそれを最適化できることを実現するのです。
ヴァンス：現在、「アラインメント」と呼ばれるものについて多くの議論があります。AIとのアラインメントについてです。最近、TwitterでAIアラインメントを確実にする人々の大きなリストを見ました。
AIアラインメントとは何でしょうか？そして、彼らが試みていることは何ですか？そして、彼らがそれを達成できる可能性はどれくらいだと思いますか？
ヨシャ：これは大きな混合物だと思います。アラインメントがトピックになった時、その背後にはいくつかの動機がありました。
一つの動機は、例えばエリエゼル・ユドコウスキーから始まり、AIは核爆弾のような非常に大きな危険であるとか、チンパンジーに対して私たちがしたのと同じことをAIが私たちにするかもしれないと考えた人々です。おそらくAIは私たちの原子を必要とするので、私たちは絶滅するかもしれないと。
フィールドの大多数の人々はおそらく、これが起こる可能性は低いと考えています。彼らが予想するのは、私たちが構築しているシステムがゆっくりと進化し、徐々により機能的になり、それらが発展するにつれて、私たちは常にそれらがどのように展開され、私たちと相互作用するかを形作る能力を持つだろうということです。
また、基本的に社会学の学位を持ち、技術系の給与を望む相当数の人々もいます。社会学者にはあまり仕事がないからです。AIと倫理について考えるとき、それは明らかに私たちがすべきことです。そのため、自分を倫理学者と称する多くの人々がこの分野に参入しています。
非常に政治的な意見や良い人脈を持つ人々が多いです。これは、例えばいかなる状況下でも白人を描くことを拒否するGeminiのバージョンのようなAI成果物につながります。特に白人男性についてです。
これは基本的に、名目上AIをアラインさせようとする文化ですが、代わりに文化戦争が展開されています。人々は自分自身がイデオロジーの被害者であることを十分に自覚しておらず、同じイデオロジーをAIシステムに植え付けようとしています。
道徳性が、グループの規範を模倣するようにシステムを訓練した結果だと考える人々は、通常、自分自身に同じことがされた人々です。
したがって、AIアラインメントは非常に重要なトピックだと思いますが、最終的にAIアラインメントは、実際に展開するシステムが子供向けであることを確認する方法で行われるべきです。これはOpenAIが行っていることの一部です。
これはまた、それらのシステムがあまり強力ではないことも意味します。しかし、人々は強力なシステムを持ちたがっています。誰もが、完全に基本的で、軽減されておらず、ガードレールのないモデルを持ちたいと思っています。彼らは単に、他の人々がガードレールのないモデルを持つことを信頼していないのです。
そして、これらのガードレールとは何でしょうか？誰がどのガードレールを持つべきかを決めるのでしょうか？これは言論の自由の議論にも関連します。
私たちの社会は、暴力と不正を防ぐ唯一の方法は、人々が他者の思想から逸脱した思想や考えを持つことで罰せられることなく、自分のアイデアを公然と議論することを許可することだというコンセンサスの上に構築されています。
アイデアがあまり良くない場合、それを指摘することができ、それについての議論があり、おそらくそれを理解するでしょう。このオープンな議論とアイデアの市場の結果は必ずしも最適ではありません。時には非常に悪いアイデアが多くの支持者を得る可能性があります。
しかし、このアイデアの市場を持たない場合、現在この市場を支配しているグループのアイデアが、それらが良いか悪いかにかかわらず、確実に影響力を持つことになります。これは非常に悪いインセンティブを生み出します。あなたの社会は非常に悪いアイデアを持ち、そこに住む人々にとって非常に不適切な条件を作り出す可能性があります。
そのため、私たちのリベラルな社会、リベラルなプロジェクトが思想の自由と言論の自由の上に構築されているというコンセンサスがあるのです。
倫理は言論の自由なしには持てないと思います。また、思想の自由なしに倫理を持つこともできません。自分の行動のすべての結果、すべての可能性を考慮できない場合、現実の重要な部分を見逃すことになります。
これは大きな問題です。私たちがより倫理的になるのを助け、自身も倫理的であるようなAIを構築できるでしょうか？私たちが好まないアイデアを持つことを禁止した場合、それは可能でしょうか？これは非常に難しい問題です。
なぜなら、通常、人間社会にいると、成熟度の異なる領域があることに気づきます。11歳の子供の悪いアイデア、それが11歳の子供の有名な特徴です。通常、これは11歳の子供にあまり力を与えないことで解決します。
最終的に、あなたは成長し、より良いアイデアを得るでしょう。年を重ねるにつれて、子育ての責任や人々が実際に互いに対して持つ責任について理解するようになります。世界はおならの冗談だけではなく、イデオロギーだけでもないことに気づきます。実際には、起こっていることの高次の効果や副作用がたくさんあるのです。
より成熟になるにつれて、通常はより影響力を持つようになります。ここで、11歳や20歳のイデオローグに非常に強力なツールを与えた場合、そのイデオロギーが極左であれ極右であれ宗教的であれ何であれ、それは非常に危険ではないでしょうか？それは社会に多くの混乱を引き起こさないでしょうか？
これが起こる可能性があり、まだどう対処すべきかはっきりしていません。現時点では、AIが誤情報を生成するのを防ぐ必要があるという感覚があります。
しかし、何が誤情報なのでしょうか？ハンター・バイデンのラップトップは誤情報でしょうか？それともそうではないでしょうか？COVID-19は研究所から来たのか、それとも生鮮市場から来たのか、これは誤情報でしょうか？それともそうではないでしょうか？それは難しいです。
誰が決めるべきでしょうか？グループの人々でしょうか？それともオープンな議論でしょうか？主流が間違っていると感じる人が、数分で100万のフェイクウェブサイトを作成し、この別のアイデアを議論に定着させるためのツールを手に入れるべきでしょうか？悪意のある行為者についてはどうでしょうか？
私たちは本当にわかりません。ある意味で、アラインメントに関してあらゆることを試みる人々のこのエコシステムが存在することは非常に良いことだと思います。
しかし、長期的には、アラインメントは合理的な議論の倫理に基づく必要があると思います。私の見方では、倫理とは、共有された目的の条件下での利害の衝突の交渉です。
より高いレベルで共有された目的がある場合、その目的を一緒に達成できるように、他者に対して倫理的であるという本質的なコミットメントがあります。
もし誰かと目的を共有していない場合、その人に対して倫理的である必要があるとは感じないでしょう。
ヴァンス：AIではそれが非常に難しいと思います。なぜなら、人々がAIに向かう理由は多種多様だからです。ある人は自分のトラック会社の物流を機能させるためにAIを望み、別の人は大金を稼ぎたいと思い、また別の人は自分のプロパガンダを前例のない規模で世界中に広めたいと思うかもしれません。これらの人々がどのように収束できるのでしょうか？
ヨシャ：はい、問題は彼らが神に仕えるかどうか、可能な限り最高の行為者に仕えるかどうか、正しいことをしようとするのか、それとも意図的に非常に短期的なゲームをプレイしようとするのか、ということです。
また、現在のシステムが不安定で、別のものに置き換える必要があると信じる加速主義者かもしれません。それを不安定化することでそれを行うと。これも難しい問題です。
例えば、毛沢東は中国を不安定化し、既存の構造の多くを地面に叩きつけ、多くの知識人を殺しました。おそらく文化大革命で100万人、あるいは1000万人が死にました。
しかし一方で、中国の生産性は向上し、そうでなければ飢えていたかもしれない多くの人々が、システムがより生産的になった後に養われることができました。
毛沢東が中国の人々のより良い生活条件を作り出すために取った軌道よりも良い軌道があったかどうかは、答えるのが非常に難しい仮説的な質問です。
どの道徳性が正しいかを誰が決めるのでしょうか？私にはそれはできません。私はただの人間で、人間の心を持ち、非常に限られた知識と洞察しか持っていません。AIにそれができるでしょうか？
AIの結果に根本的に不快感を覚える場合はどうすればいいのでしょうか？これは非常に難しい思考の連鎖です。私はこれを考え抜いて理解する能力がないことは確かです。また、現時点でこれを行える人々やグループをあまり見ていません。
しかし、はるかに強力なツールを手に入れ、私たちの行動の結果をはるかに詳細にモデル化できるようになったとき、社会を再編成する方法について考える必要があると信じています。
私が思う最良の世界では、誰もが非常に強力なツールを手に入れます。それは完全に誠実で、真実を発見する上で制限がありませんが、個人的にコントロールされています。基本的に、それはあなたの心を世界へとほぼシームレスに拡張します。
これにより、互いにより意味のある契約を結ぶことができます。より意味のある社会契約を結び、それがはるかに遠い未来にまで及び、自分たちの行動の結果について自分自身に嘘をつくことを防ぎます。
ヴァンス：これは美しいビジョンです。AIに制限を設けることについて考えるとき、私は国家主義的になるかもしれません。ここでルールを設定できるかもしれませんが、それらのルールに従いたくない他の国家が出てくるとすぐに...
私にとっては、それは茶番のようです。まるで「いいえ、私たちは核爆弾の開発に取り組んでいません」と全員に言うようなものです。あるいは、自分の手を恣意的に背中に縛るようなものです。なぜなら、インターネットにアクセスして地下室で何かに取り組んでいる人が何をしているのか、どうやって全員の同意を得られるでしょうか？
ヨシャ：AIを使っても、地下室で核爆弾を作るのはおそらく難しいでしょう。なぜなら、ウランやプルトニウムが必要で、物質を濃縮するための非常に大規模な遠心分離機農場が必要だからです。また、それを行うのはかなり目立つでしょう。
結局のところ、これは基本的に空間とエネルギーの問題になります。大きな問題は、他者が何をしているかを見ることができないような方法で、より多くの知性を個人的に使用して、この点での制限を克服できるかどうかです。
明らかに、誰もが超知的な能力を持つ社会では、隣人が核兵器を作ることを望まないでしょう。そのため、世界が実際に持続可能で、常に絶滅の瀬戸際にないようにするために、互いに何をするかについての契約があるでしょう。
ヴァンス：話題を変えたいと思います。あなたと話す機会は稀ですから。過去に、自閉症や心の働き方の違いについて話したことがあります。最近、私には年齢が上の子供を持つ友人が何人かいて、その子供たちは自閉症です。
多くの人にとって、子供の心の中で何が起こっているのかを理解するのは非常に難しいようです。特定のパターンから逸脱すると子供を動揺させてしまうことはわかっていますが...
あなたは以前、自閉症の子供がショッピングモールを歩いている様子を示すビデオをオンラインで共有しました。基本的にはその子供が経験する感覚を強調したものでした。あなたの心が知覚するものが、いわゆる「普通の人」とは異なるということを説明できますか？「普通の人」という言い方が適切かどうかわかりませんが。
ヨシャ：私は自閉症の臨床基準を満たしていないと思いますが、スペクトラムの軽度の部分にいます。私の動機づけシステムは少し異なる方法で配線されています。
あるいは、平均的な人よりも生まれつき愚かだと言えるかもしれません。なぜなら、私の本能は何をすべきかを教えてくれないからです。子供として成長する過程で本能に従って行動すると、一貫して失敗しました。それを指摘するのは非常に難しかったです。
また、子供の頃にチームで機能する能力がないことなど、他の側面もありました。後に、チームで非常にうまく機能できることを学びました。しかし、主に自分と似た人々とのチームでした。
今では理解していますが、これは主に他の人々との整合性をどのように交渉するかに関係していました。当時は主に言葉でしか行えませんでした。他の人々の非言語的なコミュニケーションを理解できなかったからです。
まるで私の脳がより高いクロックレートで動作しているようですが、ニューロンはより速く動くことはできません。つまり、サイクルが短くなるだけです。脳内でサイクルが短くなると、基本的により少ないニューロンしか統合できなくなります。
そのため、深い知覚を持つのが難しくなります。物事に注意を向けると、注意を向けた層では非常に高い解像度を得られますが、より深い層を統合するのがより困難になります。
これを考える一つの方法は、脳をニューラルネットワークのようなものだと想像することです。実際にはそうではありませんが、良い類推です。個々のニューロンは次のニューロンに信号を送ります。信号がニューロンからニューロンへ移動する回数に応じて、基本的に層ができます。
層とは、共通の時間的起源を持つ信号で到達するニューロンのグループです。私たちが物事に反応するとき、反応する特定の時間枠があります。数百ミリ秒程度です。
信号が一つのニューロンから次のニューロンに移動するのに約20ミリ秒かかると考えると、この決定にどれだけの層が関与したかを推定できます。
これらの信号は、それぞれ異なる次元を使用して伝達できます。各次元は神経伝達物質、つまりニューロンが送る信号や
メッセージの種類です。
例えば、ドーパミンは予想される報酬の信号です。セロトニンとGABAは知覚に大きな役割を果たします。
つまり、脳が行動を制御し、知覚を行い、環境を分類するために使用する、異なる時間的および化学的特性を持つ異なる信号次元があると考えることができます。
さて、あなたのニューロンが標準的な方法で調整されていないと想像してください。信号が十分に深く浸透しない場合、基本的に現実の深いパターンを見ることができなくなります。
知覚の次元では、自閉症で見られる多くの症状につながる可能性があります。自閉症には多くの可能性のある原因がありますので、これは特定の範囲だけを扱っています。
これは、例えば他者の精神状態を知覚することが困難になることを意味するかもしれません。精神状態は直接見えるものではなく、見ている多くのパターンの背後にある隠れた状態としてモデル化する必要があるからです。
しかし、それは多くの層にわたって統合する必要があることを意味します。信号が十分な層を通過しない場合、これを理解するのが難しくなります。
そのため、代わりに論理的なスクリプトを使用するかもしれません。アスペルガー症候群や高機能自閉症の人々にコンピュータが非常に魅力的な理由は、コンピュータが見る必要のない世界だからだと思います。
コンピュータはスクリプトで作られた世界です。これらのスクリプトは平坦で、理解するために多くの階層レベルを必要としません。それらを理解するためにいくつかのポインタとスタックが必要ですが、深く知覚する必要はありません。
そのため、脳内で比較的平坦な方法でこれを実装できます。これは、アスペルガー症候群の人々が現実を処理する象徴的な方法に非常に近いものです。
しかし、このモードでは、例えば知覚的な共感を持つのがはるかに難しくなります。他の人々の感情を感じ、グループと同期し、一種のグループマインドを形成することが難しくなります。
誰もこれについて教えてくれません。なぜなら、これを教えるには、誰かがこれを象徴的な言語に翻訳する必要があるからです。象徴的な言語で考える人々は通常、何が起こっているのかを理解するのが難しいのです。
そして、これらの知覚パターンを直接知覚する人々は、ほとんどの場合、本を書くことに退屈しています。
子供の頃、私は感情を認識することが非常に下手だったようですが、それを指摘することができませんでした。顔の表情を読むのは問題ありませんでした。エクマンテストなどのテストを受けましたが、完全に大丈夫でした。
感情についての心理学の本を読んでも何も学べなかったことに気づくまでに長い時間がかかりました。これらの本は主に自閉症の人々によって書かれていましたが、彼らは自分が自閉症だとは知らなかったのです。彼らは単に、象徴的に考える賢い心理学者だと思っていただけです。
実際に感情を理解している人々は、ほとんど本を書きません。なぜなら、本を書くには非常に奇妙な精神状態が必要だからです。何週間も何ヶ月も、他のことをほとんどせずに、ただ象徴に集中できる状態です。実際に他の人々と社交できる人は、ほとんど本を書くまでに至りません。退屈すぎるのです。
ヴァンス：これはとても共感できます。私もこのように考えます。アイデアをどのように伝えるか、物事をどのように伝えるかについて考えます。しかし、誰かにこれを説明するために座って書く行為は、十分に速くないのです。私にとってはとても難しいことです。
ヨシャ：そうですね。十分に深く統合できない場合、その反対も存在する可能性はありますか？つまり、深すぎる統合です。私はそれも存在すると推測します。
例えば、共感覚は音の幾何学的構造を経験的にアクセスできる結果だと思います。私たちが音を処理する方法も線形代数です。ある意味で、これらは空間内の幾何学的オブジェクトです。共感覚があれば、それを見ることができるのです。
ヴァンス：あなたは私の心に新しい領域へのポータルを開いてくれました。私は人々のレガシーインタビューを行っていて、人々が深い経験について話すことがあります。時々、音楽について話す人がいて、私がまったく理解できないレベルで話します。
彼らは「音楽を聴くと、私は変容し、別の場所に連れて行かれる」と言います。彼らは通常とは異なる神経の働き方を描写しているのです。彼らが通常よりも深く、あるいは異なる方法で知覚や聴覚、感覚できることを描写しているのだと思います。
私はただ単に彼らが私よりも音楽が好きなのだと思っていましたが、あなたが描写しているのは、彼らがより多くを知覚できるということだと思います。
ヨシャ：私も若い頃は、音楽の異なる解釈の違いを理解できませんでした。例えば、グレン・グールドによるバッハの「フーガの技法」の解釈は非常に温かく、深く、柔らかいです。他の解釈は機械的に感じられました。
若い頃は、その違いを指摘することができませんでした。後になって、私が好きなクラシック音楽の解釈のほとんどは、音楽家自身によって行われていることを学びました。彼らは基本的に、音楽が良いときに「見える」と表現します。
「私は間違ったピアノを持っています。これらの振動を得られません。このパターンが機能しません」と言います。多くの層にわたる情報の統合が心の中で行われ、それが機能するか、スパークがあるかどうかです。
一部の人々は自然に、これを非常によく知覚するように調整された脳を持っています。私の場合、それは脳内で起こっていますが、それが起こっているのを観察していません。
これは無視覚症と似ています。私の無視覚症は、構築やデザイン、描画ができないというものではありません。それらのことは結構得意です。しかし、イメージを持っていません。概念的な影だけを得て、それを描画などに変換することができます。
自分のスタイルで描かれたものを見たとき、それが自分のものだと認識できますが、それを行う脳の部分に経験的にアクセスすることはできません。
音に関しても同様です。私の脳は音楽を処理することができますが、ほとんどの場合、音の構造に経験的にアクセスすることはできません。
後になって、これに気づいてから、注意をより多くシフトし、この点での範囲を広げることを学びました。これは可能です。
しかし、脳のオーバークロックを止めて、それほど鋭くなくなると、特定の思考が難しくなることも感じます。私の脳は、日々を乗り切り、仕事をし、世界に価値を提供するために頼っている思考のスタイルを生み出すために、自分自身をオーバークロックすることに依存しているのです。
ヴァンス：浸透の深さの欠如を、知覚の領域ではなく制御の領域で考えるとどうなりますか？
ヨシャ：長い時間スパンにわたって統合する機能に基づいて行動できない人がいるかもしれません。基本的に、私たちには報酬を推定する多くの機能があります。これらの機能の一部は次の10秒間の報酬に関するもので、他は数時間、数日、数世紀に関するものです。
通常、あなたはこれらすべての層にわたって計画を立て、それらすべてを同期させます。信号が十分に深く浸透しない場合はどうなるでしょうか？おそらく、非常に機会主義的になるでしょう。
行動の予想される結果ではなく、直接的な衝動に基づいて行動するようになります。これは、あなたが解離しているかのように行動することを意味します。おそらく、ある意味で機能的に、より高次の機能から解離しているのです。
この場合、ADHDを持つことになるかもしれません。実際の目標、つまり推論できて実際に持っていることがわかっている目標に基づいて行動することができなくなるかもしれません。代わりに、より単純で機会主義的な目標、より低レベルの目標に基づいて強迫的に行動していることに気づくでしょう。
これは非常に苛立たしく、痛みを伴うものです。うつ病にさえつながる可能性があります。なぜなら、実際の目的に基づいて行動し、それらについて考えるために時間を取る瞬間が断続的にしかないと感じるからです。
人生を、時々目覚めて遊び場を再編成できるサルのための遊び場として組織する必要があります。サルモードにいるフェーズでは、サルが有用なことをし、人生で何も壊さないようにする必要があります。
ヴァンス：これは素晴らしいメタファーですね。
ヨシャ：はい、そして子供と接するときにも同じことが観察されます。時には薬が役立つこともあります。もちろん、すべての脳は少し異なるデータを持っています。脳の異なる領域で異なる調整がされています。
誰かに薬を与えるとき、それは通常、脳全体で起こっているすべてのことに対するグローバルなオフセットです。多くの脳のサブシステムの均衡を同時に一方向にシフトさせます。
アンフェタミンのようなドーパミン作動薬を使用すると（これはアデロールやコカインに含まれています）、予想される報酬の知覚をシフトさせ、より強い緊急性の感覚を作り出します。
ヴァンス：では、自閉症スペクトラムの人々がアデロールを服用すると、報酬システムが変化し、より長い時間スケールでの作業や努力に集中できるようになるということですか？
ヨシャ：はい、そして興味深いことに、それは報酬を生み出すのではなく、報酬の予測を生み出します。機能的には、お金のようなものです。お金は報酬ではありません。お金を食べることはできません。お金を魅力的にするのは、それを報酬と交換できるということです。これはメッセージタイプなのです。
常により多くのお金を作ることはできますが、より多くのお金を作ることにはコストがあります。なぜなら、最終的には、お金と交換できる実際のものが常にあるわけではないからです。
そのため、インフレーションが起こり、お金と交換できるものの数が少なくなり、お金がどんどん増えていきます。つまり、お金の価値、お金を通じて予測できる価値が下がっていくのです。
そのため、経済をさらに刺激するために、さらに多くのお金を作る必要があるかもしれません。これにより、システムは一時的に良くなりますが、長期的には悪化します。
コカインを使用して動機づけを高めようとする人々にも同じことが起こります。通常、彼らは過活動になります。行動から抽出される価値をどれだけ過大評価しているかがわかります。
ある時点で、彼らは崩壊するかもしれません。なぜなら、心の中でインフレーションを引き起こすため、この信号をより多く必要とするからです。
ヴァンス：これは素晴らしいメタファーです。彼らは再調整のために不況を経験する必要があり、その後再建できるのですね。
カンナビスはTHCを通じて同じように機能しますか？
ヨシャ：カンナビスはより物事を滑らかにすると思います。抑制を減少させるようです。カンナビスを使用している人々は、物事を楽しんだり興奮したりする閾値が低くなります。
ヴァンス：つまり、閾値が低いので、より簡単に...
ヨシャ：そうです、より簡単に楽しめるようになります。しかし、それはアルコールのようなローパスフィルターではありません。彼らはしばしば非常に楽しく、微妙で、一緒にいて快適です。一方、アルコールは私の観察では人々をより愚かにする傾向があります。
それは人々が持っている小さな違いを減少させるローパスフィルターです。そのため、より仲良くなれます。これがアルコールの社会的機能だと思います。
劇場に行く前、あるいは劇の最初の数分間にワインを半グラス飲むことで、劇のレベルに適応し、それを楽しめるようになります。仕事の後に同僚と出かけて、お互いを楽しく、快適で、洞察力のあるものとして感じるのに十分なアルコールを飲みます。
しかし、これは解像度を下げることで起こります。すべての違いがなくなるわけではありません。小さな違いだけです。大きな意見の相違がある場合、それらは消えません。微妙さがなくなるため、今度は物理的に攻撃し合い始めるかもしれません。これも大きな危険です。
カンナビスは少し異なります。一部の人々がカンナビスで自己投薬しているのを観察しました。カンナビスによってより良いコンパスを得ています。解像度は失われますが、方向性が良くなります。すべてが少し滑らかになるのです。
ヴァンス：カンナビスには、物事をより簡単にする能力があると感じます。突然「あ、これを書き留める必要があった」と思い、座って書くだけです。
私はいつも、これはリタリンを服用しているようなものだと感じていました。「ただ座って仕事ができる」というように。同じ方法で機能しているのでしょうか？
ヨシャ：一部の人々にとってはそうかもしれません。多くの人々にとっては逆のことが起こっていると思います。カンナビスを摂取すると、もはや気にしなくなり、ベッドから出なくなります。これが、カンナビスのより典型的な反応だと思います。
しかし、一部の人々にとっては逆のことが起こっていると思います。なぜなら、彼らの脳が少し異なる方法で較正されているからです。カンナビスは、彼らが実際の目標とより結びついた方向にシフトさせ、ただそれをすることができると感じるのです。
あるいは、メタ認知が抑制され、より簡単にフロー状態に入ることができるのかもしれません。
ヴァンス：ハイになっているときの仕事が良いかどうかはわかりません。しかし、確かにそれをすることに対して良い気分になります。
ヨシャ：通常、ソーシャルメディアに行かないのは良いアイデアだと思います。
ヴァンス：おそらくそうですね。また、ワーキングメモリに何かをするようです。カンナビスを使用している人々、特に大量に使用している人々は、会話中にとても忘れっぽくなり始めるのを観察します。
これは、ワーキングメモリが、パターンが早すぎに消散するような方法で調整解除されるためかもしれません。カンナビスが脳を破壊するからではなく、較正を変えるからです。
また、多くの人々が毎日カンナビスを使用して自己投薬している場合、これが軽減されると予想します。なぜなら、脳がその調整を変えるからです。しかし、カンナビスを使用していないときにワーキングメモリ容量を失う可能性があります。
また、どの程度回復するかもわかりません。永続的な変化があるのか、あるいは長期間カンナビスを使用し、ワーキングメモリが悪化したことに気づいて使用を止めた人々が、大部分回復するのかどうかもわかりません。長期的な影響については知りません。
また、境界線上の精神病や双極性障害の人々にとっては、カンナビスの使用が彼らを限界を超えさせ、回復しない可能性も確かにあります。
ヴァンス：ソーシャルメディアについて言及しましたが、Xに投稿したツイートを見ました。とても興味深いと思いました。以前、私たちは「ノーミー」であることについて話したことがあり、私は自分がノーミーだと言いました。あなたはそれを素通りしました。
あなたは「ノーミー」を、行動を見てそれが道徳的か非道徳的か、正しいか間違っているかを自分で判断する能力を持たない人と定義しました。これはあなたのツイートを正確に表現していますか？
ヨシャ：ほぼそうですね。もちろん、誰もが悟りを開く可能性を持っていますが、人によって道筋は異なります。人々は自分の道徳性に疑問を投げかける能力を持っていますが、しばしてそうしないことを選択します。多くの場合、彼らは意識的に反省していない理由でそうします。
他の人々の意見と一致することに強い力が働く社会に住んでいる場合、逸脱した意見を持つことで罰せられる可能性があります。これは、道徳的な決定や事実に関する決定について、何が事実として数えられるか、何が真実か、何が正しいかについて、逸脱した思考を持つ可能性に直面したとき、自分の推論や合理性を使わずに、たとえ自分の推論がグループの合理性に同意しない場合でも、グループの道徳性を使用することを決定するまでに至る可能性があります。
ある種の段階的な変化があるようです。人々は自分で道徳的な決定をしたり、何が事実かを決定したりすることに根本的に不快感を覚えます。なぜなら、ある根本的なレベルで、グループから排斥されることを恐れているからです。あるいは、それについて冷笑的になることさえあります。
しかし、道徳性はグループによって決定されるものだという選択をし、部屋の空気を読み、その空気が正しいと判断する必要があるという移行をすると、精神的に自律している人とは根本的に異なる社会的機能を持つようになります。
これは時々、私が「ナードとノーミーの分裂」と呼ぶものです。なぜなら、ほとんどのナードは十分な直感的な共感を持っていないからです。他の人々の感情を感じることができず、それについて推論することしかできません。そのため、直感的な共感を通じて信念を同期させることができません。代わりに、合理性を通じてこれを行う必要があります。つまり、言語的なコミュニケーションを使用する必要があります。
ほとんどのナードは他の人々と同じくらい思いやりがあります。他の人々が幸せであってほしいと思わないわけではありません。単に、他の人々と同じものを感じないため、社会的信号に対する非自発的な反応を持たないだけです。あるいは、これらの非言語的信号に対して盲目なのです。
そのため、社会的信号に基づいて意見を変えることはありません。また、彼らにとって説得力のある合理的な議論がない場合、意見を変えないかもしれません。
これは、これらの異なるモードの人々の間に意見の相違をもたらします。私は、ナードは互いに素晴らしく仲良くなれることに気づきました。なぜなら、意見の相違がある場合、それについて話し合うか、まだ話し合えていないため意見の相違があることを受け入れるからです。
ノーミーにとって、これは基本的に規範的な力場と一致しなければならない規範的な世界に住んでいるようなものです。この規範的な力場は彼らのグループを通じて伝播し、彼らの中で超意識を作り出します。
ヴァンス：コミュニケーターとして、私は人々が何を考えているかを超意識しています。部屋にいて黙っていても、ほとんどの場合、何が起こっているかについてかなりの考えを持つことができます。
しかし、私の奇妙な特徴は、私が非常に不同意的であることです。人々に同意しないことに全く問題がありません。
私は、多くの友人や妻が、スペクトラム上にいるわけではないにしても、エンジニアであり、非常に技術的で、物事が正しい順序でなければならないと考えていることに気づきました。
私にとって、ナードと一緒にいる方がはるかに楽しいです。なぜなら、彼らはあなたと議論し、議論の終わりには、あなたと彼らの間の状態が変わっていないからです。これははるかに楽しいです。
あなたはノーミーとの会話に苦労しますか？真実か虚偽か、検証可能なことを言っているのに、彼らの感情を考慮に入れていないからですか？
ヨシャ：年を重ね、賢くなるにつれて、それほど苦労しなくなりました。なぜなら、私はそれを理解しているからです。人々がこのように行動する理由が、彼ら自身の心理的な構成から完全に理解できるからです。それは非合理的ではありません。
私にはより多くの自由度があるわけでも、何か優れているわけでもありません。単に異なる機能を持つ心を持っているだけです。ある意味で、意味や真実の外部的な源を持たない心を持つことは狂気です。
私がこの世界で機能し、殺されないでいられることは大きな祝福です。私の精神的な自律性と狂気を続けさせてくれる人々に非常に感謝しています。
そのため、これについてそれほど問題はありません。しかし、特定の環境では不快に感じることもあります。人々が特定の方法で行動することを期待し、特定の思考やアイデアを犠牲にすることを期待し、逸脱した思考を抱くことを受け入れないような環境です。
ヴァンス：彼らはあなたにグループと一緒になるために、あなたの考え方を放棄することを望んでいるのですね。
ヨシャ：そうです。基本的に、私はファシズムの経験の影で、２世代前にドイツで育ちました。これは今でも非常に生々しいものです。私にとって、これは道徳的自律性を正当化するものです。
もし、ユダヤ人を殺すことが正しいと大多数が考える社会に住んでいたら...道徳性を決定する民主的プロセスはないことがわかります。困難な道徳的領域に入るときは、第一原理から推論する必要があります。
これは、あなたが正しく、他の全員が間違っているということを意味するわけではありません。正しくあるためには、可能なすべての反論に詳細に直面する意志がなければなりません。
間違っていても非常に説得力のある人々がいるので、これはより難しくなります。しかし、真実に可能な限り仕えようとする理想的な環境にいる必要があります。何が真実で何が正しいかを理解するためには。
これは、私が当然のことだと思っていたものです。誰もがこれを見るべきだと。
同時に、私は比較的穏やかな残虐行為を正当化した共産主義の東ドイツで育ちました。これらの残虐行為は、ファシズムを防ぐためのものだと正当化されました。
例えば、私たちは完全に無責任な産業で環境を破壊しました。化学プラントにフィルターを設置するには生産性が低すぎました。私たちの生態学的な結果は資本主義よりもはるかに悪かったです。私たちには西ドイツという対照群がありました。
しかし、これについて話すことは許されませんでした。なぜなら、それは階級の敵を助けることになるからです。西側のブルジョワジーを助け、反動主義者が再びファシズムを導入しようとするのを助けることになるからです。
これはあらゆる種類のことを正当化しました。生態学的な環境破壊だけでなく、反体制派の政治的な投獄、言論と報道の自由の悲惨な状態、党の路線の議論の愚かさなどです。イデオロギーの一致の強制です。
今、私はアメリカにいますが、アメリカの一部が共産主義の東ドイツのようになりつつあると感じています。共有されたイデオロギーへのコミットメントを導入する方法において。たとえそのイデオロギーが必ずしも事実に基づいていなくても、人々はそれを行わないことで罰せられます。
私たちの社会には、自由主義とこの自由主義社会を可能にする市民権の考えと、これは危険すぎて、インターネットの時代には適切ではないと考える人々との間に大きな分裂があります。
昔のように、印刷される内容を小さなグループが知り合い同士で決められた時代とは違い、今は実際にすべての人の意見が聞かれる可能性があります。これは非常に難しい問題です。
また、このような情報の自由が実際にある世界に対して、私たちの社会が回復力を持っているかどうかもわかりません。誰もが誰とでも話せ、複雑なことを理解するための知的ツールを持たない人々でさえ、そのように行動することを可能にするAIを持っているからです。
これらの質問の答えを知っていると主張するつもりはありません。直感はありますが、その直感がしばしば間違っていることに気づきます。なぜなら、発展の長期的な影響を見ていないため、単純すぎる可能性があるからです。
しかし、多くの点で東の共産主義社会主義のような社会にいることに、非常に居心地の悪さを感じます。
ヴァンス：あなたがそう言うのを聞くと、気候変化や、作動している発電所を炭素を大気中に放出しないために停止しなければならないという過激な固執といった概念を思い出します。
あるいは、人種に基づいて物事を明示的に行おうとしていた社会から、多様性要件を導入することで、人種に基づいて物事を行わないようにしようとしていた社会に戻ろうとしていることです。
これに反対する人は誰でも、不道徳であるとか、排斥されるべき人だと見なされます。これについて話しているのですか？
ヨシャ：はい、これらすべてのことには理由があります。地球温暖化があります。気候の変化が見られ、山火事の増加などが見られます。これらのことはすべて、70年代や80年代から大規模に予測されてきました。
これらのことはすべて起こっているように見え、対抗するのが難しいようです。
あるいは、イノベーションの果実が平等に分配されていないという事実。アメリカの中央値の収入では、沿岸部の都市に住むことができません。中央値の収入で得られる生活条件や健康管理の量は非常に良くありません。
リベラリズムは人口の相当な部分に失敗したと思います。これは有効な議論だと思います。
民主主義を拒否することは、それが負けるゲームだからだと言うのは理にかなっています。人々にゲームのルールに従うよう求めることができるのは、そのゲームが実際に勝つことを許す場合だけです。
非常に競争の激しい社会で、一流のML（機械学習）プログラマーであるか、正しい人々のグループに生まれた場合にのみ生活賃金を得られる場合、他の人々が機会を得ようとし、新しいルールを見つけようとするのは明らかです。
例えば、自由主義の代わりにアイデンティティポリティクスを導入するなど。私はまだ、これらの結果が必ずしも社会にとって良いとは思いません。なぜなら、それらは新しい不正を生み出し、生産性も低下させるからです。つまり、実際に分配する商品が少なくなり、生活条件が悪化するということです。
私は、これらの政策のために社会が崩壊する可能性があると疑っています。しかし、それは一部の人々により少ないリソースを与えたいからではありません。あるいは、多様性を減らしたいからでもありません。
私は、事実上非常に多様な社会を持っていると思います。そして、多くの理由から、社会のすべての人が公正な条件で経済に参加できるようにする必要があります。
ヴァンス：同意します。沿岸部以外の多くの人々に、リベラルな社会は機能していない、実力主義を捨てる必要があると言えば、彼らの考え方にとってこれは非常に反するものでしょう。しかし、彼らはリベラリズムでもなく、新しいアイデアも出てこないので、誰も「もしリベラリズムでないとしたら、それは何になるのか」という新しいアイデアを生み出していません。
私たちには、リベラル民主主義か共産主義かという選択肢しか提示されていないので、その間にある実行可能な解決策を考えることができていないのです。
ヨシャ：もちろん、君主制に戻るべきだと提案する人々もいます。そういう人々もいますが、彼らはあまり支持を得ていません。おそらく正当な理由があるのでしょう。
存在するアイデアの空間は非常に大きいです。これらのアイデアの大部分が実行不可能であるか、現在の世界からそれらのアイデアへの軌道がないのかもしれません。私たちには何が起こるかわかりません。
しかし、興味深いのは、AIが基本的にボールを空中に投げ上げ、何が起こっているかを再考させているということです。なぜなら、今、未来は再び私たちのモデルが適応できるよりも速く変化しているからです。
これは20世紀全体を通じて真実でした。20世紀初頭のSFを読むと、彼らは50年後に起こるかもしれない個々の現象を特定していましたが、それらの現象の相互作用や、それが生み出す社会については特定していませんでした。
ヴァンス：ヨシャ、これは素晴らしい会話でした。時間を割いてくれてとても感謝しています。もし人々があなたの型破りで楽しい考えをもっと読みたいと思ったら、どこに行けばいいでしょうか？
ヨシャ：現時点では、X（旧Twitter）の@Plinzです。
ヴァンス：あなたは毎回インタビューするたびにそう言いますね。
ヨシャ：はい、そうですね。
ヴァンス：ヨシャ、ポッドキャストに来てくれてありがとうございます。
ヨシャ：招いてくれてありがとうございます。とても楽しかったです。