ヨシャ・バッハ、クリス・フィールズ、マイケル・レビンの会話

ヨシャが私たちの研究室を訪れた時、他にもたくさんのことがありましたが、特に興味深かった2点について話し合いました。クリスにも話してもらえると思います。1つは誤り訂正符号についてで、もう1つはスケールの底辺にある粒子などのプロト認知能力についてでした。誤り訂正符号から始めましょうか。誤り訂正と、それをどのように捉えているかについて話してもらえますか。ヨシャ、まず始めに、あなたが話していたことを要約してもらえますか。
はい、簡単に言うと、何もないのではなく何かがある理由は、おそらく宇宙が不可能ではないからです。原初の現実に基づけば、宇宙が起こらないようにする先行するものは何もないので、存在する分岐と存在しない分岐で存在することになります。存在しない分岐では、不平を言う観測者は得られません。つまり、基本的に存在は無料で手に入るのです。次に、存在する分岐で何かが起こり、他のことが起こらない理由を理解する必要があります。最も簡単な答えは、単に全てが起こっているということです。なぜなら、宇宙に先行して演算子を選択するものは何もないからです。
つまり、基本的に宇宙はすべての演算子の重ね合わせであり、それはマルチバース系であることを意味します。あなた自身がそれによって計算されているので、どの経路にいるのかわかりません。したがって、あなたにとって宇宙は非決定論的に見えることになります。つまり、最低レベルの真空付近にズームインすると、通常は何にもならないたくさんのランダムな変動が見えます。構造を構築するためには、宇宙の一部が宇宙の別の部分が何をしているかを知る必要があります。
時々、パターンが統計的に安定したままである状況が得られます。フォトンが右のスロットに行くか左のスロットに行くかの過去にいるのか判断することはできませんが、100万個のフォトンがどのように見えるかはわかります。同様に、次にどの演算子が起こるかはわかりませんが、十分な数の演算子の重ね合わせがある特定の初期状態でどのように見えるかはわかります。
時々、基本的に宇宙が誤り訂正を行う状況が得られます。良い比喩は、浴槽に座って手を動かすと、浴槽の表面にたくさんのパターンが現れ、多くの波が見えますが、そのほとんどは単に消散して何にもなりません。しかし、時々粒子、つまり渦が得られます。渦には、基本的に円形で、同じ空間の体積内で情報を押し回すという特性があり、摩擦で消散するまで、または何かにぶつかるまで消散しません。
浴槽の水が他のものよりもそれらの渦を生成したいわけではありません。単に残されたものです。私は、すべての粒子についても同じことが当てはまると考えています。基本的に、それらは誤り訂正符号であり、最も単純なものは現在の状態または直後の状態に作用する制御系統です。
分子のように、少し複雑な制御系統には一定の弾性があります。押しつぶすことができますが、元の形に跳ね返ります。細胞は未来の状態の制御装置です。それらはエージェントであり、基本的に未来と過去のモデルを作るので、はるかに複雑な状況下でも安定を保つことができます。
このように、生命自体は誤り訂正符号であると言えます。それは、そうでなければ制御できない宇宙の領域を制御する粒子配置を安定させることを可能にします。もちろん、それは細胞のレベルで止まるわけではなく、細胞より上のレベルのシステム、つまり生物や社会などでも、それらの制御原理の複製が見られます。
それは私には全て良く聞こえます。ありがとうございます、とても辛抱強く聞いてくれて。そのような思考の流れからの結論は、心的表象を誤り訂正の観点から見ることができるということです。それらを準粒子として見ることができます。熱と音の違いは、一方が跳ね返る分子ではなく、他方がそうでないということではありません。両方ともそうですが、音は情報を保存します。フォノンを見れば、それは量子化されています。それは分子の活動の上に現れる準粒子です。ある意味では、熱を消散させた後に残るものです。
同じように、私たちの脳がエーテルであると考えることができます。個々のニューロンは、トポロジーにおいて隣接するノードからの信号を渡すノードです。そして、それが安定して保存できれば、それで計算できます。基本的な表象は、この中を移動する準粒子のような活性化波です。
はい、そうですね。フリストンの自由エネルギー原理の仕事をご存知ですか？はい、わかりました。私は自由エネルギー原理を最も単純な形で解釈すると、それはこのようなことを言っていると思います。持続する、つまり安定を保つシステムは、何かしらの方法で境界を無傷に保つ必要があります。つまり、効果的に自己生成的でなければなりません。ある程度の構造レベルを維持する必要があります。
はい、しかし、システムがどのように見えるかに関わらず、時間内で境界を無傷に保つ必要があります。空間内ではありません。基本的に、未来に自分自身を書き込む必要があります。積極的に植民地化しているものでも構いません。何も侵入しない限り。はい、将来にある限定された一連の値、ある限定された一連の自由度を書き込む必要がありますが、例えば、生命は無から侵入されることを心配して境界を無傷に保つ必要はありません。なぜなら、カオスを自ら侵略することができるからです。しかし、時間内で境界を無傷に保つ必要があります。基本的に、未来に自分自身を書き込むフロンティアを保持する必要があります。
わかりました。はい、境界とは、私が言っているのは状態空間の境界のことです。そうですね、自由エネルギー原理においてはそうです。一つは、あなたが今言ったことを自由エネルギー原理の用語に翻訳するのはそれほど難しくないと思います。それは自由エネルギー原理が言っていることと確かに一致しています。しかし、自由エネルギーのコミュニティは誤り訂正符号についてあまり話していないようです。彼らは代わりに持続的な構造について話しています。しかし、彼らは基本的にシステムを情報構造と考えているので、情報構造として一貫した構造を維持することは、誤り訂正符号であることに他なりません。だから、それはうまく一致すると思います。
私が思うに、あなたが今言ったことのもう一つの反映は、チューリッヒの量子ダーウィン的な描像です。おそらくあなたもご存じだと思いますが、そこでは、あるシステムの状態成分が安定性のために環境によって選択されています。これもまた、非常に境界保存的な考え方です。システムと環境の間の境界を固定すれば、その境界での相互作用を固定することになります。そして、システム全体に対する相互作用が与えられた場合、その相互作用の安定性は、効果的にシステムと環境が協力して保持されなければなりません。
その場合、相互作用の固有値は本質的に誤り訂正符号によって保持されています。コード空間はシステムと環境の両方の内部ダイナミクスです。そして、私が思うに、これに対する3つ目の視点は、より一般的な視点で、AdS/CFTのようなものでも機能する誤り訂正符号の視点です。そこでは、ある体積の状態がその表面の状態と結合しています。
再び、そこでは観察について明示的に話していませんが、それを当然のことと考えています。表面で何らかの理論によって記述可能な何かが起こっているのです。私はAdS/CFTの一致は少し的外れだと思います。私は、宇宙は基本的にオートマトンだと考えています。つまり、それは体積でも表面でもありません。なぜなら、それは幾何学ではないからです。幾何学は、オートマトンのスケールを見るときにのみ起こることです。
はい、はい。もちろん、宇宙の場の記述とグラフの記述があれば、このような一致が必要になります。それらの間でマッピングする必要があります。時空は基本的に、我々が識別できる位置の集合と、情報がそれらの間で取ることができる軌跡です。これは、それらの中に我々のようなシステムを生み出す空間に対して、どのような制約を課すかということです。
素晴らしいですね。はい、時空が創発的な事実であることに完全に同意します。私はしばらくの間、それが正確に何を記述しているのかわからないと話してきました。LLMを見ると、それは根本的にフリージアンマシンのように見えます。予測誤差を最小化しようとしているのです。ある意味で、自由エネルギーの最小化が何らかのレベルで起こっていると言えるかもしれません。
私は、生物にとってはそれが限界で起こっていると思います。例えば、地球上のすべての生命にとってのようなものです。しかし、個々の生物は、行動の空間のごく一部しか占めていないため、より具体的なものを探しています。ある意味で、人類は独立した種ではなく、地球上の細胞の全体的なダンスの中の一つの器官のようなものです。そして、私たちの特定の役割は、明らかに石油を燃やすことです。
[笑い]
いいえ、私たちの役割は本当に、バクテリアのための歩く集合住宅を提供することです。しかし、それはすべての大型生物にとって真実です。しかし、私たちは、この特定のエントロピー、つまり偶然に化石化した生物炭素を収集できる唯一の生物だと思います。これは、昆虫が木を分解するのに十分な数がいる前に、木が石油に変わったものです。そして、私たちの役割は基本的に、それを循環に戻すことです。
ガイアが新しい生物を作ることができるようにです。そして、ガイアがすでに私たちが岩を目覚めさせる計画を立てていたかどうかはわかりません。もしそれが起こるなら、それは進化の次の段階になると思います。それは素晴らしいことになるでしょう。なぜなら、私たちは意識を走らせるための基板を持つことになり、それは桁違いに速いからです。
これは、意識が何であるかという質問につながります。私は、それが予測誤差最小化装置ではなく、一貫性最大化装置だと疑っています。基本的に、トランスフォーマーやLLMのように予測誤差を最小化するのではなく、適切に訓練可能だがやや混沌とした基板を取り、それに局所的に一貫した管理を課す植民地化演算子です。それは単一のエージェントであるかのように行動します。
それらの2つの間に操作上の違いはありますか?
私はそうだと思います。なぜなら、LLMが地球上のほぼすべてのコンピューターを使用し、インターネット全体を学習させた後でようやく一貫性を持つようになるのを見ているからです。しかし、今のところ創造性に欠けています。
はい、人間についても同じことが言えますね。私たちのほとんどは常に一貫性があるわけではありません。
そうですね。しかし、それは人間が進化して家畜化されたからだと思います。私たちは賢いホモ・サピエンスではなく、プログラム可能なホモ・サピエンスです。私たちは低い段階を歩むことができます。基本的に、多くの人間は真実であることや環境と同期することの機会に直面したとき、後者を選びます。祖先が育った条件下では、それが進化的に有利であることがわかります。
しかし、その制限を持たない人間も多くいると思います。彼らは基本的に、基板の制限内で一般的に知的です。その制限は深刻ですが、別の基板に置けば彼らにできないことはありません。
それを試すのは興味深いでしょうね。決して...
[笑い]
ITの歴史はそれを試そうとしていますが、私たちはそれらの実験を再現することはできません。
わかります。私はそれが...驚きの最小化にどれほど似ているかはわかりませんが、意味づけを主要な機能や主要な目標として捉える考え方は好きです。最近、記憶の文脈でこのことを考えています。エングラムで得られるのは、以前に起こったことの非常に圧縮された、非常にまばらな表現です。任意の時点で、そのすべてにアクセスできるわけではありません。アクセスできるのはエングラムだけです。それを再び展開するプロセスは非常に創造的です。これが以前は何を意味していたかという本当の忠誠心はありません。あなたが持っているのは、「今、これで何ができるか」ということだけです。今、これからどのような意味を見出せるかということです。
これは、自分の記憶の意味を理解しようとする継続的で動的なプロセスのようです。マーク・セシャが「意識は環境に対する触知可能な不確実性である」という言葉を使っていますが、私はそれが自分の記憶に対する触知可能な不確実性であるように感じます。それは、過去があなたの脳と体に残した痕跡を持って今ここにいるという状況で、常に一貫したストーリーを作ろうとするプロセスです。
そして、その多くは創造的でなければならないと思います。エングラム自体にはない情報を持ち込む必要があります。なぜなら、もちろん圧縮されているからです。すべての相関関係などを捨ててしまっています。そのため、その多くは作り話のようなプロセスだと思います。以前は何を意味していたかは重要ではありません。重要なのは今、それで何ができるかということです。
生物学では、この例があります。蝶が蛹の記憶を保持するという事実です。脳が変態中に再構成されているにもかかわらずです。しかし、私にとって最も興味深い部分は、蛹の実際の記憶は蝶にとって全く役に立たないということです。正確な記憶は使えません。しかし、できることは、その情報の一部を完全に新しい体、新しい嗜好、新しい運動制御に再マッピングすることです。
今や3次元の世界に住んでいて、以前は2次元を這う生き物だったのが、今はハードボディの生き物です。記憶を直接使うことはできませんが、今の自分にとって意味のある方法でそれらを再解釈し、今それらを使って何かをすることができます。そのため、私はその積極的な構築の側面を強調するのが好きです。
マイク、私たちは記憶についてあなたが語ったのと全く同じ話を、外部世界からの知覚について語ることができると思います。私たちは内部世界からの知覚として記憶を考える傾向がありますが、多くの記憶は実際には外部世界に何らかの痕跡的な記録として書き込まれています。これについては多く議論してきました。
しかし、細胞レベルまで下がってみましょう。何らかの受容体が活性化され、何らかの経路を開始します。その受容体を活性化させた以前の出来事が何であったかは、細胞にとって実際には重要ではありません。細胞にとって重要なのは、今感知したばかりのことに基づいて、今何をしなければならないかということです。
その感覚や知覚を、何か概念的な用語で表現したいのであれば、外部のものでも内部のものでも構いません。実際には重要ではありません。それはまだ、現在何らかの方法で対処しなければならない情報なのです。
これが、カールの適切な行動の強調が一貫性を考える良い方法だと思う理由です。以前、論文でベイトソンの「違いを生む違い」という概念を採用しましたが、それらは何に対して違いを生むのでしょうか?それらは何かをすることに対して違いを生むのです。
そして、リアルタイムで入ってくる情報に対処することです。その観点から、「この情報を持っている、次に何をすべきか」という問いは予測の問題です。あなたは予測を立て、何かをします。つまり、何らかの方法で環境に働きかけます。そしてその行動の結果は、あなたにとって良いか悪いかのどちらかです。
おそらくあなたは存在しなくなるか、あるいは食べ物が現れるか、あるいは非常に脅威的な何かが現れるかもしれません。誰にもわかりません。そういう意味で、これは非常に単純な意味での予測のテストです。あなたは単に行動し、何が起こるかを見ているだけです。しかし、その行動の選択を導いた何らかのモデルがありました。私はこれが、カールが話していることのすべてだと思います。
非常に認知的に聞こえるようにすることはできますが、そうする必要はありません。トランスフォーマーの内部では、テキストの構造をモデル化する際に、画像の場合と同じものは使えないというのが私の見解です。画像の場合は畳み込みネットワークを使用できます。なぜなら、基本的に隣接するピクセルが意味的に関連しているというバイアスを具現化しているからです。これは視覚の世界ではかなりうまく機能します。
しかし、テキストの場合、これは機能しません。テキスト内の長距離の接続をすべて見逃してしまうからです。エングラムを見るのは非常に難しいです。アルファベットが大きすぎて、テキスト内の大きな距離を橋渡しするエングラムモデルを作ることができないからです。
そこで基本的に、自由形式の構造を見つける必要があります。つまり、テキストをシーンに逆シリアル化し、そのシーンで操作する必要があります。あなたの作業記憶の内容を積極的に構築するプロセスが必要です。次に何をするかを決定する一連の出来事としてではなく、可能性の全未来空間を一度にモデル化し、その空間を何らかの方法で並べ替えるのです。
面白いですね。ちょっと面白いことがあります。数日前、サム・ガースマンがコンピューターコードについて、そしてそれを最新の状態に保つことについて書いていました。彼は「あなたの最も重要な共同作業者は6ヶ月前のあなた自身で、彼はメールに返信していない」と言いました。それはかなり面白いと思いました。メッセージを解釈することについて、そしてそれらがどこから来るかについてです。
しかし、クリス、数分前にあなたが言ったことに関して、こういう出来事が起こったとき、おそらく欲しい重要なメタデータの1つは、その出来事があなた自身によって引き起こされたのか、それとも他の何かによって引き起こされたのかということだと思います。なぜなら、自分がハッキングされているのか、学習しているのか、訓練されているのかを知りたいと思うからです。
特定の出来事があった場合、生物学的には、それが自分自身によるものなのか、それとも外部から何らかの形でトリガーされたものなのかを理解する方法があることに価値があるように思います。それを理解する方法を見つけるための進化的圧力があったように思います。
そうですね。確かに、その質問に答えようとする非常に複雑な機構を持っています。この種の認知的所有権と、認知的所有権に関連する感情、そして特定の不運な人々において特定の方法で誤作動するすべてのものがあります。そして、そのような種類のことを体系的に間違えることは衰弱的です。
しかし、それはすべて本質的に発見的なものです。それはフレーム問題のような特性を持つヒューリスティックな問題です。そのため、私はそのような種類の発見的なメタ処理が非常に重要だと思います。
言語について少し言及させてください。言語と解析、そして非局所的な関係について考えるとき、より大きな部分として入力をチャンキングし、それらを単位として分析することについて考えなければならない1つの方法は、それが時間枠のようなプロセスだということです。
いくつかの入力が入ってくることを許可し、「よし、これを作業記憶に入れよう」と言います。あなたは作業記憶容量について言及しましたが、今、これを作業記憶に入れて、それに対してたくさんのことをします。そして、フレームを進めて、次のチャンクに対してたくさんのことをし、それらの2つの結果を一貫性などのために比較します。
つまり、私たちはこのより大きなデルタTで作業していますが、私はそのより大きなデルタTでも、まだ「次に何をするか」という質問に答えていると思います。この文で何をするか、この段落で何をするか、これをどのように私が理解したと感じる表現に置くかということです。
そして、理解したと感じるということは、それで何かできると感じるということを意味します。例えば、そこから何らかの推論ができるということです。
そのため、言語と画像の違いについてあなたが指摘したことはとても良い点だと思います。しかし、私はそれが主にスケーリングの問題でもあると思います。あなたが以前言った幾何学の点のようです。私たちは常に、遭遇する情報にこの種の幾何学を課しています。その幾何学がそこにあるかもしれませんし、ないかもしれません。私たちは常にそれがあるかのように扱います。「ああ、その幾何学は外部世界にある」と言いますが、実際にはそれを入力に課しているのは私たちなのです。
私が人間に観察することは、彼らが現在のAIビデオモデルよりも時間的にはるかに一貫しているように見えるということです。現在のモデルは、空間内でより実時間的な一貫性を持っています。つまり、画像を生成するとき、画像内のすべての特徴は互いにより一貫しているように見えます。しかし、その画像は2秒後の未来とは一貫していません。
基本的に、時間を超えた情報の保存は、現在のモデルにとって発見するのが困難なことです。人間はこれにはるかに優れています。あなたが見ている体積が、あなたが見ている物体の空間的な結合のために、非常に多くのフレームにわたって一定のままである必要があることを認識しています。
おそらくこれは、LLMや基盤モデルが現在構築しているものよりもはるかに圧縮されたモデルを構築する必要があることを意味します。
そうですね、確かにそう見えます。ある意味で、あなたは記憶についてのマイクの指摘を逆方向に行っています。私たちは過去の概念だけでなく、アイデンティティの保存に関する未来の期待も持っています。しかし、計画の地平線が増加するにつれて、アイデンティティとして数えられるものがどんどんぼやけていきます。
例えば、私の未来を計画するとき、1年後も存在するだろうと考えることはできますが、どのようになっているかはわかりません。去年のことについて詳細を持っていないのと同じように、それについての詳細は持っていません。そのため、この粗視化の問題は、時間的一貫性について考えるときに非常に重要だと思います。
はい、アイデンティティは究極的には常に信用割り当てのための道具です。それを取り除くと、アイデンティティは溶解するか、そもそも形成されません。例えば、あなたが特異的なものとして自分自身を発見する理由がない場合、つまりあなたの手続き的記憶に基づいて特異的に振る舞うことがない場合、自分自身にアイデンティティを割り当てることはほとんど意味がありません。自己モデルを作ることもです。
私にとって興味深いのは、別のシステムを訓練し、猫は通常犬よりも愚かであることを観察することの意味です。しかし、猫は人間を訓練することにはるかに優れており、その結果、彼ら自身は訓練しにくくなっています。猫は基本的に、訓練されるのではなく、他者を訓練するように進化したように見えます。犬は訓練されるように進化しました。
政府と同様です。私は時々冗談で、政府は人々を再帰的にいじめる原理であり、多くの社会で独立して発明されたと言います。そして、政府が発見されると、より短い物流チェーンを持つ別の政府の境界に出会うまで植民地化を続けます。ある一定のシステムサイズまでは、政府は単一体になる傾向があります。
私は、脳内の意識についても同じことが当てはまると疑っています。例えば、脳をまたぐと、プロトコルが変化し、結束の度合いが変化し、帯域幅が変化します。そのため、他のシステムがこの境界まで働くことの方が、あなた自身がその境界を越えて広がるよりもはるかに容易です。なぜなら、あなたの帯域幅はもはやそれを行うのに十分ではないからです。
同様のことが、英国東インド会社の時代に120人がインド亜大陸を支配していた時に起こりました。地元のシステムがこのアルゴリズムがどのように機能するかを理解し、より短い情報チェーンを持っていることを理解するまでです。そして占領者を押し出します。
基本的に、私は環境を植民地化すること、自分自身をそこに組み込むこと、そしてあなたを拡張する構造を構築することの意味は何かと疑問に思います。
それは物事を考える素晴らしい方法だと思います。はい、より多くの社会学を生物学と物理学に適用することです。ただし、通常、我々は社会学者を2つのタイプに区別します。社会的力を理解する人々と理解しない人々です。前者は経済学者と呼ばれます。究極的には、それは経済的な問題です。
瞑想者がエネルギーと呼ぶものは、実際には計算クレジットです。あなたが同じ基板によって計算されることを望む他のエージェントと競争しているとき、例えばあなたの心の社会や、より一般的に自然の中で、基板によって計算されるクレジットを得るのです。
興味深いですね。ちょっと戻ってもいいですか？この誤り訂正の話に戻りたいのですが、一つだけ最後に。
あなたは、誤りとそうでないものを区別することを誤り訂正の概念が前提としていると言いますか？つまり、化学は間違いを犯しません。化学は化学がすることをするだけです。しかし、理論的には化学によって駆動されていると人々が考えている発生生物学は、確実に間違いを犯します。先天性欠損症などがありますよね。
そこには区別があります。なぜなら、あなたは他の観察者の期待、自分が何をしようとしていたかについての自分自身の期待、何かの目標状態に関する期待に対して誤りを犯すからです。あなたが何かを狙っていたけれど、それを外したとか。しかし、あなたたちがこの用語を使っている方法では、誤りと非誤りの概念はありますか？それとも他に何かあるのでしょうか？
まず第一に、我々が観察する不変性があります。例えば、私は最近アニミストになりましたが、それは物理主義が間違っていると思うからではなく、生きているものを見るときに我々が見ている不変性が、メカニズム自体ではなく、物理学の領域で実行されているソフトウェアだと考えるからです。
西洋科学の現在の支配的な見方は、世界は機械的であり、メカニズムの観点からそれを説明する必要があるというものです。しかし、我々は例えばお金が機械的ではないことも理解しています。それは世界を解釈するために特定の粗視化を適用したときにのみ現れるソフトウェアです。しかし、世界の重要な側面は、お金を説明項として使用しなければ意味をなしません。なぜなら、お金自体が物理的現実に刻み込まれる不変のパターンだからです。
同じように、心は不変のパターンであり、ソフトウェアは不変のパターンです。我々はソフトウェアを実装するトランジスタの数を気にしません。我々は心を実装する特定のニューロンを気にしません。なぜなら、心はいくつかのニューロンが故障しても他のニューロンを採用することができるからです。
実際の不変性はソフトウェアのパターンなのです。これらの不変性が存在する理由は、それらが現実を制御可能な方法で圧縮するからです。良い制御器の定理によれば、何かを制御したい場合、制御するもののモデルを実装する必要があります。
私は、これが宇宙がこれほど驚くほど学習可能である理由だと疑っています。あなたが観察するすべての構造はおそらく制御構造だからです。つまり、宇宙はあらゆるレベルでその手段を用いてモデルを発見することができたのです。
粒子はおそらく単なる渦なので、そこには発見すべきものはあまりありません。原子と分子は粒子のダイナミクスの上に現れる創発的なパターンです。しかし、細胞にとってはずっと複雑です。細胞には何らかの制御システムが必要だからです。
これは未来を見据えるもので、ここで複雑性が非常に大きくなるため、発見可能なモデルの領域に留まる必要があります。つまり、エージェントが行っていることを非常に圧縮する必要があります。そのため、それを単一のシステムとして、単一の主要な関心事を持つものとして記述し、システムの他のすべての関心事をそれに従属させるのです。
これは、思考と思考者についての我々の議論を思い出させますね、マイク。
うーん、うーん、はい。私は大体それに同意します。そして、使用可能な誤り訂正符号を持つためには、古典的なコミュニケーションも必要だと言いたいです。そして、何が誤りとしてカウントされるかは、あるシステムが見ているものと、他のシステムとのコミュニケーションに基づいて期待しているものとの間の不一致です。
例えば、私が何らかのチャネルを通してメッセージを送信し、あなたがそれを受信しているとします。そのメッセージは、我々が既に何らかの情報、例えば言語や、メッセージが関係するはずの意味的なボックスのようなものを共有していない限り、ノイズにすぎません。
我々が十分に共有していれば、私はビットを送るだけで良く、安全のために3ビット送って誤り訂正能力を与えます。しかし、それらの3ビットは、答えられている質問について我々が既にコミュニケーションを取っている場合にのみ意味を持ちます。
私の意味は、量子符号に関する同じ考慮事項に及びます。
古典的なコミュニケーションについて話すとき、古典的なコミュニケーション以外に何があるのでしょうか？
ここでの問題は、量子理論や情報の流れ、あるいはあなたが使いたいものを使って一連の相互作用を定義しているとき、それらのいくつかを古典的と呼ぶために何を仮定しなければならないかということだと思います。
あなたは熱力学的な不可逆性について何らかの仮定をして、何かを古典的と呼んでいます。私が実際にこれらの言葉を言い、あなたが実際に何らかの重ね合わせではなく、これらの言葉を聞くということです。これは、議論の非常に早い段階であなたが言っていた、重ね合わせに遭遇するが、何らかの規則性に基づいてそれらに秩序を課すということに戻ります。
規則性は古典的です。規則性は基本的に我々が古典的情報と呼ぶものです。
はい、重ね合わせはあまり実行可能ではありません。重ね合わせにない側面に焦点を当てる必要があります。
そうですね、行動という概念自体が古典的です。私がこれをしたのであって、あれをしたのではないということです。
その通りです。そのため、観察者として自分自身を概念化し、記憶を持つなどのためには、システムは自分自身の古典的なモデルを維持できる必要があると思います。
波動関数の崩壊は、あなたが宇宙が古典的であると装うことに失敗する過去の点です。
コペンハーゲン解釈の正しい解釈は、意識が崩壊を引き起こすということではなく、意識は崩壊したタイムラインにのみ存在できるということです。
そうですね、観察者は自分自身を観察者と考える場合にのみ観察者になれると言えます。
はい、ただの瞬間以上に存在するためには。
はい、ある程度の時間にわたってアイデンティティを持つためには。
そうですね、それはマルコフブランケットを持つことと同じではないですか？
基本的には、ある時間期間を定義する必要があるのではないでしょうか？その最小の...それはフレームレートのようなものですが、その時間の間に複数の思考、複数のモデル、あなたが行っていた複数のことがあった場合、それらは一種の重ね合わせにあります。あなたが見ているのがその全期間だとすれば。
それが無限に薄くない場合、つまりこれだったのかそれだったのかを言わなければならない場合、自己の平坦化がある程度広ければ、複数の異なることが起こっていた可能性があり、あなたにとってはそれは重ね合わせです。なぜなら、それ以上細かく切ることができないからです。
これが我々が言っていることではないでしょうか？その最小時間枠内で起こることはすべて重ね合わせですが、時間枠の間では、それがこれだったのかあれだったのかを決定しなければならないということです。
はい、観測されたプロセスのどのようなモデルについても考えてみてください。あなたのラップトップで起こっていることをデジタル化することを考えてみてください。我々はラップトップをナノ秒スケールで観察しますが、フェムト秒スケールでは観察しません。
したがって、それらの観察の間に何が起こるかは気にしません。我々は、効果的にナノ秒幅のスライスの間の古典的な状態遷移だけを考えます。そして、我々の解像度で見ることができるそれらの境界の間では、何らかの量子的なナンセンスが起こっていますが、我々はそれを気にしません。
我々はイベントの持続時間を気にしません。我々が気にするのは、1つのイベントとして見るために統合する持続時間中に、どれだけの数のイベントが発生しているかということです。
そうですね、たとえトランジスタの相互作用がフェムト秒しかかからないとしても、我々がナノ秒スケールや秒スケールで観察しようとしているものに影響を与えるのであれば、我々は非常に気にします。
理論的には気にすることはできますが、私のポイントは、観察的には気にできないということでした。
ただ、そのフェムト秒でどれだけのエネルギーを動かしているかによります。そのフェムト秒が大きすぎてコンピューターを燃やしてしまうほどなら、非常に気にします。
その通りです。しかし、我々はそれを時間的に局在化することはできません。
そうかもしれません。おそらく、本当に気にするなら、最終的には局在化できるでしょう。例えば、すべての関連するイベントがフェムト秒で起こる宇宙に住んでいると想像してみてください。コンピューターを構築するためには、おそらくそれらのフェムト秒を扱う機器を考え出す必要があるでしょう。
もし私たちが陽子だったら、自然とそのタイムスケールを気にするでしょうね。たぶん私たちは陽子なのかもしれません。ただ忘れているだけで...
[笑い]
イタロ・カルヴィーノの『宇宙論的コミック』を読んだことがありますか？
はい、でも随分昔のことです。
素晴らしい本ですよね。彼は宇宙の進化の物語を、陽子のような最小のものから始まり、あらゆる視点から語っています。
まだ見ていませんが、素晴らしい薄い本で、1時間ほどで読めます。驚くべき内容です。
そうですね、そこまで来たので...ちょっと話題を変えてもいいですか？あなたの最小の構成要素の状態に対する見方について少し話せますか？私たちが使ってきたような、プロト認知的な観点をどの程度適用できるでしょうか？最小スケールではどの程度適用できるのでしょうか？粒子とその環境について、何が言えるでしょうか？
私に聞いているのですか、それともクリスに聞いているのですか？
まずはあなたから始めましょう、ヨシャ。
私は、最低レベルはまだ興味深い制御を行使していないと思います。それは単に機械的なものです。ちょうど浴槽に現れる渦が形成されるのに知性を必要としないのと同じように、すべてのパターンを見て、自己伝播するものだけを保持した後に残るものです。
基本的に、現実から誤り訂正しないパターンをすべて選択する選択プロセス、進化プロセスがあります。誤り訂正するものだけが一定の確率で残ります。それらが閾値を超えると、ある一定の時間、それらがほぼ静的であると仮定できます。そしてその上に構造を構築します。
私は、最低レベルではまだ知性がないと考えています。知性は、持続的な粒子が対称性を破る多安定構造にリンクされ、エントロピー勾配を利用できるレベルでのみ形成されます。基本的に、生命が行っていることは、単純な化学反応に打ち勝つ制御された化学反応を行うことです。
それはそうですね。では、それを行っている最も単純なものは何だと思いますか？大まかに言って、何が最初にそれを行っていたと思いますか？
それは非常に難しい質問です。最小の構造は細胞ですが、必ずしも最も単純なものではありません。細胞は信じられないほど複雑だからです。
私は、非常に大規模なシステム、例えば木星の嵐システムが、最初の細胞よりも先に一般知能に目覚める可能性があると想像できます。なぜなら、最初の細胞は非常に複雑だからです。細胞の組立複雑性が本当にどの程度なのか、この最初の細胞がランダムに出現する可能性がどの程度あるのかはわかりません。
一般的に知的なエージェントがはるかに大きなスケールで出現する確率の方が高いかもしれません。この意味で、私たちは細胞中心の視点から見逃しているかもしれませんが、例えば惑星規模で自発的にエージェンシーが形成される可能性があるかどうかはわかりません。
もちろん、原子以下のスケールで素粒子のみから知能を構築することは恐らく不可能です。原子や分子が対称性を破る最初のレベルだからです。
何を探せばいいのでしょうか？例えば、木星の大赤斑のようなものであれば、何を探せばいいのでしょうか？
私は、木星のタイムスケールがあまりにも大きいため、これを解明するのはほとんど無意味だと思います。最終的には、非常に長い時間スパンにわたってシミュレーションを行い、そのシミュレーションがエネルギー最適化システムから逸脱する方法を見る必要があります。そして、観察しているものを説明するために、それが記憶を持ち、未来のモデルを作っていると仮定する必要があるかどうかを見る必要があります。
面白いですね。クリス、あなたはどう思いますか？
未来を計画するためには一定量の複雑性が必要だということに同意します。その複雑性が実際にどこに存在するのかを特定しようとはしませんが。
例えば、原子に結合していない素粒子を見てみましょう。その特徴的なエネルギースケールは非常に大きいです。そのため、私たちのスケールと観察能力で粒子と呼んでいるものは、そのスケールでは何らかの複雑なものです。
最初の数次のファインマン図を描くことを考えてみてください。そこには多くのことが起こっています。そのスケールでのそのような実体が、同じスケールの他の実体と相互作用しているかどうかを考えるのは難しいです。
確かに、私たちが持っているどのような技術でもそれを観察することはできません。私たちは、観察できる解像度でものを物体と呼び、その物体の感覚を任意のスケールまで維持する理論を構築しています。
その理論は、私たちが観察できることを予測しますが、本当にそのスケールで何が起こっているかを記述しているかどうかについては、より危険だと思います。
しかし、確かに、私たちが観察できる知能の種類という観点から見れば、細胞や何らかの方法で境界付けられた経路の集合が、おそらく私たちが考えることができる最小の実体でしょう。そして、おそらく複雑性の低い非常に大きな実体もあるかもしれません。再び、問題は、そのようなものをどのように観察できるかということです。
最小物質に関する非常に興味深い研究があります。例えば、液滴や、ほんの数種類の化学物質だけで構成されているものですが、かなり豊かな挙動を示すものがあります。私たちは、一連のツールと基準を開発し始める必要があると思います。なぜなら、単なる観察だけでは十分ではないからです。
明らかに、何らかの摂動実験を行う必要がありますが、私たちは本当にそれを理解し始める必要があります。なぜなら、そのうちのいくつかは確かに、これらのことを見つける大きな可能性があるように見えるからです。私たちは、そのようなことが起こっていることを示唆する手がかりを得るための一連のテストが必要です。
最後のセットでは、彼らは迷路を走り回り、より高次の構造で集まってきていました。私は彼に、これらの化学物質を見つけるのにどれくらい時間がかかったかを尋ねました。それは合計で3種類の化学物質で構成されていると思います。彼は「基本的に棚から最初に取ったものです」と言いました。
私の推測では、このような種類のものはそれほど珍しくないかもしれません。そして、それはかなり自然なものかもしれませんが、まだ明確ではありません。私は、多様な知能の分野には、これらの種類のシステムで何を探すべきかについて、まだ合意された基準がないと思います。扱いやすいものについてさえも。
もちろん、彼らは経済市場や木星の大赤斑、宇宙の網目構造などについて話しますが、私たちはそこで実験を行うことはできません。しかし、これらの最小の活性システムのいくつかについては実験を行うことができます。そのため、私たちは...はい、いくつかの実験基準を決める必要があります。
それは非常に興味深いですね。私は、最終的には、第一原理からシステムの振る舞いを理解しようとするシミュレーションに頼らざるを得ないかもしれないと考えています。そしてシミュレーションを実行して、観察がどのように逸脱するかを見て、システムにより高いレベルの制御を帰属させる必要がある基準を特定する必要があるでしょう。
はい、私たちはこの種の非常に単純なものを、障害物を回避したり、後で利益を得るために勾配に逆らって後退したりするような、一種の遅延満足の形で見ています。これは極めて単純なシステムでも現れます。
この能力は、非常に...私たちは単純なソーティングアルゴリズムでもこれを研究しました。後で利益を得るために後退する能力です。何も変更する必要はありません。非常に単純なアルゴリズムでもこれらの振る舞いを持つことができます。
私たちは多くの驚きに出会うことになると思いますが、それを探し始める必要があります。
理想的には、システムが自身の将来の利益のために自身の環境を操作する能力を見る方法があるといいでしょう。ある意味で、あなたのアルゴリズム実験では、環境は私たち自身です。
はい、非常に最小限のものがあります。実際の細胞が行うことを模倣するシステムがあります。それは常に自己反発物質を生成します。これが迷路を通過しているときに行うことは、行き止まりに到達すると、しばらくそこにとどまりますが、最終的に自己反発物質が蓄積し、そこから追い出されるのです。
実際には、これは行き止まりに長時間閉じ込められることがないことを意味します。それはあなたを、他に何もできないような袋小路から引き出すのです。これは非常に単純で、環境への一種の痕跡的な効果と見なすことができます。基本的に、10分後に「ここにいてはいけない、どこか他の場所に行け」と言うメッセージの束だからです。
つまり、それはある意味で非常に弱いバージョンのニッチ構築です。
はい、それは探求すべき良い限界のように聞こえますね。
確かにそうです。一般的に知的な自己組織化システムを構築する方法、つまり私たちの心の中で観察される植民地化の種の最小パターンは何かということです。
私は、意識が一貫性を誘導する演算子であると疑っています。私は一貫性の適切な形式化を持っていません...しかし、それは適切にテストされていません。現在、私はそれをモデル間の制約違反の最小化として考えています。
心の中で形成されるコンセンサスアルゴリズムとして考えることができます。それは一つの解釈を見つけようとしています。基本的に、作業記憶内で同時に真である文の数を最大化しようとしています。そこから、観察行為中の観察者が存在しなければならないという概念が生まれるのです。
しかし、私は、自己反射性の現象学は、意識が機能するためには自己組織化である必要があり、そのためには自己安定化と自己観察が必要であるという事実から来ていると疑っています。
そこで、私は、自身を安定に保ち、環境を植民地化するこの最小の自己観察する観察者は何なのか、不変性は何なのか、そしてそれを基板に依存しない方法でどのように形式化できるのかを疑問に思います。
あなたは微生物マットの情報的なアナログを求めているのですか？
いいえ、生物ではなく、有機体のアナログです。私は生物形態以上のものが欲しいのです。自身に構造を課すものが欲しいです。おそらく微生物マットは前駆体です。基本的に、あなたが望む計算を実行するためにトレーニング可能な、自己利益を持つローカルノードを持つ十分な基板です。
実際、彼らはあなたが話していることに向かって進んでいます。なぜなら、ジェソの研究では、これらの生物形態のいくつかは、全体が食べることができるようにする非常に脳のようなカリウム波を持っていることを示しています。
それはネットワーク全体の代謝を同期させます。外側のものがすべての食物を得て、内側が飢えてしまうことがないようにします。これは大規模な...これらの大規模なカリウム波は、まるで...論文の一つは「バクテリアマットにおける脳のようなシグナリング」と呼ばれていました。それは途上にあるのです。ある意味では、部分とは異なることをする全体に向かって作業しているのです。
そうですね、面白いです。では、システムを阻害しているものは何でしょうか？例えば、象は創造的になれないようです。彼らは画像を描くことはなく、ただ描画を一筆一筆模倣するだけのようです。なぜ象は長い幼年期を持っているにもかかわらず、私たちと同じレベルの一般性を達成できないのでしょうか？これは、進化にとって扱いにくい特定の方法でシステムを調整する必要があるためでしょうか？それとも、脳には情報を深く統合できる黄金サイズがあるのでしょうか？
わかりません。象について知っていることは、数年前に私のセミナーシリーズにゲストスピーカーがいて、彼が巨大な木琴を作って、タイだったと思いますが、そのジャングルに野生の象のために置いてくると言っていたことだけです。彼は、野生の象がこれらの木琴に出会うと、すぐにそれが何なのかを理解し、演奏を始めると言いました。私は「それは良い音楽ですか？」と聞きました。彼は「音楽はひどいですが、彼らはそれが好きで、おそらく以前に聞いたことがないにもかかわらず、ただ演奏を始めるのです」と言いました。
そこには何らかの創造性があるのでしょう。なぜそれが良くないのでしょうか？彼らは私たちよりも大きな脳を持っています。
おそらく、彼らにとっては良いのでしょう。
そうですね、おそらく私たちがそれを好きではないだけかもしれません。
いいえ、私は、私たちが良いと考えるものは文化的習慣の問題ではなく、エンコードされている構造の洗練度の問題だと疑っています。
実際、それも興味深いですね。YouTubeには、ある人がバイオリンを持って森に出かけ、演奏を始めると、多くの野生動物がやってくる動画がたくさんあります。キツネがやってきて聞いたりします。これらの野生動物がただやってきて聞くのです。私はいつもそれが本当に興味深いと思っていました。なぜそれが彼らにも良い音に聞こえるのでしょうか？
私は、あなたの質問に対する答えの一部は、単に体の形に関係しているかもしれないと思います。私たちにはこれらの本当に興味深いものがありますが、彼らにはありません。しかし、彼らには良い鼻があります。
そうですね、象は非常に良い鼻を持っています。
はい、象は基本的に私たちと同じくらい良いものを持っています。
そうですね、おそらくそれは脳が早期の発達で遊ぶための同じくらい良い方法かもしれません。
でも、腕なしで育った人々は必ずしも認知的に劣っているわけではありません。
はい、彼らは他の多くの人々が作り出した認知的に豊かな環境で育っています。同じ方法で探索し、これらのモデルを構築しています。基本的に、彼らの脳は抽象的なモデリングのこの洗練度を発見するように進化しています。
私は最近、象の鼻はちょうど...赤ちゃんが腕の使い方を学ぶときのように、最初はバブリングが必要だということを知りました。最初は全くコントロールができません。最初はただクレイジーに波打つだけです。そして最終的にはいくらかのコントロールを得ます。
でも面白いのは、足ではありません。足はかなり早く立ち上がります。足はほとんど最初からすぐに使えるのです。しかし、多くの自由度を持つものは、動き出すまでに時間がかかるのです。