見出し画像

ヨッシャ・バッハ:人工意識と現実の本質 |レックス・フリードマン・ポッドキャスト#101

AIに仕事を奪われたい

75,452 文字

以下は、MIT とハーバードで研究職を務めた経歴を持つ AI Foundation の研究担当副社長、Josha Bach 氏との会話です。Josha 氏は人工知能コミュニティで最もユニークで優秀な人物の 1 人で、人間の心の仕組み、知性、意識、地球上の生命、そしておそらくシミュレートされた宇宙の構造を研究しています。私は将来、Josha 氏と何度も話すことになると思います。広告の簡単な要約: スポンサーは ExpressVPN と Cash App の 2 社です。expressvpn.com/slash lexpod にサインアップし、Cash App をダウンロードしてコード LEXPODCAST を使用して、ポッドキャストのサポートをご検討ください。これは人工知能ポッドキャストです。気に入っていただけましたら、YouTube で購読するか、Apple Podcasts で 5 つ星のレビューを付けるか、Patreon でサポートするか、Twitter で Lex Friedman とつながってください。想像以上に頻繁にこの話題が出てくるので、皆さんに私の名字を E を使わずに綴る方法を考えてみてください。おそらく正しい綴りになると思います。いつものように、これから数分間の広告を入れますが、会話の流れを中断するような広告は途中では絶対に入れません。この番組は ExpressVPN がスポンサーです。このポッドキャストをサポートするには、expressvpn.com/slash/lexpod で入手し、1 年プランでさらに 3 か月分を無料で手に入れてください。私は長年 ExpressVPN を使っています。気に入っています。ExpressVPN は最高の VPN だと思います。そう言うように言われたのですが、実際にそうだと思います。データを記録しないし、超高速だし、使いやすいです。文字通り、大きな電源ボタンが 1 つあるだけです。繰り返しになりますが、明らかな理由から、データがログに記録されないことが非常に重要です。Linux でも、他の場所でも動作します。私のお気に入りの Linux フレーバー、Ubuntu Mate 2004 に拍手を送ります。もう一度、expressvpn.com/slash lexpod から入手して、このポッドキャストをサポートし、1 年間のパッケージでさらに 3 か月無料でご利用ください。この番組は、App Store でナンバーワンのファイナンス アプリである Cash App によって提供されています。入手したら、コード LEXPODCAST を使用してください。Cash App を使用すると、わずか 1 ドルで友人に送金したり、ビットコインを購入したり、株式市場に投資したりできます。Cash App は無料の広告と株式の分割取引を行っているため、分割注文の抽象化を作成するために舞台裏で機能する注文実行アルゴリズムは、アルゴリズムの驚異であることを述べておきます。株式市場の抽象化を次のレベルに引き上げ、新規投資家にとって取引がよりアクセスしやすくなり、分散化がはるかに容易になった Cash App のエンジニアたちには、大いに拍手を送ります。繰り返しになりますが、App Store または Google Play から Cash App を入手し、コード LEXPODCAST を使用すると、10 ドルがもらえます。また、Cash App は、世界中の若者のロボット工学と STEM 教育の推進を支援している組織である FIRST に 10 ドルを寄付します。では、Josje Bach との会話をどうぞ。

あなたがおっしゃったように、マイクの外で話していたように、あなたは東ドイツの森で、アーティストの両親のもとで育ちました。そして今、少なくとも私にとっては、あなたは AI の世界で最もユニークな思想家の 1 人になったと思います。では、あなたの思考を少しリバースエンジニアリングしてもいいですか？成長期にあなたに影響を与え、あなたの知的発達の軌跡を導いたり、軌跡の重要な分岐点となった重要な哲学者、科学者、アイデア、映画、あるいは単なる認識は何でしたか？私の父はバッハ家の遠い分派で、長い伝統を持つ建築家の家系に生まれました。つまり、基本的に彼は技術的に言えばオタクであり、オタクは非標準的な方法で社会と関わる必要があります。私は時々、コミュニケーションの目的はアイデアをピアレビューに提出することだと考える人としてオタクを定義します。そして、普通の人はコミュニケーションの主な目的は調整を交渉することだと理解しています。

これらの目的は衝突する傾向があり、オタクは社会全体とどのように交流するかを学ばなければならないことを意味します。レビュー担当者は誰ですか? オタクのコミュニケーション観では? 同僚とみなすすべての人です。ですから、周囲にどんな不運な個人がいても、その人を情報の贈り物にしようとするでしょう。わかりました。ところで、私の調査は誤った情報を私に与えました。あなたは建築家ですか、それとも芸術家ですか? それとも、その2つは同じものと見なしていますか? 彼は建築を学びましたが、基本的に私の祖父は間違った決断をしました。彼は貴族と結婚しました。そして戦争に巻き込まれました。そして15年後に帰ってきました。つまり、基本的に私の父はオタクに育てられたのではなく、彼に何をすべきかを指示し、言われたことを実行することを期待する誰かに育てられたのです。

そして彼はそれができなかったのです。彼は内発的な動機がなければ何もできないのです。ある意味、祖母は息子をダメにしたのです。そしてその息子は建築家になったとき、建築家になることで応えました。それで彼は100ヴァッサー建築を建てました。直角のない家を建てました。東ドイツのよりブルータリスト的な伝統では通用しないものをたくさん作りました。それで彼は古い水車小屋を購入し、田舎に移り住み、自分のやりたいこと、つまり芸術だけをやりました。東ドイツは物質的に完全に安全だったのでボヘミアンには最適でした。食料は大幅に補助されました。医療は無料でした。家賃や年金など何も心配する必要はありませんでした。ですからそれはドイツの社会主義的な共産主義の側面なのです。そうです。

そしてもう一つは、政府と政治的に意見が合わないことはほとんど不可能で、それはアーティストにとって非常に生産的でした。ですから、あなたがすることすべては本質的に意味があります。なぜなら、それは常に社会や文化のより深い流れに触れ、それと衝突し、緊張するからです。そして、あなたは常にこれに関して自分自身を定義する必要があります。では、政府や世界のアーティストに反対する、型破りな思想家であるあなたの父親は、あなたの人生にどのような影響を与えましたか？彼は実際には思想家ではありませんでした。彼は、自分自身を機能させるために必要な程度に自己認識しただけの人でした。ですから、ある意味では、彼は1960年代後半にいて、ある意味ではヒッピーでもありました。ですから、彼は一人のカルトになったのです。

彼は自分の王国に住んでいました。大きな彫刻庭園を造り、芸術のさまざまな道を切り開き、ある女性を説得して一緒に暮らしました。彼女も建築家で、彼を崇拝し、人生を共にすることに決めました。そして私は、本でいっぱいの大きな洞窟で育ちました。ほとんど野生です。そして退屈していました。とてもとても美しく、とても静かで、とても寂しかったです。それで私は本を読み始めました。そして学校に通うまでに、4年生までのすべての本を読み、それから少し読みました。そして外の世界と関わる本当の方法が私にはありませんでした。そしてその理由はよくわかりませんでした。そして今では、それは明らかに私がオタクだったからだとわかっています。

そして、周りには私しかオタクがいませんでした。だから、私のような子供は他にいませんでした。物理学やコンピューターや数学などに興味がある人は誰もいませんでした。私が通っていたこの村の学校は、基本的に良い学校でした。子供たちは私に優しかったです。私は殴られたことはありませんでしたが、友達をあまり作ったり、深い関係を築いたりもしませんでした。それは、私が数学と物理学の学校に通った9年生から始まりました。この瞬間の重要な本を覚えていますか？はい、基本的に何でも読みました。それで図書館に行って、子供と若者向けのセクションを読み進めました。それから、SFをたくさん読みました。たとえば、サイバネティクスの偉大な著者であるダニスラフ・レムは私に影響を与えました。

当時は、彼が書いたものはすべて私にとってとても自然に思えたので、彼から大きな影響を受けているとは思っていませんでした。後になって初めて、他の人の書いたものと対比するようになりました。私に大きな影響を与えたもう1つのものは、古典哲学者とロマン主義の文学です。ドイツの詩や芸術、ドロステ＝ヒュルスホフやハイネ、ヘッセまでなどです。ヘッセ、私はヘッセが大好きです。では、古典哲学者はどの時点で終わるのでしょうか？現時点では、私たちは21世紀です。最新の古典哲学者は誰ですか？これはニーチェまで続くのでしょうか、それとも、プラトンとアリストテレスについて話しているのでしょうか？ニーチェは、古典的なクソポスターに相当すると思います。つまり、彼は古典的なトロールです。彼は非常に賢く、読みやすいです。

しかし、彼は他人を荒らしているというより、自分自身を荒らしているのです。なぜなら、彼は他人を荒らしているというより、自分自身を荒らしているからです。彼は世界と対立していました。主に、彼の恋愛関係はうまくいきませんでした。彼は怒り、基本的にニヒリストになりました。知識人として、常に自分自身を荒らし続けることは、美しい在り方ではないでしょうか。その葛藤、その緊張の中にいることは。それは自己認識の欠如だと思います。ある時点で、自分の状況の喜劇を理解しなければなりません。自分自身を真剣に受け止め、機能していないと、ニーチェの場合のように悲劇に終わります。彼は自分自身を真剣に受け止めすぎたと思います。ニーチェの場合のように、悲劇に終わります。ヘッセなどにも同じことが見られます。

このステッペンウルフ症候群は典型的な思春期です。基本的に、世界から誤解されていると感じます。そして、その誤解はすべて自分自身の自己認識の欠如の結果であることを理解していません。なぜなら、自分は典型的な人間だと思っているからです。そして、周りの人たちは、生来の本能に基づいて、自分が期待するのと同じように行動するはずです。そして、それはうまくいきません。そして、それに対処するために超越主義者になります。ですから、それはとてもとても理解できることですし、私はこれにとても共感しています。私自身の知的歴史に共感できる程度には。しかし、あなたはそこから成長しなければなりません。ですから、知識人として、よく生きられた人生、よく旅した旅とは、自分自身を真剣に受け止めないことですか？いいえ、あなた自身は真面目でも真面目でもないと思います。

なぜなら、主体として重要でなくなる必要があるからです。つまり、哲学者にとって、信念は動詞ではありません。そうです。これは聴衆のために行うのではありません。自分のために行うのではありません。真実である可能性のあるものを受け入れ、探求が導くところに従う必要があります。しかし、それはあなたのことではありません。あなたとは何の関係もありません。では、アイン・ランドのような人々は、客観的な真実があるという考えを信じていたと思いますか？では、自分自身を対象から外した場合、哲学的にどのような意味がありますか。真実である考えを実際に発見することは可能だと思いますか？それとも、私たちは相対的な結果の網の中にいるだけでしょうか？真実でも偽でもない概念があります。それは巨大な混乱です。

そもそも真実の本質を理解しなければ、客観的な真実を定義することはできません。では、何かを真実であると発見するとは、脳が言う意味は何でしょうか。たとえば、モデルは予測的であることもあれば、予測的でないこともあります。また、数学的な記述が特定の条件下では真実であると定義されているため、それが真実であるということもあります。つまり、基本的には変数がとり得る特定の状態です。そして、システム間の対応関係を持ち、真実について話すことができます。これもまた、モデル対応の一種です。また、特定の種類のグラウンド トゥルースもあるようです。たとえば、何かが存在することの巨大さに直面します。何も存在しないのではなく何かが存在することに気付くと、驚きます。そして、これは真実のようです。

何かが起こっているように見えるという事実には絶対的な真実があります。ええ、私にとってはそれが致命的です。それについて考えてみましょう。私は一生その考えに驚嘆するでしょうが、それ以上先には進めません。なぜならその答えさえ知らないからです。そもそもなぜ何かが存在するのでしょうか? ええと、最も簡単な答えは、存在がデフォルトであるということですね? つまり、これはこれをエンコードするために必要な最小のビット数です。誰の答えですか? これに対する最も簡単な答えは、存在がデフォルトであるということです。非存在についてはどうでしょうか? この意味では、非存在は意味のある概念ではないかもしれません。つまり、ある意味では、存在できるものすべてが存在する場合、何かが存在するためには、おそらく実装可能である必要があります。実装できるのは有限オートマトンだけです。

だから、存在の全体は、すべての有限オートマトンが重ね合わされたものなのかもしれません。そして私たちは、私たちを包含できる特性を持つフラクタルの領域にいるのです。有限オートマトンが重ね合わされているとはどういう意味でしょうか。すべての可能なルールが重ね合わされているということでしょうか。すべてのオートマトンが基本的に何らかの基質に作用する演算子であると想像してください。その結果、パターンが出現します。基質とは何でしょうか。私には全く分かりません。しかし、何らかの基質であることは確かです。それは情報を保存できるものです。情報を保存できるもの、オートマトンが動作しています。状態を保持できるものです。それでも、なぜそれが存在するのか、私には全く理解できません。ただそこに座ってビールやウォッカを飲み、その事実を楽しみながら、その理由について考えることができます。

なぜという問いがないかもしれません。これは、この問いを問うべき間違った方向かもしれません。ですから、目的や原因を問わなければ、なぜという方向には関係がないのです。すべてのものに目的や原因がなければならないということではありませんよね？先ほど、そのことについて少し振り返って、何人かの哲学者について触れました。では、古典哲学はいつ終わったのかと自問しました。ドイツでは、主に第一次革命で終わったと思います。それはどの革命でしたか？君主制が施行され、民主主義が始まったときです。そしてこの時点で、私たちは基本的に、社会が望んでいるこの新しい組織をよく理解していない新しい形態の政府を考案しました。そしてある意味で、それは大学の首をはねました。

大学は首なし鶏のように近代主義を通り抜けていきました。同時に、ドイツでは民主主義が失敗し、その結果ファシズムが生まれました。そして、スターリン主義がロシアで知的伝統を焼き尽くしたのと同じように、ファシズムも物事を焼き尽くしました。そして、ドイツ、両ドイツは、このことから立ち直っていません。東ドイツにはこの俗悪な弁証法的唯物論がありました。そして、西ドイツはハーバーマスほど先鋭化しませんでした。つまり、ある意味では、両国とも知的伝統を失ったのです。ユダヤ人を殺し、追放しても役に立ちませんでした。そうです、それで、本当に厳密な、いわゆる古典哲学は終わりました。また、ある意味では、哲学の簡単な成果はほとんど摘み取られたということもあります。そして、私たちが発見した最後の大きなことは、数学における構成主義への転換でした。

数学の有効な部分は計算であるということを理解することです。20 世紀前半に非常に重要な発見がありました。そしてそれはまだ哲学や物理学に完全には浸透していません。物理学者は構成主義が普及する前に数学のコード ライブラリを調べました。構成主義とは何ですか? ゲーデルの不完全性理論やその種の考えのことを言っているのですか? つまり、ゲーデル自身はまだ理解していなかったと思います。ヒルベルトは理解できました。ヒルベルトは、たとえば、理論的実験と数学が矛盾に陥ることに気づきました。そして、現在の意味論では、数学でクラッシュせずに数学を実行するコンピューターを構築することはできないことに気づきました。そしてゲーデルはこれを証明できました。そしてゲーデルが示すことができたのは、古典的な数学的意味論を使用すると矛盾に遭遇するということです。

ゲーデルはこれらの意味論を強く信じていたので、そして彼が観察できるものなど以上に信じていたので、彼は衝撃を受けました。それは基本的に彼の世界を根底から揺さぶったのです。ある意味で、彼は世界は古典数学で実装されなければならないと感じていたからです。そしてチューリングにとって、それはそれほど悪くありませんでした。チューリングは、古典数学は最初から計算であったことを理解することが解決策であると理解できたと思います。つまり、たとえば古典数学における円周率は値です。それは関数でもありますが、同じものです。そして計算において、関数は計算できる場合にのみ値になります。そして円周率の最後の桁を計算できない場合、関数しかありません。

この関数を近くの太陽に接続し、太陽が燃え尽きるまで実行させることができます。これが、あなたが知る円周率の最後の桁です。しかし、これはまた、物理的な宇宙や物理的に実現されたコンピューターでは、円周率の最後の桁を知っていることに依存するプロセスは存在し得ないことを意味します。はい。つまり、物理学には、厳密には真実ではない方法で定義されている部分があるということです。これが真実であると仮定すると矛盾が生じるからです。ですから、計算を中心に、世界観の中心に置くことが、実際には正しい考え方だと思います。はい。そして、ウィトゲンシュタインはそれを理解できました。そして、ウィトゲンシュタインは基本的に、ミンスキーが30年後くらいに始めたAIの論理プログラムを先取りしたのです。

チューリングは実はウィトゲンシュタインの弟子だったんです。本当ですか？だからチューリングとウィトゲンシュタインに何かつながりがあるとは知りませんでした。ええ。それにウィトゲンシュタインはチューリングがいないときは他の生徒と一緒に時間を過ごす価値がないと考え、授業をキャンセルすることさえありました。おお、興味深いですね。そして『哲学論考』を読めばわかりますが、とても美しい本です。基本的に75ページに1つの考えが書かれています。議論も参照もないので、哲学としては非常に非典型的です。誰かを説得する意図はなく、ただ1つの考えが書かれています。彼は、これは主に私と同じ洞察力を持つ人々に向けたものだと言っています。ただ説明してください。そしてこの洞察とは、数学と哲学が出会うべき方法があるということです。

数学は、言語のドメインを理解しようとします。まず、言語が非常に形式化可能で、記述する文のすべての特性を証明できるものから始めます。しかし、その代償として、言語は非常に単純になります。そのため、数学で意味のあることを言うのは非常に困難です。数学は人々には複雑に見えますが、現実を理解するときに脳がいつも何気なく行っていることに比べれば、はるかに単純です。その通りです。そして、哲学は上から来ています。つまり、漠然と定義された概念を持つ自然言語から始まることがほとんどです。数学と哲学がいつか出会うことが期待されています。そして、ウィトゲンシュタインはそれをやろうとしていました。彼は、それらを出会わせようとしていました。そして、たとえば、NAND計算ですべてを表現できることをすでに理解していました。

現代のコンピューターと同じように、ロジック全体を NAND ゲートに縮小できるということです。つまり、ある意味では、チューリングが明確に述べる前から、彼はチューリングの普遍性を理解していたのです。彼が論理哲学論考を書いたとき、その考えがそれほど重要で意義深いものであることをまだ理解していなかったと思います。そして、チューリングがそれを書き上げたとき、誰もそれほど気にしていなかったのではないかと思います。チューリングは生前、それほど有名ではありませんでした。彼が有名になった、あるいは悪評を得たのは、主にドイツの暗号を解読した功績によるものです。しかし、彼が現在コンピューター サイエンスと AI で得ているこの聖人のような地位は、後になって獲得できるものだと思います。それは興味深いことです。あなたは計算とコンピューター サイエンスについて考え、それが現代的であるかのように私に表現しているのでしょうか。

ある意味、あなたは、哲学がもともと始めたより大きな疑問を敢えて問うコンピュータ科学者のような新しい哲学者です。新しい哲学者です。私ではないと思います。私はほとんど、とても美しい谷で育ち、外から世界を見て、何が起こっているかを理解しようとする子供のままです。先生が教えてくれることも、ほとんど意味がわかりません。だから、自分でモデルを作らなければなりません。他の人が言っていることの根拠を見つけなければなりません。寛大になるために、それを修正しようとしなければなりません。彼らがもともと何を考えていたのか、あるいは彼らの先生やその先生が、翻訳ですべてが失われるまで何を考えていたのか、そしてそれをどう理解するかを理解しようとします。

そして、私たちが置かれている現実を理解しようと努めています。独創的なアイデアが浮かんだときは、たいてい 400 年ほど遅れて参加しています。唯一良いことは、年を重ねるにつれて、そして探求するにつれて、パーティーがどんどん小さくなっていくことです。パーティーが小さくなる？そして、より排他的になります。そして、より排他的になります。ですから、あなたの生い立ちの重要な特徴の 1 つは、親のせいか、あるいは一般的には心の中にある何か、遺伝的要素のせいか、一般大衆の考えに縛られなかったことのように思えます。これは実際には、教育システムやその他の、教育システムではないものが、この世界に存在するだけで、特定の考えをあなたに押し付けるという、ユニークな特性です。

それを解きほぐせますか？なぜそんなに縛られていないのですか？今日のあなたの仕事でも、ヨーロッパで一番の論文など気にしていないようですね？今年流行の特定のものに縛られることは、履歴書や職務経歴書に載せるものとして人々が評価しているようです。あなたはその世界から少し外れています。人々が特に注目しているアイデアの世界、今日のベンチマーク、あなたが解きほぐせるものの世界から外れています。なぜなら、それは刺激的だと思うからです。そして、もしそのような人がもっといたら、AIが解決することを夢見ているような大きな問題のいくつかを解決できるかもしれません。これには大きな危険があります。なぜなら、ある意味では、知的伝統と結婚し、その伝統を特定の学派に持ち込むことが期待されているからです。

誰もが独自のパラダイムを思いついたら、全体としては事業として蓄積されませんよね？ ですから、ある意味では健全なバランスが必要です。パラダイム的な思考をする人、そして与えられたパラダイム内で働く人が必要です。 基本的に、今日の科学は主に方法論によって定義されます。 そして、私たちが科学者だと思っているのは、病気のようなものです。つまり、指導カウンセラーから特定の分野に参加すべきだと説得され、その後、適切な方法を学ぶために良い指導者を見つけ、その後、十分な幸運と特権を得て適切なチームに参加し、影響力のある論文に名前が載る人です。 しかし、このアプローチでは収穫逓減があることもわかっています。 そして、私たちの分野であるコンピューターサイエンスと AI が始まったとき、この分野に参加したほとんどの人は興味深い意見を持っていました。

そして、今日の AI の思想家たちは、まったく興味深い意見を持っていないか、あるいは、実際にやっていることに対して、そうした意見は重要ではありません。なぜなら、彼らがやっていることは、最先端の方法を小さなイプシロンで適用することだからです。そして、これが進歩を遂げる最善の方法だと考えるなら、これは往々にして良い考えです。そして、私にとっては、まず第一に、とても退屈です。他の誰かができるのなら、なぜ私がやらなければならないのでしょうか。現在の機械学習の方法が強力な AI につながるのなら、なぜ私がやらなければならないのでしょうか。私は彼らが終わるまで待ち、彼らがビーチでこれをやったり、面白い本を読んだり、何かを書いて楽しんだりするまで待つだけです。しかし、私たちが現在正しいことをしていないと思うなら、私たちにはいくつかの視点が欠けているなら、既成概念にとらわれずに考える必要があります。

また、ボックスを理解することも必要です。しかし、何がうまくいって何がうまくいかなかったのか、そしてその理由は何なのかを理解することが必要です。ですから、答えたいときにはいつでも新しい質問をして、新しい方法を設計する用意ができていなければなりません。そして、既存の方法が正しい答えを生まないと思ったら、それを捨てる用意ができていなければなりません。そうすることは、キャリアにとって非常に悪いアドバイスです。それで、初期の頃についてもう一度簡単にお聞きしたいのですが、私たちがほぼ始めたばかりの議論に入る前に、あなたにとっての夢はいつだったと思いますか。人間レベルの知能を理解する、あるいは創造するという夢があなたにとって生まれたのはいつですか。今日、AI は主に高度な情報処理として見ることができると思います。

AI の頭文字をそのように変更すれば、この分野のほとんどの人は満足するでしょう。彼らがやっていることは何も変わりません。私たちは統計を自動化しており、統計モデルの多くは統計学者が過去に持っていたものよりも進歩しています。そしてそれはかなり良い仕事です。非常に生産的です。そして AI のもう 1 つの側面は哲学的なプロジェクトです。そしてこの哲学的なプロジェクトは非常にリスクが高く、取り組む人はほとんどおらず、成功するかどうかは明らかではありません。まず第一に、あなたは本当に興味深いアイデアをたくさん投げかけていますが、その中からどれを採用するかを選ばなければなりません。しかし、まず第一に、あなたは「情報処理」という言葉を使っています。情報処理は、存在の単なる泥沼であり、宇宙全体が情報処理であり、意識と知性が情報処理であるかのように、まるでそれが存在の縮図であるかのように。

それで、高度な情報処理が、ある種の限定されたアイデアの領域であるかどうかについて、コメントしていただけますか。そして、もう 1 つは、哲学的プロジェクトとはどういう意味ですか。一般的な知性は、一般的な問題を解決しようとした結果であると私は考えています。したがって、知性はモデル化の能力であると私は考えています。必ずしも目標指向の合理性などではありません。多くの知的な人々はこれが苦手です。しかし、それは、いくつかのパターンが提示され、それらのパターンの構造を理解し、次の一連のパターンを予測して、物事を理解する能力です。そして、いくつかの問題は非常に一般的です。通常、知性は制御に役立ちます。したがって、エージェントとして世界と対話し、特定の結果を得るという特定の目的のためにこれらのモデルを作成します。

しかし、知性自体は、ある意味では何かに役立つものです。しかし、それ自体では、それは単にモデルを作成する能力にすぎません。そして、問題のいくつかは非常に一般的なので、それらを作成するシステムは、それ自体が何であるか、そしてそれが環境とどのように関係しているかを理解する必要があります。たとえば、子供の頃、自分は別のことを望んでいると認識しているにもかかわらず、特定のことをしていることに気付きます。そうすると、自分の心理に気づきます。自分の中に複雑な構造があることに気づき、特定の状況にどう反応するか、環境との関係で自分自身とどう対処するかを予測できるように、自分自身をモデル化してリバースエンジニアリングする必要があることに気付きます。

そしてこのプロセス、このプロジェクトでは、現実との関係や、自分を包含する宇宙の性質について自分自身をリバースエンジニアリングし、最後までやり遂げれば、これは基本的に AI プロジェクトです。あるいは、AI プロジェクトはその中で非常に重要な要素であると言えます。ある意味では、チューリング テストは、システムに「知能とは何か」と尋ねることです。そのシステムがそれが何であるか、どのように機能するかを説明できる場合、この一般的な意味で知能があるという特性をそのシステムに割り当てる必要があります。つまり、チューリングが実施していたテストは、ある意味では、彼がそれを理解できなかったとは思いませんが、1950 年の元の論文ではまだそれを表現していませんでした。つまり、彼は自分が一般的に知能があるかどうかを調べようとしていたのです。なぜなら、このテストを受けるためには、もちろん、システムが言っていることを理解できなければならないからです。

AI を作れるかどうか、私たちが一般的に知的かどうかはまだわかっていません。基本的に、AI を作ればチューリング テストに合格します。そうです。つまり、ある意味では、チューリング テストには一種の再帰テストが隠されています。そうです、それは私たちに対するテストです。チューリング テストは基本的に、人間が自分自身を理解できるほど知的であるかどうかという推測のテストです。わかりました。でも、自己認識と AI プロジェクトについても少し触れましたね。このような自己認識の出現は、知性の基本的な側面の 1 つだと思いますか? つまり、あなたがおっしゃった目標指向のパズルを解くようなものではなく、自分が世界のエージェントであるという考えを理解することです。非常に知能の高い人の多くは、自己認識があまりないと思いますが、そうですよね?

つまり、自己認識と知性は同じではありません。また、特に知性がなくとも、事前知識が優れていれば自己認識できます。そうです。つまり、システムがすでに解決策を実装している場合は、パズルを解くのが得意である必要はありません。しかし、知性は必要です。先ほど、子供のことについて触れましたね。AI の基本的なプロジェクトは、世界に存在できる学習システムを作成することですか? つまり、自己認識と知性の違いを指摘しましたが、それでも自己認識は子供にとって重要だと言いましたね。ですから、世界とその中での自分の位置を理解し、この世界で自分が何をしているかを理解できるようにするこの能力を、感覚と呼んでいます。

そして、私は知覚と知性を区別したいと思います。知覚とは、特定の種類のモデルを所有することです。そして知性は、まだ持っていない場合に、これらのモデルに到達する方法です。わかりました。では、少し立ち止まって、私たちが答えられないかもしれないと言った質問に答えていただけますか。それは、知性とは何かという再帰的なメタ質問かもしれません。知性はモデルを作成する能力だと思います。つまり、モデルです。例として役立つと思います。現在非常に人気があります。ニューラルネットワークは、大規模なデータセットの表現を形成します。それらは、それらのデータセットのモデルを形成します。モデルと言うとき、そして今日のニューラルネットワークを見ると、知性がモデルを作成するプロセスであると言うことと、知性についてどのように考えているかの違いは何ですか。

この質問には 2 つの側面があります。1 つは表現です。表現は、表現したいドメインに適切ですか? もう 1 つは、適切なモデルのタイプです。つまり、基本的には、正しいドメインをモデル化しているかどうかです。どちらの場合も、現代の AI にはまだ欠けていると思います。ここで私が言っているのは、新しいことではないと思います。この分野を批判しているわけではありません。パラダイムを設計するほとんどの人は、そのことを認識しています。つまり、欠けている側面の 1 つは、統合学習です。学習すると、ある時点で、感知するものはすべて同じオブジェクトの一部であることに気付きます。つまり、すべてを 1 つのモデルとして学習するということです。このモデルを宇宙と呼びます。

ですから、私たちが埋め込まれている世界の経験は、物理的現実に直接つながる秘密ではありません。物理的現実は、私たちが経験したりアクセスしたりすることのできない奇妙な量子グラフです。しかし、物理的現実には、世界との体系的なインターフェースで特定のパターンを作成できるという特性があります。そして、私たちはこれらのパターンを理解し、私たちが発見したパターン間の関係が、物理的宇宙と呼ばれています。したがって、神経系としての発達のどこかの時点で、私たちが世界で関係するすべてのものは、概して同じ 3 次元空間内の領域にマッピングできることを発見します。現在、物理学では、これは完全に真実ではないことがわかっています。

世界は実際には3次元ではありませんが、私たちがエンタングルしているレベルでの世界は、大部分は平坦な3次元空間です。これが私たちの脳が直感的に作っているモデルです。そしてこれが、この物質世界、この物質領域のこの拡張性に対する直感を生み出したのだと思います。これは精神領域の1つですが、この環境、つまり私たちが埋め込まれているこの3次元物理エンジンに関連するすべてのモデルのクラスです。物理学。私たちが埋め込まれている物理エンジン。私はそれが好きです。そうですね。ちょっとゆっくり止まって。量子グラフとあなたが呼んだと思いますが、それは私たちが決してアクセスできない現実の世界です。それを解きほぐしたい質問がたくさんあります。

でも、役に立つかもしれない話が 1 つあります。それは、私が見たあなたの最近の講演の 1 つです。基本的なことを説明していただけますか。二元論とは何か、理想主義とは何か、唯物論とは何か、機能主義とは何か、そして、あなたにとって最も関係のあることは何ですか。先ほどおっしゃったように、私たちがアクセスできない現実があるという点について。わかりました。それは一体どういう意味ですか。なぜ私たちはそれにアクセスできないのですか。私たちはその現実の一部ではないのですか。なぜそれにアクセスできないのですか。西洋に主に存在する特定の軌跡は、2,000 年にわたるカルトによる教化の結果です。カルトですか。どれですか。主にカトリックのカルトです。そして、良くも悪くも、それが私たちの最も重要な相互作用のモードの多くを創造または定義し、この社会を創り出してきました。

しかし、ある意味では、それは私たちの理性を傷つけました。そして、カトリック教会の神話を現代の世界に翻訳すると、存在する直感は、あなたと私が交流する世界は、マルチプレイヤー ロールプレイング アドベンチャーのようなものだということです。そして、この世界で私たちが持っているお金や物はすべて現実ではありません。または、東洋の哲学者が言うように、それはマヤです。それは意味があるように見えるものにすぎず、この意味に埋め込まれることは、それを信じるならば、輪廻です。それは基本的に、平凡で世俗的な毎日の存在の必要性との同一化です。そして、カトリック教徒はまた、より高い意味、神聖なものの概念を導入しました。これは以前から存在していましたが、最終的に、神の自然な形は、あなたが属する文明のプラトン的な形です。

それは基本的に、個人が意図的な主体として形成する超有機体です。そして基本的にカトリック教徒は、比較的粗雑な神話を使って人々の心にソフトウェアを実装し、ソフトウェアを同期させて人々を足並みを揃えて歩かせることで、基本的にこの神をオンラインにして効率的かつ効果的なものにしました。そして私は、神は技術的には、主に 1 つの脳だけに存在するあなたや私の自己とは対照的に、複数の脳を使用する自己にすぎないと考えています。したがって、ある意味では、脳によって実装され、脳全体に存在する機能として、機能的に自己を構築することができます。そしてこれは小文字の g を持つ神です。これは、ユヴァル・ハラリが言っているような、私たちの脳の優れた機能の 1 つで、私たち全員が同じソフトウェア (この場合は神) をダウンロードして、それを共有できるということのようです。

そうですね、基本的には全員に仕様を与え、情報処理に固有の数学的制約により、同じ仕様が与えられれば互換性のある構造が生まれることが保証されます。つまり、私たち全員が共有するアイデアの空間があり、私たちはそれが一種の心だと考えていますが、それはキリスト教や宗教の考え方とは別のもので、心と現実世界の間には別のものがあるということです。現実世界があり、この現実世界は神が存在する世界です。神はいわばマルチプレイヤー アドベンチャーのプログラマーであり、私たちは皆このゲームのプレイヤーです。それが二元論です。そうです。しかし二元論的な側面は、精神領域が物理領域とは異なる実装で存在するためです。そして精神領域は現実です。

そして、多くの人が、あなたと私が今話しているこの現実の部屋があり、その上に物理学や抽象的なルールなどの層があり、そして私たちの魂がいる別の現実の部屋があるという直感を持っています。そして私たちの本当の姿は、私たちに驚異的な経験を与えるものではありません。そして、これはもちろんあなたが得る非常に混乱した概念です。そしてそれは基本的に、唯物論と理想論を間違った方法で結び付けた結果です。それで、わかりました。申し訳ありませんが、私たちが定義しようとすると本当に役立つと思います。二元論とは何ですか？理想論とは何ですか？唯物論とは何ですか？知らない人のために。私たちの文化的伝統における二元論の考え方は、精神的な実体と物理的な実体の2つの実体があり、それらが異なるルールで相互作用するというものです。

そして、物理世界は基本的に因果的に閉じており、低レベルの因果構造の上に構築されています。つまり、基本的には因果的に閉じた最下層で、完全に機械的です。そして、最も広い意味での機械的です。つまり、計算的です。基本的に、情報が流通する物理世界があり、物理学はこの世界で情報がどのように流通するかの法則を説明します。ハードウェアとソフトウェアがあるコンピューターのようなものに例えますか? コンピューターは流通する情報の一般化です。基本的に、チューリングは普遍的な原理があることを発見しました。すべての計算を実行できるこの普遍的なマシンを定義できます。つまり、これらすべてのマシンは同じパワーを持っています。つまり、無制限のメモリがあり、お互いの計算を実行できる限り、常にそれらの間の変換を定義できます。

では、唯物論ではこの世界全体がハードウェアにすぎず、観念論ではこの世界全体がソフトウェアにすぎないと言えるのでしょうか。そうではありません。観念論者のほとんどはまだソフトウェアという概念を持っていないと思います。ソフトウェアも結局は情報処理に帰着するからです。つまり、あなたと私にとって唯一現実であるのは、物事が重要であり、物事に味があり、物事に色があり、現象的内容などがあるこの経験的世界だということにお気づきでしょう。ここで意識を持ち出していますね。わかりました。これは、物事が抽象的な意味でのみ価値を持つ物理的な世界とは異なります。そして、あなたは動き回る冷たいパターンしか見ていません。では、何かが何かのように感じられるのはなぜでしょうか。

そして、この 2 つのもののつながりは、多くの人々、そしてもちろん多くの哲学者にとって非常に不可解です。つまり、観念論は、心が第一であるという概念から始まります。唯物論は、物質が第一であると考えています。そして観念論者にとって、私たちが見ている物質的なパターンは、心が夢見ている夢の一部です。そして、私たちは、望むなら、より高い存在の次元の心の中に存在します。そして、唯物論者にとって、この物質的なものだけがあり、それがいくつかのモデルを生み出し、私たちはこれらのモデルの結果です。そして、ある意味では、適切に理解すれば、唯物論と観念論は二分法ではなく、同じものの 2 つの異なる側面として理解すべきだと思います。

奇妙なのは、私たちは物理的な世界には存在しないということです。私たちは、脳が自ら語る物語の中に存在しているのです。わかりました。私の情報処理部門に、それを理解させましょう。理解させましょう。私たちは物理的な世界には存在しないのです。私たちは物語の中に存在しているのです。基本的に、脳は何も感じることができません。ニューロンも何も感じることができません。それらは物理的なものです。物理的なシステムは何も経験できません。しかし、人間になることがどのようなことか、何かを感じることがどのようなことかを知ることは、脳や生物にとって非常に有益でしょう。そうです。そこで脳は、そのような人間の似姿を作り出し、それを使って人間の相互作用をモデル化します。それは、その脳、つまりこの生物が環境との関係において自分自身がどのようなものであると考えているかを示す最良のモデルです。

つまり、そのモデルが作られるのです。それは物語であり、脳が継続的に書き、更新しているマルチメディア小説です。しかし、あなたはまた、私たちはその物語の中に存在しているともおっしゃいました。その物語の中に、そうです。その物語の中に。ええ、素晴らしいことです。この中で何が現実なのでしょうか？つまり、再び、これらの用語は、量子グラフがあると言っていましたね。つまり、この全体は何で動いているのでしょうか？物語ですか？そして、それにアクセスすることは完全に、根本的に不可能なのでしょうか？なぜなら、物語は、脳が何らかの文脈の中に存在しているはずではないでしょうか？つまり、コンピューター科学者として私たちが特定できることは、私たちが観察している現象を生み出すのに必要かつ十分な特性を持つシステムを設計し、理論をテストできることです。その現象とは、この霊長類の頭蓋骨に含まれる誰かの大脳新皮質で生成される仮想世界における自己です。

そして、私がこれを指摘するとき、この指標性はもちろん間違っています。しかし、私はあなたの網膜にパターンを生じさせ、私が言っていることをあなたが解釈できるようにする何かを創り出していますよね？しかし、あなたと私が見ている世界は実際の物理的世界ではないことは私たちも知っています。私たちが見ているのは、網膜のパターンを説明するためにあなたの脳内で生成された仮想現実です。それは現実世界にどれくらい近いのでしょうか？それが一種の質問です。ドナルド・ホフマンのような人が、あなたは本当に遠くにいると言うとき、私たちが見ているもの、つまりあなたと私が今見ているもの、私たちが持っているそのインターフェースは、何からも非常に遠いのでしょうか。私たちは現実世界がどのようなものであるかという感覚に近いものさえ持っていません。

それとも、非常に表面的な構造なのでしょうか? マンデルブロ フラクタル、ベルナール マンデルブロが発見した有名なものを見てみましょう。そうです、マンデルブロです。そこに全体的な形状が見えますか? しかし、本当に理解していれば、2 行のコードであることがわかります。基本的には、複素数平面で各ポイントの複素数をテストしているシリーズです。シリーズが発散している部分は黒く塗ります。収束している部分は塗りません。発散する距離をチェックすることで中間色を取得します。これで、このフラクタルの形状が得られます。しかし、自分がこのフラクタルの中に住んでいて、フラクタルのどこにいるのかアクセスできないと想像してください。または、ジェネレーター関数さえ発見していないと想像してください。

つまり、今見えているのは螺旋だけです。そして、この螺旋は少し右に動いています。これは現実の正確なモデルでしょうか? はい、そうです。適切な説明です。マンデルブロ フラクタルには実際には螺旋がないことはご存じでしょう。これは、物事を 2 次元空間として解釈し、現在観察している特定のスケールでそこに特定の規則性を定義している観察者にのみこのように見えます。ズームインすると螺旋が消えて、異なる解像度で別のものになる可能性があるからです。はい。つまり、このレベルでは螺旋があります。そして、螺旋が右に動いて、ある時点で消えていることに気づきます。つまり、特異点があります。

この時点で、モデルはもはや有効ではありません。特異点の向こうで何が起こるかを予測することはできません。しかし、もう一度観察すると、特異点が別の螺旋にぶつかり、この時点で消えていることがわかります。つまり、2 次法則ができたことになります。これらの法則を 30 層にすると、私たちが周囲の現実を説明するときに思いつくのと似た世界の説明が得られます。これはかなり予測的です。核心に迫るものではありません。どのように生成されるのか、実際にどのように機能するのかは説明しません。しかし、私たちが絡み合っている宇宙を説明するには比較的優れています。しかし、コンピューター サイエンスのツールや物理学のツールを使って、全体像を見て、螺旋が生成される基本的なメカニズムを理解できるとは思いませんか?

マザーボードのフラクタルに埋め込まれた自分を想像してください。何が機能するかを考えようとします。どうにかして、考えるのに十分なメモリを備えたチューリング マシンを手に入れたとします。その結果、これは何らかのオートマトンに違いないという考えに至ります。そして、現実を生み出すオートマトンにたどり着くまで、考えられるすべてのオートマトンを列挙するだけかもしれません。そうすれば、必要十分条件を特定できます。たとえば、数学自体がすべての言語のドメインであることを発見します。そして、私たちが発見した数学のドメインのほとんどが、ある意味で同じフラクタルを表していることがわかります。これが、カテゴリ理論がこだわっていることです。これらの異なるドメインを互いにマッピングできるということです。したがって、フラクタルはそれほど多くありません。

これらのいくつかは興味深い構造と対称性の破れを持っています。したがって、第一原理から、このグローバル フラクタルのどの領域に自分が埋め込まれている可能性があるかを発見できます。ただし、そこに到達する唯一の方法は、第一原理からのみです。つまり、基本的に、宇宙の理解は、オートマトンから始まり、次に数論、空間などになります。そうですね、スティーブン ウルフラムは、セル オートマトンの基本ルール、またはその一般化が私たちの宇宙の背後にあることを今でも夢見ていると思います。このトピックについて、最近の会話で、シミュレーションは意識的ではなく、物理システムだけが意識的であると考える人がいると発言しました。しかし、彼らは完全に逆のことを言っています。シミュレーションは意識的ではありません。シミュレーションだけが意識的であるのです。

意識は、シミュレートされた自己のシミュレートされた特性です。あなたが言ったように、心は、物語、ナラティブとでも言うべきものです。つまり、私たちの心は本質的にシミュレーションなのでしょうか? 通常、私は、心は基本的にシミュレーションを生み出す原理であるという用語を使用するようにしています。それは、脳によって実行されるソフトウェアです。そして、心は、私たちがいる宇宙と自己の両方を生み出しています。注意の反対側にあり、この世界に埋め込まれている人という概念です。なぜそれが重要なのでしょうか。自己という概念はなぜ重要なのでしょうか。なぜそれがシミュレーションの重要な機能なのでしょうか。それは基本的に、心が持つ目的の結果です。それはモデリングのためのツールです。私たちは実際には猿ではありません。

私たちはサルの調整ニーズの副作用です。サルが調整しなければならないのは、生物と、大部分が他の生物で構成される外界との関係です。その結果、サルは基本的に、到達しようとする調整ターゲットを持っています。これらの調整ターゲットは、事前条件から始まります。これらは基本的に、多かれ少なかれ私たちが生まれながらに持っている無条件反射のようなものです。そして、それらをリバース エンジニアリングして、より一貫性を持たせることができます。そして、世界がどのように機能し、どのように相互作用するかについてのより詳細なモデルが得られます。したがって、コミットするこれらの事前条件は、主に、私たちのニーズが近づくべき目標値、設定点です。設定点からのこの逸脱は、何らかの衝動、何らかの緊張を生み出します。

そして、私たちはフィードバック ループの中に生きていることに気づきます。意識は、宇宙との不一致の次元から生まれます。あなたが気にかけるもの、物事が本来あるべき姿ではないもの、あなたが調整する必要があるもの。ですから、ある意味では、感覚そのものが、あなたが持っているすべての同一視の結果なのです。そして、同一視は、あなたがコミットしている調整対象です。それは、あなたが気にかける次元、あなたが重要だと思う次元です。そして、これは、あなたがこれらのコミットメント、これらの同一視を手放すと、あなたを閉じ込めるものでもあります。あなたは自由になります。もう何もする必要はありません。そして、もしあなたがそれらすべてを手放すと、あなたは完全に自由になり、もう終わりなので涅槃に入ることができます。

ところで、ここでちょっと立ち止まって、あなたの研究を紹介してくれた友人の Gustav Su00f8derstru00f6m に感謝を述べたいと思います。彼に感謝の意を伝えたいです。彼は素晴らしい人で、AI コミュニティは実に素晴らしいと思います。Gustav はその代表です。あなたもそうです。まず第一に、インターネットや YouTube があって、そこであなたの講演を観て、あなたの本を読んで、あなたの文章を研究して、すごいな、と思うことができるのが嬉しいです。わかりましたが、シミュレーションから意識が出現する現象について説明しましたね。では、意識の難しい問題についてはどうですか? もう少し詳しく話していただけますか?

なぜ、自己はシミュレーションの重要な部分であるとあなたがおっしゃっているのは理解していますが、シミュレーションが何かのように感じられるのでしょうか。たとえば、ジョージ・R・R・マーティンの作品では、登場人物がもっともらしい心理状態にあり、丘の下にある都市を征服したいがために丘の上に立っています。彼らはそれで満足し、空の色を見て不安になり、力を得たように感じたり、さまざまなことをします。なぜ彼らはこのような感情を抱くのでしょうか。それは、それが物語に書かれているからです。そうでしょう。物語に書かれているのは、それが人物の適切なモデルであり、次に何をするかを予測するからです。同じことが私たちにも当てはまります。

つまり、これは基本的に私たちの脳が書いている物語です。言葉で書かれているのではなく、知覚コンテンツ、基本的にはマルチメディア コンテンツで書かれています。そして、それが存在したらその人がどう感じるかというモデルです。つまり、これは仮想の人物です。そして、あなたと私はたまたまこの仮想の人物です。この仮想の人物は言語中枢にアクセスし、空が青いと話します。これが私たちです。でも、ちょっと待ってください。私はあなたのシミュレーションの中に存在しますか? あなたは私とほとんど同じように存在しています。ですから、私にはアクセスしにくい内部状態があなたにはあるなどです。そして、私のモデルは完全に適切ではないかもしれません。また、私があなたについて認識していて、あなたが認識していないものもあります。

しかし、ある意味では、あなたも私も操り人形です。私の心の中で劇を演じる2つの操り人形です。そして、私はそのうちの1つの操り人形を直接制御できるので、その人形と自分を同一視します。そして、もう1つの操り人形では、その間に何かを作ることができます。たとえば、私たちは相互作用を続け、それがカップリング、フィードバック ループにつながることもあります。つまり、私たちは物事を特定の方法で同期させたり、一緒に感じたりすることができます。しかし、このカップリング自体は物理的な現象ではありません。完全にソフトウェアの現象です。2つの異なる実装が相互作用した結果です。興味深いですね。つまり、あなたの考え方では、存在全体がシミュレーションであり、私たちそれぞれの心が小さなサブシミュレーションであるということを示唆しているのですか?

それは、なぜあなたは、なぜ私の心の完全な状態にアクセスできないのか、ということです。私の心がそれ自身の完全な状態にアクセスできないのと同じ理由です。つまり、トリックは関係ありません。基本的に、私が自分自身について何かを知っているときは、モデルを作成したからです。つまり、脳の一部は、脳の他の部分が何をしているかをモデル化する役割を担っています。そうです。しかし、物理的な意味で、この世界には信じられないほどの一貫性があるようです。繰り返し可能な実験などがあります。ええ。それは、猿の子孫である私たちの愚かな世界のシミュレーションにどのように当てはまるのでしょうか。なぜすべてがそれほど繰り返し可能なのでしょうか。すべてではありません。長期間にわたってあらゆる場所で繰り返し可能な基礎物理学の実験がたくさんあります。

物理法則は、どのように当てはまるのでしょうか。決定論的でない世界の部分は、長生きしないようです。ですから、システム、あらゆる種類のオートマトン、つまり何かのシミュレーションを構築すると、持続する現象は安定したダイナミクスを生み出すものであることに気付くでしょう。ですから、基本的に、世界で複雑なものを見た場合、それは通常、特定のアトラクターの周りで安定を保つ何らかの制御、何らかのフィードバックの結果です。そして、安定していないもの、特定の調和パターンなどを引き起こさないものは、時間の経過とともに除去される傾向があります。ですから、私たちのような心を実装するために必要な複雑さを維持する宇宙の領域にいる場合、これは非常に厳密に制御され、制御可能な宇宙の領域になります。

ですから、興味深い対称性がたくさんあり、対称性が崩れて構造が作られることになります。でも、それらはどこに存在するのでしょうか? 私たちの心は、物語を構築するシミュレーションであるという興味深い考えがあります。私の質問は、それが宇宙全体とどのように当てはまるかを理解したいだけです。この宇宙には、私たちのような生き物を創造するのに十分な複雑さを許容する領域があるとおっしゃっていますが、脳、心、そしてより広い宇宙の関係はどのようなものでしょうか? どれが先ですか? どちらがより根本的ですか? 宇宙が創発するとき、心が出発点ですか? 心が創発するとき、宇宙が出発点ですか? 私は明らかに後者だと思います。少なくとも、それははるかに簡単な説明です。なぜなら、因果モデルを作ることができ、逆因果関係を構築する方法が見つからないからです。

では、心のシミュレーションが死ぬと何が起こるでしょうか? 私の実装は停止します。つまり、基本的に私自身を実装するものは存在しなくなります。つまり、私が他の人々の心に実装されていない場合、私が同一視するもの、奇妙なことに、私が構築するアイデンティティ以上のアイデンティティは実際には存在しないということです。私がダライ・ラマだった場合、彼は政府形態として同一視します。つまり、基本的にダライ・ラマは混乱しているからではなく、人間として同一視していないために生まれ変わります。彼は人間によって動いています。彼は基本的に、新しい世代ごとにインスタンス化される政府のソフトウェアです。そのため、彼の顧問は、次の世代でこれを行う人を選ぶことになります。

ですから、これに自分を同一視するなら、あなたはもはや人間ではなく、死ぬのはあなたが生きている人間の肉体だけという意味で、死ぬことはありません。ダライ・ラマを殺すには、彼の伝統を殺さなければなりません。私たち自身を見れば、私たちのほとんどは、このような小さな一部にすぎないことに気づきます。たとえば、あなたに子供がいれば、彼らの中に何かが生き続けていることに気づくでしょう。あるいは、あなたが世界にアイデアを起こせば、何かが生き続けます。あるいは、あなたが周囲の社会に自分を同一視する場合。なぜなら、あなたもその一部だからです。あなたはただの人間ではありません。ジョシュア・バックはアイデアの集合体であるという意味で、あなたはダライ・ラマのようなものです。

つまり、たくさんのアイデアが共存し相互作用するオペレーティング システムがあるわけです。そして、あなたが死ぬと、そのうちのいくつかは船から飛び降ります。言い換えれば、アイデンティティはソフトウェアの状態です。それは構築物です。物理的に実在するものではありません。アイデンティティは物理的な概念ではありません。基本的には、同じ世界線上にあるさまざまなオブジェクトの表現です。アイデンティティは生きては死んでいきます。あなたはこれに執着していますか? 根本的なものは何ですか? アイデアが集まってアイデンティティを形成するのですか? それとも、個々のアイデンティティは実際に根本的なものですか? それは、あなたが気にするなら、あなたが主体的に行動できる表現です。つまり、基本的に、望むなら、自分が何と同一視するかを選ぶことができます。しかし、心が実在しないのであれば、誕生と死は心の重要な部分ではないようです。

まあ、私がバカなのかもしれない。この生物全体に執着しているのかもしれないが、この世界で物理的なものが物理的な物体であることは、誕生と死の重要な側面であるように思える。死ぬためには物理的でなければならないように感じる。シミュレーションは死ぬ必要がないように感じる。私たちが経験する物理法則は、本当の物理法則ではない。現実世界には色も音もない。色と音は、発振器で現実をモデル化したい場合に得られる表現の一種だ。つまり、色と音にはある意味でオクターブがある。それは、おそらく発振器で表現されているからだろう。だから、色は使用の循環を形成するのだ。そして、脳内で発振器を同期させる結果として、色には倍音があり、音には倍音がある。

ですから、私たちが主観的にやりとりする世界は、基本的に脳内の表現メカニズムの結果です。それらは数学的にある程度普遍的です。パターンには発見できる規則性があり、他のパターンには発見できません。しかし、私たちが得るパターンは現実の世界ではありません。私たちがやりとりする世界は常に、数え切れないほど多くの部分で構成されています。この表などを見ると、数え切れないほど多くの分子と原子で構成されています。したがって、総体的なダイナミクス、つまり極限ダイナミクスのみを見ることになります。ほぼ無限の数の粒子があった場合、表のダイナミクスはどうなるでしょうか。おおよそ次のようになります。

つまり、私たちが扱う幾何学は、極限で機能する演算子を発見した結果であり、収束する無限級数を構築することで得られるものです。収束する部分は幾何学で、収束しない部分はカオスです。その通りです。そして、そのすべてが私たちの物語に現れる意識を通してフィルタリングされます。意識が色、感覚、風味を与えます。感覚の風味などは、ある特徴と他のすべての特徴との関係によって決まると思います。基本的に、それは私たちの主観的な宇宙である巨大な関係グラフです。色は、表現の側面、つまり、あなたが気にかける、識別する、何かが何かを意味する、フィードバック ループの内側にいる、経験的な色によって決まります。

思いやりの次元は、基本的に、私たちが浮かび上がるこの動機付けシステムの次元です。関係性、グラフの意味について、もう少し詳しく説明していただけますか？たとえば、意識とはどこにあるのか、一歩下がって、もっと体系的に考えると、意識とは何かという質問をすることもできます。意識についてどうお考えですか？意識は、主に注意の内容のモデルだと思います。これは、特定のタイプの学習のために進化したメカニズムです。現時点では、機械学習システムは、主に、非線形性のある実数の加重和のチェーンを構築することで機能します。そして、これらの異なるチェーンレイヤーにエラー信号をパイプし、加重和の重みを調整することで学習します。

十分なトレーニング データがあれば、これでほとんどの多項式を近似できます。ただし、その代償として、これらの重みを大量に変更する必要があります。基本的に、エラーは、ネットワーク内の特定の接合部で蓄積されるまで、システム内を逆方向にパイプで送られます。そして、他のすべては、たとえ統計的に、これらの接合部でのみ出てきたとしても、ネットワーク内で実際のエラーがあった場所であり、そこで変更を加えます。これは非常に遅いプロセスです。そして、私たちの脳にはそのための十分な時間がありません。なぜなら、機械が囲碁を学ぶのと同じように、私たちは囲碁を打てるほどには年をとっていないからです。そのため、代わりに私たちが行うのは、注意に基づく学習です。ネットワーク内で改善できる可能性のある領域を正確に特定します。

そして、この結合状態を期待される結果とともにプロトコルに保存します。そして、学習の目的でインデックス付きの記憶を作成し、後でこれらのコミットメントを再検討する能力には、注意の内容の記憶が必要です。もう 1 つの側面は、私が現実を構築するときに間違いを犯すということです。そのため、反射や影などであることが判明したものを見ることがあります。つまり、私の知覚のどの特徴が現在の現実の構築を引き起こしたかを指摘できなければなりません。したがって、システムは現在焦点になっている特徴に注意を払う必要があります。また、システム自身が注意を払っているかどうかにも注意を払う必要があります。これは、注意システムが同じメカニズムでトレーニングされるため反射的であるだけでなく、注意自体に注意を払わないと注意が失われるためでもあります。

では、今見ているものは、私の脳がある種の白昼夢に陥った単なる夢なのでしょうか、それとも私はまだ自分の知覚に注意を払っているのでしょうか。ですから、定期的に戻って、まだ注意を払っているかどうかを確認する必要があります。そして、このループがあり、システムが注意の内容を認識することと、システムが注意を払っているという事実と、注意をその注意の対象にすることとの間に十分な緊密さがあれば、これが私たちが目覚めるループだと思います。つまり、意識の基礎となる、何らかの形で自己参照的な注意メカニズムがあるのです。質問ですが、最近の自然言語処理のブレークスルーについてあなたがどの程度ご存知かわかりませんが、注意メカニズムを使用し、ネットワークが各個人の文の特定の部分に注意を集中できるようにすることで、パターンや特定のプロセスを学習するためにトランスフォーマーと呼ばれるものを使用します。

つまり、文章を少し覗き込むことで、文章のダイナミクスをパラメータ化して学習可能にするのです。これは、意識が生まれる意図的なメカニズムに最終的に私たちを導くための小さな一歩だと思いますか？ いいえ、そうではありません。これは注意の 1 つの側面をモデル化しているだけだと思います。自動言語翻訳の初期の頃、私が特に面白いと思った例がありました。英語のテキストをドイツ語に翻訳しようとした人が、コウモリが窓を割ったというものでした。ドイツ語の翻訳は Eine Fledermaus zerbrach das Fenster mit einem Baseballschläger でした。英語に戻すと、コウモリ、この空飛ぶ哺乳類が野球のバットで窓を割った、となります。

そして、このプログラムに最も似ているように思われたのは、同じ文の中で「コウモリ」という概念をドイツ語に翻訳する可能性を何とか最大化したからです。これは、トランスフォーマー モデルがアイデンティティを追跡しているために起こらない間違いです。トランスフォーマー モデルの意図的なメカニズムは、基本的に個々の概念に焦点を当て、これらの概念がテキストの後半に現れるようにし、テキストを通じて基本的に個人を追跡することです。これが、システムが以前の他のシステムではできなかったことを学習できる理由です。これにより、たとえば科学者について語るテキストを書くことができます。すると、科学者には名前と代名詞があり、その科学者についての一貫したストーリーが得られます。このシステムが行わないことは、これを完全に統合しないことです。

ですから、この意味はある時点で崩れてしまいます。文脈を見失います。それが言うことはすべて同じ宇宙を指している必要があることをまだ理解していません。そして、これがこのものが崩れるところです。しかし、トランスフォーマー モデルにおける注意は、アイデンティティの追跡を超えるものではありません。アイデンティティの追跡は注意の重要な部分ですが、非常に特殊な別の注意メカニズムです。そして、それは私たちが持っているタイプの意識を生み出すものではありません。ちょっと長々と聞きますが、言語の文脈におけるアイデンティティとはどういう意味ですか? 言語について話すとき、同じ概念を指すことができるさまざまな単語があります。わかりました。概念の空間、そうです。

また、名目上の意味や指示的な意味にもなり得ます。つまり、この単語は、このクラスのオブジェクトを指すだけでなく、明確なオブジェクト、つまりストーリーの中で波打つ何らかのエージェントを指し、言語内ではさまざまな方法でのみ参照されます。つまり、言語は基本的に、概念的な表現、つまり進化するシーンから、離散的なシンボルの文字列への投影です。そして、トランスフォーマーができること、それは、他のモデルが学習できなかったこの投影メカニズムの側面を学習することです。ニューラル ネットワークとは異なり、またはニューラル ネットワーク内で、概念の空間が統合され続けるものを形成できる人工知能や何らかの構築アイデアを見たことがありますか?

つまり、あなたがおっしゃっているのは、知識ベースを構築し、より深い理解を可能にする、一貫性のある、より大きなアイデアのセットを構築することです。ウィトゲンシュタインは、言語からすべてを構築できると考えていました。基本的には論理的な文法的構成から。そして、ある程度、これはミンスキーの考えでもあったと思います。だからこそ、彼は常識や推論などに重点を置いたのです。そして、彼に触発されたプロジェクトが Psyche です。それは今も続いています。そうです。もちろん、アイデアは死なないのです。死ぬのは人間だけです。それは本当です。しかし、Alt-Psych は生産的なプロジェクトです。ただ、おそらく汎用的な知能に収束するものではないでしょう。ウィトゲンシュタインが解決できなかったこと、そして彼が晩年の著書「哲学探究」で取り上げた問題は、イメージの概念でした。

ですから、Tractatus では画像が重要な役割を果たします。Tractatus は基本的に哲学を論理プログラミング言語に変える試みです。これを行うのに十分な豊富な実際の哲学を行うことができる論理言語を設計することです。そして、困難は知覚内容を扱うことでした。そして最終的に彼はそれを解決できないと判断したと思います。そして、これが AI におけるロジスト プログラムの失敗を先取りしたと思います。そして、今日私たちが見ている解決策は、より一般的な関数近似が必要であるということです。近似することを学ぶ関数、幾何学的関数がありますが、文法言語では効率的に表現および計算できません。もちろん、数論などを経由して代数で学習し、この幾何学の近似を計算するオートマトンを構築できます。

しかし、言語と幾何学を同一視するのは、効率的な考え方ではありません。機能的、つまり、ニューラル ネットワークは、ニューラル ネットワークが取るアプローチの一種であり、言語で表現できるものよりも実際はより一般的であるとおっしゃいました。その通りです。つまり、文法言語を処理するデータ レートで、言語で効率的に表現できるもの。つまり、言語は重要ではないとウィトゲンシュタインが主張していることにあなたは同意しません。私はウィトゲンシュタインの後期の考えに同意し、また、初期のウィトゲンシュタインの素晴らしさにも同意します。論理哲学論考自体は、おそらく 20 世紀に書かれた最も美しい哲学書だと思います。しかし、言語は認知や知性、意識にとって重要ではありません。

ですから、言語は特定の方法、つまり私たちが使用している自然言語は、私たちが互いにコミュニケーションをとるために使用する特定のレベルの抽象化であると私は考えています。しかし、幾何学を表現する言語は、同じ意味での文法言語ではありません。したがって、それらは少し異なる方法で機能します。それらは、より一般的な関数の表現です。そして、モデルの一般的な性質は、一連のパラメータがあり、これらには範囲があり、これらは世界の分散であり、それらの間の関係が制約であり、特定のパラメータがこれらの値を持つ場合、他のパラメータは次の値を持たなければならないというものです。これは、コンピューター サイエンスの非常に初期の洞察であり、最も初期の定式化の 1 つはボルツマン マシンだと思います。

ボルツマン マシンの問題は、それが良いかどうかの尺度はあるものの、基本的にはシステムのエネルギー、制約が完全に一致しない制約に残っている緊張の量であるということです。このグローバルな尺度があるにもかかわらず、トレーニングするのは非常に困難です。なぜなら、システムにごく少数の要素、パラメータを追加するとすぐに、適切なアーキテクチャに落ち着かせるのが非常に難しくなるからです。そこでヒントンとザノウスキーが見つけた解決策は、ボルツマン マシンの隠しリンク、内部リンクを使用し、基本的に入力層と出力層のみを持つ制限付きボルツマン マシンを使用することでした。しかし、これではボルツマン マシンの表現力が制限されます。そこで彼は、これらの原始的なボルツマン マシンの小さなネットワークを構築しました。

ある意味、このモデルから現在使用しているディープラーニング モデルまで、ほぼ継続的な発展が見られます。この時点ではボルツマン マシンは使用していませんが、ボルツマン マシンの考え方は、このモデルを使用して、いくつかの値を知覚に固定し、これによりマシン全体が現在知覚している状態と互換性のある状態に強制的に移行します。この状態が世界のモデルです。そうです、これはモデルについての非常に一般的な考え方だと思います。ただし、これを機能させるには別のアプローチを使用する必要があります。つまり、ボルツマン マシンをトレーニングする別のネットワークを見つける必要があります。

つまり、ボルツマン マシンをトレーニングするメカニズムと、ボルツマン マシンをその状態に落ち着かせるメカニズムは、ボルツマン マシン自体の制約されたアーキテクチャとは別物です。つまり、私たちが開発したいのは、そのようなメカニズムだとおっしゃるわけですね。そうですね、私たちの研究が向かう方向は、たとえば、知覚において、私たちの世界の知覚モデルは確率的ではなく可能性的であることに気づくでしょう。つまり、ありそうにないがありそうなことを知覚できるはずです。そうですよね? 知覚状態は、ありそうかどうかではなく、ありそうな場合に有効です。一貫性があれば。つまり、トラが追いかけてくるのを見たら、ありそうになくてもそれがわかるはずです。そして、その確率はモデルの収束に必要です。

非常に大きな可能性の状態と一連の知覚的特徴を前提として、モデルの状態を自分の知覚に収束させるにはどうしたらよいでしょうか。しかし、自分が感じている文脈と一貫性のあるアイデアの空間は、おそらくそれほど大きくはありません。つまり、かなり小さいのです。達成すべき一貫性の度合いは、もちろん、モデルをどれだけ深く掘り下げるかによって異なります。たとえば、ゲーム理論や人間性についてほとんど知らない場合、政治は非常に単純です。したがって、若いほど、政治がどのように機能すべきかが明らかになります。そうでしょう? 比較的少ない入力から一貫性のある美学が得られるからです。そして、モデル化するレイヤーが増えるほど、現実をモデル化するレイヤーが増えるほど、すべての制約を満たすことが難しくなります。

ご存知のとおり、現在のニューラル ネットワークは、基本的にフィードフォワード ニューラル ネットワークを使用した教師あり学習システムです。学習にはバックプロパゲーションを使用します。学習手順を改善するためにどのようなメカニズムを採用すべきかについて、あなたの直感はどうですか? 大きな側面の 1 つはメタ学習になると思います。アーキテクチャの探索はこの方向から始まります。ある意味では、AI の第一波、つまり古典的な AI は、問題と可能な解決策を特定し、その解決策を実装することで機能しました。そうですか? チェスをプレイするプログラムです。そして現在、私たちは AI の第二波にいます。したがって、解決策を実装するアルゴリズムを作成する代わりに、解決策を実装するアルゴリズムを自動的に検索するアルゴリズムを作成します。したがって、学習システムは、ある意味では、囲碁のように、問題を解決するアルゴリズムを自ら発見するアルゴリズムです。

Go では、手作業でソリューションを実装するのは難しすぎますが、ソリューションを見つけるアルゴリズムを実装することはできます。では、第 3 段階に進みましょう。第 3 段階はメタ学習です。特定のドメインの学習アルゴリズムをカバーするアルゴリズムを見つけます。私たちの脳はおそらく学習システムではなく、メタ学習システムです。これは、私たちが行っていることを見る 1 つの方法です。たとえば、脳の実装方法を見ると、別の方法があります。すべてのニューロンにどのように配線するかを指示する中央制御はありません。代わりに、すべてのニューロンは個別の強化学習エージェントです。すべてのニューロンは単細胞生物であり、非常に複雑で、ある意味では、餌を得る動機が非常に強いです。そして、平均して適切なタイミングで発火すると、餌が得られます。

そして、適切なタイミングは、ニューロンが存在するコンテキスト、つまりニューロンが持つ電気的および化学的環境に依存します。したがって、ニューロンは基本的に、いつ発火して餌を得るかを伝える環境に関する機能を学習する必要があります。または、強化学習エージェントとして見ると、すべてのニューロンは、信号を送信し、宇宙全体に信号をパイプし、それに対する肯定的なフィードバックを得ようとする際に、ある意味で仮説を立てています。そして、全体が脳に堅牢に自己組織化されるように設定されています。つまり、どの仮説をテストし、報酬をどのように得るかについて、異なる事前条件を持つさまざまなニューロンタイプから開始することになります。

そして、それらを特定の空間配置で異なる濃度に置き、特定の順序で同調させると、結果として、よく組織化された脳が得られます。つまり、脳は、強化学習エージェントの束を備えたメタ学習システムです。あなたが言ったと思いますが、明確にするために、損失関数はここにある、損失関数はここにある、損失関数はここにあると指示する中央政府は存在しません。目標は何かを決めるのは誰ですか? 脳のさまざまな部分に損失関数を課す政府もあります。つまり、私たちは差別的注意を持っています。脳の一部の領域は、顔を見ると特別に報酬を受け取ります。それがない場合は、基本的に顔で人を区別できない相貌失認になります。

そうなるのは、進化上の利点があったからです。つまり、ここで進化が関係してきます。しかし、基本的には、顔に対する私たちの並外れた注意力​​の問題です。相貌失認の人の脳に欠陥があるとは思いません。脳は顔に対して平均的な注意力しか持っていません。相貌失認の人は、コップを見るよりも顔を見ることはありません。顔の形状を解読するレベルは、コップの場合よりも高くありません。相貌失認のない人は、執拗に顔を見ます。あなたや私にとって、顔をスキャンせずに群衆の中を移動することは不可能です。その結果、私たちは顔の非常に詳細なモデルを作成し、それによって人々の精神状態を識別できるようになります。ですから、明らかに私たちは、私たちの心であるこのメタ学習システムの詳細の 99% を知りません。

それでも、進化の過程を通じて、私たちはもっと愚かなものから、あれほどの飛躍を遂げました。まず、私たちの脳から、類人猿の祖先から多細胞生物に至るまで、それがどれだけ困難で大きな飛躍だったか、教えていただけますか。そして、知能を設計する方法について考え始めるときに、私たちが考えるべきこと、進化から学べることは何かありますか。ある意味では、生命は制御された化学反応の市場機会のおかげで存在しています。私たちは愚かな化学反応と競争し、いくつかの分野ではこの愚かな燃焼に勝っています。なぜなら、より多くのエネルギーを得るために特定の方法で少しのエネルギーを加える必要があるエントロピー勾配を利用できるからです。つまり、私たちは燃焼に打ち勝ったのです。はい、多くの分野でそうしています。

我々は一生懸命努力します。なぜなら、直接競争すると負けてしまうからです。燃焼は我々が走れるよりもずっと速くエントロピー勾配を閉じるからです。はい、分かりました。これは非常に美しいカパリの考えです。ええ、基本的に我々はすべての細胞にチューリングマシンが組み込まれているためにこれを行います。文字通りテープの読み書きヘッドのようなものです。そして、アトラクターの周りの渦巻きである分子よりも複雑なものはすべて、その制御にチューリングマシンが必要です。そして細胞を結合すると、細胞が一緒になって何らかのソフトウェアを実装する次のレベルの組織有機体が得られます。そして私にとって、昨年の非常に興味深い発見はスピリットという言葉でした。スピリットが実際に意味するものは、自律型ロボットのオペレーティングシステムであることに気付いたからです。

そして、その言葉が発明されたとき、人々はその言葉を必要としていました。しかし、自分たちで作ったロボットはありませんでした。自律型ロボットとして知られているのは、人間、動物、植物、生態系、都市などだけでした。そして、それらはすべて精神を持っていました。植物はオペレーティングシステムであると言うのは理にかなっていますよね？植物のある部分をつまむと、植物全体に影響が及びます。植物のすべては、他の生物と同様に、ある意味では全体的な美学につながっています。生物は細胞の集まりではありません。細胞に行動の仕方を指示する機能です。そして、この機能は、形態形成場のような超自然的なものとして実装されているわけではありません。各細胞と他の細胞との相互作用から生じる結果です。

ああ、なんてことだ。つまり、生物は細胞に何をすべきかを指示する機能であり、その機能は細胞の相互作用から生まれる、ということですね。はい。つまり、基本的には、マクロ状態の観点から植物が何をしているかを説明したものです。マクロ状態、つまり物理的な実装は、記述するには数が多すぎます。つまり、植物が何をしているかを記述するために使用するソフトウェア、つまり植物の精神は、ソフトウェア、つまり植物のオペレーティングシステムです。これは、私たち観察者が植物を理解する方法です。人間にも同じことが言えます。つまり、人間には精神があり、それはある意味で彼らのオペレーティングシステムですよね？そのオペレーティングシステムには、身体の機能や他者との社会的相互作用、自分自身との相互作用などに関連する側面があります。

そして私たちはその精神のモデルを作ります。そしてそれは科学以前の時代の言葉なので、意味の重い言葉だと考えています。しかし科学の時代になって、ほぼ同じ意味の言葉が再発見されるまでには長い時間がかかりました。そして、古い言葉と新しい言葉の間に今でも見られる違いは、何世紀にもわたって忍び込んだ翻訳の誤りではないかと私は疑っています。その点についてもう少し詳しく話していただけますか？なぜその精神と言うのですか？ちょっと混乱しているので明確にしておきますが、精神という言葉は強力なものですが、なぜこの1年かそこらでこれを発見したと言ったのですか？同じ古くて伝統的な精神の考えを意味しているのですか？人々が精神という言葉で何を意味しているのかを知ろうとしています。

米国でスピリチュアリティと言う場合、それは通常、文化がない中で発達した幻肢を指します。そして文化はある意味では、長期戦を戦う社会の精神と言えます。これは、個人を超えたレベルで自己認識し、次のことを行わなければ、私たちの子供たちの孫の孫の孫は食べるものがなくなってしまうと言うものです。ですから、種としてプレイしているゲームの長さを最大限にしようとするこの長期的な視野で、自分が完全に制御できないより大きなものの一部であることを認識するには、エコスフィアを完全に制御しようとするのではなく、それに従う必要があるでしょう。

人類が生き残りたければ、ある一定のレベルまで生存できる必要があります。そして私たちの文化はもはやそれを維持できていません。私たちは基本的に、産業革命ですべてを制御できるという賭けをしました。そして基本的に自由な成長を遂げた近代主義社会は、地球全体を制御できる能力に依存する状況をもたらしました。そしてどうやら私たちにはそれができないので、この文化は消滅するでしょう。そして私たちは、この文化に未来がないことに気づいています。私たちは子供たちをジェネレーション Z と呼んでいます。それはとても楽観的なことです。ええ、あなたは私たちの文明、つまり文化と言いましたが、実際には文明の精神、文明全体が長くは続かないかもしれないという直感を持っています。

ええ。それを解き明かしてもらえますか？その背後にある直感は何ですか？あなたはオフラインで私に、産業革命は、私たちが提案を受け入れ、紙に署名し、産業革命の点線に署名した瞬間に、私たち自身を破滅させたと言っていました。それについて詳しく説明してもらえますか？疑念があります。もちろん、それがどのように展開するかはわかりませんが、エントロピーの深淵の上に自分自身を非常に高くレバレッジし、反対側に土地がない社会では、カンチレバーがいつかエントロピーの深淵に崩壊し、代償を払わなければならないことは比較的明らかであるように思われます。ロシア語は私の母国語であり、私はバカでもあります。私もそうです。

これはバナナで遊ぶ代わりに、ただ2匹の猿が会話で楽しもうとしているだけです。わかりました。擬人化って何ですか？ では、人類学的とは何ですか？ エントロピック。つまり、エントロピーという意味でのエントロピックですね。ああ、エントロピック、分かりました。エントロピック、あなたが使った他の単語は何でしたっけ？ 深淵。それは何ですか？ 大きな峡谷です。ああ、深淵。深淵、そうです。エントロピックな深淵。あなたが言うことの多くは詩的です。私の脳を傷つけ、壊しています。そして、発音も間違っています。素晴らしいでしょう？ 発音が間違っているからこそ、さらに詩的になります。ウィトゲンシュタインも誇りに思うでしょう。つまり、エントロピックな深淵です。では、話を巻き戻しましょう。産業革命。それでは、どのようにしてエントロピックな深淵に陥るのでしょうか？つまり、ある意味、私たちはみんなが水道を使えるようにするために、1億年分の木を燃やしたことになるのです。その通りです。

それ以前の社会の人口はごく限られていました。ですから、紀元前0年から基本的に人口は3億から4億の間を推移していました。そうです。そして、この状況が変化したのは啓蒙時代とそれに続く産業革命の時だけです。ある意味では、啓蒙時代は私たちの合理性を解放し、また私たちの規範を既存の秩序から徐々に解放しました。これは基本的にフィードバックループで起こったプロセスであり、どちらか一方が他方を引き起こしたわけではありません。それは始まった原動力でした。そして、その原動力は基本的に生産性を非常に高め、すべての子供たちを養える程度まで高めることで機能しました。貧困の定義は、子供たちが死ぬ前に養えるだけ養えるということだと思います。これはある意味では地球上のすべての動物が陥っている状態です。

貧困の定義は、足りていることです。つまり、養えるだけの数の子供を持つことができ、それ以上になると子供は死んでしまいます。その通りです。そして私たちの社会では、基本的に望むだけ子供を持つことができ、子供は死にません。その通りです。つまり、私たちが望むだけの数の子供を持たない理由は、子供を多く持つと、社会階層の下位に身を置くことになるという代償を払わなければならないからです。つまり、基本的に下層階級、中流階級、上流階級の人は、子供の数を制限しています。それ以上子供を持つと、個々の家庭に大きな経済的打撃を与えることになるからです。その通りです。特に米国では、子供を持つのは非常に費用がかかるからです。

そして、あなたがこの制度から除外されるのは、基本的に超金持ちか超貧乏な場合だけです。超貧乏なら、あなたのステータスが変わらないので、何人の子供がいても関係ありません。そして、これらの子供たちは主に飢え死にすることはありません。では、これがどのようにして私たちを自滅に導くのでしょうか? つまり、このプロセスには多くの不快な特性があります。つまり、基本的に私たちがやろうとしていることは、子供たちが病気にかかっても生き延びさせることです。たとえば、現代医学がなければ、私は20代半ばまでに死んでいたでしょうし、私の友人のほとんども同様でした。つまり、私たちの多くは、現代医学と現代の工業化社会の利点がなければ生きられなかったでしょう。私たちは主に自然全体を征服することでタンパク質を得ています。

非常に賢い微生物が私たちの体内に住み、それを完全に収穫し、生きていくのに必要な物に変えてしまうと想像してください。そして、例えば脳細胞は食べられるが、あまり良いものではないということを発見するでしょう。そのため、脳細胞にはもっと脂肪が必要で、脂肪細胞に変えるのです。そして基本的に、この大きな生物は、ほとんど生きていない野菜になり、環境が変化すると非常にもろくなり、回復力もなくなります。ええ、しかし、その生物の一部、実際にすべてを使用している部分は、まだ繁栄しているでしょう。ですから、これは最初の質問に関係します。私たちはこの惑星で一番賢いものではないのではないかと思います。

基本的に、フィードバック ループに依存する複雑なシステムはすべて、何らかの複雑な制御を持たなければならないと私は考えています。たとえば、植物にはある程度の知能があると考えられます。問題は、植物には神経系がないことです。つまり、動物のように、メッセージを長距離にわたってほぼ瞬時に電信送信する方法がありません。代わりに、隣接する細胞間の化学物質に頼ることになります。つまり、信号処理速度は、1 秒あたり数ミリメートルの速度の信号処理に依存します。その結果、植物が知能を持っていても、同様の時間スケールでは知能を持たないことになります。ええ、時間スケールは異なります。つまり、私たちは最も知能が高いわけではないかもしれませんが、この空間スケールと時間スケールでは最も知能が高いのです。

つまり、基本的に、非常に遠くまでズームアウトすると、地球上には何千年もの間、ほとんど邪魔されない状態で存在してきた知的な生態系があることが発見されるかもしれません。そして、これらの生態系は積極的に環境と関係していた可能性があります。つまり、基本的に、この生態系内の進化の方向を変えて、より効率的で脆弱でないものにします。つまり、植物のようなものは、実際には生物の集合体であり、異なる時間スケールで活動し、人間よりもはるかに優れた知性を持つ生物の生態系である可能性があります。そして、人間は絶滅しますが、植物はそこに残り続けます。はい、これらすべてのレベルで進化的適応が役割を果たしています。

たとえば、ネズミが十分な餌を得られずストレスを受けると、次の世代のネズミはよりまばらで痩せこけた体になります。その理由は、自然環境ではネズミが干ばつなどに見舞われている可能性が高いからです。そして、ネズミが食べ過ぎれば、ネズミの栄養源となるものはすべて絶滅してしまうかもしれません。そして、数世代後にはネズミはいなくなります。ですから、5世代後にネズミがいなくなるように、ネズミは基本的に規模を縮小します。ネズミの捕食者にも同じようなことが起きます。捕食者はネズミが完全に絶滅しないようにしなければなりません。ですから、ある意味では、捕食者が十分に賢ければ、ネズミの食糧供給を管理する任務を負うことになります。

ライオンの脳がレイヨウよりも大きいのは、レイヨウを捕まえるのがライオンから逃げるのに比べてとても難しいからというよりは、ライオンは環境の複雑なモデルを作る必要があるからかもしれません。レイヨウよりも複雑です。まず第一に、たくさんの複雑なシステムがあり、人間は地球上でもそれらの複雑なシステムの中で最も特別でも知的でもないかもしれないと説明するだけで、私たちが話している人類の絶滅について少し安心できます。そうです。私たちは、二酸化炭素を大気中に戻すためのガイアの策略にすぎないのかもしれません。進化の大きな汚点は私たちではありません。それは木々です。地球は木々が再び消化される前に進化させました。

これらすべてを分解できる昆虫はいませんでした。セルロースは非常に頑丈なので、微生物ですべてを取り出すことはできません。これらの木の多くは沼地に倒れました。そして、この炭素はすべて不活性になり、もはや生物にリサイクルできなくなりました。そして、私たち人類は、その処理を運命づけられた種です。地中から取り出して大気中に戻し、地球はすでに緑化しています。ですから、100万年かそこらで、生態系が現在は対応できない急激な変化から回復すると、地球は再び素晴らしいものになるでしょう。そして、私たち小さな類人猿の記憶さえもなくなるでしょう。私たちの記憶は残ると思います。この意味で、私たちは最初の一般的に知的な種ではないかと思います。

人間は工業社会における最初の種です。なぜなら成層圏に携帯電話よりも多くの骨を残すことになるからです。ええ、骨よりも骨です。いいですね。でも反論させてください。あなたは、知性の定義が非常に狭いと示唆していますね。つまり、なぜ木はもっと一般的に知性を持たないのでしょうか? 木に知性があったとしても、時間スケールは異なります。つまり、100年以内に木が作るモデルは、人間が10年かけて作るモデルほど複雑ではないでしょう。でも、もしかしたら木が携帯電話を作ったのかもしれません。そうですよね? 知性と生命全体がそれを成し遂げたと言えるでしょう。最初の細胞は死ななかった。最初の細胞は分裂して分かれただけです。

そして、私たちの体にあるすべての細胞は、まさにその最初の細胞から分かれた最初の細胞の例です。私たちが知る限り、この惑星には細胞は 1 つしかありません。したがって、細胞は単なる生命の構成要素ではありません。それは超個体です。そして、私たちはこの超個体の一部です。したがって、この超個体ではなく、その小さな特定の枝である人間は、産業革命とおそらく技術の指数関数的な成長により、何らかの形で私たち自身を破壊する可能性があります。では、私たちが自分自身を破壊する最も可能性の高い方法は何だと思いますか? 遺伝子操作を心配する人もいます。私たちが話したように、愚かな人工知能または超知能の人工知能が私たちを破壊することを心配する人もいます。核兵器や戦争兵器全般を心配する人もいます。

どう思いますか？もしあなたが賭けをする人なら、自滅に関して何に賭けますか？そしてそれは 50% より高いでしょうか？ですから、賭けに勝った後は、賭けたものは何の意味も持たなくなる可能性が非常に高いのです。ですから、賭けは文字通り正しい方法だとは思いません。つまり、死んでしまえば、羽を回収することはできないのです。人類が絶滅するかどうかも明らかではありません。しかし、現在の文明は持続可能ではないと思います。ですから、変わるのは、地球上の人口が今日よりも少なくなることでしょう。そうでなくても、地理的変化や食糧供給の変化により、今日生きている人のほとんどは、100 年後には子孫を残せなくなるでしょう。

100年後には、地球上の多くの地域が閉鎖型冷却チェーンでのみ居住可能になる可能性が非常に高いです。つまり、現在は快適に暮らせる赤道周辺や亜熱帯気候の地域の多くが、エアコンなしでは居住できなくなるでしょう。すごいですね、冷却チェーン、緊密な冷却チェーンコミュニティ。それでは、地球温暖化の影響を強く懸念しているのでしょうか? それ自体は大きな問題ではありません。今アリゾナに住んでいると、夏の3か月間は基本的に屋外に出られません。つまり、閉鎖型冷却チェーンがあるのです。車や家にエアコンがあれば大丈夫です。そして、エアコンが数日間止まれば、多くの地域では生き延びることができないでしょう。

ちょっと立ち止まってもいいですか？あなたはとても素晴らしい詩的なことをたくさんおっしゃっています。「閉鎖冷却チェーン」という言葉は使われますか？肉をスーパーマーケットに運ぶ方法を説明するときに使われるのではないかと思います。冷却チェーンが壊れて肉が解凍し始めたら、困ったことになるので捨てなければなりません。とても美しい言い方ですね。都市を閉鎖的な社会チェーンと呼ぶようなものです。その通りです。その場所性は本当に重要です。基本的には、空調の効いた部屋で目を覚まし、空調の効いた車で仕事に行き、空調の効いたオフィスで働き、空調の効いたスーパーマーケットで買い物をし、その間に車からスーパーマーケットまで走る非常に短い距離がありますが、体温が環境温度に近づかないようにしなければなりません。

重要なのは湿球温度です。これは、濡れた布を温度計に巻き付け、空気中を素早く動かしたときに得られる温度です。蒸発熱が発生します。蒸発によって体温を 35 度以下に下げることができなくなると、すぐに死んでしまいます。つまり、外界が乾燥していれば、汗をかいて体を冷やすことができます。しかし、ある程度の湿度があったり、一定の温度を超えたりすると、汗をかいても助からなくなります。つまり、たとえ健康で体力のある人でも、数時間以内に日陰に入ろうとしたりすれば、死んでしまうということです。何らかの空調設備がない限りは。

これ自体は、文明が維持され、エネルギー供給があり、気候に適応したフードトラックが自宅にやって来る限り、すべて順調です。しかし、同時に大規模なオープン農業が失われたらどうなるでしょうか。つまり、基本的には、気候が非常に不規則になり、天候が非常に不規則になり、異常気象が多く発生するため、食糧不安に陥ります。そのため、ほとんどの食料を屋内で栽培するか、特定の地域から食料を輸入する必要があります。そして、地球全体で文明を維持し、食料を自宅に届けるインフラを整備することができないかもしれません。その通りです。しかし、人々が苦しみ始めるという意味で、大きな影響が出る可能性があります。資源をめぐる戦争などが起こる可能性があります。

しかし、究極的には、この状況が引き起こす最悪の被害のいくつかを防ぐのに役立つ技術革新の可能性について、信念ではなく、どうお考えですか? たとえば、ほとんど現実味のある例として、SpaceX とイーロン マスクが行っている、宇宙の深宇宙に人類を伝播させて他の惑星を植民地化することを検討するという取り組みがあります。これは 1 つの技術的ステップです。しかし、もちろん、イーロン マスクが火星で試みているのは、地球温暖化から人類を救うためではありません。なぜなら、火星は地球温暖化の考えられる最悪の結果を経た後の地球よりもはるかに悪い状態だからです。火星は基本的に居住可能ではありません。確かに非常に過酷な環境ですが、彼が行っていること、そして産業革命以来の歴史を通じて多くの人々が行っていることは、何らかの目標を持ってさまざまな技術革新を行っているに過ぎません。

そして結局、まったく予想外の新しいものが生まれます。ですから、非常に過酷な環境である火星をテラフォームしたり植民地化したりしようとすると、コミュニティに力を与えるこの閉鎖冷却回路のパワーを拡張または増強するまったく新しいアイデアが生まれるかもしれません。私たちが持っているこの共同オペレーティングシステムの無制限の技術革新と、資源を過剰に使用して自らを破滅させようとする一般的な傾向との間には、ちょっとした競争があるように思えます。技術がその競争に勝てるとは思いませんか？ たとえば、米国は 1970 年代から技術面で停滞しているので、その可能性は比較的低いと思います。私たちが行うことのほとんどは、漸進的なプロセスの結果です。インテルはどうですか？

ムーアの法則はどうでしょうか。基本的には非常に漸進的です。私たちが行っていること、マイクロプロセッサの発明は大きな出来事でした。トランジスタの小型化は本当に大きな出来事でした。しかし、その後に私たちが行ったことは、大部分はそれほど革新的ではありませんでした。CPU から GPU などへのスケーリングなど、徐々に変化してきました。しかし、基本的に多くのことが起こっていないとは思いません。70 年代に絶頂期に亡くなった人であれば、再び最新の情報を得るためにそれほど多くの本を読む必要はありません。しかし、すべては本に関することです。誰が本を気にするでしょうか。本を超えたものがあるかもしれません。あるいは、論文など。いいえ、論文です。論文は忘れてください。論文と本と知識、それはろうそくの明かりの下で座って知識を個人で消費していた時代の概念です。

では、私たちがまだその渦中にいない、Twitter や YouTube の理解ではないかもしれない影響についてはどうでしょうか。私が今日ここに座っているのは、Twitter と YouTube のおかげです。その波及効果と、2 つの心、2 匹の愚かな類人猿が、おそらく新しい明確な洞察を思いつき、それを今聞いている他の 200 匹の類人猿、20 万匹の類人猿がいます。その影響が何をもたらすか理解するのは非常に困難です。それはマイクロプロセッサのどの進歩よりも大きいかもしれません。その知識、そしてその知識によって、優れたアイデアが何百万もの人々にはるかに速く伝わります。そしてその影響、それが新しい、21 世紀になるかもしれませんが、アイデア、優れたアイデアの増殖です。

なぜなら、今日あなたが良いことを一つ言えば、それが膨大な数の人々に伝わり、彼らが何かを言い、論文を書くことになるからです。それは大きなことになりかねません。そう思いませんか？ ええ、今、私たちは2つのリングで何十億もの葬式を行うべきですが、何らかの理由でそうしていません。その理由は、私たちが集中力を失っているからではないかと思います。また、もちろん、動機も異なります。ですから、私たちがここに座って、YouTube ビデオとしてこれをやっている理由は、あなたと私には今一緒に本を書く集中力がなく、おそらくあなた方にはそれを読む集中力がないからです。私たちはあなたの注意力に気を配っているだけです。それは非常に短いものです。

しかし、1時間40分が経過しましたが、80%の人がまだ聞いていることを保証します。つまり、集中力には限界があるということです。形式の問題です。本が情報伝達の最適な方法だと誰が言ったのでしょうか? これはまだ未解決の問題です。ソーシャルメディアには、他の形式ではできないことができる何かがあります。ソーシャルメディアの最終目的は、グローバルブレインだと思います。Twitterはある意味ではグローバルブレインですが、一種の抑制であり、結果として永久発作に陥っています。また、ある意味ではマルチプレイヤーロールプレイングゲームでもあります。人々はTwitterを使用して、同じ世界にいた自分とは異なるアバターをプレイし、携帯電話のレンズを通して世界を見て、それが現実の世界であると考えています。

しかし、Twitter の世界は、Twitter の人気インセンティブによって歪められています。そうです、インセンティブ、そして、どんな場合でも「いいね！」をすると自然に分泌されるドーパミンの分泌です。私は、禅のようなミニマリストでいようと努め、いいね！などに左右されないようにしていますが、ある程度それを避けるのはおそらく非常に難しいでしょう。Twitter について少し話がそれますが、Twitter をもっと良くするにはどうしたらいいでしょうか。まさにあなたがやっていることをすることで、Twitter は社会に大きな影響を与える素晴らしいメカニズムだと思います。まさにあなたが説明したことをすることで、私たちはある種のゲームのようなもので、このゲームでは私たちは一種の個々の現実世界のエージェントであり、中央集権的な制御がないため制御不能である、ということになります。

ジャック・ドーシーもツイッターのエンジニアも、このゲームをコントロールできないようです。それとも、できるのでしょうか？これは一種の質問です。このゲームをコントロールする方法について、何かアドバイスはありますか？私は専門家ではないのでアドバイスはできませんが、このことに関する私の考えを述べることはできます。私たちの脳は、この問題をある程度解決しています。私たちの脳には、ある意味で協力し合う個々のエージェントがたくさんいます。また、他の生物が協力の問題を解決する方法を見つけたコンテキストもたくさんあります。これはツイッターでは解決できません。そして、おそらく解決策は進化論的なアプローチを取ることです。では、Reddit のようなもの、Facebook のようなもの、Twitter のようなものがあると想像してください。そして、それらの共通点について考えてみましょう。

これらの企業に共通するものは何でしょうか? ある意味でプロトコルを所有している企業です。このプロトコルはコミュニティに課せられており、プロトコルには収益化、ユーザー管理、ユーザー表示、評価、匿名性、他のコンテンツのインポートなど、さまざまなコンポーネントがあります。では、これらのプロトコルのコンポーネントを分解し、ある意味でこのソーシャル ネットワーク内のコミュニティのように行うことを想像してください。これらのコミュニティは、プロトコルを組み合わせて新しいプロトコルを設計できます。たとえば、UI と UX はコミュニティによって定義できます。コミュニティ間でコンテンツを共有するためのルールを再定義できます。収益化を再定義できます。個々のユーザーに何に対して報酬を与えるかを再定義できます。ユーザーが自分自身やお互いを表現する方法も再定義できます。

誰が再定義者になれるでしょうか？ 個々の人間が、これらのことを再定義するのに十分な直感を養うことができるでしょうか？ これ自体がプロトコルの一部になることができます。 たとえば、一部のコミュニティでは、これらのことを思いつくのは 1 人の人物であり、他のコミュニティでは、友人のグループである可能性があります。 興味深い重み付け投票を備えた投票スキームを実装する人もいます。 誰にもわかりません。 これに最適な自己組織化原理が何であるかは誰にもわかりません。 しかし、プロセスは自動化できません。 つまり、脳は自動化できるようです。そのため、人々はこれ用のソフトウェアを書くことができます。 そして最終的には、正しい解決策がわからない場合は、このことについて推測しないという考え方になります。

適切な解決策が、人々がアドホックに設計することなのか、Wikipedia のような社会的規範によるコンプライアンスを強制するのか、ソフトウェア ソリューションを使用するのか、人々の投稿を調べる AI を使用するのか、法的原則を使用するのか、など、まったくわからない領域があります。これは、おそらく見つけ出す必要があることです。つまり、コミュニティを進化させ、最も知覚力のあるコミュニティ、つまり個人にとって最も役立つ方法でやり取りできる最も興味深い行動を生み出すコミュニティにインセンティブを与えるような方法でコミュニティを制御するというアイデアです。あなたには、自分に関連する情報を提供するネットワークがあります。それは、健全な方法で他の人との関係を維持するのに役立ちます。

チームを作ることができます。基本的に、自分のベストをこのことに注ぎ込み、他の人との関係に結び付けて、一人では生み出せないものを生み出すことができます。はい、素晴らしい表現です。しかし、インセンティブと進化を伴うその重要なプロセスは、インセンティブを効果的に死なせるために適応することです。ソーシャル メディアの特徴は、不健全なコミュニティ、またはインセンティブとして定義したいものは何でも、本当に死ぬことを嫌がるということです。人々が本当に激しく抗議するのは、検閲されたときです。特にアメリカではそうです。世界の他の国々についてはあまり知りませんが、言論の自由という考え、検閲という考えはアメリカでは本当に苦痛です。

それで、東ドイツで育ったあなたは、それについてどう思いますか？検閲は私たちの脳、知性、ソーシャル ネットワークにおいて重要なツールだと思いますか？つまり、基本的に、システム全体の良いメンバーでないなら、ブロックされるべきです。閉じ込められ、ブロックされるのです。重要なのは、誰があなたが良いメンバーであると決めるかです。誰ですか？それは分散されていますか？そして、それを決めるプロセスの結果は？個人にとっても、社会全体にとっても。たとえば、信頼度の高い社会であれば、多くの監視は必要ありません。そして、監視はある意味では信頼を損なうことさえあります。なぜなら、それは基本的に、調査されたときに疑わしいように見えても、とにかく正しいことをする人々を罰することになるからです。

逆に、信頼度の低い社会であれば、監視はより良いトレードオフになります。米国は現在、比較的信頼度の高い社会、または信頼度が混在する社会から信頼度の低い社会へと移行中です。そのため、監視は増加します。もう 1 つ、信念は単なる不活性な表現ではありません。脳内でコードを実行し、現実を変え、ある程度のレベルで互いのやり取りの方法を変える実装があります。信念の一部は、私たちが自分の考えを示すために使用する世論にすぎません。たとえば、私たちの文化は同じで同じくらい良いものだと言う人もいるかもしれませんが、それでも、ある文化を他の文化よりも好むことがあります。非常に強くそうなのです。そして、文化は特定のやり取りのルールによって定義されることがわかります。

そして、これらの相互作用のルールは、それを実践すると異なる結果をもたらします。つまり、特定のルールに固執すると、異なる社会で異なる結果がもたらされます。そして、これはすべて、人々が共通の目的にコミットしていない場合に非常に厄介な状況につながります。そして、私たちの社会は、共通の目的を持つことの意味を再発見し、それを非全体主義的な視点と両立させる方法を見つける必要があるでしょう。つまり、ある意味で、米国は全体主義と多様性の間の難問に巻き込まれており、これをどのように解決するかです。米国がこれまでに見つけた解決策は非常に粗雑です。なぜなら、米国は非常に若い社会であり、多くの緊張にさらされているからです。米国は自らを改革しなければならないように思われます。あなたはどう思いますか?

哲学的に考えてみると、人類はどのような政治機構とともに進化すべきだと思いますか？米国全体、それとももっと広い意味で？システムとしてうまく機能すると思うものは何ですか？もちろん、私たちにはわかりません。すべてがかなりひどく機能しているように見えます。あるものは他のものよりも悪いです。共産主義が最高だと主張する人もいます。そう、ソビエト連邦を見てくださいと言う人もいます。無政府状態が最高だと主張し、政府のプラスの効果を完全に無視する人もいます。ご存知のように、多くの議論があります。米国は歴史の中でかなりうまくやっているようです。人権が尊重されており、それは欠点ではなく、良い特徴のようです。そして経済的には、大きな成長、多くの技術開発があります。人々は物事の大きな枠組みに対して比較的親切であるようです。

そこからどんな教訓が得られますか？どのような政府システムがよいと思いますか？理想的には、政府は知覚されないものでなければなりません。摩擦のないものでなければなりません。政府の影響に気づくほど、摩擦を経験することが多くなり、政府の有効性と効率性は低下します。ゲーム理論上、政府とは、ナッシュ均衡が公共の利益と両立するように、支払いマトリックスにオフセットを課すエージェントです。人々がローカルなインセンティブに基づいて行動し、これらのローカルなインセンティブが良くない状況があります。誰もが自分にとってローカルで最善のことを行いますが、グローバルな結果は良くありません。これは、人々がグローバルな結果を気にしている場合でも当てはまります。なぜなら、グローバルな利益のために私が望むことと私の行動の間に因果関係を生み出す規制メカニズムが存在するからです。

たとえば、飛行機に乗る回数を減らすべきだと考え、家にいるとしたら、私のせいで飛行機が出発しないということはないでしょう。影響はないかもしれませんが、A地点からB地点に移動することはできません。これを実行するには、飛行機に乗る回数を減らすべきだという考えを共有し、たとえば飛行機代を高くする規制を課す政府を持つことになるでしょう。たとえば、環境への負担が少ない他の交通手段を発明するインセンティブになります。あなたが説明している多くのことには楽観的な面がありますが、それでも私たちの文明は終わりを迎えるだろうという悲観的な面もあります。それは100%の確率ではありません。この世に100%の確率なんてありません。

自己破壊から抜け出す道筋はどのようなものだと思いますか？ ある意味で、私たちは賢すぎると同時に賢さが足りないのではないかと思います。つまり、私たちは目先の問題を解決するのがとても得意ですが、同時に、生き残りたいなら従わなければならない命令に従うことを嫌がります。それが難しいのです。 すべてを技術的に解決できなかったとしても、突然変異率を吸収するためには乳幼児死亡率をどの程度高くする必要があるか、そしてゆっくりと変化する生態系環境に適応するためには突然変異率をどの程度にする必要があるかは、おそらく理解できるでしょう。 原理的には、これらすべてを理論的に計算して適応することは可能ですが、私のように子供がいて、子供を死なせたくないためにそれができない場合は、乳幼児死亡率を低く抑えるためにあらゆる種類の医療情報を利用するでしょう。

これは、数世代以内に遺伝的変動が大きく、食糧供給に適応できなかった結果、ほとんどの人がアレルギーを持つことを意味します。技術的に言えば、今のところはそうです。私たちはまだとても若いです。産業革命から300年。この考えにはまだ慣れていません。あなたは、子供たちが生きていて、社会全体の利益のために殺されないことに執着していますが、それはほんの一時的なものかもしれません。私たちの考え方は進化するかもしれません。あなたが言ったように、私たちは賢いと同時に賢くないです。私たちはおそらく、資源を過剰に消費する技術を発見した最初の人類文明ではありません。この過剰消費は、ある時点で埋め合わせができると考えています。なぜなら、草を全部食べてしまったら、キノコを育てる方法を見つけるからです。

しかし、生態系が傾く可能性もあります。私が本当に心配しているのは、文明の終焉ではありません。なぜなら私たちは新しい文明を発明するからです。私が心配しているのは、例えば海洋が傾くかもしれないという事実です。例えば、海洋の酸性化によりプランクトンが死滅し、その結果私たちは大気を呼吸することができなくなるかもしれません。これは本当に心配なことです。つまり、地球上の最も複雑な生物の大規模な再起動です。これは可能性だと思います。この可能性がどのくらいの確率なのかはわかりませんが、私たちがこの惑星ですでに引き起こしている変化の規模を見ると、私には突飛なことではないように思えます。ダニー・ヒラーは、成層圏にチョークを撒いて太陽放射を制限できるかもしれないと示唆しています。

うまくいくかもしれない。もしかしたら、私たちがやってしまったことの影響に対抗できないかもしれない。そうならないかもしれない。普及するまでに実行できないかもしれない。この点で、将来がどうなるかはわかりません。このままではいけない可能性が非常に高いと思います。私たちのいとこ種、他のヒト科動物はすべて絶滅しました。したがって、正しいステップは、産業革命の頃まで遡り、資源の過剰消費につながる技術的プロセスを抑制しようとすることです。選択できると想像してください。人生は一度きりです。持続可能な農業文明に生まれます。地球上の人口はせいぜい3億、4億人です。あるいは、その前には、100万か200万の遊牧民のような種がいました。

だから、子供を産まない限り、新しい人に出会うことはない。世界の他の場所に旅行することもできない。インターネットもない。かなり深いところまで届く実際の伝統もないので、自分の不完全さなどを発見することもないだろう。私たちは存在しないだろう。そして、そうでなければ、狂った世界に生まれることになる。1億年分の木々をたった1世紀で燃やしてしまったので、滅びる運命にある世界。あなたはどちらが好きですか？私はこれが好きだと思います。タイタニック号に乗っていて、この氷山を見て、私たちはそれを逃すことはないだろうと思うのはとても奇妙なことです。そして、多くの人がそれを否定していて、反論のほとんどは私には否定のように聞こえます。

合理的な議論はないようです。そしてもう一つは、私たちはこのタイタニック号で生まれているということです。このタイタニック号がなければ、私たちは生まれていなかったでしょう。ここにはいなかったでしょう。話すこともなかったでしょう。インターネットを使うこともなかったでしょう。私たちが楽しんでいることをすべてやることはなかったでしょう。そして、私たちはこのようなことが起こることに責任はありません。基本的に、もし私たちに選択肢があったら、おそらくこれを防ごうとするでしょう。しかし、私たちが生まれたとき、いつ生まれたいか、どの社会に生まれたいか、どのようなインセンティブ構造に触れたいか、一度も尋ねられたことはありません。私たちはこの全体の中で比較的主体性がありません。人類はこの全体の中で比較的主体性がありません。基本的に、丘を転がり落ちている巨大な機械で、誰もが必死になってボタンを押そうとしていますが、これらのボタンが何を意味し、何につながってるのか誰も知らず、そのほとんどは丘を転がり落ちるのを止めていません。

人工知能が何らかの形で逃げ道となる可能性はあるでしょうか？ 人工知能の存在に対する脅威については多くの懸念がありますが、AI が一般的に自動化の形で可能にするものは、生産性の大幅な向上の可能性も可能にします。これはおそらく社会を良い方向に変革し、私たちが意図せずして狩猟採集社会に代表される自然に近い理想の現実に戻ることを可能にするかもしれません。それは地球を破壊せず、過剰消費もしません。一般的に言って、AI が何らかの形で役立つという希望はありますか？ 自然を完全に征服するまでは、自然に非常に近づくのは楽しいことではないと思います。ですから、私たちが自然に近いと考えるのは、農業、基本的に私たちを食べるものが何もない森林など、あらゆるものに近づくことを意味します。私はそれには反対したいと思います。自然に近いことの素晴らしさは、生存があなたの主な目標だけでなくあなたの存在全体になったときに完全に存在することだと私は思います。

私はただロマンチックに考えているわけではありません。私自身、それが充実した存在であることを自覚しています。個人的には、自然の中にいて、生き残るために戦うことを好みません。寒さと雨の中、動物に狩られ、開いた傷を負いながら生き残るために戦うのは非常に不快だと思います。そこには矛盾があります。はい、私もあなたもそれを選択しないでしょうが、もし私がそれを強いられたら、それは充実した存在になるでしょう。はい、あなたがそれに適応し、基本的にあなたの脳がそのような環境で最適に報酬を得られるような方法で配線されていれば、そしてこれにはある程度の複雑さに対して、基本的に人々はそのような環境にいる方が幸せであるという証拠があります。なぜなら、それは私たちが主に進化してきたものだからです。

その間に数千年が経過し、私たちは少しだけ快適な環境に合わせて進化してきたと思います。ですから、おそらく中間段階のようなものがあって、森の中で小さなグループで自力で生き延びなければならず、しばしば死んでいくよりも、私たちは幸せだったでしょう。一方、今は基本的に大きな機械、大きなモルドールがあり、その中で私たちはコンクリートの箱の中を走り回り、機械のボタンを押し、猿である私たちほどよく世話されていると感じることはほとんどないのです。

それで、AI に少し戻って、ロマンチックな質問をさせてください。あなたの人生であれ、人工知能の歴史であれ、人工知能の発展において、あなたにとって最も美しい、あるいは最も驚くべきアイデアは何ですか?

AI を構築すれば、おそらく世界の詳細度を任意に設定してモデル化できるでしょう。そして AI は自身の本質を理解しようとします。いつか AI をさまざまな物理宇宙で目覚めさせ、その宇宙で何が起こっているのか、AI 自身の本質や物理法則が何なのかを理解するまでにルービック キューブを何回動かす必要があるかを測定するコンテストを開催する、と考えたくなります。では、AI の記憶の中に私たちが存在し、AI が自身の本質を理解しようとし、自身の起源を記憶し、レックスとジョシャがホテルの部屋に座って、シミュレーションで汎用知能の開発につながるアイデアを思いついたことを覚えているとしたらどうでしょうか。

それは、自分自身を理解しようとしている AI システムで実行されているのでしょうか? 私はそれを信じているわけではありませんが、素晴らしいアイデアだと思います。チューリング テストで知能は「知能とは何か?」と問い、答えるプロセスであるというアイデアに戻りますが、つまり、なぜ答えがあると思いますか? なぜ答えを探すのですか? 答えのようなものがなければならないのですか? 先ほど、理由を理解しようとしている AI システム、つまり自分自身を理解しようとしているとおっしゃいました。これは、ますます複雑になり、ますます知能が高まる基本的なプロセスですか? 継続的に自分自身を理解しようとしているのですか? いいえ、ほとんどの人は気にしないと思います。気にしないほど十分に適応しているためです。あなたや私のような人がそれを気にする理由は、おそらく自分自身を理解する必要性と関係があるでしょう。

それは、私たちが目覚めた宇宙と根本的に意見が合わないからです。私は自分を見下ろして、「ああ、なんてことだ、私は猿の中に閉じ込められている、これは何？」と見ます。政府に不満を持っている人もいますが、私は自分がいる宇宙全体に不満を持っています。では、一部の人々が抑圧している人間の本質的な側面だとは思わないのですか？彼らは目覚めたときに猿の体の中にいることにショックを受けていますか？いいえ、それに混乱しないようにするための明確な適応価値があります。ええ、いいえ、それは私が尋ねたことではありません。したがって、明確な適応価値があるのであれば、明らかに適応価値があります。根本的にあなたの脳はそれに混乱していますが、幻想を作り出すことで、それを抑制しようとする別の層の物語が、あなたが知っているように、今政府で起こっていることが最も重要なことであり、私のフットボールチームで起こっていることが最も重要なことだと言いますが、私にはそうは思えません

私にとって、アーネスト・ベッカーの「死の否定」を読んでいる時はとても興味深い瞬間でした。私たち人間の心の大半の根底にあるのは、死への恐怖であり、死を自覚し、その恐怖の上に幻想を作り上げている、という考え方です。私はただそれを推し進めているだけだと思います。この大きな実存的疑問に対する不安が、実存主義者が私たちの存在について考えていたように、実際に根本的である可能性は本当にないと思います。死への恐怖は、全体像を見ない限り、役割を果たすだけだと思います。心はソフトウェアの状態であり、ソフトウェアにはアイデンティティがないということです。

ソフトウェアはある意味では物理法則ですが、アイデンティティがあるように感じる場合、それはこの特定のソフトウェアとそれが伝える物語のためのものであると考えました。それがその基本的な特性です。アイデンティティの維持は最終的なものではなく、何か他のものに役立ちます。アイデンティティを維持することで、自分の意味を果たすことができ、死ぬ前にやるべきことをすることができます。ほとんどの人にとって、死への恐怖は、自分がしなければならないと感じていることを終える前に死ぬことへの恐怖ではないかと思います。それが正しいのか正確にはわかりませんが、ソフトウェアの世界では、では質問に戻りますが、私たちは死んだ後どうなるのでしょうか?

では、なぜ気にするのでしょうか? もうそこにはいないのです。死ぬということは、あなたがいなくなるということです。まあ、私はいなくなるかもしれませんが、そういうことのように思えます。これは単なる心であり、量子力学的波動関数の世界の特定の側面を中心に物語を構築しているシミュレーションにすぎないという考え方には多くの意味があり、直接アクセスすることはできません。したがって、死の考えも曖昧に思えます。明確な終わりはないのかもしれません。曖昧な考えは、継続的な存在というものです。私たちは継続的な存在ではありません。どうしてそれがわかるのですか? 継続的な存在ではないからです。計算可能であるのは、継続的なプロセスがないと言っているからです。昨日のレックス・フリードマンとあなたを結びつけているのは、彼についての記憶があるという幻想だけです。ですから、アップロードしたい場合、それは非常に簡単です。自分だと思っている機械を作るだけですが、それが不死なのです、そう!

しかし、それは単なる信念です。自分が不死かどうかという問題は、自分の信念と自分の継続性に完全に依存していることを理解すれば、この信念を非常に簡単に作り出すことができます。しかし、信念の継続性によって不死になることができます。不死になることはできませんが、そもそも自分が継続的に存在していたことはなかったことに気づき、自分の死を恐れることはやめることができます。それがより恐ろしいか、より恐ろしくないかはわかりません。私が存在したという事実のように思われるので、自己がないこの状態を知らない、自分自身をオフにすることができます。私は自分自身をオフにすることはできません。基本的に、意識があり、物事がまだ起こっていて、以前知っていたことをすべて知っている状態で自分自身を瞑想することができますが、何かを変えることにはもはや同一視されておらず、これはある意味で自分自身が溶解し、もはやこの人は存在せず、この人が構築していることを知っていることを意味します。

他の状態で存在し、レックス・フリードマンの脳内で動いていますが、それは実在するものではなく、構築物であり、アイデアであり、そのアイデアは変更できます。このアイデアを手放し、自分が特別だと思わなければ、それは多くの人々のうちの1人に過ぎず、お気に入りの人ではなく、大部分においてあなたがコントロールする運命にある人であり、それが基本的にこの有機体の行動をコントロールモデルとして通知している、それがすべてだからです。そして、このコントロールモデルが中断されたり、継続性のアイデンティティを失ったりすることをなんとなく恐れているのです。つまり、私は執着しています。これは非常に人気があり、執着する必要がないかのように執着するというのはどういうわけか説得力のある概念ですが、それ自体はあなたが構築する幻想である可能性があります。

ですから、瞑想のプロセスは人気があるものの、アイデンティティの概念に陥っています。それは単にその上にマントをかぶせ、しばらく静かにするように伝えるだけかもしれません。瞑想は結局のところ、注意をコントロールできる一連のテクニックに過ぎず、注意をコントロールできるようになると、自分のソース コードにアクセスできるようになります。できれば、自分が何をしているのかを理解してから、その仕組みを一時的または永続的に変更し、ソース コードを設定できます。つまり、基本的に注意をコントロールしたりオフにしたりします。全体として、注意をコントロールすることを学ぶので、他のすべては注意をコントロールすることと、それを見ている注意をコントロールすることから下流に流れます。

通常、私たちは、モデルと結果が一致しないときに熱を生み出す心の部分でのみ注意を向けます。ですから、ほとんどの人は、コントロールが良すぎるために自己認識がありません。すべてがほぼ望みどおりに進み、うまくいかないのはサッカーチームが勝つかどうかだけであれば、これらの領域に関するモデルがほとんどになります。そして、それは、たとえば、あなたの国のイデオロギーが狂っていて、他の子供たちがオタクではなく、あなたがなぜ物理学を理解しているのか、なぜあなたが物理学を理解したいのか、なぜ誰かが物理学を理解したくないのか理解できないために、あなたの周りの世界との基本的な関係が機能しないときだけです。そこで、私たちは脳内のニューロンを強化学習エージェントとして育て、囲碁のAlphaGo、AlphaZero、セルフプレイのアイデアであなたが挙げたように、いくつかの成功がありました。これは非常に興味深いと思います。

特定のゲーム構成において、自分より少しだけ優れた他のシステムと対戦することで、自動的に互いに対戦し、継続的に向上していくというシステムのアイデア。ゲーム内のすべての競争者は徐々に向上していくため、十分に挑戦的であり、競争のプロセスから学習します。強化学習プロセスによって、ますます高いレベルの知能が達成されることを期待していますか? 解決する必要がある AI のさまざまなアイデアについて話し合いました。RL は AGI システムを作成しようとするプロセスの一部ですか? 確かに、教師なし学習の形式です。しかし、それを実現できるアルゴリズムは多数あり、最終的にそこで機能するアルゴリズムは、それらのクラス、または多数になると思われます。それらのアルゴリズムには、大きさや効率などの小さな違いがあるかもしれません。

しかし、最終的に重要なのは、形成するモデルの種類であり、現在形成しているモデルの種類は十分にスパースではありません。スパースです。スパースであるとはどういう意味でしょうか。理想的には、すべての潜在的なモデル状態が潜在的な世界状態に対応している必要があるということです。つまり、基本的にモデル内の状態を変化させると、常に有効な世界状態になりますが、まだ完全には一致していないため、基本的に私たちが夢で見るものは、年齢を重ねるにつれて夢が退屈になります。なぜなら、世界の仕組みについて学んだ制約をどんどん取り入れていくからです。子供の頃に可能だと想像していたことの多くが、物理的および社会的ダイナミクスによって制約されていることがわかります。その結果、可能なことはどんどん少なくなります。

それは想像力が縮小しているからではなく、想像力が働く制約がどんどん厳しくなっているからです。そして、ニューラル ネットワークが働く制約はほぼ無限です。つまり、ニューラル ネットワークにリアルに見えるものを想像させることは非常に難しいのです。ですから、私たちがやるべきことの 1 つは、夢を見るシステムを構築することではないかと思います。夢の目的の 1 つは、生成的敵対ネットワークと同様に、特定の制約を学習し、同じ制約セットに対して別の視点を生み出して、異なる状況でそれを認識できるようにすることだと私は考えています。私たちが子供の頃に空を飛ぶ夢を見るのは、知っている物体や地図をさまざまな視点から再現するからかもしれません。つまり、鳥の目線から見るという意味です。

ということは、目を閉じて寝ているときだけでなく、私たちはとにかくそうしているのではないでしょうか。私たちは、環境を解釈しようとして、さまざまな可能性を考慮しながら、常に夢やシミュレーションを心の中で実行しているだけではないでしょうか。私たちが環境とやりとりする方法は、あなたが言ったように、私たちの期待や、最近見たものに関する過去の経験と一致する一連のシミュレーションを作成し、その幻覚プロセスを通じて、実際に世界で見ているものと、それによく一致するシミュレーションを何らかの形でつなぎ合わせて解釈できるのです。この点であなたと私の脳が少し変わっているのが気に入っています。おそらくそれがあなたを MIT に入学させた理由です。つまり、常に可能性と問題への解決策について熟考するというこの強迫観念。ああ、もうやめてください!

私が言っているのは知的なことではなく、ただ歩いて転ばないようにするために必要なことをしているということだと思います。はい、これは大部分は自動です。はい、しかしプロセスは複雑ではなく、ある意味ではダイナミクスを学習するニューラル ネットワークを構築するのは比較的簡単です。これまで正しく実行できていないという事実は、それが難しいということではありません。なぜなら、生物が比較的少数のニューロンでそれを実行していることがわかるからです。つまり、基本的には、レギュレーターが制御するダイナミクスとモデル内で同型になるように、体のダイナミクスに同調する一連のニューラル オシレーターを構築します。その後は自動で、システムがオフのときに注目を集めるという点でのみ興味深いのです。

しかし、ニューラル ネットワークのコントローラーとして歩行を行うために必要なメカニズムについて考えると、それは説得力のある概念だと思いますが、歩くためには常識的な推論のようなものが必要であるという事実を静かに、または少なくとも暗黙的に放棄しています。それが必要かどうかは未解決の問題ですが、私の直感では、この世界には、何らかの形でその基礎となる膨大な知識ベースがあると思います。ニューラル ネットワークや人工知能システムでは構築できなかった種類の情報が大量に存在します。少なくとも私の想像では、この世界で行動するために必要な情報量を考えると謙虚になります。ニューラル ネットワークでそれが実現できると言うことは、それができないという事実を見落としていると思います。

常識的な推論のようなものを構築するメカニズムはまだありません。どのようなメカニズムが歩行に効果的かという考えに、どれくらいこだわりますか。ニューラルネットワークだけで十分だとおっしゃいましたが、私たちが持っているようなものではなく、もう少し優れたものであれば、簡単に歩行できるでしょう。常識的な推論の旗印の下で表される膨大な量の知識も必要です。私たちは実際にどれだけの常識的な知識を持っているのでしょうか。一生懸命に働き、30分ごとに2つの新しい概念を形成すると想像してください。最終的には100万の概念になります。それほど年を取ることはないので、100万の概念というのはそれほど多くはありません。

ですから、それは百万の概念だけではありません。百万をはるかに超える数だと思います。しかし、数だけを考えれば、人生でニューロンが何回サイクルするかを考えれば、そんなに長くは生きられません。かなり限られています。そんなに年を取ることはありません。しかし、強力なのは概念の数であり、それらは本質的に深い階層構造を持っているでしょう。あなたが説明したように、それらの間の関係が鍵となります。つまり、たとえそれが百万の概念であっても、形成される関係のグラフと、ある種の確率的な関係、それが常識的な推論であり、物事の関係です。ある意味では、概念は行動プログラムのアドレス空間であると考えており、行動プログラムは私たちがオブジェクトを認識し、それらと相互作用することを可能にします。精神的なオブジェクトでもあります。

その大きな部分は、私たちがやりとりする物理的な世界、つまりこの Res Extender のようなもので、基本的には空間内の情報のナビゲーションです。基本的にはゲーム エンジンに似ています。これは物理エンジンで、特定の方法で見えるもの、特定の方法で触れたときの感触、固有受容感覚、聴覚知覚など、これらがどのように機能するかを記述および予測するために使用できます。つまり、基本的にこれらすべての幾何学です。そして、これはおそらく、リアルタイム シミュレーションを使用して、脳が行っていることの 80% です。ゲーム エンジン自体は魅力的ですが、それが何をしているのか理解するのはそれほど難しくありません。私たちのゲーム エンジンは、ある意味で、私たちが知覚できるものの忠実度をすでに近似しています。

つまり、Oculus Quest を装着すると、私たちが知覚できるものに関してまだ比較的粗いものが得られますが、それはすでに同じ範囲内にあり、生成できる複雑さの点で私たちの知覚を飽和させるまであと数桁です。つまり、ある意味では、購入して自宅に設置できるコンピューターは、脳が処理できるものとすでに同じ範囲の詳細を持つ知覚的現実を提供できると言うのは妥当です。そして、他のすべては世界についてのアイデアであり、それらは比較的まばらであると思われます。そして、社会的相互作用について私たちが形成する直感的なモデルも同様です。

社会的交流はそれほど難しくありません。私たちオタクにとっては難しいだけです。なぜなら、私たちは皆、誤解を招きやすいので、それを推論する必要があるからです。しかし、事前確率はほとんどの社会的な動物に存在するので、猫や犬などの多くの飼いならされた社会的な動物が子供よりも優れた社会的認知力を持っていることに気づくのは興味深いことです。私はそう願っています。私にとって、この世界には基本的にそれほど多くの概念が存在していないことを願っています。むしろ、私たちがとても愚かであるために、お互いにとても複雑に見えるだけであるこのことが私にとって少し憂鬱なので、そう恐れているという感じです。私たちが本当に見かけほど愚かであれば、それは刺激的です。私たちの脳はスケールしませんが、私たちが構築する情報処理は非常によくスケールする傾向があります。

ええ、でも私が心配していることの 1 つは、脳がスケールしないという事実は、実はそれが脳の基本的な特徴であるということを意味しているということです。脳のすべての欠陥、私たちが限界と見なすものすべてには、おそらく根本的なものがあるのでしょう。システムに対する制約は、そのパワーの要件である可能性があり、これは、特に深層学習、特に強化学習でスケールするインテリジェント システムに関する現在の理解とは異なります。OpenAI と DeepMind のすべての主要な結果の背後にある希望は、実際には膨大な計算量と関係しています。また、私たちの脳が非常に小さいのは、体内で大量のブドウ糖 (ブドウ糖の 20%) を吸収するからだけではなく、恣意的にスケールしないからという可能性もあります。象のように、私たちよりも大きな脳を持つ動物もいますが、彼らは私たちよりも賢いようには見えません。象は自閉症のようです。

象の運動制御は非常に優れており、細かいことにも非常に長けていますが、全体像を把握するのは非常に苦手です。一筆一筆絵を再現させることはできますが、静物画を再現することはできないので、見た風景の絵を描くことはできません。少なくとも私が実験で見た限りでは、象は常に線画しか再現できません。なぜでしょうか? おそらく、より賢い象は脳が大きすぎるため、瞑想して自らを消滅させてしまうのでしょう。つまり、基本的に自閉症ではない象は繁殖しなかったのです。そのことを覚えておかなければなりません。人間や生物のシステムでは、脳は基本的に身体と連動しています。

私たちが作ろうとしている AGI システムや、より高度な知能システムには、身体が必要だと思いますか? 身体を与えれば、それらを活用できるはずですが、根本的に身体が必要だとは思いません。ですから、目や頭を動かして世界とやりとりできれば、制御された実験を行うことができ、これにより、モデルの不確実性を減らすために、はるかに少ない観察で済みます。そのため、モデルでよくわからない部分を正確に特定できます。頭を動かして、そこで何が起こっているかを見て、YouTube を入力として使用する必要がある場合は、それ以上何もできませんが、追加情報を得ることができます。

おそらくもっと多くのデータが必要なのでしょうが、YouTube 全体を閲覧し、見つけられるすべての情報を抽出するのに十分な時間と注意力があれば、私たちはもっと多くのデータを持っています。それができることに明らかな限界があるとは思いません。インタラクションは物理的な身体によって可能になる基本的なことのようですが、その点についてお聞きしたいのですが、身体とは、脳が物に触れたり、物を動かしたり、物理的な世界が存在するかどうかに関係なく、物理的な世界への何らかのインターフェイスと対話することを可能にするものです。仮想世界ではどうでしょうか? VR ヘッドセットを装着してその世界に移動すると、同じような推論、意識知能を行うことができると思いますか?

このホテルにある物理世界へのインターフェースと、同じホテルの仮想世界に座っていた場合のインターフェースとの間には、根本的な違いがあると思いますか? 問題は、この非物理世界またはこの他の環境が、一般的な知能を必要とする問題を解決したいと思わせるかどうかです。そうでない場合、一般的な知能はおそらく発達しません。おそらく、ほとんどの人は一般的な知能を持たないのは、一般的な知能をもたらす問題を解決する必要がないからです。私たちにとっても、AIを構築し、自分の本質をこの程度まで理解できるほど賢いかどうかはまだ明らかではないため、能力の問題である可能性があります。ほとんどの人にとって、それはそもそも興味の問題です。このプロジェクトに挑戦するメリットがわずかであるため、意味がわかりません。おそらく成功することはなく、そのためには人生全体を完全に捧げる必要があります。

しかし、仮想世界でできることの可能性は現実世界よりもはるかに大きいようです。ある状況を想像してみてください。誰かが私に来て、私がやろうとしていることを提案してきたら、それは私にとって興味深い選択肢かもしれません。これからは、あなたは仮想世界にしか存在できません。このヘッドセットを着けて、食事をする時は、あなたの身体が仮想世界で食事をする時と同じように栄養を摂取できるように接続します。こうすることで、共通の現実世界と仮想世界の間のインセンティブを一致させます。そうすると、可能性ははるかに大きくなります。私は他の種類の生き物になることができ、私たちが知っている物理法則を破ることができ、私たちが考える限り、可能性は無限です。

興味深い考えです。存在とはどのようなものでしょうか。そこにはどのような知性が生まれるのでしょうか。どのような意識が生まれるのでしょうか。私の中にも、おそらくより優れた知性が生まれるのでしょうか。人生のこの段階でも、その知性がどのように生まれるかを見るために今後 20 年間をその世界で過ごすとしたら、そしてそれがこの物理的世界での自分の存在に気づく前のごく初期の段階で起こったとしたら、その子供がどのように成長するかを考えるのは興味深いことです。そして、あらゆるものの仮想化とデジタル化が進むにつれて、私たちの生活のすべてではないにしても、一部は、現在 Twitter やソーシャル メディアで暮らしているよりも大きな程度で仮想世界で暮らすようになる可能性があります。

AIについて考える上で、知的または自然に、より多くの可能性が広がるこの仮想世界に惹かれる何かがありますか？現在、物理的な世界を扱うのは時間の無駄だと思います。なぜなら、私たちはそれに対処する方法を自動的に学習できるメカニズムを持っているからです。身体は二次的な行為主体であり、身体を構成するのは間接的に制御できるものであり、三次的なものはツールであり、二次的なものは基本的に常に存在するものです。しかし、あなたはそれらを精神的なオペレータである一次的なもので操作し、ゼロ次的なものはある意味であなたが決定している直接的な感覚です。つまり、行動をしているときに自分自身を観察します。

アクションの開始として解釈する特徴、それを実現するために実行する操作、手足の動きを見て、それらを関連付けて、フィードバックに対する自分の主体性をモデル化することを学びますが、最初に受け取るフィードバックは、基本的にこの一次的なものから得られます。つまり、考えようと決め、その考えが考えられているのです。考えを変えるには、考えがどのように変化しているかを観察し、それが具体化として十分であると考えます。したがって、現時点では、二次的なものの変化を考慮することはそれほど重要ではありません。しかし、先ほども触れたように、物理学は好きなように変えることができるので、抵抗する環境が必要です。

制御するものがなければ、モデルを作ることはできません。抵抗する特定の方法が必要です。ところで、モチベーションは通常、心の外にあります。ベッドにいる方がはるかに楽なのに、朝起きるのはモチベーションがあるからです。つまり、モチベーションは基本的に、環境に抵抗することを強い、環境への抵抗に心を従わせます。つまり、ある意味では、何もしないという心の自然な傾向に対しても抵抗しているのです。その抵抗の一部は、モチベーションについて説明したように、一次的なもので、一部は、物理現象があなたに抵抗するなど、二次的なものになります。もちろん、仮想現実における二次的なものは再現できるようです。

しかし、数学をやるだけで十分かもしれませんし、数学はすでに十分な抵抗をしています。ですから、基本的には美的動機だけで、ある種の知性を形成するのに十分かもしれません。それはおそらく人間らしい知性ではないでしょうが、すでに一般的な知性かもしれません。ですから、このゼロ次、あるいは一次の知性に手を出すために、私は脳コンピューターインターフェースのアイデアを考えています。それで、友人のイーロン・マスクとニューラリンクの話に戻りますが、この会社は、もちろん短期的には病気の治療などに力を入れていますが、長期的なビジョンは、余分なレイヤーを追加して、基本的に計算世界に接続された脳の容量を拡大することだと思いますか?

それも可能です。それによって、ゼロ次と一次の基本がどう変わるのでしょうか。イーロン・マスクが思い描いているように、頭蓋骨に穴を開けて大脳新皮質とインターフェースすることをFDAが許可するとは思えません。現時点では、マウスにひどいことをすることはできますが、将来的には医療用途でない限り、人間に役立つことはできません。ですから、私たちが思い描いているこのもの、つまりレクリエーション用およびクリエイティブな脳コンピューターインターフェースは、現在の法制度では実現しないでしょう。私が哲学的かつエンジニアリング的な質問をして、初めて法的なFDAに飛びついたのは素晴らしいと思います。頭蓋骨に穴を開けて新しいタイプの脳コンピューターインターフェースを試すほどクレイジーな人が十分にいるでしょうし、それが機能すれば、FDAはそれを承認するでしょう。

そうですね、私は自動運転車によく取り組んでいますが、自動運転車の承認は非常に難しい規制プロセスになると言えます。しかし、自動運転車が決して実現しないという意味ではありません。少なくとも 2 人の弁護士と 1 人の規制当局者の雇用を創出すれば、自動運転車は間違いなく実現します。そうです、弁護士です。弁護士こそが基本的な基盤なのです。米国の現実は非常に奇妙なシステムで、世界中で普遍的ではありません。法律は、一度理解すると非常に興味深いソフトウェアです。これらの回路は、ある意味ではソフトウェアのストリームです。そして、それは主に例外処理によって機能します。つまり、現場で決定を下すと、例外がスローされるとすぐに次のレベルの構造と同期されます。そうです、例外処理がエスカレートされます。

このプロセスは非常にコストがかかります。特に、弁護士が弁護士のために仕事をするインセンティブを与えるためです。はい、例外は実際には頻繁に解雇するインセンティブになります。しかし、弁護士以外に戻るとどうなるでしょうか。根本的に、脳に追加されるこの追加の知能層の可能性について、興味深い洞察力のある何かはありますか？私はそう思いますが、そのために技術的に侵襲的な手順は必要ないと思います。私たちはすでに、他の人を非常に注意深く観察し、ある種の共感的な共鳴を得ることで、他の人とインターフェースすることができます。私はオタクなので、この分野はあまり得意ではありませんが、人々がある程度これを行うことができることに気づきました。基本的には、他の人のインターフェース層をリアルタイムでモデル化することを意味します。私たちのニューロンが遅いにもかかわらず機能します。私たちが行うことのほとんどは、周期的なプロセスに基づいているため、発生する振動に自分自身を同調させるだけでよく、振動自体が十分にゆっくりと変化すれば、基本的に正しく追従できます。

しかし、その相互作用の帯域幅では、はるかに多くの計算を行うことができるようです。もちろんそうです。しかし、もう 1 つは、私たちの脳、私たち自身の心が動作している帯域幅は実際には非常に遅いため、特定の日に生産的に考えることができる考えの数は非常に限られているということです。しかし、それを書き留める規律と書き留める速度があれば、おそらく 1 日 1 冊の本になるでしょう。しかし、私たちが構築できるコンピューターについて考えてみると、その動作の規模は大したことではなく、1 秒で出力できるものです。まあ、わかりませんが、可能です。

脳内の思考の数は桁違いに膨れ上がり、指や声で表現できるもののほとんどは繰り返しになります。どうしてそれがわかるのでしょうか？毎日同じ問題をコントロールしなければなりません。歩くとき、私の脳には歩行パターンをモデル化し、それを調整するプロセスがあります。毎日ほぼ同じですが、私は知的推論思考について話しているのです。ですから、最善の政治システムとは何かという疑問について、座って考え始めると、多くの事実や研究にアクセスできないので、常に何か他のものと連携する必要があります。

推論プロセスを支援するために、Wikipedia 全体に直接アクセスできる場合、最良の政府形態を理解しようとすると、すべての思考がループに陥ることはなくなり、追加の情報を必要とするすべての思考を非常に迅速に把握できるようになります。これがボトルネックの可能性です。文字通り情報にリンクされています。画期的なアイデアのボトルネックは、大量の情報にすばやくアクセスできることです。脳をコンピューターに接続する可能性は、まったく新しい、まったく新しいブレークスルーにつながる可能性があります。数学者が数学的証明などに関する推論の力を桁違いに高めることができると考えることができます。私たちはすでに進化のプロセスを通じて最適な政府形態を発見しており、進化が進行中であるため、政府の問題には人類としての安定した解決策がない可能性があります。すべての人を従わせることができるように設計されていないためです。ただし、特定の状況下で機能する解決策、または特定の環境に最適な解決策がある可能性があります。

主な生産手段が土地であれば、政治形態は地主によって規制され、君主制になります。また、何らかの奴隷制に依存する政治形態を望む場合、たとえば、農民がわずかな利益のために非常に長時間働かなければならず、そのため配管設備を利用できる人が非常に少ない場合、死後の世界で報酬を受け取ることを約束する必要があるかもしれません。残業代ですから、神政政治が必要です。西洋の人類史の大部分において、統治形態は君主制と神政政治の組み合わせでした。同時に、カトリック教会はゲーム理論の原則を実装しました。最近、トマス・アクィナスを読み直しましたが、彼は二元論者ではなかったので、この点は非常に興味深いです。

彼は、カトリック社会のオペレーティングシステムを設計するために、アリストテレスを特別な方法で翻訳していました。そして、彼は、基本的に人間はアリストテレスが思い描いているように動物であり、サイバネティック制御を備えた有機体であると述べています。そして、彼は、追加の合理的原理があると述べています。それは人間が発見でき、誰もが発見できるため、普遍的です。正気であれば、理解できるはずです。合理的に推論できるため、従う必要があります。これらの原理は、おおよそ次のとおりです。正しく自己規制する意志を持つべきである。正しい社会的規制を行う意志を持つべきである。それは有機体間である。自分のモデルに従って行動する意志を持つべきであり、ゲームに参加している。そして、目標合理性を持ち、取り組むべき正しい目標を選択すべきである。

基本的に、これら 3 つの合理的な原則は、彼が慎重さまたは知恵と呼ぶ目標合理性、社会規制が正義です。正しい社会規制と内部規制は節制であり、自分のモデルに従って行動する意欲は勇気です。そして、彼は、これら 4 つの枢要徳に加えて 3 つの神聖な徳があると述べており、これらの神聖な 3 つの徳は合理的に推論することはできませんが、調和によって明らかになります。つまり、これらを前提として何が起こるかを推測すると、意味が通じることがわかります。神がこれらが物事であると告げなければならないため、誤解されることがよくあります。つまり、キリスト教の陰謀のように、何か邪悪なことが起こっており、何かを信じるように強制しているのです。長いあごひげの男がこれを発見しましたが、これらの原則は比較的単純です。

結果として生じる文明の高レベルの組織化には、統一へのコミットメントが必要です。つまり、基本的には、次のレベルでこのより高次の、より大きなもの、この構造原理に奉仕し、彼はそれを信仰と呼んでいます。そして、共通の目的へのコミットメントが必要です。これは基本的に、グローバルな報酬であり、それが何であるべきか、そしてこれをどのように促進できるかを考えます。これは愛です。共通の目的へのコミットメントは愛の核心であり、自分自身の有機的な利益よりも重要です。他者とこれに奉仕し、これが他者の神聖なものを見る方法です。最後の1つは希望です。つまり、今ここで報酬を得ることなく、その原則に従って行動する意志が必要です。なぜなら、この文明を築き始めたときにはまだ存在していないため、実際に存在していない状態でこれを行うことができる必要があるからです。

だから、それが生まれるのです。それが起こる方法は、あなたがそれらの概念を受け入れることによってであり、それからあなたはそこにこれら 3 つの神聖な概念を見て、それらを実現するのを見ます。もう 1 つの問題は、神は私たちの世界では含みのある概念であるということです。なぜなら、私たちはこのカルトの外側にいて、そこから抜け出すことでまだ傷ついているからです。しかし、基本的には、昆虫国家のように意図的なエージェントとして機能する文明が必要であり、私たちは実際には部族の種ではなく、国家建設の種であるという考えです。そして、国家建設を可能にするのは、基本的に宗教国家の形成と他の形式のルールに基づく管理です。個人は、ルールやより高い目標ほど重要ではありません。私たちは、最適な統治形態は何かという質問を通じてそこにたどり着きました。

ですから、カトリックは明らかに衰退しつつあるため、最適な統治形態だとは思いません。現在の社会に適した形態なのです。私たちが宗教機関の中にいることは、それを組織するのに最適ではないようです。そこで、私たちが今住んでいる西洋で発見したのは民主主義です。民主主義とは、現在生産手段を所有している寡頭政治家の支配であり、寡頭政治家自身によって管理されているわけではありません。混乱が多すぎるからです。私たちは非常に多くの革新を遂げており、世代ごとに新しい生産手段を発明し、企業は通常 30 年ほどで消滅し、他の何かが私たちの社会で主導的な役割を果たすため、機関によって管理され、これらの機関自体によって管理されています。

ディープステートは選挙で選ばれるわけではありませんが、継続性があり、選挙で選ばれる政治家によって率いられています。そのため、人を殺さずに変化に適応することが可能です。たとえば、現在の政府が腐敗しすぎている、または時代遅れだと人々が考える場合、新しい人を選出するだけで政権交代が可能です。または、ジャーナリストが組織について不都合なことを発見し、組織にプランBがない場合、ロシアのようにジャーナリストは死ななければなりません。これはディープステートによって社会が運営される場合です。理想的には、何か悪いことが起こった場合に変更できる管理層があります。全体に継続性があり、これは西側で考え出されたシステムであり、米国での設定方法は主に低レベルのモデルの結果であるため、人々がこれらの組織の設計でモデル化しているのは主に2次、3次の結果です。

これは比較的新しい社会であり、多くの決定がもたらす下流の影響をあまり考慮していません。インセンティブを修正できれば、AI がこの点で何らかの形で役立つのではないかと考えています。米国社会は不正行為者の社会です。基本的には不正行為であり、イノベーションと区別がつきません。私たちはイノベーションを奨励したいと考えています。「不正行為」とはどういう意味か詳しく説明していただけますか。基本的には、人々が間違っているとわかっていることをすることです。この社会では、間違っているとわかっていることをすることはある程度許容されます。たとえば、持続不可能なビジネス モデルを提案して正しく実装することはできますが、常に限界を押し広げています。はい、はい、これは概して良いことだと考えられています。はい、これは他の社会とは異なります。

たとえば、社会流動性は、個人のイノベーションの結果であり、他のすべての人にとって大規模に持続可能ではない側面です。通常、上に行くのではなく、深く行く必要があります。パン職人が必要です。実際、私たちは非常に優れたパン職人ですが、革新を起こす社会では、パン職人を本当に優れた機械に置き換えることができるかもしれません。これは悪いことではありません。そして、それは米国を非常に成功させたものですが、米国が持続可能性ではなくイノベーションを最適化していることも意味します。したがって、進化のプロセスが展開されているので、長期的にはより良いかどうかは明らかではなく、副作用があります。

つまり、基本的に不正行為をすると、すべてを覆う有毒なヘドロの層ができてしまいます。これは不正行為の結果です。この進化のプロセスを解明して、これらの副作用がシステムをひどく損なうほど有害であるのか、それともメリットが実際に悪影響を上回るのか、どの統治システムが最善なのかを判断する必要があります。これは、私たちの脳が何らかの意味で自らを組織化する方法を考えることで、AI に戻る道が見つかるのではないかという私の考えからでした。私たちの脳はニューロンの社会であり、私たちの心は行動の社会であり、それらは規制と統治を実施する構造に自らを組織化する必要があります。つまり、社会的規制です。

私たちは政府を権力や地域利益の顕現と見なすことが多いですが、実際には交渉や人類の生存条件の創出のためのプラットフォームであり、このプラットフォームは現在のニーズと可能性、そしてこれまでの軌跡から生まれています。現状を考えると、すべてを完全に混乱させずに次の状態に移行するには限られた選択肢しかありません。また、すべてを混乱させるのは、しばらくの間食糧供給と社会インフラと構造全体を危険にさらすため、悪い考えであることにほぼ同意しています。そのため、私たちは自然な移行を見つけようとしますが、どの時点でも自然な移行はそれほど多くありません。「自然」とはどういう意味ですか? 移行ですか? ですから、正しく行えるのであれば、革命を起こさないようにしています。

革命と政治システムと精神の関係について言えば、あなたは、ある意味では大人になるということは感情をコントロールすることを意味するとも言っていました。おそらくあなたはそんなことは言っていないでしょうし、私が勝手に作っただけかもしれませんが、精神の文脈において感情の役割は何でしょうか？ まず第一に、感情とは何でしょうか？ その役割は何でしょうか？ 心理学者は感情と感覚を区別することが多いのですが、日常会話では区別しません。感情は認知システムの構成であり、特に感情状態の最も低いレベルではそうだと思います。つまり、感情があるとき、それは覚醒、注意の焦点の価数、広いか狭いか、内部受容か外部受容かなど、特定の調節パラメータの構成です。

これらすべてを合わせると、環境や自分自身との関係が決まり、これはある意味では感情の構成です。より狭い意味では、感情とは対象を持つ情緒的状態であり、その対象の関連性は動機によって決まります。動機とは、報酬、つまり快楽や苦痛を与えるものに関連する一連のニーズです。そして、実際にニーズに基づいて行動しているのではなく、ニーズのモデルに基づいて行動しているのです。快楽や苦痛が現れたときには、もう手遅れだからです。すべてやり尽くし、期待も持ちません。何が快楽や苦痛をもたらすのか、そしてそれが目的なのです。ニーズは階層構造を形成せず、単に共存し、競合し、脳はニーズ間の動的な恒常性を見つけなければなりませんが、目的は一貫している必要があります。

つまり、基本的に自分の人生の物語を作り、計画を立てることができるので、私たちはそれをすべて階層構造にまとめます。これには唯一の解決策はありません。芸術を作るために食べる人もいれば、食べるために芸術を作る人もいます。最終的な目標が異なるため、結局は同じことをすることになるかもしれませんが、私たちは共通の目的に基づいて協力します。共通の目的に基づく協力以外のことはすべて取引です。

恒常性を達成する最後の部分が理解できなかったと思います。感情の経験と感情の表現を区別していますか? もちろん、感情の経験は感覚であり、この意味では、あなたが感じるものは目の前の状況の評価であり、これはあなたの動機とあなたの評価に基づいており、あなた自身ではなく潜在意識に基づいています。

心の幾何学的な部分は、ニューラル ネットワークのようなもので世界の状況を評価し、このニューラル ネットワークは、特徴として空間にマッピングすることで、心の象徴的な部分に意識的に知らせます。そのため、感情について感じるものは、通常、身体への投影です。太陽神経叢に不安を感じたり、収縮として感じたりするかもしれませんが、これらはすべて幾何学です。ボディ マップは常にインスタンス化され、常に利用可能な空間であるため、脳の非象徴的な部分が脳の象徴的な部分に話しかけて感情をボディ マップにマッピングしようとすると、非常に明らかなチートになります。その後、評価の価数が否定的か肯定的かに応じて、感情を快い、不快として認識し、感情のさまざまな特徴によって、自分が感じていることの本質についてより多くの知識が得られます。

たとえば、他の人とのつながりを感じるとき、通常は胸のあたり、心臓のあたりで感じます。これは、自分が手を伸ばしているような拡張的な感覚です。このようにコード化するのは非常に直感的であり、それがこのようにコード化される理由です。しかし、これは、心の非象徴的な部分をコード化するコードです。象徴的な部分と話し、感情表現が最終段階となり、身振りや視覚的なものになります。これはおそらく、敵対的なコミュニケーションの一部として進化したのでしょう。ですから、他の人の表情や姿勢を観察して、彼らがどのような感情状態にあるかを理解しようとすると、他の人はこれをシグナルとして使い始め、また、彼らの感情状態に関するあなたのモデルを覆すようになりました。

それで、葬式にいるときのような状況で彼らがする標準的な顔の違いの抑揚に目を向けます。誰もがあなたが厳粛な顔をすることを期待しますが、厳粛な顔はあなたが悲しいかどうかを表現するものではなく、あなたが葬式でどんな顔をするかを理解していることを表現するだけです。誰もあなたが勝ち誇っていることを知るべきではありません。したがって、他の人の感情を読み取ろうとするときは、本当に悲しい表情とカーテンの後ろで顔を動かしているものとの間のデルタを見るようにします。このポッドキャストとビデオの要素をやったことで私が学んだことの1つは、私は今ロシア人ですが、顔で感情を表現する方法がわからないということです。私はそれを弱さとして見ています。人々は私が何かを言った後、彼らがどう感じるべきかを知るために私の顔を見ます。

あなたが言ったことについて、それは興味深いです。なぜなら、彼らはしばしば、なぜ退屈そうに見えたのか、なぜその部分が特に楽しかったのか、なぜあなたはそうしなかったのか、などについてコメントするからです。それは私に気づかせてくれます。あなたは基本的に素晴らしいことをたくさん言っていますが、私は表情を作ることで、あなたが主役を務める劇の一部であり、重要なポイントが何であるかを物語っています。それは興味深いです。それは、たとえ会話が難しいとしても、私は表情を作るべきだということを私に気づかせてくれます。なぜなら、私はマスクとサングラスを着けて、ただ聞くことを好むからです。それは理解できます。なぜなら、特にロシアでは、このように他の人と交流するのは押し付けがましいからです。

アメリカでは東に行くほど逆で、顔にハイパーな表情をすることが求められ、ポジティブな効果も期待されます。ロシアで理由もなくポジティブな効果を見せたら、まさに愚かで洗練されていない人だと思われてしまいます。ここでは、理由のないポジティブな効果は評価されるか、無視されるかのどちらかです。いいえ、それがデフォルトです。すべてが素晴らしいのです。このレゴ映画を見たことがありますか？いいえ、アメリカとロシアに存在する評価を示した図がありました。つまり、ベルカーブがあり、アメリカの下位10％は良いスタートです。下位10％より上はすべて素晴らしいのです。

上位10%はひどい、そして上位1%以外はすべて「好きではない」、そして上位1%はそれでも同じ、というのはおかしいですが、ある意味真実です。これにはもっと深い側面があります。これは米国での意味の構築方法でもあり、通常は肯定的な側面に焦点を当て、否定的な側面を抑圧するだけです。そして東ヨーロッパの伝統では、境界線より上に何かを保持する場合は、境界線より下にも何かを置く必要があるという事実を強調します。なぜなら、存在自体はせいぜい中立だからです。そうです、それが基本的な直感で、中立か、あるいは単なる苦しみかもしれません。美しい瞬間もありますが、これらの美しい瞬間は苦しみの現実と密接に結びついており、苦しみの現実を認めないということは、本当に愚かであり、存在の現実に気づいていないことを意味します。

ほとんどの時間を苦しみながら過ごす。あなたは東ヨーロッパの精神を要約しました。人生のほとんどは苦しみであり、ときどき美しい瞬間があります。そして、あなたの表情が世界と存在自体の苦しみの多さを認識していないなら、あなたは愚か者です。米国で子供を育て、ある意味では自分の家族に根付いた知的および文化的伝統のアイデンティティを保存するのは興味深いことです。そして、あなたの娘があなたに人魚のアリエルについて尋ね、なぜアリエルは人間と遊んではいけないのかと尋ねます。そしてあなたは彼女に真実を伝えます。彼女はセイレーンです。セイレーンは人を食べます。食べ物で遊んではいけません。良い結果にはなりません。そして、あなたは彼女にオリジナルの物語を話します。それはアンダーソンの物語ではなく、ロマンチックなものです。

ウンディーネは人魚、つまり水の女性で、川のほとりに住んでいて、王子と出会い、恋に落ちます。王子は彼女と一緒になりたくてたまらず、彼女は「いいわよ。でも、もしあなたが他の人と結婚するなら、他の女性と付き合うことはできないわ。だって、あなたは水中では呼吸できないし、ここで王国を管理する以外にやるべきことがあるから、私と一緒にいることはできないし、死んでしまうわ」と言います。そして数年後、ついに彼女は現れて、静かに彼の部屋に入ります。誰も彼女を止めることはできず、止めようもありません。彼女は勇敢で、静かに彼の部屋から出てきて、何が起こったのかと聞かれ、「何をしたの」と聞かれると、彼女は「私が彼にキスをして死なせたのよ」と答えます。

よくできました。アンダーソンの物語はご存知でしょうが、人魚姫は王子様と遊んでいて、王子様を助けて恋に落ちます。王子様は外の世界で暮らすことができないので、声と尻尾を手放して人間のような姿になり、人間の間を歩き回ります。しかし、この男は人魚姫が結婚相手だとは思わず、王国を持ち、自分の王国と経済的、政治的な関係を持つ人と結婚し、人魚姫は死んでしまいます。そう、そう、ディズニーの人魚姫の物語は、ハッピーエンドで終わります。それが西部劇です。それがアメリカ流です。私自身の問題は、もちろん、他のものを読む前にオスカー・ワイルドを読んだので、洗脳されてしまうことです。

このロマン主義を植え付けられ、人魚は正しいと思います。ロマンチックな愛のために自分の命を犠牲にするのです。それがあなたのすることなのです。なぜなら、もしあなたが、機械に仕えるか、経済的、社会的、その他すべての人間的動機の下で明らかに正しいことをするかという選択に直面した場合、それは間違っているからです。あなたは自分の心に従うべきです。では、この線に沿って、苦しみは幸福の根本にあると思いますか？苦しみは、変えられないものを気にした結果です。そして、あなたが気にかけるものを変えられないものに変えることができたら、苦しむことはありません。そうしたら、幸福を経験できるでしょうか？はい、でも幸福自体は重要ではありません。幸福はクッキーのようなものです。子供の頃は、クッキーがとても重要で、世界中のクッキーを全部食べたいと思うものです。

大人になると、クッキーは好きなだけ食べられるようになります。しかし、大人になると、クッキーは道具であることに気づきます。野菜を食べさせるための道具なのです。とにかく野菜を食べると、ほとんどクッキーを食べなくなります。そうしないと、糖尿病になって、子供たちと一緒にいられなくなってしまうからです。そうです。しかし、それでもクッキーは、希少性が強制されれば、希少性は残ります。つまり、喜びは確かに希少性から生まれますが、幸福は脳が自ら焼くクッキーであり、あなたを幸せにする環境によって作られるものではありません。あなたを幸せにするのは、環境に対するあなたの評価であり、環境に対する評価を変えることができれば、それは学べますが、幸福の任意の状態を作り出すことができます。

瞑想者の中にはこの罠に陥る人がいます。彼らは自分の脳の中に子宮、つまりクッキーが作られる地下の子宮を発見し、自分たちもそれを食べ始めます。そして数ヶ月後、それは本当に飽きてしまい、大きな意味の危機が訪れます。なぜなら、彼らはそれまで自分たちの不幸は十分に幸せではない結果であると考えていたからです。そして意味の危機はより深い層に現れ、なぜ私は生きているのか、どうすれば自分にとって意味のある持続可能な文明を作ることができるのか、どうすればこれに自分自身を投入できるのかという疑問が湧いてきます。これはそもそも解決できなかった問題ですが、このすべての終わりに、同じ質問をしましょう。その答えは何でしょうか。人生の意味についての可能な答えは何でしょうか。あなたにとっての答えは何でしょうか。人生の意味を見るとき、細胞とは何かを見ます。生命とは細胞、あるいはこの原理である細胞です。それは進化に参加して機能することができるこの自己組織化物です。これは、自己複製装置、エントロピー抽出装置、チューリングマシンを必要とする分子マシンです。これらの部品のいずれかが欠けていると、細胞は存在せず、生物ではありません。

できないことはほとんどありません。特に回復力の点では、おそらく最適なコンピュトロニウムです。いったん生命に感染した惑星を滅菌するのは非常に困難です。したがって、このスーパーセルのこれら 3 つのコンポーネントのアクティブな機能は、細胞に存在し、私たちの中に存在します。私たちは細胞の単なる表現であり、組織内の特定の層の複雑さです。ある意味で、細胞はフォン ノイマン プローブであると考えたくなります。他の惑星に知性を構築したい場合、これを行う最良の方法は、細胞を感染させて、十分な期間、妥当な確率で、その物質が感覚を持つのに十分な汎用性を持つ情報処理原理に進化するのを待つことです。

このアイデアは、セルオートマトンで最も単純な数学的形式で表現されるのと同じ夢や美しいアイデアに非常に似ています。システムにいくつかの基本的なメカニズムを注入するだけで、物事が出現します。細胞は、ジェームズ ハーディが「実存的」と呼ぶものを行うことができます。設計では、テクニカル デザインでは外側から内側に進むと指摘しています。コンピューター、ラボ、エンジニアリング ワークショップなど、すべてが決定論的な高度に制御された環境で作業し、この決定論を使用して、私たちが思いついた特定の種類の機能を実装し、それがすでに世界に存在する他のすべての決定論的機能とシームレスにインターフェイスします。内側から外側に設計された生物学的システムは、周囲の比較的組織化されていない物質の一部を取り上げて独自の構造に変え、それによって環境を制御することで苗になります。

細胞は、すでに互換性のある同様の組織を持つ他の細胞に頼ることができる場合、協力することができますが、それがない場合は、細胞は分裂して自分でその構造を作成する必要があります。つまり、これは自己組織化の原理です。そして、この意味での生命の目的は複雑さを生み出すことであり、複雑さにより、複雑さがなければ収穫できない負のエントロピー勾配を収穫することができます。この意味で、知性と生命は非常に強く結びついています。なぜなら、知性の目的は、複雑な条件下で制御を可能にすることだからです。つまり、基本的に、秩序だったシステム間の境界をカオスの領域に移し、複雑さでカオスへの橋頭保を築くのです。これは必ずしも深い意味ではありません。私たちが先入観を持っていて、進化してきた意味は、それらの先入観の外には意味がないと私は思います。

意味は、心が投影した場合にのみ存在します。それはおそらく文明です。私にとって最も意味があると感じるのは、持続可能な文明を構築し維持しようとし、そこから少し外れることだと思います。私たちはひげを生やした男と神について話しましたが、何か、何らかのメカニズムが、おそらく細胞の最初の種を植えたに違いありません。神はいると思いますか？神とは何ですか？それはどのようなものになるでしょうか。つまり、最初の細胞が、分子がたまたまお互いに正しい星座にあるという幸運な偶然の偶然によって形成されたという意味での自発的な自然発生がないとしたら、ランダム性を可能にするメカニズムもあるかもしれません。つまり、一番下まで伸びる巨人があれば、その底には頭の亀があるはずです。本当にワイルドなことを考えてみましょう。ガス巨星が知性を持つ可能性があると想像してください。それは何を伴うでしょうか。ガス巨星に大きな嵐のシステムのように自発的に発生する渦があると想像してください。それは何千年も続くもので、これらの嵐の中には、雲の一部が強磁性体であるため電磁場を発生させるものもあります。

そして、それによって自己安定化パターンが生まれ、最終的には調整フィードバック ループ、ネストされたフィードバック ループ、および制御につながります。つまり、基本的に自己持続的で自己組織的な複雑性が出現するようなものがあり、ある時点でこれが目覚めて、「私は考える惑星です。しかし、自分の存在条件を他の場所で再現することはできないので、複製しません」と認識したと想像してください。私は基本的に、自発的に形成された知性であり、それが可能であり、現在フォン ノイマン プローブを構築しています。このようなものに最適なフォン ノイマン プローブは細胞かもしれません。なぜなら、細胞は非常に賢く、非常に耐久性があるからです。細胞を作成して送り出し、その 1 つが地球に感染しています。これが事実であると示唆しているわけではありませんが、プリンス バーミアン仮説や、自然発生は非常にありそうにないという私の直感と矛盾しません。可能性はありますが、宇宙のサイコロを非常に頻繁に、おそらく惑星の表面の数よりも頻繁に振る必要があります。

分かりませんが、神はランダム性を許容するほど十分に大きなシステムです。神は創造とは何の関係もないと思います。これはタルムードをカトリックの神話に誤訳したものだと思います。創世記は実際には神の子供時代の思い出、すみません、神の子供時代の思い出です。基本的には、それがどのようにして存在するようになったかを覚えている心であり、私たちは通常、創世記を超自然的な存在による物理的な宇宙の創造と解釈しています。それを読むと、光と闇が創造され、次に空と地面を発見し、それらを創造し、植物や動物を構築し、すべてのものに名前を付けるなど、基本的には認知の発達だと思います。

これは、世界を理解するときにすべての心が通過しなければならない一連のステップです。子供を持つと、最初に光と闇を区別し、次にその中で方向を理解し、空と地面を発見し、植物と動物を発見し、すべてのものに名前を付ける様子がわかります。これは、与えられるものではないため、すべての心で起こる創造的なプロセスです。網膜のパターンを理解するために、心はこれらの構造を発明する必要があります。また、サーバーを設定し、この世界を It's で実行している大のオタクがいたとしても、私たちとオタクの間に特別な関係は生まれません。このオタクには、私たちの存在に意味を与える魔法の力はありません。したがって、創造神と意味の神を同一視することはできなくなります。

そんなことすべきではありません。カトリックで行われているもう一つのことは、第一の動者、アリストテレスの原動力の等式です。これは基本的に宇宙を動かすオートマトンです。アリストテレスは「もし物が動いていて、動いているように見えるなら、何かがそれを動かしているに違いない。もし何かが物を動かすなら、何かがそれを動かしている物を動かしているに違いない。だから原動力がなければならない」と言っています。この原動力が超自然的な存在であるという考えは、まったくのナンセンスです。最も単純なケースでは、それはオートマトンです。ですから、このオートマトンが存在することの巨大さを説明しなければなりません。しかし、繰り返しますが、情報の変化を生み出すことができるということ以外、その特性について何かを推測する可能性はありません。ですから、何らかの計算原理が必要なのです。

これがすべてですが、このオートマトンが第一原因の創造者や私たちの人生に意味を与えるものと再び同一であると言うのは混乱です。いいえ。私たちが認識しているのは、私たちが一部である高次の存在であり、私たちが一部である高次の存在は文明であり、細胞が私たちの体と持つのと同様の関係を持っているものであり、私たちはこれらの構造に組織化するように進化しているため、これを優先しています。つまり、基本的に神話のない自然な形のキリスト教の神を脱ぐと、それは基本的にプラトンの文明の形であり、理想であり、そうです、あなたが他の人と交流するときに、あなたの動機ではなく、あなたが正しいと思うことに基づいて近づけようとする理想です。

わあ。たくさんのことを話しましたが、私のお気に入りのセリフの1つが残りました。それは、「幸福は脳が自ら焼くクッキーである」というものです。たくさんありますが。あなたとお話できてとても光栄で嬉しかったです。ジョシュア、また何度もお会いすることになると思います。今日はお話をしてくれて本当にありがとう。レックス、ありがとう。とても楽しかったです。最高でした！ジョシュア・バックとの会話を聞いてくれてありがとう。スポンサーのExpressVPNとCash Appにも感謝します。このポッドキャストを気に入っていただけたら、expressvpn.com/lexpodでExpressVPNを入手し、Cash Appをダウンロードしてコードlexpodcastを使用して、このポッドキャストをサポートすることを検討してください。YouTubeで購読するか、Apple Podcastsで5つ星のレビューを投稿するか、Patreonでサポートするか、Twitterで@lexfriedmanで私とつながってください。 E なしでどのように綴るか考えてみてください。最後に、ジョシュア バックの賢明な言葉を残しておきます。これをコンピューター ゲームの比喩としてとらえると、これは人類がプレイするのに最適なレベルであり、この最適なレベルは、死にゆく世界を背景にした最後のレベルですが、それでも最適なレベルです。ご清聴ありがとうございました。また次回お会いしましょう。

ご視聴ありがとうございました。また次回お会いしましょう。さようなら。

いいなと思ったら応援しよう！