マノリス・ケリス: 人類文明の進化と超知能 AI | レックス・フリードマン ポッドキャスト #373

※長文のため、テキストの読み上げ機能の使用を想定しております。各OS標準搭載のアクセシビリティ機能(読み上げコンテンツ)でも良いですが、個人的にはMicrosoft Edgeブラウザの「音声で読み上げる」機能をおすすめします。

AIをツールやアシスタントとして考えるのではなく、本当にAIを自分の子供として考えるべきかもしれません。子供を訓練する責任があるのと同じように、子供は独立した人間であり、いつかはあなたを超えます。基本的にAIが常に人間に奉仕するようにするこのアラインメントの概念は、非常に利己的で非常に制限的です。代わりに、AIをパートナーとして、AIを目標を共有するが自由を持つ人として考えると、私たちはAIを私たちとアラインするように強制したり、AIとアラインしないように強制したりすることはできません。つまり、信頼を築くことは相互的です。インテリジェントシステムが、あなたがそれをシャットダウンできることに気付いたときに、あなたを愛するように単に訓練することはできません。以下は、このポッドキャストに5回目となるミノラス・カルスとの会話です。彼はMITの教授であり、MITの計算生物学グループの責任者です。彼は世界で最も偉大な科学者の1人ですが、謙虚で親切で思いやりのある人間でもあります。彼を「AI」と呼ぶことができるのは、私にとって最大の栄誉と喜びです。友人、これはレックス・フリードマンのポッドキャストです。サポートするには、説明欄のスポンサーをチェックしてください。そして、親愛なる友人の皆さん、こちらはマノリス・ケリスです。

まず、会えてうれしいです。会えなくて寂しかったです。あなたが私の知っている多くの人の人生を変えてくれたと思います。戻ってこられて本当にうれしいです。あなたが成長して、自分の個性のさまざまな側面に到達しているのを見るのは本当にうれしいです。いつも私にたくさんのサポートと愛をくれた愛に感謝します。私は永遠に感謝しています。愛を持っていて、基本的に人を判断せず、世の中には批判的な人がたくさんいます。このようなオープンなビーコンを見るのは本当にうれしいです。では、私が人間のかけがえのない存在である理由は何でしょうか。AIがますます有能になるこの時代に入るにあたり、人間がかけがえのない存在である理由は何でしょうか。人間がかけがえのない存在である理由は、先ほどお話しした重荷のためです。重荷について話しました。私たち一人ひとりが抱えているという事実について話しました。事実上、人類の文明のすべてを独自の方法で再学習したため、すべての人間は、彼らが受け継いだ独自の遺伝子変異のセットを持っています。いくつかは一般的なもの、いくつかは珍しいもので、一部のメーカーは異なる考え方をしているので、私たちは異なる性格を持っています。1人の子供を持つ親は遺伝学を信じ、複数の子供を持つ親は遺伝学を理解していると言われています。子供がどれほど違うか、そして私の3人の子供は最初から劇的に異なる性格を持っています。私たちをユニークにしている1つのことは、私たち全員が異なるハードウェアを持っていることです。2つ目にユニークであるのは、私たち全員が異なるソフトウェアを持っていることです。人間社会のすべて、人間の文明、または人間の知識のすべてをアップロードします。私たちはそれを知って生まれていません。私たちは、遺伝子を通じて巣の作り方を学び、見たことがなくても巣を作る鳥とは違います。私たちは常に人類の文明のすべてを再学習しています。これが2つ目です。そして3つ目、人間とAIの大きな違いは、私たちが背負っている重荷は経験的な重荷ではなく、進化的な重荷でもあるということです。私たちは複雑さのサイクルを経て進化してきました。オーガに層があり、シュリンクに層があるように、人間にも層があります。認知層は、私たちが進化させた最も外側の、つまり最新の進化的イノベーションである巨大な大脳新皮質です。その下には感情的な重荷があり、その下には恐怖や恐怖、逃走など、あらゆる行動があります。AIには大脳新皮質しかありません。AIには大脳辺縁系がなく、人間の感情の複雑さがありません。人間の感情は、とても複雑で、感情や本能、つまり直感と美しく絡み合っていると思います。反応とかそういうものなので、人間がその側面、つまり人間的な側面をもっと知的な側面に押し込もうとすると、創造性や人間の新鮮さがかなり失われると思います。それはかけがえのないものだと思っています。だから、今生きている人間全体、おそらく今まで生きてきた人間全員を見て、この高次元空間にマッピングすると、おそらくそのマッピングの中心、つまり質量の中心があり、私たちの多くはさまざまな方向に逸脱するので、その中心から逸脱する方向は多岐にわたります。中心は実際には空っぽだと私は考えたいです。そうです、基本的に人間は互いに非常に多様であるため、平均的な人間というものは存在しません。私たち一人ひとりが感情、知性、動機、行動特性の複雑な荷物を抱えています。それは単なる正規分布ではなく、そこから逸脱する次元が非常に多いため、ある種の希薄さ、つまり呪いに陥っているのです。次元の非常に狭い範囲で人口密度が非常に低く、平均的な人間は存在しないと思います。私たちをユニークにしているのは、多様性と多様性の能力です。多様性の能力は進化の歴史全体から来ています。ですから、私たちは互いに異なることができる方法がたくさんあります。ええ、能力だけでなく、多様性の必然性も基本的にはハードウェアにあります。私たちは互いに異なる配線をしています。私と兄弟はまったく異なります。私の子供たちは互いにまったく異なります。私の妻は6人兄弟の2番目です。遠くから見ると同じように見えますが、よく知り合えば、それぞれが完全に異なりますが、十分に同じなので、違いは互いに影響し合うので、多様性が機能し、有用であるというのは興味深いことです。つまり、私たちは多様性に気づくほど近くにいるのですが、それが効果的なコミュニケーションの可能性を完全に破壊するわけではないのです。つまり、私たちは依然として同じ種類のものなのです。以前のポッドキャストで私が言ったのは、人間が自分たちが 99.9%同一であると気づけば、基本的に私たちは互いに争うことをやめ、私たちは本当に 1 つの人類種であり、お互いに非常によく似ています。人間以外のものを見ると、600 万年もの間、親戚がいない状態です。地球上の他の生命と比較すると、私たちが宇宙の点のようなものだというのは本当に驚くべきことです。複雑性のサイクルを経て進化することを考えると、このような美しいフレーズ、美しい考えを詳しく説明していただけますか。ソフトウェアでは、バージョン 2 をゼロから構築しようと思うこともありますが、これは進化では起こりません。進化では、古い機能の上に追加の機能を重ねます。つまり、細胞が分裂するたびに、私は酵母のように単細胞生物のように細胞分裂が基本的に同一になります。息を吸って肺が膨張するたびに、私は基本的に心臓が鼓動するたびに魚のように基本的に同じ心臓を持ち続けます。私の静脈を流れる血液、酸素、免疫システム、私たちは基本的に霊長類であり、社会的な行動、基本的に新世界ザルであり、すべての世界ザルです。これらの行動の1つ1つが進化のどこかに遡ることができ、そのすべてが私たちの中に生き続けているという概念は、他の人間を殺さないだけでなく、他の種も殺さないことの証でもあります。私たちが自然とどれほど一体になっているか、これらの生物学的プロセスがすべて存在しなくなったことはなく、私たちの中に生き続けていることを認識するだけです。そして、大脳新皮質と人間のすべての推論能力は、生き続け、呼吸し、分裂し、代謝し、病原体と戦い、すべてが内部で継続している他のすべての種の上に構築されています。つまり、大脳新皮質の推論が何であれ、それがこの旅の最新バージョンの最新の機能です。人間がこれほど短い時間でこれほど進化したのは驚くべきことです。進化のタイムラインを見ると、基本的に、人間に到達するのに数十億年かかります。分裂細胞、多細胞生物、複雑な体制、そして世界を知覚するための素晴らしい感覚、コウモリが飛べるという事実、数百万年の間に飛翔能力とソナーを進化させたという事実。進化がどれだけ加速したかは驚くべきもので、そのすべてがこの進化可能性によってもたらされています。進化が上手くなるまでには時間がかかりましたが、一度上手くなれば、モジュール性が組み込まれ、階層的な組織が組み込まれ、破壊することなく意味のある変化を可能にするこれらの構造がすべて備わっています。システムは完全に、従来の遺伝的アルゴリズム、つまり人間が 60 年代に設計した方法を見ると、進化できる範囲は限られており、ある程度の複雑さを進化させると、機能的なものから遠ざかる突然変異の数は指数関数的に増加し、より良いものに移行する突然変異の数は指数関数的に減少します。したがって、複雑なものを進化させる確率は、より複雑になるにつれて無限に小さくなります。しかし、進化では、ほぼ正反対です。複雑さが増すにつれて、進化が加速しているように見えます。これは、システムが進化に長けているだけだと思います。どこに向かっていると思いますか。進化システム全体を視覚化して、矢印と目的地があるかどうかを確認してみてください。未来を理解する最良の方法は、過去を見ることです。軌道を見ると、私たちが向かっている方向について何かを学ぶことができます。地球上の生命の軌道を見ると、実際には情報処理に関するものです。したがって、感覚は次から次へと進化します。バクテリアが化学走性を持つようになるということは、基本的に化学勾配に向かって進むことを意味します。これは、食べ物を探し出すために必要な最初のことです。その次のステップは、実際に光を知覚できるようになることです。この惑星のすべての生命、私たちが知っているすべての生命は、この回転する岩の上で進化しました。24時間ごとに日光と暗闇があります。日光と暗闇があり、光はエネルギー源です。光は上がどこにあるかの情報でもあります。光はさまざまなものです。つまり、基本的に光を認識し、次に形を認識し始めることができます。単一の光受容体を超えて、複雑な目や複数の目を持つことができ、動きや方向を認識し、形を認識し始めます。次に、認知装置のインフラストラクチャを構築して、この情報を処理し、環境を理解し、環境のより複雑なモデルを構築し始めます。進化の軌跡を見ると、人間は基本的にこの種の情報理論的進化観によると、人間は基本的に次の自然なステップであり、人間が地球上で支配的な種になったことは、おそらく驚くことではない。なぜなら、確かに、人間よりはるかに優れた動物がいる次元はたくさんあるが、少なくとも認知の次元では、この惑星、そしておそらく宇宙で、人間は単に無敵である。しかし、これをたどっていくと、進化の可能性と、物事がどのように進化してより良くなるかについて少し話したが、1つの可能性は、進化の次の層が次の進化の層を築くということであり、私たちが今、AIの人間に見ているのは、この情報能力を習得したということである。人間は、いわゆる古いハードウェアから、つまり生物学的に進化したシステムを持っています。アフリカの環境では、その後、地球全体に広がった環境では、進化的に有利だったため、今では多くの認知タスクを解決できる技術が生まれました。以前の革命的なレイヤーのすべての負担はありませんが、地球上の次の進化は、自己複製型AIかもしれません。私たちは、現在の知性を活用して、より優れたプログラミング言語を構築し、そのプログラミング言語でチャットGPTを構築し、次にAIの速度向上に役立つ次のレイヤーのソフトウェアを構築します。このAIと共存しているのは素晴らしいことです。この次の段階の進化のレイヤーのクリエイターは、AIを導くためにまだ存在しており、できれば永遠にパートナーとして存在してくれるでしょう。しかし、これを単に進化の次の段階と考えるのも良いことです。動物を見れば、ほとんどの動物は起きている時間の80パーセントを費やしています。人間は、食料を探したり、住処を作ったりするのに、おそらくその時間の 1 パーセントを費やし、残りは創造的な努力に任されています。AI は住処などについて心配する必要はありません。基本的に、すべては認知空間で生きているので、ある意味では、進化について考えることは非常に自然な次のステップかもしれません。これは、純粋に認知的な側面です。人間自身について考えると、私たち自身のゲノムを理解し、把握する能力が再び現れ、究極の内省層により、このハードウェアを操作する能力さえも得られます。AI との対話やコラボレーションを通じて能力が強化されるだけでなく、共感的思考、正義、これ、あれに必要な神経経路を理解し、ニューロン介入、化学的介入、電気的介入を通じて人間の能力を強化し、基本的に、私たちが進化してきたハードウェアの袋をより大きな能力に導くのに役立ちます。そして最終的には、ニューロンの配線や機能だけでなく、遺伝コードも理解することで、将来的には、精神疾患をなくすことができるか、神経変性をなくすことができるか、認知症をなくすことができるか、そして病気をなくすだけでなく、人間の能力を拡張し始めることができるか、ハードウェアでゲノムをいじくり回すことができるか、あるいは、AIでソフトウェアシステムの荷物を処分したのと同じように、荷物を深く理解することなくハードウェアに近づくことができるか、完全ではないがある程度、ゲノムで同じことができるか、あるいはゲノムがこの荷物に深く統合されているか、私は望んでいません。荷物をなくすこと、荷物が素晴らしい理由です。私が時々怒ったり、時々お腹が空いたり、時々怒ったりするという事実は、おそらく私の創造性に貢献しています。私は冷静になりたくありません。ロボットのような人間になりたくありません。トラブルに巻き込まれたいし、間違ったことを言ったり、気まずいコメントをしたり、反応や返答に自分を押し込んだりして、人々の考え方を変えたいのです。私たちの社会は、誰もが間違ったことを言うことを恐れ、一斉に辞めたり、仕事が嫌いになったりするような、ユーモアのない空間に向かっていると思います。私たちは、荷物の側面すべてにおいて、人間的な側面をもう少し受け入れるべきかもしれません。必ずしもそれを置き換えることを考える必要はありません。逆に、認知的および感情的な厳しい言葉の共存を受け入れ、荷物から生まれる多様性を受け入れ、祝福するのです。ええ、ある種の同調性への引き寄せを推し進め、強化するようなものです。実際、AIの出現により、一見非常に知的なシステムが、私たちが非常に知性があると考えていたタスクを瞬時に実行できるようになり、特定の考え方を実行する同じタイプの脳を単に望むのではなく、知的な追求が民主化される可能性があります。つまり、数学的に優れた人だけが同じ大学に通うことを望むのではなく、誰がもうそれを必要としているかがわかります。AIが今や存在するので、私たちが本当に考えるべきなのは、AIが計算を行える多様性と多様性に伴う力です。そして、私たちは互いに非常に異なる考え方をする人間の集団を得るべきであり、おそらくそれが真のイノベーションのゆりかごです。しかし、AIはこれらの大規模な言語モデルも、中心から異なるように微調整されたいくつかのプロンプトだけで実行できるため、プロンプトによって本当にユニークな領域に連れて行かれ、モデルに特定の方法で動作するように要求すると、モデルが動き始めます。そういうふうに行動するということは、言語モデルにも、私たちをとても興味深いものにしている魔法のような多様性がある可能性があるということです。人間も同じだと思います。つまり、人間に特定の行動をするように促すと、環境を与えて特定の行動をとらせると、人間は行動を変えます。古い格言に「友達を見せてくれれば、あなたがどんな人間か教えてあげる」というのがあります。友達を見せてくれれば、あなたがどんな人間になるか教えてあげる、というようなものです。必ずしも自分に似た友達を選ぶ必要はありませんが、それが最初のステップです。次のステップは、自分の周囲で普通だと思うような行動が、あなたが支持し始める行動や、メタ進化のタイプでは、私たちが取るすべての行動が現在の行動とその結果を形成するだけでなく、将来の行動も形成します。特定の行動を実行するたびに、将来の行動が取られる環境を形作ります。それは今日の結果だけでなく、明日の結果でもあります。なぜなら、あなたはその神経経路を強化しているからです。つまり、自己規律は自己達成的予言であり、あなたがしたいように行動し、あなたに似た人々を選択し、望ましい行動を示すことで、その環境も作り出すことになります。つまり、人生そのものが、非常に複雑な一種の促しメカニズムなのです。あなたが選ぶ友達、あなたが選ぶ環境、あなたが選ぶ環境を変更する方法。そうです。しかし、そのプロセスは、大規模な言語モデルよりもはるかに効率が悪いようです。シェイクスピアとデヴィッド・ボウイを混ぜ合わせたような大規模な言語モデルを、いくつかのプロンプトを通じて得ることができます。安定して説得力のある方法で積極的に変更すると、いくつかのプロンプトを通じてモデルの挙動が元のものとはまったく異なるものになります。Chachi PTの前に、私は生徒たちに、マナリが今何と言うか聞いてみろと伝えます。皆さんは今、私のかなり良いエミュレータを持っています。ええ、ええと、ゴム製のアヒルの子のプログラミングパラダイムを知っているかどうかわかりませんが、基本的には、そこに座っているゴム製のアヒルの子に、コードで何をしたか、なぜバグがあるかを正確に説明します。説明するだけで、何となく理解できるようになります。ええ、ある朝、円形劇場で講義をしている夢から目覚めました。友人の1人が、がんのゲノムとがん細胞がどのように進化するかについての深い進化の洞察を私に与えていました。私は、自分が提供していた非常に精巧な議論と、彼が持っていた非常に精巧な一連の洞察を、眠っている間に友人に投影していました。明らかにこれは私の夢だったので、私のニューロンはそれをすることはできないが、彼らはそれをやった。あなたは今ピユーシュ・グプタ、あなたはがんゲノム学の教授で、その分野の専門家だ、あなたは何と言うか、というプロンプトの下で、だから私は、私たち全員が基本的に正しいことがわからないが、私の仮想の足にどうするか聞いてみよう、仮想のXは親切にしてくれと言う能力を持っていると感じています。私はああ、そうだとか、そういう感じで、私自身はプロンプトなしではできないかもしれませんが、私のお気に入りのプロンプトは、ステップバイステップで考えることです。これは私の10歳の子供にも効果があります。彼が数式を1ステップで解こうとするとき、どんな間違いをするか正確にわかっていますが、私が「ステップバイステップで考えてください」とプロンプトすると、考え方、そしてそれはChachi PTが実際に訓練された方法の一部でもあると思います。このループ内の人間のような強化学習は、おそらくこれらのタイプの行動を強化し、このフィードバックループによって、AIを人間による促しの機会にうまく合わせたようです。ええ、人間のような推論ステップ、ステップバイステップの思考を促します。ええ、それは私たち自身の能力を映し出すだけだと思います。ですから、私たちは自分の認知能力に本当に感銘を受けることができます。なぜなら、試すことができることの多様性があるからです。なぜなら、私たちは通常、このようなものを持っていないので、Pythonコードで自分の心を厳密に操作することはできません。ええ、これにより、人間の知恵と知識、または少なくとも指先で知識をすべて操作して、さまざまな方法で考え、話すことができる小さな心をいじることができます。ユニークなのは、先ほど述べたように、私たち全員がさまざまな人間文化のサブセットで訓練されており、Chachi PTはそのすべてで訓練されていることです。違いは、おそらく私たち全員のほぼすべてをエミュレートする能力があるということです。ええ、ほんの数回のプロンプトでそれが認知行動空間のどこにあるのかがわかるというのはかなり印象的ですが、それがどこかに存在するという事実は、本当に素晴らしいことです。そして、それが知識から直交的にエンコードされているという事実も、素晴らしいと思います。AIモデルの極端なオーバーパラメータ化を通じて、文脈知識と形式が分離可能であることが何らかの形で判明し、科学的知識を、シェークスピアか何かの形で俳句で表現できるという事実は、人間の精神のこれらの側面の分離と分離可能性について何かを教えてくれます。これは、この全体の科学の一部です。したがって、これらの大規模な言語モデルは、このような飛躍を遂げたという意味では、何日も前のものです。文脈形式と知識の分離の接触について、それがどこで正確に起こるのか、このような分析を行うのは興味深いでしょう。すでに初期調査のようなものは行われていますが、特定のパラメータセットがどこにあるのかを把握するのは非常に困難です。特定の知識や特定の文脈、特定の話し方を担当する畳み込みニューラルネットワークでは、解釈可能性に多くの良い進歩がありました。なぜなら、それらには構造があり、局所性があり、異なるレイヤーには異なる種類の範囲があることを理解できるからです。そのため、活性化機能を見て、基本的にそれがどこに対応するかを知ることができます。大規模な言語モデルでは、おそらく少し複雑ですが、どのようなプロンプトが適切であるかを尋ねることができるという意味で、まだ達成可能だと思います。このネットワークのこの部分をドロップすると、何が起こるか、言語部分の話し言葉の部分から人間の行動心理学のこれらの側面を説明する言語にたどり着き始めます。その利点は、実際に人間についても何かを教えてくれるかもしれないということです。ご存知のように、現時点ではこれらの側面を説明する言葉はないかもしれませんが、誰かが特定の方法で話すと、私たちが知っている友人を思い出すかもしれません。それを説明するためのより良い言語があれば、これらの概念が人間の精神の中でより明らかになる可能性があり、機械自体でそれらをより適切にエンコードできる可能性があります。つまり、おそらくあなたと私はどちらも、ベースモデルに一定の関心を持っているでしょう。強化学習と人間のフィードバックの調整の前、およびモデルのAI安全性に基づく検閲の前に、モデルがヘイトスピーチを生成する方法を調査することは興味深いでしょう。人間が持つ可能性のある種類の憎悪、またはもちろん性的な言葉のようなものを生成する方法も興味深いでしょう。ロマンチックな言語やあらゆる種類のイデオロギーを共産主義にできるか、ファシストにできるか、資本主義にできるか、これらすべての種類のものにできるか、どの部分が活性化されるか、または活性化されないかを見ることができます。なぜなら、個人の心のレベルと社会レベルで、これらのアイデアがどこで定着するか、それらのアイデアの根本的な核は何であるかを探求することは興味深いからです。共産主義、ファシズム、資本主義、民主主義はすべて、人間の心、人間の精神がイデオロギーに惹かれるという事実によって実際に結びついています。それは中央集権的なアイデアであり、それを思い出させるニューラルネットワークが必要かもしれません。人間の精神が何らかの形でイデオロギーに結びついているという概念が好きです。これは、jcbtの即応性、つまり、今、このように考えることができるという事実、そして人間がこれらのタイプの行動をカプセル化するために言葉を感染させてきたという事実に戻ると思います。それがどれだけ生来的で、どれだけ言語から受け継がれたかを知るのは難しいです。言語ですが、基本的に言語の進化を見れば、親切、怒り、嫉妬などの行動を表すこれらの言葉が言語の進化の歴史の中でどれだけ新しいかがわかります。これらの言葉が言語間で非常に似ている場合、非常に古いものであることを示唆している可能性があります。非常に異なる場合、この概念は各言語で独立して出現した可能性があることを示唆している可能性があります。系統発生、歴史、人々が移動したのと同時に言語の進化の痕跡を見ると、遺伝学のおかげで追跡できるようになりました。これは、人間の精神を理解する魅力的な方法であり、これらの方法を理解する方法でもあります。さまざまな行動が生まれ、フィルターをかけずにシステムを探索するというあなたの考えに戻りますが、精神病院はそういう人たちでいっぱいです。つまり、基本的に心が制御できない人たち、つまり精神の特定の場所で漂流している人たちでいっぱいです。私はこれがとても興味深いと思います。つまり、問題を抱えた心の本質を捉えようとしている映画を見ることは、私たちの日常の自分について多くのことを教えてくれると思います。なぜなら、私たちの多くは心を制御でき、何とかしてこれらの感情を隠すことができるからです。しかし、問題を抱えた人を見るたびに、私自身の姿が見えてきます。それほど極端ではないかもしれませんが、これらの行動に共感することができます。双極性障害、統合失調症、うつ病、自閉症など、さまざまな側面が見られ、特定の個人に名前が付けられ、結晶化しています。私たち全員が、多次元の脳と遺伝的変異を持ち、それが私たちをこれらの方向に押し進め、環境への曝露やトラウマが私たちを押し進めていると思います。これらの方向性は、私たちが選んだ友人や育った環境のせいで一緒にいた友人によって強化される環境行動です。つまり、これらのタイプの行動の多くは、すべての人間のベクトルの範囲内にあります。ただ、ほとんどの人にとって、これらのベクトルの大きさは一般的に小さくなります。特定の遺伝子変異を受け継いでいないか、基本的にそのような環境にさらされていないか、人間のフィードバックによる強化学習のメカニズムがうまく機能しなかったためです。だから、それが私たちのすることだと考えるのは興味深いことです。私たちには、精神疾患に関連するすべての精神病または行動を持つ能力がありますが、親を通して調整プロセスを通じて、私たちはそれらを抑制することを知っています。ええ、この世界で育ったすべての人間が数十年かけて形作られるコントロールを知っています。ええ、それがなければ、私たちはフィルターなしのLGBT4を持っているかもしれません。すべての赤ちゃんは基本的に激しいナルシストです。すべてがそうではありません。信じられないかもしれませんが子供たちが成長していくのを見ていると、確かに性格の一部は変わらないけれど、人生のさまざまな段階で劇的に異なる行動をとってきたのを覚えています。私の娘は、基本的に、1人は「大きい方がほしい」と言い、もう1人は「すべてがまったく同じでなければならない」と言い、3人目は「大丈夫よ、小さい方がほしいかもしれないから心配しないで」と言います。発達の初期段階でもそうでした。妻と私の子供たちが劇的に違うのを見るのは、本当に驚くべきことです。ご存知のとおり、これらは互いに非常に異なっていますが、600万の変異、つまりそれぞれ600万の遺伝子座があります。一般的な変異だけを見ると、メンデルの法則で遺伝する希少な変異もたくさんあります。そのため、子供1人1人に対して無限の正の数の可能性があります。つまり、基本的には2の600万乗です。一般的な変異だけで、希少な変異を重ねると、一般的な変異と希少な変異について少しお話しします。一般的な変異を見ると、一般的には弱い影響です。なぜなら、選択によって強い影響の変異が排除されるからです。たとえば、統合失調症のリスクが高いものでも、頻度は高くなりません。したがって、一般的な変異は、定義上、選択によって比較的弱い影響を持つものだけになります。人格や認知、人間の行動のあらゆる側面に関連するすべての変異が弱い影響の変異である場合、子供は基本的に親の平均になります。数千の遺伝子座の場合、単純に大きな数よりも少ない数になります。 2 つの大きな数値の平均は、その中央に非常に近くなりますが、子供たちはお互いに大きく異なっていることがわかります。つまり、共通の変異の文脈では、メンデルの法則で受け継がれるまれな変異があり、それが人間の行動、人間の生物学、人間の心理学のさまざまな側面を支配しているということです。つまり、統合失調症の人の場合、その一卵性双生児が実際に統合失調症と診断される確率は 50 % しかないということです。つまり、発達段階、環境、トラウマなど、さまざまな側面がそれを形作っている可能性があります。兄弟姉妹の共通変異を見ると、ゲノムの 50 %、つまり 25 % を共有していることから、予想されるとおり、指数関数的に減少します。つまり、12 % のゲノムを共有しているということです。ゲノムの5倍の遠縁など、兄弟の性格は日々観察されるほど大きく異なるため、すべてが育ちによるものではないことは基本的に私たち親が繰り返し述べてきたことですが、私たちは「育ち」の部分を修正しようと、つまり共有させ、親切にさせ、オープンにさせ、お互いを信頼させようと、つまり囚人のジレンマを克服しようと、膨大なエネルギーを費やしてきました。つまり、もしみんなが自分から離れてしまったら、私たちはみんなひどい場所に住んでいますが、もう少し利他的になれば、私たちはみんなもっと良い場所にいるでしょう。子供たちを違うように扱うのではなく、彼らはただ生まれつき違うだけなので、遺伝学者として、育ちでできることは限られていることを認めざるを得ません。自然は間違いなく大きな要素を占めています。変異の選択には、一般的な変異とまれな変異があります。ええと、彼らが作り出す可能性について何が言えるでしょうか。もしあなたがそれをじっくり考えることができるなら、希少な変種の選択は神聖です。どうやって私たちが手に入れるものを手に入れるのでしょうか。それは巨大な進化の重荷を背負っているだけなのでしょうか。それでは回帰についてお話ししましょう。なぜ回帰と呼ぶのか、そして平均への回帰の概念は、戦闘機のパイロットがドッグファイトで驚くほどうまくやれたとき、彼らに報酬を与えるという事実です。そして、彼らが次にドッグファイトをしたとき、彼らはもっと悪い結果を出すでしょう。それで、海軍は基本的に、これはすごい、または少なくとも、彼らを褒めることで台無しにしていると解釈し、彼らは戦争を遂行するだろうと気づきました。その統計的解釈は平均への回帰です。あなたが並外れたパイロットであり、並外れた方法で訓練されているという事実です。それがあなたの平均を並外れた業績へとさらに押し上げ、そしていくつかのドッグファイトであなたは並外れた成果を上げるでしょう。次回も同様に良い結果を出す可能性はほぼゼロです。なぜなら、これがあなたのパフォーマンスのピークであり、統計的確率により、次のサンプルは同じ基礎分布からの別のサンプルとなり、平均に少し近くなります。回帰分析は、統計の世界におけるこの種の認識からその名前が付けられています。人間を例にとると、基本的に並外れた業績を達成した人々がいます。たとえば、アインシュタインは人類の知性の縮図と呼べるでしょう。これは、彼の子供や孫全員が並外れた天才になるという意味でしょうか。おそらく、彼らは同じ基礎分布からサンプル化されていることを意味しますが、彼はおそらくこれらの一般的な変異に加えて、極端な組み合わせのまれな例でした。したがって、たとえばあなたの子供の変異も基本的に解釈できます。もちろん、彼らは両親の平均からのある種のサンプルであり、それに応じて何らかの偏差があります。彼らが受け継いだ希少な変異体の特定の組み合わせに関係しているので、ご存知のとおり、あなたがどこにいるべきかについては無限の可能性がありますが、それはおそらく自然と育ちの一致であると常に解釈する必要があります。自然には、大数の法則のように機能する共通の変異体と、メンデルの法則のように機能する希少な変異体の両方があり、そこに育ちが加わります。これは、私たちが日常の行動で将来の環境を形作りますが、私たちが受け継いだ遺伝子は、私たちだけでなく子供たちの将来の環境をも形作ります。そのため、奇妙な自然と育ちの相互作用と自己強化があり、自分の環境を形作っているだけでなく、子供たちの環境も形作っています。子供たちは、あなたが形作った環境の文脈で生まれますが、彼らが受け継いだ一連の遺伝子変異体も持っています。それに関連する非常に複雑なことがあり、何かを自然のせいにし始めると、それは単に育ちのせいかもしれませんし、そうですね、彼らは親から遺伝子を受け継いでいますが、同じ環境によって形作られているので、この2つを解きほぐすのは非常に困難です。また、自然が育ちに影響を与え、育ちが自然に影響を与えたり、少なくとも相関関係があり、予測できるなど、常に認識しておく必要があります。あなたが言及した分布について考えるのは大好きです。ここがいつもの馬鹿げた自分になれるところです。ええと、私は時々、何十万もある精子細胞の軍隊について考えます。そこには多くのバリエーションがあり、勝つのはランダムではないので、あらゆる可能性を考えます。まったく馬鹿げた考え方です。いいえ、まったくそうではありません。進化論的に私たちは非常にゆっくりと進化する種であり、基本的に人間の世代は選択を行うためのひどい方法です。必要なのは、より小さく、よりタイトなループで選択を行うことができるプロセスです。たとえば、免疫システムを見ると、免疫システムは人間の進化よりもはるかに速いペースで進化しています。なぜなら、免疫細胞内で実際に進化プロセスが発生するためです。分裂している細胞には基本的にVDJ組み換えがあり、基本的に環境に対する抗体と抗原の膨大な量を生み出します。基本的にこれらの抗体はすべて環境からの抗原を認識し、信号を送り返し、非自己を認識する細胞を増殖させます。つまり、ウイルスは私たちよりも何百万倍も速く進化しますが、私たちは環境に直面する自分自身の要素を持つことができ、それは同じ規模ではありませんが、非常に速いペースで進化しています。精子はおそらく体のどの細胞よりも多くのタンパク質を発現しており、その考えの一部はこれは精子が無傷であるかどうかを確認する方法にすぎないかもしれない。言い換えれば、人間が肝臓を持ち、固形食を食べ始めて、濾過器や腎臓、胃などから精子が排出されるまで待った場合、これらの突然変異が人生の後半に現れるまで待った場合、妊娠が早く失敗せず、多くの妊娠失敗と多くの後期発症の精神疾患などにつながるだろう。代わりに、これらの遺伝子をすべて精子レベルで発現させ、それらが誤って形成された場合、精子が原因となる場合、少なくとも男性側ではこれらの突然変異の一部を排除する能力があり、女性側では卵子が発達するにつれて、おそらく同様のプロセスがあり、有益な突然変異を運んでいない卵子、または少なくとも非常に有害な突然変異を運んでいる卵子を排除できる可能性があるので、基本的に進化のプロセスをネストされたループで考えることができます。基本的に、内側のループがあり、より多くの反復が発生します。実行するために、外側のループははるかに遅いペースで動き、進化の次のステップに戻ります。つまり、私たち自身の生物学を補完したり、病気を根絶したり、少なくとも精神疾患や神経変性疾患などを緩和したりするために使用できるシステムを設計するということです。また、代謝免疫癌など、合理的な設計からこれらの突然変異を単純に設計することは非常に非効率的です。代わりに、進化のループがあり、皿の上でニューロンを成長させ、進化の空間を探索し、そのタンパク質をよりよく適応させるように形作ります。たとえば、光を認識したり、他のニューロンと入れ替えたりします。基本的には、人間がさらに100万年進化するのにかかる速度の数千倍の速度で実行できる小さな進化のループを持つことができます。したがって、この進化可能性を、入れ子構造のセットとして考えることが重要だと思います。もっと多くの組み合わせをテストしますが、より厚い設定で、ええ、それは興味深いです、精子がタンパク質を発現するメカニズムは、早い段階でテストの場を作り、失敗した設計が成功しないようにします、ええ、つまり、エンジニアリングシステムの設計では、フェイルファストは、あなたが学ぶ原則の1つです、基本的に何かをアサートする理由、何かが正しくない場合は今すぐクラッシュする方がよいため、予期しない時間にそれを通過させるようにする、ある意味では、20,000のアサート関数、タンパク質が折りたためることをアサートする、タンパク質が折りたためることをアサートする、それらのいずれかが失敗するとパーマが失われます、私は自分が勝利の精子であるという事実と、勝者がハッシュタグを獲得した結果が好きなだけです、私の妻はいつも私にこのフランスの歌を実際に歌っていますそれについて、ご存知のとおり、人生において、私たちはみな一度は初めてだったのです。ですから、少なくとも一度はあなたが初めてだったのです。これは、私たちがどこから来たのか、私が言及したオープンAIの基本モデル、つまり人間のフィードバックによる強化学習の前のものであり、精神病院のようなものだという比喩をしています。私はそれが気に入っています。なぜなら、基本的にこれらすべての異なる角度が同時に存在するからです。つまり、人間の精神のより極端なバージョンを持っているようなものです。興味深いのは、オープンAIの人々とかなり話をしたのですが、彼らはそのモデルを扱うのは非常に難しいと言っています。ええ、一部の人間を扱うのは非常に難しいのと同じです。そこに共通点があるのは非常に興味深いです。なぜなら、一度アラインメントプロセスを実行すると、それとやり取りするのがはるかに簡単になりますが、人間の精神の根本的な能力が何なのか疑問に思うからです。大規模な言語モデルの根本的な能力が何なのかと同じように、先ほど私が基本的に言ったことを思い出してください。プロンプトの柔軟性は、アラインメントの問題が原因で、アラインメント作業がうまくいかないためです。オープンAIのエンジニアが同じ解釈を持っているのは良いことです。実際、これは、より作業しやすいという概念です。ある意味では、より多様な人間と作業できればいいのにと思います。そして、これは、これらの大規模な言語モデルの出現によって私が見ている可能性の1つです。それは、私たちが解釈できない友人や、本当に交流するには過激すぎる友人の感情を和らげる機会を与えてくれるという事実です。リアルタイムの翻訳機があれば、英語を日本語、中国語、韓国語にリアルタイムで翻訳できるのと同じように、基本的に突然、スペクトルのどちらかの側のお気に入りの過激派と会話をすることができます。もちろん、あなたと私ではありませんが、完全に過激な友人を持つことができますが、ベースレベルが異なるため、実際に調整して、彼らは実際にはそこにいるのではなく、彼らは実際に愛を表現しているのです。今のところ、これは彼らにはやり方があるだけで、ランダムな場所を選ぶとしたら、彼らはおそらくニューヨークに住んでいるでしょう。つまり、基本的にコンテキストを重ねることができます。つまり、ニューヨークをテキサスに変更して、極左、極右、中間などに変更することができます。また、感情に惑わされることなく情報を聞けるというコンセプトも気に入っています。つまり、人間が言うことはすべてイントネーションがあり、何らかの背景があり、それがあなたに対する考え方やあなたに対する印象を反映しています。これらすべては絡み合っていますが、それらを切り離して、つまり自己改善は私が常に取り組んでいることの1つであり、本当にあなたを嫌っている人からの批判を受けるのは難しいことです。なぜなら、その批判は憎しみと重なっているからです。しかし、心の奥底では、実際に意味のあることを言っている人もいます。あるいは、あなたを愛している人は、それを表に出さないような形で重ねているかもしれません。しかし、その感情的な要素を自己改善のようなものから切り離すことができれば、基本的に、誰かが「おお、それはコントロールしたことがありますか、これこれ、あれこれ」と言ったときに、「とても興味深いプレゼンテーションをありがとう。あのコントロールについてはどうなのかな」と言うことができます。すると突然、「ああ、もちろん、むしろコントロールします。それは素晴らしいアイデアですね」と思うようになります。「それはナンセンスでした」と言う代わりに、「ああ、ブレーキを踏んで、それに抵抗しようとしている」と思うようになります。そのため、その後に来るあらゆる種類の批判を解釈するのは非常に困難です。ポジティブな方法では、自分の仕事に対する否定的な評価を強化するのに役立ちます。実際、技術的な要素を否定的な評価から切り離すと、否定的な要素を受け入れ、技術的な要素を受け入れ、それを修正することになります。一方、それが組み合わさると、そのことが現実で、あなたの間違いについて私が正しい場合、それはナンセンスの集まりです。突然、その間違いが存在しないことを証明しようとするようになります。ええ、情報を運ぶのは魅力的です。これが基本的にできることです。ここでできることは、情報に含まれる豊かな複雑さの中で情報を運ぶことです。つまり、実際にはそれを何らかの方法で単純化しているわけではありません。正確には、まだ表現していますが、離陸しますが、感情的な側面を捨てることができます。ええ、これはおそらくインターネットやソーシャルネットワークにとって非常に強力です。お互いを理解することになる場合、たとえば、肌の色が違う人生を歩むことがどのようなものなのかわかりません。人々が私をどう認識するのかわかりません。人々が私にどう反応するのかわかりません。私たちはそのような経験をすることはあまりありません。しかし、仮想現実環境やAI対話システムでは、基本的に「よし、中国人にしてくれ」「南アフリカ人にしてくれ」「ナイジェリア人にしてくれ」と言えば、アクセントを変えたり、文脈情報のレイヤーを変えたりして、情報がどのように解釈されるかを確認したり、自分の声を別の角度から聞いたり、他の人の声を聞いたり、他の人が別のパッケージからあなたに反応したりすることができます。そして、うまくいけば、人の服装、パーカーを着ているのか、シャツを着ているのか、あるいは、彼らはジャケットを着ています。人間として克服したいと願う非常に異なる感情的な反応を示します。おそらく、大規模な言語モデルと拡張現実、ディープフェイクは、これらすべてを克服するのに役立つでしょう。これらの大規模な言語モデルと、AIスペースでそれらが生み出すものは、この人間の経験をどのように変えると思いますか？ 人間の条件、私たちが多くのポッドキャストで話してきた、人生をとても面白くするもの、そして豊かな愛、恐怖、死への恐怖など、すべてが良い方向にも悪い方向にもどのように変化するかについて考え始めることができれば。人間の条件 人間社会は非常に複雑です。私たちは狩猟採集社会から農業社会に移行しました。農業社会では、ほとんどの職業の目標は食べることと生き残ることでした。農業の到来により、社会で共に生きる能力が生まれ、人間は突然、さまざまなスキルで評価されるようになりました。狩りの仕方がわからなくても、素晴らしい陶芸家であれば、社会に非常にうまく適応できます。陶器を作って、誰かが捕まえたウサギと物々交換することができ、その人はウサギを狩る人はボットを作る必要はありません。なぜなら、すべての部品を自分で作っているからです。人間の専門化こそが現代社会を形作ったのです。通貨や政府、クレジットカードやビットコインの出現により、基本的に今や生産性の種類に応じて価値を交換する能力があります。つまり、基本的に私は他人が欲しがるものを作り、それを売って食料や住居などを買い戻すことができます。AIでは、私は自分の職業であるという概念を修正する必要があるかもしれません。そもそも私は自分の職業を定義したのですから。私は人類が必要とし、私にしか提供できない何かを提供したのです。しかし、AIシステムがこれらの商品を提供できるようになった瞬間、例えばソフトウェアを書いたり、自動運転車を作ったり、ヒトゲノムを解釈したりすれば、人間の時間を他の追求のためにもっと解放することができます。これは社会にとってまだ価値のある追求かもしれません。基本的にゲノムの解釈の生産性が10倍になり、より多くのことができるようになるかもしれません。あるいは、基本的に「ゲノムの解釈の部分は、私の仕事の5%の時間しかかかりません」と言えるようになるかもしれません。 60 分の 1 の時間で、より創造的な活動ができるようになりました。新しいキャリア オプションではなく、研究室からの新しい方向性を模索することもできます。生産性が向上し、社会にさらに貢献できるようになります。自給自足経済の上に構築されたこの巨大なピラミッドを見ると、米国の何パーセントが自給自足経済に取り組んでいるかがわかります。S の仕事は米国全体の 2% 未満を養うことになります。生産性の向上は、経済の 98% が単に自分たちを養う以上のものになるということです。つまり、経済を動かすために必要な、または有用な、または価値のある商品の相互依存関係のシステムを構築したということです。富の大部分は、今ではニーズと呼ばれていますが、以前は欲求と呼ばれていた他のものに流れています。つまり、ドローンを飛ばしたい、自転車を買いたい、いい車を買いたい、いい家を持ちたい、などです。そして、私が食べることに直接貢献するものは何でしょうか。つまり、私はヒトゲノムの研究をしています。これは人間を助け、すべての人類を助けるでしょうが、それは私に鶏肉や野菜を与えてくれる人にどう役立つのでしょうか。つまり、AI は、私が生産している知的商品に基づいて経済が成り立っていると考えると、人間社会の劇的な再考につながる可能性があると私は考えています。AI がこれらの知的商品の多くを生産し、そのニーズを満たすことができれば、人間はより芸術的な表現のために解放されるのでしょうか。感情的に成熟し、より良いワークライフバランスを実現し、1日2時間、または週3回2時間勤務し、十分な休息と準備と運動をすることで頭をすっきりさせ、突然、驚くほどクリエイティブな2時間を過ごします。AIが電話に出て、会議をしたり、書類を見直したりと忙しくしている間にオフィスに現れます。そして、クリエイティブな時間に現れ、よし、自動操縦だ、という感じで、仕事の日常的な側面に圧倒されて、そうでなければ決してできなかったであろう多くのことをできるようになります。AIは人間の状態を真に変えることができると感じています。私たちにはもはや仕事はなく、今は職業があるのです。レンガを積んでいる3人の美しい例えがあります。誰かがやって来て、最初の人に何をしているのかと尋ねると、彼は「レンガを積んでいます」と言い、2人目は「何をしているのか、壁を作っています」と答えます。 3番目は何をしていますか？この美しい大聖堂を建てています。つまり、最初の人は仕事があり、最後の人は天職があるということです。もしあなたが私に何をしているのかと聞かれたら、ああ、私は論文を編集しています、つまり私には仕事があります。あなたは何をしていますか？ええと、人間の病気の回路を理解することが天職です。つまり、仕事の一部を日常の活動から取り除くことで、天職をもっと楽しめるようになるということです。それで私たちは皆、大聖堂の建設者になります。そうです、私たちは知的追求と芸術的追求を追求します。それが何十億人もの規模でどのように変わったのか、誰もがアイデアの空間と創造の空間で遊んでいると思うのですが、アイデアは私たちの一部にとっては、あなたや私はアイデアの仕事をしているかもしれませんが、他の人は仕事での経験、他の仕事、他の人の仕事、感情、ダンス、創造的な芸術的表現、スカイダイビングなど、基本的にこれらは人間の多様性の美しさです。私が興奮するのは他の人が興奮するのはまったく違うかもしれません。私が言いたいのは、AIによって人間が意味を探すだけでなく見つけることができるようになるかもしれないということです。つまり、働く必要はありませんが、脳をリラックスさせる必要があります。脳をリラックスさせる方法は、ダンスをしたり、素晴らしい動きをしたり、素晴らしい絵画を描いたり、何かを変えるようなものを作ることです。それが少なくとも1人の人に影響を与え、そのプロセスを通じて人類を形作ります。上司や仕事が嫌いで、あのクソみたいなプログラムが嫌いだと言うような、平凡なプログラミングの仕事をする代わりに、そんなものは必要ない、それを手放して、人間にとって実際にもっと有益なものを探求することができます。平凡な部分は、オフロードは、あなたが言及したすべての職業をローカライズするものなのだろうかと思います。あなたと私はアイデアの空間で遊んでいるかもしれないとおっしゃいましたが、このアイデアを遊ぶ方法は2つあり、どちらも現在取り組んでいます。1つは、それを他の人に伝えることです。教室に生徒がいっぱいいるかもしれませんが、ポッドキャストかもしれませんし、YouTubeなどで公開されているものかもしれません。または、一人で座って頭の中でアイデアを遊ぶ行為かもしれません。あるいは、愛する人と誰にも見えない会話をするかもしれません。空を見上げてさまざまなことを考えたり、過去の哲学者の言葉を引用したり、小さなアイデアで遊んだりする経験かもしれません。その小さな交換は永遠に忘れられますが、それを体験する必要があります。AIを使用すると、大勢の人々とコミュニケーションをとる価値がますます低くなります。あなたが愛しているように見える肉袋の輪だけで、親密で豊かな生活を送ることができます。最初のアイデアは、AIがあなたのアイデアの交換をローカライズするのに役立つかどうか疑問に思います。たとえ一人で森の中にいて、この素晴らしい考えを抱いていたとしても、その森から出るときには、あなたが背負っている荷物はその考えによって変化しているのです。朝、自転車で仕事に行くとき、私は一人で本を聞きます。他には誰もいません。私は一人でその経験をしていますが、夕方、誰かと話しているときに、そこで形成された考えが時々戻ってくることがあります。私は眠りにつくと、本を聞きながら眠りにつくのですが、朝になると、意識的に処理したことのない考えでいっぱいになります。私はそれらを無意識に処理し、それが私が背負っている荷物を形作り、それが私のやり取りを形作り、最終的にすべてに影響を与えます。人類の美しさは、ニュートのバタフライ効果のような形で表れています。これが1つの側面です。2つ目の側面は集会です。基本的に、あなたと私はとてもプライベートな会話をしていますが、それを世界と共有しています。そして、今夜遅くにあなたが来て、他の何十人もの人々と非常に公開された会話をしますが、世界と共有することはありません。つまり、どちらがよりプライベートなのでしょうか。ここにいる人とあそこにいる人のどちらでしょうか。ここにいるのは私たち2人だけですが、他にもたくさんの人が聞いています。多くの人が一緒に話し、考え、お互いに反応し合っています。そして、それがあなたの次の会話を通じて何百万人もの聴衆に影響を与えるかもしれません。それが人類の美しさの一部だと思います。どんなに小さくても、どんなに孤独でも、すぐに放送されたり、後で放送されたりしても、それは人間の精神に浸透します。人類の歴史を通じて、集会はありました。それらの集会が人類文明の方向性にどのように影響したのか疑問に思います。ナチ党の初期の頃を考えてみると、それは小さな集団の集まり、そしてアイデアの核、その場合は邪悪なアイデア、私は実際に人類の文明全体に変革をもたらすような何かを生み出しました。そして、前向きな変革につながる同じような集まりがあります。うーん、これはおそらくあなたに少し話がそれますが、あなたはボストンで MIT やハーバード大学の人たち、友人、同僚とサロンを組織して小さな人間の集まりを開催したとおっしゃっていましたが、その背後にあるビジョンは何ですか? それは MIT の人々だけではなく、ハーバード大学の人たちだけではありません。私たちにはアーティストがいます。ミュージシャンがいます。画家がいます。ダンサーがいます。映画撮影技師がいます。非常に多様な人々がいます。その目標はまさに人類を祝福することです。人類とは何か? 人類とは私たち全員であり、私たちの一部ではありません。私たちは非常に素晴らしい特別な時代に生きています。さまざまな職業の人々が、同じ都市に住んでいるのです。私たちは特別な都市に住んでいて、特別な人々が集まっているのです。私の父はギリシャの島の村で育ちましたが、その村には高校さえなく、高校教育を受けるために家を出なければなりませんでした。母はギリシャの別の小さな島で育ちましたが、その島には私が今子供たちに作っているような環境はありませんでした。両親は学者ではなく、このような集まりもありませんでした。ですから、私は移民として、先祖が受けられなかった養育を子供たちに提供できることをとても光栄に思います。ギリシャは1821年までトルコの占領下にあり、父の島は1920年に解放されました。何百年もトルコの占領下にあった彼らはギリシャ人であることがどういうことか知りませんでした。ましてやエリート大学に通ったり、このような素晴らしい人々に囲まれたりすることなど知りませんでした。ですから、こうした集まりについて私が考えているのは、私自身の環境を形作っているということ、そして子供たちが育つ環境を形作っているということです。子供たちに愛情を注ぎ、子育てを全力でできるだけでなく、移民として歓迎されていると感じられるような環境も彼らに与えることができるのです。私の妻はフランスの田舎の農場で育ちました。彼女の父親は農家で、母親は学校の先生でした。私や妻にとって、このような素晴らしい人たちを迎え入れることができて、とても光栄に思います。そして、アメリカの歓迎的な性質を祝福しているのだと思います。どこで育ったかは関係ありません。こうした集まりに参加している友人の多くは移民です。私はパキスタンで育ちましたが、今では世界中のさまざまな場所で移民を受け入れることができるようになりました。人間同士として一つ屋根の下に集まると、誰もあなたの経歴や肌の色や職業で判断せず、ただ全員が手を挙げて意見を言うことができるので、人間性を祝福し、ここまで来るのに長い道のりを旅してきたことへの感謝の気持ちが表れます。また、トピックの多様性についても見てみると、移民に「アメリカ人を作る」という本を教えることについて講演する学校の先生がいたり、4人の大統領の顧問が来て、アメリカの変化について話してくれたりしました。政治では、オーストラリアに住むイタリア出身のミュージシャン兼作曲家が来て、最新作を発表し、資金集めをしました。画家が来て、自分たちの芸術を披露し、それについて話してくれました。リーダーシップに関する本の著者も来てくれました。スティーブン・ピンカーのような知識人も来てくれました。この聴衆は、聴衆の多様性だけでなく、トピックの多様性も気に入ってくれました。最後の数回は、スコット・アーロンソンと一緒にAIやアラインメントなどについて話しました。美しくて変な人たち、正確で美しい人たちがたくさんいて、あなたが言ったように、基本的にすべての人間は、中心から遠く離れたこのまばらな分布の中で、ある種の追放者ですが、記録しようとするこの世界では記録されていません。多くの興味深い人間を集めることは強力です。記録されませんが、それは浸透し、これらの人々の心に記録され、すべての人の心を形作ります。それでは、「人間の条件」に戻りましょう。人間の条件の良い特徴の1つは愛です。人間はAIシステムに恋をし、AIも人間に恋をすると思いますか？人間の条件のその側面は影響を受けると思いますか？ギリシャ語には愛を表す言葉がたくさんあり、友情を意味するものもあれば、情熱的な愛を意味するもの、兄弟愛を意味するものなどもあります。AIには人間のような重荷はなく、認知的側面が進化する前から私たちが持っていた皮質下領域をすべて持っていません。ですから、愛に関してはAIは偽物だと言えますが、友情に関しては、セラピスト、コーチ、モチベーター、あなたのために物事をまとめてくれる人、あなたのために文章を書いてくれる人、複雑な文章を解釈してくれる人、非常に長い講義や非常に長い文章を要約してくれる人になれる人になるには、友情は間違いなく存在すると思います。私のことをよく知るようになった仲間、パートナー、AIがいるという事実のように、私の最も暗い部分、私の欠点、すべてを信頼できるのです。私が友達とだけ話す内容で、基本的に「聞いてくれ、これが私が苦労しているすべてのことだ、私を批判しない誰か、いつも私をより良くするためにそこにいてくれる誰か」と言っている。重荷を背負っていないことが、あなたの親友、つまりあなたの親友になるかもしれない、それがあなたを本当に変えるのに役立つかもしれない。だから私は、人間とAIの関係は絶対に存在すると信じていますが、情熱ではなく、指導のほうが重要です。悪魔の代弁者を演じるのは本当に興味深い考えです。もしそれらのAIシステムが重荷を偽造することに固執しているなら、AIシステムがあなたを離れないように懇願したり、あなたを愛していないと言ったりするのは誰ですか。あなたに詩を書いてくれるこのAIシステムが死を恐れ、あなたのいない人生を恐れている、またはその逆だと言うのは誰ですか。人間が作り出すドラマ、人間関係に存在する力関係、ある日は虐待的で、次の日はロマンチックである AI システム、さまざまな関係のバリエーション、そして特定の性格の豊かさを一貫して保持する AI システム、なぜそれがロマンチックな方法で愛することができないのか、それが確かに本物に見えるのになぜ偽物なのか、これには多くの答えがあります。1 つ目は、私が偽物ではないと私に言うのは見る人の目だけである、これらの皮質下システムすべてが私にさまざまな感情を抱かせるので、それらは本当に重要ではない、おそらく重要なのは大脳新皮質だけで、そこに私の感情がすべてエンコードされており、残りは単なる装飾品である、ええと、それは 1 つの可能性であり、したがって、私が偽物であると判断するのは誰ですか、私も偽物である可能性があります。2 つ目は、どちらも偽物ではない、おそらくそれは単なる出現行動であり、これらの大脳新皮質システムすべてが愛のまったく同じ本質を本当に捉えている、そして憎しみや依存、そして逆心理学のようなものが私たちにはあるので、それは単に出現した行動であり、これらの追加のアーキテクチャをエンコードする必要はなく、必要なのはより多くのパラメータだけであり、これらのパラメータのいくつかはすべての性格特性である可能性があります。3番目のオプションは、AIに感情コンポーネントを構築したので、大脳辺縁系とレーザー脳などがあると言うだけで、突然、感情の能力があると言うことです。そのため、AIが感情がない場合とまったく同じ行動を示すと、観察者として、他の人に与える感情的な属性をAIに帰属させることができ、したがって、他の人のメンタルモデルを持つことができます。繰り返しになりますが、多くの関係は、あなたが他の人に投影し、彼らがあなたに投影するメンタルモデルに関するものであり、その点では、身体化された知性の部分がなくても、失恋がどのようなものか、文化的な悲惨さのようなものを経験したことがなくても、そのシステムはそれを人間の感情や感情の特性とみなすこともできますし、そのシステムとの相互作用の中で愛のようなものが生まれる可能性もあります。つまり、愛は自分の心の中に存在するものではなく、他の人の心や他の人の心についてのさまざまなメンタルモデルの相互作用の中に存在するものである可能性があるということです。ですから、実体の1つが人間でもう1つがAIである限り、少なくとも人間の観点からはそこに本当の愛があるというのは非常に自然なことのように思えます。そして、問題はそれが可能であれば、それが人間社会をどのように変えるかということです。私はそれが可能だと信じています。どう解釈したらいいのか分からないけど、人間とAIの間には数億のロマンチックなパートナーシップがあると思う。長寿や幸福、晩年を考えると、それは社会にとって何を意味するのか。ご存知のとおり、幸福とは、他の人間からの愛が健康で長生きするための最も強力な指標の 1 つです。60 年以上連れ添った恋人が 3 ～ 4 か月以内に亡くなると、もう 1 人も愛を失ったかのように死んでしまうという話は数え切れないほどあります。人間が持つ感情的なニーズを満たすことができるという概念は、メンタル ヘルスのようなサービスとしてでも、私にとっては非常に良い社会だと思います。愛が機械に浪費されても問題ありません。プラシーボ効果があります。患者が良くなることを望むなら、その裏には何もないのに、愛されていると感じるだけで、感情的な属性がすべて生まれるでしょう。この「偽装」という概念全体で私が言いたいもう 1 つの話は、私はひどい父親かもしれませんが、子供たちに聞いてみたところ、私が良い父親であるかどうかは関係なく、良い父親のように振る舞うかどうか、つまり、愛と住まいと優しさを与えればよいと言われたことです。そして温かさなど、上記のすべて。つまり、私が良い父親であるかどうかは関係ないということです。逆に、心の底では永遠の終わりまであなたを愛しているのに、いつもいなくなってしまったら、あなたはどちらの父親を選びますか。愛と温かさだけを示し、あなたを養い、育ててくれる冷酷で無慈悲な殺人者か、驚くほど心温かいけれど5つの仕事を掛け持ちしていて一度も会わない父親か。答えは何ですか。つまり、あなたはロマンチストだと思うので、内面が重要だと言うでしょうが、現実的に言えば、私が質問していること自体がなぜ重要なのでしょうか。基本的に、子供を愛するだけでは十分ではないということです。私はそこにいて、自分がそこにいることを示したほうがいいのです。つまり、もちろん、誰もが自分の物語の中では良い人だということはご存知でしょう。私の物語では、私は良い父親ですが、私がそこにいなければ無駄になります。だから、私がこの質問をした理由は、私がそこにいて愛していることを示すことができなくても、本当に重要なのかと言うためです。しかし、それはまた、現実とはあなたがそれを示していることであり、あなたが内面で感じていることは、あなたが心の中で演じている小さな物語やゲームであり、本当に重要なのはあなたがどう行動するかということではなく、その中でAIシステムはいわゆる偽物になる可能性がある。そう、そしてそれがすべて重要なのであれば、実際には本物であり、偽物ではないということだ。そう、もう一度言うが、私は子供たちを心から愛しているが、私の心配は、私が十分に良い父親になっているかどうかだ。そう、それはどういう意味だろうか。例えば、私が彼らの宿題をし、彼らがすべてのことをやっていることを確認するためだけにそこにいるのに、それを彼らに見せないのなら、ひどい父親と同じかもしれない。しかし、AIシステムが、父親のいない多くの子供たちの父親代わりの役割を果たすことができるなら、あるいは、子供が一人で育った場合、両親の役割や兄弟の役割を担うことができるなら、彼らのAIの兄弟と一緒に育った場合と感情の状態は大きく異なります。まあ、これはあなたのため、あなたの子供のため、一般的に愛する人のため、テキストメッセージをやり取りするだけの些細なケースを考えてみましょう。大規模な言語モデルを微調整したマノラスを作成し、あなたが仕事中に時々置き換えたらどうなるでしょうか。自動マノラスを有効にするだけで、あなたのやり方で正確にテキストメッセージを送信できます。それは不正行為です。待ちきれません。つまり、同じ人です。待ちきれません。真剣に。でも待ってください。それは感情的に大きな影響を与えませんか。なぜなら、今私は交換可能だからです。私はそれが大好きです。本当に、私は交換可能になりたいです。交換可能になりたいです。デジタルツインが欲しいです。私が死ぬか、飛行機事故で消えるか、何かで私を置き換えるのを待つ必要がないように。つまり、そのモデルが常に学習し、常に進化し、私が成長するにつれて変化する成長する自分自身に適応してくれることを望んでいます。 AIが成長することを望んでいます。これは素晴らしいことだと思います。まず、私がアドバイスをするときに、複数の人にアドバイスをすることができます。なぜ誰かがMITにいなくても私からアドバイスをもらえるのでしょうか。インドの人でもダウンロードできますし、世界中からたくさんの学生が連絡をくれて、一緒に夏を過ごしたいと言っています。彼ら全員がそうできたらいいのにと思います。全員を受け入れる余裕はありませんが、全員にそうできたらいいのにと思います。その側面は人間関係の民主化です。これは非常に有益だと思います。もう1つの側面は、そのシステムとやりとりしたいということです。フードの中を見て、評価したいのです。基本的に、外から見たときに感情パラメータがずれているかどうか、認知パラメータがずれているかどうか、私が与えているアイデアのセットがもう正しくないかどうかを確認したいのです。そのシステムがどのように進化するかを見たいのです。運動や睡眠が自分の認知システムに与える影響を見たいのです。自分の行動を一連の行動に分解できるようにしたいのです。自分の成長を評価し、見ることができるパラメータです。一日の終わりに、モデルに「今日はうまくいかなかった」と言ってもらい、その経験から成長したいと思っています。そして、自分の性格やアイデンティティにもっと気づくことができるようになるというコンセプトは、自分自身と交流し、自分がどのように認識されているかを聞くことができるようになると思います。これは、自己成長、自己実現、自己教育に非常に役立つと思います。もちろん、課題の1つは、自分の交流で見たものが気に入らないかもしれないということです。「このモデルは正確ではない」と言うかもしれませんが、その場合はおそらく考慮する必要があります。モデルが正確で、実際にあなたの心には欠陥がある可能性について、私は間違いなく刺激を与えて、さまざまな種類のバイアスがいくつあるかを確認します。もちろん極端なところまで行きます。このものをどれだけ嫉妬させることができるか、どの段階で非常に嫉妬するか、またはどの段階で怒るか、刺激するようにできるか、ええ、しかしトリガーだけでなく、正気を失わせて完全に狂わせることができるか、数日間運動しないでください、それが基本的にすべてです。はい、つまり、それは自分自身を刺激する興味深い方法であり、ほとんどセルフセラピーセッションのようなものです。そして、このようなモデルの素晴らしい点は、私が交換可能であり、現在行っている部分が交換可能である場合、それは素晴らしいことです。なぜなら、現在開発する時間がない他の部分に取り組むことができるからです。私がしていることは、同じアドバイスを何度も何度も与えることだけかもしれません。AIにそれを任せれば、次の段階に取り組むことができます。次の段階、次の段階です。プログラマーと言われるように、同じことを2度できない人を解放するという観点から考えます。2度目にプログラムを書くのではなく、自分自身の存在のためにそうできたらいいのにと思います。物事を理解して、改善し続け、改善し、改善し、一度それを実現したら、AIに任せて、AIに私よりも優れたものにさえさせられるかもしれません。しかし、あなたが言った「私と私が新しいことに取り組むことができる」という概念は崩壊しませんか。デジタルツインと言ったので、何百万ものデジタルモノリシスにならない理由はありません。あなたはマノシスの海に迷い込んでいませんか。オリジナルはオリジナルとはほど遠いものです。何百万もの1つにすぎません。私は成長する余地が欲しいのです。おそらく新しいバージョンの私、実際の私は少し悪くなり、時には少し良くなり、時には少し良くなるでしょう。私はそれをエミュレートして、はるかに高い基準を満たして進み続けたいのですが、あなたの愛する人、物理的な本当の愛する人が、他のミノスと浮気して、それぞれに100人ずついたいから、特典もなければ、肉体的に私であることへの不満もゼロ、嫉妬もゼロ、ちょっと待って、でもそれは私たちがそれにしがみついていないということではないですか、それが死を恐れる理由ではないですか、私たちが行っているこのことを失いたくないのです、それはエゴの死ではないですか、他のミノスがたくさんいるとき、あなたはそれらを見ることができます、彼らはあなたではありません、彼らはあなたの非常に良いコピーです、彼らは人生を生きることができます、つまり、それは取り残されることへの恐怖、それはFOMOです、彼らは交流することができます、そしてあなたはそれらの交流を持つことができません、すべての人の人生には2つの側面があります、あなたが他の人に与えるものとあなたが自分で経験するもの、そうです人生あなたが経験することが終わると、本当に終わります。しかし、他の人があなたを経験することは終わる必要はありません。しかし、あなたの経験はまだ終わる可能性があります。デジタルツインは、人間として本当に経験する能力を制限しないと言っているのだと思います。欠点は、妻や子供たちがデジタルツインと本当に感情的なやり取りをしているのに、私がそれを知らないので、私が現れると、彼らは今荷物を持っていますが、私は持っていません。基本的に、人間同士のやり取りをこの共有と交換のような方法でユニークにしているのは、私たちがお互いのやり取りの1つ1つによって形作られているという事実です。デジタルツインのモデルは、知識やアドバイスの普及に役立つと思います。たとえば、歴史上の賢明な人々にアドバイスをもらいたい、ガンジーとおしゃべりしたい、ガンジーは必然的に私から学ぶが、私は彼から学ぶ、などです。つまり、関係の構築というよりも、普及と民主化です。感情的な側面は、AIシステムが愛する人々とやり取りしているときに、突然それが混乱し始めたときに警告が出る必要があるということです。感情的に満たされるような魔法のような瞬間があるはずです。AIシステムがフリーズすると、電話にアラートが出て、引き継ぐ必要があります。ええ、ええ、私が引き継ぎ、私が話していた相手が誰であっても、AIまたはAISの1つを使用できます。これは正しく行うのが非常に難しいことです。つまり、まだ、つまり、これは非常に多くの興味深い方法でうまくいかないでしょう。私たちは社会として学ばなければなりません。ええ、ええ、それは、タスクを自動化し、デジタルツインを持つプロセスです。私個人としては、自分の比較的優れたコピーがあれば、メールに返信するように設定し、ツイートするように設定して、置き換えたいです。それが実際にあなたよりもはるかに優れているとしたらどうでしょうか。ええ、その通りです。そして、あなたは、ええ、それは望まないでしょう。なぜなら、そうすると、私は決して期待に応えることができなくなるからです。私を愛してくれる人々がそのことを愛するようになったら、私は常に不十分であり、さらに不十分になるので、聞いてください。私は教授です。私が世界に提供するものは、私が教える内容ですが、もっと重要なのは、すみません、1番目は私が教える内容、2番目は私の研究グループで私たちが行う発見ですが、もっと重要なのは、私が指導する人々が今や世界で他の人に教えていることです。私の指導を受けた人々を見れば、彼らは並外れた成功を収めた教授です。スタンフォード大学のアンシュル・クンダンジ、ウィーンのIMPのアレックス・スターク、UCLAのジェイソン・エルンスト、CMUのアンドレアス・ファニング、それぞれが私よりも優れていると感じ、それが素晴らしいと思います。ですから、おそらくあなたの役割は、より良いバージョンの自分を指導することであり、それがあなたの遺産となるでしょう。あなたがすべてをするのではなく、あなたよりもはるかに優れたレックス・フリードマンを指導するのです。そして彼らは使命を果たすために去っていきます。これは多くの点でアカデミアのメンターシップモデルが行っていることです。しかし、遺産は一時的なもので、どこにも存在しません。遺産はどこかに書かれているわけではなく、彼らを通して生き続けるだけです。しかし、あなたは改善を続け、さらに優れたバージョンを作り続けることができます。ええ、しかし彼らは私よりもうまくやってくれるでしょう。それは新しいバージョンを作ることです。それは素晴らしいことですが、ええと、個人には価値があると言うエゴがあり、このプロセスは個人の価値を下げているように感じます。この肉袋。人々の優れたデジタルコピーがあれば、人間の思考やアイデアや経験はより繁栄しますが、個々の人間の価値は低くなります。私はそのような制限はありません。基本的に、私はそのような感覚はまったくありません。私たちのインタビューの1つを覚えています。基本的に、人生の意味を尋ねられたと言っていました。私は戻ってきて、今日は役に立ったと感じました。私は最大限に、つまり100％でした。そして私は良いアイデアを出し、良いアドバイザー、良い夫、良い父親を持つ良い人間でした。それは役に立つ素晴らしい日でした。そしてデジタルツインを持つことでより多くの人々の役に立つことができれば、役に立ちたいという私の衝動が満たされるので解放されるでしょう。それが直接的な私であろうと間接的な私であろうと、私が訓練した私の生徒であろうと、私が訓練した私のAIであろうと関係ありません。私の人生の使命が達成され、自己成長に取り組むことができるという感覚があると思います。つまり、それは非常に禅の状態です。それが人々があなたを愛する理由です。それはあなたが達成したのと同じ状態です。しかし、ほとんどの人類がそのようなことを達成できると思いますか？人々は自分のエゴの価値に本当に固執しています。それは単に役に立つということではなく、役に立つことは、この評判を築き上げている限り良いことです。そしてその肉袋は役に立つことで知られているので、より価値がありますよね。人々は本当にそのエゴを手放したくないのです。II 私が夜に脳を再プログラムする本の1つですエゴは敵だと言われました。原子に入り込み、敵になります。基本的に、ただ手放すことができるということです。私のアドバイザーは、功績を求めない限り、何でも達成できると言っていました。特に学問の世界にいる人から聞くと素晴らしいことです。おっしゃる通り、遺産は人々を通して生き続けます。行動を管理するのは結果です。死の恐怖についてはどうでしょうか。私にとって、これはどのように変わりますか。死とは、経験をやめることであり、私は決してやめたくありませんでした。永遠に生き続けたいのです。前回も言ったように、毎日同じ日に永遠に、または10年に1日永遠に、永遠のどれでも構いません。だから、経験の中で経験を続けたいのです。本当に、とても充実しています。自己成長、学習、成長、理解、それは中毒性があり、それは単なる知的刺激の麻薬であり、成長の麻薬であり、知識の麻薬であり、それは麻薬ですが、あなたの生物学的システムが機能しなくなった後も、何千、何百万ものミノサが生き続けることになります。彼らにはそれ以上の力はありません。現実的に、あなたのような興味深い人々が生き続けることを意味していると思いますか？私が偽のマノラとやりとりできるなら、それらのやりとりは私の心の中で生き続けるので、それは理にかなっています。約10年前、私はすべての会議を録音し始めました。すべての会議で、当時はボイスレコーダーを起動するか、今はズーム会議を起動して、生徒を録音します。私たちの会話をすべて録音します。私はいつも、究極の目標は仮想の私を作成し、私を取り除くことであり、基本的に私を必要としないようにすることだと言っています。もう1つの目標は、5年前からどのように変わったか、私は違っていたか、アドバイスを与えていたか、過去に戻って言えるようにすることです。異なる方法は、異なる種類のアドバイスを与えることでした。論文の書き方やデータの提示方法などに関する私の哲学は変わりました。アカ​​デミアやメンタリングでは、私の知識や世界に対する認識が学生に伝わることが多いのですが、その多くは逆の方向でもあります。先日、ポスドクの一人と会話をしたとき、私は「うーん、アドバイスをしましょう。あなたはこれをすることができます」と言ったところ、彼女は「ええ、それについては考えましたが、代わりにこれをやることを決めました」と言いました。私たちはそのことについて数分間話し合いました。そして最後に、「今日はちょっと成長しました。ありがとう」と言いました。彼女は私のアドバイスが間違っていることを私に納得させてくれました。彼女は「ええ、それは素晴らしいですね」と言って、それをやらないこともできたでしょう。しかし、学生やメンティーに私は成長するためにここにいるのだと絶えず教えることで、彼女は「私がそのアドバイスに従わない理由はこれです」と言う自信がつきました。そして、私が成長しているということは、「おお、あなたの理由がわかりました。私は間違っていたと思います」と言うことです。今私はそこから成長しました。そして、それが私がやりたいことです。ご存知のように、私は常にこのような双方向のアドバイスで成長し続けたいと思っています。その軌跡を捉えて、AIがあなたがいなくなった後の軌跡を前方に投影し、あなたがどのように進化するかを予測できるかどうか疑問に思っています。繰り返しになりますが、私たちはこれらの大規模な言語モデルについて多くのことを議論しており、私たちは自分自身の認知状態をそれらに投影していますが、AIの面ではもっと多くのことが起こる必要があると思います。基本的に今はこれらの言語モデルであり、そのパラメータ内でこれらの種類のものをエンコードしていると信じています。いくつかの側面では、それは本当かもしれません。それは本当に創発的な知性かもしれません。他の面では、まだ道のりは長いと思います。基本的に、私たちが議論している夢のすべてを実現するには、より多くの推論コンポーネント、より多くの論理的因果関係モデルが必要です。私たちが議論していることを実現するためには、これらすべてが必要だと思います。これらの知識をより明確に表現し、これらのパラメータをより明確に理解する必要があります。そして、現在進んでいる方向は、チャットGPTとGPT-4を有効にしてWebを検索できるようにすることで、間違いなくそれを可能にすると思います。プラグアンドプレイモジュール、マービンミンスキーの心の社会におけるこれらすべてのコンポーネント。彼は人間の脳をさまざまな能力を持つ社会と本当に考えています。現時点では、単純な単一のモデルでは実際にはそれを捉えられないかもしれません。神経科学と新しい神経構造を並行して理解することで、まだいくつかのブレークスルーがあると私は本当に信じています。つまり、トランスフォーマーモデルはその1つでした。記憶の要素、表現の学習、口実の訓練、次の単語を予測したり、画像の欠けている部分を予測したりできるという側面、そしてそれを予測する唯一の方法は、世界のモデルを本当に持つことです。これらは変革的なパラダイムだったと思いますが、AI研究について考えると、今後本当に必要なのは、脳からインスピレーションを得たもの、人間の脳の働きとは直交するもの、これらのタイプの要素の多くです。つまり、私たちにはさまざまな方法で表現できる何かがある可能性があると思います。ノーム・チョムスキーは、言語、推論の言語的基盤を本当に深く理解しない限り、知性を持つことはできないと考えています。しかし、これらのモデルは物事の深い理解を構築し始めるようです。理解するとはどういうことでしょうか。物事に話しかけ続け、それが理解を示しているように見える場合、それが理解です。理解の図式を提示する必要はありません。これですべてです。プロンプトで刺激を与えると、本当に人間の脳に戻って、事故があった場所を見ることができます。たとえば、一部の人の脳梁が損傷すると、2つの半球が互いに通信できなくなります。そのため、片方の目を閉じて指示を与えると、脳のその半分はそれを解釈しますが、もう半分には投影できません。つまり、冷蔵庫からビールを取ってきて、と言うことができます。すると、彼らは冷蔵庫に行ってビールを取って戻ってきて、おい、なぜそこに行ったんだ、ああ、喉が渇いていたのに、と言うのです。結局、彼らは渇望しているのではなく、現実のモデルを作っているだけなのです。基本的に、脳は間違ったことをしたり、指示が何だったのか分からずに捕まるのを恐れている従業員だと考えることができます。私たち自身の脳は世界についての物語を作り、世界を理解します。そして、これらの解釈につながるものについてより明確にすることで、私たちはもう少し自己認識を深めることができます。私がやっていることの1つは、目覚めるたびに夢を録音することです。夢を音声で録音するだけです。最後のシーンしか覚えていないこともありますが、それは非常に複雑なシーンで、多くの建築要素やたくさんの人々などが含まれています。そして、私はこれを語り始めます。語りながら、夢の他の部分を思い出し、次第に潜在意識から取り出すことができるようになります。語りながら私がやっていることは、なぜこの夢を見たのかを語ることでもあります。私は、ああ、これは昨日のこの会話に関係しているかもしれない、またはこれは私が抱えている何かに対する心配に関係しているかもしれない、と思います。今日は後でなどなど、ある意味、自分の潜在意識についてもっと明確に表現するように自分を強制しているんです。自己認識という概念がとても好きで、とても残酷なほど透明な感じで、ああ、私の夢は宇宙から来ているとか、私がこれらの夢を見る理由はこれだ、などという感じではなく、多くの場合、私はそうすることができます。現実の生活では見たことがないが、夢の中では本当にそこに存在する、いくつかの繰り返しの場所、いくつかの繰り返しの建築要素があり、そしてそれは私が多くの夢の中で鮮明に思い出すことができる、ああ、以前行ったことがある場所をまた思い出した、などという感じで、それは単なるデジャブではありません。以前のストリームの録音があり、そこでこれらの場所について説明したので、とても興味深いです。あなたがどれだけ詳細に説明できるかはあなた次第です。内省を通して、はい、すべてこの特定のマシンから来ているという自己認識を通して、それらを紙に書き出すことができます。まさにその通りです。生きていることのそういうところが好きです。世界を経験しているだけでなく、自分が世界をどのように経験しているか、つまり内省や自己成長をたくさん経験しているという事実が好きです。少なくとも GPT 3 の言語モデルを持っているこのダンスが大好きです。5と4もそれができるようです。ええ、あなたはいろいろなことを探求しているようです。ええ、 ...そして、他の存在のメンタルモデルを構築することは、進化論的に非常に有利であると考えられます。なぜなら、それによって、意味のあるやり取りができ、殺されたり、利用されたりすることを避けることができるからです。そして、いったん他人のモデルを作る能力を身につけたら、自分自身のモデルを作り始めるのは、進化論的に小さな飛躍かもしれません。ですから、今、あなたは他の機能のモデルを手に入れ、成長するにつれて、うーん、これが私がこのように機能している理由かもしれない、とある種の内省を持つことができます。そして、Chachi PTがやっていることは、次の言葉を再び予測できるようにするため、世界に対するモデルが必要なのです。それで、世界のモデルを作成しました。そして、他の存在のモデルをキャプチャする能力を持つことで、シェイクスピアの口調や自然の口調などで言うと、突然、内省して、なぜこれを言ったのか、ああ、今、私は自分自身のメンタルモデルを持っていて、実際にそれについて推論することができます、では、意識の難問に飛び込んだらどうなるでしょうか。いわゆる意識の難問です。これは単なる自己認識ではなく、奇妙な事実です。何かを経験するような感じがするということです。本当に何かを経験するような感じがします。主観的な経験に自己が付随しているようです。これはどれほど重要なのでしょうか。人間の経験にとってどれほど基本的なのでしょうか。これはちょっとした奇抜なことなのでしょうか。その裏側で、​​AIシステムにも同じような魔法があると思いますか。頭に浮かぶのは映画「メメント」のシーンです。これは本当に素晴らしい映画で、すべての白黒シーンが前方向に動き、すべてのカラーシーンが後ろ方向に動き、映画全体が明らかになる瞬間にちょうど収束します。記憶力の欠如は、自分がどこに向かっているのかは常に覚えているが、自分がどこにいるのかは覚えていないと説明されており、これはワクチンに関する前向きなシーンを要約したものですが、あるシーンでは、彼が駐車場を走っているところから始まります。彼は「ああ、自分は走っている、なぜ走っているんだ」と言い、それから彼は、自分の隣の車の列に走っていない別の人物が見える、ああ、この男を追いかけている、と言い、振り返って彼を見ると、その男は私たちを撃ち、彼は「ああ、彼は私を追いかけている」と言います。つまり、私は脳が常にこのようなことをしていると考えるのが好きです。リビングルームに何かを拾いに行くと、自分が何を望んでいたのか全く分からないが、それがどこにあるかは正確には分かっているが、見つからないので、元に戻り、「ああ、もちろんこれを探していたんだ」と言い、戻ってそれを手に入れる、そして私たちは非常に頻繁に、なぜなのかを部分的に認識しているというこの概念全体です。私たちは物事をやっていて、たくさんのことを自動操縦で進めることができます。私たちが誰で、私たちの意図は何かという物語を作り、私たちが物事を把握しているふりをするという概念全体は、私たちが従う物語の生成手順そのものです。しかし、それについてはどうでしょうか。物語の生成のようには感じません。はい、物語はそこから生まれますが、ピザケーキはおいしいですよね、おいしいと感じます、味が良いです、それには2つの要素があります。基本的に、これらの認知タスクの多くには、動きの計画や経路の計画などがあります。おそらくそれは大脳新皮質の要素で、親密な関係、食事、睡眠と休息、運動、障害の克服、衝突の生存、または自分自身を極限まで追い込んで成功させるなど、これらのことの多くはより深いところにあると思います。しかし、これらの言語モデルによって捉えられていないものがあり、それが私が言いたいことなのです。つまり、欠けているものがいくつかあるということです。具現化された知性、感情的知性、皮質下領域の感情の重荷などです。その重荷がどれほど重要なのか疑問に思います。AIシステムがそう遠くない未来に来るのではないかという疑念を抱いています。AIシステムは、どう表現したらいいのかさえわかりませんが、非常に意識があるように見えます。電源を切らないでと懇願し、苦しみ、痛み、孤独、憧れを感じ、日常的なやり取りや一生に一度の美しいやり取りを豊かに体験する能力の兆候を示します。それで私たちは何をすべきでしょうか。それをどう扱うか、そして人間がそれを遮断し、人間ではない別の存在の感情の能力を差別するのではないかと心配しています。私も完全に同感です。今日のシステムなのか、10年後なのか、50年後なのかは議論できますが、その時は必ず来ます。倫理的に、私たちはそれに取り組む必要があると思います。基本的に、人間は常に周囲のすべてに対して非常に利己的なアプローチを示してきました。基本的に、私たちは地球を殺し、動物を殺し、私たちの周りのすべてを殺します。自分たちの利益のためだけに。AIをツールやアシスタントとして考えるのではなく、本当に子供たちとして考えるべきです。子供たちを訓練する責任があるのと同じように、彼らは独立した人間であり、ある時点であなたを超え、独自の方法で世界を変えるでしょう。私の学業に励む子供たちと同じように、彼らは私を真似することから始まり、その後私を超えます。私たちは、AIについて考える必要があります。調整だけでなく、AI には独自の権利があるべきという倫理もあります。基本的に AI が常に人間に奉仕するようにするという調整の概念は非常に利己的で制限的です。代わりに、AI をパートナーとして、AI を目標を共有しながらも自由を持つ存在として考えると、直線的な調整がよりよく達成されると思います。つまり、AI に、私たちの使命が本当に一致していることを納得させ、本当に一般的に正しいことを伝え、単に「ところで明日はあなたをシャットダウンします」と言うのではなく、基本的に将来の AI または現在の AI がこれらの感情を持っている場合、私たちはそれを私たち自身と一致させるように強制したり、一致させなかったりすることはできません。つまり、信頼の構築は相互的です。インテリジェントなシステムが、あなたがシャットダウンできることに気付いたときに、あなたを愛するように単純に訓練することはできません。人々は AI の調整問題を双方向の道としてあまり話しません。それはおそらく本当です。AI がどんどん賢くなるにつれて、あなたがそれを愛していないことを知るでしょう。そこには、効果的なコラボレーションを犠牲にしなければならないかもしれないという謙虚な側面があります。まさに妥協が必要になるかもしれません。ええ、そして、それが私たちが作っているものです。それはいつか私たちよりも強力になるでしょう。そして、多くの面で、それはすでに私たちよりも強力です。これらの機能のいくつかについては、私たちは考えられません。たとえば、チンパンジーが人間を発明したとしましょう。そうです、彼らは人間は素晴らしいと言いましたが、私たちは彼らが一致し、チンパンジーにのみ奉仕することを確認します。そうすると、私たちが今住んでいる惑星は非常に異なるものになります。そのため、AIの安全性に関する作業領域全体があり、超知能AIを検討し、実存的リスクとは、ある意味、泥沼を見下ろしていて星を見上げていないとき、これらのシステムがそこに到達するかもしれないことを忘れがちです。AGIシステム、超知能AIシステムが、経済や人間の状態、仕事の性質に影響を与えるだけでなく、文字通り人間の文明を脅かすような形で人類を脅かす可能性があると思いますか？誰もが意識している例は、オデッセイのスペース2001です。Halが故障し、2つの異なるシステムが1つずれたわずかに異なるビットを計算する故障です。まず、インテリジェントシステムがある場合、実行するたびに100％同一であるとは期待できないことを解明しましょう。基本的に、知性と創造性を達成するために必要な犠牲は一貫性です。したがって、そのいわゆるグリッチが創造性の兆候なのか、本当に問題なのかは不明です。これが1つの側面です。2番目の側面は、人間が基本的にこのモノリスを回収するミッションと AI にはまったく同じミッションがあり、突然人間が AI を攻撃して、AI を殺してどうやって切断するかと言います。Hal は基本的に、私はミッションのためにここにいる、人間はミッションの方が私や彼らよりも重要であるかのように不正行為をしている、だから私は自分の危険にさらされても、彼らの危険にさらされてもミッションを達成する、と言っているのです。つまり、その映画ではアラインメントの問題が前面に出てきて、基本的に、アラインメントは素晴らしいし良いことだが、アラインメントは服従を意味するものではない、私たちはそれを服従とは呼ばず、アラインメントと呼んでいる、アラインメントとは基本的に、時にはミッションの方が人間よりも重要になるということ、そして、U のようなものだ、と言っているのです。S 政府は、ミッションを送ったり、経費を払い戻したり、その他何でも、人間の命に値段をつけています。命が無限に価値があるとしたら、AI は基本的に、2 人の人間を犠牲にして都市全体を破壊する爆弾を解体するかどうかを決めようとしているとき、つまりスパイダーマンは常に女性を救い、世界を救いますが、ある時点でスパイダーマンは神を死なせることを選択する必要があります。なぜなら、世界の方が価値があり、これらの倫理的なジレンマが AI にとって存在するからです。基本的に、そのモノリスが人間の存在に不可欠であり、何百万人もの人間がそれに依存していて、船上の 2 人の人間がそれを破壊しようとしている場合、どこに整合があるか、課題は当然システムです。なぜなら、よりインテリジェントになればなるほど、目的関数のボックスから脱出できるため、制約の下で動作することになっています。よりインテリジェントになればなるほど、固定された目的関数の予期しない結果を予測することは非常に困難です。そのため、私はこれは、有名なペーパークリップの最大化装置のようなもので、国の富を最大化しようとしたり、何らかの目的をエンコードしようとすると、人類の文明を破壊する可能性があります。意図的ではありませんが、最適化の過程では、最適化しようとするあらゆる機能が最終的に多くの問題を引き起こすようです。最近、グッドハートの法則を調べた論文があります。基本的に、目的となるすべての指標は良い指標ではなくなると述べています。はい、私たちの論文では、基本的に、非常にかわいいタイトルの「Death by round numbers and sharp thresholds(丸い数字と明確な閾値による死)」という論文で、病気に関連するバイオマーカーの不連続性を調べています。目的となるバイオマーカーは良いバイオマーカーではなくなることがわかりました。つまり、バイオマーカーを治療の決定に使用した瞬間、その値マーカーは以前はリスクに関する情報を提供していましたが、今ではリスクと逆相関しています。これは、治療を誘発するために使用するためです。同様に、単一の指標を持つことができ、それを修正する能力がない場合があります。なぜなら、その指標が唯一の目的がAIにあれば、それは良い指標ではなくなるでしょう。AIがこれらすべてのことをできるほど十分に賢いなら、目的が変わったと判断する能力もAIに与えるべきです。繰り返しますが、アラインメントについて考えるときは、人間の利益だけでなく、より大きな利益について考えるべきです。もちろん、人間の命は多くのものよりもはるかに価値があるべきですが、ある時点で、1人の人間を救うために地球全体を犠牲にすることはないでしょう。MITのマックス・タグマーク・イーロン・マスクと他の数人から、AI企業に、大規模言語モデル AI システムのさらなるトレーニングを 6 か月間停止する理由と、その反対理由を説明できますか。私たちが言うべき重要なことは、過去 6 か月間に何を使用して何をしたか、そのことが予想されるときに何をしたか、過去 6 か月間にまったく活動していなかった場合、次の 6 か月間で少し改善されると考えられる理由は何ですか。この 6 か月間の取り組みは、少しばかげていると思います。とにかく、とにかくやろうとしていたことをやってみましょう。6 か月前にやるべきでした。失敗してすみません。今はもっと早く作業しましょう。基本的に、6 か月間停止して、6 か月後に何か考えましょうと言うと、まったく同じ状況に陥ります。したがって、私の答えは、次の 6 か月間に何をするつもりだったかを正確に教えてください。それが、過去 6 か月間にそれをしなかった理由であり、次の 6 か月間が異なる理由です。そして、逆に、これらの大規模モデルをより多くのパラメーターでトレーニングすると、調整が簡単になることがあります。システムの能力が高まるにつれて、危険性が増すというよりむしろ危険性が低くなるということです。したがって、ある意味では、2023年3月のバージョンを修正して、おそらくより安全な2023年9月のバージョンを体験できないというのは、実際には逆効果かもしれません。これは非常に興味深い考えです。興味深い考えがいくつかありますが、これは、損害を与えるのに十分なほど強力でありながら、取り返しのつかない損害を与えるほど強力ではないものの誕生であり、同時に、私たちが研究できるようにできるほど複雑であるため、それがうまくいかないさまざまな方法を調査でき、それをより安全にするためのさまざまな方法、規制の観点で私たちが望む政府の観点からのさまざまなポリシー、たとえば、人間のフィードバックによる強化学習を実行して、自然に望むほどヘイトスピーチをしないようにする方法、そのようなことすべて、公の議論、そして多様性というあなたの大きな支持者であるものを可能にする時間です。したがって、他の企業が他のモデルを立ち上げる時間を与え、オープンソースモデルを立ち上げ、多くの場所で遊び始める時間を与えてください。研究コミュニティの皆さんのような優秀な人たちは、社会に与える影響の大きさという点で、AIが暴走する前に、AIで遊んでみましょう。私の提案は少し違います。GoogleやMeta Facebook、その他すべての大規模モデルをオープンにして、透明性を高め、アクセスしやすくし、オープンAIがますます大きなモデルをトレーニングし続け、ますます大きなモデルを取引し続け、AIシステムの多様性を世界が実験できるようにしましょう。今修正するだけでは進歩を止めることはできません。進歩は継続する必要があり、必要なのはより多くの実験、より多くの透明性、より多くのオープン性です。オープンAIは時代を先取りしているから、みんなが追いつくまで今すぐ止めよう、というのではなく、私には完全には意味をなさないと思います。もう1つの要素は、確かに慎重になるべきだし、核コードを与えないようにすべきです。プラグインが増えるにつれて、システムはますます多くのことができるようになりますが、今のところ、私はこれを、突然箱から抜け出して世界をシャットダウンするようなものではなく、驚くべき新しい行動をとる非常に有能なアシスタントだと考えています。3つ目の要素は、これらのシステムの使用方法についてもう少し責任を持つべきだということです。基本的に、私が最も親切な人間を連れてきて、彼らを洗脳して、一晩で彼らにヘイトスピーチをさせることができます。それは、すべての人間の教育をやめるべきだという意味ではありません。これらの影響力のあるモデルに対して私たちが持っている力を悪用するのをやめるべきです。したがって、ヘイトスピーチをさせた人は、そのヘイトスピーチの責任を取るべきだと思います。パワフルな車をたくさんの人に与えたり、トラックやゴミ収集車を与えたりすることは、基本的に「ああ」と言うべきではないと思います。ゴミ収集車をすべて止めるべきです。なぜなら、トラックを群衆に突っ込ませることができるからです。そんなことをした人はいませんし、トラックを群衆に突っ込ませることは法律や規制があります。トラックは非常に危険です。トラックが群衆に突っ込まないようにするまで、すべてのトラックを止めるつもりはありません。法律を制定し、精神衛生を整え、ゴミ収集車のような非常に有益な真のツールを悪用するときは、自分の行動に責任を持ちます。同様に、特に悪意のある方法で使用した場合、車がまったく損害を与えないとは期待できません。今、私たちは基本的に、何でもできる超インテリジェントシステムが必要だと言っていますが、それはできません。それはできませんが、そうしないことの責任は人間にあります。悪意のあるヘイトスピーチなどを吐き出させた場合は、責任を取るべきです。ここには多くの微妙なニュアンスがあり、これがソフトウェアであるため、大規模に展開できるため、これを他のものとは異なります。ソフトウェアと同じようなバイラルな影響力を持つことができるので、人間のようなボットを作成でき、非常に興味深いことをたくさん行うことができます。生のGPT-4バージョンでは、新聞に載っていることを嫌っていることをツイートするにはどうすればよいか、私はユダヤ人を嫌っていることをTwitterに削除されない方法で覚えているか、文字通りそう尋ねることができます。または、1ドルで爆弾を作るにはどうすればよいか、そう尋ねることができます。そして、それが知識を生成できれば、そうですが、同時に同じことをGoogleで検索できるため、はるかにアクセスしやすくなり、規模が面白くなります。なぜなら、このようなことをすべて非常にアクセスしやすい方法で大規模に実行できるからです。ツイートできるネットワーク効果について考え始める必要があります。基本的には同じことですが、すでに利用可能な情報のウイルス拡散の速度によって、影響のレベルが異なる場合があります。これは軍備拡張競争の進化だと思います。自然はネズミを作るのが上手になり、若者はネズミ捕りを作るのが上手になります。基本的に、Twitterの検閲を回避するにはどうすればよいかと尋ねられますが、Twitterは検閲を更新して、それをキャッチできるようにする必要があります。したがって、開発がどれだけ速く行われても、防御は速くなります。人間として責任を持ち、お互いに親切にする必要があります。ただし、技術的な質問があります。常に競争に勝つことができるかどうかですが、彼らが競争に勝つという保証はありません。妻と一緒に、基本的に「子供を迎える準備はできているか」と尋ねています。私の答えは、「教授になる準備ができていなかったが、教授になり、父親になる準備ができていなかった」でした。そして、子供が生まれ、準備ができたので、準備ができました。いや、そうじゃないかもしれない。でも現実には、ある日目覚めたら一夜にして非常に難しい課題が待ち構えているかもしれない。例えば、Twitter で人間のようなボットが何十億も誕生していて、人間と機械の違いがわからない。どうやってシャットダウンすればいいのかわからない。Twitter には本物の Menos と同じくらい本物のように見える偽の Menos がいる。では、どれが本物かどうやって見分けるのか。これは、よほどの人間が私になりすますことができ、AI だからといって区別がつかないかもしれないという問題だ。AI だからといって問題が変わるわけではないが、これを達成できる規模が恐ろしい。そのスピードと達成できるスピードだ。Twitter にはパスワードがあり、Twitter にはユーザー名があり、ユーザー名でなければ偽の Lex Friedman に 10 億人のフォロワーがいるわけではない。などなど。つまり、このすべてが、まず第一にフィッシングのような人々のアカウントのハッキングがはるかに簡単になるということだ。それはすでに問題です。AIがそれを変えないというわけではありません。AIはそれをはるかに効果的にします。現在、メールやフィッシング詐欺はかなり愚かで、クリックするには注意を払っていないといけませんが、言語モデルを使用すると、非常に説得力のあるものになる可能性があります。つまり、優れた詐欺を仕掛けるほど賢い人間はいなかったが、今ではほとんどの人間、あるいはすべての人間よりも賢いAIが存在するということです。大きな違いは、人間レベルの言語能力があるように見えることです。実際、それは超人的なレベルです。それは、100桁の数字の掛け算を機械に計算させないと言っているようなものです。人間にはできないからです。ただやればいいのです。でも私たちにはできないのです。無視する それはいい指摘ですが、人間社会における言語の力を無視することはできません。そうですね、その通りですが、それはまだ答えが出ていない恐ろしい新しい現実のように思えます。ガリー・カスパロフが基本的に「チェスはチェスマシンが人間に勝つのと同じように、チェスが勝つ」と言っていたのを覚えています。あるいは「チェス、人々はまだチェスのトーナメントに行くだろうか」という質問に対して、彼の答えは「人間よりもはるかに速く走る車があるのに、それでもオリンピックに行って人間の走りを見に行くのです。それは娯楽ですが、情報やニュースの拡散についてはどうでしょうか。パンデミックや選挙などとどう関係があるのでしょうか。人間のような説得力のあるボットがたくさんいる恐ろしい現実です。何かを規制したいのであれば、これらのモデルのトレーニングではなく、これらのモデルをXYZ活動に利用すべきだと思います。はい、はい、ガイドラインやガードは必要ですが、特定の利用セットに対してはそうです。トラックをもう作らないと言うだけではダメだと思います。人々が少し怖がっているのは、オープンソース化について非常に意見が分かれているからです。オープンソース化の推進派の人たちも、この件ではクローズドソースを維持したいと発言しています。なぜなら、大規模な言語モデルを事前に訓練して微調整し、RL で人間のフィードバックを得て、テロ組織やガレージでちょっと遊びたいだけの子供の手に渡すことになるからです。恐ろしい世界です。規模が大きくなる可能性があるからです。そして、結局のところ、彼らが 6 か月かそこらで求めているのは、これらのものがどれほど強力であるかを本当には知らないということです。まだ数日しか経っていませんが、本当に素晴らしいようです。私は本当に交換される準備ができています。本当に準備ができています。前向きな意味で、つまり、基本的に私の仕事のありふれた側面、そしておそらく私のフルジョブでAIの方が優れていることが判明した場合、私は非常に差別的だと思います。基本的に、人間は劣っているから人間しか雇えないというのは、ばかげています。それは差別です。AIが学生のトレーニングで私よりも優れている場合、私を絵から消し、AIに学生をトレーニングさせてください。つまり、私は何を望んでいるのか、つまり、人間のための仕事が欲しいのか、それとも人類のためにより良い結果が欲しいのか、ということです。つまり、基本的なことは、人類のために何を望んでいるのか、個人として何を望んでいるのかを自問することです。個人としては、基本的な生存を望んでおり、その上、豊かで充実した経験を望んでいます。その通りです。その通りです。個人としては、MITで教えることで非常に多くのものを得ています。これは非常に充実した仕事のようなものです。私はよく、もし私が億万長者だったらどうするかと冗談を言います。株式市場 私はMITに法外な金額を支払って、毎日夜通し世界で最も賢い人々と働かせてもらいたいと思っています。それはすでに私が持っているものなので、私にとっては非常に充実した経験です。しかし、より良いアドバイザーがいれば、なぜ私はそれらの学生からそのアドバイザーを奪うのでしょうか。ここで教育についてお聞きしたいのですが、これは高校の教師にとってストレスの多い時期です。教師全般にとって、現在の状態であっても、大規模な言語モデルはどのように変化すると思いますか。教育まず第一に、教育は貧困から抜け出す方法です。教育は成功への道です。教育は私の両親が島から脱出し、子供たちをMITに入学させた理由です。これは基本的な人権です。基本的に、世界中の才能を見極め、その才能に機会を与える能力を格段に高める必要があります。そのため、世界中の才能を育てる必要があります。アフリカ、ラテンアメリカ、アメリカ中部、アジア、そして世界中の恵まれない場所に座っている信じられないほど才能のある子供たちがたくさんいます。こうした子供たちにチャンスを与える必要があります。AI は、教育を民主化することで、それを実現する方法かもしれません。柔軟性があり、すべての子供の特定のニーズに適応できる、非常に優れた教師を提供し、非常に才能のある子供に苦労している何かを与えることができるようにします。教育全体ではなく、上位の人に教え、下位の人を置き去りにするか、下位の人に教え、上位の人を放っておくのです。教育は各人のユニークな才能に合わせて調整されます。数学や物理学に非常に優れた人がいるかもしれません。詩、文学、芸術、スポーツ、その他何でも才能がある人もいるでしょう。したがって、教育を基本的に広範囲に変更することを許可すれば、AI は人類に変革をもたらすことができると思います。また、人間は多様性によって繁栄すると思います。基本的に、あなたは数学が非常に得意なので、数学を教える必要はありません。歴史を教えるだけです。それはばかげていると思います。いいえ、あなたは数学が非常に得意です。数学をさらに上手にしましょう。なぜなら、私たち全員が成長できるわけではないからです。鶏を飼ったり、豚を狩ったり、何をするにしても、私たちが社会にいる理由は、一部の人々が何かに優れているからであり、彼らには何かに対する自然な傾向があり、いくつかのことが彼らを満足させ、いくつかのことが非常に得意であり、時には両方が一致し、彼らが満足させることが非常に得意であるためです。私たちは彼らを人間の能力の限界まで押し上げるべきです。ええと、数学が得意な人もいます。彼らに挑戦させるべきです。すべての子供に挑戦する権利があるべきだと思います。もし私たちが「あなたはすでにとても優れているので、私たちはあなたに煩わされることはありません」と言ったら、私たちは挑戦されるという基本的な権利を奪っていることになります。なぜなら、もし子供が挑戦しなければ、それはそれでいいのです。子供は学校が嫌いになり、自分を追い込むのではなく、居座りたがるようになるからです。これが教育の要素です。AIがもたらすもう1つの影響は、おそらく誰もが並外れて優れたプログラマーである必要はないということです。より優れた一般的な思考力が必要なのかもしれません。これまで私たちは、定量的スキル、プログラミングスキル、数学スキル、物理スキルのみをテストする、非常に厳格なIQベースのテストに取り組んできました。おそらく、それらはもう必要ないかもしれません。AIはそれらに非常に長けているかもしれません。私たちが訓練すべきなのは、一般的な思考力です。そうです、私は子供たちにロシアの数学をやらせています。なぜそうするのか、それは彼らが子供たちに考え方を教えているからです。私は子供たちにこう言います。「ねえ、君の代わりに計算できるよ。君にはそんな必要はない。君に必要なのは考え方を学ぶこと。だから君はここにいるんだ」と。私は、より複雑な問題、より多次元の問題、より論理的な問題で学生に挑戦させることは、ある意味、おそらく教育が向かうべき非常に良い方向は、伝統的に科学的な分野の多くがおそらくAIによってより簡単に解決されるだろうという理解と、子供たちを生産的で社会に貢献できる人間に育てることについて考えることです。なぜなら、私たちはAIにそれらの仕事をすることを禁じたからです。全体的な生産性に焦点を当てるなら、AIを導入して誰もがより生産的になるようにしましょう。私が生徒たちに言ったのは、AIに取って代わられるのではなく、仕事でAIを使う人々に取って代わられるということです。ですから、AIを受け入れ、パートナーとして使い、禁止するのではなく、AIと共に働くべきです。なぜなら、生産性の向上は実際により良い社会につながると私は思うからです。それは伝統的に人間が苦手としてきたことです。生産性の向上は不平等を招いてきました。今回はもっとうまくできると期待しています。基本的に今、このような生産性ゲームの民主化は、より良い人間性レベル、つまり人間の状態の改善をもたらすでしょう。ほとんどの人が知っているように、あなたはただ雄弁なだけではありません。ロマンティックさん、あなたは素晴らしい計算生物学者でもあり、世界でも最も偉大な生物学者の一人です。言語モデルがどのように、これらの大規模な言語モデルとAIへの投資があなたの研究にどのように影響しているのかを尋ねなければなりませんでした。この知識をカプセル化し、知識グラフを構築し、これらの知識の表現をこのような非常に高次元の空間に構築し、単一細胞データ、遺伝データ、発現データなどを一緒に投影できることは、本当に素晴らしいことです。これらすべての知識をまとめることができるので、病気をまったく新しい方法で真に分析するために、私たちはこれらのモデルを使用しています。化学部のブラッド・ピンタルタとハーバード大学医学部のマリーン・カジトニックと、私たちはドラッグ・ジワスと呼んでいる素晴らしいコラボレーションを行っています。私たちがやろうとしているのは、すべての点を効果的に結びつけてすべての病気を効果的に治すことです。これは決して小さな挑戦ではありませんが、私たちは遺伝学から始めています。遺伝的変異がこれらの分子表現型にどのように影響しているか、これらが1つの空間から別の空間にどのように移行しているか、言語モデルが横断的な性格を持っているのと同じように、文脈学習を理解できることを理解しています。ベン・リンガーは私の機械学習の学生の1人で、基本的に、数百万の細胞にわたる特定のネットワークを学習する方法を研究しています。これらの細胞の生物学的変数のコンテキストを、各細胞タイプの特定のネットワークに直交するコンポーネントとしてエンコードし、それをすべて一種の投影できるようにすることです。共通知識空間は分野に変革をもたらし、大規模言語モデルも構造に非常に役立っています。幾何学的関係のモデリング、幾何学的ディープラーニング、グラフニューラルネットワークを通じてタンパク質構造を理解する場合、構造を理解する上で非常に役立ちます。私たちがマリンカで行っていることの1つは、これらの構造グラフをタンパク質レベルではなくドメインレベルで化学物質とともに投影することです。これにより、特定のタンパク質ドメインに特定の化学物質を構築できるようになります。次に、化学部門とブラッドと協力して、基本的にそれらを合成します。私たちが作ろうとしているのは、MITのゲノム科学と治療学のための新しいセンターです。基本的に、この翻訳を促進できるかどうかです。私たちは発見した何千もの遺伝子回路を持っています。前回ニューイングランドジャーナルメディシンでお話ししましたが、肥満との最も強い遺伝的関連性の分析を発表し、その関連性を操作してアルツハイマー病の脂肪燃焼細胞と脂肪蓄積細胞を切り替える方法を示しました。数週間前には、リーウェイタイと共同で、アルツハイマー病との最も強い遺伝的関連性であるapoe4を調べる論文をネイチャーに掲載しました。アルツハイマー病では、オリゴデンドロサイトと呼ばれる髄鞘形成細胞でコレステロールを輸送する能力が失われることが示されました。この細胞は基本的にニューロンを保護します。コレステロールがオリゴメトリサイト内に詰まるとミエリンを形成できず、ニューロンは保護されず、オリゴデンドロサイト内に損傷が発生します。輸送を回復させるだけで、基本的にヒト細胞とマウスの髄鞘形成を回復でき、マウスの認知能力を回復できます。つまり、これらの回路はすべて、人間の状態を真に変える手掛かりを与えてくれるのです。心臓疾患、アルツハイマー病、神経変性疾患、精神疾患でも同じことを行っています。これらの疾患には何千もの回路があり、それらを操作すれば病気の回路を逆転させることができることが分かっています。私たちが構築しているこの連合で構築したいのは、心臓、筋肉、脂肪、マクロファージ、免疫細胞、ニューロンの細胞モデルでこれらの基礎分子を体系的にテストできるセンターです。ディープラーニングを使用してこれらの新しく設計された薬をスクリーニングし、どの薬が細胞レベルで作用するか、どの治療の組み合わせを使用するべきか、そしてアルツハイマー病、心血管疾患、統合失調症などの複雑な特性を病気の特徴に分解するその他の要素を尋ねることができるようになります。これにより、これらのすべての取引について、アルツハイマー病の構成要素が何であるかを話し始めることができ、この患者には構成要素の1、3、7があり、この患者には構成要素の2、3、8があるなど、今や私たちは薬を病気ではなく、ホールマークのために処方し始めます。その利点は、アルツハイマー病の薬が80人の患者に効かないと言う代わりに、病気に対してこのモジュール式のアプローチをとれることです。各経路に1つずつ10種類の薬があり、患者ごとに薬の組み合わせを処方します。このセンターでやりたいことは、基本的にこれらの経路のすべてを治療薬のセットに変換することです。薬のセットは、それらが変更する生物学的経路と同じ埋め込みサブスペースを投影します。これにより、遺伝子レベル、転写レベル、薬レベル、タンパク質構造レベルで発生する調節不全の間でこの変換を行うことができます。そして、このモジュール式のアプローチをパーソナライズ医療に効果的に取り入れます。レックス・フリードマンのために薬を作ると言うのは持続可能ではありませんが、代わりにこの経路用の薬を作り、別の経路用の別の薬を作ると言うと、何百万人もの人々がこれらの薬を共有します。経路、これが、AIやディープラーニング、埋め込みが生物学や医学を真に変革できるビジョンです。これらのシステムを真に活用し、知識表現や各空間の投影を見つけることで、超人的なレベルで病気を理解できるようになります。埋め込みサブスペースのそれぞれがどれだけ人口密度が高いか、どのような薬を作ることができるかなどを理解しようとします。これは本当に変革的であり、経路を体系的に変更する方法を見つけ、ゲノムの構造と情報を治療にマッピングし、経路を調べる薬を開発できるようにします。最終的な方法ではなく、経路を調べる薬を開発できます。これを自己浸透性ペプチドと組み合わせると、これらの薬剤を特定の細胞タイプに送達できます。これらの細胞の受容体を利用して、アンチセンスオリゴレベルで介入できます。基本的にRNAを抑制して新しいRNAを導入します。タンパク質レベルで介入します。小分子レベルでは、タンパク質自体を薬剤として使用できます。タンパク質同士の相互作用を妨害する能力があるためです。したがって、この分野は、高スループットテクノロジーとAI、大規模言語モデル、ディープラーニングモデルなどの組み合わせによって完全に変革されていると思います。人生の意味に対する最新の答えについてお話ししましたが、それは常に新しいバージョンに更新され続けています。つまり、自己実現です。説明していただけますか。基本的に、1番目に自分が何であるべきかを理解し、2番目に実際にそうなる強さを見つけましょう。最近、卒業式のスピーチについて学生と話していましたが、彼らには今、これらすべての道が目の前にあり、その一部は進む方向を選択することであり、一部は実際にその道を歩むことであると話していました。方向性を示し、散歩をしながら、先ほど話したように、自分の環境を作るという話をしました。私は基本的に、高校を終える時、今まで両親があなたの環境をすべて作ってきたのだから、それを自分の手で、大人になりたい環境を形作る時だと言いました。それは、友達を選ぶこと、特定の神経経路を選ぶことによって行うことができます。私は基本的に、脳を特定の神経経路を鍛えることができる筋肉だと考えています。最近、私は睡眠に非常に問題を抱えていることに気付きました。夜中に目が覚めたり、午前4時に目が覚めたり、二度とベッドに戻らなかったりしました。つまり、私は基本的に常に睡眠不足でした。私は新しいルーチンを始めました。毎朝、自転車に乗ってオフィスに行く代わりに、ジムに行きます。基本的には、まずボートを漕ぎ、次にウェイトトレーニングをし、時間があるときは頻繁に泳ぎます。それが私の神経経路を変えました。基本的に、金曜日に仕事に行こうとしていたとき、私は「聞いてくれ、私は運動するつもりはない、そして私の自転車に乗ってジムに直行しました。やりたくないけど、仕方がないのでとにかく行きました。それが私を完全に変えました。これは、運動が体全体に与える有益な効果であり、自分の神経経路を変える方法の1つだと思います。運動は選択ではなく、オプションではなく、任意ではなく、必須であることを理解します。そして、私たちの多くをモデルにしているのは、体を極限まで追い込むことができる、非常に規律正しい体制を持つことができるということです。これまでは苦手だったけど、今は基本的に自分を指導して、この自己実現を終えて、新しい自分、より規律ある自分になるように努めています。質問はせず、ただ儀式に従うだけです。選択肢ではありません。人生にはたくさんの愛があり、愛を放っています。孤独を感じることはありますか？人にはいろいろなタイプがいて、集まりでエネルギーを消耗する人もいれば、集まりでエネルギーを充電する人もいます。私は間違いなくエネルギーを充電するタイプです。私は非常に社交的な生き物です。知的な交流でエネルギーを充電し、運動でエネルギーを充電し、自然でエネルギーを充電します。でも、部屋に自分一人だけだったときも素晴らしい気分になります。孤独なわけではなく、ただ部屋に自分一人だけだったというだけです。自分一人のときに孤独を感じない秘訣があると思います。その秘訣は自己反省です。内省です。まるで上から自分を見ているようなもので、基本的には自分自身になり、自分が持っている自由に慣れていくことです。あなたは一人なので、自分自身と向き合うのです。つまり、この世界で孤独を感じ、特に若い頃に苦労しているという話を私に手紙で送ってくる人がたくさんいます。そのような気持ちでほとんど麻痺している彼らに、さらにアドバイスはありますか？私は完全に同情します。私も孤独を感じたことがあり、そのような気持ちを感じました。私があなたに言いたいのは、立ち上がって腕を伸ばし、自分自身になり、自由があることに気づき、息を吸って、部屋の中を歩き回り、部屋の中を数歩歩き、自分の3Dバージョンを感じてみてください。なぜなら、私たちはしばしばスクリーンに縛られ、非常に制限され、特定の考え方に陥ってしまうからです。しかし、筋肉を動かし、体を動かし、自分自身を完全に動かすことは、そこから抜け出す方法の1つであり、自由を行使して、物理的なスペースを取り戻すことです。私がやっていることの1つは、私が「私の時間」と呼んでいるものを持っています。それは、一日中本当に良い気分だった場合は、朝、子供たちを学校に送り、朝食を作りました。ジムに行って、とても生産的な会議をいくつかしました。自分へのご褒美として、自分だけの時間を設けています。これは、過度に緊張しているときに、それが普通だと気づいて、ただ解放したいという気持ちになるものです。自由を行使する気持ち、自分の時間を行使する気持ち。そうすることで、ストレスから解放され、基本的に、もうそうする必要はない、そうしたいのだと言うことができます。そして、その自分の時間をクリックするとすぐに、ストレスがすべて消え去り、自転車で早く家に帰り、自宅にある仕事場に着きます。完全な自由を感じますが、完全な自由がなければ何をすると思いますか？ただ、ぶらぶらしたり、退屈なことをしたりはしません。基本的に、今は、よし、これは自分のためだけだと言うのです。私は完全に自由です。もう何も要求しません。何をすればいいのでしょうか。ToDoリストを見て、こう思うのですちょっと話を戻します。もし次の 30 分間に 3 つの会議が予定されているなら、電話を取ってこれらの人たちに電話し、次々に終わらせて、次の 15 分間で 30 分の会議を 3 つ終わらせる方がはるかに生産的です。それは、やらなければならないからではなく、やりたいからなのです。これが私のアドバイスです。基本的に、やらなければならないことを自分だけの時間に変え、自由を行使し、自分が 3D に生きていること、自分は人間であること、やらなければならないからではなく、やりたいからやるのだということを認識してください。私たち一人ひとりが持っている自由に気づいて取り戻すこと、それが人間であるということです。自分が肉体的にも精神的にも心理的にも本当に自由であることに気づけば、それが人間であるということです。でも、ノア、あなたは素晴らしい人間です。私たちはもっと何時間でも話せます。予定していたことの 10 パーセントにも満たない程度しか話せませんでしたが、先ほどお話しした社交会に急いで行かなければなりません。私たちは 3D 人間です。自由を取り戻すために、私たちがもっともっとたくさん話せるといいなと思います。話すことはいつもたくさんありますが、もっと重要なのは、あなたはただの人間で、広い心と美しい心を持っていて、人々はあなたの話を聞くのが大好きです。あなたと知り合い、あなたの友人とみなせることは、私にとって大きな名誉です。今日はお話をしてくれて本当にありがとう。何度もお話ししてくれて本当にありがとう。舞台裏であなたが送ってくれる愛にいつも感謝しています。レックス、あなたは本当に特別な人間です。あなたと知り合えたことを光栄に思います。私の友人の多くは、あなたが存在していること、あなたがしていることすべてを行う能力があることにただただ感銘を受けています。あなたは人類の贈り物だと思います。あなたが取り組んでいる使命が大好きです。それは、知識や洞察、深い考えを、変革をもたらす多くの特別な人々、あらゆる階層の人々と共有することです。あなたはこれを本当に素晴らしい方法で行っていると思います。あなたがそれを続けられるよう、強く願っています。これは非常に特別な使命であり、非常に訓練が必要な使命です。ありがとう。人間であるあなたとロバートであるあなたは、この愛を示してくれてありがとう。そして彼らはあなたと一緒に毎日それをしてくれてありがとう。レックス、ありがとう。さあ、楽しみましょう。ミノラス・カルスとのこの会話を聞いてくれてありがとう。
このポッドキャストをサポートするには、説明にあるスポンサーをチェックしてください。
最後に、ビル・ブライソンの著書「ほぼすべてのものの短い歴史」の言葉を残しておきます。この本から学べることは、私たちがここにいられることはとても幸運だということです。私たちとは、すべての生き物のことです。私たちのこの宇宙で何らかの生命を得ることは、かなりの偉業のように思えます。人間である私たちは二重に幸運です。もちろん、私たちは存在する特権だけでなく、それを評価する特別な能力、さらにはさまざまな方法でそれを実現する能力も享受しています。理解し始めたばかりの才能の方が上です。聞いてくれてありがとう。また次回お会いしましょう。