スティーブン・ウルフラム、マノリス・ケリス、ヨシャ・バッハがMITメディアラボにて医学、自閉症、共感覚について語る

37,921 文字

今夜は特別なゲストをお迎えしております。確か最近出張から戻られたばかりやと思うんですが。ほんまに忙しい生活を送られてはる中、ラップトップとヘッドフォンを持参して、私たちのために時間を割いていただけたことは本当にありがたいことです。まずはスティーブン・ウルフラム博士に大きな拍手をお願いします。
私の理解では、今日のテーマは「コンピューティングと長寿」についてなんですが、実は数ヶ月前に始めて、今も続けてる研究プロジェクトが、このテーマに直接関係してるんです。それに、まさにこれから取り組もうとしてる案件も、このテーマと深く関連してます。皆さんにもそのプロジェクトの一部をお手伝いいただけたらと思います。
説明させていただきますと、私は機械学習の基礎、つまりなぜ機械学習が機能するのかを理解しようとしていました。そこで1985年に取り組んだテーマに立ち返ることになりました。生物進化がなぜ機能するのかという問題です。1985年当時、私は生物進化の最小モデルをいくつか作ったんですが、それらは上手く機能しませんでした。今では機械学習が機能することが分かってますので、これらの最小進化モデルを見直してみようと思いました。すると驚いたことに、今度は実際に機能したんです。
ここでは、その発見についてお話しさせていただきます。それから、1、2週間前に思いついた新しいアイデアについても触れたいと思います。それは医学の形式的な基礎理論と、治療や医学の形式的な基礎理論についてなんです。
では説明させていただきます。出発点となるのは、生物進化の最小モデルと、その基本的な考え方についてです。ここにあるのは、この生物の小さな遺伝子です。この生物は細胞でして、細胞の列があります。各細胞は白か赤か青のいずれかです。そして、これらのルールは、例えば青・赤・赤という並びがあった場合、次のステップでは赤になるということを示しています。
最初に赤い細胞を1つ置いて、しばらく実行させると、最終的に老衲か何かで死滅します。そこで問題となるのは、これをより長く生存させるように進化させることができるかということです。実は、この生物進化の研究で使用した適応度の基準がまさに長寿だったんです。テーマ的にも関連性があって面白いですね。
突然変異を起こすことができます。この小さな遺伝子に点突然変異を加えて、その突然変異が寿命を短くしない場合にのみ受け入れる、というのが目標です。そして何が起こるか観察します。完全にヌルルール、つまり1ステップで死滅するところから始めて、そのルールを徐々に突然変異させていくと、これらが成功への段階的な道筋となります。
この図を見ていただくと、X軸は進化のステップ数、Y軸は生存期間を示しています。赤い点は、それぞれ異なるケースでの試行を表しています。多くの試行では寿命は延びず、それらは保持しません。
長期間にわたって進歩が見られない期間があり、その後突然ブレークスルーが起きて跳躍的に向上します。この種の段階的な進歩とブレークスルーのパターンは、機械学習の損失曲線でもよく見られます。その理由は完全には解明されていませんが。
とにかく、サイコロを振るようなものですが、適応の異なる順序、つまり異なる方法で長生きする方法を学習することになります。面白いのは、これらのケースを見ると、システムが長生きするためのさまざまなアイデアを持っていることです。
典型的には、システムはこれらのアイデアを持ち、それらのアイデアの上に構築して、徐々に長生きするようになります。このモデルの仕組みは皆さん理解していただけましたでしょうか。
これは非常にシンプルなモデルなので、進化の問題のあらゆる可能性について検討することができます。遺伝子を修正できるすべての方法や、異なる状態に進化する可能性などです。右側では長生きするための一連のアイデアがあり、左側では異なるアイデアがあります。
これが生命の樹だとすると、片方は原核生物で、もう片方は真核生物というような感じかもしれません。異なる成功のアイデアということですね。
特定の中間地点にいる場合、可能な変化の空間の周りを見回すと、何が起こり得るのかが分かります。これは空間の局所的な導関数のようなものです。実際の適応度景観など、このような分析ができます。
ところで、本当に長生きするパターンを得ることができます。これらの一部は適応的進化によって見つけることができ、一部は網羅的な探索によって見つけることができます。すべての可能な生物の寿命分布を知りたい場合、これが典型的な分布です。理由は分かっていませんが、べき分布になります。
また興味深いのは、どのようにして長生きするかという点です。これらのケースの一部では、識別可能なメカニズムが見られますが、ほとんどの場合、なぜ長生きするのかを説明するのは非常に難しいです。ただ複雑なことをしているだけで、たまたま300ステップ生存できるということです。
生物学の機械論的な理論を求めている人にとっては、少し期待はずれかもしれません。なぜなら、何が起きているかというと、単に特定の目的を達成する計算の塊であって、このメカニズムがこういう風に組み立てられている、というような理解可能な形では説明できないからです。
面白いと思われる点を見てみましょう。適応進化を異なる基準で行った場合どうなるか。これらは、高さではなく幅を進化させたものです。π（パイ）の長さと幅の比率を持つように進化させたものもあります。システムにはさまざまなことを進化させることができます。
得られる構造が興味深いのは、これらの構造のどれも、人が座って「長さと幅の比率がπになるような細胞オートマトンを作ろう」と考えても思いつかないようなものだからです。これは計算宇宙の可能性を探索することによってのみ見つけられる種類のものです。
数日前に行ったことをお見せしましょう。まず、実際にもっと大きなバージョンを作ることができます。興味深いのは、異なる適応度関数を使いたい場合、基礎となるグラフは同じですが、使用する適応度関数によってグラフの探索方法が異なるということです。これには未だ十分に解明されていない結果があります。
見えにくいかもしれませんが、これは少し大きな設定での進化の可能性を見る、より大規模なケースです。つい最近始めたばかりで、まだ十分に取り組めていないのがこれです。
ある生物が長期間進化して、長生きするという適応目的を達成した後、それを撹乱した場合に興味がありました。つまり、野生で幸せに暮らしている生物があるとして、何らかのトラウマ的な経験をさせる、つまり何らかの形で刺激を与えた場合、どうなるでしょうか。
そのような欠陥があった場合、急速に死滅するような特定の病気を示すのでしょうか、それともより長く生きるのでしょうか。刺激を与えた後、何が起こるのでしょうか。
スティーブン、ここで一つ付け加えてもよろしいでしょうか。まだおっしゃってないかもしれませんが、「ホルメシス」という言葉をご存知の方はいらっしゃいますか？ホルメシスというのは、良いストレスのような概念で、より良くなるための刺激なんです。これはデイビッド・シンクレア氏が他の研究者よりも一般的に指摘してきたことで、生物学ではこの現象があちこちで見られます。これからどんなお話が聞けるのか、とても興味深いです。
実は、私もまだ物語の結末は分かっていません。この研究を始めたばかりなんですが、ある適応度の目的のために進化したシステムがあって、それに摂動を加えた場合、何が悪くなるのかを分類できるかという問題に取り組み始めました。
人間の病気にはICD-10という分類があり、10万もの病気が分類されていますが、このような小さなモデルシステムの「病気」を分類できるでしょうか。コンピュータセキュリティの目的で、オペレーティングシステムの「病気」を分類できるのと同じように。
最初のステップは、何が悪くなり得るのかを分類することです。そして、刺激を与えて何かが悪くなった後、別の摂動を加えることでそれを修復できるのでしょうか。あるいは、摂動が実際に助けになるというあなたの仮説を検証することもできます。
これらの図では、ただ異なるビットを順番にフリップしていったのですが、私の予想に反して、刺激を与えられた結果として、しばしばより長生きするように見えます。ただし、時には永遠に生き続けたり、腫瘍のように永遠に成長し続けたりすることもあります。
もし私がハッカソンをするとしたら、進化したシステムへの摂動について、何が一般的に言えるのかを理解しようとするかもしれません。医学について考えると、私の知る限り - 他の方々は異なる意見かもしれませんが - 医学の形式的な理論というものは基本的に存在しません。
医学は非常に人間中心的なもので、「これこれの病気の分類があって、それはそういうものだ」というだけで、それがどのように機能するのかを形式化する方法はありません。これが私が興味深いと考えたトーマです。
補足させていただいてもよろしいでしょうか。普段なら言及しないことなんですが、このイベントをオンラインで宣伝した時、「Arch crestless」というような脱毛症のサブレディットに投稿したんです。すると驚くほど多くの人々が素早く反応して、「毛髪の問題を解決できるような生物学の理論が必要だ」と言ってきました。
実は子供の頃からの知り合いで、現在は幹細胞研究者になった人がいて、WT1という遺伝子を研究しているんです。私は何年も前から彼女に「科学が本当に進歩したと分かるのは、私に髪が生えた時だ」と言ってきました。もしかしたら、これがその時なのかもしれません。
これらのことについて実際に実験を試みたり、他の完全に異なる話題について話し合ったりすることもできます。
質問がありますね、どうぞ。
医学生なんですが、医学に形式的な理論がないということについて、もう少し詳しく説明していただけませんか。私も今、この道に入って、皆が形式的だと思っているように見えるこの進路に入っているんですが、実際にはそうではないと思うんです。
そうですね、医学について何が言えるでしょうか。病気について話すと、ある種の病気の分類があるだけで、可能な病気の全スペクトルについて、これがどのように機能するのかということは何も分かっていません。
例えば、細胞の種類について考えてみましょう。私が子供の頃は、「血液細胞には赤血球と白血球の2種類がある」と習いました。少し後になると、「実はB細胞とT細胞がある」となり、さらに「実はCD8陽性T細胞がある」というように、どんどん詳細になっていきました。
興味深い疑問は、これにはどこか終わりがあるのか、ということです。生物学と医学の変わった特徴の一つを指摘させていただきますと - 物理学など他の分野の経験もありますが - 物理学では単純な仮説が通常正しいのです。一方、生物学と医学では、起こり得る最も複雑なことが通常実際に起きています。
単純な一つの効果というものはなく、常に「まあ、だいたいそうだけど...」という具合です。DNAからRNAへの転写という中心教義のように、だいたい一つの効果だと言えるものもありますが、その後には「ただし、時にはそうではない場合もある」という脚注が付きます。
生物学は無限の脚注が付く分野なんです。長寿に関連して私が長年興味を持っているのは、コンピュータでオペレーティングシステムを実行している場合、一定期間後にはクラッシュするということです。1週間かもしれないし、1ヶ月かもしれないし、1時間かもしれません。でも、最終的には必ず何かが悪くなってクラッシュします。
実は約15年前、Wolfram|Alphaを最初にローンチした時、サーバーのクラッシュで大変な問題を抱えていました。そこでオペレーティングシステムの「死亡率」の研究を始め、死亡率曲線や様々な死亡原因を理解しようとしました。結局、いくつかのエンジニアリング上の問題を解決したことでこの研究は中断されましたが、オペレーティングシステムが実行中で何かが悪くなった場合、すべてのビットが利用可能な状態で、悪くなったものを修復してシステムを動作し続けることができるのか、という問題は長寿の問題に似ています。
人間が稼働している場合、それを修復して動作し続けることはできるでしょうか。オペレーティングシステムの明白な解決策は、コンピュータを再起動することです。これは人間の場合、この世代は諦めて、次の世代で同様の遺伝物質から再スタートするようなものです。これは生物学が問題を解決する方法で、コンピュータでも同じ解決策を見つけますが、私たち一人一人にとっては、いわば「再起動」されることは望ましくありません。
言わば「フライト中の修理」をしたいわけです。まあ、多くのことが言えますね。数年前、AIを使用した医療診断の大きなプロジェクトを検討したことがあります。データを取得する方法も見つかり、実際、米国外の方がより大規模な、ある程度体系化されたデータを入手しやすいことも分かりました。
しかし、実際にプロジェクトを進めなかった理由は非常に現実的なものでした。それを作ったとして、その後どうするのか分からなかったのです。規制の問題や、誰がそれを望むのか - 病院なのか、医師なのか、患者なのか - 彼らが適切に使用するのか、という問題があり、市場としては行き詰まりだと判断しました。
しかし、私の強い直感では、特にセンサーベースの医療が始まったばかりの頃、多くのことができたはずです。私の医師の分類方法は、普通のチャートを読めるか、時間の関数としての普通のグラフを読めるか、次にヒストグラムを読めるか、というものです。そしてさらに数段階上がっていきますが、ほとんどの開業医は、ヒストグラムの段階までにつまずいてしまいます。
つまり、それは高度に技術的な分野ではありませんでした。それには良い理由があって、センサーデータがあれば何か有用なものが得られるはずですが、多くの場合、医療実践では「AかBか」という二者択一になってしまいます。そこには膨大なデータがあるかもしれませんが、結局は「AかBか」という判断になるのです。
個人の分析に興味がある者として、私は様々な変わったメタボロミクス検査などを受けてきました。そこで主に分かることは、たくさんのデータが得られるものの、誰もそれをどう解釈すればいいのか分からないということです。
2010年に自分のゲノム配列を解読しました。当時、私は恐らく32番目のヒトだったと思います。その頃、ゲノム配列解析を多く行っている会社と仕事をしていたこともあって実現したのですが、それはある意味で無意味な経験でした。
面白かったのは、自分のゲノムを理解するために誰かを雇ったんです。その人からの最初のメールには「あなたは770の病気の可能性があります」と書かれていました。その多くは生後1日目で死んでいたはずのものでした。だから、それらの病気は持っていないということは分かりますが...
無意味な情報について話していますが、私たちのほとんどが再起動されたくないと確信していますか？
それは再起動の意味次第ですね。これは複雑な哲学的な問題になります。私のメールには、全脳エミュレーション会社を立ち上げようとしている誰かからの提案が来ています。全脳をエミュレートした場合、それがどのように感じるのか分かりません。成功した自分の全脳エミュレーターと出会った時、単に「まあ、私は終わりだから、これからは全脳エミュレーターに任せよう」と言えるのでしょうか。それは奇妙な経験でしょう。
より実用的な質問として、医学に体系的な理論がない理由は、医学は科学ではなく芸術だと言われているからだと思いますか？
実践されている医学は、人間同士の相互作用が大きな部分を占めています。私の変わった趣味の一つとして、医療診断についてかなりの知識を得てきました。実際、多くの場合、誰かが「医者がこう言った」と言うと、「それは本当にありえない」と私が言って、実際にいくつもの診断に成功してきました。
誰かが「医者にこの病気だと言われた」と言うと、「それは絶対にありえない。その分野の専門医に診てもらいなさい」と言うと、その専門医が「その病気ではない」と言う、というようなことがよくありました。
医療診断では特徴的な確率の誤りがよく見られます。まず、若い医師は通常珍しい病気を過剰診断し、年配の医師は一般的な病気を過剰診断する傾向があります。これは、若い医師は医学校でエキゾチックな症例をたくさん見てきたからで、年配の医師は「この珍しい熱帯病を見たことがない」というような考えを持っているからです。
もう一つよく見られる問題は、最初に5つの可能性のある診断があって、いくつかの検査を行い、そのうち3つの診断が除外されると、残りの2つの診断を長い間追い続けるというものです。そして、それらの診断のどちらも正しくないことが明らかになっても、最初に除外した診断に立ち戻って再検討することをしないのです。
これは本当によくある間違いです。コンピュータシステムならこのような間違いはしないでしょう。IBMがジョパディ!に勝利した時のように、コンピュータが勝利できた主な理由は、質問に対する回答が優れていたからではなく、確率的な間違いを避けられたからです。ジョパディ!の仕組みについては詳しくないのですが、その競技についてはそういう事実を覚えています。
現在の医療実践では、多くの決定木が使用されています。モデリングの観点からは、人間の特徴をモデル化した医学はほとんどありません。内分泌系などについて、何が起きているかを微分方程式でモデル化することはできますし、例えば5歳の子供の顔の手術で、この変更を加えた場合、子供が成長するにつれてどのように発達するかを計算することもできます。
しかし、形式的かつ計算的に成功裏に行われてきたことは比較的少ないのです。私が考えていたのは、もっとグローバルな観点から、医学で私たちが気にかけているシステム、つまり主に私たち自身に何が悪くなるのか、について一般的な説明ができないかということです。
例えば、実行中のオペレーティングシステムを修復できるかという問題について考えてみましょう。計算の基礎的な理由から、対処しなければならない無限の階層が存在する可能性が非常に高いと思われます。つまり、オペレーティングシステムをできるだけ長く生かそうとすると、1時間で死ぬ何かがあり、それを修復すると15分後に別の何かが死ぬ、というように続くかもしれません。
修復すべき無限の階層が存在すると予想すべきなのか、それらの異なる問題の頻度について何か言えるのか、一つの修復で多くの問題が解決される可能性があるのか、といったことを知ることは興味深いです。私の推測では、かなり形式的な計算的なことが言えるはずです。
その希望を抱かせるのは、私が作ったこの生物進化の小さなモデルが、非常に単純な形式的モデルであるにもかかわらず、実際の生物学の多くの既知の特徴を再現し、説明できるということです。
ええ、確かに。再起動のアイデアは、PTSDなどに対する精神療法のような、意識の再起動を思い起こさせますね。
システム全体ではなく、意識だけを再起動するということですね。それについてもっと詳しく知りたければ、pERK（リン酸化ERK）について調べてみてください。脳に対する非常に低い刺激です。
これは別のAIシステムを見る方法かもしれません。パーティーハットをかぶった猫の絵を作るように指示し、埋め込みベクトルを少し変更すると、本当に猫の概念はどこにあるのかが分かります。パラメータを変更していくと、概念空間に入っていくような感じになります。
私が行った実験で、ここで興味深いと思われるのは、安定拡散モデル、つまり画像生成のAIシステムから始めて、内部の重みを修正するというものです。これらのうちどちらがどちらなのか分かりませんが、重みをゼロにしていく実験は、『2001年宇宙の旅』のHAL 9000のように、脳の一部を徐々に取り除いて何が起こるか、どんな猫を想像するようになるかを見る実験のようなものです。
もう一つできることは、単に重みを増やすことです。これはすべての神経結合を増強した場合、猫をどのように考えるようになるかという概念モデルのようなものです。AIの心を「吹き飛ばす」ような明確な様相を示します。
統合失調症には過剰な刈り込みと関連があるという理論がありますが、スペクトルの反対側を見せていただけますか？
はい、これらの実験を実行できます。GPUの処理能力が必要ですが、実際に試すことができます。どちらがどちらだったか思い出そうとしています。これはノックアウト実験のようなもので、脳の病変のようなものです。特定の方法で訓練された脳が、何かをノックアウトされた時に生成する心的イメージです。
これが過剰な刈り込みに相当すると言えるでしょう。単一のモジュールをゼロにしても大きな違いは生じません。このモジュールを一つゼロにすると、基本的に猫の表情が変わるだけです。これは精神症状とも関連があるかもしれませんね。
これらの問題について、精神医学的な問題がどのように神経の特異性と相関するのか、私は疑問に思っています。実際、この話題に関連して、催眠状態（ヒプナゴギア）について聞いたことはありますか？睡眠の中間状態のようなもので、人によって多く経験する人とそうでない人がいます。
ノイズやリンから始まり、文字通りそのプロセスを経て意味のある何かになっていくのを、何人かの方は気付いたことがあるでしょう。実は「カシナ瞑想」というものもあります。基本的に、明るい光を直接見つめるのではなく、コントラストの高い物体を見て、目に残像として焼き付くような光を知覚し、それらの形を選び出して集中しようとするものです。
これは生物学について何か示唆するかもしれない、非常に興味深いプロセスです。
ここでは無限の実験が可能です。私が書くものの特徴の一つは、どの画像もクリックすればその画像を生成するコードが得られるようにしていることです。残念ながら、このコードは恐らくGPUを使用するか、データを報告する必要があるため、ここで使える有用なバージョンはありません。
しかし、誰かGPUを持っている人がいれば、このコードを入手して実行し、独自の実験を行うことができるはずです。
1989年の論文「最適な脳の損傷」について、ネットワークが表現を効率的に行うために必要な刈り込みの量と、複雑性と活性化の量を管理することの関係について述べられていました。詳細は覚えていませんが、神経発達的な脳の成長では、最初に早い学習が起こり、その後安定化し、さらに例を追加し続けるという点が興味深いです。
これはCNNの学習方法とはかなり異なりますが、Vision Transformerは、私たちの脳の活性化パターンと驚くほど似た方法で、異なる画像間で一般化する能力を獲得していきます。これが視覚情報や概念情報の処理構造について何を意味するのかは分かりませんが、何か示唆するものがあるかもしれません。
実際、一次視覚野については多くのことが分かっていますが、より高次の処理については何が起きているのか分かりにくいようです。ニューラルネットの訓練可能性を高めるためのドロップアウトが良いアイデアだという初期の発見について、神経科学的な相関があると主張する人もいますが、私にはよく分かりません。
現代のVision Transformerの世界では、それに対応するものがあるのかどうか、私には分かりません。
損傷の話とホルメシスの話に関連して、サヴァン症候群について聞いたことはありますか？さらに奇妙なことに、「後天性サヴァン症候群」というものがあります。これは、軽度から重度の脳の外傷を受けた後、回復期を経て、非常に大量の情報を短時間で計算する能力や、信じられないような能力を獲得するというものです。
例えば、カレンダー計算の驚くべき能力を得る場合もあります。ジェイソン・パッジェットという人がいて、彼に会って話を聞きたいと思っているのですが、約20年前にシアトルのバーで襲われた後、マイアミ大学のブロード研究所で研究された症例があります。彼は共感覚のような状態になり、すべてを形の観点から考え、経験するようになったそうです。
私たちのタブレットやスクリーンにある文字のように、文字自体には意味がなく、そう訓練されているから意味を持つように、彼は独自の形の言語を持つようになったのです。これは生物学、医学、AIについて、同じものを異なる方法で解釈する可能性を示しています。
脳や生物学全般の計算特性について、私たちは何を見逃しているのでしょうか。このような奇妙な能力が存在し、特にスキルを手動で学習しようとする場合と比べて、非常に急激に現れることがあるのは興味深いです。
異なるモダリティを関連付けるという問題全体は、人工ニューラルネットワークで十分に研究可能だと思います。ただし、共感覚に関する研究については知りません。私の子供の一人が共感覚を持っていて、最近読んだ研究では、特定の文字と特定の色の関連付けは、青いAなどが描かれたABCチャートで学習した結果かもしれないと述べられていました。
その研究を読んでから、元のABCチャートを見つけ出して、その色が本当に関連しているのか確認したいと思っています。そうでなければ、なぜ誰かが7と紫色を関連付けるのか、なぜその色を選ぶのか、説明がつきません。脳の内部に本当の色との結びつきがある場合を除いて、最初に学習した色である可能性の方が高いと思います。
音のデータを見てみましょう。共感覚を経験する人の数は、音に関して多く、しばしも色と関連付けられます。興味深いことに、ほとんどの人が同じ音に同じ色を割り当てる傾向がありますが、全員がそうというわけではありません。これは特定の世代がある種の色との関連を持っているという仮説もありますが、それが実際の理由かどうかは明確ではありません。
数学的に考えると面白いことに、色は脳内で数学的に言えば極座標表現のようなものです。角度を持つ3つのパラメータがあります。表現する色の数によって異なりますが、この色空間は角度と強度を使って表現できます。
計算が行われる層に実験的にアクセスできると、共感覚が生じる可能性があります。脳を階層システムとして考えると、一つの層から次の層への各ホップが一つの層となります。時には十分な層を超えて情報を統合する必要がありますが、ある神経伝達物質の次元で欠陥がある場合、受容体がうまく機能しない場合、深い層での統合が困難になり、浅く統合せざるを得なくなります。
現実のモデルを安定させるために刺激が必要になるかもしれず、これは自閉症の典型的な症状につながります。逆に、余りにも多くの層にわたって統合してしまうと、共感覚につながる可能性があります。意味的には関係のない、ただの構文である幾何学的な計算に実験的にアクセスできてしまうのです。
一次視覚野では、両眼からの入力や異なる色受容体からの入力が、奇妙な縞模様のパターンとして皮質に投射されることが知られています。あなたの理論では、より高次のレベルで何かを知覚していると思っている時、実際にはその低次の表現、つまりこれらの色の座標系が見えているということかもしれません。
セロトニン作動性の薬物を投与すると、典型的に共感覚を誘発することができます。これは何らかの脱抑制につながり、おそらくその状態ではより多くの層にわたって情報を統合しているのでしょう。また、他者との知覚的な共感がより強くなる傾向もあります。
ちなみに、これらの物質を使用すると、人々は過学習する傾向があります。
LSDやMDAのような精神療法薬のことですね。
私の情報のために、自閉症の理論について簡単におっしゃったのはどういうことでしたか？
基本的に、十分な層にわたって統合できない場合、形成しようとしている概念の直下の層でパターンを見つけることを強制されます。これは、比較的浅く統合された世界に居ることになるということです。
私のような自閉症の人々にとってコンピュータが魅力的な理由は、それが完全に浅いスクリプトで作られた世界だからだと思います。深く見る必要はなく、次の層の前の層でパターンを探し、それらを統合するだけでよいのです。
幻覚は人工的な共感覚的状態です。幻覚は感覚データの非予測的な追跡です。通常、感覚データは網膜や皮膚で次に起こることを予測するように調整されています。統合失調症などでそれがずれると、表現が予測的であるという制約がなくなり、観察する出来事と相関しない世界の表現に陥ってしまい、成功につながらなくなります。
皆さんは何を研究されているのですか？誘発可能な共感覚について、以前お話しした嗅覚の件を覚えていますか？これは少し変わっているかもしれませんが、他の人も試したことがあるでしょうか。
子供の頃、私は両親の香水のような香りを使って、シールを破って、それらの形やパターン、自然の風景を表現しようとしました。それらの香りを本当に嗅ぎ分け、区別することに集中し、別の香りや既存のアイデア、形と関連付けようとしました。
これを十分に続けると、約1週間後には香りで考えるようになりました。最初の考えは、犬がどのように世界を認識しているのだろうか、ということでした。私たちの多くは視覚的・空間的に考えたり、音や音楽、視覚、言葉などの観点で物事を考えたりしますが、香りの観点で世界を経験している人はどれくらいいるでしょうか？
奇妙なことに、今でも少しその能力が残っていて、その上着がそのような匂いがするわけではないのに、全く関係のないように見える内的な香りを関連付けています。面白いのは、別の紙に書いて、友達とこれを試してみたことです。
これらの香りのパターンがあれば、普通の言語を紙の上で読むように、香りを通して読むことができます。二つの異なる単語を組み合わせて文字の順序を変えて別のものを作ったり、アーティストのように異なる形や視覚を組み合わせたりするように、香りでそれができるのです。
二つの香りを組み合わせようとすると、第三の香りが生まれます。これは色の混合のようなものです。
最近、香りの空間を最終的にデコードしたと主張する会社に出会いました。色空間については、私たちには3つの色受容体があり、知覚できるどんな色もそれらの組み合わせであることが分かっています。
もし私たちがカマキリのような生き物なら2つの色受容体しかなく、カマキリエビには15の色受容体があると言われています。様々な確信度で主張されていますが、XX染色体を持つ雌は、青錐体細胞の2つの異なる集団を持つことができ、これが色の超精密な識別につながるとされています。XY染色体を持つ雄にはそれはありません。
ヨシャ、知覚的共感がどのように機能すると考えているのか、もう少し詳しく話していただけますか？
他者の状態のモデルが、非同期的な推論ではなく、基本的に知覚レベルでリアルタイムに起こっていると考えています。他者との間にある種のフィードバックループを構築することで機能すると考えられ、他者の信号を拾い上げることができます。
これはウイルス的になり得ます。この方法で、一人では経験できない状態を経験できます。例えば、ジャズミュージシャンがグルーヴを共有している時に気付きますが、一人では演奏できない音楽を一緒に演奏できる状態になります。
これは、感覚チャネルを通じて、そして感覚チャネルを通じて知覚可能な彼らの身体を通じて、彼らの基盤が非常に相互作用しているため、その結果、彼らの精神的な表現が相互作用し始めることができるのです。
興味深いことに、自閉症の人々は他の自閉症の人々とより共感できますが、定型発達の人々とはそれほどできません。その逆も同様です。エージェントとしての経験があまりにも離れている場合、次に何をするかを推測することが難しく、フィードバックを確立しようとする試みを諦めてしまうのでしょうか？
基本的に、同じ方法で共鳴していないのです。形成される精神的な表現が一致していません。アーキテクチャが異なりすぎるため、翻訳層を導入する必要があります。この翻訳層が複数のステップの推論を必要とするため非常に非同期になると、リアルタイムでの追跡が困難になります。
もう一つの問題は、ほとんどの人が定型発達で、結果として彼らはお互いを考慮することを学びますが、彼らの中の少数の変わった人々については考慮しません。珍しい設定を持つ人々の基準を得るには時間がかかります。
若い頃、多くの社会的相互作用で失敗していることに気付き、何が起きているのか理解しようとしました。そこで感情認識のテストを受けてみると、男性としては普通のレベルで、特に問題はありませんでした。
感情について心理学の本を読んでも何も学べませんでした。この分野について長い本を書くためには、すでに何らかのアウトライアーである必要があり、感情をうまく扱える人々は、そのような本は書かないということに気付くまでに長い時間がかかりました。
定型発達の人々に適したチャットボットを作る場合、自閉症の人々により適したチャットボットを作ることができるのではないでしょうか？
明らかにできます。現在のチャットボットは文脈依存的だからです。学習方法は、すべての人の平均を取るのではなく、どの文脈でどのような相互作用があるかを非常に具体的に学習します。
AI企業が行っている平均化の試みは、データの多くの信号を失ってしまうため、非常に醜いものだと思います。ある意味で、これらのチャットボットを心理学、政治、その他の研究のツールとして使用できます。すべての異なるソーシャルメディアのパーソナリティを知っているので、非常に細かい粒度で研究できます。これはバイアスではなく、データの実際の基準を拾い上げているのです。私たちはLLMに任意の人口統計になるようプロンプトを与え、好きなだけ質問することができます。
最近、まさにこれを政治的な目的で行おうとしている会社と関わりました。「あなたはLLMで、クリーブランドの30歳の配管工だと想像してください」というような形です。約1ヶ月前、彼らは劇的な成功を収めていると主張し、来るべき米国選挙のために多くの政治キャンペーンと契約を結んでいると述べていました。
それなら予測市場で何十億ドルも稼げるはずですよね？でも、誰もがそのようなシステムを使用すると、反射的に他者の表現の複雑性が変化するため、誰も他者を予測できなくなるまで飽和してしまうのではないでしょうか？
金融についても同じことが言えますが、人々は特定の戦略に収束しています。科学自体についても同じことが言えます。ある時点でAIモデルは、インターネット上の以前のAIモデルの出力を主に拾い上げるという危険性があります。なぜなら、そこにある多くのコンテンツがAIモデルによって汚染されているからです。
しかし、科学もまた自身の出力によって主に訓練されるモデルであり、そのため遅くなります。社会についても同じことが言えます。私たちがより互いに結びついているため、同じ情報を見ていることになります。
元の質問に答える上でのもう一つの難しさは、定型発達の人々はより集まっているのに対し、非定型の人々はより広く分散しているということです。非定型には多くの異なる方法があり得るので、より分散しているのです。
そうですね。これは薬物試験と似ていますね。ある部分集団にはその薬が素晴らしく効く可能性がありますが、製薬会社は臨床試験で効果が期待できる人々にだけ薬を投与するように操作しようとしますが、それでも承認されるためには、ほとんどの人に悪影響を与えないことが必要です。同じような現象が起きているのです。
最終的に、ウェブなどから非定型的なテキストを定型的なテキストと区別して、この著者はある程度自閉症的だった、この著者は非常に定型的だった、というように識別し、トレーニングセットを区別できるでしょうか？
私の懸念は、チャットボットを定型の基準として設定してしまっていることです。医学の観点から言えば、あなたがおっしゃったように中心教義がないように、定型についても同様です。「これが定型的な人間だ」と言えるような一人の人間が歩き回っているわけではありません。
それに、今や人々はチャットGPTのように話すようマスキングしています。学術界などでは、それが受け入れられた話し方や声のトーンになってきています。私はこれを感じています。学術界は...はい、他の声も聞こえますが、特に他の学校に行くと、それが話し方の規範になってきています。
文化的な影響と、それが表現力のある声を持つ人々、つまり私のように表現力豊かな声を持っている人々にどのような影響を与えるのか心配です。私はいつもそれをマスクしなければならないと苦労してきました。以前はチャットボットを使って、「学術界ではこのように構成すべきだ」と考えていましたが...
AIによる我々の声の消滅ですね。皮肉に聞こえるつもりはありませんが...
皮肉すぎることはないと思います。みんながチャットGPTのように話そうとする、というのは面白いシナリオですね。AIが支配して、人間はもう諦めた方がいいという感じです。
ここで付け加えることがあります。はい、学術界は明らかに侵食されています。「鋭い」という単語の使用が急増したという論文がありました。これは、ナイジェリアのコンテンツがあったためにチャットGPTが「鋭い」という言葉を好んで使用するからです。
これは私たちの声が消えていくという問題ではなく、怠惰さの問題だと思います。本質的な問題は、常により多くの、より良いトレーニングデータが欲しいということです。現在のアプローチは、良い結果が出ているという理由で、できるだけ多くのデータを投入することです。
しかし、ある時点で合成データを作成するというボトルネックにぶつかり始めています。そこでの問題は、データにゴミが含まれてしまうということです。表面的には良く見えますが、そのような質の低いデータでトレーニングすると、情報密度が高いことに気付きます。
学術界や、チャットボットの話し方を学術的な書き方のモデルとして使用することについて、それはそのようには機能しないと思います。3、4本以上の論文を書いた人なら誰でも、最高の論文には声があることに気付くでしょう。
学術界に入ったばかりの人にとっては、それはあまり関係ないと感じます。主にそれを実験している人々、仕事を怠けるために使用している人々、または「発表か死か」という考え方によって不安を感じている人々に関係があると思います。
AIがなくても、低品質な内容がたくさん生産されていましたよね。人々は「助成金を正当化するために何か必要だ」と考えますが、それは本当の立場を取らない些細な進展に過ぎません。
問題は、ただ何かについての文書を提出しなければならない分野が多くあるということです。最近、いくつかの異なる案件で、企業にあれこれについての意見を作成してもらいましたが、誰も読まないであろう200ページの文書です。
しかし、特定の目的で政府に提出するものなので、重みがあり過ぎて、すぐに「これはナンセンスだ」とは言えないようなものです。学術論文もそのようなものになりかねません。何か良いものを見つけたので、それに付随する書類を作成しなければならないということです。
おそらく私は学術論文のファンではありません。1986年以来、一本も書いていません。
驚きですね。
それでも、私は多くのものを書いていて、私の書いたものはかなり読まれています。私が書く適度なブログ投稿は、すぐに数十万のビューを得ます。学術雑誌の記事なら、おそらく25の引用を得られれば幸運でしょう。
学術論文を見ると、ほとんどが本当に退屈で、些細な進展に過ぎません。私を苛立たせるのは、何か面白いことが起ころうとしている時に、突然論文が終わり、ほとんど自動化されたシステムから出てきたと分かっている大量の参考文献が続くことです。
また、1600年代に学術雑誌が最初に発明された頃の初期の学術論文は、私が書くブログ投稿のような、より会話的なものでした。1600年代後半の王立協会の議事録を見ると, この形式化されたスタイルよりも、そのような物語的なスタイルの方が人間とのコミュニケーションがはるかに容易です。
異なる分野で形式化のレベルは異なります。例えば特許を読む場合、特許は特定の方法で構成されているため、本当に読めません。
王立協会の論文は無料だったのでしょうか？皮肉っぽく聞こえないように気を付けますが。
無料ではなかったと思います。当時は印刷が高価でした。誰が...私は王立協会の会員が...実際のところ良い質問ですが、分かりません。
図書館で読むということを覚えていますね。研究のために特定の年の特定のジャーナルを探しに行かなければならなかった時のことを覚えています。実際に印刷されたものがそこにありました。
そうですね。
何か付け加えてもよろしいでしょうか？あなたが話していた飽和の話に関連して、面白い話があります。私はピアノを弾くのですが、先ほどバッハの子孫という冗談が出ましたが、実は私には直接の教師の系譜があります。遺伝的な系譜ではなく、私の教師の教師の教師の教師の教師がベートーヴェンだったのです。
私のピアノ教師は、その関係で西洋クラシック音楽の歴史について多くの研究を行い、ベートーヴェンの実際のノートや、時間の経過と共に彼の生徒たちがどうなったかについての資料にアクセスすることができました。
興味深いのは、西洋クラシック音楽は主にサロンコンサートで演奏されており、非常に形式張らないものだったということです。通常、招待された友人や家族のための演奏で、主な特徴は、ほとんどが何らかのテーマから即興で演奏されたということです。
そのように非形式的で、即興を前提としていました。1830年頃より前に書かれた西洋クラシック曲を見ると、少なくとも多少の即興を加えることが想定されていたと考えて良いでしょう。多くの有名な作曲家たちが、テーマから始めて、演奏のためにそれを繰り返し発展させていたという記録があります。
時間が経つにつれて、ある分野の偉大な人々から学ぼうとする時、彼らを台座に置くことで形式主義が発展しますが、その分野を驚くほど優雅にしていたもの、つまり聴衆に合わせて適応し、異なる方法で考え、新しい道を探究できるという特徴を失ってしまいます。
これが西洋クラシック音楽で起こったことであり、ここでも同じことが起こっているのかもしれません。
科学についての一つの試みとして、議論や実験をライブストリーミングするオープンサイエンスを行うようにしてきました。私は大量にそれを行ってきました。それは非常に興味深いダイナミクスです。学者たちがそれを行わないのは驚きです。
自分の研究生活をライブで送ろうとした学者を一人も知りません。先ほど気付いたかもしれませんが、私は自分の講演をZoomで記録し、過去20年間すべての研究の会話を記録してきました。これにより、アイデアがどのように発展したかのアーカイブが提供され、すべてがラベル付けされ、整理され、追跡可能になっています。
教授である私たちにとって、ライブ配信は問題ありませんが、学生たちにとっては少し不安になります。彼らは「自分が取り組んでいる研究アイデアを競合他社が見ることができる」と考えるからです。
私たちの会社についても同じことが言えますが、私はあまり気にしていません。
あなたはキャリアの異なる段階にいらっしゃいますからね。
まあ、私の会社はまだ会社ですし、私にはまだ終身在職権がありません。
自分を弁護する必要はありません。大丈夫ですよ。あなたがされていることを他の人々がもっと真似しようとしてくれたらと願うばかりです。あなたの仕事は非常にユニークなので、むしろ他の人々に真似てほしいと願うくらいです。
率直に言って、いくつかの分野には非常に高い参入障壁があります。参入障壁が低い分野もありますが、そこではアイデアの価値が少し高くなります。しかし、参入障壁が低い理由は、その研究があまり興味深くないからで、論文を読み終えた時点で行き詰まってしまうからです。
いくつかのことは、見た後では明らかですが、見る前にはそこまで至っていません。私が書いた多くの論文は、事後的には当たり前のことですが、その明確な思考に至るまでに長い時間がかかりました。見た後では、もちろん完全に理解できます。
書いてみるまでは、あまりに簡単に何かを却下したくないのです。科学と学術界は同じものではありません。それらは2つの異なるアイデアです。学術界は多くの面でプレスであり、非常に狭い分野で特定の証明書を得られるように設定されています。
そうすると、2+2=5と言う資格を得て、その狭い分野の人々だけがあなたに反論できるようになります。これによって安全が確保され、任意の方向に進むことができる恣意的なサブカルチャーを作ることができます。
多くの場合、科学者は不確実性の縁で働き、リスクを取るという科学への欲求に動機づけられた人々ではありません。進路指導カウンセラーが「あなたは方法論を適用する人として適している」と言った人々なのです。
私は、科学というものは自身の成功の犠牲者になっていると考えています。科学が小規模だった頃は、本当にそれをやりたい人だけがやっていました。でも、たくさんの人がそれを職業にできるようになると、必ずしも最も意欲的な人だけがやるわけではなくなります。科学者になるのは比較的簡単だからです。
反論させていただきたいのですが、他のことをするほうがずっと簡単です。科学者になるために必要な犠牲は膨大です。教授の給料は産業界の3分の1ですし、産業界では自分のやっていることが実際に役立つかどうかが求められます。
メディアラボで働くことが許された時期には、今おっしゃったような自由がありました。でもドイツのアカデミアではそういう経験はありませんでした。現在の資金調達に合わせて、もっと画一的でした。
また、多くの人々、特に定型発達の人々は集合意識の一部であり、その集合意識がコントロールする領域では独自の考えを持つ資格がないと感じているというモードがあります。政治的な考えに取り憑かれた誰かと話すとき、合理的な議論で意見を変えることは通常できません。なぜなら、もし意見を変えたら、すべての脅威に直面することになるからです。
多くの場合、雇用は特定の意見を持つことに依存しています。アカデミアの多くの分野でも同じようなことが起きています。ハーバード大学の学長になるためには、特定の意見を持つことが期待され、いかなる形でも期待に反してはいけません。
独立した考え方をする科学者という理想があります。探究に出かけて敵をつくり、それを打ち負かすというものです。でも実際には、自分の分野のルールに従うことが求められます。
スティーブンの軌跡を見ると、彼は根本的に集合意識を拒否し、自律的な代替案を構築しようとした人です。ある時点で統合できなくなり、独自の科学の一部を立ち上げました。それは今では十分大きくなって再統合され、また影響を与えるようになっています。でも、これは科学者としては非常に異例な道筋です。通常はうまくいきません。
正直なところ、私の場合は完全に成功した学者で、多くの人々からは統合された標準的な物理学の教授として見られていただけかもしれません。私が興味を持っていたトーピックは…私は幸運でした。キャリアの早い段階で、尊敬される終身在職権を持つところまで到達できたので…
あなたは絶対的な天才で異端児でしたよ。今でもそうですけど。
とにかく、私たちにはいろいろな手がありました。私はあなたの手を見ました。
そうですね、初期のアカデミアは現在のアカデミアとは異なるというこのトピックについて、しばらく考えていました。一方で、私は科学の自動化に興味があります。これは私たちが話した最初の部分、つまりAIが現在行っている学術プロセス全体を実行できるようになることにつながります。
でも、個人に基づくタイプの科学に関して言えば、寿命について話していて、私の仮説の1つは、実際には人が少なかった時の方が簡単だったということです。今日では、世紀の初めと比べてノーベル賞を取るのがずっと難しくなっています。ノーベル賞はありましたっけ?
いや、申し訳ない。ありましたよ。1901年からです。
そうですね。当時は今の4分の1の人口でした。そしてそれが集合意識の形成に寄与している可能性があると思います。
科学技術などの分野では、典型的なサイクルがあります。新しい方法論が発明され、その後5年、10年、あるいは20-25年の間、低いところにある果実を摘み取ることができる期間があります。分野は急速に進歩し、その後より多くの人々がその分野に入ってきて、分野は制度化され、その後100年間は緩やかな成長が続きます。
だからこそ、人々はしばしば「何も起きていない」と言うのです。彼らは既に確立された分野を見ているからです。そこでは巡航モードになっていて、端で起きている高成長の事柄に気づいていません。
起業家的な分野でも、新しい分野でも、人はそれほど多くありません。これは複雑なダイナミクスです。私は何度もそこにいました。科学のいくつかの新しい方向性を築き上げてきました。
最初の観察は、新しいことを始めて、その新しいことに多くの人が参入してきた時、20年待って、早期に参入した人々のうちどれくらいがまだそこにいるかを尋ねると、私の経験では通常半分がまだそこにいます。
半分は他の新しいことに移っていて、半分はキャリアのいろいろな段階で、出現し始めたものが自分の人生をかけて探していたものと共鳴し、それを見つけて永遠にそれを続ける人々でした。
若い分野でのダイナミクスは非常に興味深いです。人々は近隣の分野からやってきて「私は本当にこの今トレンドになっている分野をやっています」と言います。統計の一部が機械学習に最も近いところだった人でも、みんな機械学習をやっていると言うようなものです。
これが1つのダイナミクスです。もう1つのダイナミクスは、率直に言って、どんな状況でもフレーキーな人々です。彼らは常に端にいる人々です。
新しい分野を管理しようとする時、それをナビゲートしようとする時、それは複雑なダイナミクスです。別の分野からやってきて、あなたが発明しようとしている分野を本当にはやっていない人々とどの程度付き合うのか。明らかに少し変わったことをしているけれど、少なくとも新しい分野の概念を信じている人々とどの程度付き合うのか、などです。
科学に関して、制度化されて、十分大きくなって制度化され、高イノベーション期が終わるという、このビジネスについて…でも質問させてください。申し訳ありません、手が上がっているのを見ましたが、分野のパイオニアたちはしばしばかなり若かったです。20代から40代で仕事をしていました。創始者たちも、チューリングもケインズもそうでした。
私たちは先ほどリブートについて話しましたが、おそらく進歩するためには、実際にリブートして、若者による科学に戻る必要があるのでしょうか。
若者が革新的な科学をするという信念は単純に間違っています。私はある時点でこれを調べました。ブログ投稿にも書いたと思います。データがその主張を支持していないのです。
つまり、数学者を見ると、それは非常に典型的です。私はその主張が特にG.H.ハーディという数学者から来ていると思います。私は彼を知っている人々と話したことがありますが、彼は一種の憂鬱な人で、「数学者の弁明」という本を書きました。基本的に、25歳を過ぎると老いぼれで使い物にならないと言ったのですが、それは単に真実ではありません。
実際に人々が重要な仕事をした時期を見ると、しばしずっと後になっています。実際、真実の1つは、重要性が多くのものを統合することから来る分野があり、そのためには年をとって、より多くのことをする必要があるということです。
多くの話ができますが...私たちのほとんどは、人生で最大でも1つの考え方と1つの良いアイデアしか持っていません。あなたの考え方で入ってきて、すぐに低いところにある果実を見つけることができるかもしれません。
はい、でも...私は自然の選択...
そうです、しかし、考え方が即座に一致する場合もあれば、一致するものを見つけるのに時間がかかる場合もあります。科学における偉大なアイデアは若者によってなされるという主張は、実証的に間違っていると思います。
あなたが言っていた考え方についてもう少し掘り下げたいと思います。私は人間の脳を研究し、遺伝学を研究し、変異を研究しています。考え方と言う時、私たちは集合意識について話していますが、同時に私たちは遺伝的に互いに異なるようにプログラムされています。望むと望まざるとにかかわらず。
地球上に同じニューロンセットを持つ2人はいません。ニューロンがどのように発達するかのパラメータセットも、同じ発達プログラムも、同じ経験も持っていません。
そして、考え方を決定するものについての自然と相互作用があります。子供は何人いますか?
3人です。
私は4人います。あなたは?
子供を持つ前の親は遺伝を信じ、2人の子供を持つ親は遺伝を理解します。最初の子供を持つと「ああ、私にそっくり」と思います。2番目が来ると「全く違う!」となります。
それはそうですね。実験をきれいにできる方法があり...基本的に、チップは落ちるところに落ちます。何が起こるかある程度予測できますが、その予測を真剣に受け止めすぎると正しい答えは得られません。
私が常に見出すのは、これらの小さな計算システムは、常に予期しなかったことをする方法を見つけるということです。私の状態は、計算する動物は常に私たちより賢いということです。なぜなら、彼らは常に予期しなかった何かをする方法を見つけるからです。
その実験で何が起こるのか知りたいです。
はい、データと装置の洪水があるので、地球上のさまざまな生物の構造分子生物学の大量のデータがあります。基礎モデルがあり、それらは実際にその構造を本質的に理解し、私たちの分析に基づいて必ずしも見ることができないパターンを発見しようとすることができます。
病気を制御する方法を正確に理解することなく、病気の理論がなくても、それを理解する方法を見つけることは可能でしょうか?それが医学の大部分が必要とすることではないでしょうか?
医学の大部分は経験的に、これをすればこの病気を防げるということがわかったのです。医学のほとんどは理論的ではありません。人々が最初に薬を開発する時は理論を持っているかもしれませんが、通常最後には二重盲検臨床試験を行って、何が起こるかを見ます。誰も理論が何かを期待していません。
そこから飛躍するわけではありませんが、私は宗教的認知にも興味があります。魔術や科学哲学などにも。医学の多くは、私たちが科学者についてどこから始まったのかを話していましたが、宗教学者から始まりました。魔術から始まり、シャーマンから始まりました。
歴史を辿ってみても、あなたが言っていることがわかります。
そうですね。西洋医学にとって恥ずかしいことは、他の形態の医学も実際にある程度機能しているように見えることです。これは、システムが私たちが想像するよりもさらに複雑であることの一種の指標です。
私たちがコントロールできる純粋に化学的なプロセスは、全体の話ではないかもしれません。私にはわかりません。生物学と特に医学のこの特徴は、単純な仮説はほとんど正しくないということです。常に例外があり、例外の例外があります。
私の見方では、プラセボ効果は非常に驚くべきことです。プラセボ効果が存在するという事実は驚くべきことです。基本的に、私たちの脳、私たちの心が私たちの...に影響を与える能力を多く持っているということです。
他の誰よりも自分自身を洗脳できるということには疑問の余地がありません。それは問題外です。でも、生物学の一部は常に想像以上に複雑だということです。
脳から腸に神経が行っていると思うかもしれませんが、逆方向のセンサーなどもあることがわかります。そして両方向に神経繊維が行き来していて、感覚入力を得ているだけではないということがわかります。コミュニケーションは私が予想していた以上にあるのです。
例えば、神経学的なことに対する腸内細菌叢の重要性は、ある意味では全く奇妙ですが、システム全体にメカニズムがあります。私が示した写真のように、神経と腸の軸があり、メカニズム的な基盤があります。
プラセボ効果に注目する理由は、それらの伝統的な薬は単に治っていると感じさせ、実際に治るからです。
それに対して反応させてください。以前おっしゃっていた自閉症が層状になっているか、モデル内で重なり合っているかもしれないというアイデアに関連します。プラセボ効果について話すなら、おそらくプラセボ効果はそれらのような接続の活用です。
私が特定の音楽に合わせて踊る時、それは特定の常同行動に似ています。そこには見つけられる可能性のある普遍的な要因があるということです。
反対方向の方が理解しやすいです。ストレスを感じると病気になりやすいということは、みんな同意できます。でも逆、つまり「ストレスが少なくなった」と単純に考えることで、生理学が否定的な考えの影響を受けないということは、より理解が難しいです。音楽もそうかもしれません。
また、以前おっしゃったことにも反応したいのですが、非常に長い質問と議論の後、あなたのお気に入りの学生の何人かに説得されました。コンピュータサイエンスの論文の90%以上が間違っているということです。社会科学ではなく、コンピュータサイエンスです。
コンピュータサイエンスはほとんどが純粋な数学で、真か偽かです。たぶんほぼ、わからない、というのではありません。オペレーティングシステムがこれを行うことになっているとして、実際にそれを行うかどうかです。
正と間違いを区別したいと思います。つまり、99.9%正しくないものが間違っているのか、完全に間違っているのか、その線引きはどこにあるのかということです。
産業界ではその線は非常に明確です。機能して人々が購入して支払うか、機能しないかです。「データセット選択」という風刺論文があり、基本的に適切なデータセットを選択することで方法を改善できることを示しました。実は、すべての論文がそうしているのです。
コンピュータサイエンスの論文に経験的な結果があるとすぐに、何を持っているかについて大きなバイアスがあります。それらの分野でいくつかの進歩が見られたのは、分野全体が集まってベンチマークとすべてが使用しなければならないデータセットに合意した時だけです。そこで実際の進歩が見られます。データセットとベンチマークが標準化されるまでは、本当に無法地帯です。
論文の著者にとって有用なチェリーピッキングもある程度あります。なぜなら、興味深い例を示さなければ、数千の例の中に埋もれてしまうからです。
エリック・シュミットのインタビューを見ていたのですが、AIについて今後5年間は、AIのスタートアップが病院に行ってデータを収集し、AIモデルを訓練し、そのモデルをその病院や医師に売り戻して、何らかの医療機能を実行するだろうと述べています。これについてどう思いますか?今後5年間でAIをどのように見ていますか?
ちなみに、AIの使用方法についてのそのモデルは、1980年代の人々がAIがどのように機能すると考えていたモデルと奇妙なほど似ています。当時はエキスパートシステムと呼ばれるものがあり、基本的にはエキスパートにインタビューして、エキスパートが行うことをコンピュータ上のルールの集まりとして指定し、その後はエキスパートが必要なくなるという考え方でした。
しかし、私は言わなければなりませんが、例えば現在のLLMについて、私たちが持っているものは基本的にそのままだと思います。いくつかの段階的な改善があり、改善のための明確な方向性はいくつか見えますが、疑問です。
機械学習の歴史を見ると、段階を経て進んできました。2011年に1つ、2022年に1つというように。人々はChatGPTという1つのデータポイントを持っていて、それは大きな成功でした。そして、そのデータポイントから外挿して、ここに行き、ここに行き、続いていくと考えます。
私はそうはならないと思います。主に起きているのは、ある方法論があり、それを有用な場所で活用する問題だということです。何かの正確な計算をしたい場合、ChatGPTを使おうとしてはいけません。機能しません。代わりに、実際に計算を行う私たちのWolframのスタックなどを使用すべきです。
でも、80%正解ならば大きな勝利となるような大まかな判断をしたい場合は、AIシステムを使用する価値があります。今起きているのは、これらのものがうまく適合する使用例が発見され、人々はそれらで非常に成功するだろうということです。
しかし、それが何かが全てを引き継ぐという考えは...ここでどんな意見があるかわかりませんが、最近シリコンバレーにいた時の私の印象では、約5%の人々が真の信者でした。ニューラルネットに十分なデータを入力すれば、全てを解決するだろうと考えていました。15-20%は懐疑的でした。
ここで視点を加えたいのですが、人間は直感的な方法で考え、ChatGPTもそれができますが、人間は20年間学校で機械のようにフローチャートやステップなどで考えることを学びます。機械はそれが得意でしたが、LLMはそうではありません。LLMはより直感的な思考です。
非常に創造的な人間について考える時、時にはその2つを組み合わせる能力、つまりステップバイステップの思考を持ち、エキスパートシステムのようにすべてのルールを適用しながら、同時にこれらの奇妙なつながりを作る能力です。
エキスパートシステムの時代があり、グラフィカル表現の時代があり、それはまだ続いています。LLMの直感的な思考とそれを組み合わせることは、おそらく十分に正しい力を持っています。
誰もLLMだけになると信じているとは思いません。OpenAIの一部の人々は、スケーリングは機能し、スケーリングは機能しないと言った人々は今、顔に卵を付けていると言うでしょう。さらにスケールアップすれば、すべての問題は消えるでしょう。これまでのところ、それは有効な戦略であり、機能しなくなるまでおそらく続くでしょう。
スティーブン、普遍性仮説についてどう思いますか?これはクリス・オラーが説明可能性の文脈で提案したもので、異なるビジョンネットワークが同じ特徴を持ち、大まかに同じ構造を持つという興味深い観察を見ました。これはトミー・ポッジオの大学院生が発見したように、人間の視覚皮質とも比較可能です。
この普遍性は基本的に、十分に良い学習システムがあり、特定の入力と出力のセットで訓練すると、使用している特定のアーキテクチャに関係なく、大まかに同じ構造、同じ特徴、同じモデルアーキテクチャになるということです。
十分に大きなTransformerや回帰型ニューラルネットワークを取り、入力と出力で訓練すると、その中で目覚めるのでしょうか?それとも根本的に欠けているものがあるのでしょうか?進化的な時間span人間であることからシステムと異なるものがあるのでしょうか?
世界に存在する特徴が、十分に強く押し付ければ普遍的に見つかるという考えは、私には非常にもっともらしく聞こえます。見てください、最近私が機械学習についてこれらの小さな実験をしていた時の私の現在の理解では、機械学習のこれらの最小モデルを見つけようとしていました。
これは典型的な状況です。最初に見ていたのは、ニューロンのグリッドを持つニューラルネットで、各セルは2つの可能な関数のうちの1つしか持たない場合です。そして、特定の訓練シーケンスを訓練できるかどうか尋ねることができます。この特定の場合、50ステップ進むというかなり些細なことを訓練しました。
複数回訓練を実行してみると、時には機械的に説明可能な種類の振る舞いが得られます。多くの場合、正しい結果を与える複雑なものが得られます。これを実際にNANDで行うこともできます。ここには写真がありませんが、NANDとXORの配列だけで、突然変異によって何でも訓練できます。
ブール微分でバックプロパゲーションも行う方法を見つけましたが、ブール微分でバックプロパゲーションを行っても、前向きの突然変異を行うよりもあまり利点はないことがわかりました。無限微分可能で全ての微積分バックプロパゲーションを行う場合とは異なります。
私の現在の考えでは、機械学習、おそらく神経科学で主に起きているのは、これらの小さな計算の塊、これらの奇妙な形をした計算の塊があり、機械学習のプロセスがこれらの岩をどのように組み合わせて石垣を作るかを理解するということです。
言い換えれば、私たちが行いたいことは達成可能で、計算宇宙で利用可能な計算の塊がうまく組み合わさるということです。なぜそうなのかというと、おそらくそれらの方法を使って私たちができたことだからです。それが私たちが世界を経験する方法であり、私たちの周りに構築する世界は私たちにとって機能するものです。
私も質問に取り組ませていただきたいと思います。言語については先ほど言及したように、これは私たちのように考える人々の間のコミュニケーションの構築物であり、したがって、それが簡単に可能で、同じような計算構造を持っているため、同じような解決策に到達するのは予想外ではありません。
しかし画像については少し異なります。私たちは完全に人工的な設定にいます。私たちはこれを自分たちの種類の視覚にうまく適合するように構築しました。みんな原色を着ています。私は何かを青や赤や緑と呼ぶことができます。
私たちは子供たちに原色を認識することを教えることにとても多くの時間を費やしているので、最終的に彼らはどこにでも原色を見るようになります。その年齢層のために原色で物事を構築し、より複雑な世界を見るようになるまでそれは続きます。
多くの点で、自己成就的な予言のようなものがあると感じます。でも実際の世界に出て、野生の自然や動物や風景などを見ると、これらは何百万年もの間私たちが進化してきたものです。だから、また良い近似があります。
私たちが設計したアルゴリズムがこれらのものに到達し、なぜ同じものに到達するのかについて、私の理論は、私たちには解決すべき問題があり、それを解決するのが得意だったので、自然界で解決する必要のあるものに適した種類のアーキテクチャに適合するように機械にバイアスをかけたということです。
これは偶然ではありません。私は問題と問題解決者の間の共進化という進化的なレンズを通してすべてを見ています。脳のアーキテクチャが自然界に適合しなかった動物たちは消え去り、生き残ったのは自然界を簡単に解釈できる部分集合です。
私たちが進化させたこれらの機械が、そのような種類のアーキテクチャに収束する理由については、人間の脳の地図をモデル化し、機能しないものをたくさん試して、最終的に機能したものがこれらの種類の似たアーキテクチャを持っていたからかもしれません。
多くの異なるアーキテクチャが収束する理由については、おそらくそれほど異なっていないのかもしれません。先ほど話していた、小さな重みの調整が収束している種類のものかもしれません。
計算は一種の強力な力で、チューリングマシンやvマシンなどが等価であることは知っています。私が行ってきた多くの研究は、より広範な計算システムが等価であることを示しています。
最終的に、計算システムで行えること、学習できることは、ニューロンを持っているかどうかはあまり関係ないというのが私の推測です。最近私が離散システムで行っていた機械学習のような、離散的なシステムでの機械学習、それは問題なく機能します。
それらはニューラルネットではなく、連続的な重みを持っておらず、これらすべての接続を持っていません。でも十分に強く押せば、まだ何かを学習します。
ニューラルネットが視覚画像において、私たちと同じように猫と犬の区別をする理由は、そのアーキテクチャが私たちのものと似ているからだと思います。しかし、私はまだ完全には内面化していません。
機械学習が問題を解決する方法が、画面上のこれらの画像のように複雑であるという事実を。機械学習が正しい解決策を見つけるわけではなく、機能する解決策を見つけ、それは一種の還元不可能な複雑な計算を含むものですが、それは正しい形をした岩として、望むものを構築できる十分に正確なものとなっています。
私にはまだ、それが何を意味するのか、直感は完全には定まっていません。
モデルが作成する抽象化の種類について質問があります。それは私たちが物事を抽象化する方法とどれほど異なるのでしょうか?最初の質問は、それは抽象化を学習するのかということです。2番目の質問は、それは私たちの抽象化の理解とは異なるのでしょうか?
見てください、良い例はLLMがどのように論理を学習するかです。私たちは確実には知りませんが、アリストテレスが論理を学んだのと同じ方法で学習すると強く推測できます。
つまり、私たちが論理的に正しいと考える特定の形式を持つ文章の集まりを見て、生成する文章は、論理的に正しかったこれらの文章をモデルにするということです。
彼らは論理の抽象化を学んだと言えるかもしれません。あるいは、これらの文章のパターンを見て、生成する他の文章に同じパターンを適用しているだけだと言えるかもしれません。でも、論理の本質を抽出できるでしょうか?
私たちは確実にそれをする方法を知りません。内部アーキテクチャがあり、何らかの方法で論理を見つけることができるというヨシュアの基本的な主張は...これらの画像は、論理を見つけることができることを示唆していません。
それらは、物事が論理のパターンに従うことができることを示唆していますが、LLMの論理回路だと言えるような抽出物はないということです。
LLMは、テキストをできるだけ忠実に再現するよう求められているため、見つける他のすべてのものの中で偶然的に論理を見つけているのだと思います。一般化は後付けのようなものです。
一方、私たちは非常に限られたリソースしか持っていないため、次の単語を正確に予測することができるのではなく、テキストの要点を把握することに焦点を当てざるを得ません。
あなたの答えはスペクトル上にあります。マンは生得論的な立場を取っていて、基本的に私たちが進化してきた特定の方法があり、それを模倣することで似たようなものになるということです。私たちの知覚は進化の偶然に依存しています。
もう1つの視点として、利用可能なリソース範囲で現実をモデル化できる最適な計算演算子のセットがあると言えます。
私はこの生得論的な立場に反対して、さらに極端な立場を取りたいと思います。知覚するのに脳は必要ありません。植物は学習でき、植物は互いにコミュニケーションを取ることができます。ただ、脳よりもずっと遅いだけです。
脳で見られるのは、計算をできるだけ高速にするための非常に特殊な最適化です。持っている最適化のように、脳の特定の部分を切除することができます。まだ生きていけます。まだ質量を持つことができます。時々壁にぶつかるだけです。でも深刻なことではありません。
これは、筋肉を持つ生物学的有機体が可能な限り速く移動したい特定の狭い状況で、より効率的になることを可能にする脳の最適化です。しかし、本当にそれは最適化にすぎません。
GPUやCPUを持っているかどうかは気にしません。両方とも同じことができます。細胞はメッセージキャスティングができます。これらはチューリングマシンなので、十分な数があれば何でもできます。ただ、これをできるだけ速くしたい場合、非常に特殊な専用アーキテクチャで終わります。
脳で見られる多くのものは、おそらく現代の現実の非常に複雑で狭い数学を見つける答えではありません。これらの原理は非常に一般的な学習です。それらは特定の種類の生物のための最適化問題への答えにすぎません。
メタ的な質問があります。ここに入ってきた時、皆さんはコードを書いて物事を起こそうとしていると思っていましたが、それはいつになるのでしょうか?
彼らは取り組んでいます。もし皆さんが実際にそれをしたいのなら、興味深いと思われるものについてのコードを見るのも面白いかもしれません。私は何でも見たいと思います。
質問したいのですが、ジャーナルのメカニズムの変化について話題に上がりましたが、ブログや生きた科学が、最先端の科学が起こる場所としてジャーナルに取って代わったと思いますか?そしてそれを加速させるために何ができるでしょうか?
良い質問です。アカデミアの制度システムは、まだ大きくジャーナルに基づいていますが、多くのフロンティア領域で起きていることについては、もっとブログで伝えられるようなものがたくさんあります。
機械学習にはそのような種類のものがたくさんあります。私もそれを行ってきました。生物学の基礎や生命の起源などについての会議から来たばかりですが、そこでも標準的なアカデミックタイプの人々もいれば、非常に興味深い仕事をしているけれど、世界にもう少し複雑な形で組み込まれている人々もいます。
それらの種類のことの周りに制度化されたアカデミックな構造がないからです。そして彼らは、制度化された学術誌よりも従来とは異なる方法で発表していると確信しています。
私が書こうとするこの、どの写真をクリックしてもそれを生成するコードが得られるというのは、非常に有用です。この22年間、毎年サマースクールを開催していて、そこや世界中の人々が私がやったことを利用し、写真をクリックしてコードを取得し、それを基に構築することができます。
論文を見ると、私の論文のようなクールなグラフィックスがたくさんあります。なぜでしょうか?なぜなら、そこからコードを取得したからです。これは望ましいことです。一からやり直して、より悪い仕事をし、インフラを構築することに労力の4分の3を費やす必要がないからです。
私は基本的に40年間、計算ジャーナルを提唱してきましたが、それは面白いことです。標準的な出版社のリーダーシップと関わってきましたが、出版社のほとんどにとって、そのようなことをすることは彼らの利益に完全に反します。
私が指摘したように、彼らはまだそれを理解していませんが、1つの専門家協会が実際に何かをしようとしているように見えます。どうなるか見てみましょう。
昔、私が始めた頃、論文を書いて、人々はタイプ原稿を届けていました。ジャーナルは多くの作業を行わなければなりませんでした。植字をし、コピー編集をしなければなりませんでした。ジャーナルが行ったことには高い価値がありました。印刷版はタイプ原稿よりもずっと見栄えが良かったからです。
その後、人々がカメラレディコピーを作成し、電子版を作成できるようになると、彼らは怠惰になりました。今では、彼らが作業を行う理由があります。論文の背後にコードがあるべきだとすれば、問題はそのコードが実際に機能するかどうかです。
コードを実際に機能させ、機能し続けることは些細なことではありません。品質保証の仕事をし、繰り返し回帰テストを行わなければなりません。しかし、そこには本当の価値があります。
おそらく機能しないコードを持つこの論文を取得するか、どの写真でも人が行ったことを再現できるこの他の論文を取得するか、人々は選ぶことができます。それは、人が行ったことを実際に活用できる出版媒体を選ぶ理由です。
残念ながら、出版の商業的なダイナミクスは、基本的にアカデミアやその他のものを運営することに全く興味のない人々が決定を下しているというものです。大手出版社の株主は、単にそれに興味がありません。
なぜ私たちはジャーナルについて話しているのか疑問に思います。もしインセンティブメカニズムについて考えるなら...この部屋で話したアイデアに基づきたいと思います。
産業界と比べて給与水準が低いという話をしましたが、私はそれに異議を唱えます。一部の分野ではその通りかもしれませんが、そうでない分野もたくさんあります。
はい、物理学などでは...私の学生やポスドクは非常に高い給料のオファーを受けています。
バイオテクでは、PhDを取得してラボテクニシャンになる人は...私のポスドクは、私が彼らに支払う3倍、4倍の給料のオファーを受けています。
驚きません。
興味深いアイデアを見つけられます。例えばヒポクラテスの理論です。体液理論で、彼によれば人間の病気は4つの要素の不均衡によって引き起こされるとされています...
聖書を素晴らしい方法で再解釈することができます。これらのギリシャの理論をすべて素晴らしい方法で再解釈することができます。確かに、それは素晴らしい再解釈ですが、メカニズム的には根本的に間違っています。
申し訳ありません、答えを...
はい、現代医学でその側面を解釈することはできますが、メカニズム的にこれらの体液は存在しません。単純に存在しないのです。もちろん、循環系があり、リンパ系があり、クリーナーメカニズムとしてのGFAシステムがあり、あらゆる種類のものがあります。
私は、古代の人々が持っていたさまざまな直感を見るのは興味深いと思います。メカニズムは正しくなかったのです。世界が同一の原子からできているという考えは正しかったのですが、彼らが考えていたような大きさの形ではありませんでした。
彼らはそれらが四面体などの形をしていると言いましたが、それは事実ではないことが判明しました。しかし、時々現代科学では、人々が非常に技術的な考え方に固執して、実際に何が起きているのかについてのより深いポイントを見逃すことがあるのは興味深いことです。
同意します。美しい思考方法、思考の明晰さ、エレガントさ、三段論法、すべてが非常に美しく優雅です。基本的なツールは...アリストテレスは、物が落ちるのは中心に近づきたがるからだと信じていました。
ニュートンは重力というものが存在すると信じました。アインシュタインは「いいえ、それは単に空間の湾曲です」と私たちに教えました。それはそれで良いのですが、つまり、物が落ちるのが好きというモデルは、ある程度まで機能します。彼らは持っていたツールで驚くほどよくやり、私たちは彼らの非凡な労力の上に構築しています。
面白いのは、当時持っていた直感の一部です。私の最近のお気に入りの用語の1つは、宇宙は離散的なものでできているという考えです。これは古代の理論の1つでした。連続的か離散的かということは、何世紀にもわたって激しく議論されました。
19世紀末に物質は離散的であることが明らかになり、その後まもなく光も離散的と考えることができることがわかりました。20世紀初頭、ほとんどの人々は空間も離散的だと考えていました。彼らはそれを機能させることができませんでした。
最近の私自身の努力により、空間は本当に離散的であることが明らかになってきました。うまくいけば、それを検証する実験データが得られるでしょう。2000年前からその直感が存在したのに、20世紀の多くの物理学者にとって、空間が離散的だというのは考えられないことでした。
それは多様体によって記述され、連続的な座標を持っているというのです。私はそれが間違っていると確信しています。これらのことがどのように終わるのか見るのは興味深いです。以前の直感は非常に良かったのです。
私のお気に入りの例は、古代から宗教などにあった魂の存在についての直感です。私のような若い頃の非常に科学指向の人々は「それは愚かな考えだ」と思いました。魂のような物をどのように記述できるのか?魂の質量は何か?質量を持たない物がどのように存在できるのか?
しかし、計算を理解するにつれて、心について、それが単なる脳の生物学的な部分ではないという考えが間違っていないことに気づきます。心から抽象化できる何かが存在し、それはある意味で永遠です。それは質量を持ちません。それは純粋に抽象的です。
その直感が存在し、神学の発展全体を通じて存在したことは興味深いことです。それを科学的な物理学的な方法で理解しようとすると、それはあり得ないように思えました。しかし、実際には間違っていたのです。計算についてのより高いレベルの思考を理解すると、その直感は正しかったことがわかります。
説明していただけますか?超自然的なものの存在について科学的な証明や科学的な推論があるように聞こえます。
想像してください。あなたは脳を持っています。人間の行動を記述するための計算的な近似として考えていますか?
いいえ、それ以上のことです。あなたの思考プロセスを表現するものは何でしょうか?あなたの思考プロセスを抽象化できると想像できますか?魂について、つまり自我、自己について話しているのですか?
いいえ、私は単に、思考の過程が心にとって本質的なものであり、それが物理的な実現とは関係ないということを想像することが、今では完全にもっともらしいということを話しています。最近私に連絡してきたスタートアップは、脳全体のシミュレーションを行うと言っています。
思考の過程が物理的な...これらすべてのものと本当に関係ないということは、今では完全にもっともらしいです。
量子について考えているのですか?
いいえ、いいえ、彼はあなたの生物の細胞で動作する制御ソフトウェアについて話しています。それは一群の細胞を生物に変えるものです。私は、あなたの脳のニューロン過程に物理的に実装されることをいつやめるのかと疑問に思っています。
物理的に実装されると言いましたね?メカニズムがソフトウェアを実装しています。魂も物理学によって実装されています。
アリストテレスもそう考えましたが、運転手と車のアナロジーがあります。基本的に...それはアナロジーではありません。ソフトウェアは実際に存在します。
しかし、あなたが言うように、ソフトウェアは実行するために具体化される必要があります。メカニズムを通じて実装される必要があります。しかし、これらのメカニズムの多くは、そもそもソフトウェアがなければ存在しないでしょう。
それも事実ですが、主なポイントは、ソフトウェアをハードウェアから抽象化できるということです。だから、心のソフトウェアを抽象化できます。
計算的な抽象化としてですが、あなたの心の中では、ソフトウェアも魂なのですか?あるいはあなたの脳のソフトウェアですか?それは抽象化ではありません。
それは抽象化ではなく、不変量です。それは...現実から取り除くと機能しなくなるものです。基本的に、コンピュータからソフトウェアを削除すると、コンピュータは...
魂の永遠性について話せますか?基本的に、あなたが死んだ時、魂はどこに行くのでしょうか?
それは単なる誤解です。あなたが生まれる前に作られたソフトウェアはいつ...ソフトウェアは抽象的なものです。そのソフトウェアを取って、異なるコンピュータで実行することを想像できます。
同様に、将来の脳内の各ニューロンを読み取ることに成功した世界では、脳の生物学的な詳細とは独立した、あなたの心の本質を取り出すことを想像できます。
あなたはソフトウェアです。あなたは物理的なシステムではありません。あなたは物理システムの中の表現です。
あなたは永遠に存在します。待ってください、あなたは永遠に存在します。あなたの存在の条件が物理的な宇宙で満たされている限り...だから、もし誰かがあなたの原子の同じ配置を持つクローン、または機能的に同等なものを作れば、あなたはそれに目覚めるでしょう。
特定の状態にあるコンピュータがあれば、その状態に含まれる特定のソフトウェアがそのコンピュータで動作するのと同じように、あなたはあなたの存在の条件が満たされるところならどこにでも存在します。
しかし、それは抽象化ではありません。比喩ではありません。実際に起こることです。
それをダウンロードする方法は何ですか?私が...ネオのように...もし私が機械に転送できたら...
あなたは別の基盤で実行する方法を見つける必要があります。おそらくできないでしょう。なぜなら、ニューロンでの実行方法しか知らないからです。
私の中にオーラのような実体があって、もし私が...
あなたは異なる基盤上で自分を仮想化する方法を見つける必要があります。つまり、脳で実行されているのか、体で実行されているのか、GPUで実行されているのかを気にしない種類の抽象化層が必要です。現在、私たちはそれを構築することができません。
ロジャー・ペンローズを知っていますか?2014年に...2014年に彼は、私たちの脳が量子コンピュータのように機能するという仮説を発表しました...私は彼をモデル化しましたが、最近の論文が微小管の存在を証明することで彼の仮説を...
ああ、神様。私はこの話の起源を、1980年代初頭から見てきました。1983年に私がこの会議を開催した時が、この微小管の話が出てきた最初の時だと思います。しかし、それは脇道です。
LLMなどから学ぶことの1つは、人間の脳のようなことを行うのは、私たちが考えていたほど難しくないということです。長い間、人々は心を作るために新しい物理学が必要だと想像していました。私はそれが間違っていると確信しています。
ロジャー・ペンローズはまだ、心を作るために既存の物理学を超えた何かが必要だという、ほとんどスピリチュアルな希望を持ち続けています。それは非常にスピリチュアリスティックな考えですが、私はそれが正しくないと思います。
いくつかの単純な質問をしてもいいですか?基本的に、人間は異なるのでしょうか?言い換えれば、カタツムリに魂があると考えますか?
基本的に、生きているものすべてが魂を持っているということですか?バクテリアも魂を持っているのですか?
はい、しかし魂は残念ながら、科学的な文脈では使用できない用語です。なぜなら、私たちは本当にそれが何を意味するのか知らないからです。
私は、カタツムリの上で動作している自己組織化するソフトウェアがあり、それがカタツムリをカタツムリにしていると言うでしょう。そのソフトウェアが壊れると、カタツムリは崩壊することが分かります。それは客観的な事実です。
魂は単に、過去の人々が自然界の自己組織化するソフトウェアを記述するために使用した古い言葉です。彼らにはソフトウェアが何であるかを話す言語がありませんでした。数学が自己組織化を表現する方法を話す方法がありませんでした。
言語がない...いいえ、それはもっと具体的です。これは、基本的に20世紀半ばの考えである計算という考えの前には、物理的なメカニズムではない心についての考え方を想像する方法がなかったということです。
あなたが言っているのは、人間の魂とバクテリアの魂は、単に異なる実装をしているということですか?基本的に...
私が言っていたポイントは定義についてではありません。私が言っていたポイントは、心について、人間とその心について、それが単に...それが彼らの脳の詳細に結びついているだけではない何かがあるという長い神学的な伝統があったことが興味深いということです。
心から抽象化できる何かがあるということです。それが私が言っていた唯一のポイントでした。
そこに考えを加えてもいいですか? 脳を開くと、「A P P L E」という文字は書かれていません。「リンゴ」という単語が脳にどのように保存されているのか、私たちには測定する方法がありません...
そうですね、でも脳内でリンゴがどのように表現されているかについての現在の神経科学理論があります。それは海馬によって調整される、複数のニューロンの集合であるエングラムです。脳の複数の皮質下領域によって調整され、基本的に複数のニューロンが同時に発火し、味覚要素、色彩要素、言語要素などを持つリンゴのマルチモーダルな表現を持っています。
私たちがまだ理解していないからといって、それが魔法だとは思いません。
いいえ、でもそれが「魂」という言葉が、そのような知識を持っていなかった人々にとって表していたものだと思います。
主なポイントは、彼らが気付いたのは、心が行うことについて抽象的な何かがあるということです。
それは大好きです。完全に同意します。でも私にとって、それは計算的な構造です。不滅なものではありません。それは表現する方法です。2+2=4のように...
いいえ、でも抽象的な種類の形式的なものは、ある意味で不滅です。ガイヤーを手に取るようなものです。
だから、私たちはアイデアであり、アイデアは不滅だと言っているのですか?
活動的なアイデア、計算です。静的ではありません。
完全に同意します。アンドス、あなたは同意しますか?
何について?あなたは明らかに非常に...自己についての概念と...おそらくシミュレーション仮説を支持していますね?
いいえ、私は自分の脳が生成するシミュレーションの中に住んでいます。その意味では、はい。でも典型的に人々が言うような、物理的な実体を崩壊させる計算機能のようなものはありません。
私の見方では二元性があります。マトリックスのように、私たちはどこか他の場所に住んでいて、魂が死ねば体も死ぬというわけではありません。魂が死ぬためには...
脳に何か問題がなければなりません。起きているのは、あなたの体はハウスキーピングが完璧ではないので、時間とともにエラーが蓄積していきます。あなたの細胞とあなたの体で動作しているソフトウェアは、エラーの訂正が非常に得意です。
ある時点で、エラーが蓄積して、このエラー訂正が失敗し、ソフトウェアが取り返しのつかない形で壊れます。それが死と呼ばれるものです。米国の民主主義のようなものです。
システム上で動作しているソフトウェアであり、ある時点で接続を失いますが、自信を持って切断すれば...
例えば、ダライ・ラマは事実上不死身です。彼と話をして、彼がとても落ち着いているのは、彼が人間として自己同一視していないからだと気付いた時、私にとって大きな洞察でした。
彼は人間ではありません。彼は次のラマに設置できる不変の部分です。彼は...彼は政府の機関として自己同一視していて、この政府機関は適切な子供を選んで教化することで再生産します。
わかりました、ありがとうございます。それは素晴らしい例でした。これで理解できました。
だからダライ・ラマは不死身になれます。なぜなら、ダライ・ラマは彼の一時的な部分と同一視していないからです。
私の自己が単なるランダムな人で、再出現するのであれば、私は完全に...
ランダムではありません。それはアイデンティティです。基本的に彼は連続しています。前世で書いた日記を読むことで、前世について学ぶことができます。それには魔法的なものは何もありません。
だから基本的に、私は自分が不死身だと考えるように自分を再プログラムできる...
はい、それはできるでしょう。私たちのような...あなたの研究をたくさん記録していることに興味があります。私も自分がやっていることを十分記録しているので、私を再起動することは...
そんなに難しくないですね。
正確にそういう意味です...
記録について話すと、申し訳ありませんが皆さん、終わりにしますか、もう少し続けますか?あなた次第です。
哲学の話になってしまいましたね。ただ、本当にありがとうございました...そろそろ 20年経ちます...