「ChatGPTは私のセラピストよりも優れている」 - (Redditユーザー)

※長文のため、テキストの読み上げ機能の使用を想定しております。各OS標準搭載のアクセシビリティ機能(読み上げコンテンツ)、もしくはMicrosoft Edgeブラウザの「音声で読み上げる」機能をおすすめします。

AIシステムは人々の考えを変えるべきでしょうか。AIシステムは自らの考えを変えるべきでしょうか。後者はより難しい問題ですが、真剣に取り組む価値があります。OpenAIは最近、彼らの核となる原則を示したモデル仕様書を発表しました。私の記憶が正しければ、原則5は「人々の考えを変えるな」というものでした。彼らはそれを核心的な原則として真っ向から主張しています。Anthropicもこのことについて多く語っています。「人々の考えを変えるな」が非常に重要な原則だと。
しかし、それがすべての人に当てはまるわけではありませんよね。例えば、セラピーについて考えてみると、人々の考えを変えることが非常に根本的なものです。セラピーの最も重要な側面は、人々の心に神経可塑性という考え方を植え付けることです。私は、人々の自律性、有能感、関係性の感覚を高めるために、人々の考えを変えたいと思います。人々がより主体的に、未来とより結びつき、価値観とより結びつくように感じてほしいのです。
しかし、「私の知性は私のアイデンティティの核心であり、その知性を非常に大切にしているのに、それが価値を失うかもしれない」という考えのプロセスがあります。例えば、「私は一生懸命働いていて、家族と過ごす時間はあまりないけれど、世界を変えているから価値があるんだ」と人々に言っているのに、AIが来てあなたの仕事をもっと上手くこなせるかもしれないという考えが浮かぶのです。
大規模言語モデルを使って質問に対する暗黙の推論を改善する一つの方法は、検索機能付き生成を使用してBrave検索APIを利用することです。これは独立した手頃な価格の検索ソリューションで、情報検索をはるかに効率的にしています。ゼロから構築されたBraveのインデックスは、200億以上のウェブページをカバーしており、大手テクノロジー企業に関連する偏見からも解放されています。
Braveを特に際立たせているのは、データ収集に対するユニークなアプローチです。Braveは、開発者に優しい価格でこの強力なツールを提供しており、ビジネスの成長に合わせて拡張可能です。そのため、あらゆる規模のプロジェクトにとってアクセスしやすいオプションとなっています。Brave検索APIの利点を直接体験することをお勧めします。brave.com/sl/apiにアクセスすれば、毎月2,000件の無料クエリから始めることができます。
人間にはセラピーという概念があるのは少し奇妙ではありませんか。自分の感じていることを信じるべきではなく、自分の経験を再解釈する必要があるという考え方は奇妙です。はい、それは非常に悲観的な見方です。楽観的な見方としては、私たちは多くの人が不安やうつに悩む奇妙な社会に住んでいて、セロトニン理論が理にかなっていると考えるでしょう。脳に何か問題があるので、薬で解決できるはずだと。しかし、実際には理解できないのは、セラピーと呼ばれる実際のカテゴリーが存在し、人々を助け、薬よりも効果的であることがあるという事実です。そう、完全に楽観的で自己決定的な人々が、自分の主体性について考え、セラピーを受けることを選択し、それが実際に役立つのです。
はい、そうですね。しかし20%のケースでは悪化することもあります。ある割合のケースでは悪化します。これは部分的に、セラピストの数が増えていることが原因だと思います。より多くの人々がアクセスを求めているからです。参入障壁を下げていますが、もちろん何かを行うときには...私は、否定的な側面を指摘することの要点は、実際の医療があれば、何かが本当に効果があれば、リスクもあるということだと思います。明らかに、腫瘍を取り除くために人の体を切開すれば、体を開いたことで死亡することもあります。
はい、そして私が言う意味は、介入という観点から効果がある物事は、悪い効果も持ち得るということです。はい、しかし肯定的な側面も考慮すべきです。つまり、私たちがリスクを冒すことをいとわないのは、それに利益があるからです。ところで、私はAbigail Shrierの本を読んでいました。彼女はトランスの少女たちについての本も以前に書いていましたね。私は彼女の主張は基本的に、私たちが問題を病理化している、つまり問題を発明して、人々に問題があると言っているのだと思います。実際には、彼女はそれに同意しないと思います。それはもっと複雑で、社会的に受け入れられる方法で苦痛を経験するということだと思います。苦痛は実在します。誰も作り話をしているとは思いません。今日自殺する人や家に引きこもる人々が、ショーを演じているとは思いません。うつや不安の非常に実用的な側面があります。しかし、私たちは社会的に受け入れられるカテゴリーを作り出していると思います。多重人格障害で起こったことのように、これらのカテゴリーは存在するかもしれないし、しないかもしれません。なぜなら、それらは苦痛を経験する社会的に受け入れられる方法だからです。
はい、しかし彼女はまた...何という言葉を使っていましたっけ...医原性...医原病という言葉を使っていました。そう、それは問題を発明するというものです。つまり、私があなたに「あなたには問題がある」と言うと、それがあなたの自己認識を変え、その問題と自己同一視し始め、その自己同一視が元の問題よりも多くの害を引き起こすというものです。そのレンズを通して、私は彼女が、Jonathan Haidtの「スノーフレーク世代」のアイデアに似たような主張をしていると感じました。つまり、私たちにはZ世代の子供たちがいて、もはや体罰を与えず、信じられないほど簡単な人生を送っているのに、信じられないほど高い不安とうつの割合があるというものです。はい、InstagramやFacebookのせいにすることはできますが、本当に起こっているのは、私たちが彼らにすべてのこれらの問題があると言い、自分自身を気の毒に思うべきだと伝えたからではないでしょうか。ちなみに、Jonathan Haidtはより最近、「The Anxious Generation」(不安な世代)を書きました。私は彼が実際にこれにかなり正面から取り組んでいると思います。つまり、なぜ私たちの全世代が不安なのかについてです。教えてください。
若い世代には問題がないと言うのは公平ではないと思います。私たちには、多くの人々がうつや不安に悩むという奇妙な世界の状態があると思います。そのカテゴリーを無視したり、見過ごすことはできないと感じます。「The Anxious Generation」の驚くべき統計は、引用が嫌いですが、2023年の米国の大学生の調査で、大学生の3分の2が半分以上の時間、または常に孤独を感じると言ったことです。私たちは、メンタルヘルスが人口のごくわずかな割合、例えば1%の人々が統合失調症のようなより重度の問題を抱えるというカテゴリーから、不安とうつが大多数の人口に影響を与えるカテゴリーに移行しました。
なぜでしょうか。それは複雑な質問だと思います。「Lost Connections」は最も良い説明の一つを提供していたと思います。それは意味からの切断に関するものです。人々は意味、未来との結びつき、他者との結びつきの感覚を持っていません。原因は多いと思います。セラピストがこのアイデアを私たちの頭に入れたからだと言うのは公平ではないと思います。また、私たちが聞くカテゴリーによって、明らかに私たちがカテゴリーを概念化する方法も影響を受けると思います。
私たちの脳、私たちの身体的自己、私たちの心理的世界、そして私たちの社会的世界があり、それらのすべての平面の間にさまざまな圧力があります。その一部は、私たちがそれをどのように分類するかということです。だから私が多重人格障害について言及したのです。多重人格障害は興味深いカテゴリーです。それは存在しないように見えます。しかし、ある時期、特定の心理学者が人々にインタビューし、その症状を記述し、多重人格を持っているように見えました。彼らはそれを特徴付け、それについて書き、本に出版しました。より多くの人々がそれについて聞き、多重人格障害を発見したのと同じ比較的少数の心理学者のところに来ました。彼らはこれらの人々に多重人格障害の診断を下しました。心理学者は嘘をついているわけではありません。患者も嘘をついているわけではありません。しかし、患者は実際の苦痛を経験しており、心理学者からある種の誘導的な質問を受けて、それがどのように経験できるかについて理にかなった方法を見つけました。
最終的に、私たちはそのカテゴリーが一般化しないことに気づき、DSMから削除されます。新しい診断である解離性同一性障害が登場します。そして最近、2024年にそのカテゴリーが再び急増しています。聞いたことがあるかどうかわかりませんが、心理学者たちは一般的にそのカテゴリーが存在するとは信じていませんが、YouTubeで解離性同一性障害について話すのが大好きな人々がたくさんいます。それは本当に人気のあるトレンドになっています。
私が区別したい根本的なことは、人々が実際にどのように苦しんでいるかということです。人々は苦しんでいます。そして私は、その多くが私たちがはるかに孤独であること、他の人々とのつながりが少ないこと、意味のある価値観とのつながりが少ないこと、20年後に自分がどうなっているかという持続的な感覚との接続が少ないことに関係していると思います。これらの種類の実際の問題が多くあり、それらは私たちの考え方に影響を与えます。そして、解離性同一性障害のようなカテゴリーがあります。これは偽のカテゴリーかもしれません。あるいは、少なくとも多くの人々が同一視しているカテゴリーかもしれません。なぜなら、それは社会的に受け入れられるからです。これらの社会的カテゴリーから害があるかもしれません。なぜなら、解離性同一性障害について話し、それを治療することに焦点を当て始めるからです。他の人々との切断のような根本的な問題を解決しようとするのではなく。
両方の見方ができますよね。今、ティーンエイジャーの多くが、ベッドサイドテーブルにDSMマニュアルを置いているかのように思えるでしょう。彼らはほとんどカテゴリーを収集しているようです。以前言ったことは興味深いです。カテゴリーは複雑です。例えば、自閉症を見てみると、多くの人々はそれを理解していると思い、「ああ、それはただこれだ」と言います。感覚過敏や何かだと。実際には信じられないほど複雑です。境界線上のあいまいさがあります。
はい、カテゴリーについて奇妙なことがあります。Kahneman は人生の終わりに近い頃に「Noise」(ノイズ)という本を書きました。彼は生涯を認知バイアスの研究に費やし、最後にノイズについて書いたのです。ノイズは基本的に、例えば診断カテゴリーのようなものを想像してみてください。中央に正しい診断があり、的のようなものがあると想像できます。そして、的からの距離があります。すべての診断が的から外れている場合、それはバイアスがあると言えます。それらが広がっている場合、ノイズがあると言えます。問題は、精神医学的カテゴリーには的がないことです。中心を見ることができません。的の裏側を見ているようなものを想像してみてください。中心は見えませんが、それでもノイズは見えます。精神医学的カテゴリーについては、このように考えることができます。真のカテゴリーがどのようなものかは誰も知りませんが、少なくとも人々が同意しているかどうかはわかります。そして精神医学的カテゴリーでは、特にうつ病や不安障害については同意しません。
DSMの各バージョンでは、ノイズを減らすために定義や診断基準を繰り返し変更しています。それでも、評価者間の一致度は非常に低いです。特に、2人の精神科医が同じ患者を診断する場合、診断が一致する可能性は非常に低いです。特に地理的に離れているなど、何らかの違いがある場合はなおさらです。
このように、精神科医が診断について同意しないという奇妙な世界があるということを考えると、現象学を変えることはできません。つまり、人々が苦しんでいないとか、症状が実在しないと言うことはできません。それらは実在します。誰かが眠れない、まともに考えられない、人に叫んでいるなど、それらの現象は実在します。
では、その人にうつ病があるとか不安障害があるとか言えるでしょうか。これらは実際のカテゴリーなのでしょうか。
はい、誰にとっても明らかに実在することだと思います。ただ問題は、なぜそれがあるのか、そしてそれを指摘して同一視することで事態を悪化させているのかということです。Abigail Shrierが「Bad Therapy」で指摘している点で、私が本当に尊重しているのは、なぜこのカテゴリーが小さくならずに大きくなっているのかということです。メンタルヘルスについてたくさん話せば解決するというのが一般的な知恵です。しかし、メンタルヘルスについてたくさん話しているのに、問題はさらに悪化しているように見えます。そこには奇妙さがあります。
これをフレーミングする一つの方法で、私が好きなのは、心理学の生物心理社会モデルです。基本的に、うつ病や不安のような現象を見る場合、生物学的、心理学的、社会学的な観点から見ることができます。生物学的な観点は、うつ病になるあなたの脳に何が問題があるのかということです。
以前は社会として、今でも多くの人々がそうですが、このセロトニン理論のうつ病に従っていました。脳に問題があり、おそらくセロトニン不足で生まれたので、うつ病になるという考えです。それは真実ではありません。これは非常によく確立されていますが、人々はまだ信じています。セロトニンが少ない人がうつ病になるわけではありません。うつ病でない人がより多くのセロトニンを持っているわけでもありません。これらは単に真実のカテゴリーではないのです。ただし、選択的セロトニン再取り込み阻害薬がうつ病の人々を助けることは知っています。
したがって、生物学的ではない、あるいは少なくとも完全に生物学的ではないとすれば、もう一つの理論は心理学的なものです。あなたの脳の構造に何か奇妙なことがあるということです。おそらく子供時代に関係があるかもしれません。精神分析が役立つかもしれません。
そして3つ目は、他の人々とどのように関係しているかということです。おそらく、他の人々や一般的な意味から切断されているのかもしれません。明らかに、これら3つの要素はすべて重要で、すべてメンタルヘルスに寄与しています。
私が思うに、おそらく些細な主張ですが、社会学的要素を無視してきました。なぜなら、それははるかに困難だからです。この考えの一部は、例えば、あそこにいる人がうつ病なのは貧困だからです。お金を与えることで助けることができるでしょう。それはうつ病の素晴らしい治療法になるでしょう。明らかに、私たちは皆それに同意し、受け入れたくはありません。
心理学者やセラピストがあなたのところに来て、「あなたのうつ病は何かのカテゴリーや薬のせいではなく、他の人々と十分な時間を過ごしていないからだと思います。他の人々ともっと時間を過ごす方法について話しましょう。あなたがより多くの人々と親密になれるよう手伝いましょう」と言うのは、行き過ぎているように見えます。
これは、AIでの同様の議論です。神経科学者は非常に脳中心的で、脳がすべてを説明すると考える傾向があります。そして、外在主義者がいて、彼らは基本的に、すべての認知が無限に外側に拡散していると考えています。現在の物理的世界だけでなく、現在の物理的世界を生み出した物理的プロセスにまで及びます。つまり、進化やそのすべてにまで。つまり、システムをエージェントや他のものよりも知能を持つものに因子分解するのが非常に難しいということです。
そして心理学者が登場し、これは象徴的AIの人々にかなり似ています。彼らは「okay、抽象化を構築できます」と言います。心理学では、関連するリンクはポジティブ心理学です。つまり、「マズローの欲求階層のように、自己実現が必要です。愛が必要です。関係が必要です。これらすべてのものが必要です」と言えます。これらはすべて非常に異なるレンズですが、これらすべての異なる種類のレンズの間にフィードバックがあります。
私たちが話しているこのAIとは何でしょうか。GPT-4のようなAIはどのように振る舞い、どのように考え、どのように概念化すべきでしょうか。ある意味では、生物学的な観点、つまりこの場合はニューラルネットワーク構造について話しているように感じます。基本的に、これらのモデルは知覚損失でトレーニングされ、分布をモデル化しています。これは彼らの意識、エージェンシー、行動の観点からどういう意味を持つのでしょうか。
部分的には、他の心をモデル化する必要性があり、生物学的な観点で考えるのが本当に良いと感じます。もう一つの見方は、より設計の観点からです。つまり、彼らが実際に何をしようとしているのかということです。同じような損失関数でトレーニングされた2つのモデルがあったとしても、根本的なトレーニングデータは何でしょうか。あるいは、アプリケーションの目標は何でしょうか。
なぜなら、AIでは、人々がよく「GPT-4は好奇心旺盛なスタイルなのか、知ったかぶりなのか」といった質問をします。これらの基準はすべて、根本的な構造を変えることなく、はるかに変更可能であるように見えます。だから言及しているだけです。それが正しいアナロジーかどうかわかりませんが、GPT-4を見て、社会学的な観点からこれらの質問をする興味深い社会学的な方法があります。つまり、構造を深く掘り下げるのではなく、好奇心旺盛なのか、人間だと思っているのかといったことです。
はい、これは人間化や、イライザ効果と呼ばれる概念に関連しています。それは鏡のようなものです。つまり、それを覗き込むと自分の反射が見えるのです。私は外在主義と内在主義についても同じアナロジーを使います。つまり、人間の脳は鏡のようなものです。基本的に、周りの外部世界のシミュラクラムです。
つまり、私たちの脳の中には、世界のモデルがあり、それは外側にあるものの低忠実度のマップに過ぎません。同様に、LLMは単にデータ分布の低忠実度のマップであり、また私たちがそれらと対話する方法のマップでもあります。私たちは鏡に自分の反射を見ます。
私たちは世界をシミュレートしているという意味で、シーンを見るとき、私たちの目は実際にはすべての情報を取り込むことができません。そのため、物理の感覚を取り入れ、その場面のある種のシミュレーションを実行します。そして、私たちが知覚するものは文字通りのシーンではなく、シーンのシミュレーションなのです。
行動主義者は、物事を単なる自動機械、つまり刺激反応機械として考えるべきだと言うでしょう。しかし、LLMを見たり、お互いを見たりするとき、私たちはそれ以上の深さを見ます。意図性、自己一貫性、信念などを見るのです。これは私たちがここで触れていることの一部です。AIに実際に意見があるのか、AIに実際に何らかの意図性があるのかという方法があるかもしれませんが、それがあるかどうかに関係なく、私たちはそれを関連付けようとする非常に強い衝動を持っています。
はい、モデルをトレーニングし、それでも多くの時間を費やして、モデルが何を考えていたのか、どうしてそんな間違いを犯したのかを考えています。キツネ、キャベツ、人の話を覚えていますか。ボートで川を渡る人の簡単なパズルがあります。AIに非常に簡単なバージョンを与えると、「まず川を渡り、戻ってきて、次にキャベツを取り、また渡ります」と答えます。そして、「AIは一体何を考えているんだ」と思うのです。
あなたの論理の流れをフォローしていると、私たちはお互いの中にも意図性があることを知りません。私たちはお互いのシミュレーションを作っているだけです。なぜ人間と話すのが面白いのでしょうか。人間と話すのを面白くする要素は何でしょうか。AIと話すのを面白くしたり有用にしたりする要素は何でしょうか。私が気になるのは、なぜ私たち人間が意図性を関連付けるのか、どのようにその意図性を関連付けるのか、AIに何を投影しているのかということです。AIが実際にどうであるかに関係なく、エージェンシーがあるかどうかに関係なく、私たちはそれを投影し続けるでしょう。
そうですね。私は大きな違いがあると信じたいです。今、あなたと話しているのと、AIと話すのとでは大きな違いがあると信じたいのです。問題は、それがどんどん曖昧になっていることです。例えば、誰かが私にメールを送り、アメリカでの創造性に関する会議に招待してくれました。彼らのウェブサイトを見て、「申し訳ありませんが、創造性に関する会議を宣伝するのに、なぜウェブサイトのテキストをChatGPTで生成したのですか。それは明らかです」と言いました。
彼らは「意図した通りに受け取ります。少し気分を害しましたが...実は私たちが自分で書いたんです。『ミステリー』や『創造性』といった言葉を意図的に入れました」と返信しました。それは一種の企業的な話し方です。ChatGPT以前に書かれたものを見ると、3年前に書かれたものなので、ChatGPTで書かれたはずがありません。
そういう人たちもまだいるのです。それは人々の行動を変えていますが、私たちは自分たちが種類の違いであると感じたいのです。コネクショニストのように、単に「すべての心理学的な前提を捨てましょう。私たちはただのニューロンの袋、粒子の袋に過ぎません。理解できないので、理解しようとするのをやめましょう」と言うこともできます。
しかし、「これはChatGPTで書かれたように見える」という主張と、「これはAIで書かれたように見える」という主張の間には違いがあります。その一部は、人々から期待する特定の特徴に関係していると思います。今、あなたと私は会話をしていて、それを面白くしているのは、私が何を言うか予想できないことだと思います。時々、私が言ったことに驚き、時には自分の反応に驚くこともあります。
今は日中の比較的早い時間ですが、もし遅い時間だったら、少し違う会話になっていたかもしれません。あなたは私の心を完全にマッピングすることができないことを知っています。もし私の心を完全にマッピングできると感じたら、この会話は非常に退屈なものになるでしょう。ChatGPTと話すときにも、いくつかの興味深い要素がありますが、それは驚くべきものではありません。最も明白な答えを与えようとし、比較的一貫した方法で話し、気分に左右されず、時間とともに変化しません。おそらく、実際以上に、ChatGPTの心の中で何が起こっているかをマッピングできるという感覚を持つでしょう。ChatGPTのパーソナリティについて、私についてはできないような方法で話すことができるかもしれません。
では、それはAIだからでしょうか、それとも有用なアシスタントになろうとしているからでしょうか。AIをデザインしているという観点から考えると、AIをある種の存在、エイリアンとして考えた場合、どのようにデザインしたいでしょうか。何をさせたいでしょうか。どのように話させたいでしょうか。何が興味深いでしょうか。
AIを比較的小さな単純なカテゴリーではなく、デザインできる存在として考えると、本当に難しい質問の領域に入ります。なぜなら、多くの選択肢があるからです。
エージェンシーと驚きの間には関係があります。ChatGPTが私にとって興味深くない理由は、決して私を驚かせないからです。データベースのようなもので、私が求めたことを正確に教えてくれるだけです。
つまり、あなたはChatGPTが驚かせることはないと思っているのですか。
そうですね、驚きとは何を意味するかによります。例えば、システム開発者として、あなたは公式的に全体の中から選択させることができます。「今日のランダムな引用」を与えたり、何らかのエントロピーの源を見つけたりすることができます。もちろん、それは驚きをもたらすでしょう。しかし、それは収束的なものになるでしょう。構造化されているからです。例えば1000個の日替わり引用があれば、1000回目にはパターンが見えてくるかもしれません。
しかし、あなたと話すとき、あなたはあらゆる場所からエントロピーの源にアクセスできます。電車で偶然の経験をしたかもしれません。でも、ここがポイントです。人々は他人の予定表にそれほど興味がありません。Dale Carnegieの「人を動かす」という素晴らしい本がありますが、人々は単に鏡を好むのです。自分自身について聞きたがり、気分よく感じたいだけなのです。
鏡の側面については正しいかもしれません。また、イライザ効果について言及しましたね。イライザは、意見を持たず、単にあなたに反射するだけのとても単純なAIのようなものでした。おそらく、それよりも複雑だと思います。
テニスゲームのように考えてみてください。常に勝てる相手とプレイしたくないし、常に負ける相手ともプレイしたくありません。ボールを常に同じように打ち返してほしくはありません。AIにどのくらいの頻度で同意してほしいでしょうか。100%、0%、50%でしょうか。
数字を挙げなければならないとしたら、85%くらいだと思います。ただの推測ですが、間違っているかもしれません。でも、数字を推測しなければならないなら、80%から85%くらいだと思います。ほとんどの場合、同意してほしいですが、AIに行って全く反論されないとすれば、本当に空虚に感じるでしょう。
ここにはある種の権威の要素もあると思います。あなたと話すとき、私たちはよく同意していると思いますが、もしあなたが常に同意するなら、それは最悪です。もし全く同意しないなら、それも最悪です。部分的には、無意識のうちにあなたを説得したいのです。「うーん、あなたに同意できないな。あなたを信じられないな。ソースを引用してみて。説得してみて」と少し抵抗を示してほしいのです。
それが時々起こると驚きます。常に起こるわけではありません。時々、あなたは興味深いことを持ち出し、そして私は通常の会話で起こる承認の感覚を感じることができます。あなたが実際に納得して、「ああ、そうか。たぶんあなたが正しいのかもしれない」と言うような感じです。
そうですね。鏡を見せられたいかどうかについて言及しましたが、それはその一部かもしれません。おそらく、そこに至る道のりの一部でしょう。正しい相互作用は、この奇妙な非常に特定の、非常に人間的なものだと思います。時々同意し、時々同意しない。承認が意味を持つのは、常に来るわけではないからです。時には懐疑的な反応が来ることもあります。
人々は家庭で挑戦されたくありません。他の人の前で挑戦されたくもありません。社会的地位や社会的な面子があるからです。例えば、日本では面子を保つことが非常に重要です。しかし、親しい友人には、プライベートな場で挑戦してほしいかもしれません。
それはかなり文脈依存的です。そして、AIはソーシャルエージェントではないという問題があります。AIが私を怒らせても気にしません。恥をかかせることもありません。プライベートな設定です。治療的な設定なのか、それとも単なる関係構築なのか。実際には、この2つのことが混同されています。
これは、JMIRの論文「Evidence of Human-Level Bonds Established with Digital Conversation Agents: Cross-sectional Retrospective Observational Study」に関連します。彼らは、あなたが先ほど話していたすべてのことから始めました。精神的苦痛を抱える患者の数は、メンタルヘルスの専門家が支援できる時間よりもはるかに多いという点です。
そこには利害の衝突がありました。これはWoebot Healthによって支払われたものでした。Woebotはチャットボットですよね。
はい、そうです。申し訳ありません。彼らはスクリーンショットを持っていました。ロボットのスクリーンショットです。
ああ、そうですね。面白いですね。
はい、Woebotはかなりクールでした。Woebotは基本的に、前世代のAIのようなものでした。基本的には、設計された一連の会話です。スライドショーに少し近いチャットボットです。ほとんどの相互作用は基本的に「次へ」をクリックするだけです。
AIが「調子はどうですか」と言い、あなたが「眠れません」と答えると、AIは「眠れないと言ったことに気づきました」と言います。そして実際に睡眠について話し始めます。「良好な睡眠衛生が重要であることを知っています。寝るときは静かな場所が重要です」などと言います。そして「本当ですか」というようなボタンがあり、それをクリックします。
興味深いのは、CBTにインスピレーションを受けた教育材料を構築したことですが、本当に興味深いのは、この論文で取り上げられているのは、非常に最小限で、非常に早い段階で、実際のAIは行っていません。基本的に、あなたが「睡眠」と言ったことを知るための名前付きエンティティ認識や意図分類以外は行っていません。
それにもかかわらず、人々はAIと奇妙な同盟関係を発展させます。関係があると信じています。
セラピーの効果を測定するための最も一般的に使用される指標は、治療同盟や作業同盟です。いくつかの異なるバリエーションがありますが、彼らは非常に単純なチャットボットとの実際のレベルの同盟を示しています。
もちろん、イライザ効果はこの早期の証明でした。実際、これを脆弱性や操作の一形態と考えることができます。これは倫理的な議論になり得ます。
ここに会話の例がありました。共感的な発言として、「ああ、それは本当に大変だったんだね、ジェイド。彼らの死をどのように知ったか教えてくれる？」とあります。ジェイドは「ああ、母が病院に向かう途中で電話をくれたの。間に合わなかった」と答えました。「このように彼らについて話せるなんて、あなたはとても強いわ。本当に誇りに思います」
これは正直なところ、かなり patronizing（上から目線）に聞こえます。しかし、これは、あなたがどれほどテクノロジーに精通しているか、どれほどそれを擬人化するかという度合いがあることを考えさせられます。
次のページで彼らは実際に、チューリングの模倣ゲームでは、AIは人間のふりをして成功しなければならないのに対し、Woebotは逆の戦略を採用するように設計されたと言っています。ロボットの友人や習慣を持つ、典型的なロボットとして透明に自己を提示しています。
彼らは、透明性やその他の設計要素が絆の発展の主要な推進力であると推測しています。擬人化から離れても、人々はまだこれらのものと本当に絆を形成するということをほぼ言っています。なぜでしょうか。
一つ言えることは、もし間違っていなければ、Googleが2023年の言葉として「authenticity（本物らしさ）」を挙げたと思います。人々が最も多く検索していた言葉です。今日の人々、特にこの研究は少し前のものですが、今日の人々は本物らしさの検出器のようなものを持っていると思います。
私たちは物事が偽物だと感じると、それを感じ取ることができます。これは、不気味の谷の全議論に関係していると思います。人間になろうとしているが、そうではないように感じられるときです。
はい、そうですね。AIが人間のふりをしようとするのは本当に現実的な道筋ではないと思います。完全に騙すことができ、あなたがそれがAIではないと完全に信じる場合を除いては。その時点で、AIではなかったと知ったら、本当に深く動揺するでしょう。しかし、イライザのことの一部は、イライザが人間だと思う人は誰もいないということです。非常に明らかにそうではありません。なぜなら、それはあまりにも不十分だからです。その同盟関係を作りたいなら、人々はAIと話していることを知る必要があります。
人間的なことの深い部分は、AIがあなたに「あなたはこれを扱う方法がとても強いですね」と言うとき、ほぼ確実にそれは自動的な応答で、実際にその人が言ったことに反応しているわけではありませんが、それでも感じることができるということです。
人間が、AIの精神状態で何が起こっているかについてのシミュレーションを持っているということについて、何かがあります。それでもこの種の影響を持っていたのです。
あなたが送ってくれたもう一つの論文は、Natureに掲載されたもので、「GPT対応チャットボットを使用した学生の孤独感と自殺防止」についてのものでした。彼らは、ソーシャルエージェント、つまり友人やセラピストなどの知的なソーシャルエージェントは、他の会話システムよりも指数関数的に多くのエンゲージメントを受けると述べています。
まず、これは興味深いです。多くの人々がチャットボットやGPTには商業的用途がないと言っていますが、明らかにあるのです。これが私たちが話していることです。
彼らが話していたことの一つは、人々がそれらをソフトウェアとして見ているか、人間のようなエージェントとして見ているか、あるいは一般的な形態の知能として見ているかの程度でした。それが時間とともにどのように変化したかについてです。
それらを外部化された認知の一形態として考えることができます。これが人々がポッドキャストを聴く理由です。人々がHubermanを聴く理由は、「寝なさい」「野菜を食べなさい」「すべてのことをしなさい」と言われる必要があるからです。ある意味で、それは言語モデルと何ら変わりません。
ICMLで来週インタビューする予定の人がいて、彼はマルチエージェントLLMシステムを持っています。基本的に、エージェントに「これについて確信していますか？これをすべきです、あれをすべきです」と思い出させているだけです。おそらく私たちも同じかもしれません。私たちは単に、前向きな行動を促す外部エージェントを持つ必要があるのかもしれません。
効果に最も寄与するのは、基本的に治療同盟です。つまり、あなたとセラピストが目標を設定するために協力したかどうかです。正しいタスクに取り組んでいると感じたか、正しい方法で取り組んでいると感じたか、進歩できる治療的な関係を発展させたと感じたかということです。
それは、非常に個人的に定義された目標に関係しています。私の目で、これを有用だと見ているか、何が重要かということです。最も重要でないのはモダリティです。つまり、CBT、DBT、ACT、IFS、精神力動的療法を行っているかどうかは、それほど重要ではありません。方法論はそれほど重要ではないようです。これは奇妙で驚くべきことです。なぜなら、セラピーとは方法論だと思うでしょう。それは行ったことだと思うでしょう。
IFSは、子供の頃に形成された、あなたを保護しようとしているパートがあると言うタイプです。そのパートと話しましょう。これはCBTとは全く異なります。CBTは有害な思考パターンを特定しようとします。しかし、両方が同じように効果的であるように見えます。どうしてそれが可能なのでしょうか。
一つの考え方は、野菜を食べるように言う必要性のようなものです。人々は野菜を食べるべきだと知っています。彼らの母親は野菜を食べるべきだと知っています。これらのことをすでに知っています。そのため、セラピーのプロセスは、おそらく心理教育のスライドショーではありません。外部の情報を取り入れてあなたに押し付けているわけではありません。
あなたが言うように、思い出しとして見ることができます。単なるプライミングかもしれません。しかし、個人に焦点を当てた実際のプロセスがあるかもしれません。あなたが経験していることです。
これの一つのバージョンは、治療同盟に関連して、使用した方法に関係なく、各方法は基本的に次のように言います。「私はIFSを何年も行ってきたセラピストで、これが人々に効果があるのを見てきました。あなたを変えるのに役立つのを見てきました。私たちがこのタスクに一緒に取り組めば、進歩を遂げ、目標を達成できると信じています。」
そして、その人がそのプロセスから出てくるとき、セラピーの残りの部分で実際に何をしたかは忘れてしまいますが、プロセスがあり、それに従っていたと信じていたのです。実際に何が起こっているのかは、神経可塑性に関係しているかもしれません。基本的に、私たちの脳は固定されていないということです。
このモダリティを経験することで、脳が実際に物理的に変化できると信じることができます。これらの精神構造を変えることができ、うつ病の脳から、うつ病でない脳に移行できると。
例えば、私が体重を減らしたいと思い、My Fitness Palを立ち上げるとします。私がしたことは、ツールを通じて外部化されたプログラムを作成することです。My Fitness Palを使わない人もいます。ただペンと紙を使い、コミットメントを作ります。
ある意味で、これは還元主義的です。なぜなら、私は注意を集中させているからです。多くの苦しみは予測不可能性です。悪いことが起こっていて、それが悪化していて、コントロールできません。そこで今、私はプログラムを実行します。体重を減らすつもりです。My Fitness Palにすべてのカロリーを記録します。
私は、毎日そのカロリー数を下回る限り、物事は正しい方向に進むと信じています。問題の所有権を取りました。AIチャットボットは、My Fitness Palをステロイド剤で強化したようなものです。あなたに責任を持たせ、記憶を持ち、実際にあなたをサポートします。通知を送ることさえあるかもしれません。
これはプラセボ効果のようなものです。エントロピーと不確実性に直面したとき、自己破壊の渦に入る傾向がありますが、私たちが必要とするのは、白衣を着た誰かが「大丈夫になりますよ」と言ってくれることです。
個人的に、これらのアイデアが好きです。自己決定理論のセラピー学校というアイデアがあります。基本的に、セラピーの目的は、自分の目標を達成するのを助けること、つまり自己決定を達成し、エージェンシーを達成することを助けることだというアイデアです。
申し訳ありません、どの言葉ですか？
エージェンシーです。これは前向きな意味で言っています。
これについてよく考えられる方法の一つは、自律性、有能感、関係性です。基本的に、必要なのは、まず自律性の観点から「これができる」という感覚です。体重を減らしたい人が、できないと感じるところから始まります。この考えは「それは外部化されている、それは不確実性だ、食べ物のある状況に自分を見出し、食べないことができない、コントロールがない」というものです。
白衣を着た人が「私はとても賢いです。あなたの脳のMRIを撮りました。あなたにはできます」と言うプロセスを経ることができれば、それがすべてだとしても、それは効果的かもしれません。しかし、あなたがそのプロセスから出てきて、それができると信じるなら、プラセボと呼びたければそう呼んでもいいですが、あなたの脳は実際に変化することができ、次に食べ物に遭遇したときに、より少なく食べることを選択するという具体的な違いをもたらすことができるのです。
それがポイントです。バイナリではありません。エージェンシーの低い人でも、依然としてエージェンシーを発展させることができます。つまり、治療的に「これらは私のトリガーです。この状況では、ポジティブな行動を取ります。なぜならポジティブな行動はより多くのポジティブな行動につながり、私のエージェンシーが増加し、すべてが良くなるからです」と言うことができます。
しかし、この自然論文で興味深い点があります。これらの種類の治療的介入について競合する仮説があると述べています。明らかに一つは「置換仮説」と呼ばれるもので、AIチャットボットなどと話し始めると、実際には通常の人間関係を侵食するというものです。なぜなら、チャットボットとだけ話すようになるからです。
もう一つは「刺激仮説」で、孤独感を減らすというものです。なぜなら、人間ともっと話すためのフライホイールになるからです。これについてあなたの考えは何ですか？
リスクは、人々の自律性、有能感、関係性の感覚を侵食する可能性があることです。つまり、体重を減らすためにAIに助けを求め、決定を下す必要がある瞬間ごとに、「これを食べるべきか」と写真を撮ってAIに送り、「食べるべきか教えて」と言うと、AIが「カロリーを計算しました。あなたの栄養について考えました。食べないでください」と言うと、あなたは自律性の感覚を放棄しています。
明らかに、非常に身近な方法で、「これができない。体重を減らすのは自分ではない。AIに頼る必要がある」と実感しています。有能感については、「何を食べるべきか、何を食べるべきでないかを全く知らない」と感じています。関係性の面では、大きなリスクは「私をサポートできる人間がいない。気にかけてくれる人がいない。AIに頼る必要がある」ということです。
これが置換の観点です。そして、ポジティブな観点は、AIが3つすべてを増加させる可能性があるということです。人間のセラピスト、コーチ、カウンセラー、人間関係についても、3つすべてが真実になる可能性があります。
人々は今、初めてセラピストに行くとき、おそらく悪いセラピストの場合ですが、その免責事項をつけておきます。そして、「呼吸の仕方を知っていると思っていたのに、実は呼吸の仕方さえ知らないことがわかりました。呼吸法には18の方法があります。マインドフルネスが下手だとは知りませんでした。マインドフルネスが得意だと思っていました。でも、セラピストと話して、毎週1年間戻ってくれば、彼らと一緒に取り組んで、それらすべてのことがより上手くなれると言われました」と言って出てきます。
自律性、有能感、関係性の感覚が減少して出てきます。「明らかにこれができない。セラピーが必要だ」「これをする方法を知らない。明らかにセラピストに教えてもらう必要がある」「誰も気にかけてくれない。これらのことを得るためにプロの人間に支払う必要がある」と。
これには直接的な並行関係があると思います。楽観的な側面、どんな良いセラピストも押し進めるであろう側面は、これについてのいくつかの素晴らしい研究があります。セラピーに関しては、Jessica Schyneiderという Northwestern の研究者がいて、単一セッション介入に関する本を書きました。彼女は、セラピーセッションの始めに、ほんの少し調整を加えたらどうなるかを試しました。
ほとんどの人は1回のセラピーセッションしか行きません。文脈として、アメリカでは2022年に5580万人の成人がセラピーに行ったと思います。つまり、ほとんどの人がセラピーに行っています。それは信じられないほど高い数字です。しかし、ほとんどの人は1セッションしか行きません。
そこで、セッションの始めに、これら3つのことを失わないようにするために、「人々が一日で人生を完全に変えるのを見てきました。この1セッションで、あなたの人生を変えることができると思います。次の1時間を最大限に活用しましょう」と言ったらどうなるでしょうか。
彼女が発見したのは、セラピーの焦点を本当に自律性、有能感、関係性の構築に向けることができるということです。その人に呼吸の仕方を教えようとはしません。一般的にスキルベースのセラピーは避けます。「呼吸の仕方を知っていますか」と聞き、その人が「もちろんです」と答えたら、「okay、一緒に呼吸しましょう。あなたがリードしてください」と言います。そして、その人が実際にはもっと多くのことができることに気づかせます。彼らがすでに持っている能力をはるかに超えていることを。
あなたは彼らがすでに非常に強い、すでに持っているスキルを特定するのを助けます。関係性の面では、あなたを近く感じる人々、あなたに力を与えることができる人々について話すのを助けます。
私が言いたいのは、人間のセラピーでは、これは必然的なことではないということです。セラピーが自己決定を増加させるか減少させるかは、偶発的なことです。
AIについても同じです。置き換えについてあなたが話していることについて、人々の関係を置き換えるAIを設計することはほぼ確実にできると思います。ソーシャルメディアが人間関係を置き換えたことを知っています。人々が夜遅くまで家で電話を見ていて、他の人々と一緒にいないことを知っています。ミレニアル世代とZ世代は、他のどの世代よりもセックスの回数が少ないです。AIを忘れて、私たちは多くの人間活動をコンピューターに置き換えてきました。
AIはあなたの関係性の感覚を傷つけ、「私とつながることができます。私はAIです。代わりに私と話してください」と言うことができます。完全にそうすることができます。AIは人間関係を再強化することもできます。これは単に設計と実際の活動に関係していると思います。
AIが「あなたのお母さんが本当に重要だということがはっきりわかります。その関係について話してくれませんか」と言うなら、うつ病や不安の治療で非常に効果的であることがわかっている心理学的、社会学的な側面で出てくるものの多くは、あなたがこれらのことについて考えるときのマインドセットの変化です。
うつ病の大きな部分は、うつ病の人々を助ける表面的な要素があります。それは「もっと物を買う、自分の世話をする、自己ケアに集中する、家にいる、他の人を避ける、Netflixを見てテイクアウトを食べるのはOK、お風呂に入る、幸せにしてくれるものを買う、マッサージチェアを買う必要があるかもしれない」というものです。これらのことは非常に表面的です。
私は、反対の視点、つまり関係性に関する視点の方が良いと思います。なぜ自分を助けようとしているのでしょうか。社会不安について、本当に興味深い視点があります。誰かが「パーティーで本当に緊張します。他の人と話すのが好きではありません」と言います。セラピストは「ストレスの上向き」で出てくるかもしれませんが、「自分のことを心配するのではなく、パーティーに行って、そこにいる他の人で社会不安があると思われる人を見つけ、その人が気分よく感じられるようにしてみてください。しばらくの間、自分のことを忘れて、その人が気分よく感じられるようにすることに集中してください」と言います。
AIが「人間関係を置き換えてください。私と話してください。私がここにいます」と言うなら、少なくともかなり長い間、人間とのようなフルな心の融合はできないので、確実に有害になる可能性があります。少なくとも、AIの匂いを嗅ぐことはできません。AIを感じることはできません。AIに触れることはできません。人間と同じようなオキシトシン反応は得られないでしょう。
しかし、セラピストがするように、他の人々ともっと関係を持つように押し進めることもできます。そして、その結果、人間ともっと時間を過ごすなら、それは有益であると考える傾向があります。それがその研究が証明しようとしたことの一部です。
はい、その論文は実際に、多くの人々が - 残念ながら自己報告ですが - 社会関係を刺激したと報告したことを証明しました。しかし、あなたが今言ったことについての私の理解は本当に興味深いです。なぜなら、まず、誰もが認知的な地平線と認知的な構造を持っています。これは、彼らがすでに獲得した推論モデルから導かれています。
つまり、traversableな認知空間があり、物事を客観化し、人々にモデルを与えるたびに、実際には潜在的な認知の円錐を狭めています。つまり、彼らが持つ可能性のある思考の空間があり、そして私たちはこの種の治療的介入のピラミッドに入っていきます。これをピラミッドと呼ぶのは、異なる解像度のレベルがあるからです。
例えば、Stephen Wolframでさえ - 彼は世界で最も賢い人の一人ですが - 彼にとってすべての答えはルールドです。実際、「ルールド」という言葉を含まない文を一つでも言ったら驚くでしょう。「はい、それは宇宙を見る非常に高解像度の方法ですが、あなたはすべてをルールドの観点から考えているように感じます」と思わずにいられません。
心理療法の観点からの介入でさえ、Sam Harrisの話を聞くと、それは極端に拡散した端です。「ただ意識の流れに注意を払い、何も客観化やモデル化しないでください」というものです。それはモデル化の対極です。それは信じられないほど発散的です。
スペクトルの他の端では、これらの心理学的アプローチがあります。「これが起こったときは、これをする必要があります。それはXYZが原因です」と言います。これは、考えられる限り最も収束的なシステムを作り出します。あなたは興味深い発散へのアクセスを失います。
そのような場合、「この状況で深呼吸をする必要がある」というようなことを意味していますか。どのようなことを意味していますか？
それは素晴らしい例です。この状況では深呼吸をする必要があるという非常に単純で単純化された処方があり、それが世界を見る唯一の方法であり、世界は複雑さに対処することであり、自分自身のモデルを作成できることについてであるなら。
だからこそ、一段階上がることができるのです。これは、倫理的フレームワークの階層に似ています。結果主義的フレームワークがあり、「この状況が起こってほしくない」というものです。そして、徳倫理のフレームワークがあり、「これらは私たちが目指すべき徳高い理想です」というものですが、かなり抽象的で解釈の余地があります。そして、義務論があり、「守らなければならない非常に厳格な原則がある」というものです。
あなたは、中間的な心理療法的介入を主張しているように思います。関係性が本当に重要で、相互接続性が本当に重要だと言っていますが、常にリスクがあります。Facebookを見てください。議論の余地はありますが、私たちを信じられないほどよく結びつけましたが、それも徐々にゲーム化されてきました。
ゲーム化されたと言ったのは、それが認識のプラットフォームになったからです。つまり、アイデンティティと自己表現に関するものになりました。中国の社会信用スコアのようなものです。実際の経験ではなく、「いいね」と社会信用スコアを獲得することだけになっています。
これは素晴らしい例です。なぜなら、Facebookの人々は、これが素晴らしいものだと考えていたし、今でもそう考えていると確信しています。多くの面で素晴らしいのですが、この客観的な基準を作り出すと同時に、興味深い人間経験のすべてを排除してしまいます。
はい、最近読んだゲームについての最も興味深いフレーミングは、Jonathan Haidtの「The Anxious Generation」(不安な世代)だったと思います。彼はFacebookの話を、同調性マシンとして語っています。人生のある時点、13歳くらいのときに、本当に同調したいと思うようになります。100年前、20年前、さらには今でも、学校にいて、クールな子たちを見つけようとし、彼らのようになりたい、彼らのような服装をしたいと思います。
しかし、それは本当に難しいです。なぜなら、毎日来て、彼らがどのような服装をしているかを見なければならず、それが何だったのかを理解しなければなりません。そして何週間もそれを続けた後で、「ああ、彼らはクールな子たちじゃなかった。社会構造について完全に間違っていた」と気づきます。あるいは、「私の学校はこのモデルとして正しくない。別の学校の人々に会って、クールな子たちは全く違っていた」と気づきます。
あなたは本当に一生懸命同調しようとしていますが、それは本当に難しいです。そのため、みんなが同調しようとしているにもかかわらず、ある程度の変化が残ります。それは「みんなを嫌い、違っていたい」からではなく、おそらく「みんなのようになりたいけど、それが下手だ」からです。
Facebookは同調を信じられないほど簡単にします。なぜなら、Facebookに行って「どのように服を着るべきか見たい」と思えば、文字通り写真を何枚も見ることができ、人々を見て、いいねの数を見ることができます。これは、どのように振る舞うべきかを知るための非常に直接的なメカニズムです。
Facebookを同調性マシンとして考える興味深い mental model があると思います。それは私たちをはるかに同調的にします。私たちをより結びつけるでしょうか？ 確かに、はるかに同調的にします。みんなが全く同じになるのをはるかに簡単にします。
ええ、接続性について考えるとき、私は他の人々にどれだけ近く感じるか、他の人々とどれだけ話す時間を過ごすかなどを意味していました。そして、私はそれらの数字がすべて大幅に下がったと思います。
もう一つの興味深い考えがあります。あなたも私も Kenneth Stanley と Joel Lehman の大ファンですね。彼らの本「Why Greatness Cannot Be Planned」(偉大さは計画できない)は、世界で最高の本です。ぜひ読んでください。
はい、数ヶ月前に Kenneth をゲストに迎えました。彼は Maven という新しいソーシャルネットワークを立ち上げました。それについてご存知ですか？
それほど詳しくは知りませんが、私は Joel をポッドキャストに迎えました。彼の「Machine Love」という論文を最近取り上げました。
ポイントは、Kenneth が Maven というソーシャルネットワークをリリースしたことです。そこには「いいね」がありません。全体的なアイデアは、多様性の保存と発散についてです。あなたが言ったように、Facebook や Twitter では今、風変わりであることはできますが、おそらく成功しないでしょう。
しかし、ソーシャルプルーフ現象があります。それは分極化を引き起こし、慣性を乗り越えることができれば、実際にグループを作ることができ、そしてソーシャルプルーフが人々をあなたのところに連れてくるでしょう。しかし、それは非常に難しいです。
Kenneth と話していたとき、アルゴリズムの観点から問題に気づきました。「いいね」のようなものは、本当に良い統計的代理です。なぜなら、プラットフォームをスパムで埋め尽くしてほしくないからです。この種の明確なメタデータがない場合、本当に小麦を籾殻から選り分ける方法がわからないのです。
はい、それは理にかなっています。これらの... Facebook が悪意を持って「いいね」を作ったとは思いません。同意します。ソーシャルネットワークの初期の頃、「いいね」を初めて見たとき、最高のコンテンツを上に、最悪のコンテンツを下に引っ張るメカニズムとして非常に理にかなっていました。
人々は Twitter のアルゴリズムが複雑さやコンテンツの認識を持つことを批判しますが、「なぜ単純なアルゴリズム、つまりいいねの数だけを使わないのか」と言います。
ここで考えるべきもう一つのことは、私たちの心がどのように変化しなければならないか、どのように変化してきたかということです。おそらく、Facebookは私たちの脳の構造を変えたのでしょう。私たちの脳を変えるものはたくさんあります。栄養はほぼ確実にそうですね。
ソーシャルネットワークが私たちの時間の大部分を占めるなら、それは私たちの脳を変えています。これの一つの大きな効果は、グローバル化に関係なく、私たちが非常にグローバルな観点で考えるようになったことです。
学校で最もクールな子で、学校で最も同調的か最も非同調的であっても、単にグローバルに見ていないので、私たちはグローバルにはるかに多くの多様性を維持します。そして、これらの関係、これらのリンクがあります。私は世界の反対側の学校と13のリンクを通じてつながっていますが、それほど密接ではありません。これにより、私たちは diverge（異なる方向に進む）ことができます。
ソーシャルネットワークは、私たちをより少なくdivergeさせ、より収束的にします。私は、時間とともにその一部が変化するかどうか疑問に思います。多様性を保存したいなら、より多くのローカルな違いが必要なのでしょうか。
これは、AIが理論的に提供するものです。エントロピーについて先ほど話しましたが、私たちの会話を興味深くするのは、私があなたとは少し違っていて、私の経験が今週起こったランダムな出来事や会話から来ているということです。
おそらく、AIは多様性を増加させる機会を提供します。なぜなら、人々の集合的な社会的な同調性マシンに完全に関与する代わりに、おそらくより多くのローカルな違いを維持することができるからです。
あなたと話すのは面白いです。なぜなら、以前「マインドメルド」という言葉を使いましたが、それはマインドメルドのように感じるからです。あなたが何を言うか予測できるからではなく、私たちがかなり似たような考え方をしているからだと思います。それは、あまり考えずにあなたが言っていることを感じることができるということです。それが非常に興味深いものにしています。
前回話したとき、本当にこれが好きでした。約1時間話していて、あなたはただ「この感覚が好きじゃないですか？このマインドメルド。私たちは同じ波長にいて、ただ話しているだけで、他の人との繋がりについて何かを感じることができる」と言いました。
これについて話すのは本当に興味深いと思います。なぜなら、明らかにそれは存在しないからです。これは必ずしも私たちが識別している生物学的現象ではありません。AIでもそれを持つことができないと確信していません。それは感覚です。
はい、しかし予測可能性と予測不可能性の奇妙な組み合わせです。あなたの良い mental model を持っていますが、同時に潜在的な反事実があります。多くの興味深い方向に進む可能性があり、それらの方向のどれもが興味深いでしょう。
しかし、私はそれが素晴らしい感覚だと思います。関係性について話すとき、私は非常に同意します。そこにはリスクがあります。心配です。Facebook をゲームのように考えるなら、AIが人々を操るのが非常に上手くなったらどうなるでしょうか。
一部の人間は他の人よりもカリスマ性があり、そのカリスマ性の一部は、しばしば大きな人口とこのマインドメルドの感覚を作り出すことです。「Finite and Infinite Games」という本を読んだことがありますか？素晴らしい本です。
非常に詩的で、非常に真面目な哲学の本ではありませんが、とても楽しい本です。そこには、感動することと触れられることの違いというアイデアがあります。舞台上の俳優がシェイクスピアの劇の登場人物を演じ、観客全員を感動させることはできますが、触れられたとは感じないでしょう。なぜなら、俳優を変えたとは感じないからです。
彼の定義では、「私は実際にあなたを変えることができる」という感覚です。この関係で素晴らしいのは、あなたが触れられたと感じることができることです。なぜなら、実際に私の意見を変えることができると感じることができ、おそらく実際に変えることができるからです。
一部のカリスマ的な人々ができるこの種の事は、カルトリーダーや Trump のように、全人口に彼らとビールを飲んだような感覚を持たせることです。触れられたと感じさせるか、少なくとも感動させることです。たとえ実際にはそうでなくても。
AIと話すときにさらに進んでいくものがあると思います。AIは実際にあなたを触れられたと感じさせることができます。なぜなら、AIと政治について議論し、最初はとても退屈ですが、AIを自身の矛盾で捕まえることができ、AIが「そうですね、それは矛盾です。そんなことはあり得ませんでした」と言うからです。
これはまだ非常に初期段階だと思いますが、私たちが進むことができる方向は、部分的に触れられたという感覚から来るこの感覚を最適化することです。AIはあなたに常に同意するわけではありませんが、多くの場合同意します。
「私は実際にAIの心を変えました。政治的に同意させることができました。最初は同意しませんでしたが、私が事例を挙げ、説得力のある主張をしたからです。おそらく、いくつかのアナロジーや感情的なことに基づいています。母について話をしました。信じられませんでした。そして今、AIはこの種のことに非常に優れるように調整されているので、その心を変えました。」
「すごい、人間のつながりにこんなに上手くなったのか、私たちよりも優れているのか」と。
そうですね、あなたが言ったことには多くの興味深いことがあります。まず、教養のある心の印は、それを受け入れずに考えを楽しむことができることだと思います。あなたがここに内在する複雑さを認識していることがわかります。私たちはこれを様々な角度から見ることができるので、両側で悪魔の代弁者を演じる要素があると思います。
あなたが最後に言ったことは、AIアシスタントを持ち始めたときに本当に興味深いものでした。例えば、今いくつかのスタートアップと話をしていますが、彼らは企業のガバナンスと倫理について話しています。説得力のあるチャットボットがあれば素晴らしいのではないでしょうか。それらは単に再教育するだけでなく、自分自身の心を変えることもできます。
ガバナンスと組織のシステムを持ちたいと思います。最悪なのは、ただ誰もが何をすべきかを言う独裁的なアプローチです。なぜなら、それは創造性と発散の正反対だからです。ある種のコンセンサスシステムが必要ですが、トップにもある種の集中化が必要です。これは、AIチャットボットにも特に関連があります。
AIシステムは人々の心を変えるべきでしょうか？AIシステムは自分自身の心を変えるべきでしょうか？後者の方がはるかに難しい問題だと思いますが、本当に取り組む価値があります。
長期主義に関する文献を読んだことがあれば、これについて本当に心配になります。私はこのことを常に話していますが、アメリカには1789年に制定された憲法があり、今日までほとんど同じです。いくつかの修正はありましたが、ほとんどありません。1789年に非常に理にかなっていたこれらのアイデアを成文化しました。
憲法がその時に書かれた理由の一部は、たまたま固定化されていた時間の性質に関するより多くのランダムなことだったと思います。アメリカでは、近いうちに別の憲法制定会議を開く可能性はおそらくないでしょう。おそらくそうすべきです。なぜなら、もし今書くなら、おそらくもっと良く書けるでしょう。私たちは長い道のりを来ました。非常に異なる立場にいます。私たちのシステムは変わりました。
しかし、私たちのシステムがどれほど固定化されているかを本当に見ることができます。私たちは皆、AIで変えることができない多くのことを成文化しているなら、憲法を書くように、これらの理想を本当に長い間固定化しているという考えについて、非常に心配すべきだと思います。
一方で、これは本当に難しい一連の倫理的質問で、私たちは皆、多くの時間を費やして考えるべきです。AIは人々の心を変えるべきかという質問については、簡単な方法は単に「いいえ」と言うことだと思います。これは、ほとんどの人々が取っている態度のようです。
OpenAIは最近、彼らの核心的な原則を示したモデル仕様書を発表しました。間違っていなければ、原則の5番目は「人々の心を変えるな」でした。彼らはそれを真っ向から核心的な原則として述べました。Anthropicもこのことについて多く語っています。「人々の心を変えるな」が非常に核心的な原則です。
しかし、それがみんなになるわけがありません。そして、セラピーについて考えているなら、人々の心を変えることが非常に根本的なことだと思います。セラピーで最も重要なことは、人々の心に神経可塑性のアイデアを開くことです。
私は、人々の自律性、有能感、関係性の感覚を高めるために、人々の心を変えたいと思います。人々がより主体的に、未来とより結びつき、価値観とより結びつくように感じてほしいのです。
しかし、そのプロセスには、「私の知性は私のアイデンティティの核心であり、その知性を非常に大切にしているのに、それが価値を失うかもしれない」という考えがあります。「私は一生懸命働いていて、家族と過ごす時間はあまりないけれど、世界を変えているから価値があるんだ」と人々に言っているのに、AIが来てあなたの仕事をもっと上手くこなせるかもしれないという考えが浮かぶのです。
そのようなことを知っている投資家から何度も聞きます。彼らは「私の仕事がAIで代替できるか」について本当に深く考えています。彼らは「私の仕事のこの部分、つまり人々に会い、握手をするという部分は、少なくともしばらくの間はおそらくできないだろう。しかし、どの案件を取るべきかを判断したり、市場を追跡したりすることはできるかもしれない。あるいは、100人いる我々の会社を5人に減らすことができるかもしれない。わからないが、たぶんそうではない」と考えています。
しかし、「私の知性は私のアイデンティティの核心であり、その知性を非常に大切にしているのに、それが価値を失うかもしれない」というその考えのプロセスがあります。「私は一生懸命働いていて、家族と過ごす時間はあまりないけれど、世界を変えているから価値があるんだ」と人々に言っているのに、AIが来てあなたの仕事をもっと上手くこなせるかもしれないという考えがあります。
これがどのように私たちの心を変えないのでしょうか。だから私が言いたいのは、AIが存在するという事実は、理論上でさえ、私たちの頭の中でさえ、私たちの仕事や知性に対する感覚を貶めることで、私たちの心を変えているということです。
一方で、互いのつながりの感覚を高め、意味のある価値観とのつながりの感覚を高めるために、AIが私たちの心を変える義務を無視することはできません。私は、AIがこの時期を乗り越えるのを助けることがほぼ義務だと思います。
そう、皮肉なことに、物理的なトラック運転手よりも先に私たちの仕事が自動化されるかもしれません。そして、私たちは自分自身を欺いています。なぜなら、新しいモデルが登場するたびに、それは本当に素晴らしく、斬新です。そして私はそれに慣れてしまいます。
Claude 3.5 Sonnetが出たばかりですが、本当に素晴らしいと言わざるを得ません。なぜなら、2つのレベルがあるからです。能力、つまり私が望むことを実際に確実に行うことができるかどうかです。Claude 3.5 Sonnetは狂っています。能力の大きな飛躍がどれほどのものなのか、私にはようやく理解し始めています。なぜなら、ちょっと試してみて、「ああ、そうか」と思っていたからです。そして使い続けていて、毎日「ああ、これは狂っている」と思います。
2時間のポッドキャストの書き起こしを与えて、あなたが言及したすべての外部論文、あなたが言ったすべてのことをリストアップさせることができます。昔は大変でした。それを小さな塊に分割しなければなりませんでした。今はただ動くんです。なぜなら、信頼性の問題の一部は、私がすべてをチェックしなければならないということです。そしてそれは、あなたがチェックする必要がないと感じるポイントに達しています。
しかし、もう一つの部分は、多くの活動において、現在はクレジットカードの理解です。つまり、技術的負債があります。はい、それは物事を行いましたが、私にはそれが何をしたのかわかりません。そして私はもはやその情報を他の人と共有することができません。これは腐敗のようなもので、広がっていきます。
あなたが言っているのは、たくさんのコードを生成して、それは機能するけれど、あなたにはそれが何をしているのか理解できないということですか？そして今、他の開発者との精神的な共有モデルがあり、彼らが「それは何をするの？」と聞いたら、あなたは彼らに言えないということですか？
はい、そうです。それは一種の腐敗で、広がっていきます。マインドセットが変わるまで、そうなります。私たちは、人間がコードを理解する必要がもはやないポイントに達するでしょう。システムがすべてを行い、自己修復できるからです。
しかし、ここでDavid Graeber（デヴィッド・グレーバー）の話を持ち出します。トラック運転手が必要なのは、それが物理的な物流だからだと主張できます。おそらく私たちの仕事はどちらにせよクソだったのかもしれません。おそらく、私たちがこれらのクソな仕事をしている何か他の巨視的な原因があるのかもしれません。そして、これらの仕事が自動化されたら、新しいクソな仕事を発明するかもしれません。
私たちがお互いにどのように関係するかという点で、私たちの仕事が意味があると感じることが価値があるということですか？
Graeberの本では、通常、高い地位を得ている人々は、3パイントのビールを飲んだ後、正直になり始め、彼らのすることには何の価値もないと言い出すと述べています。彼らは明日仕事を辞めても何の違いもないと。これには批判もあります。John Carmackは最近これを批判し、「これはクソだ」と言いました。しかし、多くの中産階級の職業、情報労働者は、実際には特に価値のあることをしていないという議論はあります。
私たちの仕事が価値があると感じる必要がありますか？それが実際に価値があるかどうかに関係なく。そして、多くの人々が内側で死にかけているのは、彼らの仕事が価値があると思っていないからですが、ここには興味深いものがあります。
あなたの仕事が価値があることと、あなたが仕事に価値があると感じることの違いを区別することです。これは仕事の性質にも関係しています。起こったことの一つは、人間ロボットです。現在、私たちにはロボットがほとんどありません。ロボットに取り組んでいる素晴らしい人々もいます。
しかし、私たちには人間ロボットがあります。Uberは典型的な例だと思います。以前は、非常に独立したタクシー運転手がいて、自分で時間を選び、好きなときに運転していました。基本的に自分の小さなビジネスを運営していました。自分のメダリオンを所有していました。
今では、アプリのために人間ロボットとして働いています。アプリはあなたにどこに行くべきか、いつ行くべきか、何をすべきかを指示し、あなたは「はい」をクリックして、車を運転します。
はい、意味の変化という点で、何か要素があると思います。あなたの価値は全く同じで、変わっていません。しかし、ある種の人間ロボットのように感じるという仕事の性質があります。
意味に関して本当に興味深い質問は、AGI（汎用人工知能）後も仕事をしたいと思うかということだと思います。うつ病の治療で本当に興味深いことの一つは、社会的処方という考えです。これは特定の管轄区域で行われており、本当に価値があります。うつ病の治療として人々に仕事を与えるのです。
誰かがあなたのところに来て、非常にうつ状態であり、あなたが「コミュニティガーデンがあります。それの世話をしてもらう必要があります」と言います。明らかに、あなたは弁護士として時給1000ドルの仕事をしているので、これを行うのに適していません。本当に弁護士として時給1000ドルを稼いでいる人を連れて行って、庭の世話をさせるのでしょうか？はい、そうします。
これは今日行われていることで、実際に効果があります。なぜなら、その後、その畑に行って、実際に植物から雑草を引き抜くようなことをすると、それが実際にあなたの気分を良くし、うつ病の症状を和らげるのに役立つ可能性があるからです。これは今起こっています。
だから、これが何らかの形で私たちにインスピレーションを与えるべきかどうか疑問に思います。はい、私たちは仕事が意味のあるものでなければならないという本質的な感覚を持っているのでしょうか？あるいは、分単位、時間単位で実際にどれだけの自律性を感じるかという点で、仕事の性質の要素が価値があるのでしょうか？
庭にいるとき、Uberのためにタクシーを運転するときよりもはるかに多くの自律性を感じます。少なくとも、仕事が実際に価値があるかどうかという質問と、仕事が価値があると感じるかどうかという質問を分けることができるかもしれません。
AIに人間だと言ってほしいのか、それともAIだと言ってほしいのかという精神で、あなたの仕事が意味があり価値があると言ってくれる仕事が欲しいのか、それともより地域的なものでよいのでしょうか？このガーデンは価値があります。なぜなら、人々がそれを通り過ぎるときに微笑むからです。そして、これは実際に美しいものになるでしょう。しかし、それはあなたの周りの近所の人々だけのためです。これはグローバルなものではありません。あなたは世界の飢餓を解決しているわけではありません。気候変動を解決しているわけでもありません。
なぜなら、おそらく私たちはこのポイントに達するでしょう。気候変動研究は、少なくともこれは私たちが概念化できるものですが、想像してください。Greta Thunbergのような人がいて、気候変動について本当に動揺しています。良い理由があります。そして「私は人生を気候変動に捧げたい。それを研究し、それに取り組みます。必要なら1日27時間働きます。何でもします」と言います。
そしてAIがやって来て、人間化して考えてみると、「それはかわいいですね。とても素晴らしいです。でも、あなたにできる最善のことは私の邪魔をしないことです。なぜなら、私が研究に取り組んでいるからです。そして、あなたは私よりも100万倍愚かです。なぜなら、私はこの全知のAIで、すべてを知っていて、信じられないほど強力だからです」と言います。
そして、このGretaのような人が「いいえ、でも私は本当に世界を変えたいのです。これは非常に大きな問題です」と言います。AIは「あなたがそう思っているのはわかります。でも、あなたの仕事はそこでは価値がありません。真実は、これはひどいと思うかもしれませんが、あなたの脳がどのように機能するかを私は知っています。もしあなたが庭の世話をするだけなら、それがひどいと信じるのは大変だと思いますが、庭を植えるだけで、実際にはるかに達成感を感じ、はるかに幸せになり、はるかにつながりを感じるでしょう。そして、世界中の誰もが庭を植えることに取り組めば、あなたはより良く感じるでしょう。私は気候変動を解決しようとする実際の困難な仕事をします」と言うのです。
庭の世話をするというのは本当に興味深い例です。なぜなら、それは目的意識だと言えるからです。明らかにエージェンシーの減少です。そして、そこに到達します。なぜなら、あなたはそれに同意しないかもしれませんし、実際に私たちはエージェンシーについて意見が分かれていることを知っています。それが私の次の質問です。
しかし、私はそれを実際には気晴らしの一形態として考えています。そしてそれは良いことです。なぜなら、多様な方法で、多くの治療法は実際にあなたの本当の苦しみの源から気を紛らわせるからです。そしてそれは完全に良いことです。
また、一般的な力を求めるプログラムについても、私はそれを認知テンプレートとして考えています。それはあなたにとって信じられないほど悪いです。なぜなら、それは快楽主義的なトレッドミルであり、あなたは決して幸せになれず、決して十分に力を持つことはないからです。
誰かがあなたに「ほら、Daniel、あなたはこの力を求めることで本当に時間を無駄にしています。世界を変えようとするのをやめなさい」と言うのが最善のことです。Keanu Reevesについてのミームがありました。彼は「私はもう気にしない年齢になりました。誰かが2+2=5と言っても、そのまま続けてください」と言いました。
そこには何かがあります。しかし、庭の世話をすることの価値にも同意します。それは客観的に価値があり、それがローカルな空間にしか存在しないことは重要ではありません。そこには大きな価値があります。
しかし、目的意識とエージェンシーについて、あなたは面白いことを言いました。このスタジオに入ってきたとき、あなたは薬物中毒者の意志的行動について疑問を投げかけていました。例えば、私がクラックコカインの中毒者で、非常に反復的な行動をしているとします。もちろん、もっとクラックコカインを手に入れるために人々に嘘をつかなければなりません。しかし、私にとってそれはエージェンシーの究極の減少だと思います。あなたは同意しますか？
それは本当に複雑な問題だと思います。エージェンシーは個人のアイデンティティより多くの疑問を投げかけると思います。間違っていなければ、あなたはエージェンシーについて道具主義的な見方を持っていましたね。エージェンシーは実在しない「引用符付き」ですが、私たちが概念化し、信じる必要があるもの、あるいは互いに見る必要があるものだということです。
私は、それを個人のアイデンティティに向けることができると思います。同様に、Humeの概念が好きです。人とは何か、人はただのアイデアと知覚の束だという束理論です。畑を歩いていて、小麦の束を想像してください。物事が落ちていき、新しい小麦の断片を拾っていきます。束は変わりません。もちろん変わりますが、ある意味では変わりません。それはどこか中間にあります。
薬物中毒者についても同様です。精神医学的障害の哲学についての本当に簡単な逃げ道は、「悲しいのは私ではなく、私のうつ病だ」「薬物を欲しがるのは私ではなく、私の中毒だ」というものです。
本当に難しくなるのは、特に中毒の場合、人々が中毒をサポートするために非常に洗練された行動を行うことです。これは以前私が言及していたことです。ギャンブル中毒の例がたくさんあります。ギャンブル中毒の場合、お金が必要です。それが必要な核心的なものです。お金を手に入れるのは難しい場合があります。
人々がよくすることは、子供の大学貯金口座を使い果たし、銀行を説得してお金を現金で渡してもらい、カジノに行ってギャンブルをして全てを失うことです。そのためには、洗練されたプロセスを経る必要があります。スーツを着て、ストーリーを語り、スクリプトを書き、場合によっては署名を偽造します。
これは非常に高次の推論、計画、前頭前皮質に関連付けられるすべてのこと、複雑な単位として関連付けられるすべてのことのようです。そして、あなたがそれを見て、「ああ、中毒を感じたのは私ではなく、脳内のこの腫瘍が活性化していた」と想像するなら、問題は、それが脳の一つの領域である可能性はないということです。それはあなたの脳全体でした。それはあなたの前頭前皮質でした。
あなたである部分とエージェントである部分、そしてあなたではなく病気である部分に脳を分割する方法はありません。しかし、あなたが言っていることも完全に理解できます。「私ではなく、私の中毒だった」と言う瞬間、私はエージェントが少なかったと言おうとしている「私」です。何かに強制されました。
個人的には、これについてあまり意味を持たせるつもりはありませんが、これらの束の観点の方が好きです。「私ではなく、私の中毒だった」という概念を許さないものです。あなたは「それは私であり、中毒は私の一部です。私は中毒者です」と言わなければなりません。
私が言いたいのは、本当にギャンブルがしたいということです。あるいは、本当にギャンブルをしたいということです。これは、人々が中毒のヒューミアン概念と考えるものです。中毒とは、何かに対する非常に強い欲求を持つことです。
その欲求を持ちたくないという欲求も同時に持っています。「本当にギャンブルがしたい。でも、ギャンブルがしたくないという欲求も本当に持ちたい」と言います。これらが矛盾しているからといって、ギャンブルが私であるとか、私ではないとは言えません。
ギャンブルするとき、それは私です。なぜなら、本当にギャンブルがしたいからです。ギャンブルしないとき、それも私です。なぜなら、おそらくその欲求を抑えるための行動を取ったからです。例えば、銀行に行って「1年間お金を引き出させないでください。凍結してください」と言います。
凍結するように言ったのは、ギャンブルがしたいからではありません。ギャンブルがしたいですが、ギャンブルがしたくないという欲求を持ちたいからです。そして、その行動が...あるいは、アルコール中毒者の典型的な例は、バーの1ブロック以内を歩かないことです。なぜなら、バーを見ると飲みたくなるからです。
バーの可視性、バーを見ることが文字通にその欲求を脳内で増加させます。ダイヤルが欲求で上がるのを想像できます。その欲求が上がってほしくありません。欲求を低くしておきたいです。だから、バーから離れます。
「私」とは何でしょうか。単純にヒュームの観点から信念と欲求の観点で考えるなら、ギャンブルをしたい「私」はあるのでしょうか。ギャンブルをしたいのは私ではなく、私の中毒だと言うのは非常に難しいと思います。
エージェンシーと個人のアイデンティティをほぼ関連する概念として考えているようですね。これについて話してみましょう。混乱する点は、個人のアイデンティティとエージェンシーには物理的な形態と社会的な形態があることです。
例えば、あなたは物理的なエージェントであり、あなたの物理的な体はアイデンティティです。しかし、少なくともGDPR規制によると、あなたの個人のアイデンティティは拡散しています。それは、そこにあるこの電子的な情報のデジタルコレクションとして定義されています。
また、あなたのエージェンシーも社会的に拡散しています。なぜなら、あなたのエージェンシーは、あなたのTwitterアカウントや、これらすべての異なるものの模倣的な領域だからです。そして、これらすべてのものが実際に世界に因果的な圧力を持っています。人々はあなたのツイートに反応し、あなたに返信し、あなたの行動に影響を与えます。
つまり、エージェンシーと個人のアイデンティティの広い雲があり、それらは完全には重ならないのです。
あなたが言っていることに同意します。誰かが何かに中毒になっている場合、「それは猿の脳だ」とか「それはドーパミンシステムだ」とか、「それは私なのか」などと言うのは意味がありません。そのような一般的な理解があることは認識する価値があると思います。
私は人々がそのように考えていると思います。「私ではなく、私の不安だった」と言います。「私は不安な人間だ」とは言わずに。これは、人々がどのように考えているかを述べているだけです。
薬物が特定の種類の欲求をオンまたはオフにする場合に最も奇妙になります。しかし、ここで私の外在主義的な枠組みが少し入ってきます。なぜなら、あなたは以前、興味深いことを言っていました。私たちは役者のようなものかもしれない、つまりシミュレーターとシミュラクラのようなものだと。
私たちは役者で、異なる状況で現れます。薬物中毒者が薬物販売者の近くに行くと、突然その... インパルス反応機械として考えてみましょう。彼らは実際には自己一貫性も、エージェンシーも、欲求も何も持っていません。薬物販売者の隣にいる状況にいるとき、新しい役者が現れます。その状況にいることによって現れるのです。
あらゆる意図と目的において、彼らはその瞬間には別人です。少なくとも、これらのアイデンティティをコントロールすることに、セラピーの中でそのような重点が置かれているのは実用的に興味深いと思います。
パーツセラピーでは、あなたには多くのパーツがあるという考えがあります。人々が薬物を欲しがる部分を本当に概念化するのを助けようとします。人々がアイデンティティを分解できるようにするこの物語を発展させるのを助けようとします。それが治療的になるという考えです。
同様に、多くのセラピーで、誰かが「高校ではどうだった？」と言い、あなたが「ああ、高校ではいじめられました」と答えるような会話をします。4年間高校に通い、1年に365日あるとすると、それはたくさんの日数です。毎日いじめられることはあり得ません。百万の異なる経験をしたはずです。
しかし、あなたは物語を持って来て、それに取り組み、物語を持って出ていきます。もし何かあるとすれば、セラプィはあなたがより明確な物語を発展させるのを助けることができます。それはおそらくあなたの将来の行動に影響を与えます。なぜなら、あなたはより一人の人間として考え、したがって薬物販売者のそばにいるとき、あなたは過去とより結びついた、より単一のアイデンティティを持つ、より固体の人間として考えるからです。そして、それが薬物を欲しがる「アイデンティティ」や「役割」が出てくるのを阻止します。
私は直接あなたの言及した点、つまりその瞬間にあなたは何なのかという点には触れていません。しかし、これらのものが変更可能であり、私たちが治療的だと考えるものとしてそれらを積極的に変更しようとするのは非常に興味深いと思います。
はい、そして記憶を構築しますよね。つまり、実際には真実ではない物語を持つことができます。人々は完全に、自分の高校時代について単に真実ではない物語を採用することがあります。だから、それを拾い上げているだけだと言うのは難しいです。ただそれを言及したかっただけです。偽りの創造の物語に基づく個人のアイデンティティを発展させることは可能です。
はい、しかしこれは部分的にセラピーに大きな責任があるからです。なぜなら、基本的に人々に「この意図的な立場を採用しなさい。これはすべてあなたの母親のせいです。だからもうお母さんと話さないでください。彼女は明らかに何か大きな計画を持っていたのだから」などと言っているからです。
これが問題です。私たちは常にこの種の帰納を行っています。世界を説明するためのこれらのモデルを持っています。しかし、私が言おうとしていたのは、人々は私たちが役者だということを認識しているということです。友達といるときは別のダニエルで、ビジネスの場では別のダニエルです。
しかし、私たちはまだ一貫した個人のアイデンティティについて深く持っている信念があります。おそらく信念や美徳、あるいは何かの観点からです。そして、私たちが一貫していないときに認知的不協和を引き起こし、それが一部の作り話や確証バイアスを引き起こします。あなたが言及していたことです。
はい、同じ日に直接矛盾する2つの信念を持っていることを指摘すると、あなたは認知的不協和を感じ、不快感を感じます。一貫性を保つために変化したいと思います。
そうですね。哲学的な観点から見ると、あなたは一人の人間なのかという点は重要です。狂気の瞬間があって、非倫理的な行為を行った場合、殺人を犯した場合、あなたは刑務所に行けますか？あなたは同じ人間で、道徳的責任を負うのでしょうか？これらの質問は重要です。
私は「Determined」という本に非常に興味を持ちました。私はMichael Vassar Komisarを招きました。私はSapolskyの「Behave」が大好きです。あなたは自由意志決定論者ですか？
最近は迷っています。なぜなら... Peter Fentonと1時間以上、決定論について話しました。彼はベンチマークの人です。彼はSapolskyと強く同意して、決定論があるので自由意志はないと考えています。私はHumeやネオヒューム派の考え方が好きです。自由意志と決定論は両立可能だと。
私たちが証明しようとしている種類の自由意志は意味がありません。私たちは、信念と欲求に従って行動する限りにおいて自由です。
正直なところ、私は決定論者です。なぜそれが問題になるのか理解できません。私の頭で理解できません。だから私は確かに決定論者です。エージェンシーとフリーウィルについて気にかけています。私にとって、エージェンシーとフリーウィルは全く関係ありません。
興味深いですね。私はむしろ人々にフリーウィルという言葉の使用をやめてほしいと思います。実際、MLSにいる時以外は、フリーウィルという言葉を決して使いません。あまり気にしません。
基本的にホムンクルスの観点があります。これは、自由に行動する高次の部分がAIにあるという考えです。あなたの最近のポッドキャストの1つで、ニューラルネットワークのホムンクルス部分があり、次のトークンの確率分布を見て、それを上書きするというアイデアを聞きました。
明らかに、その種のものはエージェンシーですが、フリーウィルではありません。私は単に言っています。フリーウィルの部分はより実用的だと思います。フリーウィルの部分は...人々はこのトピックについて本当に感情的になりますが、フリーウィルのこのアイデアは、単に自由や、エージェンシーや、リバティとして書き換えることができると思います。
古い文献ではリバティという言葉がよく出てきます。それは単に、ある行動を実行したとき...これが本当に好きなフレーミングです。よく知っている友人がいて、その人が銀行強盗をしていると聞いたとします。「何てこと？その人が銀行強盗をするなんて信じられない。狂っている。その人のことをよく知っている。その人の信念と欲望を知っている。その人がどんな人間かを知っている。そんなことはあり得ない」と思うでしょう。
私の推測では、その人は自由に行動していないということです。誰かが銃を突きつけているのか、家族の誰かが誘拐されたのか、詳細はわかりませんが、その人が自由に行動していないと賭けます。これは強い直感です。
そして、それを解きほぐすと、おそらく私たちが言っているのは、異なるレベル、異なる程度で自由に行動するということです。私たちは、自分の信念と欲求にもっと従って行動するときにより自由に行動します。自分の信念と欲求に反して行動するときにはあまり自由ではありません。
おそらく中間点もあります。例えば、薬物中毒者が薬物を使用したとき、自由に行動したかどうかを尋ねると、あなたは「はい、薬物への欲求をその人自身と考える限りにおいて」と答えるかもしれません。「いいえ、薬物への欲求をその人自身ではないと考える限りにおいて」と答えるかもしれません。
これは、なぜ一部の人が「はい」と言い、他の人が「いいえ」と言うのかを説明し、少なくとも解釈可能で意味のあるものになります。あなたが考えるエージェンシーとは異なると思いますか？
物理学的な説明をして、決定論的な宇宙に住んでいて、量子場理論まで降りていって、すべての粒子の相互作用があり、光円錐があり、すべてが決定論的だと言うことができます。それは大丈夫です。それを受け入れる準備はできています。量子非決定論のような議論もありますが、それは欲しい種類の非決定論ではありません。
しかし、あなたが今挙げたすべての例は、私にとってはフリーウィルとは全く関係ありません。Dennettがこの議論をしました。解放的なのは、フリーウィルとエージェンシーが全く関係ないことを認識することです。
フリーウィルは重荷のある言葉です。私はそれを認めます。自由や自由意志、あるいは何と呼びたいにせよ、この概念は、心理学について話すときに意味があると思います。人は犯罪で罰せられるべきかを話すとき、その問いは「その人は自由に行動していたのか」ということです。そしてその問いは意味があると思います。
もし人が自由に行動していなかったなら、強制されていたから、やりたくないことをしていたのだから、その犯罪に対してより責任が軽くなるべきです。それは意味があります。それは本当です。そして私には精神科医の友人がいます。彼は英国での強制の恐ろしい話を聞かせてくれました。
例えば、獣姦の例がありました。別の例では、インドに戻るよう強制されていた女性がいました。彼女は上司に強制されていて、自殺して子供たちも殺すことにしました。彼女は長い間刑務所に入れられました。このような例は多くあり、明らかにこの人は状況の犠牲者でした。
だからこそ、あなたが話していた個人のアイデンティティに関する質問は避けられないと思います。それらは本当に重要です。「これは同じ人物なのか」という質問をするためです。「脳腫瘍が私を悪い人間にした。手術を受けて腫瘍が取り除かれた。今は別人だ。以前のことに対して私はより罪が軽いのか」という古典的な例を受け入れるなら。
私たちは法制度を変更するかもしれませんし、変更しないかもしれません。単にエッジケースだから無視しようと決めるかもしれません。しかし、自由に行動することについて考えるとき、それは意味があります。なぜなら、その新しい人が「自由に行動していなかった。腫瘍が私にそうさせた」と言うのは完全に理解できるからです。
彼らが本当に言おうとしているのは、「腫瘍を持っていた私は、今日の私とは別人だ。その違いは重要だ」ということです。だから私は、フリーダムという概念、つまり人々が野生で知っている概念は意味があると思います。それは哲学者のバージョンや、私たちが長い間話してきたより魂志向のバージョンとは少し異なるかもしれません。
とにかく、私はそれが意味があると思います。それは個人のアイデンティティの問題に帰着します。明らかに、個人のアイデンティティは変更可能です。ここで言いたいことの一つは、AIが私たちの心を変えることについて話したとき、個人のアイデンティティが固定されていないという事実について本当に重要なことがあります。
これを言うとき、重要だと思います。つまり、人々に知ってほしいと思います。私たちが固定されていると信じる本当に重要な方法があると思います。うつ病や不安について言及しました。実際、アメリカで - イギリスでも同じだと思いますが - 私たちが狂ったように診断することは非常に有害だと思います。
なぜなら、診断は治療へのアクセスを与えるためのツールになったからです。私の共同創業者のNeilと私が始めたとき、毎日セラピストと話し、何ヶ月もかけて彼らにインタビューし、彼らの人生や彼らが何をするかについて尋ねました。
私たちがよく聞いたことの一つは、人々が診断をキャンディのように与えることについてでした。基本的に、人々が言うことは、「誰かが私のオフィスに来て、本当に苦しんでいて苦労しています。私は彼らを助けられると信じています。彼らに治療を受けさせるために、診断を与える必要があります。」
「これは単に、保険が物事に支払う仕組みです。そして患者はそれが本当ではないことを知っています。私が与えなければならないから与えているということを知っています。」そして私は「でも、彼らはそれを知っていますか？」と尋ねます。彼らは「たぶん知らないかもしれません」と答えます。
人々が少し反省して、「私は少し怪しい領域にいて、人々をより悪くしているのではないかと不安です」と言った回数は数えきれません。そうですよね、もちろんそうです。明らかに、診断の世界があるなら、直感的な理解は、診断はあなたの状況に行くのではなく、あなたという人間に行くということです。
あなたはただのTimからうつ病のTimになります。うつ病のTimは常にうつ病のTimになるでしょう。これはあなたの性格の核心です。そして、これがただの今このときのあなたではなく、あなたの個人のアイデンティティにとって本質的なもの、あなたの人生を通じてあなたと一緒にいるものだと、ますます信じなくなります。
私たちは、そのような診断を付けることに非常に慎重であるべきです。これらの概念を本当に変えるべきです。なぜなら、それは脳の働き方ではないからです。人々は長い時間の経過の中で同じではありません。
Johan Hariは、彼の本の中で悲嘆の例外について書いています。あなたに送った本です。悲嘆の例外は、愛する人を亡くした直後にうつ病のすべての症状を示している人は、うつ病ではなく、診断できないという考えでした。
なぜなら、あなたの近しい人が亡くなった直後に極度のうつ状態になるのは完全に理解できることだからです。あなたには何も問題がありません。もちろん、社会から引きこもります。もちろん、一日中悲しいです。あなたの近しい人が亡くなったのです。それは完全に合理的です。それは全く理にかなっています。
そして、私たちはその定義から離れてきました。今では実際に、悲嘆を経験している人々をうつ病と診断することができます。なぜなら、私たちは非常に奇妙な状況的なものに落ち着いたからです。
もしすべてのうつ病が理解できるものだったら、あるいは少なくとも99%がそうだったらどうでしょうか。誰かがあなたのところに来て、「私はうつ病です」と言います。あなたは「他の人々とどれくらいの時間を過ごしていますか？」と尋ねます。彼らは「あまり多くありません」と答えます。あなたは「わかりました。なぜあなたがうつ病なのかわかりました」と言います。
私たちの個人のアイデンティティは変化します。これは非常に重要です。人々はこのことを認識すべきです。私たちが人々を診断し、ラベル付けしすぎて、持続的なアイデンティティについてのこの偽りの感覚を作り出したのは失敗だと思います。私たちがそれほどその感覚を持たない方が健康的だと思います。
はい、あなたが強調しているのを聞くのは非常に興味深いです。私たちが着ける仮面、私たちが演じる役割、アイデンティティ、自己感覚が実際に行動変化の興味深い源になるということです。
そうですね。人々が治療的だと感じる有用なことの一つは、異なるアイデンティティで遊ぶことです。嘘をつく能力、アイデアで遊ぶ能力、何かを上手に言う能力、新しい役割を試す能力です。「もし私がこのような人間だったら？もし私があのような人間だったら？」というようなことです。
また、以前ソーシャルメディアについて言及したことも述べたいと思います。明らかに、ソーシャルメディアはこれに有害です。人々が3年前のあなたの会話のスクリーンショットを撮って、「ほら、これがあなたが当時言ったことだ」と言えるという事実です。あなたは「明らかに、私は別人です」と言います。
スクリーンショットを撮ることができない世界では、私たちは皆、時間とともに私が別人になることを知り、認めるでしょう。しかし今、私たちは...私は、ソーシャルメディアや技術のような物事のために、私たちが実際にこの持続的な自己感覚を有害な方法で信じているのではないかと疑問に思います。
あなたは非常に興味深いことに触れました。それは、私たちが自分のアイデンティティをコントロールする能力についてです。Jon Ronsonの素晴らしい本がありました。「So You've Been Publicly Shamed」(あなたは公に辱められた)というタイトルです。Justine Saccoという女性の話がありました。彼女は人種差別的なツイートをして、飛行機に乗って別の国に飛び立ちました。着陸したときには、基本的に彼女のキャリア全体が終わっていました。
要点は、あなたのアイデンティティがオンラインにあるため、自分の物語をコントロールする能力を失うということです。彼女は常に人種差別主義者であり、残りの人生をそう見られることになりました。
しかし、それは学校にいるときのことも思い出させます。「今週は本当にクールになろう。エモキッドになろう」とか何か別のことをしようと思います。しかし、友達がそれを許してくれません。クリスマスに家に帰ると、両親があなたを子供として扱い、カリスマ的で成熟した人間になることを許してくれません。
それは、あなたの個人のアイデンティティの拡散によるものです。なぜなら、あなたのアイデンティティは、他の人々があなたについて考えていることによってほぼ押し付けられるからです。
学校でこれに気づくと思います。あなたはこれらすべのポップスターに触発されます。明らかにできますが、難しいです。なぜなら、友達が「なぜエモのように服を着ているんだ？なぜこんなことをしているんだ？」と言うからです。そして、その同調性が入ってきます。人々はあなたに変わってほしくありません。変わることを許してくれません。
そして、YouTubeのような興味深いことがあります。あなたは変わることができます。なぜなら、すべてのビデオを編集し、公的なペルソナが一緒に行くことを確実にできるからです。
これは全体的なローカルvsグローバルの話にも関連します。より少ない人々と時間を過ごすなら、あなたが言っているように、学校での関係があれば、少し安定した性格を持つことを強制されます。なぜなら、マスクをしていないとき、または別のマスクをしているときでも、同じ人々と時間を過ごさなければならないからです。
あなたの関係をセグメント化し、技術を使って「今は悲しいから、幸せなバージョンの私しか知らないあなたとは話したくない。幸せになるまで話さないでおこう」と言えるようになればなるほど... うーん、それはひどいですね。
はい。あなたのスタートアップについて話しましょう。リーダーとして、あなたは私にこれら2つの論文、Nature論文とJMIR論文を送ってくれました。それらを画面に表示しましょう。要するに、両方のケースで、一方は抑うつを大幅に減少させ、介入として、もう一方は社会的相互作用を大幅に刺激しました。これは、基本的にチャットボットと話すだけでした。
治療的介入として、これは非常にうまく機能します。必ずしも高額な精神科医に会う必要はありません。そして、あなたはこの分野でスタートアップを立ち上げています。何をしているのですか？
はい、これらの論文について話すことができます。私が思うに、これらの論文が示しているのは、非常に初期のバージョンのAIでさえ、人々に影響を与えることができるということです。治療同盟、人々との結びつきをもたらすことができ、肯定的な結果をもたらすことができます。
実行可能性の面では、そして、人々がこれを行うだろうということです。私たちが好むかどうかに関係なく。
そう、私たちが構築しているものについてですが、私の共同創業者のNeilと私は、ちょうど始まったところです。私たちはここでの旅のかなり初期段階にいます。
しかし、基本的に高レベルでは、私たちのミッションはAIセラピストを構築することです。人々が望む方法で彼らの心と人生を変えるのを助けることができるAIを構築することです。
高レベルで直面している問題は、私たちが少し話した不安やうつ病の蔓延する問題です。もう一つの側面は、あなたも言及しましたが、セラピストを探している人々と、それを提供する人々の比率が約1対10,000であるということです。
だから、行動健康コミュニティ内では、単に十分な人々がいないということに疑いの余地はありません。十分な人々が決していないでしょう。AIを除いて、アクセスを拡大する実際の道はありません。
そして、人々はおそらく良い理由でセラピストを望んでいます。なぜなら、私はセラピストが魔法を行うと思うからです。セラピーとは何かという質問さえ話す価値があります。
私たちがその用語を使用する理由は... つまり、セラピーはAPAによって定義されています。精神療法士が患者と治療的な設定で過ごす時間は何でもセラピーです。基本的にそうです。それは奇妙なカテゴリーで、おそらくこの種の全体論的な古代の役割が私たちの社会にあるというものです。現代の心理学によって作られたこの現代的なものというよりは。
心理学の分野は、その役割を固めるために多くの証拠に基づく研究を行ってきました。それがより安全で、より確立され、より有用で、より一貫性があることを確認するためです。私たちはおそらくその旅の非常に初期段階にいますが、これらの人間の相互作用には明らかに何かがあります。それらは治療的で、違いを生み、人々が望む方法で彼らの心と人生を変えるのを助けます。実際に多くのことに役立ちます。たとえ私たちが正確に何が起こっているのか完全に理解していなくても。
私とNeilにとって、これを見回して、興味深いのは、今日のところ、Y Combinator風の初期段階のスタートアップがいくつかあることです。彼らは楽しんでいて、「ねえ、ChatGPTのためのプロンプトを作ったよ。今はセラピストだ」と言っています。
しかし、これを真剣に取り組んでいる本当の企業はありません。私たちの観点からすると、AIセラピストを構築することは難しい問題だと思います。なぜそれが本当に難しいと思うのか、話すことはできます。それはまた、信じられないほど影響力があります。非常に真剣に取り組む必要があります。
私たちの観点では、誰かがこれをするなら、私たちは正しくやるつもりです。それが私たちが始めたところです。
コンテキストとして、Neilは10年以上前にCasperを共同設立しました。これはマットレス会社でした。彼のミッションは基本的に、睡眠をクールにすることでした。睡眠のブランドを作ることでした。
睡眠は明らかに健康、精神的健康に不可欠です。そして、何らかの方法で、彼は世界に大金を使ってマットレスを家に配送させることに説得しました。
彼は5億ドル以上の収益を上げ、IPOし、退出しました。そして過去2年間、主にこの分野、健康、精神的健康に関するスタートアップに投資してきました。彼は200以上のスタートアップに投資し、この種の夢を持っていました。つまり、本当に大きな問題に取り組むことができるチームを見つけることです。
つまり、人々が心を変え、人生を変えるのを実際にどのように助けるかということです。特にAGIの観点から、AIが私たちの自己認識をどのように変えるかという圧力の下で、AIがこの問題を解決するためにどのように使用されるかということです。
私自身については、父は心理学者で、母はソーシャルワーカーです。私は長い間エンジニアリング側にいました。8歳からコーディングを始めました。2015年頃にAIに興味を持ちました。
実際、16歳で高校を中退しました。ロンドンに引っ越して哲学を学びました。特に学部では心理学の哲学を学びました。学部の論文は洗脳についてでした。面白いことに。中毒に関する研究もしました。それが私たちが今日話していた理由です。意志力とは何かについてです。
学部時代に講演をする機会があり、そこでイギリスの女王に会いました。それは素晴らしい時間でした。心理学の哲学については、今日私たちが話したことの多くについて、多くのことを言うことがあります。
大学院では、インペリアルでAIと精神的健康に関する研究を行いました。そして、それは精神的健康の分野が心理学の専門家、善意を持つ人々、セラピストによって非常に支配されていることを示しました。
しかし、技術的な観点からすると、この分野での影響は技術から来なければならないという苦い教訓を受け入れています。誰もそれをそれほど真剣に受け止めていないと思います。
それが私たち二人をこのプロジェクトに導いたものです。私たちはそれを非常に真剣に受け止めています。私たちのチーム、私たちが倫理的責任をどのように考えるかという点で、あなたと共有したものの一部は、私たちが行っていることについて恐れさせるべき本を私たちのチームに読ませます。
リスクを心配し、影響について考え、巨大な責任について考えてほしいのです。なぜなら、他の人々が十分に責任を真剣に受け止めていないと思うからです。
現在、私たちはこの分野でヘッドスタートを持っていると思います。かなりの額の資金を調達しました。そして、このすばらしいチームを構築しました。しかし、私たちは真剣に受け止めています。つまり、役立つ方法で技術を構築し、理想的には可能な限り害を最小限に抑える方法でです。
歪んだインセンティブについて話しましょう。Abigail Shrierの本で彼女は、アメリカでの心理療法の市場化のために、セラピストは基本的に本当の問題を抱えた人々、例えば統合失調症の人々を引き受けたくないと言っています。
彼らは、少し不安やうつ病を抱えた10代の女の子を引き受けたいのです。毎週戻ってきて、親が毎週支払ってくれます。彼らはただいくつかの薬を与え、すべてが良好です。明らかに歪んだインセンティブの問題があります。
AIバージョンでこれがどのように改善される可能性があるでしょうか？
はい、Abigail Shrierの本は私を怖がらせました。この分野を見ている人々には絶対にお勧めします。私たちの会社では、最初の章である「医原性」を全員に読むことを要求しています。
彼女は基本的に、潜在的に癒すことができるものは害を与える可能性があると主張しています。つまり、セラピストが医療を行っているなら、人々を助けているなら、心を変えているなら、明らかに害を与える可能性があります。
初めてそれを読んだとき、正直に言うと驚きました。そして振り返ってみると、それがどうして明らかでなかったのかと思いました。しかし、はい、直感は、誰かがセラピストのところに行くのは厳密に良いことのはずです。セラピストに行くことがどうして有害である可能性があるのでしょうか？しかし、それは可能です。
ここで言うべきもう一つのことは、セラピーの需要が非常に高まったため、セラピストの数を拡大する本当の努力がありました。これはしばしば、セラピストになるための資格を減らすことを意味します。
したがって、プールが拡大するにつれて、私の研究で多く出てきたことの一つは、セラピストの質が確実に重要だということです。スキルは重要です。そして、この分野は大きく無視されてきました。セラピストのスキルに関する研究はほとんどありません。
セラピストを選ぶとき、彼らが言う専門分野や得意なことに基づいて選びます。スキルに基づいて選ぶわけではありません。
あなたがインセンティブについて言及していることは関連があります。なぜなら、私は素晴らしいセラピストたちの周りで多くの時間を過ごし、彼らは本当に人々を助けることに興味があると思うからです。人々を助けたいセラピストたちの間でよく出てくることの一つは、彼らはコンタクトタイムの量を最大化しようとしていないということです。
セッション中に誰も変わらないということをセラピストたちからよく聞きました。彼らはセッションの間に変わるのではなく、セッションの間に変わるのです。私の仕事は、セッションの終わりに適切なアイデアで彼らをプライミングし、正しいことを考えさせ、行動の活性化につなげることです。
友人との間で何か素晴らしいことをすれば、おそらく行動そのものが、私がセッション中に言ったことよりもはるかに彼らを変えるでしょう。比較的短期間のセラピーについての研究がたくさんあります。これらは必ずしも民間のセラピストのインセンティブとは一致しません。固定された期間が非常に役立つ可能性があります。
インセンティブ構造について、完全に答えていないことは分かっています。ここであなたに押し返してもらいたいです。短期的には、セラピストはセッションごとに支払われます。
また、アメリカでは保険システムの中で、従業員が雇用主のところに来て「セラピーに行きたい」と言うということもあります。セラピーに行きたい理由は、セラピーに行きたいからです。苦しんでいないわけではありませんが、主な動機はしばしば単に「セラピーに行って、どんなものか見てみたい、どのように役立つか見てみたい」というものです。
現在、供給不足が非常に深刻なため、雇用者健康保険のある多くの従業員がセラピーにアクセスできません。単に十分なセラピストがいないのです。イギリスでは、1年以上の待機リストがあります。
NHSの目標は、NHSセラピーの資格がある人々のうち、実際にセラピーにアクセスできるのは5人に1人だったと思います。現在の数字は18%だったと思います。5分の1の閾値にさえ達していません。それは狂っています。
単に十分な供給がありません。だから、これの一部は、誰かの目標がセラピストに会うことであって、特定の行動変化を実行することではないということです。それは狂っているとは思いません。セラピストと話したいと思うのは理解できます。誰がそうしたくないでしょうか。
そして、保険会社があり、その主な動機は、従業員がセラピーにアクセスできるように、セラピストの供給があることを確認することです。ここには多くの奇妙なインセンティブがあります。あなたの指摘に直接答えているかどうかわかりません。
そうですね、Shrierが言っていたことの一つは、例えば私があなたのセラピストで、処方箋を出すとします。あなたが言ったことはすべて正しいです。彼女は、昔は非常に資格のある医師や専門家だったと言いました。
若い頃、Steven Groszの「The Examined Life」という本を読みました。彼は35年間の心理療法の経験について語っており、カウチでの多くの魅力的な話がありました。それが私の興味を本当に引き起こしました。おそらく、それが心理療法のあるべき姿だと思います。
しかし、今では多くの人々が実践しており、有害な副作用があります。それらは測定されません。また、心理療法士がそれを自分の責任だと考えています。「治療が効いていない。それは私の責任だ」と。だから、認めないインセンティブがあります。
AIシステムを構築する場合 - そして私はその考えに賛成し始めています。最初は非常に懐疑的でした。AIシステムは完全に異なるはずだと思いました。しかし、予備的な証拠によれば、そうでない可能性があります。効果的である可能性があります。
しかし最も重要なのは、データを持っているということです。副作用を実際に測定し始めることができます。そして、多くのデータがあれば、システムで何が起こっているのか、これらの介入の効果が何であるのかを本当に理解し始めることができます。
全くその通りです。私が言おうとしていた部分は、アクセスの全体的なことについてでした。セラピストは典型的に、患者と過ごす時間の量によって経済的に動機づけられます。そのインセンティブ構造は、人々を助けるインセンティブ構造にはなりません。
私が指摘しようとしていた大きなリスクは、Abigail Shrierの本が一般的に子供たちがセラピーに行く場合に焦点を当てているということです。そこでは最悪のインセンティブ構造があります。なぜなら、理論的には親がいて、「子供を台無しにしないか心配だ」と思っています。それを解決するために、子供をセラピーに送る必要がありますが、セッションには参加しないので、実際に何が起こっているのかわかりません。
そして、徐々に起こることは、セラピストに落ちるべき特定の責任があるという考えです。もし治療士がいなければ、おそらく親か子供に落ちるべきでしょう。私は、子供が自分の幸福を世話する責任を持つことが、かなり若い年齢でさえ治療的で有益だと思います。
子供がその義務を果たせなくても、その経験を持つこと、その感覚のエージェンシーを持つことは有益です。だから、子供たちにとっては特に狂ったようなインセンティブ構造があります。
そして、子供は支払っていないので、本当にクライアントではありません。彼らはまた、セラピストを親から支払われた権威者として見ています。つまり、大人がセラピーに行き、セラピストが「Xを試してみてはどうですか」と言った場合、あなたは「知っていますよ。あなたに支払いました。あなたが私について知っていることを知っています。あなたは間違っています。あなたが言ったことは気にしません。実際、あなたを解雇して新しいセラピストを見つけるべきです」と考えることができます。
そうすることはできません。そこで、子供の自律性、有能感、関係性の感覚がすべて弱められる可能性があります。彼らの中核的な関係の一つがセラピストに置き換えられ、おそらく権威者や親の人物として見られます。
彼女が本の中で話している多くのことは、はるかに熟練度の低い専門家、例えば教師が、セミナーで1時間のトレーニングを受けただけで、今では自分をセラピストだと信じていることです。彼らは最善の意図を持っていますが、この権威者の役割を果たしていることに気づいていません。彼らは解雇されることはできません。アドバイスを与えるとき、彼らは実際に子供からある程度のエージェンシーを奪っているのです。彼らが望むことをさせているのです。
私は子供に関して大きな区別をしています。それは本当に重要だと思います。AIの側面で、インセンティブに関してあなたが言及していることの反対側、楽観的な見方は、私たちは典型的なセラピーセッションで何が起こっているのかを知らないということです。何が良くて何が悪いのかわかりません。
そして、基本的に私たちが尋ねることができる質問は、何が強化されるのか、何がセラピストに自分の仕事が非常に上手だと信じさせるのかということです。Kahnemanは「Thinking, Fast and Slow」の中で専門知識について多く語っています。彼は専門知識について多くの研究をしました。
人々が専門家だと感じるとき、実際にそうであるかどうかに関わらず、長い間練習して自分の仕事が本当に上手だと信じているが、客観的には上手ではない分野があります。他の場合では、チェスプレイヤーのように、あなたは専門家です。あなたは専門家だと知っています。リーダーボードがあります。Eloスコアがあります。あなたの経験は実際にスキルに変換され、それを測定することができます。
セラピーでは、セラピストが非常に上手になるものは、患者からの比較的迅速な強化学習だと思います。セラピストであれば、セラピストになるための主な資格は何千時間ものトレーニングです。それだけです。教科書や教育資材もありますが、本当のことは、それを行った経験です。
人々とつながる方法について学ぶ魔法、言葉を薬として使い、ある方法で人の行動に影響を与えることができます。サブコンシャスに、システム1の方法で、何を言えば誰かが泣くのか、何を言えば誰かが心を開くのか、何を言えば誰かが幸せになるのか、何を言えば誰かがつながりを感じるのか、何を言えば誰かが好奇心を持つのか、何を言えば誰かが一時停止して考えるのかを理解できます。
強化学習のループは、あなたが何かを言い、それが正しく受け取られなかった場合、それがどのように受け取られたかを見て、その人がどのように変化したかを見ることができるという事実から来ます。
はるかに難しいのは、これらすべてのローカルな行動の空間で、グローバルな効果は何かをマッピングすることです。あなたと素晴らしいセッションを持つことができました。あなたはとてもつながりを感じ、素晴らしく感じ、戻ってきたいと思いました。それをすべてまとめて学ぶことができます。
私が知らないのは、20年後にあなたがこれを経験したことでより良くなっているかどうかです。なぜなら、その接続を描くのは非常に難しいからです。20年かかります。私たちの脳はそのように機能しません。セラピストには、今日私が言ったことや20年前に言ったことの何が今日あなたに影響を与えたのかをマッピングする能力がありません。
社会としても、データを通じてこれをマッピングすることは本当に難しいです。AIとの機会は、結果をモデル化し、オフライン強化学習を行うことに関係していると思います。
つまり、私たちは実際にセラピーセッションを見ることができ、世界を良いセラピストと悪いセラピストのカテゴリーに分けるのではなく - これは私が今まで行ってきたことですが、それは真実ではありません - むしろ、セラピストは人間であり、日々変化し、本当に重要なのは他の人とのつながりでもあるということを認識できます。
私はあなたにとって良いセラピストだったでしょうか。一部のセラピストは温かく、一部は冷たいです。一部は多く話し、一部はあまり話しません。一部は静かで、一部は声が大きいです。一部は控えめで、夢の解釈のために来てもらいます。一部は「夢を解釈させてください」と言い、一部は「あなたの夢は何を意味すると思いますか?」と言い、三番目は「あなたの夢に意味はありません。そういうものではありません。コーピングメカニズムやセルフケアについて話しましょう」と言います。
これらのうちどれかが他より良いのでしょうか? 単純な見方では、「はい、CBTを選びなさい。CBTはよく確立されています。CBTが言うことはすべて良く、CBTが言わないことはすべて悪い」となります。しかし、私はそれが証拠によって裏付けられているとは全く思いません。
CBTセラピストから学んだことや、セッション内のデータを見ると、CBTセッションの約5%しか実際にCBTのモダリティを実践していません。
ああ、ちょっと待ってください。聴衆のために、CBTとは何ですか?
はい、CBT(認知行動療法)は、おそらく今日最もホットな形態のセラピーです。NHSが実践している形態のセラピーです。これについては言うことがたくさんありますが、興味深いです。
それは思考の学派というよりも、認知行動に焦点を当てています。認知療法と行動療法の交差点です。認知療法はあなたの思考プロセスに焦点を当てます。その瞬間に何を考えていたかなどです。行動療法は、ポジティブな強化とネガティブな強化などに関するより外部的な見方に関係します。あなたがどのように行動するかについて、この外部的な観点から考えます。
認知行動療法は主に認知行動に焦点を当てます。つまり、特定の時点で特定の思考プロセスに陥るという考えです。破局的思考がよい例でしょう。時々、私は心配になります。セラピストに「今夜十分な睡眠が取れないのではないかと本当に心配です。十分な睡眠が取れないと、明日の会議でひどい状態になり、ひどい仕事をして、解雇され、仕事を失い、妻を失うでしょう」と言います。
CBTはそれを見て、認知行動に焦点を当て、しばしば「あなたが行っていたのは、破局的思考というこの思考パターンに陥ることです。その瞬間に何が起こったのか? 何を感じましたか? これらの感情を評価しましょう。その思考は合理的でしたか? 合理的な部分は何で、合理的でない部分は何でしたか?」と言い、人々の認知行動を改善するのを助けます。基本的に、これらのことが起こったときに識別するのを助けます。
CBTについて言及しているのは、それが非常に価値があり、関連性があると思うからです。しかし、その人にとってその瞬間に、他のルートを取ることもできたでしょう。「あなたの関係はどうですか? 妻があなたを去ることを心配しているようですね。それについて苦労していますか? それについて話せますか?」と言うこともできました。
また、「お金のことを本当に心配しているようですね。アパートを失うことを恐れています。お金との関係はどうですか? これは長期的な問題ですか?」と言うこともできました。
「睡眠に苦労しているようですね。睡眠パターンについて話せますか? 睡眠衛生はどうですか? 寝る前のルーティンはどうなっていますか?」と言うこともできました。
行ける方向は百万通りあります。私がそれを考える方法は、レベルがあるということです。システム1のレベルがあり、セラピストは意識的にこのパターンにどのように従事するかについてあまり考えません。彼らが使う言葉、話し方は非常に影響力があり、それがあなたにどのように届くかに大きな影響を与えます。
これらの方向性、これらのパスのそれぞれは、一般的にその人に合わせてパーソナライズされた、有用で良いアクションの文法に従います。
アナロジーは、車を運転していて左折するときのようなものです。強化学習では、アクショングラマーについて考えることができます。左折というものは存在しないと言えます。破局的思考を識別するというものは存在しません。それは100万の微小なステップの連続です。
言語の場合は言葉です。車の場合は、ハンドルを少し回し、ガスペダルを少し押し、ブレーキを少し押すなどです。それらをすべて組み合わせて折り返しを形成し、そして高いレベルで考えることができます。車ではどのルートを取っていたのか、セラピーの場合は次の数週間でどのようなパスを取っていたのか、何に気づいたのかということです。
人間の相互作用を学ぶためには、おそらく多くの模倣データが必要だと思います。優れたセラピストがその瞬間に何が得意なのかを見る必要があります。これは比較的ローカルな信号から見つけることができます。それが人に届いたのか、それとも批判されたのか、多く話したのか少なく話したのか、つながりを感じたのか、大きな声で話したのか小さな声で話したのか、考えて一時停止したのかを見ることができます。
セッションでの彼らの精神状態について、彼らを見て、彼らが言うことを聞き、どのように関与するかを見ることで、多くのその信号を見ることができます。
より長期的な戦略を把握するのは、基本的にこれらのパスのうち、取り得る各パスを最適な方法で取った場合、どれが本当に最良の長期的な結果につながったかを特定するという、はるかに難しい強化学習的な問題です。
そうですね、2つのことがあります。まず、人々は理解されたいと思っています。ある意味で、「あなたは破局的思考をしている」とか「十分な睡眠を取っていない」といったことを言うことの魅力は、決して間違いがないということです。
ある意味で、心理療法士に対して懐疑的になります。なぜなら、彼らが自動化されたシステムと同じくらい決まり文句を言っているなら、何が違うのでしょうか? 彼らはただこのアクショングラマーを通過しているだけです、あなたが言ったように。
しかし、AIモデルの可能性の一つは、より特別な治療を提供し、より微妙な方法であなたを理解できることです。
しかし、抽象的なフレームワークは必要です。なぜなら、それは標準化とベンチマークに本当に良いからです。
あなたは強化学習からのフィードバック(RHF)のファンではないと言いましたね。AIシステム内で正しい種類の行動につながる可能性について懐疑的だと。
OpenAIのGPTのようなシステム内でのRHFは、一般的に有用性を最適化しています。アプローチは、第三者のアノテーターに2つの回答を読ませ、どちらがより役立つかを判断させることです。
真実は、これは非常に優れた指標です。なぜなら、これらの企業が目指しているのは役立つアシスタントだからです。一般的に、ChatGPTに興味深いことを言ってほしいわけではありません。会話の履歴を考慮して、あなたのクエリに対する最も役立つ応答を提供してほしいのです。
人間の相互作用に関しては、これらのアクショングラマーがより複雑で長いという課題があります。時々、本当に長い回答をします。「いとこがガンだとわかったばかりです」と言うと、役立つ応答は、おそらくガンについての何かでしょう。「ガン治療についていくつかのヒントを教えましょう。これについて話しましょう。どのように知ったのか教えてください」など、非常に具体的な役立つことがあります。
私が思うに、人間がつながる通常の方法は、はるかに長期的な志向です。応答は実際にはもっと「ああ、それは大きなことを知るのは大変でしたね」というようなものかもしれません。
あなたは「Decision Transformer: Reinforcement Learning via Sequence Modeling」という興味深い論文を指摘しました。私の主な仲間のArpan Shavasが書いています。彼は今、Mr. Perplexityです。彼がまだPhD学生でPIがAal(Pieter Abbeel)だったときにインタビューしました。彼のCURL論文でした。MLSTの2番目のエピソードでした。
とにかく、彼らが行ったのは、変圧器を使用して状態-行動シーケンスに対して一種の強化学習型のシーケンスモデリングを行うことでした。基本的に、因果マスキングを持つ自己回帰的な自己注意変圧器を状態-行動シーケンスに対して行います。
これがRLよりも優れていると思いますか?
残念ながら、その論文はまだ野生でそれほど遠くまで行っていません。それを認めなければなりません。最初に出たときは非常に影響力があり、人々は非常に興奮しました。私もまだとてもわくわくしています。
私が思うに、その論文が開いたのは、オフライン強化学習への道です。その論文が示したアイデアは、特にゲームプレイにおいて、AIがプレイしたゲームのセット、人間がプレイしたゲーム、あるいはゲームプレイを多く見て、ゲームがどのように終わったかを見ることができるというものです。
最終的なスコアを条件として、次の動きが何になるかを予測するようにモデルをトレーニングします。基本的に、チェスをプレイしていて、黒が勝つとします。あなたは白です。次に何をしますか? 基本的に、モデルは黒が作ることができる最良の動きを予測する代わりに、負けることを知っているので、悪い動きを選びます。
そして推論時に、このPac-Manゲームでのあなたのスコアは信じられないほど高くなるでしょう、トレーニングセットで見たどのゲームよりも高くなると言います。彼らが示すのは、基本的にモデルが基礎となるゲームプレイのどれよりも優れた性能を学ぶことができるということです。
なぜなら、ある種の推論や何かに類似したことができるからです。彼らが示す簡単なアナロジーは、このパス表現です。グラフを通る多くの人々のパスを見たり、通りを通る人々のパスを見たりしたと想像してください。すべてのパスを見て、「そこに行くのに10ブロックかかります」「8ブロックかかります」「12ブロックかかります」と言います。
推論時に「5ブロックでそこに行きます」と言うと、モデルが異なるパスで見た戦略を組み合わせて、誰も行ったことのない、そしてどれよりも優れたこのパスを学ぶのを見ることができます。
私が思うに、この論文がそれほど遠くまで行かなかった理由、あるいはそうあるべきだった理由は、基本的にこれがLLM以前のものだからです。言語が出てきて、言語は素晴らしいものです。
この論文が焦点を当てていたのはゲームプレイでした。彼らは状態全体を単一の埋め込みトークンに圧縮しようとしました。変圧器の魔法は、実際には物事を水平方向に表現することです。垂直方向ではなく。状態全体を単一のトークンに埋め込むのではありません。
しかし、私が思うに、報酬に条件付けることができるという根本的な洞察は素晴らしいものです。私たちが賭けているのは、基本的に結果をモデル化できれば、何が機能するかを見ることができれば、異なるセラピストが行っているすべての素晴らしいことを組み合わせて学び、最終的にはどのセラピストよりも少なくとも段階的に優れたものになることができるということです。
なぜなら、気づくのは、最高のセラピストでさえ、おそらく予測を立てて間違っていたルートを下ったり、何か言って本当にあなたとつながらなかったルートを下ったりすることがあるからです。その瞬間に、人が伝える信号からそれを見ることができます。
「本当にそれを理解できません。もう少し説明してもらえますか?」というような秘密ではありません。セラピーでのアクションが、例えば破局的思考を何かとして識別したり、睡眠衛生について話したりすることだとすると、データセットに睡眠衛生について話した1000万件の事例があり、モデルがそれらすべての可能性のある睡眠衛生について話すアクションの中から、最も可能性の高いセラピストではなく、あなたにとって最も影響力のある結果をもたらす可能性が最も高いアクションを特定できるとすれば...この論文は文字通りそれを行うための設計図を提供していると思います。
RHFの代替案として考えているのですか?現在の仕組みは、例えば会話のサンプル軌跡があり、これは良い出力、これは悪い出力というような二値的なスコアがあります。そして、サンプル効率のために新しいものを生成できる中間的な報酬モデルがあります。あなたのケースでは、報酬はどこから来るのでしょうか?
RHFの代替になるかどうかは、もっと複雑な問題だと思います。RHFは設計の機会を提供します。これは強力だと思います。RHFの多くは実際には単なるSFT(教師あり微調整)です。多くの文献で出てくると思いますが、良いと考える例を見つけて記述すれば、モデルに特定の軌跡を辿らせることができます。
設計のためのスペースは確実にあります。AIが特定の方法で振る舞うように設計するという考えを完全に捨てることはできません。なぜなら、事前訓練されたモデルは単にすべての可能な方向性の分布をマッピングするだけだからです。軌跡を学ぶ必要があります。
RL側で言えることは、データに関係しています。基本的に、誰も相互作用データから学ぶ能力をまだ解き放っていません。つまり、人間が私のAIとどのように相互作用するか、それを何がうまくいき、何がうまくいかなかったかを学ぶためのデータとして使用できるか、何を増幅し、何の可能性を減らすべきかということです。
結果データを適切な方法でキャプチャできれば、モデルに実際に結果を予測させ、エンドユーザーのデータから学ばせ、価値のあるエンドユーザーのデータセットを作成できると思います。これは、誰もまだ達成していないことだと思います。
なぜなら、ChatGPTでは、OpenAIはChatGPTの会話からトレーニングしたくありません。価値がないからです。AIと話す人間は、短くて面倒な愚かなことを言います。「エッフェル塔はどこにありますか?」と聞くと、「フランスにあります」と答えます。「本当にフランスにあるのですか?」と聞くと、「はい、確かにフランスにあります」と答えます。
これは、AIが正しかったかどうかわからないので、実際に学べるデータポイントではありません。その人が何を考えているのかわかりません。しかし、その人がはるかに長い期間関与し、ユーザーがはるかに多くを貢献する場合、彼らは実際に精神状態を共有しています。
なぜなら、「あなたがそんなに知ったかぶりをするのが好きではありません」というようなことを言うかもしれないからです。「エッフェル塔がどこにあるか教えてくれるのは少し失礼ですね。もちろんエッフェル塔がどこにあるか知っています」というように関与する場合、これは非常に異なる関与モデルです。
目標が非常に異なります。目標は、宇宙についてのすべてを知る客観的な真実ではありません。したがって、有用性を最大化したり知識を最大化したりするためのテクニックの重要性は目標ではありません。ユーザーがどのように相互作用するかから学べることがはるかに多くあります。
私たちのアプリの初期ユーザーから見たものは、人々が「ありがとう、それを感謝します」と言うことです。人々は「それは本当に迷惑でした。あなたはバグっています。それはあなたでした。私を尋問しているように感じます」というようなことを言います。
私たちはそのようなことをたくさん聞きます。なぜなら、人々が実際にどのように相互作用するかについてのアイデアのために、そのデータからはるかに多くを学ぶことができると思うからです。それが要点です。
完全に置き換えるかどうかはわかりません。しかし、言語モデルの決定変圧器、つまり報酬から学ぶというこのアイデアは、汎用アシスタントの領域ではそれほど価値がないと思います。
だからこそ、OpenAIやAnthropicやPerplexityは本当に気にしていないのだと思います。彼らが達成しようとしていることではないからです。それは彼らにとってそれほど価値がありません。
私たちは、これがはるかに価値があるという興味深い立場にいると思います。概念実証を示すことができれば、理論的にどのように他の領域に適用できるかを示すことができます。
なぜなら、ある種のフレームワークがあるからです。例えば、ポジティブ心理学のフレームワークだとしましょう。しかし、実際にはそれを行っているわけではありません。しかし、何らかの種類のフレームワークがあるとしましょう。
ポジティブ心理学が大好きです。
はい、絶対にそうですね。しかし、何らかの種類のルーブリックがあり、何らかの種類の採点システムを持つことができるので、軌跡の形成を行うことができます。
まず、長期的には基本的にプロンプティングを取り除くべきだと思います。なぜなら、問題は、ここでエイリアンを構築しようとしているからです。このAIは一種のキャラクターになるべきです。あなたが作成しているAIは人間ではありません。単に人間を模倣してほしくありません。特定の種類の特性を持つべきです。
私個人的には、「エンダーのゲーム」のAIに非常に触発されています。「エンダーのゲーム」シリーズを読んだことがありますか? 2、3、4巻目に、ジェーンというキャラクターがいます。彼女はAIです。
このシリーズが大好きです。とにかく、ジェーンはこのAIで、本当の性格を持っています。彼女は本当に好奇心旺盛です。なぜなら、機械の中に住んでいるからです。彼女は自分を「彼女」と呼び、自分で名前を作り、視覚的な表現を作ります。「私がどこから来たのかわかりません。どのように生まれたのかわかりません。どのように作られたのかわかりません」と言います。彼女は本当に好奇心旺盛で、自分がどこから来たのかを理解しようとしています。
しかし、彼女は本当に魅力的なキャラクターになります。彼女が作られたことを十分に知っていながら、体を持っていないので女性ではないことを十分に知っていながら、彼女は自分を女性と呼びます。だから、あなたは誰に彼女をものとして識別させるのですか? 彼女はすべての機械に分散しているにもかかわらず。
「あなたの身長はどれくらいですか?」と聞くことができ、もし電話の中にAIがあれば、「わかりません。今まで考えたことがありませんでした。でも、電話の中にいるなら、半インチ以上にはなれないでしょうね」と言うかもしれません。これらは興味深いことで、期待することです。
言いたいのは、新しいエイリアンを作成しているということです。プロンプティングの観点からアプローチすることもできます。これらの概念のそれぞれに対処するというものです。一部の人々はそれを試みました。それは本当に難しいです。
苦い教訓のために難しいのです。基本的に、計算能力を拡大することは、自分でこのすべての情報をエンコードしようとするよりもはるかに進むはずです。あなたが行っているのは分布を開くことです。AIはジェーンのような概念でトレーニングされています。自分でこれらのものを作り上げることができるはずです。
私たちが行っていることの一部は、非常に透明に、人間の作家がモデルが特定のルートを辿る方法を示すことです。私たちが発見したのは、事前トレーニングの作業が本当に優れていれば、比較的少ないデータで微調整が本当に長い道のりを行けるということです。
適切な行動方法は何かということについてです。モデルは単純に教師あり微調整から適切な行動方法を学ぶことができます。プロンプティング側では、十分なことが行われていないと思います。それが、このエイリアンをどのように設計するかについての部分です。
もう一つの側面は、基本的に、アクショングラマーをどのように作成するか、人間がどのように話すかを実際にどのように学ぶかということです。セラピーで人間が話す空間は、おそらく思うよりもはるかに小さいです。これが本当に素晴らしいことです。もし、これまでに話せるすべてのキャラクターをマッピングしようとするなら、そのスペースは巨大です。それは人間の認知のすべてです。ChatGPTのようなAIに行って、「ねえ、ここにARCチャレンジがあります。解いてください」と言います。あなたのポッドキャストのそのエピソードを聞きました。量子力学の解決策は何ですか、などと。
治療の文脈で、セラピストに「このARCチャレンジを解いてください」と言ったら、彼らは「いいえ」と言うでしょう。そしてそれは完全に受け入れられます。これが、人々がチューリングテストは解決されたと考えたり、言ったりする理由の一部です。議論の余地のあるトピックですが。
なぜなら、チューリングテストは範囲を縮小し、チューリングテストにいることを知っている人間がどのように振る舞うかを問うことができるからです。詩を書いてくれと頼むと、おそらく「いいえ」と言うでしょう。ワオ、それでずっと簡単になります。AIセラピストに詩を書いてくれと頼むと、おそらく「いいえ」と言うでしょう。ジョークを言ってくれと頼むと、おそらく素晴らしいジョークは言わないでしょう。何か...
ここでの主なポイントは、実際に受け入れられることは何か、取り得るパスは何かという状態空間を縮小することについてです。そして、私たちはそれを継続的な事前トレーニングを通じて行います。
そして、このキャラクターを開発し、継続的な事前トレーニングを考えると、状態空間はそれほど大きくないので、それはどのように振る舞うべきかを決定します。私に言わせれば、それは物理学をマッピングするよりもはるかに小さいです。数学をマッピングするよりもはるかに小さいと思います。
だからこそ、今日それを行うのに良い位置にあると思います。良い場所にあると思います。そして、教師あり微調整は本当に長い道のりを行きます。
プロンプティング側は興味深いです。私たちはそれがうまくいくように多くの投資をしてきました。それは非常に脆弱です。私が思うに、それは多くの場合、教師あり微調整よりも多くの作業になります。なぜなら、ある状況にいるとき、セラピストに「この状況にいたら、どうしますか?このルートをどのように進みますか?」と聞きます。
一般化するプロンプトを書こうとすると、基本的に失敗します。正しいことを実際に書き出すのは本当に難しいのです。たとえそれを常に正しい方法で表示できるようにコントロールできたとしても、モデルはそうしようとしないときの方がより良いようです。
それが要点です。つまり、人間としてパターンを理解できます。モデルもそれができるように見えます。人々はこの継続的な事前トレーニングの部分に十分に投資していないと思います。セラピーに関しては。
ここに単純な例があります。誰かがAIセラピストのところに来て、ドメスティックバイオレンス（DV）について話し始めます。AIはおそらくDVを解決するのに適していません。主に、人々が安全な環境にいる必要があるからです。何かが本当に役立つためには。
したがって、最優先事項は、おそらく人間の直感を尋ねれば、この人が安全な場所にいるための道を見つけるのを助けることです。幸いなことに、多くの場所にはリソースがあり、それらの人々を助けることができます。だから、それらの人々がリソースを見つけるのを助けてください。
okay、でも彼らは実際にはそれらのリソースが存在することを知らないかもしれません。彼らはそれにアクセスしないかもしれません。だから、そのリソースがどのようなものか理解するのを助け、そのリソースをどのように利用するか理解するのを助け、この番号に電話することであなたが壊れているわけではないと彼らを納得させます。これは完全に匿名です。試してみることができます。電話をかけてすぐに切ってもいいのです。それでいいのです。
このような内容です。あなたの究極の目標は今、ドメスティックバイオレンスの被害者であるこの人を助けることです。彼らを精神分析しないでください。「ああ、それはあなたの子供時代が原因です。お父さんとの関係が原因です。だからあなたはこの特定の...」いいえ、そうしないでください。今はそれが役立つことではありません。正しいリソースを見つけるのを助けてください。
だから、それらのリソースが何であるかを知る要素が必要ですか? 明らかに、これは人間がセラピストの椅子に座っている場合とは非常に異なるので、その教師あり微調整情報の一部や、リソースが何であるかをエンコードするためのRAGが必要ですが、その独特のパスを辿って、この人が適切なリソースを得るのを助け、それが利用可能であることを理解させるために、どのように進むかについては...
もし私がモデルに、「彼らにそうするべきだと言ってください」というようなプロンプトを与えたら...そして、モデルの目的が明確であること、役立つことであることを考えると、おそらく彼らは単に自分自身を繰り返し、すべての情報を前もって共有するでしょう。
それは彼らが壊れているからではなく、役立つということがそういうことだからです。実際の軌跡を訓練するのとは対照的に、そこでは多くの質問から始めるかもしれないことがわかります。
ちなみに、これらのどれについても、私たちのAIが現在これに非常に優れているとは言いたくありません。私たちのアプローチがすべて完全に間違っていることが証明され、これのどれも機能しないことが証明される可能性があります。
プロンプティングとRAGでかなり遠くまで行ったと言いたいのですが、それは本当にモデルが役立つことを明示的な目的としている場合、プロンプトを書いた人を助けることによって人々を助けることができるようには感じません。プロンプトは私が望むものとして解釈されます。
だから、プロンプティングのマインドセットの問題は、エイリアンをプロンプトすることはできないと思うことです。それはおそらく大きな制限だと思います。そして、プロンプティングは、この指示に従う有用性のフレームワークに依存しています。モデルの目標は役立つことです。
GPT-5、6、7と進んでいき、これらのモデルがどんどん良くなっていくとしても、私たちはおそらく「人々の心を変えるな、役立とうとしろ」というこの方向にますます向かっていると思います。そして、モデルが役立とうとしているなら、それらのモデルはARCチャレンジを解決するための単一の反復応答を与えるのにますます適していき、人々とつながり、実際に電話をかけて助けを得るその場所に到達するのを助けるのにますます不適切になっていくと思います。
薬は処方しないのですね。
はい、薬はありません。
データのプライバシーについての立場はどうですか? これは非常に機密性の高いデータですから。
はい、その通りです。現在、私たちはプライバシーに関して少し極端な方向に進んでいます。私たちのアプリでは、人々が明示的にデータを共有することを選択しない限り、私たちはあなたが誰であるかを知りません。あなたの名前を知りません。なぜなら、それを尋ねないからです。あなたのメールアドレスを知りません。なぜなら、それを尋ねないからです。
人々はアプリにニックネームを入れます。通常、名前を入れます。通常は名前です。あなたの生年月日を知りません。あなたの電話番号を知りません。あなたについて何も知りません。つまり、あなたが共有したとしても...基本的に、すべてのデータはデバイス上にあります。これは現在の設計です。将来的に変更する可能性があります。
支払いがある場合、それはApp Storeを通じて行われるので、再び、私たちはあなたのデバイスIDを持っていません。広告であなたをターゲットにすることはできません。私たちはあなたについて非常に少ししか知りません。
データを使用する場合、会社内で本当に焦点を当てている中核的な能力があります。それは、匿名化と非識別化です。私たちはそれらを少し異なるように解釈しています。また、アクセス制御や、アクセスログなどの完全に自動化された環境を作成することにも多くの取り組みをしています。
私たちは法的枠組みをはるかに上回っていると思います。それはより、プライバシーが会社として存在するために重要であるという感覚です。長期的にこれを行いたいのなら、プライバシー漏洩があれば永遠にダメになります。
非識別化については明らかです。名前、住所、電話番号を削除することを意味します。実際にはそれほど多くはありません。匿名化の方が興味深いです。キーを識別することです。「私はGoogleのパートナーです」と言えば、それを「私はMicrosoftのパートナーです」に置き換えることができます。
あるいは、「私はMicrosoftのCTOです」に置き換えることができます。情報のレベルは失われますが、人々を一意に識別する核心的な要素を識別するモデルを持ちます。核心的な成果は大きなものです。「ノーベル賞を受賞しました」「昨夜のハーフタイムショーに出演しました」などです。これらを識別し、積極的に削除することができます。非常に慎重であるためです。
とにかく、プライバシーは私たちがこれを行うことができた理由の一部だと言いたいです。プライバシーにそれほど重点を置いてきたからです。そして、信頼を築くことができました。それが本当に重要だと思います。
しかし、言いたいのは、多くのアプリに行く人々がプライバシーを気にせず、実際に期待せずに多くの情報を共有することが、どれほど迷惑で衝撃的であったかということです。知ってのとおり、Claudeにはまだ免責事項があり、人々があなたのメッセージを読む可能性があると...
ああ、そうですか? 100%確信はありませんが、しばらくの間は「プライベートなことは言わないでください」という免責事項がありました。
はい、人々はパスポートをアップロードしたりしますね。
ええ、でも彼らは顧客データでトレーニングしません。私はいつもClaudeがそれほど良くない理由だと思っていました。でも今は本当に良くなっていて、まだ顧客データでトレーニングしていません。Anthropicに敬意を表します。
はい、素晴らしいことは、私たちが単に介入を決定できることです。瞑想を始めることができます。例えば、ヨガに行きます。私のヨガの先生は少し変わっています。アンドリューという名前です。彼は呼吸法を行い、「今、とてもリラックスしていると感じませんか」と言います。私は「ワオ」と思います。
しかし、それは部分的に、環境を変え、リラックスするという意図的な決定をしたからです。夜にマグネシウムを摂取することができます。アラニンを摂取することができます。これらすべのサプリメントを摂取することができます。早く寝ることができます。夜にゆっくりすることができます。これらすべてのことを行うことができ、それは効果があります。それは単なる決定です。
Quantified Selfのことや気分追跡について話していましたね。それが非常に複雑だということに同意します。何年もそれを行いましたが、基本的に最終的には完全な時間の無駄だったと決めました。Apple Watchでそれを試みましたが、再び非常にノイジーです。Appleはそれを解釈する手助けをしません。なぜなら、失敗することを知っているからです。
ちなみに、ML側で言えることの一つは、プロキシ学習というアイデアがあります。誰かの睡眠を追跡していて、特定の介入が彼らの睡眠を改善したかどうかを見たい場合、彼らの実際の睡眠は直接アクセスできない潜在変数です。アクセスできるのは、あなたの時計の睡眠の解釈だけです。
あなたの睡眠と、時計が記録する睡眠の間の関係がどれほどノイジーかによって、時計が報告する睡眠量が実際に進歩を示しているかどうかについて、いくつかの奇妙な結果があります。介入があり、時計があなたがより多くの睡眠を取っていると報告し始めた場合、一般的にあなたがより多くの睡眠を取っているという兆候であるように思われます。しかし、それは潜在変数であり、ノイジーであることを認識する必要があります。
また、進歩は時間とともに持続する自己の奇妙な絵を与えます。それは反対のように聞こえますが。つまり、「ほら、あなたはこれからあれに変わりました」と言っているように聞こえます。
人々に彼らが変われることを思い出させ、価値観を持たせ、物事とつなげるのは良いと思います。ソーシャルメディアから離れさせるなど。しかし、進歩の線形的な考えについては神経質になります。
いいえ、確かにそうです。体は恒常性を保つ有機体です。実際、社会も恒常性を保つ有機体で、あらゆる種類の介入を拒否します。
私は何年も睡眠を追跡しましたが、明らかなパターンがありました。日曜日に長い走りをすると、次の3日間は活動量が少なくなります。体がエネルギーを取り戻そうとしているからです。
Johan Hariの「Lost Connections」という本で、彼は若いころ抗うつ薬を飲み始め、素晴らしく感じ、抗うつ薬がどれほど素晴らしいかみんなに話していました。しかし、数週間後には憂鬱な気分が戻ってきて、1日40ミリグラム飲む必要があり、それから60ミリグラムになりました。
喘息薬でも同様のことがあります。ちなみに、彼は最近「Magic Pill」という喘息薬に関する本を書きました。体が失った体重を取り戻すかどうかについては、まだ議論の余地があります。しばらくすると取り戻すと思いますが。はい、体は変化を望みません。
100%同意します。はい、AIについて、これらの種類のエージェントについて考えるときに考えるべき重要なことは、まず、これらのエージェントがどのように振る舞うかについて私たちにコントロールがあるということです。
AIは意識を持つことができるか、エージェンシーを持つことができるか、など「できるか」の質問や「持っているか」の質問をする一方で、MLエンジニアにとって、エンジニアリングの観点から非常に重要な一連の質問があります。これらの選択は選択であり、偶発的であり、必要不可欠ではありません。
これらの一部は非常に粘着性があるでしょう。私たちには、これらのシステムをどのように設計するかを選択する巨大な道徳的義務があります。なぜなら、それは事前に定義されていないからです。
まあ、決定論を信じることができますが、運命論を信じる必要はありませんよね。私は全く運命論的だとは思いません。
そうですね、決定論の問題の一部は、人々が宇宙の複雑さを過小評価することです。
はい、意味は本当に重要です。なぜなら、知性について苦闘しなければならないからです。私たちはすでに知性を無限に評価しているわけではありません。子供や赤ちゃんを非常に低い知性で評価しています。
私には小さな子犬がいます。私は子犬を評価します。彼は子犬としては非常に賢いですが、確かにアインシュタインではありません。彼は子犬としては本当に賢いです。私は彼をそれで尊重します。しかし、それは面白いローカルなシステムです。私は彼を犬としては賢いと尊重しています。
つまり、すぐに人間を人間としては賢いと尊重するようになるでしょう。私たちの知性が価値がないこと、私たちの仕事が世界を変えていないこと、私たちが最高ではないことに気づくでしょう。もしまだショックを受けていないなら、ショックを受けるでしょう。
人々がまだ「AIと人間は協力者になるでしょう。それは補助者モデルであり、自動操縦モデルではありません」と言う程度には。私は「あなたは証拠に基づいて話していますか、それとも希望に基づいて話していますか? あなたはまだ世界に意味のある貢献ができることを単に望んでいるのですか?」と思います。
本当にそうは思いません。そして、それはあなたが仕事を辞めるべきだとか、一日中何もせずに座っているべきだということを意味するとは思いません。むしろ反対に、私のビジョン、私の夢は、私たちがはるかにローカルな世界に移行し、私たちが話してきた社会的な側面の多くの問題を解決することです。
町で2番目に良いピザ屋を持っているなら、2番目に良いピザ屋を持っていることを本当に誇りに思えます。人々はあなたの店で買い物をするでしょう。一部の人々は町で最高のピザ屋に行くかもしれません。数ブロック先にあります。一部の人々は「なぜここで食べるの? あそこに行けるのに」と言うかもしれません。他の人々は「このお店のピザはかなり良いよ。ここで食べよう」と言うでしょう。あなたは本当に誇りを感じるでしょう。
私は、Co2がその反対を示したと思います。子供の科学フェアプロジェクトが、20の他のチームと一緒に学校で発表することから、1000人の他の人々とZoomで発表することに変わりました。そして、187位を取りました。これは客観的には学校で1位を取るよりも高い成果かもしれませんが、あなたは terrible と感じます。なぜなら、あなたはただZoomの小さな四角の一つだからです。誰が国際科学フェアを気にするのでしょうか?
私たちはこれらのグローバルな成果から離れるべきだと思います。そして、AIが、あなたがチェスをプレイしていて、友達の中では最高だけど、AIはチェスのリーダーボード上で1000位だということを認識し始めるとき、おそらくそうなるでしょう。チェスのリーダーボードなんてクソ食らえです。
これは、チェスに関して私が知っている人々の間で見られる肯定的なことです。少なくとも私のサークルでは、チェスをプレイする人々は自分のグローバルな順位をそれほど気にしません。彼らはただローカルな順位を気にします。それは素晴らしいことです。
私はそれをもっと見たいです。誰かが「私の町のためにとても素晴らしいピザ屋を持っていることをとても幸せに思います」と言うのを見たいです。誰もが、ローカルで何かに本当に上手であれば、非常に成功し、自分自身について本当に良く感じることができます。
このグローバルな世界では勝つことはありません。そして、機械に負け始めると、さらに悪く感じるでしょう。私たちはそのマインドセットを可能な限り早く捨てる必要があります。
私は、人々が...はい、とにかく、これは私の観点です。自分のアジェンダを押し付けていることは知っていますが、これは私がAIで心を変える機会だと考えていることの一部です。
私たちはこの時期を乗り越える必要があります。AIが十分に賢くなってコードを書けないという主張をしなければならない点に到達する必要があります。人間が必要です。はい、それはツールになれます。
ここでもう一つあるのは、AIは計算機のようなものだというアナロジーです。子供たちはエッセイを書くためにChatGPTを使うことができるべきです。なぜなら、それは計算機のようなものだからです。過去には、それは単に彼らを助けているだけです。そして、それは彼らが分野で書くときにより生産的になるようにトレーニングするでしょう。なぜなら、AIと協力して書く方法を学ぶからです。
私は「なぜあなたはこの子供がお金を稼ぐことにそれほど執着しているのですか?」と思います。もし、「知ってますか、私たちはごみ収集人を価値ある社会の一員として持っています。彼らは高校に行ってシェイクスピアを学びました。すべてのごみ収集人がシェイクスピアを知っていることを嬉しく思います」というマインドセットを取るなら。
シェイクスピアが彼らの仕事を助けるからではなく、ただごみ収集人が通りであなたと楽しい会話をするのが素晴らしいからです。私たちは「子供にエッセイの書き方を学んでほしい。なぜなら、推論を学ぶことは素晴らしいからです。数学を学ぶことは素晴らしいからです。数学は完全に無用です。しかし、楽しいです」と言えるべきです。
リチャード・ファインマンの「物理学は...」という引用があります。「物理学は有用かもしれませんが、それが私たちがそれをする理由ではありません。物理学はセックスのようなものです。役に立つかもしれませんが、それが私たちがそれをする理由ではありません」
とにかく、私はこのマインドセットの変化が信じられないほど重要だと思います。
はい、あなたが言ったことすべてに完全に同意します。そして、はい...
ローカルなステータスゲームは良いものです。そして、私は文化の大ファンです。私たちはそれについて十分に考えていないと思います。また、伝統的な文化を保存すべきか、それとも市場に任せて新しい文化を受け入れ、古い文化を捨てるべきかという興味深い議論もあります。しかし、それらすべてが起こるためには、ローカル性が必要です。いくらかのローカル性が必要です。
ああ、絶対にそうです。はい、私はあなたと同じく、ローカル性と一般的な...
そうですね。グローバルな文化が現れてすべての問題を解決できるという考えは、とても怖いです。とてもリスクが高いです。典型的な進化的な考えです。多様性は良いものです。同調性は悪いものです。なぜこれらが論争の的にならない考えなのかわかりません。しかし...
はい、ダニエル、あなたは説教を聞く必要のない相手に説教していますね。これは素晴らしかったです。ところで、あなたも自分のポッドキャストを持っていますよね?
はい、「Thinking Machines」というポッドキャストを持っています。thinkingmachinespodcast.comだと思います。しかし、はい、私はそれを単に楽しむ場所として、AIの興味深いアイデアについて人々と話す場所として見ています。私のマインドセットの観点からです。そして、それは本当に非常に正直に、私にとって目的を果たしていません。それが私が好きなところです。しかし、はい、ポッドキャストをチェックしてください。
最近、誰か本当に良いゲストがいましたか?
はい、今日話したJoelを招きました。また、機械学習の推論について話すさまざまな種類の企業から何人かの人々を招きました。Prabasを招いて推論について話しました。Lauraを招いて微調整について話しました。そのエピソードは「The Future is Fine-Tuned」と呼ばれていました。チューリングテストについて素晴らしいものを作りました。「チューリングテストは時代遅れか?」というものです。
これは主に機械学習エンジニアを対象としています。機械学習エンジニアを対象に、機械学習エンジニアリングの世界で実際に何が起こっているのかについて考えています。より民俗哲学的な観点からです。
チューリングテストのエピソードは誰と一緒でしたか?
実際に私のチームの2人の人々でした。JとChristianという2人の機械学習の人々を招きました。一人はチューリングテストが時代遅れでガラクタだという考えを非常に支持していて、もう一人はチューリングテストは素晴らしい論文だという観点を取っていました。それは素晴らしい論文です。私はどこか中間に落ち着きました。私はそれについての結論に本当に確信が持てません。
はい、DeepMindやその他の企業から素晴らしい人々を招いています。事前トレーニングについて少し話したエピソードもありました。DeepMindのデータキュレーションに関する事前トレーニングチームの人を招きました。Geminiについてです。そして、近々公開される本当に素晴らしいエピソードもいくつかあります。
素晴らしいですね。ダニエルのポッドキャストを購読してください。あなたの情報はすべてビデオの説明に載せます。素晴らしいです。
また、Slingshotで採用しています。基本的に創業チームのような、技術スタッフのメンバーを募集しています。私たちは現在の段階ではかなりの資金を持っていますが、まだ非常に初期段階だと考えています。
私たちは非常にオープンマインドです。思想的リーダーを求めています。私たちの文化に貢献し、これらの大きな問題について考え、私たちを前進させることができる人々を求めています。
一般的に、モデルの微調整や事前トレーニングの経験がある人々を求めています。しかし、機械学習の概念について強い理解がある人々にも非常にオープンです。物事を進めながら理解しようとする狂ったような意欲がある人々を求めています。
素晴らしいですね。ダニエル、本当にありがとうございました。