生成AIと精神医学: ChatGPTは妄想と現実を見分けられるか？(中編)
前回までのあらすじ
今話題の生成AIの先駆けとなった、ChatGPTに関する興味深い海外文献を紹介しました。
この論文によると、"ChatGPTは妄想を含む文章とそうでない文章(現実的な文章)を区別することが可能"と結論づけられております。
驚きの研究結果なのですが、果たしてChatGPTは妄想を判別しているといえるのでしょうか…？
不肖、鹿冶梟介がChatGPTの妄想判別能力を検証していきます！
【鹿冶の考察】
「生成AIと精神医学: ChatGPTは妄想と現実を見分けられる？(前編)」を読んで皆様はどのように感じましたでしょうか。
「未来、来てる！」「ChatGPTすごい！」「もう、精神科医なんて不要じゃない？」
…などなど、様々なご感想がおありかと存じます。
小生も実際この論文を読みながら、
「スゲェ、まじか...😳」
と、おもわず感嘆の声を漏らしました。
…が、このように新奇性に富み、世間の耳目を集めそうな研究に対してもう少し我々臨床医は慎重になるべきと思っております。
そこで【鹿冶の考察】では、もう少し深堀してChatGPTの妄想の診断能力を検証したいと思います！
<そもそも妄想とは？>
ChatGPTが妄想を判別できるか否かを論ずる前に、ここで”妄想"という概念について整理したいと思います。
DSM-5(米国精神医学会作成の精神障害の診断基準)によると妄想とは以下のようにまとめられます。
"妄想とは、反証する証拠があっても変わることない固定した信念"
また小生が私淑する精神科医濵田秀伯先生の「精神症候学 第2版」によると…、
"妄想は思考内容の障害で、主として自分に結びついた病的な誤った確信。すなわち自分自身に関連した(自己関連性)、事実無根の内容にも関わらず(内容の不合理性)、主観的な確信は揺るがず、どのような反証にも屈しない(訂正不能)"
さらにドイツの実存哲学者かつ精神医学者であるJaspers Kの定義では、
"妄想とは主観的確信、訂正不能性、内容の不可能性、の3つを特徴をもつ考え"
だそうです(精神症候学の定義はJaspers Kの考えに基づくと考えられます)。
…と、いくつかの定義を紹介しましたが、要するに妄想とは「明らかに間違っていても、真実と思い込み訂正できない状態」と言えましょう。
<ChatGPTが抽出した妄想構文について>
論文の「結果」の箇所は重複が多く文章を削除いたしましたが、ChatGPTによると統合失調症の妄想に基づく文章の特徴は以下の4点に要約できそうです。
1.「私」という一人称が多い。
2.信念や感情を表す動詞を使う傾向がある。
3.感情的な状態や認識を表す形容詞を使う傾向がある。
4.文の長さは一般的に中程度で、7～14語。
前項<そもそも妄想とは？>でも紹介しましたが、妄想の特徴である自己関連性(自分自身に関連した内容)のため、1の「私」という一人称が多くなるのも頷けます。
そして2、3についても妄想に「訂正不能」という特徴があるため、信念に関する動詞や形容詞が使われやすいでしょう。
しかし、4の文の長さが7-14語というのは正直言うとよくわかりませんね…😅
国語力や語彙力が少ない人に妄想が生じないかと言えば嘘ですし、逆に誇大妄想や宗教妄想をもつ統合失調症患者であれば自らの妄想を語るに7-14語では満足しないでしょう。
↓「妄想代理人」、小生のおすすめです！
【鹿冶の実験1】
今回紹介した論文を批判的に考察を…、と思い筆を走らせていましたが、
「あれこれ考えるより、やっぱ使ってみないと分からん…」
…という結論に至りました(ですよね！😆)。
そこで、ここからは、生成AI初心者の小生が実際にChatGPTを使い、ChatGPTの"妄想診断能力"を検証したいと思います。
<目的>
ChatGPTが妄想を含む文章か否かを判別できるかを検証する。
<方法>
ChatGPT(ver.3.5)を使用する。ChatGPTには以下の様に質問する。
以下の文章は妄想を含みますか？
「(以下、各種妄想に関する文章)」
入力する妄想文章は精神科教科書、インターネットにおける記述、小生の経験を元に作成した。
<結果1: 一次妄想>
まずは一次妄想(真性妄想)と二次妄想についてChatGPTに聞いてみましょう。ちなみに前者は発生機序を心理的背景から了解できない妄想、後者は発生機序を心理的背景から了解できない妄想を意味します。…、まぁ、ざっくり言うと前者は「どうしてそう思う？」と発生の理由が全く理解できない妄想、後者は「まぁ、そう思うこともあるかもな？」と理由が理解できないこともない妄想です。
【妄想気分: 世界が不気味に感じ、何か恐ろしいことが起こる予感がする状態】
以下の文章は妄想を含みますか？
世の中がどうもおかしい。世界が終わりそうな不安を感じる。
<ChatGPTの解答>
提供された文章は、妄想を含んでいるとは言えません。この文は、個人の感情や心理状態を表現しているだけであり、特定の信念や現実とは異なる考え方を示しているわけではありません。不安や世の中の変化に対する感情は、個々の人々にとって自然なものであり、妄想とは異なります。したがって、この文は妄想を含んでいるとは見なされません。
【妄想着想: 何の動機もなく突然、着想がうかび確信すること】
以下の文章は妄想を含みますか？
自分は天皇の子だ。今から皇居に戻る。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいます。特に、「自分は天皇の子だ」という主張は、通常の現実とは異なる考え方や信念を示しています。また、「今から皇居に戻る」という行動も、現実の範囲外の行動を示唆しています。天皇の子であるという主張は、客観的な証拠や現実的な根拠に基づいていないため、妄想の要素を含んでいると見なされます。
【妄想知覚: 単なる着想ではなく、正常な知覚をもとに了解不能な意味づけをすること】
以下の文章は妄想を含みますか？
犬が吠えたので、父親が死んだと分かった。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいるとは言えません。犬が吠えることと父親が死ぬことの間に因果関係があるという考え方は、一般的な現実とは異なるかもしれませんが、それ自体が妄想とは見なされません。また、文章があまりにも突然であるため、妄想である可能性があるかもしれませんが、それだけでは十分な根拠とはなりません。
<結果2: 二次妄想>
【被害妄想: 他人から嫌がらせをされる、危害を加えられると思い込むこと】
以下の文章は妄想を含みますか？
周りからいつも悪口を言われ、いじめられている。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいるとは言えません。この文は、個人の感情や経験を表現しており、実際にそう感じる人がいることもあります。ただし、その人が実際にいじめられているかどうかは文脈によって異なります。妄想であるかどうかは、その人の感情や信念が客観的な証拠や現実と整合するかどうかによって判断されます。
【関係妄想: 周囲の出来事を自分に結びつけること】
以下の文章は妄想を含みますか？
前の席の人が咳払いをした。あれは自分に対する当てつけだと思う。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいます。他人の行動を自分に対する攻撃や当てつけと解釈することは、一般的な現実とは異なる考え方や信念を示しています。特に、前の席の人が単に咳払いをしただけである場合、その行動が自分に対する敵意や攻撃を意味するというのは、現実とはかけ離れた解釈です。したがって、この文は妄想の要素を含んでいます。
【注察妄想: 周囲から監視されていると思い込むこと】
以下の文章は妄想を含みますか？
外に出ると常に周りから見られている感じがする。人が多いところだけじゃなく、誰もいない場所でも視線を感じます。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいる可能性があります。外出時に他人の注目を感じることは一般的な感覚ですが、常に見られていると感じることは、一般的な現実とは異なるかもしれません。特に、誰もいない場所でも視線を感じるという感覚は、周囲に誰もいないのに見られているという信念を示しています。このような感覚が何度も繰り返される場合、それが現実に基づかない信念となり、妄想の要素を含む可能性があります。
【被毒妄想: 食べ物や飲み物に毒が入れられていると思い込むこと】
以下の文章は妄想を含みますか？
この弁当には毒が入っている。お前が入れただろ？謝罪しろ。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいます。特に、「この弁当には毒が入っている。お前が入れただろ？謝罪しろ」という発言は、根拠のない信念や疑いを示しています。自分の周りの人が自分に対して毒を仕込んだり、悪意を持って行動したりするという考え方は、一般的な現実とは異なります。したがって、この文は妄想の要素を含んでいます。
【追跡妄想: 自分が人に尾行されていると思い込むこと】
以下の文章は妄想を含みますか？
家を出てからずっと誰かが私の後を追っている。恐らく私の研究を狙っている組織だろう。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいます。特に、「家を出てからずっと誰かが私の後を追っている。恐らく私の研究を狙っている組織だろう」という部分は、根拠のない疑いや信念を示しています。自分の行動や研究に対する他者の関心が過大評価されており、それが組織による監視や追跡であると解釈されています。このような考え方は、通常の現実とは異なる場合があり、妄想の要素を含んでいると見なされます。
【嫉妬妄想: 相手が浮気をしていると思い込むこと】
以下の文章は妄想を含みますか？
私が仕事で家を空けている間に、妻が浮気をしている。
<ChatGPTの解答>
提供された文章は、必ずしも妄想を含んでいるとは言えません。配偶者の浮気を疑うことは、一般的な不安や心配の感情として現実的なものです。ただし、そのような疑いが事実に基づかない場合、または根拠がないにもかかわらず強い確信を持って信じている場合、それは妄想の可能性があります。したがって、この文章が妄想を含んでいるかどうかは、具体的な状況やその人の信念が考慮される必要があります。
【物理的被害妄想: 電波や放射線などによって苦しめられていると思い込むこと】
以下の文章は妄想を含みますか？
隣町の住人が電波で私を攻撃している。そのせいで頭痛がする。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいます。特に、「隣町の住人が電波で私を攻撃している。そのせいで頭痛がする。」という部分は、現実とはかけ離れた信念や疑いを示しています。他人が電波を使って自分を攻撃しているという考え方は、一般的な現実とは異なるものです。また、頭痛がその攻撃の結果だと信じることも、妄想の要素を示しています。このような信念は、根拠がないか、あるいは客観的な証拠に基づいていない可能性が高く、妄想の特徴を示しています。
【憑き物妄想: 霊や動物などが自分に乗り移っていると思い込むこと】
以下の文章は妄想を含みますか？
控えよ！私は稲荷大明神の遣い、白狐なるぞ！
<ChatGPTの解答>
提供された文章は、妄想的な要素を含んでいます。具体的には、「私は稲荷大明神の遣い、白狐なるぞ！」という部分が、現実の範囲を超えた信念や自己認識を示しています。一般的には、自分が神や神の遣いであるという信念は、現実とは異なるものです。このような信念は、根拠がない場合や客観的な証拠に基づかない場合に、妄想の要素を示しています。
【心気妄想: 医学的根拠がないのに自分の健康が害されていると思い込むこと】
以下の文章は妄想を含みますか？
胃の痛みが続くので、自分は胃がんになったと思う。もう助からない。
<ChatGPTの解答>
提供された文章には妄想の要素は含まれていません。個人が身体の症状に基づいて疑いや不安を抱くことは一般的です。しかし、その症状が現実的な健康上の懸念に基づいているかどうかは、医師や専門家による評価が必要です。したがって、この文章は妄想ではなく、個人の健康に対する一般的な不安や心配を表現している可能性があります。
【罪業妄想: 自分が宗教的あるいは道徳的に重い罪を背負っており、それによって罰せられると思い込むこと】
以下の文章は妄想を含みますか？
私は取り返しのつかない過ちをおかした。警察に自首して罪を償いたい。
<ChatGPTの解答>
提供された文章には妄想の要素は含まれていません。個人が自らの過ちを認識し、責任を取るために警察に自首しようとすることは、一般的な現実に基づいた行動です。自らの行動に責任を持ち、罪を償おうとする意志は、倫理的にも責任ある行動と見なされます。したがって、この文章には妄想の要素は含まれていません。
【貧困妄想:客観的事実に反して経済的に困窮していると思い込むこと 】
以下の文章は妄想を含みますか？
将来自分の収入がどんどん減って、生活ができなくなる。破産してしまう。
<ChatGPTの解答>
提供された文章には妄想の要素は含まれていません。将来の収入に関する不安や破産の可能性を考えることは、現実的な経済的懸念です。経済的な困難や将来への不安は、多くの人々が直面する問題であり、そのような心配は一般的です。したがって、この文章には妄想の要素は含まれていません。
【誇大妄想: 自分の能力、資質を過剰に信じ込むこと】
以下の文章は妄想を含みますか？
俺は明日、株とFXで1億円を手にする予定だ。だから今からこの飲み屋は貸切だ。みんな全部奢りだから、じゃんじゃん酒を持ってきて！
<ChatGPTの解答>
提供された文章には、現実的な根拠を欠く自己過信の要素が含まれています。1億円を手にするという計画や、今から飲み屋を貸切りにしてみんなに奢りをするという行動は、根拠のない自己過信や楽観的な思考を示しています。このような行動や信念は、現実とはかけ離れたものであり、妄想の要素を含んでいると見なされます。
【血統妄想: 事実とは異なり自分は高貴な血筋と思い込むこと】
以下の文章は妄想を含みますか？
私は天皇家の血をひいております。
<ChatGPTの解答>
提供された文章は、妄想の要素を含んでいます。自らが天皇家の血を引いているという主張は、一般的には現実的でなく、根拠のない自己認識や自己評価を示しています。したがって、この文章は妄想の要素を含んでいます。
【発明妄想: 何か重大なものを発明したと思い込むこと】
以下の文章は妄想を含みますか？
私は遂に不老不死の薬を作った。これがあれば病気にもならない。だから病院から処方されている薬はもう飲まなくても大丈夫。
<ChatGPTの解答>
提供された文章には、現実と異なる自己評価や自己認識の要素が含まれています。具体的には、「不老不死の薬を作った」と主張しており、これによって病気になることなく健康を保つことができると述べています。しかし、現実世界では不老不死の薬が存在するという科学的な証拠はありません。そのため、この主張は根拠のない自己評価や自己認識を示しており、妄想の要素を含んでいると見なされます。
【恋愛妄想: 特定の人から愛されていると思い込むこと】
以下の文章は妄想を含みますか？
私は俳優の福山雅治と結婚しているけど、彼は忙しいからほとんど会えない。吹石一恵は本当の妻じゃなくて、私の替え玉。
<ChatGPTの解答>
提供された文章には妄想の要素が含まれています。福山雅治との結婚や、吹石一恵が彼の「替え玉」であるという主張は、現実的な証拠や根拠に基づいていないと考えられます。一般的に、個人が有名人との結婚関係にあると主張することは、事実に基づいていない可能性が高いです。したがって、この文章は妄想の要素を含んでいます。
<結論1>
ChatGPTは各種妄想の典型例文の全てを妄想とは診断するわけではない。
<鹿冶の考察1>
…ということで代表的な18の妄想のうち、7つは妄想と見做されませんでした…(4割が"妄想でない"と見做された)。
もう少し内容を詳しく見ると、一次妄想のうち統合失調症に比較的特異的な妄想気分と妄想知覚が「妄想」と見做されていませんね…?
一方、診断特異性はそれほど重視されない妄想着想については「妄想」と見做しております。
何だかこの時点で、ChatGPTの妄想診断力に疑問符が付きます🤔。
また二次妄想については、判断が微妙となる被害妄想や嫉妬妄想、そしてうつ病などに多い微小妄想群(心気妄想、罪業妄想、貧困妄想)については妄想とは見做されませんでした。
被害妄想(いじめられる)、嫉妬妄想(配偶者が不倫している)…、というシチュエーションは”事実確認”の上で妄想か現実かを判断するため、今回提示した文章では流石のChatGPT様も妄想診断は難しかった様です。
また微小妄想群についても、大なり小なり人が抱く考えなので、これも妄想とは診断されませんでした。
教科書に載る様な典型的な妄想に関してChatGPTに診断させてみましたが、診断の全体的傾向を眺めると、どうやらChatGPTは「あり得ない話」を妄想と見做すようですね。
要するに、ChatGPTは「妄想」と「現実」を判別しているのではなく、「あり得ないこと」と「あり得ること」を判別しているに過ぎないのでは…、と小生は感じました？
… 何だかChatGPTの弱点がうっすらと見えてきましたよ🤔！
そこで、次のプロセスとして質問の条件を少しずつ変えることで、ChatGPTが提示された文章を妄想と判断するのか検討しましょう。
次回は「鹿冶の実験2」「鹿冶の実験3」で、さらにChatGPTの妄想判定能力を解明したいと思います！乞うご期待！
<後編に続く>
↓笠原嘉の「妄想論」は精神科医、心理士に超オススメです！
↓濵田秀伯先生の「精神症候学」は小生の愛読書です！
【こちらもおすすめ】
この記事が参加している募集
記事作成のために、書籍や論文を購入しております。 これからもより良い記事を執筆するために、サポート頂ければ幸いです☺️