反AIバイアス。人間はAIが関与した情報を信じにくい
📖 文献情報 と 抄録和訳
AIの関与が信じられていることがデジタル医療アドバイスに対する認識に与える影響
📕Reis, Moritz, Florian Reis, and Wilfried Kunde. "Influence of believed AI involvement on the perception of digital medical advice." Nature Medicine (2024): 1-3. https://doi.org/10.1038/s41591-024-03180-7
🔗 DOI, PubMed, Google Scholar 🌲MORE⤴ >>> Connected Papers
※ Connected Papersとは？ >>> note.
[背景・目的] 大規模言語モデルはデジタル医療相談に新たな可能性をもたらす。これまでの研究では主に、AI（人工知能）ベースのツールの性能が焦点とされてきたが、これらの技術進歩に対する一般市民の認識に注目した研究はほとんど行われていなかった。
[方法] 2件の事前登録研究（n=2,280）では、参加者に患者が医療アドバイスを受けるシナリオが提示された。すべての参加者は同じ情報を受け取ったが、このアドバイスの情報源として想定された「AI」「人間の医師」「人間＋AI」というラベルが操作された。
[結果] 「AI」および「人間＋AI」とラベル付けされたアドバイスは、「人間」とラベル付けされたアドバイスと比較して、信頼性および共感性が著しく低いと評価された。また、AIがアドバイス生成に関与していると認識された場合、参加者はアドバイスに従う意欲が低下する傾向を示した。
1. 共感性 (Empathy)：人間による助言は平均スコア4.1（5点満点）であり、AI（3.6）やAIを利用する人間（3.7）と比較して有意に高かった（t値=3.44～3.58, p<0.001）。
2. 信頼性 (Reliability)：人間の助言は平均スコア4.3で、AI（3.8）およびAIを利用する人間（3.8）よりも高く評価された（t値=3.72～3.90, p<0.001）。
3. 分かりやすさ (Comprehensibility)：分かりやすさのスコアには有意差が見られず、全条件でほぼ同程度（平均約4.2）であった（F値<1）。
4. 助言に従う意欲 (Willingness to follow advice)：人間による助言は平均スコア4.2で、AI（3.7）やAIを利用する人間（3.8）と比較して高かった（t値=4.46, p<0.001）。
[結論] この調査結果は、たとえAIが医師の監督下で運用されていても、デジタル医療アドバイスの受容において反AIバイアスが発生する可能性を示唆している。医療分野におけるAIの潜在能力が極めて大きいことを踏まえると、このバイアスに対処する方法を明らかにすることが今後の研究の重要な課題となるだろう。
🌱 So What?：何が面白いと感じたか？
「同じことを言われているのに、言われている人によって、響き方が全然違うんだよな」ということは、人間社会内においてもしばしば経験されることだ。
その違いとは、いったい何なのだろうか。
その大きな１つとして、事前にその人に対して抱いている『信頼感』『信頼関係』の違いがあると思う。
「私はあの人をよく知っている。そして、あの人も私のことをよく知っている」
「あの人は、私にとって、信じることのできる人で、あの人のことを信頼している」
そういう相手であってこそ、たとえ苦々しいことを告げられる時でさえ、そこに光明を見出そうとしたり、自責的な念が生まれたりするわけだ。
今回の抄読研究は、AIに対して人間が抱く『信頼感』『信頼関係』は、まだ小さそうだということを明らかにした。
著者らは同じ情報を違う情報源のラベルを提示して、情報の質を評価してもらった。
その結果、人間のみによる情報と比較して、AIが関与している情報は共感性、信頼性が低く、その助言に従いたいと思う意欲も低い結果となった。
まだまだ、人間にとってAIは信頼しにくい同僚やアドバイザー（上司）であるらしい。
こと重要なこととしては、この『反AIバイアス』がこれからの医療に与える影響が大きそう、ということ。
たとえば、医療者から患者に医療情報を提示する際に、そこにAIが関与していたとしても、それをAIが関与しているというラベルを明らかにしない方が、その情報が患者に与える影響は大きくなる。
そうなってくると、AIの活用は大っぴらにしない方が良さそうだが、倫理的な側面からそれはどうか・・・。
このあたりは、次世代の課題になってきそうだ。
まあ、『反AIバイアス』自体が、数年後には消滅している可能性もあるけれど・・・。
矢印がグルッと逆転して『反人間バイアス』にならぬことを願うばかりである。
⬇︎ 関連 note & 𝕏での投稿✨
📕反AIバイアス
— 理学療法士_海津陽一 Ph.D. (@copellist) January 20, 2025
・同一の医療情報 + 異なる情報源 → 情報の質を評価(2,280人)
・情報源：人間, AI, AIを利用した人間の3パターン
🔹共感性, 信頼性, 助言に従う意欲：人間＞AI, 人間+AI
🔹分かりやすさ：群間で差なし
人間にはAIが関与した情報を信じにくい『反AIバイアス』があるようです😲 pic.twitter.com/L8m1OlYnay
○●━━━━━━━━━━━・・・‥ ‥ ‥ ‥
良質なリハ医学関連・英論文抄読『アリ：ARI』
こちらから♪
↓↓↓
‥ ‥ ‥ ‥・・・━━━━━━━━━━━●
#️⃣ #理学療法 #臨床研究 #研究 #リハビリテーション #英論文 #文献抄読 #英文抄読 #エビデンス #サイエンス #毎日更新 #最近の学び