子供の健康指導をChatGPTに頼る親
子供のための健康情報を探している親は、著者が不明な場合、医療専門家よりもAIを信頼しており、また親はAIが生成したテキストを信用でき、道徳的で信頼できると評価しているようだ、という米国カンザス大学からの研究報告。
研究者らは、18歳から65歳までの116人の親を対象に横断的研究を実施し、乳児の睡眠トレーニングや栄養に関する情報など、健康関連のテキストを配布した。参加者には著者が誰であるかは知らされなかったが、それらはChatGPTと医療専門家のどちらかが作成したコンテンツだった。
「参加者は、道徳性、信頼性、専門性、正確性、そして情報にどれだけ頼りになるかに基づいてテキストを評価した」と研究者は述べている。
多くの場合、親は ChatGPT が生成したコンテンツと専門家が生成したコンテンツを区別できなかった。評価に大きな差があった場合、ChatGPT は専門家が生成したコンテンツよりも信頼性が高く、正確で、信頼できると評価された。
「研究中、AI出力の初期段階のいくつかに誤った情報が含まれていました」と研究者は述べている。「私たちが知っているように、ChatGPTのようなAIツールは『ハルシネーション』を起こしやすいため、これは懸念すべきことです。ハルシネーションとは、システムに十分なコンテキストがない場合に発生するエラーです。」
「情報源の信頼性には依然としてばらつきがあります。ダブルチェックされた専門知識の層を備えたシステムに統合された AI を探してください。Wikipedia は常に検証されているわけではないので、使用には注意するよう常に教えられてきたのと同じです。同じことが AI にも当てはまります。すべてが同等ではないので、より信頼できる可能性が高いプラットフォームを探してください」と研究者はコメントしている。
出典は『Journal of Pediatric Psychology』