The application of large language models in pediatrics and medical research—Revolution or risk?

https://onlinelibrary.wiley.com/doi/full/10.1002/pdi3.39

1. 本研究の学術的背景は、人工知能（AI）の発展とそれに伴う大規模言語モデル（LLM）の普及に焦点を当てています。AIの利用は、専門家の研究から一般の人々まで、さまざまな人々の生活に影響を与えるようになりました。特に、LLMは自然言語処理を使って人間に似た対話を生成するAIベースのツールであり、研究者だけでなく、他の専門家や一般の人々にも広く利用されています。

2. 本研究の目的は、LLMを記事作成のツールとして利用する際の課題と限界を明らかにすることです。例えば、ChatGPTというLLMを使用してCOVID-19ワクチンの免疫原性に関するレビュー記事を作成した場合、その制約や問題点が示されました。また、LLMの利用に関して、透明性や科学的アプローチの重要性についても議論されています。

3. 本研究の着想は、LLMの広範な利用が求められる中で、その使用に関するガイドラインや規制が必要であることから生まれました。既存の報告チェックリストは、LLMの利用についてまだカバーしきれていないため、専用のチェックリストの開発が提案されています。また、一般の人々によるLLMの利用も問題点があり、特に医療の分野では信頼性が重要です。

4. 本研究では、LLMの記事作成における制約や問題点を実証するために、ChatGPTを使用したCOVID-19ワクチンの免疫原性に関するレビュー記事の作成を例に取り上げています。この結果、LLMが人間の指示にもかかわらず関係のない情報を生成したり、適切なPubMedの検索結果が得られなかったりするなどの問題が明らかになりました。

5. 本研究の有効性は、ChatGPTという特定のLLMを使用して記事を作成する際の課題や制約を明らかにすることで検証されています。また、LLMの利用に関するガイドラインや規制の必要性も提案されています。