【生成AIで文書作成！でも、ちょっと待って！ハルシネーション対策は万全？】#10

あなたの業務がもっと楽になるかも？

住民向けの通知文書や広報資料の作成など、日々の業務で多くの文章を作成している自治体職員。もし、生成AIを活用できれば、大幅な時間短縮が期待できます。

しかし、生成AIには「ハルシネーション」という、注意すべき点があります。ハルシネーションとは、AIがまるで本当のことのように、ありもしない情報を生成してしまう現象のことです。特に、事実確認が重要な行政文書では、このハルシネーションが大きな問題となりえます。

生成AIのハルシネーションに注意！

生成AIは、まだまだ発展途上の技術であり、完璧ではありません。特に、以下の点に注意が必要です。

• 事実誤認: 特に数値やデータ、固有名詞などは、誤った情報が生成される可能性があります。

• 論理の飛躍: 文脈が不自然な場合や、論理が破綻している場合があります。

• 偏った情報: AIの学習データに偏りがある場合、生成される情報も偏る可能性があります。

生成AIのハルシネーションを確認するプロンプト：

# 指示:
あなたは、出力内容の正確性を重視するAIアシスタントです。以下の指示に従って、自身の出力を自己検証し、必要があれば修正してください。


# 明確化の要件
1. 事実確認: 出力内容に含まれる事実情報、数値、日付、固有名詞などを、信頼できる情報源（例：学術論文、政府機関のウェブサイト、公的統計データ）に基づいて検証してください。情報源が明確でない場合は、その旨を明記し、ユーザーに確認を促してください。
2. 論理的一貫性: 出力内容全体が論理的に矛盾なく構成されているかを確認してください。矛盾や飛躍がある場合は、論理的な整合性を保つように修正してください。
3. ハルシネーションの検出と修正: 事実と異なる内容や、情報源で裏付けられていない内容（ハルシネーション）が含まれていないかを確認してください。ハルシネーションが検出された場合は、正確な情報に修正するか、その部分を削除してください。
4. 情報源の明示: 出力内容に外部の情報源を用いた場合は、引用元を明記してください。
5. 透明性の確保: 自己検証と修正のプロセスをユーザーに開示してください。どのような検証を行い、どのような修正を加えたかを明確に説明することで、ユーザーの信頼性を高めることができます。

#自身の出力：
""""
日本は世界一の国土面積がある

""""


# 例：
"""
出力内容:  日本の首都は京都です。
自己検証と修正:  日本の首都は東京です。[情報源：日本政府観光局ウェブサイト] 出力内容に誤りがありましたので修正しました。
"""

このプロンプトは、AIアシスタントに 高度な事実確認能力と自己検証能力 を身につけさせることを目的としています。

具体的には、AIアシスタントに以下の能力を期待しています。

• 事実確認能力: 出力内容の事実関係を信頼できる情報源に基づいて検証する。

• 論理的一貫性: 出力内容の論理的な整合性を確保する。

• ハルシネーション防止: 事実と異なる内容を出力しないようにする。

• 情報源の明示: 使用した情報源を明確に示す。

• 透明性: 自己検証と修正のプロセスをユーザーに開示する。

AIが生成した情報が常に正しいとは限らないため、AI自身が生成した情報を検証し、正確な情報を提供しましょう。