AIエージェントの"先入観"

ネットを探しにいってくれるAIエージェントを作ってみました。ネットを検索して検索結果を取得し、その内容をみて、不十分であれば、LLMに再検索をさせるAIエージェントです。

「2024年のノーベル平和賞の受賞者は？」

この質問をいれたとき、最初は「2024年はまだ発表になってない」という回答。「ネット検索」しに行っているのに、なぜか、「自分の知識のカットオフ日が影響して」2024年は発表されていないと回答。

そこで現在は、現在の日時をシステムプロンプトに挿入するようにしました。

この原因をClaudeに質問したところ、「カットオフ日が"先入観"になっているのだろう」と。先入観！！！

面白い！

ーーーー

実際に起きていること：

「2024年のノーベル平和賞受賞者」を検索すると、日本被団協の受賞のニュースが出てくるはず
しかしエージェントは「まだ発表されていません」と回答

問題の本質：

エージェントは検索結果を得ているにも関わらず
LLMの学習データのカットオフ日（2024年4月）に基づいて
「2024年のことはまだ分からない」という先入観で回答を生成している

つまり：

ネットで最新情報を探せているのに
その情報を「未来のことだから信用できない」と判断して無視している
検索結果よりも自身の学習データの制限を優先している

---

これは、信頼性の低い情報を参照してはいけない、とプロンプトに入っているため、その指示との「狭間」に置きたのかなと思いました。