LlamaIndex v0.10の「上位レベルのモジュール内のプロンプトへのアクセス，カスタマイズ」をやってみる

2024年8月5日 07:46

2024/03/22

こちらの公式ドキュメント(v0.10.20)を参考に評価についてまとめていきます．

はじめに

LlamaIndexには，さまざまな高レベルのモジュール（クエリエンジン，応答合成器，検索器など）が含まれており，その多くはLLM呼び出しを行い，プロンプトテンプレートを使用します．

このノートでは以下のような実験を行っています．

これは，テンプレートのプロンプトを用意しておいて，特定の部分だけを後で変更したいときに便利です．

例えば，

貴方は{expert}について詳しい優秀なアシスタントです．{person}の口調で回答してください．

というプロンプトを設定すると，「部分的なフォーマット」になります．

実行するQAやドキュメントにより何について詳しいか，どんな形で回答したいかは変わりますので，その部分だけ変更できるように変数にできるというのがこのテクニックとなります．

ここでは，プロンプトテクニックを紹介しています．

ここまで読んでいただきありがとうございます。「スキ」で反応をいただけると励みになります。

また、継続的な記事の公開のために、支援をしていただけると幸いです。