LlamaIndex v0.10の「上位レベルのモジュール内のプロンプトへのアクセス，カスタマイズ」をやってみる

2024/03/22

こちらの公式ドキュメント(v0.10.20)を参考に評価についてまとめていきます．

https://docs.llamaindex.ai/en/stable/examples/prompts/prompt_mixin.html

はじめに

LlamaIndexには，さまざまな高レベルのモジュール（クエリエンジン，応答合成器，検索器など）が含まれており，その多くはLLM呼び出しを行い，プロンプトテンプレートを使用します．

Advanced Prompt Techniques (Variable Mappings, Functions)

Google Colaboratory

このノートでは以下のような実験を行っています．

• 部分的なフォーマット

• プロンプトテンプレート変数のマッピング

• プロンプト関数のマッピング

これは，テンプレートのプロンプトを用意しておいて，特定の部分だけを後で変更したいときに便利です．

例えば，

貴方は{expert}について詳しい優秀なアシスタントです．{person}の口調で回答してください．

というプロンプトを設定すると，「部分的なフォーマット」になります．

実行するQAやドキュメントにより何について詳しいか，どんな形で回答したいかは変わりますので，その部分だけ変更できるように変数にできるというのがこのテクニックとなります．

RAG の迅速なエンジニアリング

Google Colaboratory

ここでは，プロンプトテクニックを紹介しています．

あ

まとめ

次に読む記事

https://docs.llamaindex.ai/en/stable/examples/prompts/advanced_prompts.html

支援のお願い

ここまで読んでいただきありがとうございます。「スキ」で反応をいただけると励みになります。

また、継続的な記事の公開のために、支援をしていただけると幸いです。

https://note.com/rhe/n/n01096a6aed38