ローカルLLMの情報まとめ
「ローカルLLM」の記事が増えてきたのでまとめました。
「Llama 2」ベースのローカルLLMについては、以下でまとめています。
1. 推論
1-1. 実践
1-2. 情報
2. SFT (Supervised Fine-tuning)
2-1. 実践
2-2. 情報
3. RM (Reward / preference modeling)
4. RLHF (Reinforcement Learning from Human Feedback)
4-1. 実践
4-2. 情報
5. 高速推論
6. 評価
7. データセット
※ OpenAI APIはローカルLLMではありませんが、ローカルLLMのデータセット作成の参考になるためリストアップ。
8. 事前学習
9. LlamaIndex ・ LangChain
10. マルチモーダル
11. Web UI
関連
・【令和最新版】対話型AI、ローカル支部最前線レポート - Qiita
・数値で整理する大規模言語モデル(LLM) の メモリ