LLaMA 2とRAFTで強化する生成AI：Retrieval-Augmented Fine-Tuningの実力
本記事については生成AIを活用して生成された記事となります。解説内容の正確性については読者ご自身でご確認いただきますようお願いいたします。
本記事はRAFT: Sailing Llama towards better domain-specific RAGの解説記事となります。
Retrieval-Augmented Fine-Tuning（RAFT）は、Retrieval-Augmented Generation（RAG）とSupervised Fine-Tuning（DSF）の利点を組み合わせた手法であり、MetaのLLaMA 2と組み合わせることで専門分野に特化した生成AIを実現します。この記事でRAFTメソッドの仕組みとそのメリットを紹介します。
Retrieval-Augmented Fine-Tuning（RAFT）とは何か？
RAGとDSFの限界
RAG（Retrieval-Augmented Generation）は、生成AIに関連ドキュメントを検索させ、それを参照して回答を生成するアプローチです。一方、DSF（Domain-Specific Supervised Fine-Tuning）は、専門分野のドキュメントを使ってモデルを事前に訓練します。
これらの方法はそれぞれに利点がありますが、限界も存在します。RAGでは、検索結果が必ずしも関連性の高いドキュメントを含むとは限らず、誤情報や無関係な情報が回答に混じることがあります。一方、DSFでは、モデルの事前訓練データに制約があるため、情報の欠落や不正確な回答が発生しやすくなります。
RAFTのアプローチ
RAFTは、RAGとDSFの利点を組み合わせた新しい手法であり、MetaのLLaMA 2で研究が進められました。まず、関連情報を含むドキュメントと含まないドキュメントを混在させたデータセットを作成し、それを使ってLLaMA 2を訓練します。
訓練データには、以下の要素が含まれます：
質問
回答に関連するドキュメントと無関係なドキュメント
ドキュメントから生成された回答
回答に至る考え方（Chain-of-Thought、CoT）
このデータセットでLLaMA 2を訓練することで、モデルは特定ドメインでの知識とスタイルに適応し、CoTの考え方を使って回答の質を向上させます。これにより、RAFTはRAGとDSFの中間的な手法として機能し、両者の利点を活かしながら専門分野での回答精度を高めます。
RAFTメソッドの効果
専門分野での回答精度向上
RAFTメソッドにより、LLaMA 2は専門分野での回答精度を向上させます。CoTによる思考プロセスの導入で、モデルは無関係な情報を無視し、関連ドキュメントから重要な情報を抽出できるようになります。これにより、RAGでは不可能だった専門知識に基づいた信頼性の高い回答が可能になります。
LLaMA 2の多様な活用可能性
MetaのLLaMA 2は、多様なドメインで活躍できる汎用性を持っています。RAFTメソッドを使えば、特定の専門分野向けにLLaMA 2をカスタマイズできるため、医療や法律などの専門領域でも高い精度で回答を生成できます。
RAFTメソッドの実装と最適化
LLaMA 2の選定理由
研究チームは、LLaMA 2の7Bモデルを選びました。7Bモデルは、大規模言語モデルの中でも適度なトークンコンテキスト長（4096トークン）を持ち、推論速度も速いため、RAFTのタスクに最適でした。Microsoft AI Studioを利用することで、LLaMA 2 13Bや70Bのモデルも試すことが可能です。
訓練データの作成と学習のポイント
LLaMA 2を最適にファインチューニングするためには、以下のポイントが重要です：
ドメインに関する多様な質問とCoTによる回答を含むデータセットの作成
チェックポイントを適宜保存し、早期停止に備える
プレトレーニングで使用した学習率より1桁低い学習率の設定
16ビット精度でのトレーニング、3エポック以内のトレーニング、バッチサイズを大きくする
RAFTの実践例
医療分野での適用
医療分野において、RAFTメソッドで訓練されたLLaMA 2は、専門的な診断や治療に関する質問に対して信頼性の高い回答を提供することが期待されています。医学文献から得られた情報を組み合わせて、患者の状態に適した治療法を提示できます。
法律分野での適用
法律分野でも、RAFTメソッドを用いたLLaMA 2は、有用な回答を生成することができます。判例や法的文書を参照しながら、質問者に適切なアドバイスを提供します。
RAFTの今後の展望
専門分野でのさらなる最適化
RAFTメソッドは、特定ドメインに特化した生成AIの可能性を大いに広げます。今後は各専門分野での最適化が進むことで、より多くの分野で活躍するLLaMA 2の姿が見られるでしょう。
生成AIの多様な応用
Azure AI Studioを使えば、LLaMA 2のファインチューニングが容易に行えます。これにより、専門知識を必要とする多様な分野での応用が可能になり、生成AIの可能性がさらに広がるでしょう。
まとめ
RAFTメソッドは、RAGとDSFの長所を組み合わせ、LLaMA 2を特定分野向けに最適化します。専門知識を必要とする領域においても、信頼性の高い回答を提供することが可能となり、生成AIの幅広い活用が期待されます。