[読書メモ] ChatGPT/LangChainによるチャットシステム構築［実践］入門
はじめに
読んだ本
読んだ動機
ChatGPTリリースの衝撃から1年以上が経過した。
業界的にLLMアプリケーションは1分野になりつつあるので、アプリケーションエンジニアとして概要を押さえたい。
読書メモ
OpenAI ChatGPT 有料でできること
プラグイン追加できるらしい。Web検索など。
CSVファイルをアップロードして、データ分析に使う。
Pythonコードの生成
グラフ化
ファインチューニングとプロンプトエンジニアリングは異なる
ファインチューニング
モデルの追加学習
GPUが必要
プロンプトエンジニアリング
プロンプトの工夫
プロンプトエンジニアリング
出力形式を指定したいときは、具体例を書く
「ステップバイステップで考えてみましょう」と書くと、計算問題を間違えにくくなる
LangChain のキーワード
Chains
処理をひとまとまりとして繋げられる
ユースケースに特化したChainが公開されている
自分でChainを作ることがLangChainの醍醐味
ロジックを組む点はプログラミングと同じなので、楽しそう
Memory
データの保存先を指定できる
Data Connection
LLMと外部データを接続する
外部データを読み込む → translate → ベクトル化 → Vector Storeに保存 する
Vector Store から検索する機能
社内ドキュメントの検索とかに使えそう
LangChain提供のDocumentTransformerが外部データの変換に便利そう
Agents
Vector Store からの検索結果を踏まえて、LLMにアクションを判断 & 動いてもらう
その他のキーワード
RAG
入力にベクトルが近い文書を検索してcontextに含める手法
LLMアプリケーションのテスト
テキストの距離による評価
LLMによる評価
新手法が次々と開発される分野なので、面白そう。
おわりに
前半が基礎、後半が応用（アプリケーション作成）という構成。
アプリケーションエンジニア向けに書かれているので、とても読みやすかった。
後半（アプリケーション作成）は必要になったタイミングで再読すると、学びが多そう。
LangChainを使用するかは別として、LLMアプリケーションの概要を押さえるために良い本。
LLMアプリケーションの開発&テスト手法を追いかけるために、LangChainの動向に注目していきたい。
プロンプトエンジニアリングを食わず嫌いしていたけど、ロジックを組む箇所が予想以上に多くて面白そうだった。
視野が広がったのでこの本に感謝 (* ˊᵕˋㅅ)