Week of 5/13(2024) LangChain Release Notes
ここLangChainでは、花が咲き乱れる庭となっています。 LangChain v0.2 がもうすぐリリースされ、LangSmith にはセキュリティとコンプライアンスが強化され、ペアごとの評価などの新機能が追加されました。 「Speak the Lang」セクションでは、実際の使用例に焦点を当てています。また、パートナーやコミュニティ コンテンツの寄稿者向けに専用の放送時間を追加しました。是非、ご一読を!
製品のアップデート
💡LangChain、LangSmith、LangGraph の最新の製品アップデートとニュースを紹介します。
🚀LangChain v0.2 のプレリリースでは、langchainの安定性とセキュリティを向上させるために langchain-communityからパッケージを分離しました。langchain v0.2 では、次のことが期待できます。
バージョン管理されたドキュメントの発見可能性が向上し、情報や手順をマイナー バージョンと照合できます。
エージェントを構築するための推奨方法として LangGraph を使用すると、サイクルと組み込みメモリを簡単に定義し、それらをカスタマイズおよび変更できます。
最初の安定したライブラリ バージョン v0.1 以来、次の点も改善されています。
標準化されたツール呼び出しサポートや出力を構造化するためのインターフェイスなどの標準チャット モデル機能
多くのコア抽象化の非同期サポート
新しいイベント ストリーミング API によるストリーミングのサポート
Python および JavaScript パッケージにわたる 20 以上のプロバイダーのパートナー パッケージ
GitHub ディスカッションに関するフィードバックをお待ちしています。LangChain v0.2 への移行方法に関するドキュメントについては、こちらを参照してください。
LangSmith
🌍 LangSmith は GDPR に準拠しました。
LLM アプリケーションを構築、テスト、監視するための統合開発者プラットフォームである LangSmith が GDPR に準拠しました。セキュリティとコンプライアンスは、当社と増え続ける企業顧客リストにとって重要です。私たちは、皆様により効果的にサービスを提供できることに興奮しています。
🔒ロールベースのアクセス制御 (RBAC) が企業顧客向けに利用可能になりました。
管理者は、 LangSmith の RBACを使用して組織内のユーザーにロールを割り当てることができるようになりました。リソースにアクセスできるユーザーを決定するための詳細な権限を持つカスタム ロールを作成/編集します。
また、アクセス制御をサポートするために改良された API キーも導入しました。これらには次のものが含まれます。
ユーザーの権限に範囲が限定されるパーソナル アクセス トークン
サービス キー。LangSmith API にアクセスするサービス用です (ユーザーの削除などの組織の変更の影響を受けません)。
この機能は、Enterprise プランのユーザーが利用できます。LangSmith の専門家にご相談ください。
🍐 ペアワイズ評価を使用すると、テキスト生成またはチャットをテストするときに出力をインテリジェントに選択できます。
テキスト生成やチャットなどの LLM ユースケース (単一の「正しい」答えが存在しない可能性がある) では、ペアごとの評価で好ましい応答を選択することが効果的なアプローチとなる可能性があります。
LangSmith のペアワイズ評価を使用すると、
(1) 任意の基準を使用してカスタムのペアワイズ LLM-as-judge エバリュエーターを定義し、
(2) このエバリュエーターを使用して 2 つの LLM 世代を比較できます。
ビデオ チュートリアルを見て、LangSmith でカスタムのペアワイズ エバリュエーターを使用する方法の例を説明するか、ドキュメントを確認してください。
おまけ: 運用ログでバックテストを行う必要がありますか? このビデオでは、ペアごとの評価が、アプリの実行のさまざまなバージョンをベースラインの実稼働アプリと比較するのにどのように役立つかを示します。
🛠️ LangChain Hub とは別の新しいホームにより、個人プロンプトへのアクセスと管理が簡単になりました。
組織のプロンプトは、LangChain Hub から分離されました。既存のプロンプトをコミット バージョンごとに整理して取得するため、同じプロンプトの異なるバージョンのパフォーマンスを追跡し、問題があればすぐにデバッグできます。
すべての公開共有プロンプトは、パブリック ハブの LangSmith の下部サイドバーに引き続き表示されます。嬉しいプロンプトです!
Speak the Lang
🦜
実際のユースケースと、LangChain、LangSmith、または LangGraph を使用して、運用環境であっても高品質かつ正確な LLM アプリを構築した方法の例
マルチエージェントアプリケーション
LangGraph が名前であり、マルチエージェントがゲームです。 LLM ワークフローで複数の独立したエージェントを採用することで、より複雑な問題を解決できます。ここでは、 LangGraph ライブラリを使用してユーザーの課題を解決するために使用できるテクニックをいくつか紹介します。
📝 GPT Researcher と LangGraph を使用して自律的な研究アシスタントを構築する
Assaf Elovic (Wix の R&D 責任者) が、フロー エンジニアリングとマルチエージェントのコラボレーションが、アーキテクチャから実行まで、特定のトピックに関する詳細な調査の自動化にどのように役立つかを段階的に説明します。
彼の例では、平均的な実行により、PDF、Docx、Markdown などの複数の形式でカスタマイズ可能な 5 ~ 6 ページの調査レポートが生成されます。ここで自分で試してみてください!
🤖 LangGraph でカスタマー サポート ボットを構築する
ゼロショット エージェントから始めて、このビデオを見て、航空券、交通機関、ホテル、小旅行の予約の調査と管理に役立つカスタマー サポート ボットを設計および構築する方法を学びましょう。
(1) アクションを実行する前のユーザー確認
(2) 確認の必要性に基づいてアクションをグループ化
(3) さまざまなユーザー ジャーニーに合わせてツールをワークフローに組み込むことによって、チャットボットに表現力と制御の両方を追加する方法がわかります。プロジェクトのコードとドキュメントを参照することもできます。
⏪ マルチエージェント RAG、スクラッチパッドからライブアプリまで
このライブストリーム録画では、AI Makerspace の共同創設者が、最終アプリケーションを管理するスーパーバイザーの下で、それぞれ独自のスクラッチパッドを持つエージェントをどのように調整するかを説明します。この例では、研究チームとドキュメント チームを立ち上げ、すべて LangGraph を使用して最先端の技術ブログを作成しました。
評価: GPT-4o、RAG などの使用
⚡ LangSmith による新しい GPT-4o のテスト
OpenAI の最新の「オムニ」モデル GPT-4o のサポートにより、古い OpenAI モデルに対して GPT4o を評価して、アップグレードしても安全かどうかを確認できます。
この8 分間のビデオでは、LangChain ドキュメントに関連する 20 の質問のデータセットに対して、単純な RAG アプリを使用して新しい GPT-4o をテストします。ネタバレ: 私たちの回帰テストでは、 GPT-4o は RAG 精度でわずかな改善 (2%) と、p50 待ち時間で顕著な改善 (29%) を示しました。報告されている最大 50% のコスト削減により、このユースケースでは安全にアップグレードできました。
データセットを試して、 LangSmith の RAG evalを使用してこの評価を独自のアプリにカスタマイズします。
現在、どの LangChain アプリケーションでも GPT-4o のマルチモーダル機能を使用できます。詳細については、PythonとJavaScript のドキュメントをご覧ください。
🤔 RAG 評価の中間ステップ
RAG (検索拡張生成) などの一部のパイプラインでは、パイプライン出力 (つまり、最終応答) と中間ステップの出力の両方を評価する必要がある場合があります。しかし、中間ステップの出力をどのように分離して評価するのでしょうか?
評価ビデオ シリーズの最新ビデオでは、LangSmith を使用して RAG パイプラインのあらゆるステップ (ドキュメント取得などの中間ステップを含む) を個別に評価し、デバッグを改善する方法を学びます。
パートナーシップ
🤝私たちは💚 統合を使用してユーザーがエコシステム内のパートナー機能を活用できるよう支援します
ハグフェイスパートナーパッケージ: langchain-huggingface
langchain-huggingfaceHugging Face と共同で管理する LangChain のパートナー パッケージである のリリースを発表できることを嬉しく思います。
LangChain ユーザーは、Hugging Face 機能に確実に接続してアクセスできるようになりました。これには、チャット、テキスト補完、ローカル インスタンスとホストされたインスタンスの両方の埋め込みモデルが含まれます。詳細については、このブログ投稿をご覧ください。
Qdrant パートナー パッケージ: langchain-qdrant
を使用するとlangchain-qdrant、LangChain ユーザーは Qdrant ベクター ストアに接続できます。 LangChain は、Qdrant のメモリ、API、またはハイブリッド クラウド デプロイメントをサポートするようになりました。PythonとJavaScript の両方のパッケージを確認してください。
Redis & LangChain マルチモーダル RAG テンプレート
このブログ投稿では、マルチモーダル RAG を紹介し、テンプレートのセットアップを説明し、いくつかのサンプル クエリと、モデルがテキストと画像の両方を処理および推論して、より微妙な LLM アプリを構築できるようにする利点を示します。
ボーナス: LangChain は MongoDB のAI アプリ フレームワーク パートナー オブ ザ イヤーに選ばれました。
コミュニティから
🗣️100 万人以上の開発者とビルダーが日常的に LangChain をどのように使用しているかをご覧ください。いつも私たちがより良いものを作るのを手伝ってくれてありがとう!
動画:
ツールを使用した LLM エージェントの構築 ( Cohere の Jay Alammar 氏)
LangGraph によるフロー エンジニアリング: Eden Marco による GPT 新聞 (Rotem Weiss によって構築されたリポジトリ付き)
ブログ:
Metadocs 上の Rav による本番環境に対応した構成可能なチェーンを作成するための過小評価されている 2 つの LangChain 機能
Server-Sent Events (SSE) を使用して Next.js で LLM 応答をストリーミングby LaunchFa.st創設者 Rishi Jain
レトリバーを使用した LangChain チャットボット フレームワークby Kobus Greyling、Kore AI チーフ エバンジェリスト
NVIDIA AI LangChain AI エンドポイントを使用して RAG パイプラインを構築するためのヒント ( NVIDIA シニア データ サイエンティスト、Amit Bleiweiss 著)
コース:
Harpreet Sahota による迅速なエンジニアリング LinkedIn コース
GitHub プロジェクトとノートブック:
Llama 3B-Instruct を使って PDF 用の RAG システムを構築する ( Unstructured の Maria Khalusova 著)
どうすればすべての騒ぎに従うことができますか?さらに詳しい製品やコンテンツの最新情報については、LangChain ブログとYouTube チャンネルをチェックしてください。
Discordでディスカッションに参加したり、support@langchain.dev にメールでサポートを受けることもできます。