ChatGPTライクなUI(&RESTサーバ) 調査メモ

2023年12月13日 18:04

ChatGPTやPaLMなどのLLM APIを統合したユーザーインターフェース（UI）および、オープンソースLLMをサービングするためのツールの構築に関する個人的な調査メモです。

概要

生成AI技術が進化する中、ChatGPTのAPIやGoogleのPaLMなどを一元管理するUIが求められています。このニーズに応え、GitHubには数多くのChatGPTライクUIが存在します。

この分野の詳細な情報を得るために、以下の記事を参照しました。この記事は最新の動向を網羅しており、Pythonと生成AIの観点からも非常に有益です。

次のWebサイト（マークダウン形式）では、必要な情報が詳細にまとめられており、更新も迅速です。お気に入りに追加しておくことをお勧めします。

私自身も、LlmOpsを含む生成AI技術の集約ポータルを構築しました。

これらのキーワードでGitHubを検索すると、有用なリソースが見つかります。

商用目的で使用する場合、Apache2.0またはMITライセンスの有無、そしてStarの数（1k以上推奨）が重要だと考えます。

「Langserve」はLangchainライブラリの作者が開発している点は特筆すべきでしょう。

Difyは有用ですが、商用利用に際しては利用規約を注意深く確認してください。Apacheライセンスなので緩めですが、マルチテナント運用に関する制限があります。

LLMOpsには様々な定義がありますが、ここではオープンソースのLLMをローカルで稼働させ、ChatGPT APIと類似のやり取りが可能な互換サーバを作成ツールとして捉えます。