【dbts2024 レポート】MongoDB Vectorsearchではじめるカスタマイズ可能な生成AIアプリ開発

こんにちは、コンサルティング本部 依田です。
db tech showcase 2024 1日目のA7のセッションである「MongoDB Vectorsearchではじめるカスタマイズ可能な生成AIアプリ開発」のレポートをお届けします。

セッション概要

ChatGPT等のLLMによる生成AIチャットボットでは、従来トレーニングにないデータに関してうまく答えられない問題があります。昨今RAG（検索拡張）と呼ばれる技術を用いることで、このコンテキスト不足を補い、より精度の高い生成AIチャットボットを開発する技術が発展しています。MongoDB Vectorsearchは、マルチクラウド環境で動作可能なクラウドベースのベクトル検索機能であり、RAGのバックエンドとしてグローバルで人気のあるデータベース機能です。本セッションでは、このMongoDB Vectorsearchを使って高度な生成AIアプリを簡単に作成する方法をご紹介します。

スピーカー名：MongoDB, Inc
ソリューションアーキテクト
林田 千瑛 様

はじめに

1.生成AIが与えるビジネスインパクト

2.大規模言語モデル(LLM)の利用シーン
　・どんな状況であれば、LLMを活用できると考えているのか
　・実際のMongoDBでの活用事例

3.LLMの課題・対処法
　・LLMの抱える問題、ハルシネーションについての説明
　・ハルシネーションの対処法としてのRAGについての説明

4.DB Atlas DatabaseとMongDB Vector Searchについて
・ベクトルデータベースについての説明
　・ベクトル検索についての説明

5.MongoDBが提供するサービスの特徴
　・MongoDB Vectorsearchの特徴
　・開発サポートサービスについて

セッション内容まとめ

生成AIは文章を利用する作業があれば活用できる。

LLMはハルシネーション(学習データにないデータに関する回答は精度が悪い)という課題もあったが、RAGを使用して、学習データにないデータでも、外部データを付与することで精度の高い回答を作成することができるようになった。

実際に生成AIを使用したアプリを作成しようとしたときに、MongoDBのベクトルデータベース関連のサービスを使用すれば、以下のメリットが得られる。

・スモールスタート可能
　無料使用枠がある
　JSON形式でクエリを作成でき、SQLに詳しくなくても使用可能

・複雑なクエリ要件に対応
　ベクトルデータ、非構造化データ、構造化データを1つのクエリで書くことができる

・LLMアプリへの組み込み容易性
　豊富なモデルを使用することができる

・スケーラブルで低レイテンシーであること
　ベクトル検索の場合でも、データの分散配置ができる
　水平スケールも可能(オートスケールも可)
　※ベクトルのクエリとDBクエリとでは、リソースの使い方が違うため、同時に検索してしまう　とDBクエリが遅くなってしまう可能性がある
　しかしベクトル検索用のノードを用意することで対処できる

・エンタープライズレベルのセキュリティー

またチャットボットも数クリックで作成可能なくらい、開発サポートサービスも整っている。

聴講した感想

生成AIを使用したアプリの開発を考えている人や、生成AIで生産性を高められないかと考えている人にはぴったりのセッションだと感じました。
生成AIで使用されている技術の説明から、生成AIアプリを製作するために必要な技術やサービスを順を追って説明していただくことで、生成AIを作成するために必要最低限の知識が得られた気がします。
生成AIチャットボットであれば、数クリックで実際にアプリを作成できるようなので、ベクトルデータベースを使用する機会があれば実際に使用してみたいと思いました。

アーカイブ動画配信のご案内

db tech showcase 2024は、期間限定でアーカイブ動画を配信中です。
本イベントのセッションをオンラインでご視聴いただけるほか、講演資料のダウンロードも可能です。継続公開が決まったdb tech showcase 2023のセッション動画も含め、約130本の動画を自由に見ていただけます。
※一部対象外セッションあり

db tech showcase 2024 / Tokyo | db tech showcase