AWSの招待制ワークショップ「Amazon Bedrock Prototyping Camp」に参加しました
こんにちは、Yoiiインターンの浅井です。大学院では自然言語処理周りの研究を行っており、YoiiでもLLM周りの業務を行っています。
11/14に行われたAWSの招待制ワークショップ「Amazon Bedrock Prototyping Camp」に参加したため、参加レポートを書きます。
元々興味を持っていたBedrockについての詳しい説明を得られたり、社内のユースケースについてAWSのソリューションアーキテクト(SA)の皆様からフィードバックを頂いたりと、自分にとって大変実りのあるイベントになりました。
①Amazon Bedrockとは？
Amazon Bedrock は、API を通じて多種多様な基盤モデルを利用できる、AWSによるサーバーレスのサービスです。
2023年の9月29日ごろに公開されたばかりですが、11月現在においても、このように多様な基盤モデルが使用できるようになっています。
今回はLLMを試していますが、画像生成のモデル等も利用可能です。
②イベントの内容
今回は主にLLM+RAG(Retrieval Augment Generation)についての内容がメインでした。
後述する「Amazon Kendraで検索した情報をBedrockのLLM(Claude)に投げて、社内の情報を答えるチャットボットを作成する」といったようなプロダクトについての知見が特によく得られました。
(座学でそのようなユースケースが特に詳しく説明されましたが、Bedrockを使ったプロダクトであれば何を作成しても良く、SAの方々も様々なユースケースについて真剣に議論していました)
本イベントでは、一日のワークショップの中でまずBedrockの基礎について理解し、その上で後半は実際にプロトタイプを作成、更にプロダクション環境への実装を行うまでを全てこなす、というかなりハードなスケジュールとなっていました。
(僕は精度検証の途中で苦しんだまま一日が終了しました……)
会場の雰囲気
イベントは目黒にある目黒セントラルスクエアの21階で行われました。
ワークショップを行ったセミナー室は広く綺麗な上、お菓子とコーヒーが貰えたので、とても講義や作業に集中しやすい環境でした。
途中には昼食休憩があり、お弁当をいただきました。
しゃけ弁当と言われましたが、しゃけとトンカツと照り焼きチキンが入っていたので嘘です。
参加者の雰囲気
MLやNLP関連の業務をしている人がほとんどなのだろうか……と思いきや、イベントや懇親会の中で話をした感覚としては、
これからLLMプロダクトを作りたい、普通の(?)エンジニアの方……3割
これからLLMを社内導入したいプロマネ等の方……3割
普段からNLP・ML周りの業務をされている方……3割
その他……1割
といった割合のように感じました。バランスよく色々なバックボーンの方が集まっていたので、どの業種の方が参加しても疎外感は無いと思います。
③座学・ハンズオン
座学はいくつかのトピックに分かれており、単にBedrockやKendraの使い方を学ぶだけではない講座も多くありました。
ハンズオンに関しては、共有いただいたipynbファイルをAmazon SageMakerのノートブック環境で実行することで、プロンプトエンジニアリングやRAGの基礎について学ぶことができました。
以下、特に印象に残ったトピック2つについて紹介します。
1.生成系 AI の活用をアイデアから 実践に移行するには
今回の座学の中で最も参考になると感じた部分です。
単純に開発だけを行うのではなく、ユースケースの選定やモデル改善の制度化についての知見を得られました。
技術をとりあえず使ってみるだけでなく、そこからしっかりと利益を生み出すノウハウについて学ぶことができました。
2.Amazon Kendraの紹介
Amazon Kendraは機械学習を用いて最適されたエンタープライズ検索システム(個々人の持つ情報をもとに行う検索システム)を可能にした検索エンジンです。
他のRAGツールで苦労しがちな、個々のパラメータの設定等は必要ありません。
データソースもs3等と直接接続が行えるため、最短一時間程度で簡単に高性能なRAGを体験することができます。
Kendraの検索結果を言語モデルに与えることで、社内ドキュメントの情報を参照したLLMを実装することができます。
座学の中ではKendra自体の説明の他、Bedrock+Kendra+他のAWSサービスを組み合わせたユースケースの紹介もあり、実際に自分が実装する際の参考になると感じました。
④実装
実装内容についてはこちらにまとめておきます。
各テーブル毎に担当するSAの方がいらっしゃったため、常に高い品質のサポートを受けることができました。
自分は技術に疎いので実装がスムーズに行えるか心配でしたが、AWS周りの詰まった部分(例えばIAMやリージョンの問題など)についてもSAの方が一緒に解決してくださり、かなり心理的に安心した中での作業を行うことができました。
前述の通りCheckpoint 5までしか進みませんでしたが、中にはCheckpoint6まで進んでいる方も居て驚きました。とはいえ、各々のペースで作業ができるため、必要以上に焦ることなく、自分の課題に向き合うことができました。
⑤懇親会
イベント終了後、参加者とSAの皆様との懇親会を行いました。
飲み物と軽食を片手に、それぞれが好きに会話を楽しむスタイルでした。
今回のワークショップ中であまり検討できなかったプロダクト(RAG以外の技術を使用するLLMプロダクト)についての相談は、この懇親会の中で行えたので良かったです。
また、他の会社のユースケースについても伺うことができました。参考になると同時に、どの会社も苦労の中LLMの導入に挑戦していることがわかり、モチベーションになりました。
予定があり1時間ほどで帰宅しましたが、とても充実した時間でした。名刺がないので寂しかったです。
⑥まとめ
LLMやRAGについて詳しくない人にとっては、一歩目としてかなり学びの多いプログラムになっています。
すでにLLM周りの業務を行っている人にとっても、BedrockやKendraの(他のサービスやモデルと比較した)特徴を知ることができるので、新たな知見が得られると思います。
招待制ではありますが、本イベントは定期的に開催されているようなので、もし機会があれば参加を検討してみてください。
(社内の外国人エンジニアが興味津々だったので、いつか英語スライド付きのワークショップがあるといいな……と勝手ながら思いました)
AWSの皆様、懇親会でお話ししてくださった皆様、ありがとうございました。
We’re hiring!
株式会社Yoiiでは一緒に働く仲間を募集しています。
データエンジニアやソフトウェアエンジニアをはじめ、様々な職種での募集を随時行っていますので、興味がある方は上記の求人一覧をご覧ください。