Amazon Bedrock Prototyping Campへ参加してきました
ファンズでエンジニアをやっている背番号8です。おひさしぶりです。
今回の記事では、AWSさん主催の Amazon Bedrock Prototyping Camp へ参加してきましたのでその振り返りをしていこうと思います。
Amazon Bedrock Prototyping Campとは？
生成AIを活用して、収益を向上したい！コスト削減したい！、といった方へ向けた、実践ノウハウを体系的に学べるイベントです。
ハンズオンやプロトタイピングを通じてAWSの生成AIサービスを実際に触れつつ知見を深めていくというものでした。
当日の流れ
午前に座学とハンズオンを通じて生成AI活用のための基礎知識やAmazon Bedrock / Kendra といった各種サービスの概要を学び、午後はプロトタイピングというような流れでした。
教材のボリュームとスピード感にはじめは戸惑いがありましたが、AWSの生成AIサービスに触れるのは初めてだったので刺激的で充実した1日となりました。
※前日が大雪だったためにアマゾンの目黒オフィスに行けなかったのは少し残念でした…😢
振り返り
【座学】 生成AI活用戦略
生成AIをプロダクトの売上増加、またコスト削減につなげ収益を向上させる ためのステップとして、設計 → 検証 → 改善の3ステップを学びました。
ただやみくもに手を出してもダメなのだなと思わされる内容でした。
STEP1. 生成AIによる成長サイクルを設計する（Bizフェーズ)
このフェーズでは生成AIを活用したサービスの価値を高めるサイクルを設計します。
前段で述べた3ステップの成長サイクルを実現には、LLMの得意な領域の課題であるという点を前提とし、使用頻度が高く効果が高いユースケースを選ぶという点が重要ということでした。
STEP2. 迅速に顧客体験を検証する（Devフェーズ)
ここは価値検証のフェーズです。
小さいところから段階的にステップアップしていく段取りで進めていくというものでAWS上ですべてのステップが完結できるのはありがたいなと感じました。
STEP3. 顧客から得られたフィードバックで体験を改善する（MLフェーズ)
蓄積したデータでカスタマイズ（生成AIの回答の精度向上など）して、顧客体験や業務プロセスを競争優位にするフェーズです。
具体的な手段としては、プロンプトのチューニング、モデルそのものをチューニング（Fine-tuning）が紹介されていました。
RAG と Fine-tuning の使い分けについても解説があり学術知識などの専門知識を回答させる場合にはRAG、タスク特化データセットにおいては Fine-tuning が有効ということでした。
Fine-tuning は学習データの準備等が大変な印象があるのですがユースケースに応じて使い分けていきたいものです。
【ハンズオン】Amazon Bedrock
Amazon Bedrockとは
まず前提として生成AIは「基盤モデル」と呼ばれる「膨大なデータに基づき事前にトレーニングされた大規模な機械学習モデル」により実現されています。
BedrockはAPIによってさまざまな主要な基盤モデルにアクセスできるサービスとなります。
サポートしている基盤モデル
セキュリティとプライバシー
RAGハンズオン
ドキュメントのベクトル化のマネージドサービスである Bedrock の Knowledge Base とテキストモデルを組み合わせたRAGの実装のハンズオンです。実装は SageMaker Notebooks 上で行いました。
Bedrock の Knowledge Base には驚かされました。形式問わず社内のドキュメントを雑にS3に配置しただけでそれっぽい解答が返ってくるようになりました（情報が不足していたり、ハルシネーションしてくることもありましたが）。
おもしろいのは引用元に含まれていない文言への解答は挨拶程度の内容だったとしてもできないというところ。自然言語処理を取り巻く技術の解像度が高まった感じがしました。
ハンズオンを通じてRAGアプリケーションの実装イメージがつきました。
実装例の紹介
Amazon Bedrock / Kendra を使ったサンプルアプリケーションを紹介してもらいました。数ステップでデプロイを完了して、実際に動くものに触れることができたのはありがたかったです。
Generative-ai-use-cases-jp
Bedrock-Claude-Chat
詳細は割愛するのですが Kendra がかなり便利そうだなという所感でした。ただ、$ 1008 / month かかってくるのでもう少し戦略的に利用を検討していきたいなというところです。
プロトタイピング
前段で紹介された実装例を題材にしてプロトタイピングを行いました。作業中はAWSのスペシャリストの方々が手厚くサポートをしてくださいました。
質疑応答にかなり時間を割いてしまった都合で、当日中に動くものを作れなかったのは悔やまれましたが、作るもののイメージが着いたというのだけでも大きな収穫でした。
おわりに
勢いで参加してはみたものの、期待していた以上に充実した時間を過ごすことができました。
まずは、定番ユースケースの社内規程やプロダクトの仕様への問い合わせに対して応答できるようなアプリを作るところから始めてみて、徐々に活用の幅を広げて自社に還元していければ良いなと考えています。
何か見せれそうなものが作れたらまた投稿しますね。では、またの機会に。