【デジタルMATSUMOTOの勝手に解説】デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック」②予算要求前時
デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」のデジタルMATSUMOTO解説シリーズです。
※リアル松本は策定等には関わっていないのですが「AI事業者ガイドライン」を参考にしてくれているとのことです。
デジタルMATSUMOTOの解説
日本のデジタル庁が日本の行政サービスや行政職員によるテキスト生成AIの利用に向けて「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」を作成しています。
以下「予算要求前時のテキスト生成AI固有の留意」の内容になりますが、このガイドブックに含まれる「特徴的な論点」「ガイドブックを実践する上で重要なポイント」について1000文字程度で解説してください。
===
※補足：各章では以下4つのユースケースを想定して、留意点を検討しています。
・ユースケース1.チャットインターフェースでサービス利用者とインタラクティブに対話する機能としてテキスト生成AIをオンライン処理で用いる
・ユースケース2.大量の文章に対してラベル付けやテキストデータ変換、その他翻訳や要約や文章作成等の自然言語処理を行う機能としてテキスト生成AIをバッチ処理で用いる
・ユースケース3.情報検索を目的としたサービスで検索エンジンの補助としてテキスト生成AIをオンライン処理で用いる
・ユースケース4.ダッシュボードやソースコード等をサービス利用者の自然言語により記述可能にする機能としてテキスト生成AIをオンライン処理で用いる
{＊＊第3章のテキスト＊＊}
特徴的な論点
1. 提供形態の多様性とコストの違い:
テキスト生成AIの提供形態には、サービスとして提供されるケース、WebAPIがクラウドサービスとして提供されるケース、そして機械学習モデルが直接提供されるケースの3つがあります。それぞれの形態によって、必要な予算やコスト削減の手法が大きく異なるため、予算要求前に適切な提供形態を選択することが非常に重要です。
2. ハードウェア・ソフトウェアコストの検討:
提供形態に応じてハードウェアやソフトウェアのコストが変動します。特に大規模言語モデルの利用はリクエストあたりの費用が高くなる傾向にあり、性能や品質のバランスを見極めることが重要です。また、プロンプトの内容によってもコストが変動するため、プロンプトの改良には慎重な試行錯誤が求められます。
3. アプリケーションコストの最適化:
テキスト生成AIを利用するためのアプリケーションコストも重要な検討事項です。リクエスト量を減らすための手法や、他の自然言語処理手法との併用、過去の生成物の再利用など、具体的なコスト削減の手法が挙げられています。
4. 運用業務とその他のコスト削減:
運用業務のコスト削減では、アカウント管理の効率化やキャパシティプランニングの工夫が求められます。また、その他のコスト削減策として、必要なサービス利用者にのみアカウントを配布することや、従量課金から定額プランへの移行などが検討されています。
ガイドブックを実践する上で重要なポイント
1. 提供形態の適切な選択:
提供形態の選択は予算策定に直結するため、各形態の特徴とコストを十分に理解し、最適な形態を選ぶことが重要です。特に、クラウドサービスの従量課金と定額プランの違いや、機械学習モデルを直接提供する場合の初期投資の高さなどを考慮する必要があります。
2. プロンプトの最適化と試行錯誤:
プロンプトの内容や構成によって生成物の品質やコストが変動するため、プロンプトの改良には多くの試行錯誤が必要です。どのくらいの性能の大規模言語モデルで十分かを事前に検討し、実際の運用中に発生するリスクにも備えることが重要です。
⭐️リアル松本が追記）テキスト生成AIを用いたアプリケーションを設計する際には、システムプロンプト、対話履歴の持たせ方、RAGによる参照情報の与え方も設定や記述を変更するだけで、AIの回答内容に影響を与えます。
3. リクエスト量の管理とコスト削減:
リクエスト量を管理し、コスト削減を図るために、複数のリクエストを集約する方法や、テキスト生成AI以外の手法を併用する方法、過去の生成物を再利用する方法などが推奨されます。これにより、リクエストの効率化とコスト削減が可能となります。
⭐️リアル松本が追記）実際の入出力トークンを記録して、プロンプトとレスポンスの内容と併せてモニタリングしていくことも重要です。
4. 運用業務の効率化:
アカウント管理の効率化やキャパシティプランニングの工夫も重要です。シングルサインオンの導入や、テキスト生成AIのWebAPIへの負荷を下げる手法を取り入れることで、運用コストを抑えることができます。
⭐️リアル松本が追記）従来のシステムとアカウントやアプリケーションのレベルでどのように連携・機能分担させていくかも重要な論点になります。
5. 継続的な見直しと改善:
テキスト生成AIの提供形態や利用方法は技術の進化とともに変わるため、ガイドブックの内容を継続的に見直し、最新の情報や技術を取り入れることが必要です。これにより、常に最適な形態でテキスト生成AIを活用し、予算の効率的な配分が可能となります。
以上のポイントを踏まえ、ガイドブックを実践することで、効率的な予算策定とリスク管理が実現できるでしょう。
回答時間：0:00:19.780566
入力トークン数：18834
出力トークン数：1090
リアル松本のコメント
プロンプトの最適化やコスト(トークン量、計算量)にも配慮されていて良いですね。LLMの利活用が爆発的に進むことでの環境問題も指摘されているのでよく検討されていると感じています。
デジタルMATSUMOTOが参照した情報
2024-03-10時点の知識[カテゴリ：AIの信頼性、類似度：20.723][実践AIガバナンス]汎用目的AIサービスにおけるリスクマネジメント
参考情報：https://note.com/takash/n/nb3f718164908
2024-03-17時点の知識[カテゴリ：AIの信頼性、類似度：2.906]AI事業者ガイドラインのパブリックコメントを受けて
参考情報：https://note.com/takash/n/n30c85693cced
2024-02-04時点の知識[カテゴリ：item_type、類似度：2.868]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第3部 AI開発者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nfd03d83e9224
2024-02-06時点の知識[カテゴリ：item_type、類似度：2.826]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第5部 AI利用者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nc3d4debf07ae
2024-06-02時点の知識[カテゴリ：AIの社会実装、類似度：2.769]教育現場ではどんな感じでAIを使うと良い？
参考情報：https://note.com/takash/n/nc5853a95f372
2024-01-26時点の知識[カテゴリ：item_type、類似度：2.608]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 AI により目指すべき社会と各主体が取り組む事項（共通の指針以外） -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n4b8b628e9404
2024-01-25時点の知識[カテゴリ：item_type、類似度：2.507]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第1部 AIとは -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n576885acb090
2024-01-27時点の知識[カテゴリ：item_type、類似度：2.314]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 共通の指針「1. 人間中心」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n08d1d1610671
2024-01-31時点の知識[カテゴリ：item_type、類似度：2.117]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 共通の指針「5. セキュリティ確保」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n10730aebb574
2024-05-15時点の知識[カテゴリ：AIの信頼性、類似度：2.076]AI事業者ガイドラインの解説ウェビナー振り返り
参考情報：https://note.com/takash/n/n69f2fc1b0b6b
2024-04-11時点の知識[カテゴリ：AIの信頼性、類似度：2.031]「AIこわい・」プラットフォーマーこわい？
参考情報：https://note.com/takash/n/nc73cd61c8ed2
2024-02-03時点の知識[カテゴリ：item_type、類似度：2.008]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - 第2部 共通の指針「8. 教育・リテラシー」「9. 公正競争確保」「10. イノベーション」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nbb51ee8d3777
2023-12-10時点の知識[カテゴリ：item_type、類似度：1.957]【リアル松本の独り語り】2つのアプローチで国際的に研究を続けよう！これからのAIガバナンス｜Digital MATSUMOTO（EU AI Act合意）
参考情報：https://note.com/takash/n/n36daabda78b2
2024-01-24時点の知識[カテゴリ：item_type、類似度：1.947]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ・ - イントロダクション -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n8e17f5c8613b
2024-05-03時点の知識[カテゴリ：ビジネス、類似度：1.937]AIが活躍する時代におけるコンサルタントの在り方について
参考情報：https://note.com/takash/n/nd37185bd496d
2024-05-12時点の知識[カテゴリ：AIの信頼性、類似度：1.92]そのルールは何のために作っていますか？
参考情報：https://note.com/takash/n/na71b56c1217c
この記事が気に入ったらサポートをしてみませんか？