【実践AIガバナンス（2024/3/13）】汎用目的AIサービスにおけるリスクマネジメント
本日は「実践AIガバナンス」シリーズです。
前回AIサービスのカタチとして汎用目的AIと特定目的AIでリスクマネジメントのアプローチが異なるというお話をさせていただきました。
今回はその中の「汎用目的AIサービス」を対象としたリスクマネジメントのアプローチについて解説します。
AIガバナンスの在り方（復習）
汎用目的AIとは以下のようなAIサービスと定義しています。
汎用目的AI (General Purpose AI)：ChatGPTのように様々な目的へ汎用的に利活用できるAIサービス
この汎用目的AIサービスを運営する上で重要な点は以下になります。
汎用性による多様な使用シナリオと予期しないリスクに対応するため、継続的なモニタリングと迅速な改善が不可欠です。
利用者による予期しない使用法や、AIが生成する内容に関する倫理的、法的問題への対応も重要です。
AIの振る舞いを理解しやすくするための透明性の確保、利用者からのフィードバックを活用した改善、そして社会的な規範や法規制の変化に対応するための柔軟性が求められます。
良ければ、前回の記事も参考にしてみてください。
リアル松本からのインプット
かなり具体的にインプットしていますが、実際に検討を進める流れをデジタルMATSUMOTOに説明してもらいました。
松本は「汎用目的AIサービス」のリスクマネジメントについての検討論点を整理しています。
以下が主な検討ポイントですが、デジタルMATSUMOTOとしては具体的にどのような仕組みで汎用目的AIのリスク管理を進めると良いか、考えを教えてください。
・汎用目的AIサービスは、様々な目的へ汎用的に利活用できるため、事前に十分なリスクの想定が難しい。
・AIのパフォーマンスをモニタリングを行いながらアジャイルかつ継続的に改善することが必要
・特にChatGPTのような対話型生成AIの場合、利用者が入力するプロンプトとAIが出力するレスポンスを蓄積して、入出力の双方の情報をモニタリングすることが必要
・モニタリングのポイントは、AIのパフォーマンスだけではなく、利用者の入力が不適切でないかという点も検討されるべき
・モニタリングの結果、改善すべき点があれば「入力」「出力」の夫々で適切な「情報のチェック」や「補足情報の追加」を施す。
・技術的に対応が難しい場合、利用ガイドライン等の組織内のルール整備で対応する。
リスクマネジメントの進め方
汎用目的のAIサービスのリスク管理方法について、デジタルMATSUMOTOに検討してもらいました。
重要なポイントをリアル松本から追記しています。
汎用目的AIサービスのリスクマネジメントにおいて、特にChatGPTのような対話型生成AIを含むサービスに焦点を当てた場合、リスク管理を進めるための仕組みとして以下のようなアプローチが考えられます。
1. パフォーマンスのモニタリング
まず、AIのパフォーマンスと利用者の入力をリアルタイムでモニタリングするシステムの構築が必要です。このシステムには、不適切な内容やバイアスが含まれていないかを自動的に検出する機能を備え、警告を発する仕組みを組み込むべきです。さらに、特定のキーワードやフレーズが検出された場合に、特別な審査プロセスを経るように設定することも有効です。
2. 入力側の対策
次に、AIサービスの利用ガイドラインを明確に策定し、利用者に対してどのような入力が適切か、またどのような入力が不適切とされるかを具体的に示すことが重要です。このガイドラインは、利用者がサービスを使用する前に必ず確認するものとし、ルール違反が疑われる場合の対応プロセスも明記する必要があります。
⭐️リアル松本が追記）入力側のシステムでユーザーに入力されたプロンプトに対して、不適切な入力を防ぐための自動チェックや目的に向けた入力情報の拡張も有効で、チェック用のLLMで一度入力を検証させたり、暗黙的にプロンプトテンプレートを埋め込む等の方法で実装することも可能です。
3. 出力側の対策
さらに、AIサービスの出力に関しては、定期的に人間によるレビューを行い、AIが生成するレスポンスの適切性を評価します。このプロセスでは、特に倫理的な観点や社会的な影響を考慮することが重要です。⭐️リアル松本が追記）ユーザーによる入力側と同じく、AIに出力されたレスポンス側でも、不適切な表現を検証する自動チェックや出力に対する補足情報の拡張（RAGで参照した知識情報を追加する等）も有効です。
また、AIによるレスポンスに対してユーザーからのフィードバックを受け付け、そのフィードバックをサービス改善に活かす仕組みを設けることも有効です。
4. 管理側の対策
技術的な対応が難しい場合には、AIの利用範囲を制限することや、特定のテーマに関しては人間が直接介入することも検討します。これにより、AIサービスの安全性を保ちつつ、利用者にとって価値あるサービスを提供するバランスを図ることができます。
また、AIサービスのリスクマネジメント体制を継続的に見直し、技術の進化や社会の変化に応じて柔軟に対応できるようにすることが重要です。これには、関連する専門家やユーザーからの意見を取り入れ、ガイドラインや対応策を定期的に更新する仕組みが必要です。
以上のようなアプローチを通じて、汎用目的AIサービスのリスクマネジメントを進めることが、サービスの信頼性を高め、社会に価値を提供する上で不可欠です。
実行モデル：gpt-4-turbo-preview {'temperature': 0.7}
回答時間：0:00:47.507538
入力トークン数：16414
出力トークン数：910
参照した知識情報
2023-09-27時点の知識[類似度：0.09]2023年度スマートエスイーIoT_AIコース修了記念シンポジウム「デジタルMATSUMOTO」
参考情報：https://www.youtube.com/watch?v=tUxpJaQfvYY
2024-01-25時点の知識[類似度：0.094]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ② - 第1部 AIとは -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n576885acb090
2024-01-28時点の知識[類似度：0.094]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑤ - 第2部 共通の指針「2. 安全性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nc3121951a343
2024-02-05時点の知識[類似度：0.096]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑬ - 第4部 AI提供者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n08e52c3afca5
2024-01-27時点の知識[類似度：0.096]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ④ - 第2部 共通の指針「1. 人間中心」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n08d1d1610671
2024-02-01時点の知識[類似度：0.098]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑨ - 第2部 共通の指針「6. 透明性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n936546ccf057
2024-01-24時点の知識[類似度：0.101]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ① - イントロダクション -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n8e17f5c8613b
2024-02-04時点の知識[類似度：0.102]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑫ - 第3部 AI開発者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nfd03d83e9224
2024-02-02時点の知識[類似度：0.103]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑩ - 第2部 共通の指針「7. アカウンタビリティ」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nad120f400c7d
2024-01-31時点の知識[類似度：0.103]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑧ - 第2部 共通の指針「5. セキュリティ確保」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n10730aebb574
2023-12-10時点の知識[類似度：0.104]【リアル松本の独り語り】2つのアプローチで国際的に研究を続けよう！これからのAIガバナンス｜Digital MATSUMOTO（EU AI Act合意）
参考情報：https://note.com/takash/n/n36daabda78b2
2024-01-29時点の知識[類似度：0.108]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑥ - 第2部 共通の指針「3. 公平性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nb2062d98a072
2024-02-06時点の知識[類似度：0.109]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑭ - 第5部 AI利用者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nc3d4debf07ae
2024-01-26時点の知識[類似度：0.11]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ③ - 第2部 AI により目指すべき社会と各主体が取り組む事項（共通の指針以外） -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n4b8b628e9404
2024-01-30時点の知識[類似度：0.11]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑦ - 第2部 共通の指針「4. プライバシー保護」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nda4c245c19f8
2023-10-31時点の知識[類似度：0.113]国内最大級の生成AI開発向け計算基盤の稼働および国産大規模言語モデル（LLM）の開発を本格開始
参考情報：https://www.softbank.jp/corp/news/press/sbkk/2023/20231031_01/
[デジタルMATSUMOTOのnote]https://note.com/takash/n/n1baacec80293
リアル松本からの補足説明「プロンプト・ガバナンス」
ここまでの論点は、デロイトトーマツのメンバーと「プロンプト・ガバナンス」として整理しています。
少しアップデートしているのですが、以下のような仕組みをイメージしてもらえると良いかと思います。
一番下の蓄積・分析を行いながら、入出力における自動チェックと自動拡張そして利用ルール・ガイドラインをアジャイルに改善していきます。
（データドリブンのアジャイル・ガバナンスというイメージですね。）
社内ChatGPT等を運用されている方は是非参考にしていただければと思います。
ちなみにリアル松本もデジタルMATSUMOTOとの対話を分析しながら、出力側にエシカルチェックと参照した知識情報の付加を行っています。
考察のイメージ画像
