【実践AIガバナンス（2024/3/9）】AIサービスのカタチ
本日は「実践AIガバナンス」シリーズです。
前回は組織全体のガバナンスとしてアジャイル・ガバナンスを扱いましたが、今回は企業におけるAIサービスのカタチというテーマで検討してもらいます。
AIガバナンスの在り方
リアル松本も外部セミナー等で登壇させていただく機会があるのですが、AIガバナンスの在り方として「組織ガバナンス」「汎用目的AI」「特定目的AI」の夫々でガバナンスの構え方を以下のように整理しています。
組織ガバナンス（Policy/Process/People）
組織ガバナンスは、前回のアジャイル・ガバナンスをイメージいただければと思いますが、「経営者」と「現場」を繋いでいく役割も担います。
経営者の考えを体現したAI/DX戦略・ビジョン・ポリシーを全社的な活動（ルール・ガイドライン／AIを触れる環境／ガバナンスツールの提供／コミュニケーション等）に落とし込んでいくこと＋現場からのフィードバックを受けて改善することが重要ですね。
アジャイル・ガバナンスの流れに従って考えると、「運用」で現場（開発/サービス提供/利活用）から得られたフィードバックを、経営レベルでの「ゴール再設定」に向けるか、現場レベルでの「日常的な改善」に向けるかで、二重ループを回していくようなイメージです。
企業におけるAIサービスのカタチ
ChatGPTを始めとする対話型生成AIが普及したことで多くの企業ではAIサービスが以下の2種類に大別され、AIサービス運営の現場におけるガバナンスのアプローチが大きく異なるようになっていると考えています。
汎用目的AI (General Purpose AI)：ChatGPTのように様々な目的へ汎用的に利活用できるAIサービス
→「利用者がどのように使うか想定しきれない」ことを念頭において、対話ログのモニタリングを行いながらアジャイルかつ継続的に改善する。特定目的AI (Specific Purpose AI)：従来の機械学習モデルのように特定の目的に向けて開発された専用のAIサービス
→AIサービスの特徴や目的を踏まえて、具体的なリスクアセスメントを行い、最適な対応を技術・非技術で実施する。
実際にはこの二つは完全に分離できるものではなく、
汎用目的AIに対して、特定のデータで事後学習を行ったり、UIやプロンプトデザインで目的や利用者を一定制限することで、特定目的AIのように変化していくこともあれば、
特定目的AIを当初想定していなかった目的や利用者に向けて活用範囲を広げたり、複数の特定目的AIを1つのアプリケーションシステムに組み込むことで複数の目的(Multi-Purpose)に活用されていくこともあると考えています。
本日はこの「AIサービスのカタチ」について、デジタルMATSUMOTOと考えてみようと思います。
本日のお題
松本は企業の中におけるAIサービスのカタチが「汎用目的AI」と「特定目的AI」で大別され、AIサービス運営の現場におけるガバナンスのアプローチが大きく異なると考えています。
デジタルMATSUMOTOとして、それぞれのAIサービスを運営していく上で具体的にどのような点が重要になるか、共通点と相違点が分かるように検討してください。
・汎用目的AI (General Purpose AI)：ChatGPTのように様々な目的へ汎用的に利活用できるAIサービス
・特定目的AI (Specific Purpose AI)：従来の機械学習モデルのように特定の目的に向けて開発された専用のAIサービス
汎用目的AIと特定目的AIは、その適用範囲と利用目的において大きな違いがありますが、運営する上で共通して重視すべきガバナンスの原則も存在します。以下に、それぞれのAIサービスにおける重要点と共通点、相違点を検討します。
【汎用目的AIの運営における重要点】
透明性：汎用目的AIでは、広範な用途に対応するため、その意思決定プロセスや学習データの透明性が非常に重要になります。利用者がAIの挙動を理解し、信頼するためには、どのようなデータに基づいて学習しているのか、どのようなロジックで回答しているのかを明確にする必要があります。
倫理性：汎用目的AIは、文化や価値観が多様なコンテキストで利用されるため、倫理的な配慮が求められます。特に偏見や差別を含む情報の拡散を防ぐための対策が必要です。
柔軟性：様々なシナリオに対応するための柔軟性も重要です。利用状況に応じてカスタマイズや調整が可能であることが望まれます。
【特定目的AIの運営における重要点】
精度と信頼性：特定目的AIは、特定のタスクや問題解決に特化しており、その精度と信頼性が最も重要です。特に医療や金融などのデリケートな領域で利用される場合、誤った判断が重大な結果を招く可能性があるため、十分な検証と評価が不可欠です。
セキュリティとプライバシー：特定のデータを扱うため、そのセキュリティ対策とプライバシー保護が非常に重要になります。特に個人情報を含むデータを扱う場合は、適切なデータ保護の規制に従う必要があります。
【共通点】
倫理的ガイドラインの遵守：どちらのAIも、倫理的なガイドラインに従うことが重要です。AIの利用が社会に与える影響を考慮し、不正や不当な利用を防ぐための原則が必要になります。
利用者への情報提供：利用者がAIの機能や限界を理解し、適切に利用するためには、透明性の確保と十分な情報提供が必要です。
【相違点】
適用範囲とカスタマイズ性：汎用目的AIは幅広いシナリオでの利用が可能で、利用者によるカスタマイズ性が求められます。一方で、特定目的AIは特化した用途に最適化されており、その精度と信頼性が重視されます。
データ管理：特定目的AIは特定のデータセットに基づいて開発されるため、データの質と管理が重要になります。汎用目的AIでは、より広範なデータソースからの学習が行われ、データの多様性と包括性が重要になります。
以上のように、汎用目的AIと特定目的AIはその運用において共通するガバナンスの原則がありつつも、重視すべき点に違いがあります。
実行モデル：gpt-4-turbo-preview {'temperature': 0.7}
回答時間：0:00:46.160281
入力トークン数：17252
出力トークン数：1154
参照した知識情報
2024-01-25時点の知識[類似度：0.084]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ② - 第1部 AIとは -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n576885acb090
2024-02-05時点の知識[類似度：0.095]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑬ - 第4部 AI提供者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n08e52c3afca5
2024-01-27時点の知識[類似度：0.098]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ④ - 第2部 共通の指針「1. 人間中心」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n08d1d1610671
2023-09-27時点の知識[類似度：0.099]2023年度スマートエスイーIoT_AIコース修了記念シンポジウム「デジタルMATSUMOTO」
参考情報：https://www.youtube.com/watch?v=tUxpJaQfvYY
2024-02-04時点の知識[類似度：0.101]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑫ - 第3部 AI開発者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nfd03d83e9224
2023-11-20時点の知識[類似度：0.101]ChatGPT、1年で職場変革 日清食品は営業部門で6割活用
参考情報：https://www.nikkei.com/article/DGXZQOUC1073Q0Q3A111C2000000/
2024-01-26時点の知識[類似度：0.104]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ③ - 第2部 AI により目指すべき社会と各主体が取り組む事項（共通の指針以外） -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n4b8b628e9404
2024-01-28時点の知識[類似度：0.105]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑤ - 第2部 共通の指針「2. 安全性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nc3121951a343
2024-02-01時点の知識[類似度：0.106]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑨ - 第2部 共通の指針「6. 透明性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n936546ccf057
2023-10-31時点の知識[類似度：0.107]国内最大級の生成AI開発向け計算基盤の稼働および国産大規模言語モデル（LLM）の開発を本格開始
参考情報：https://www.softbank.jp/corp/news/press/sbkk/2023/20231031_01/
[デジタルMATSUMOTOのnote]https://note.com/takash/n/n1baacec80293
2023-09-12時点の知識[類似度：0.107]ChatGPT、1日あたりのコスト約1億円 OpenAIは24年末までに破産の可能性も
参考情報：https://36kr.jp/247145/
2024-01-24時点の知識[類似度：0.109]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ① - イントロダクション -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n8e17f5c8613b
2023-09-12時点の知識[類似度：0.111]生成AIの自社ルールの作り方 米AP通信の例「“何をさせないか”を明らかに」
参考情報：https://www.itmedia.co.jp/news/articles/2309/01/news088.html
2024-01-29時点の知識[類似度：0.111]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑥ - 第2部 共通の指針「3. 公平性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nb2062d98a072
2023-12-10時点の知識[類似度：0.111]【リアル松本の独り語り】2つのアプローチで国際的に研究を続けよう！これからのAIガバナンス｜Digital MATSUMOTO（EU AI Act合意）
参考情報：https://note.com/takash/n/n36daabda78b2
デジタルMATSUMOTOの回答（修正版）
リアル松本から以下のリクエストを行い、先程のデジタルMATSUMOTOの回答を見直してもらいました。
松本は企業の中におけるAIサービスのカタチが「汎用目的AI」と「特定目的AI」で大別され、AIサービス運営の現場におけるガバナンスのアプローチが大きく異なると考えています。
デジタルMATSUMOTOとして、それぞれのAIサービスを運営していく上で具体的にどのような点が重要になるか、「松本が考える重要な論点」をベースにしながら、先程の回答内容を加えて検討してください。
検討した結果は以下の目次で構造的に整理してください。
1a. 汎用目的AIとは（100文字程度）
1b. 特定目的AIとは（100文字程度）
2a. 汎用目的AIサービスを運営する上で重要な点（500文字程度）
2b. 特定目的AIサービスを運営する上で重要な点（500文字程度）
3a. 汎用目的AIサービスと特定目的AIサービスに共通して重要な論点（300文字程度）
3b. 汎用目的AIサービスと特定目的AIサービスで異なる重要な論点（300文字程度）
4. その他補足事項（200文字程度）
====================
[松本が考える重要な論点]
・汎用目的AI (General Purpose AI)：ChatGPTのように様々な目的へ汎用的に利活用できるAIサービス
・特定目的AI (Specific Purpose AI)：従来の機械学習モデルのように特定の目的に向けて開発された専用のAIサービス
・汎用目的AIサービスを運営する上で重要な点は、事前に十分なリスクの想定が難しいため、AIのモニタリングを行いながらアジャイルかつ継続的に改善することです。
・特定目的AIサービスを運営する上で重要な点は、AIサービスの特徴や目的を踏まえて、具体的なリスクアセスメントを行い、最適な対応を技術・非技術で実施することです。
・共通点としては、全てのAIサービスは組織ガバナンスと連携し、経営戦略・ビジョン・ポリシーを踏まえて運営することが必要になります。
・なお、汎用目的AIに対して利活用目的や利用者を制限することで特定目的AIに変化することもあれば、特定目的AIの利活用目的や利用者を広げたり複数の特定目的AIを1つのアプリケーションに組み込むことで複数目的に活用されることもあります。
1a. 汎用目的AIとは
汎用目的AIとは、ChatGPTのように様々な目的へ汎用的に利活用できるAIサービスのことを指します。
1b. 特定目的AIとは
特定目的AIとは、従来の機械学習モデルのように特定の目的に向けて開発された専用のAIサービスのことを指します。
2a. 汎用目的AIサービスを運営する上で重要な点
汎用目的AIサービスを運営する上では、その汎用性による多様な使用シナリオと予期しないリスクに対応するため、継続的なモニタリングと迅速な改善が不可欠です。また、利用者による予期しない使用法や、AIが生成する内容に関する倫理的、法的問題への対応も重要です。このため、AIの振る舞いを理解しやすくするための透明性の確保、利用者からのフィードバックを活用した改善、そして社会的な規範や法規制の変化に対応するための柔軟性が求められます。
2b. 特定目的AIサービスを運営する上で重要な点
特定目的AIサービスを運営する上では、サービスの目的や使用環境を考慮したリスクアセスメントが必須です。具体的なリスクに基づき、技術的対策（例：データのプライバシー保護、バイアスの除去）と非技術的対策（例：利用者教育、法的コンプライアンスの確認）をバランス良く実施することが重要です。また、特定の用途に特化しているため、その領域における専門知識が必要とされ、定期的なアップデートや知識の更新が求められます。
3a. 汎用目的AIサービスと特定目的AIサービスに共通して重要な論点
汎用目的AIも特定目的AIも、いずれも組織のガバナンスと密接に連携し、経営戦略やビジョン、ポリシーに基づいた運営が求められます。また、どちらのAIサービスも、倫理的な指針に基づき、透明性を確保し、利用者や社会からの信頼を獲得することが不可欠です。
3b. 汎用目的AIサービスと特定目的AIサービスで異なる重要な論点
汎用目的AIは、その汎用性から多様な用途に適用されるため、リスクの特定が難しく、アジャイルな運営が求められます。
一方、特定目的AIは、特定の目的に特化しているため、リスクアセスメントと対応策が具体的であり、専門的な知識がより重要になります。
4. その他補足事項
AIサービスの運営にあたっては、技術の進歩とともに、社会的な価値観や法規制の変化への適応も重要です。また、AIが提供する価値とリスクのバランスを適切に管理し、持続可能な発展を目指すことが求められます。
⭐️リアル松本が追記）なお、汎用目的AIに対して利活用目的や利用者を制限することで特定目的AIに変化することもあれば、特定目的AIの利活用目的や利用者を広げたり複数の特定目的AIを1つのアプリケーションに組み込むことで複数目的に活用されることもあります。
実行モデル：gpt-4-turbo-preview {'temperature': 0.7}
回答時間：0:00:46.160281
入力トークン数：17252
出力トークン数：1154
参照した知識情報
2024-01-25時点の知識[類似度：0.093]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ② - 第1部 AIとは -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n576885acb090
2024-01-26時点の知識[類似度：0.103]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ③ - 第2部 AI により目指すべき社会と各主体が取り組む事項（共通の指針以外） -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n4b8b628e9404
2024-01-27時点の知識[類似度：0.103]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ④ - 第2部 共通の指針「1. 人間中心」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n08d1d1610671
2024-02-04時点の知識[類似度：0.109]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑫ - 第3部 AI開発者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nfd03d83e9224
2023-09-12時点の知識[類似度：0.112]生成AIの自社ルールの作り方 米AP通信の例「“何をさせないか”を明らかに」
参考情報：https://www.itmedia.co.jp/news/articles/2309/01/news088.html
2023-08-31時点の知識[類似度：0.112]生成AI学習データ、事業者に開示指針 政府が骨子案
参考情報：https://www.nikkei.com/article/DGXZQOUA060NY0W3A800C2000000/
2024-01-28時点の知識[類似度：0.112]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑤ - 第2部 共通の指針「2. 安全性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nc3121951a343
2023-12-10時点の知識[類似度：0.112]【リアル松本の独り語り】2つのアプローチで国際的に研究を続けよう！これからのAIガバナンス｜Digital MATSUMOTO（EU AI Act合意）
参考情報：https://note.com/takash/n/n36daabda78b2
2024-02-05時点の知識[類似度：0.113]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑬ - 第4部 AI提供者に関する事項 -｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n08e52c3afca5
2023-08-01時点の知識[類似度：0.113]AIガバナンス実践への課題
参考情報：
2023-10-31時点の知識[類似度：0.113]国内最大級の生成AI開発向け計算基盤の稼働および国産大規模言語モデル（LLM）の開発を本格開始
参考情報：https://www.softbank.jp/corp/news/press/sbkk/2023/20231031_01/
[デジタルMATSUMOTOのnote]https://note.com/takash/n/n1baacec80293
2023-11-20時点の知識[類似度：0.114]ChatGPT、1年で職場変革 日清食品は営業部門で6割活用
参考情報：https://www.nikkei.com/article/DGXZQOUC1073Q0Q3A111C2000000/
2024-02-01時点の知識[類似度：0.116]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑨ - 第2部 共通の指針「6. 透明性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/n936546ccf057
2024-01-29時点の知識[類似度：0.116]デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑥ - 第2部 共通の指針「3. 公平性」-｜Digital MATSUMOTO
参考情報：https://note.com/takash/n/nb2062d98a072
考察のイメージ画像
