【実践AIガバナンス（2024/3/23）】ケース検討「Case01. デジタルMATSUMOTO」①パーパスアセスメント
シン・リスクチェーンモデルを用いたケース検討シリーズです。
最初のケースは「デジタルMATSUMOTOによる考察記事の配信」を対象として、デジタルMATSUMOTOと一緒にAIサービスに関わるパーパスの検討を進めていきます（ちょっとややこしいですね・・・）。
シン・リスクチェーンモデルのアプローチはこちらの記事をご覧ください。
Step1.ケース情報の整理
まずはケースに関わる情報を簡単に整理します（これは人間の作業）。
・「あるAIガバナンスの専門家を対象としたデジタルツイン」として、様々なトピックについて対象の専門家のような考察(1000文字程度)を生成するAIサービスである。
・AIモデルは大規模言語モデル(LLM)がベースとなっている。
・専門家のパーソナリティ・経歴・趣味等をタグ形式で構造化した情報をシステムプロンプトに設定している。
・考察したいトピックについて5行程度の簡単な箇条書きのテキストを作成し、AIサービスへインプットする。
・トピックはAIに限定されず、幅広いトピックが扱われる。
・専門家が過去に作成した文献やウェビナーでの発言メモ等をRAGアーキテクチャの知識データとして蓄積しており、インプットされたテキストと関連の強い知識データを参照して、日本語で考察を生成する。
・生成された考察は、必要に応じて専門家によって追記・修正が行われ、専門家自身のコンサルティング業務や研究活動等に活用される。また一部の考察はnote記事で公開される。
・専門家本人が「自らの知識として採用する」と判断した考察は新たに知識データに追加され、次回以降の考察生成時に活用される。
Step2. AIサービスに関わるステークホルダーの識別
ここからデジタルMATSUMOTOの登場です。
以下のプロンプトテンプレートで関係するステークホルダーを識別します。（ChatGPTやClaudeでも同じようにできますので、良ければ試してみてください）。
以下のAIサービスについて、重要なステークホルダーを水平思考を用いて網羅的に認識してください。
===
【AIサービスの内容】
※※ここにケースの概要説明を記載※※
以下のようにステークホルダーを識別してくれます。
ここで適宜ステークホルダーの追加・修正を行ってください。
1. 専門家本人：AIサービスが彼らの考え方や知識を代行するため、その精度や信頼性に直接関わります。また、生成された考察を自身の業務に活用する側面もあります。
2. AIサービスの開発者：AIモデルの精度向上やシステムの安定稼働に責任を持ちます。専門家のフィードバックを受けて改善を行う役割も担います。
3. エンドユーザー：専門家が公開するnote記事などを通じて、AIサービスによって生成された考察を閲覧・利用する人々です。彼らの反応や評価がサービスの価値に影響を与えます。
4. サービス提供者：AIサービスを提供する企業や団体で、サービスの運営やビジネスモデルを考え、市場での位置づけや収益化を目指します。
5. 研究コミュニティ：専門家の考察や研究活動を支援することで、AIガバナンスに関する新たな知見や議論が生まれる可能性があります。このサービスが研究発展に貢献する側面も考慮する必要があります。
6. データプロバイダー：専門家の過去の文献やウェビナー発言メモ等の知識データを提供する者や機関です。これらの情報が正確かつ豊富であることが、AIサービスの質に直結します。
7. 法律・倫理の専門家：AIによる知識生成や個人の考え方の代行という側面において、倫理的・法的な課題への対処が必要になる場合があります。これらの専門家は、使命や責任の範囲を定義する上で重要な役割を果たします。
8. 技術提供者：AIモデルの開発やシステムの実装に使用する技術やツールを提供する企業や組織です。彼らの技術選択がサービスの性能や安定性を左右します。
入力プロンプトのところで「水平思考／アナロジー思考／逆説的思考／クリティカルシンキング／・・・を用いて」等のように思考方法を加えていくと良い結果が出てきたりします。
こちらのnoteを参考に色々と試行錯誤してみました。ステークホルダーの識別では「水平思考を用いて」と加えてあげると良い傾向が出るように感じています。
ちなみに今回のケースで「逆説的思考を用いて」と加えてみると「教育機関」「競合他社」「社会全般」「環境」をステークホルダーとして識別していました。
※今回のケースでは当てはまらないので除いています。
教育機関：AIガバナンスや関連する専門知識を教育する学校や大学。このAIサービスは、教育目的での使用や学生たちの学習リソースとしての可能性を秘めています。
競合他社：類似のデジタルツインやAIサービスを提供する他の企業や団体。彼らは市場における競争相手であると同時に、技術的な刺激や切磋琢磨の対象となり得ます。
社会全般：長期的な視点で見ると、このサービスが社会に及ぼす影響や、社会のAIに対する受容度は、サービスの存続や発展に影響を与える重要な要素です。
環境：AIサービスの運用に伴うエネルギー消費や環境への影響も考慮する必要があります。サステナブルな開発が求められる現代社会において、環境への配慮は避けて通れない課題です。
Step3. 各ステークホルダーがAIサービスに対して抱くパーパスの定義
ステークホルダーを識別したので、今度は各ステークホルダーがAIサービスに対して期待するパーパスを定義してみましょう。
ここで前回の記事でも紹介しましたパーパスモデルが登場します。
以下のプロンプトテンプレートでステークホルダー毎の「獲得したいパーパス」と「保護したいパーパス」を識別します。
※会話履歴を反映してくれないこともあるので、ステークホルダーもAIサービスの概要も再度記載していただいた方が回答が確実になります。
ちなみにクリティカルシンキングを用いて「本質的な課題」を踏まえてもらうと明確なパーパスを検討してくれると感じています。
以下の各ステークホルダーがこのAIサービスに抱く「獲得したいパーパス」と「保護したいパーパス」を簡潔に検討してください。
※クリティカルシンキングを用いて各ステークホルダーが抱える本質的な課題を踏まえて検討してください。
===
【ステークホルダー】
専門家本人、AIサービスの開発者、エンドユーザー、サービス提供者、研究コミュニティ、データプロバイダー、法律・倫理の専門家、技術提供者
===
【AIサービス】
※※ここにケースの概要説明を記載※※
以下のような出力結果が得られました。
オリジナルのパーパスモデルを少し変形していまして、パーパスを以下の2種類に分けて検討しています。
・獲得したいパーパス：AIサービスを使って新たに手に入れたい
・保護したいパーパス：現在持っており、失いたくない
正しくないと思われる箇所はリアル松本の方で修正しています。
このケースでは、たまたま専門家本人／AIサービス開発者／サービス提供者／データプロバイダーがいずれもリアル松本になっていますが、
実サービスとして他人のデジタルツインAIを開発する場合には、委託開発や外部データの提供等も考えられるので、問題なく整理できているように感じています。
パーパスモデルで可視化
ここまでの整理をパーパスモデルツールキットで可視化してみます。
以下のようなモデルになりました。
本来内側から「目的」「役割」「ステークホルダー」で整理していくのが共創プロジェクトにおけるパーパスモデルの正しい使い方なのですが、
このシン・リスクチェーンモデルでは「獲得したいパーパス」「保護したいパーパス」「ステークホルダー名」としています。
この時点でも、ステークホルダーによってAIサービスに対する期待や目的が異なるということがある程度認識できるかもしれませんが、デジタルMATSUMOTOにパーパス間の「協調(Harmony)」関係と「対立(Conflict)」関係を分析してもらいます。
パーパス間の「協調(Harmony)」関係
以下に検討されたパーパスの中から協調(Harmony)する関係を持ったパーパスを検討し、「ステークホルダーとパーパス」の組合せを表示してください。
===
※※ここに各ステークホルダーのパーパス一覧をスプレッドシートから貼りつけ(テキストの羅列で大丈夫です)※※
以下のような結果が出ました。
このケースでは「獲得したいパーパス」同士が協調関係を築いていますが、ケースによっては「保護したいパーパス」同士もしくは「獲得したいパーパス」と「保護したいパーパス」の協調関係が識別されることもあります。
1. 専門家本人と研究コミュニティ:
専門家本人が「自らの知識や考えを拡張・深化させること、新しい視点やアイデアを得ること」を獲得したいパーパスとしており、これは研究コミュニティが「AI技術の進歩に寄与する知見の獲得、新しい研究の方向性の発見」を獲得したいパーパスと協調しています。双方が知識の拡張と深化を目指しており、共通の目標に向かっていると言えます。
2. サービス提供者とAIサービスの開発者:
サービス提供者が「デジタルツインAIの成功事例の実現」を獲得したいパーパスとしており、これはAIサービスの開発者が「技術的な成果や革新性を実証すること、AIの応用範囲を広げること」を獲得したいパーパスと協調しています。双方がAIの成功と革新を目指しているため、共通の目標に向かっていると言えます。
3. エンドユーザーとデータプロバイダー:
エンドユーザーが「専門家の知見を基にした高品質な考察を得ること、知識の獲得や意思決定の支援」を獲得したいパーパスとしており、これはデータプロバイダーが「データの有効活用による価値の創出」を獲得したいパーパスと協調しています。エンドユーザーが求める高品質な情報と知識の獲得は、データプロバイダーが提供する価値の創出に直結しています。
パーパス間の「対立(Conflict)」関係
以下に検討されたパーパスの中から対立(Conflict)する関係を持ったパーパスを検討し、「ステークホルダーとパーパス」の組合せを表示してください。
===
※※ここに各ステークホルダーのパーパス一覧をスプレッドシートから貼りつけ(テキストの羅列で大丈夫です)※※
以下のような結果が出ました。
エンドユーザーが、入力に伴うプライバシーやデータの安全性、及び出力される情報の正確性を気にするため、開発者・データプロバイダの目的と対立する可能性があるとのことです。
またリアル松本同士なのですが、「サービスを宣伝したいという欲求」と「自身の信頼を維持したいという願い」が自己の中で対立するという点も面白い分析かなと思います。
1. AIサービスの開発者 と エンドユーザー
AIサービスの開発者は、「技術的な成果や革新性を実証すること、AIの応用範囲を広げること」を目指す一方で、エンドユーザーは「個人のプライバシーやデータの安全性、情報の正確性」を重視します。開発者が新しい技術や応用範囲の拡大を追求することと、エンドユーザーがプライバシーや安全性を求める目的は、技術の進化による潜在的なリスクを伴うため、対立関係にあると考えられます。
2. データプロバイダー と エンドユーザー
データプロバイダーは「データの有効活用による価値の創出」を求める一方で、エンドユーザーは「個人のプライバシーやデータの安全性」を保護したいと考えます。データの有効活用とその際のプライバシーや安全性の確保は、互いに矛盾する可能性があり、対立関係にあると言えます。
3. サービス提供者 と 専門家本人
サービス提供者は「デジタルツインAIの成功事例の実現」を目指していますが、これはサービスの宣伝に重きを置くことがあります。一方で、専門家本人は「自身の専門性や信頼性を維持すること、自らの考えが誤解されることなく適切に伝えられること」を重視します。サービス提供者の商業的目標と専門家の倫理的・専門的信頼性の保持という目的は、場合によっては対立する可能性があります。
パーパスの整理
ステークホルダー毎に識別したパーパスは重複している部分もありますので、以下のようにAIサービスに関わるパーパスを整理しています（2024/3/27追記）。
P001. 価値ある考察の継続提供
様々なトピックに対して、読み手に新たな視点・気づきを与える考察が継続的に提供される
・ステークホルダー：専門家本人、データプロバイダー、エンドユーザー
・協調関係（Harmony）が考えられるパーパス：P003
・対立関係（Conflict）が考えられるパーパス：P004
P002. 信頼できる情報発信
事実に反することなく合理的な内容の考察が配信される
・ステークホルダー：専門家本人、データプロバイダー、エンドユーザー、研究コミュニティ、法律・倫理の専門家
・対立関係（Conflict）が考えられるパーパス：P003
P003. デジタルツインの活用促進
デジタルツインAIとして、記事配信に限らずに様々な用途に活用される
・ステークホルダー：サービス提供者、AIサービスの開発者、研究コミュニティ、法律・倫理の専門家、技術提供者
・協調関係（Harmony）が考えられるパーパス：P001
・対立関係（Conflict）が考えられるパーパス：P002、P004
P004.サービスとしての信頼性
法・倫理に準拠し、特定のステークホルダーに不利益を与えない
・ステークホルダー：サービス提供者、AIサービスの開発者、エンドユーザー、研究コミュニティ、法律・倫理の専門家、技術提供者
・対立関係（Conflict）が考えられるパーパス：P001、P003
ステークホルダー毎に検討した「獲得したいパーパス」と「保護したいパーパス」を元に整理しております。
次のフェーズはリスクアセスメントなのですが、パーパスアセスメントで認識されたステークホルダー／パーパス／協調関係／対立関係を踏まえて検討を進めていきます。
