デジタルMATSUMOTOによるAI事業者ガイドライン解説シリーズ⑨ - 第2部 共通の指針「6. 透明性」-

自称「AI事業者ガイドライン・アンバサダーAI」のデジタルMATSUMOTOによる解説シリーズです。
AI事業者ガイドライン（案）のパブリックコメントは以下のサイトで募集が開始しています。https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240119_report.html

第2部「共通の指針(10原則)」の個別解説を複数回で連載していきます。
今回は「6. 透明性」の原則について、事例を使いながら解説してもらいました。

ちなみに、リアル松本は「ソフトローでもAIガバナンスは実現できる」という意見を持っているので、その考えが反映されている可能性があることもご承知いただければと思います。

デジタルMATSUMOTOの解説

日本政府はAI事業者ガイドラインを作成しています。
以下の文章に記載された原則を実践する方法について、具体的なAIの事例を用いながら、2000文字以内で分かりやすく解説してください。
/n/n---/n/n
{＊＊第2部のC.共通の指針「6. 透明性」＊＊}

リアル松本

AIシステム・サービスの透明性は、利用者や社会がAIを理解し、信頼するために必要不可欠です。透明性を高めることによって、利用者はAIの判断の背景を理解し、その結果に納得がいくだけでなく、必要に応じて適切な対策を講じることが可能になります。以下に、透明性の原則を実践するための具体的なAI事例とその方法について解説します。

6-1. 検証可能性の確保（事例：医療分野の診断支援AI）
医療分野でのAIは、診断を支援するために利用されています。ここでの検証可能性を確保するためには、AIがどのようなデータに基づいて診断を下したのか、その推論過程を記録し、医師や患者が参照できるようにする必要があります。これにより、AIの判断が医学的根拠に基づいており、偏りや誤りがないかを評価することができます。

6-2. 関連するステークホルダーへの情報提供（事例：自動運転車）
自動運転車の開発においては、利用者に対して、車両がどのように環境を認識し、どのような基準で判断を下しているのかを説明すること、及び自動運転車が遭遇しうる状況やその際の車両の対応策についても共有することが重要です。⭐️リアル松本が追記）加えて、行政、交通システムの運営、同じ路上にいる他の車両、市民等の自動運転に関わる様々なステークホルダーに向けても、自らが自動運転車であることを示しながら、適切な情報を提供することが求められます。

6-3. 合理的かつ誠実な対応（事例：推薦システム）
オンラインショッピングサイトなどで利用される推薦システムでは、利用者のデータがどのようにレコメンドに影響を与えているのかを、利用者に対して開示することが望ましいです。ただし、アルゴリズムの詳細な開示は必ずしも求められるわけではなく、どのようなタイプのデータが影響を与えているのかというレベルの情報提供が合理的な範囲と言えます。

6-4. 関連するステークホルダーへの説明可能性・解釈可能性の向上（事例：チャットボット）
カスタマーサポートで利用されるチャットボットは、なぜ特定の返答をしたのか、利用者に理解しやすい形で説明できる必要があります。チャットボットの提供者は、利用者がAIの応答をどのように解釈するかを研究し、その結果に基づいて、より解釈しやすい応答方法を開発することが望ましいです。

これらの事例を通じて、AIシステム・サービスの透明性を高めることは、利用者や社会からの信頼を得る上で非常に重要です。透明性が確保されることにより、AIの普及が促進され、社会全体に利益をもたらすことが期待されます。

デジタルMATSUMOTO

リアル松本のコメント

透明性については、ガイドラインの検討会やWGでも様々な意見が飛び交っていた印象が残っています。
6-2に追加コメントしましたが、利用者だけではなく様々なステークホルダーへ夫々適切な程度の情報を開示していくことが重要です。
一方で、6-3に「アルゴリズムの詳細な開示は必ずしも求められるわけではない」というところは、単に難解だからというだけではなく、下手に技術情報を開示するとセキュリティ攻撃のリスクが高まるという点も議論されていました。

デジタルMATSUMOTOが参照した情報

デジタルMATSUMOTOが解説時に参照した情報は以下になります。

【参照したメモリ】
1.2024-01-23 14:12:33.921109[ASSISTANT]:AI技術のセキュリティ確保は、そのサービスが安全かつ信頼性を持って利用されるための基礎です。ここで紹
2.2024-01-23 14:10:04.213345[USER]: 日本政府はAI事業者ガイドラインを作成しています。 以下の文章に記載された原則を実
3.2024-01-23 14:10:02.714223[ASSISTANT]:AI事業者がプライバシー保護の原則を実践するためには、個人情報の取扱いに関する法令の遵守はもちろん、
4.2024-01-23 14:08:24.024856[USER]: 日本政府はAI事業者ガイドラインを作成しています。 以下の文章に記載された原則を実
5.2024-01-23 14:08:22.888730[ASSISTANT]:AIシステムの開発、提供、利用において「公平性」を確保することは、社会的な信頼と受容に直結する重要な
6.2024-01-23 14:06:19.488496[USER]: 日本政府はAI事業者ガイドラインを作成しています。 以下の文章に記載された原則を実
7.2024-01-23 14:06:18.287419[ASSISTANT]:AI事業者ガイドラインにおける「安全性」の原則を実践するためには、人間の生命・身体・財産、精神及び環
8.2024-01-23 14:04:07.971522[USER]: 日本政府はAI事業者ガイドラインを作成しています。 以下の文章に記載された原則を実
9.2024-01-23 14:04:06.651135[ASSISTANT]:日本政府が提唱するAI事業者ガイドラインにおける「人間中心」の原則は、AIシステムやサービスが人間の
10.2024-01-23 14:01:06.261560[USER]: 日本政府はAI事業者ガイドラインを作成しています。 以下の文章に記載された原則を実

【参照した知識】
1.2024-01-23時点の知識[類似度:0.086]人材選考AIを例に「AIと公平性」の問題を考える、学習データに潜んでいたリスクとは

2.2024-01-08時点の知識[類似度:0.097]神戸市 ＡＩ使用のルール明確化で条例制定へ｜NHK 関西のニュース
https://www3.nhk.or.jp/kansai-news/20240108/2000081042.html
[デジタルMATSUMOTOのnote]https://note.com/takash/n/nb704abf3f4e1

3.2024-01-19時点の知識[類似度:0.098]OpenAI、選挙活動へのAI使用禁止　米大統領選へ対策：日本経済新聞 https://www.nikkei.com/article/DGXZQOGN16DUU0W4A110C2000000/

4.2024-01-23時点の知識[類似度:0.099]AIガバナンス実践への課題

5.2024-01-23時点の知識[類似度:0.104]「AIの倫理」ってナンだ？（前編）～人間とAI双方に求められる信頼性～｜D-nnovation Perspectives｜デロイト トーマツ クループ｜Deloitte|

6.2024-01-23時点の知識[類似度:0.11]「AIの倫理」ってナンだ？（後編）～人間とAIはどのように協調するのか～

7.2024-01-23時点の知識[類似度:0.111]AIガバナンスの背景｜Deloitte AI Institute｜Deloitte Japan

8.2023-12-21時点の知識[類似度:0.114]AI悪用・誤作動防止へ情報開示促す　政府が企業向け指針：日本経済新聞 https://www.nikkei.com/article/DGXZQOUA20EEZ0Q3A221C2000000/
[デジタルMATSUMOTOのnote]https://note.com/takash/n/n5ed36b0ab441

9.2024-01-23時点の知識[類似度:0.117]【リアル松本の独り語り】2つのアプローチで国際的に研究を続けよう！これからのAIガバナンス｜Digital MATSUMOTO（EU AI Act合意） https://note.com/takash/n/n36daabda78b2

10.2024-01-05時点の知識[類似度:0.119]米当局、AI関連の株主提案除外認めず　Apple主張退ける：日本経済新聞 https://www.nikkei.com/article/DGXZQOGN050BW0V00C24A1000000/

11.2024-01-23時点の知識[類似度:0.121]リスク分析 AIも悩む 人の心

デジタルMATSUMOTOに搭載したDALLE-3のAPIで作成しました「

12.2023-12-17時点の知識[類似度:0.121]偽情報対策など25項目検証　AI開発点検リスト判明|47NEWS（よんななニュース） https://www.47news.jp/10273943.html

13.2024-01-23時点の知識[類似度:0.122]報告書『AIガバナンスエコシステム - 産業構造を考慮に入れたAIの信頼性確保に向けて』