GPAI 見聞録：人工知能（AI）のルール作りについて考えてみる
2022年11月21～22日、Global Partnership on Artificial Intelligence（GPAI）の年次総会である「GPAIサミット」が東京で開催され、世界経済フォーラム第四次産業革命センター（C4IR Japan）が複数のサイドイベントを共催しました。
今回は、C4IR Japanフェロー（外務省）の太田代身生さんに「GPAI見聞録：人工知能（AI）のルール作りについて考えてみる」を寄稿していただきました。なお、この記事は執筆者個人の見解であり、所属団体の公式的な見解を示すものではない旨、ご承知おきください。
Global Partnership on Artificial Intelligence（GPAI）年次総会
GPAIは、人権、包摂性、多様性、イノベーション、経済発展を礎として、AI の責任ある開発と利用を実現するため設立された国際官民連携組織です。日本は2022年11月から1年間、 GPAI議長国を務めます。同年11月21～22日、東京で開催されたGPAI閣僚級会合では「AIの社会実装と市民のエンパワーメントを通じた強靭で平和な社会を推進することを確認」する宣言が発出されました。
私たちの生活のあらゆる場面に、AIが活用されています。AIから、どのような恩恵を受けているのか、どんなリスクがあって、どのような対応が考えられているのか…今回は、AIをめぐる状況、特にルール作りについて、論点整理してみます。
AIの活用による恩恵とリスクとは
AIは、画像認識、自然言語処理、音声認識といった分野を中心に、私たちの生活に急速に、そして深く浸透しました。私も、データ収集や、様々な予測分析、音声案内、チャットボット、地図情報、翻訳、議事録作成などで、10年前には考えられなかった便利さをしみじみと実感しつつお世話になっています。生産現場でも売り場でも家庭でも学校でも、AIは遍く「自動化」「省人化」「無人化」「効率化」「最適化」「精緻化」を進めています。
一方で、AIには、バイアスや個人情報管理などの点でリスクがあります。たとえば、マーケティング手法の一環として、どこかお店に入ると「顔認識」されていることは、個人データとして保存されないと分かっていても一抹の不安がよぎります。また、子供たちに大人気の「イラスト自動生成ツール」で一緒に遊ぶとき、クリエイターやアーティストの作品も少しずつ拝借しているのではないか、と罪悪感を覚えます。「敵対的生成ネットワーク」を活用したディープフェイクに関するニュースに接すると、悪意のあるAI活用にどのように対応していくのか、心配になります。
私の趣味にぴったりの商品や音楽について、お勧めをしてくれる機能はありがたいのですが、どのようなアルゴリズムが使われているのか、また、一定の傾向を追求することにより、了見の狭い人間になってしまうのではないかと思い悩むこともあります。さらには、データや統計のとりかたの偏りやアルゴリズムにより、思いも寄らないバイアスを生み出すこともあります。
恩恵とリスクが隣り合わせ…さらに、生き馬の目をくりぬく技術革新が行われている中、最適解が常に動いている、という特徴があります。ある技術に照準を合わせて、かっちりしたルールを作っても、すぐに陳腐化し、別の技術が異なる論点を生み出す可能性があり、ルールの実効性の担保、ということが難しいのです。常に動くパノラマの中で、基本的な価値を維持し続けること、柔軟性とか強靱性といったことも求められます。AIに関するルール作りには、恩恵とリスク、という視点に加えて、変化に対する迅速性や柔軟性が重要になってきます。
ルール作りとは～原則、ガイドライン、指針、規則など
（１）AIをめぐるルール作りの現状
前述の特徴も踏まえ、AIの活用について、どのようにルール作りがなされているのか、概観してみます。ルールといったとき、現時点で厳密に区分けされていませんが、①基本的価値についての原則から、②個別分野における運用ガイドラインや規則、③標準化や調和に向けた基準、④執行や罰則といった法律や指令、に至るまで様々なレベルがあります。
まずは、基本的価値についての原則についてです。2019年5月に採択されたOECDのAI原則です。OECD諸国及びパートナー諸国が、人工知能(AI)に関する初の国際的な政策ガイドラインを正式に採択し、AIシステムが健全、安全、公正かつ信頼に足るように構築されることを目指す国際標準を支持するものです。同原則は、2016年4月に開催されたG7香川・高松情報通信大臣会合において、日本がAIの研究開発に関するガイドラインの策定を提唱したことに端を発するものです。
（２）基本的価値についての原則についての比較
OECDのAI原則のほかにも、2016年以降、各国政府や国際機関、民間の標準化団体や企業などが、AI原則を多く発表しています。新しい分野で、拠り所が必要とされている分野であることがよく分かる現象だと思います。
さて、総務省が、様々なAIに関するガイドラインを比較しているので、これらの原則に多く取り上げられている基本的価値を見てみましょう。「人間中心」「人間の尊厳」「多様性」「包摂性」「持続可能な社会」「国際協力」「適正な利用」「教育・リテラシー」「人間の判断の介在」「制御可能性」「適正な学習（学習データの質）」「AI間の連携（接続性や相互運用性）」「安全性」「セキュリティ」「プライバシー」「公平性」「透明性」「説明可能性」「アカウンタビリティ」…人間社会で求められている基本的価値が広く含められています。
（３）ガイドラインや規則におけるリスクベース・アプローチ
基本原則を守るため、どのようなガイドラインや規則のような細則が整備されつつあるのでしょうか？前述のように、技術革新が著しい中、AI 用途について、法的拘束力のある横断的な規制を整備している例は各国まだなく、今後の方向性が注目されるところです。ここでは、国際的に広く共有されているリスクベース・アプローチという手法について紹介します。リスクベース・アプローチは、AI ガバナンスの設計にあたって、規制の程度をリスクの大きさに対応させるべきという考え方です。
2020 年 2 月、欧州委員会は、安全に利用・応用できるAIシステムの世界的リーダーとなることを目指し、「人工知能（AI）白書―卓越性と信頼に向けた欧州アプローチ」を発出し、その後、AI 法制初期影響評価やAI 規則案を発出しました。例えば、遠隔生体認証システムや監視技術のような高リスクなシステムには法的拘束力のある規制を課し、低リスクであれば、信頼性向上のための自主的なラベリング制度の導入を検討する、という段階的アプローチを採用しています。
AI規制は国境を越えて影響があるため、ガイドラインや規則については、各国の法規制としてのみならず、国際的な議論が必要不可欠になってきます。
理解を深めるための学習の重要性
第一次AIブームは1960年代に起こっていますが、現在活用しているAI技術は、ここ10年の第三次ブームでの成果を反映したものであることから、学校教育で、AIを学んでこられた方は少ないと思います。私も、プログラミングなどにも親しんでおらず、理系のバックグラウンドがないのですが、AIのイロハについて、最低限の知識を得よう、と一念発起しました。そして、AIのカリスマ、アンドリュー・イン（Andrew Ng）スタンフォード大学教授が、オンラインで提供しているコース（Coursera）を受講しました。機械学習（「教師あり学習」「教師なし学習」「強化学習」）や「ニューラルネットワーク」、「ディープラーニング」といった概念について、お人柄が素晴らしいイン教授が初心者にも分かりやすく説明してくださります。同教授は最近もTEDでリソースが限られている中小企業がどのようにAIの活用から恩恵を受けられるか、について、優しく語っておられます。
AIは、大きな恩恵をもたらす一方で、バイアス等のリスクを包含していることから、どのように活用していくべきなのか、様々な立場にある人が考えていく必要があります。多様なステークホルダーが能動的に関与することによって、AI活用における脆弱性を克服していくことができると思います。私がフェローを務めている世界経済フォーラム第四次産業革命日本センター（C4IR Japan）においても今回のGPAIサミットのサイドイベントでは健康な高齢化、地域のモビリティ、司法への平等なアクセス、プライバシー保護とデータ活用の両立など、さまざまな角度から議論を行いました。
C4IR Japanのデータガバナンスチームでは、引き続き、AIをはじめとするさまざまなデータガバナンスの検討と実装に取り組んでいきます。
執筆：太田代身生（世界経済フォーラム第四次産業革命日本センター フェロー／外務省）
この記事が気に入ったらサポートをしてみませんか？