【専門家がみる生成AI最新動向#3】～諸外国・国際機関・日本における最新規制動向～③国内動向編
【専門家がみる生成AI最新動向】
このシリーズではデロイトの生成AI有識者たちが、生成AIに関する最新動向を解説していきます。
三回目は、有限責任監査法人トーマツの嶋 威一郎が解説する「生成AI（AIを含む）に関する規制動向及び日本政府における生成AIの方向性」です。諸外国、国際機関、日本それぞれの最新動向（2023.10.15時点）を3回に分けて解説していきます。最終回であるVol.3は日本国内の動向を紹介します。
解説者紹介
嶋 威一郎(Iichiro Shima)
有限責任監査法人トーマツ RA Government & Public Services所属/マネージャー
・公認情報システム監査人(CISA)
前職において、中央省庁、独立行政法人、地方自治体に対するITコンサルティング業務(最適化支援、調達支援、情報推進計画策定、ITアドバイザリー、マイナンバー導入支援、ICT-BCP策定支援等)に従事するとともに、サイバーセキュリティのソリューション開発に従事。
独立行政法人、特殊法人のサイバーセキュリティ対策に関するマネジメント監査業務に従事した後、2018年6月より外部へ兼務出向してサイバーセキュリティ対策に関する業務に従事するとともに、サイバーセキュリティのガバナンスルールの策定等にも従事。
現在は、引き続き外部へ出向中であるとともに、政府機関等におけるサイバーセキュリティ、デジタル・DX政策の知見を活かし、国内外のサイバーセキュリティ、デジタル・DX政策の動向をグループ内に紹介し、政府・公共サービス分野の知見蓄積に取り組んでいる。
さらに、生成AIを含むAIの規制やガバナンス構築について、国際機関、国内外の政府機関、企業、研究機関、民間団体、市民団体等の最新動向を情報収集している。
4. 日本の動向
日本政府においては、内閣府に設置した「AI戦略会議」及び「AI戦略チーム」を中心に、AI政策の立案・推進が進められています。
日本におけるAIに関する規制については、新たな法律の制定といった動きは現時点ではありませんが、現行法に基づいた解釈の変更、ガイドラインの策定、利用の通知等を各府省庁で実施しています。
また、2023年5月のG7広島サミットの結果を踏まえ、G7メンバー及び関係国際機関が参加して、その急速な発展と普及が国際社会全体の重要な課題となっている生成AIについて議論する「AI広島プロセス」を日本が主導して推進しています。
4.1 内閣府
AIに関する課題が多岐にわたり、対応する府省庁も複数にまたがるため、内閣府*56に関係省庁の実務者級職員で構成された「AI戦略チーム」と有識者によって構成された「AI戦略会議」を設置し、AI規制を含むAI政策の検討を進めています。
4.1.1 AI戦略チーム
「AI戦略チーム*57」は、AIに関する課題が多岐にわたり、対応する府省庁も複数にまたがるため、関係府省庁が連携して横断的に対応できるよう関係府省庁の実務者級（審議官・課長級）で構成されたチームです。
AIに関する様々な政策等について、関係府省庁で情報共有、意見交換等を実施しています。
4.1.2 AI戦略会議
「AI戦略会議*58」は、内閣府の「統合イノベーション戦略推進会議*59」のイノベーション政策強化推進のための有識者会議であり、以前に設置されていた「AI戦略実行会議*60」の後継会議として、会議の成果を政府方針や国際ルールの策定に反映させていく役割を有しています。
2023年5月11日に第1回会議を開催し、2023年5月26日の第2回会議でAI技術の急激な変化やG7広島サミットの結果を踏まえ、AI戦略会議構成員によるAI関連の論点を整理した「AI に関する暫定的な論点整理」(2023年5月26日 AI戦略会議)を策定しています。
・AIに関する暫定的な論点整理(本文)*62
・AIに関する暫定的な論点整理(要旨)*63
・AIに関する暫定的な論点整理(本文(仮訳))*64
「AI に関する暫定的な論点整理」では、生成AIの開発・提供・利用を促進し、生成AIに関する懸念やリスクへの適切な対処を行う「ガードレール」設置の必要性が示されています。
また、生成AIの登場によって顕在化したリスクを整理し、以下に示す懸念されるリスクの具体例と対応を示しています。
① 機密情報の労政や個人情報の不適正な利用のリスク
② 犯罪の巧妙化・容易化につながるリスク
③ 偽情報等が社会を不安定化・混乱させるリスク
④ サイバー攻撃が巧妙化するリスク
⑤ 教育現場における生成AIの扱い
⑥ 著作権侵害のリスク
⑦ AIによって失業者が増えるリスク
現在は、2023年5月に広島で開催されたG7広島サミットで決定した「広島AIプロセス」に基づいた活動・文書の議論、AI政策に関する議論等を実施しており、日本政府におけるAI政策を統合的に議論する役割を担っていることから、Ai戦略会議でのAI規制に関する議論を注視していくことが重要です。
4.1.3 AI時代の知的財産権検討会
AI時代の知的財産権検討会*65は、2023年10月4日に内閣府知的財産戦略本部*66に新設された有識者会議です。
本検討会では、生成AIと知的財産権等との関係を巡る懸念やリスクへの対応促進に向けた検討を行うとともに、AI技術の進展を踏まえた発明の保護の在り方等についても検討を行っていきます。
現在、本検討会での検討に資するために、検討課題(「生成ＡＩと知財をめぐる懸念・リスクへの対応等」、「AI技術の進展を踏まえた発明の保護の在り方」)に関して、「AI 時代における知的財産権に関する御意見の募集について(令和5年10月5日 内閣府知的財産戦略本部事務局)」*67で2023年11月5日まで意見募集を実施しています。
4.2 デジタル庁
2021年9月1日に設立したデジタル庁*68は、デジタル社会形成の司令塔としてDX（デジタル・トランスフォーメーション）を推進する組織であり、生成AIについても2023年6月26日に内閣人事局とともに開催した府省庁の職員向けに「働き方改革推進のための生成AI活用ワークショップ*69」を開催するなど、生成AIの利活用を推進する立場にあります。
また、デジタル庁に設置されている「デジタル社会推進会議」において、府省庁における生成AIの業務利用に関する申合せを定めています。
4.2.1 デジタル社会推進会議幹事会
「デジタル社会推進会議幹事会*70」は、デジタル社会推進会議令第4条の規定に基づき、デジタル社会推進会議におけるデジタル社会の形成のための施策の実施の推進及び関係行政機関相互の調整に資することを目的としてデジタル庁に設置されており、構成員及びオブザーバーは関係行政機関の職員で構成されています。
デジタル社会推進会議幹事会では、2023年5月8日の第8回デジタル社会推進会議幹事会*71において、「ChatGPT等の生成AIの業務利用に関する申合せ (2023年5月8日 デジタル社会推進会議幹事会申合せ) 」*72の生成AIの業務利用を申合せました。
さらに、2023年9月15日に開催された第10回デジタル社会推進会議幹事会*73において、「ChatGPT等の生成AIの業務利用に関する申合せ（第2版）(2023年（令和 5 年）9月15日 デジタル社会推進会議幹事会申合せ) *74」を申し合わせています。
本申合せでは、生成AIの業務利用のサービス形態に応じて、内閣府のAI戦略チームへの報告・了解の必要有無、「AI 戦略チーム」の了解を得ることを前提に、組織の規程に則り利用承認を得た上で、適切なリスク分析を行った一部の機密性２情報まで取り扱うことができること等、生成AIの業務利用に関することを申し合わせています。
また、本申合せは、総務省自治行政局デジタル基盤推進室より、全国の自治体に対して本申合せに基づく対応を求める事務連絡「ChatGPT等の生成AIの業務利用について(令和5年5月8日 総務省自治行政局デジタル基盤推進室)」*75が2023年5月8日に発出されています。
4.3 文化庁
文化庁*76では、生成AIの急速な発展・普及を踏まえ、現行の著作権法における考え方やAIと著作権の関係を説明する令和5年度著作権セミナー「ＡＩと著作権」*77を2023年6月19日に開催し、セミナーの講演動画と講義資料をホームページで公開しています*78。
また、生成AIの発展を踏まえたAIと著作権に関する論点を整理し、検討がまとまったものから随時公表する取り組みが文化審議会著作権分科会法制度小委員会*79で進められています。
4.4 法務省
法務省*81では、契約書審査やナレッジマネジメントにおけるＡＩの有用性及び民間企業の法務部門におけるデジタル技術の活用拡大の重要性に鑑み、リーガルテックと、いわゆる非弁活動を禁止している弁護士法との関係を明確にすることが求められていたことから、2023年8月1日にＡＩ等を用いた契約書等関連業務支援サービスの提供と弁護士法第72条との関係*82を示すガイドラインである「ＡＩ等を用いた契約書等関連業務支援サービスの提供と弁護士法第72条との関係について(令和5年8月 法務省大臣官房司法法制部) *83」を公表しました。
4.5 個人情報保護委員会
個人情報保護委員会*85では、生成AIの急速な普及を踏まえ、2023年6月2日に「生成AIサービスの利用に関する注意喚起等(令和５年６月２日 個人情報保護委員会)*86」及び「OpenAIに対する注意喚起の概要(令和５年６月２日 個人情報保護委員会)*87」を公表し、現行の個人情報保護法の観点から注意喚起を行いました*89。
4.6 文部科学省
文部科学省*90では、学校教育における生成AIの活用・制限に関する取り組みを行っており、初等中等教育向け*91に「(事務連絡) Chat GPT 等の生成 AI の学校現場の利用に向けた今後の対応について(令和5年5月19日 文部科学省初等中等教育局学校デジタル化プロジェクトチーム) *92」を発出し、生成AI（Chat GPT）の学校現場での利用に関する今後の対応を示しました。
また、夏休み前に入る前の2023年7月に、「初等中等教育段階における生成 AI の利用に関する暫定的なガイドライン」の作成について（通知）(令和５年７月４日 文部科学省初等中等教育局長)*93」を通知し、文章の生成を主に対象にした生成AIの活用の適否を学校関係者が判断する際の参考資料として、全国の小中高学校へ提供しました。
本ガイドラインは暫定版であり、広島AIプロセスに基づいた各種取り組みの進展を踏まえ、適宜改訂を行うことがガイドラインで示されています。
大学、高等専門学校(高専)については、それぞれの学校で生成AIの教育、学習における取扱いに関する新進や考え方を策定していることから、大学・高専の対応の参考となるよう、既に各大学において策定されている指針等の内容や有識者の見解等を踏まえ、生成AIに関して利活用が想定される場面例や留意すべき観点等についてとりまとめた「(事務連絡)大学・高専における生成 AI の教学面の取扱いについて（周知）(令和5年7月13日 文部科学省 高等教育局専門教育課、大学教育・入試課)*94」を発出しています。
4.7 総務省及び経済産業省
総務省*95及び経済産業省*96では、AI開発者向け、サービス提供者向け、サービス利用者向けのガイドラインをそれぞれ策定しており、総務省はAIサービス提供者向けに「AIネットワーク社会推進会議*97」で策定した「国際的な議論のためのＡＩ開発ガイドライン案(平成29年７月28日 ＡＩネットワーク社会推進会議)*98」及び「ＡＩ利活用ガイドライン～ＡＩ利活用のためのプラクティカルリファレンス～(令和元年８月９日 ＡＩネットワーク社会推進会議)」、経済産業省は「AI 原則の実践の在り方に関する検討会*99」のAI ガバナンス・ガイドライン WGで策定した「AI原則実践のためのガバナンス・ガイドライン Ver. 1.1(令和4年１月２８日 AI 原則の実践の在り方に関する検討会 AIガバナンス・ガイドラインWG)」*100となります。
3つのガイドラインについては、現在、総務省と経済産業省が連携してガイドラインの統合に向けた取組が進められており、2023年9月8日に開催された第5回AI戦略会議*101の資料1-2「新AI事業者ガイドラインスケルトン（案）*102」で、議論・検討中の統合ガイドラインの項目及び記載内容案が示されています。
4.8 自由民主党 AIの進化と実装に関するプロジェクトチーム
与党である自由民主党*103では、2023年1月に平将明衆議院議員を座長とする「AIの進化と実装に関するプロジェクトチーム」を設置し*104、2023年2月から有識者や企業との意見交換を踏まえ、日本のAI戦略に関する在り方、政策提言を検討*105を続けています。
本プロジェクトチームでは、2023年3月30日にAI戦略に関する政策提言である「AIホワイトペーパー～AI新時代における日本の国家戦略～(2023年4月 自民党デジタル社会推進本部 AIの進化と実装に関するプロジェクトチーム)*106」を取りまとめ、2023年4月13日に自民党政調審議会で正式承認された後、2023年5月9日に首相官邸で岸田総理に申し入れました*107。
AIホワイトペーパーでは、ChatGPTをはじめとする生成AIの急激な普及を踏まえ、「重大なリスク分野に関する法規制の検討」、「AI新時代への臨機応変な規制適応」、「教育分野におけるAI利活用に関する指針の整理」を提言しています。
5. おわりに
海外及び日本における生成AIを含むAIの規制動向の概要について、最新状況をご説明しましたが、他にも東南アジア(ASEAN)や南米各国でもAIの規制に関する枠組みの検討や法律の制定が進められています。
本記事にあるとおり、様々な国・地域、国際機関が同時並行でAIに関する規制を進めていますが、規制の考え方、目的、内容はそれぞれ異なるため、AI開発企業だけでなくAI利用者も注意が必要です。
生成AIを含むAIの規制について、国際的な枠組みの合意形成が進まない場合、国や地域で分断され、AIの発展が停滞するおそれがあるため、日本政府が主導する「広島AIプロセス」の成果によって課題解決に向けた動きが促進されることが期待されています。
広島AIプロセスの成果がとりまとめられる2023年末の状況を踏まえ、記事を更新していく予定ですので、引き続きよろしくお願いします。
出典
56. 内閣府：https://www.cao.go.jp/
57. AI戦略チーム：https://www8.cao.go.jp/cstp/ai/ai_team/ai_team.html
58. AI戦略会議：https://www8.cao.go.jp/cstp/ai/ai_senryaku/ai_senryaku.html
59. 内閣府「統合イノベーション戦略推進会議」：https://www8.cao.go.jp/cstp/tougosenryaku/kaigi.html
60. AI戦略実行会議：https://www8.cao.go.jp/cstp/ai/senryaku/kaigi.html
61. 総務省 AIネットワーク社会推進会議（第24回）AIガバナンス検討会（第20回）合同会議 配布資料2-1 「AIに関する新たな検討体制（AI戦略会議）」：https://www.soumu.go.jp/main_content/000889473.pdf
62. AIに関する暫定的な論点整理(本文)：https://www8.cao.go.jp/cstp/ai/ronten_honbun.pdf
63. AIに関する暫定的な論点整理(要旨)：https://www8.cao.go.jp/cstp/ai/ronten_youshi.pdf
64. AIに関する暫定的な論点整理(本文(仮訳))：https://www8.cao.go.jp/cstp/ai/ronten_youshi_yaku.pdf
65. AI時代の知的財産権検討会：https://www.kantei.go.jp/jp/singi/titeki2/ai_kentoukai/kaisai/index.html
66. 内閣府知的財産戦略本部：https://www.kantei.go.jp/jp/singi/titeki2/index.html
67. AI 時代における知的財産権に関する御意見の募集について(令和5年10月5日 内閣府知的財産戦略本部事務局)：https://www.kantei.go.jp/jp/singi/titeki2/pdf/ikenbosyu_20231005.pdf
68. デジタル庁：https://www.digital.go.jp/
69. デジタル庁「中央省庁向けに『働き方改革推進のための生成AI活用ワークショップ』を開催しました」：
https://www.digital.go.jp/news/5896883b-cc5a-4c5a-b610-eb32b0f4c175
70. デジタル社会推進会議幹事会：
https://www.digital.go.jp/councils/social-promotion-executive
71. 第8回デジタル社会推進会議幹事会：https://www.digital.go.jp/councils/social-promotion-executive/councils/191f444c-37fe-4c38-9909-09d9ccdb23af
72. ChatGPT等の生成AIの業務利用に関する申合せ (2023年5月8日 デジタル社会推進会議幹事会申合せ) ：https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/191f444c-37fe-4c38-9909-09d9ccdb23af/8890de1c/20230508_meeting_executive_outline_02.pdf
73. 第10回デジタル社会推進会議幹事会：https://www.digital.go.jp/councils/social-promotion-executive/councils/c64badc7-6f43-406a-b6ed-63f91e0bc7cf
74. 第10回デジタル社会推進会議幹事会・書面開催 申合せ「ChatGPT等の生成AIの業務利用に関する申合せ（第2版）：https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/c64badc7-6f43-406a-b6ed-63f91e0bc7cf/e2fe5e16/20230915_meeting_executive_outline_03.pdf
75. ChatGPT等の生成AIの業務利用について(令和5年5月8日 総務省自治行政局デジタル基盤推進室)：https://www.soumu.go.jp/main_content/000879561.pdf
76. 文化庁：https://www.bunka.go.jp/
77. 文化庁「令和5年度著作権セミナー『ＡＩと著作権』を開催します」：https://www.bunka.go.jp/koho_hodo_oshirase/hodohappyo/93892101.html
78. 文化庁「令和5年度著作権セミナー『ＡＩと著作権』の 講演映像及び講義資料を公開しました。」：https://www.bunka.go.jp/seisaku/chosakuken/93903601.html
79. 文化審議会著作権分科会法制度小委員会：https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/hoseido/index.html
80. 文化庁 文化審議会著作権分科会法制度小委員会（第1回）配布資料3「ＡＩと著作権に関する論点整理について」：https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/hoseido/r05_01/pdf/93918801_03.pdf
81. 法務省：https://www.moj.go.jp
82. 法務省「弁護士法（その他）」：https://www.moj.go.jp/housei/shihouseido/housei10_00134.html
83. ＡＩ等を用いた契約書等関連業務支援サービスの提供と弁護士法第72条との関係について(令和5年8月 法務省大臣官房司法法制部)」：https://www.moj.go.jp/content/001400675.pdf
84. 法務省 「ＡＩ等を用いた契約書等関連業務支援サービスの提供と弁護士法第72条との関係について（概要）」：https://www.moj.go.jp/content/001400674.pdf
85. 個人情報保護委員会：https://www.ppc.go.jp
86. 生成AIサービスの利用に関する注意喚起等(令和５年６月２日 個人情報保護委員会)：https://www.ppc.go.jp/files/pdf/230602_alert_generative_AI_service.pdf
87. OpenAIに対する注意喚起の概要(令和５年６月２日 個人情報保護委員会)：https://www.ppc.go.jp/files/pdf/230602_alert_AI_utilize.pdf
88. 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」：https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
89. 個人情報保護委員会 広報資料 「生成AIサービスの利用に関する注意喚起 (令和5年8月)」：https://www.ppc.go.jp/files/pdf/generativeAI_notice_leaflet2023.pdf
90. 文部科学省：https://www.mext.go.jp/
91. 文部科学省「GIGAスクール構想の実現について」：https://www.mext.go.jp/a_menu/other/index_00001.htm
92. 文部科学省「(事務連絡) Chat GPT 等の生成 AI の学校現場の利用に向けた今後の対応について(令和5年5月19日 文部科学省初等中等教育局学校デジタル化プロジェクトチーム)」：
https://www.mext.go.jp/content/20230614-mxt_shuukyo02-000003278_001.pdf
93. 初等中等教育段階における生成 AI の利用に関する暫定的なガイドライン」の作成について（通知）(令和５年７月４日 文部科学省初等中等教育局長)：
https://www.mext.go.jp/content/20230704-mxt_shuukyo02-000003278_003.pdf
94. (事務連絡)大学・高専における生成 AI の教学面の取扱いについて（周知）(令和5年7月13日 文部科学省 高等教育局専門教育課、大学教育・入試課)：
https://www.mext.go.jp/content/20230714-mxt_senmon01-000030762_1.pdf
95. 総務省：https://www.soumu.go.jp/
96. 経済産業省：https://www.meti.go.jp/
97. AIネットワーク社会推進会議：https://www.soumu.go.jp/iicp/research/results/ai-network.html
98. 国際的な議論のためのＡＩ開発ガイドライン案(平成29年７月28日 ＡＩネットワーク社会推進会議)：https://www.soumu.go.jp/main_content/000499625.pdf
99. 経済産業省「ＡＩ事業者ガイドライン検討会」（旧：ＡＩ原則の実践の在り方に関する検討会）：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/index.html
100. AI原則実践のためのガバナンス・ガイドライン Ver. 1.1(令和4年１月２８日 AI 原則の実践の在り方に関する検討会 AIガバナンス・ガイドラインWG)：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20220128_1.pdf
101. 第5回AI戦略会議：https://www8.cao.go.jp/cstp/ai/ai_senryaku/5kai/5kai.html
102. 第5回AI戦略会議 資料1-2「新AI事業者ガイドラインスケルトン（案）」：https://www8.cao.go.jp/cstp/ai/ai_senryaku/5kai/gaidorain.pdf
103. 自由民主党：https://www.jimin.jp/
104. 自民党「AI、社会実装化へ 新たなPT設置」：https://www.jimin.jp/news/information/205160.html
105. 自民党AIの進化と実装に関するプロジェクトチーム note：https://note.com/akihisa_shiozaki/n/n4c126c27fd3d
106. AIホワイトペーパー～AI新時代における日本の国家戦略～(2023年4月 自民党デジタル社会推進本部 AIの進化と実装に関するプロジェクトチーム)：https://storage.jimin.jp/pdf/news/policy/205802_1.pdf
107. 自由民主党 「新時代における国家戦略策定をAI・web3PTが岸田総理に提言」：https://www.jimin.jp/news/policy/205802.html