見出し画像

AIガバナンスの実際－AIガバナンスシンポジウム(12月16日)を経て－

アンテナ

2024年12月6日（本日）に参加した「AIガバナンスの現在地と未来を描くシンポジウム」について、各スピーカーの主張を経て押さえるべきAIガバナンスのポイントを共有します。


シンポジウム概要

シンポジウム「AIガバナンスの現在地と未来を描く」は、2024年12月16日（月）13:00から九段会館テラスで開催され、主催はスマートガバナンス株式会社、協賛は日本マイクロソフト株式会社です。
このイベントでは、2024年におけるAI実装と世界的なルール形成の変化を背景に、AIガバナンスの現状と将来について議論され、特に、EU AI法の成立や米国の動向、日本国内でのAIセーフティ・インスティテュートの設立など、最新のトピックが取り上げられました。
参加者は150名限定で、確認できただけでも、政府関係者から、AIベンチャー、AIテック事業者、証券会社、新聞記者など幅広い出席者がいました。

スピーカー紹介

国内外の豪華なスピーカー陣が、国内外、官民の幅広し視点で主張いただきました。

  • Antony Cook氏
    Microsoft CorporationのCorporate Vice President & Deputy General Counsel。30年以上のテクノロジー業界での経験を持ち、Microsoftでは20年以上勤務。世界50カ国以上で法務および政策渉外の専門家チームを統括し、グローバルな商業営業組織の法的サポートを監督しています。APEC執行委員会メンバーやWorld Justice ProjectのRule of Law Leadership Councilメンバーとしても活動。

  • 寺岡秀礼氏
    AIセーフティ・インスティテュート副所長。1999年に総務省入省後、情報通信行政に従事し、研究開発や技術基準策定、標準化、情報セキュリティなどに携わる。2024年4月からIPAに出向し、現職に就任。

  • 原山優子氏
    GPAI東京専門家支援センター センター長。ジュネーブ大学で教育学博士と経済学博士を取得後、東北大学大学院工学研究科教授として科学技術イノベーション政策などを研究。OECD科学技術産業局次長や総合科学技術・イノベーション会議常勤議員などを歴任し、2024年にGPAI東京専門家支援センター長に就任。

  • 佐久間弘明氏
    一般社団法人AIガバナンス協会 業務執行理事。経済産業省でAI・データ関連の制度整備に従事した後、ベイン・アンド・カンパニーで経営戦略策定を支援。その後、AIリスク管理のスタートアップであるRobust Intelligenceに参画し、AIガバナンス構築支援を担当。東京大学学際情報学府でAIリスクに関する研究にも取り組む。

  • 羽深宏樹氏
    スマートガバナンス株式会社 代表取締役CEO、京都大学大学院法学研究科 特任教授。AI・データ社会における法律や企業ガバナンスを専門とし、森・濱田松本法律事務所、金融庁、経済産業省等を経て現職。東京大学法学部・法科大学院、スタンフォード大学ロースクール卒。一般社団法人AIガバナンス協会代表理事や東京大学客員准教授なども務める。

  • 落合孝文氏
    スマートガバナンス株式会社 代表取締役共同創業者。森・濱田松本法律事務所での約9年の実務経験の後、渥美坂井法律事務所・外国法共同事業に参画。金融、医療、通信・放送、交通、不動産等の業界で官民のルール形成や実務形成に従事。内閣府規制改革推進会議スタートアップDXGXWG座長や東京大学法学部非常勤講師など、多数の役職を務める。

キーポイントのまとめ

ここから、私が特に気になった各者のキーポイントをお伝えしていきます。

MS Cook氏のAIテックスタックとAIガバナンスレイヤー

Cook氏はAIガバナンスについて、何を統制すべきか、政府が統制する意味のあるものを特定することが必要だと主張しており、その中で説明されたAIのテックスタックの構造やAIガバナンスのレイヤーの定義がとても興味深かったです。

AIテックスタックの要素は以下で、それぞれごとにガバナンスが必要になります。

  • ユーザー

  • 流通

  • アプリケーション

  • ツーリング

  • 基盤モデル

  • データ

  • AIデータセンター（インフラストラクチャ）

  • 半導体チップ

  • 電力＋コネクティビティ

AIガバナンスレイヤーは以下です。

  • 国際政策：国連

  • 多国間政策：G7、G20、OECD

  • 二国間政策

  • 国内政策

  • 業界標準

  • 社内ポリシー

羽深氏のルールメイキングの現況

前提として、世界中でAIガバナンスは毎週のように更新されているようです。また、日本に対する影響として、今年５月に発布され、８月から施工されたEUのAI法は、おそらく日本にも適用されるだろうという関係を示していました。
EUのAI法は、主に感情の評価や操作を規制している点が特徴的です。ハードロー(規制、罰則などを含む)ととらえらえているが、非常に抽象的な定義がされていることのこと。
AIに関しては、膨大なグレーゾーンの中で、
事業者や研究者は止まらずに進み続けるしかない、
とおっしゃっていたのが印象的でした。
政府が一律にルールを作るのは困難なため、官民の協力が必須で、
企業レベルでは倫理的カルチャーと心理的安全性に基づく
アジャイルなガバナンス（二重のPDCA）が重要と主張されています。詳細は、NISTの”AI Risk Management Framework"や
経産省のAI事業者ガイドラインを確認していくのが良いです。

https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html

寺岡氏のAISIの活動概要

AISIは政府の「総合イノベーション戦略」２０２４の中で、リスクへの対応策として設立された人工知能（AI）の安全性を確保するために設立された研究機関や組織です。英国、米国に続き、日本ではアジア初のAISIとして２０２４年２月にIPA内に設立されました。この組織設立の発端は２０２３年５月の岸田前総理大臣が提唱した「広島AIプロセス」になります。
AISIでは、日本がリードを取り、AIセーフティに関する活動マップを作成し、英米とも連携をとっているようです。このマップはAIセーフティに関して、安全性、包摂性、革新性の観点で各トピックを整理し、それらがどの組織体によって対応されているかを可視化したマップとなります。
AISIの活動では今後の取り組みとして、民間との協力関係（事業実証WGの設立を検討）とAIセーフティ関連する調査研究の拡大を推進するということで今後も要注目です。
特に印象的だったのは、先日ニュースにもなりましたが、AIの発展には多言語多文化への応用が必須で、その点は日本とシンガポールがイニシアティブをとっていく方向性にあるようです。

印象的だったメッセージ

  • ＡＢＥＪＡ創業者でJDLAの岡田氏

    • 日本が今まさにやっていかないといけないのは、グレーなゾーンと主張。法と技術の検討委員会で検討していく予定。

    • Sakana AIに代表されるよう、これからは日本がどんどん尖ったプレーヤーを輩出していくことを望む

  • 原山氏

    • ＡＩガバナンスの発展は、政府だけでは難しいので、起業と一緒に作っていくスタンス

    • 企業はこれまでは製品の品質を担保をすればよかったが、これからのＡＩ時代は不測の事態を予測し、いざという時に対応するケイパビリティや体力を保有している必要がある

    • これまでと違い、AIは日本がイニシアティブを取れいている。この土壌をどこまで活かせるか、これが日本の責任である

    • 日本はEthicsを言語化していないが、それが良い点でもある。しかし、これらの中でも特に重要なものを特定し言語化する必要がある。
      （Antony氏も国際連携の課題として、言及）

    • 全員への宿題だが、皆さん、子供へのAIの影響を考えてほしい。過去にテレビやインターネット、スマホにあったような倫理問題をAIでも考えてほしい。今答えはなく、我々が考えることが必要

  • 佐久間氏

    • 企業のＡＩ活用の課題は大きく２つあり、これから取り組んでいく必要がある

      • ひとつは用語の統一、つまりtaxonomy。グローバルな環境では、国や文化館で同じ用語でも違う内容を定義している

      • もうひとつは、事例の発信である

シンポジウムに参加してヒトコト

AIガバナンスの専門家の主張を肌に感じる非常にエキサイティングなシンポジウムでした。
私が特に強いメッセージとして感じたのは以下です。

  • グレーゾーンへ飛び込み、AIをどんどん活用していき、事例を発信していってほしい

  • 官民で協力してAIガバナンスの道を切り開いていく必要がある

  • 日本がイニシアティブをとっており、これを発展させていくことが日本の責任である

基本的に規制はすでに浸透した技術などからベストプラクティスを切り抜いて設定されることが多いですが、AIはまだまだ進化途上のため定義するのは非常に困難です。EUを含め各国で模索されるこの領域は、道を誤れば人間の感情や世界の在り方までを侵すような非常に危険なものである一方で、まだまだ開拓余地があり無数のアイデアを試すことができ、さらに人口調整など世界的な課題を解決する可能性も含むとても魅力的なものでもあります。

リスクを取らなければ、危険は発生しない。しかし、進展もない。
現状維持が退化を示すことは周知の事実です。
今まさに我々一人ひとりのチャレンジが求められている、そのように感じました。

以上、本日の「AIガバナンスの現在地と未来を描くシンポジウム」に参加した所感になります。
最後までお読みいただき、ありがとうございます。なにかひとつでも皆さまの気づきになり、AIを通じて日本や世界がより良くなることに貢献できれば幸いです。

いいなと思ったら応援しよう！