データ保護法でリスクベースアプローチが採用される理由
※このインタビューは2024年7月16日に収録されました
AIとデータ保護に関する制度設計はラテンアメリカの国々でも積極的に議論が進みつつあります。
今回はブラジリア大学 (UnB) とブリュッセル自由大学(VUB)の共同博士課程プログラムに在籍されながら、ブラジルデータ保護監督局でも活動されているチアゴさんに、ラテンアメリカ地域でのデータ保護トレンドとAI関連の政策動向についてお伺いしました。
前回の記事より
ブラジルにも中央銀行があり、プライベートセキュリティの仕組みが存在します。また株等の取引に関する規制も整備されています。こういった分野では、サンドボックス制度を応用することで、相互に関連した動きを進めています。
サンドボックス制度を活用した実ケース
サンドボックス制度の導入を進めると同時に、他の規制当局もブラジル国内で取り組みを始める動きを見せています。輸送産業と規制当局の間では、サンドボックスを導入したケースの開発が始まっています。
通信や医療に関する規制においても同様の動きが広がりつつあります。それぞれ試験プログラムを始めており、各産業の特色に合った形での実践が進んできています。こういった制度設計が進みつつある中で、プライベート分野については他の規制分野とは異なり、規制があまり厳しくないため多くの実証試験が行われています。
通信のような規制分野であれば、会社を運営するためにライセンスを取得し、事業を運営していかなければなりません。通信当局からの承認が必要になるのです。
輸送インフラの産業についても同様に、規制当局からの承認が必要になります。こういった分野でサンドボックスを導入し、試験的な取り組みを進めていくためには、長い時間をかける必要があります。
サンドボックスのような事前承認を一時的に取得できる仕組みがあれば、率先して実証に取り組むことができるようになります。例えば、輸送分野で行われているのが自由輸送に関する取り組みです。
物を輸送する際には通行料が発生しますが、整備された道路を利用する場合にはインフラ利用に対しての支払いが必要になります。
この実験では、車に詰んだ小さな機械を通じて自動で決済が行われ、銀行から自動引き落としが行われることを想定した仕組みの検証を実施しました。実際に試験が行われ、ブラジル内では上手くシステムが機能しました。
実証には成功したものの、まだサンドボックス制度の下で上手く機能しただけなので、今後は拡大が必要になります。今回のケースを受けて、実運用を妨げるのではなく、ルール化に向けた動きが一歩進むことになります。このように実証実験を経て、民間での活用に戻っていくのです。
データ保護法でリスクベースアプローチが採用される理由
プライバシーやデータ保護規制では事前承認に関連した仕組みがまだ存在しません。もし全ての企業が事前承認制となれば、データ保護監督局が事前審査を行う必要が出てきます。
そうすると、第一にデータ保護監督局に膨大な審査リクエストが来ることになるでしょう。それと同時に、審査処理のアシスタントが必要になります。歯医者には助手が存在するように膨大なリクエストを処理するために支援をしてくれるリソースが必要です。
こういった背景もあって、データ保護を実装するためにリスクベースアプローチを採用しています。対象がデータ処理者、データ管理者であって、データ処理を自社利益のために実施するか否かに関わらず、事前にリスクを検討しておくことが求められます。
同時にガバナンスに関連したルールを整備し、データの取り扱いをよりアカウンタブルなものに整理していくことも必要です。
プライベート分野でもサンドボックス利用に移行し始めていることもあり、より注目が集まってきていました。サンドボックスの制度設計の過程で、政策当局に近いイノベーターの方々の間で理解も徐々に進んできています。ガバナンスのメカニズムやベストプラクティスとは何かということですね。
規制当局側でできることは、よりイノベーターが取り組んでいるユースケースを理解し、イノベーションが生まれる過程において、どのようなシステムが必要になるのかを理解しておくことです。
そして、データ保護規制とどのように接続していくと良いのかを検討する必要があります。こういった活動を通して、イノベーションを生み出すための責任をどのテクノロジーを対象にするのか関係なく共有することが必要になります。
このような議論がAI分野でも起きているのです。AI規制はデータ保護制度と非常に近く、AI開発を進めていく上で事前承認を必要とするものではありません。
ここでも再度紹介しますが、AI導入の如何によっては経済全体に大きな影響を与えることになります。どういったAIシステムを開発しているのかを理解しつつも、対象のシステムが抱えているリスクレベルを判断し、リスクが高いか否かの判断を行うことが必要です。
リスクが高ければ高いほど、リスクがほぼゼロに近いシステムと比較すると強固なガバナンスの仕組みが求められるようになります。
サンドボックス制度とAI活用の相性
AI活用においてサンドボックス制度を利用する意義は、実ユースケースでの運用を検討してみて、規制当局側でどのような仕組みで実装が行われているのかを理解することにあります。同時に、一社独占になってしまうことで、競争環境を阻害する可能性がないかを事前に検討する必要があります。
他社に対して共有する情報が秘密情報でないかどうかも確認が必要になります。なぜ、必要か説明しましょう。現在10社が5つのサンドボックスプロジェクトを推進していて、規制当局も参加しながら10から12の推進プログラムが同時に走っています。
中央銀行でも10のユースケースが走っていて、 英国のデータ保護監督局（ICO）でも10から12のプロジェクトを推進しています。
既にサンドボックス制度の下、これ以上のプロジェクトを推進することが難しいところまで来ています。合計すると1000社近くが関わっているからです。
現在推進しているプロジェクトの中で優劣をつけていくことになりますが、最終的な評価は外交的な意味を持つことになると思います。プロジェクト終了後には、実施内容を他のプロジェクト推進者と共有していくことになるからです。
プロジェクト結果を公表していくことで、類似のプロジェクトを検討している人たちは規制当局がどのような考えを持って判断しているのかを理解することができるようになります。
サンドボックス制度に関しては、プライバシー分野での連携を推進することになり、最終的に知見や実施結果を共有しつつシステム設計や制度設計に反映していくことになるだろうと思います。
私はサンドボックス制度が将来のシステム開発に貢献していくことに期待しています。今後はAI規制と合わせて、規制のサンドボックス推進が進んでいくと思います。数年以内にはブラジルの政府機関でも規制のサンドボックスを導入するケースが増えていくと思います。
Kohei: 重要なお話しをありがとうございます。サンドボックスシステムについては多くの国で議論がされており、プライバシー保護技術の実用性についての試験も広く実施されていると伺っています。今後は政府機関や他のステークホルダーからもフィードバックがありそうですね。
ブラジルでもサンドボックスの重要性について議論が始まっていることは非常に新鮮でした。教えて頂きありがとうございました。最後に視聴者の方に向けてメッセージをお願いしてもよろしいでしょうか？
失敗を糧にイノベーションを生み出す仕組み
Thiago: わかりました。私からはそれぞれの活動をお互いに共有することが大切であると伝えたいと思います。テクノロジー分野で活動されている人には、新しいアイデアを実現するための責任についても考えてみてほしいと思います。
私たちがお互いに情報を共有することが大切な理由は、パズルのピースを見つけていくことと同じで、パズルを埋めるために必要な人たちで繋がっていくことができるからです。私がこれまでに経験したことも、広く皆さんに伝えていきたいと思います。
皆さんの地域で取り組んでいる体験を通じて、別の地域の人たちにも新しい気づきを伝えていきつつ、お互いに刺激し合うことができるようになります。
何か壁にぶつかった時にも、現在の方法ではなく別の方法を応用することで解決できるかもしれません。そのためには、アイデアを共有しておくことが必要なのです。
加えて、失敗を恐れないようにしてほしいと思います。私たちの社会では失敗をしてしまうことで一時的に何かをできなくなったり、試験に不合格であれば得られないものがあったり、ルールを破れば罰せられてしまいます。
そういった環境の下では失敗を常に恐れながら生きていくことになります。そうではなく、失敗から何か新しいことを学んでいくことがとても大切です。私はサンドボックス制度に関わるようになってから、様々な実証実験に関わり失敗の大切さを学びました。
失敗を重ねることで、現在の手法が間違っていることもわかります。そして、失敗からまなび新しい取り組みに繋げていくこともできるようになります。何が上手くいくのかを知るための道標になるのです。失敗に寛容な環境へと変わっていくことで、私たちが学べることもたくさんあります。
規制のサンドボックスのような制度からも学べることはたくさんあるのです。
Kohei: ありがとうございます。素晴らしいメッセージですね。現在の活動に関わらず、新しいチャレンジや行動を応援していくことが大切だと思います。チアゴさんのメッセージは挑戦者の人たちを勇気づけることになると思います。
チアゴさん。本日はお越しいただきありがとうございました。非常に有意義な議論ができたので、本日のお話を皆さんにも知ってもらいたいと思います。
チアゴさん。本日はご参加頂きありがとうございました。
Thiago: ご招待いただきありがとうございました。私も今日の話は同僚に伝えていきたいと思います。こういった機会をぜひ広く作っていきたいと思いますし、ブラジルの同僚ともつながる機会を作っていければと思います。ぜひこれからも連携できると嬉しいです。
Kohei: ありがとうございました。
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫