国際的な非営利団体がAIと倫理で担う役割
※このインタビューは2024年9月3日に収録されました。
AI政策は国を越えて、各国で議論が広がりつつあります。
今回は非営利団体Center for AI & Digital Policy (CAIDP)で代表を務めながらさ、AIと倫理についてのコンサルティングもされているマーブさんに、欧米のAI政策動向とプライバシーとの関連性についてもお伺いしました。
Kohei: 皆さんこんにちは。本日もPrivacy Talkにお越しいただきありがとうございます。本日はマーブさんに参加いただいています。彼女は研究で東京にいらっしゃいます。本日はインタビューにお越しいただきありがとうございます。
Merve: ご招待いただきありがとうございます。東京を訪問できてとても光栄です。
Kohei: ありがとうございます。お話できて光栄です。まず本日のアジェンダに入る前に、彼女のプロフィールを紹介します。
マーブさんはCenter for AI & Digital Policy (CAIDP)で代表と調査ディレクターを務めています。CAIDPは80カ国以上でAIの政策立案者や支持者の教育を行い、国際組織へアドバイスを実施しています（欧州委員会やユネスコ、欧州評議会、OECD）。
マーブさんは政策専門家として米国議会にも招聘され、現在は日立が支援する外国関連評議会のフェローとして東京で研究活動し、千葉工業大学のHenkaku Centerへ招待AI研究者として参加しています。東京では、日本のAI政策とガバナンスについての研究を行っています。
マーブさんはAIethicist.orgの創設者でもあり、AIシステムが社会や個人に与える影響について、基本的な権利や民主的価値、社会的正義の観点から取り組んでいます。
彼女はこれまでにLifetime Achievement Award - Women in AI of the Year - 2023や100 Brilliant Women in AI Ethics™ – 2021等を受賞しています。役員レベルへのコンサルティングやトレーニングを提供し、公共や民間組織に対して責任あるAI開発やデューデリジェンス、ガバナンスの助言を行っています。
マーブさんはこれまでにフォーチュン100企業でシニアレベルの役職を15年以上になってきました。
詳しいことは彼女のウェブサイトをご覧ください。改めて、本日はインタビューにお越しいただきありがとうございます。
Merve: ご紹介いただきありがとうございます。
AIと倫理分野で活動を始めた理由
Kohei: 勿論です。では早速本日のアジェンダに移っていきたいと思います。プロフィールでご紹介した通り、マーブさんはこれまでにAI倫理の分野で様々な活動をされてきたと思います。始めに、なぜAI倫理の分野で活動を始めようと思ったのか教えていただけませんか？
Merve: 勿論です。ご紹介頂いた通り、私は以前はフォーチュン100の企業で活動していました。今の仕事に就く前には、15年以上企業の中で活動し、バンク・オブ・アメリカ・メリルリンチのような会社で働いていました。
当時、私はロンドンで勤務し、主にバンク・オブ・アメリカで採用する技術導入の責任者を担っていました。
この時、2011年、もしくは2012年くらいだったと思います。当時の採用システムにはあまりAIを活用するケースはありませんでしたが、既にAIとバイアスについての話はよく話題に上がっていました。
私はチーム内でのアンコンシャスバイアスへのトレーニングを実施していたので、マネジャーやリクルーターがバイアスに左右されないような役割も担っていました。
そういった役割を担っていた際に、今の活動につながる出会いがありました。採用過程で起こりうるアルゴリズムのバイアスに関心を持って活動していると、アルゴリズム内でどのような範囲がバイアスの対象になりやすいかもわかってきました。一つのドメインを通して、我々がバイアスを感じやすくなるということです。
私もこの分野により興味を持つようになり、調査を進めていきました。そういった研究を続けていきながら、最終的には銀行を辞めてAIethicist.orgを立ち上げることになります。
私が始めに取り組んだことは、新規でこの分野に参加される人たちに必要なリソースを提供していくことでした。まだ少数の人たちしか関わっていなかったのですが、関心を持ってくださる人たちにはより多くのことを共有していきたいと思っていました。ここまでの話は私が現在の活動を始めるきっかけになります。
Kohei: これまでの経緯についてお話しいただきありがとうございます。AIethicist.orgを立ち上げるまでのお話は非常に興味深かったです。現在はCenter for AI and Digital Policyの代表も務めていると思いますが、団体の活動とマーブさんの役割についても教えていただけますか？
国際的な非営利団体がAIと倫理で担う役割
Merve: わかりました。AIethicist.orgでは、先程の質問でお答えしたようにアルゴリズムのバイアスやアカウンタビリティ等に関連した実践方法やリソースの共有を行っています。
それ以外に、数年前には責任あるAIのトレーニングやコンサルティングサービスを公共機関や民間企業に提供し始めました。現在はスタートアップからフォーチュン100企業、連邦政府等まで広く責任あるAIについての支援を行っています。
Center for AI and Digital Policyは独立した非営利型の教育・研究機関で、AI政策や規制に関する研究や教育アドバイスを提供しています。 アドバイスには、人権や民主的価値、法のルールに関する内容が含まれています。
先程の自己紹介のところで、これまでAI政策に何年も取り組んでいたと紹介いただきましたが、我々はOECDやUNESCO、国連や欧州評議会等の組織と連携し取り組みを進めています。
Kohei: 素晴らしい活動ですね。CAIDPの活動は広く参考になる情報が公開されているので、ぜひチェックしてみてください。AI専門家がAI動向を知る上でも学びになりますし、AIについての政策的な話についても勉強になります。プライバシーの専門家の方々にも見てほしい内容になっています。
そして、今は日立が支援する外国関連評議会のフェローとして東京にきています。またHenkaku Centerでは日本でも有名な研究者や起業家の方々と一緒に活動されていると伺っています。現在の研究では米国と日本のAI政策についてどのようなことを研究されているのですか？
Merve: まず、東京に来ることができたことをとても嬉しく思っています。これまで夢見ていたような場所で、素晴らしい仲間と一緒に文化に触れながら研究に取り組めることは非常に光栄です。そして、東京に来てからは新しい仲間とも出会うことができました。
日立が支援する外国関連評議会のフェローシップと千葉工業大学のHenkaku Centerにはとても感謝していて、こういった調査の機会を頂けたことは非常に幸運なことだと思います。
（動画：The Council on Foreign Relations’ International Affairs Fellowship Programs）
私が日本に滞在して研究していることは、日本のAI政策とガバナンスについて世界的にどういった動きを見ながら活動しているのかを調べていきたいと思っています。また日本国内での議論についても、日本はAI政策について2015年から積極的に取り組んでいると思うので、その辺りについても調べてみたいですね。
特に何かをリードするだけでなく、合意を前提に進めていくアプローチについては非常に関心があります。私の研究では、文化や地理、社会的な観点を通して日本ではどういったアプローチが取られているのかを研究しています。なぜ日本型のアプローチが注目されていて、世界的なルール整備の中で、どういった影響があるのかについても気になっています。
Kohei: 地域ごとの違いをお互いに理解していく過程は非常に重要ですね。AI政策やルールづくりの過程で、それぞれの良さを上手く組み合わせていくことが非常に重要であると考えています。マーブさんが取り組んでいる研究は重要な役割を担っていますね。
今後も団体で活動されていることや、レポート等の公表物についてはチェックさせていただきたいと思います。貴重な経験を共有いただきありがとうございます。
Merve: 日本での活動を通して、アンバサダーのような役割を担っていきたいとも考えています。AI政策分野で長く活動されている方であれば、日本がどのような役割を担っているのかがわかるのではないかと思います。ただ、まだまだ知られていないことが広くあるので、日本での活動を通して広く伝えていきたいとも考えています。
Kohei: ありがとうございます。次の質問に移りたいと思います。マーブさんはAI分野で長く活動されている経験をお持ちだと伺っていますが、その中では米国でのAI政策についても関わっているとおっしゃっていました。
これまでのご経験から、米国ではAI政策とガバナンスについてどのような議論が交わされているのでしょうか？
〈最後までご覧いただき、ありがとうございました。続きの中編は、次回お届けします。〉
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫