生成AIを規制する動きと大統領選を悩ませる偽情報の問題
※このインタビューは2024年9月3日に収録されました。
AI政策は国を越えて、各国で議論が広がりつつあります。
今回は非営利団体Center for AI & Digital Policy (CAIDP)で代表を務めながらさ、AIと倫理についてのコンサルティングもされているマーブさんに、欧米のAI政策動向とプライバシーとの関連性についてもお伺いしました。
前回の記事より
日本人から見ると、欧州ではより厳しい規制を採用し、米国はAIと新しいテクノロジーのイノベーションに寛容な雰囲気があると感じています。AI政策の観点から両地域の中で違いがあれば教えてもらえませんか？
欧州と米国の政策形成の違いと政府機関の役割とは？
Merve: 欧州と米国で起きていることのギャップについて話をすると、両地域の法律システムの違いについて話をするようにしています。米国と欧州はそれぞれ異なる法律のシステムを採用していて、それによって地域ごとの政策や活動、規制のあり方が大きく変わってきます。
欧州では、規制が特に明確になっていない領域の場合には特に公や民間の組織に対して安全性や責任範囲が求められることがないため、必要な項目を明確に記載するようになっています。よくハードローと言われるのは、欧州域内で明確に必要事項が記載されるからです。
一方米国の法システムでは、制度設計に綿密な粒度が求められることはありません。法律があれば、関連した政府組織（連邦政府）が法に沿って執行を行うことになります。ルールづくりについても、一定の柔軟性を前提にして詳細を整理していくことになります。
そういった視点で見ると、米国と他の国々を見てみると平等法に関する話が出てくると思います。消費者保護法や差別廃止法、製品安全性法等が上げられると思います。
米国には既にこういった規制があり、米国連邦取引委員会や米国証券取引委員会のような政府組織が執行を行っています。
法システムの観点から考えると、米国内で粒度の高い制度を採用することは得策ではないということです。私たちが期待し、要望していることはこれまでに米国が採用してきた制度の下で、AIに関連する既存のリスクが何で、今後はどのようなリスクが起こりうるため必要な規制は何かを問うていくことですよね？
アルゴリズムの仕組みがブラックボックス化している点はその一つだと思いませんか？異議申し立てや透明性、アルゴリズムへの責任を始め、バイアスのような問題も出てきています。
企業や公の組織が裁判になった場合に、アルゴリズムや知的財産権に対してどのように扱うべきかは明確にしておくことが必要です。こういった問題は、AIの発展に伴って広がりつつあります。ディープフェイクや偽情報もそうです。こういった問題に対応する法律は、現在米国にはありません。
よく勘違いされることがありますが、米国では既存の規制の下で非常に強固な政府機関による執行が行われます。実際に執行されるか否かについては、対象の政府機関と法制度との関係性が残っているため、我々は現在そのようなギャップに取り組んでいます。
Kohei: 非常に重要なテーマについて教えていただきありがとうございます。日本やアジアの観点からは非常に興味深いお話しでした。特に欧米で議論されている政策や執行の議論については、参考になる部分が多々あると思います。また、AIの誕生によって今後数十年で環境が大きく変化していくことも重要なポイントになると思います。
未来に向けた展望について考える上で、”The Hill”の記事にマーブさんがコメントされている内容は非常に示唆があると思いました。マーブさんの団体ではChatGPTへの規制について言及されていると思います。
米国連邦取引委員会は米国の執行機関として非常に重要な役割を担っていて、AI時代における基本的な権利を保護するために、今後の大統領選の行方が大きく影響してくるのではないかとコメントされていたと思います。
次にお伺いしたいこととして、米国連邦取引委員会はChatGPTに対してどのように対策すべきで、今後の大統領選によってどんなことが起きそうか教えていただいてもよろしいでしょうか？
生成AIを規制する動きと大統領選を悩ませる偽情報の問題
Merve: ご質問いただきありがとうございます。質問の内容は我々CAIDPが積極的に支持してきたことで、生成AIを提供するベンダー企業に対してのアカウンタビリティを求めるルール形成の必要性を訴えかけてきたものでもあります。
特にベンダーとプロダクトを分けてお話しするようにはしていて、それは最終的にベンダーとプロダクトそれぞれに求められる要件があると考えているからです。この二つに加えて、ビジネス活動が公正で誰かを騙すような設計になっていないかどうかも考える必要があります。
先程私が話をしたように、2023年3月中旬にGPT4がリリースされました。昨年3月末には、既にGPT4が実装され、我々のチームはGPT4によってそのような影響がありうるのかを調査していました。
調査の結果、いくつかの鍵となるポイントが見つかったので、46ページの申立書として米国連邦取引委員会へOpenAI社と展開するプロダクト（GPT4）に関してのドキュメントを提出しました。数ヶ月後の2023年7月には、米国連邦取引委員会へ新たなエビデンスを提出し、追加の申立てを行いました。
2回目の申立て後に、7月中旬にニューヨークタイムズが取り上げた記事で、米国連邦取引委員会が我々のリクエスト通り調査を実施するということを発表しました。ただ、1年経った今でも具体的な調査結果は公表されていません。
そこで我々は1年間を通したレポートを公表し、米国連邦取引委員会に対してバイアスや透明性、プライバシー、公共の安全性、子供の安全性、データ保護、サイバーセキュリティ、詐欺行為によるリスクについての調査結果を公表してほしいと呼びかけました。
その間に、OpenAI社とその従業員の方々も開発中の商品に対する不明瞭な点と、不十分な監督の仕組みについての警鐘を発表しています。このような調査については、イタリアやカナダ、ブラジル、ドイツ、スペイン、韓国、日本でもOpenAI社への懸念を発表し、国によっては調査を始めています。
GPTやGPT4はプロダクトであるため、個人やGPTを利用する企業は一定数保護される必要があると考えており、ガバナンスやアカウンタビリティが鍵になると考えています。勿論、GPTを利用することによって、新しい機会を生み出すような便益もあると考えています。
ただ、OpenAI社に対して一定の線引きがない状態で、開発するプロダクトが関係する個人や企業に対してリスクをもたらすものであってはならないと思います。企業が責任を持って対応することが求められるのです。米国連邦取引委員会に対しては、早急に調査結果を公表してほしいと思っています。
現在の大統領選も重要な分岐点になると思います。言語や画像、動画、音声等を生成するこれらのプロダクトについては、少なからず選挙へ影響することがあると思います。
CAIDPといくつかの市民社会団体が連盟で連邦選挙委員会に対して、生成AIを搭載したシステムによる偽情報等に対しての対策を求める要望を出しています。
我々が連邦選挙委員会に要望しているのは、AIシステムを公共部門で利用する際や選挙キャンペーン広告で利用する際の透明性に関するものです。ディープフェイクや偽情報、バイアス認知や政治的マイクロターゲティング等が対象になります。
生成AIを利用する際のハルシネーションによって、偽情報が生まれてしまいます。このシステムを通して発信された情報を受けて、我々投票者は誤った情報を受け取ってしまうことになるのです。これは米国だけでなく、他国でもディープフェイクを活用したケースが問題になり、政治広告に利用されるケースも多々見られます。
このディープフェイクの問題については、まだ十分な線引きがなされていないため、非常に懸念しているところです。米国上院と議会ではディープフェイクと偽情報を規制するための法案がいくつか提出されています。
米国連邦通信委員会ではディープフェイククローンを活用したロボコールを禁止するような動きも出てきています。小さな動きが少しづつ出てきているので、より大きなムーブメントに変えていく必要があると考えています。
（動画：FCC bans spam calls using AI-generated voices）
最後に、これは米国だけの問題ではなく、同様のリスクが各国に被害をもたらすこともあるのですが、保護される対象については異なるため、今後検討が必要になりそうです。
Kohei: 最近見た記事で、カリフォルニアではAIを規制する法案についての議論が具体化し始めていることを知りました。今後数ヶ月で様々なことが決まっていくのではないかと考えています。
連邦レベルでの議論に限らず、州ごとに規制していくというのが現実的ではないのかと遠目で感じることもあります。プライバシー法の場合には、このような動きが生まれていると思います。ChatGPTについて、州ごとにルールを作っていく動きや、他の生成AIに対しても準備が進んでいる制度的な動きがあれば教えていただくことは可能でしょうか？
米国各州で進むAIを規制する動き
Merve: わかりました。より広いAI制度を考える上で、州の制度が非常に重要だと思います。米国では連邦法があり、米国全土を範囲とするような制度があります。一方、各州や都市ごとにも制度が整備されています。
プライバシーに関連した制度も並行して考えてみると、連邦単位での包括的なプライバシー法は米国にはありません。残念ながら、プライバシーやデータ保護規制が必要ではありつつもまだ存在しません。
ではこれまでにプライバシー、データ保護規制に関連してどのような動きが起きていたのかを紹介すると、いくつかの州では他の地域をコピーしたような制度設計が進んできました。イリノイ州やカリフォルニア州では、連邦議会でのゆっくりとした決議を待たずに制度設計を始めているのです。
こういった動きがAI制度を取り巻く環境でも起こりつつあります。予測可能なAIや生成AIがわかりやすいですね。いくつかの州では具体的な提案を取りまとめるように動き始めています。また、この分野でもカリフォルニアが議論をリードしていて、今後カリフォルニア州での議論を経て、他の州でもAI規制が導入されていくことになるでしょう。
私が懸念しているのは、それぞれの制度が一貫したものでなくなることです。これは、多くの企業が頭を抱えている問題で、米国一律の連邦法に対応するのではなく、各州の規制へ個別対応が必要になるためにシステムとガバナンスの対応が求められるからです。
米国内で50の異なる規制があった場合に、全てに個別対応していくことは容易ではありません。では、具体的に必要な項目を整理していく必要があるのですが、コンプライアンスの観点からもビジネス側での対応が複雑になっていきます。
特に中小規模の会社と話をしていると、連邦で一律の制度を採用してほしいという声が非常に多く見られます。ただ、各州で一早く制度を整えていきたいという動きもわかるので、州で議論が進んでいることが連邦議会にも波及していくことを期待したいと思います。
Kohei: 貴重なお話を教えていただきありがとうございます。今後、どういった進展があるのかは注視してみていきたいと思います。米国のAI制度についても、年内に何か重要なアップデートがありそうですね。
では最後に視聴者の方に向けて、メッセージをいただいてもよろしいでしょうか？現在マーブさんは日本で活動し、研究もされていると思います。
ぜひ日本の方にも広く活動を知って頂き、アンバサダーとして国を繋いでいくようなきっかけになれば幸いです。よろしくお願いします。
Merve: 勿論です。まずは質問をいただきありがとうございます。私が取り組んでいる調査は、日本の皆さんとも連携できる内容だと思います。2015年から、日本が公開してきたドキュメントについては参考にしています。当時もディープLを利用しながら日本語に翻訳して読んでいました。このようなAIの使い方は素晴らしいですね。
もし日本のAI政策について関わっている方で、関心がある人がいれば気軽にお声がけください。主に社会的、文化的、地理的な要素を踏まえながら、日本の政策を広く分析しています。LinkedInでもぜひ繋がって頂きたいです。
また我々の団体の活動についても知ってもらえると嬉しいので、Center for AI and Digital PolicyのLinkedInはぜひご覧ください。定期的に世界中の政策についてのアップデートを行なっています。
また最新の政策分析も行っていて、ニュースレターで内容を公開しています。ニュースレターとLinkedInを合わせると60,000が購読してくれていて、多くのAI研究者の皆様にも参考にしてもらっています。
私たちは欧州や米国に限らず、世界的な動向についても関心を持っているので、LinkedIn やニュースレターを購読いただけると嬉しいです。本日はありがとうございました。
Kohei: マーブさんが代表を務められている組織の活動やこれまでのご経験を共有いただきありがとうございました。AI研究者だけでなく、ビジネスパーソンや社会活動家の方々にとっても有益なお話しだったと思います。
今後も活動のアップデートには注目していきたいと思います。改めて本日はご参加いただきありがとうございました。日本国内でも色々と連携していきましょう。
Merve: 呼んでいただきありがとうございました。
Kohei: ありがとうございました。
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫