見出し画像

【カリフォルニア州】ディープフェイクやAI広告規制強化の法案審議中

yamaman.@RealScouter_Dev

こんにちは！今回は、AI技術が進化する中で、特にディープフェイクや生成AIを利用した広告に対する規制が強化されつつあるカリフォルニア州の最新の動きについてお届けします。ディープフェイクは、映像や音声をリアルに合成する技術で、悪用されれば選挙妨害や偽情報拡散の危険性が高まります。このような問題を受け、カリフォルニア州ではAIやディープフェイクに関連する複数の法案が議論され、規制の強化が進められています。そこで、これらの法案の動向を時系列で追い、詳しく解説します！


ディープフェイクとは？

ディープフェイクとは、AI技術を使って、画像や動画、音声を巧妙に加工し、あたかも本物のように見せかける技術のことです。特にディープラーニングを活用した手法で、特定の人物の顔や声を他の映像や音声に合成することで、偽の映像や音声を作り出すことが可能です。

具体例としては、有名人の顔を別の人物の体に合成して、あたかもその有名人が全く関係のない行動をしているように見せる動画が作られるケースがあります。例えば、映画俳優の顔を合成して、彼らが出演していない映画のシーンに現れるようにする、または政治家の顔を使って偽のスピーチ動画を作るなどが例です。

この技術はエンターテインメントや映画制作で利用されることもありますが、不正利用されると、誤情報の拡散や名誉毀損などの問題を引き起こす可能性があります。そのため、ディープフェイク技術に対する法規制や対策が重要視されています。

🌟 SB1047 (Safe and Secure Innovation for Frontier Artificial Intelligence Models Act)

SB1047は、AIモデル開発に対する規制を強化することを目的とした法案です。この法案では、一定規模以上のAIモデルの開発企業に対して、次の義務が課されます：

  • 安全性テストの実施

  • 緊急時にAIシステムを安全に停止できる「緊急停止機能（キルスイッチ）」の導入

この法案は2024年8月28日にカリフォルニア州下院を通過し、翌29日には上院でも可決されました。しかし、9月29日、ニューサム州知事はこの法案に署名を拒否。知事は「AIシステムのリスク評価が十分に行われていない」として、より科学的根拠に基づいた規制の導入を求めました。

🖼️ AB3211 (California Digital Content Provenance Standards)

AB3211は、生成AIで作成されたコンテンツに対して透明性を確保することを目指す法案です。主要なポイントとして、以下の内容が含まれています：

  • 生成コンテンツに電子透かし（Watermarks）の義務付け

  • 脆弱性に関するリスクアセスメントと報告

当初のバージョンでは、24時間以内に脆弱性を通知する条項が含まれていましたが、ロビー団体の働きかけにより、6月10日に通知猶予が96時間に緩和されました。最終的には、2024年8月22日にこの通知条項は削除され、法案は下院を通過したものの、上院での審議は見送られました。

🗓️ 重要な時系列まとめ

法案の進展は次の通りです。

  • 2024年3月21日：AB3211の初期バージョンが提出。脆弱性を24時間以内に通知する条項が含まれていました。

  • 2024年4月9日：OpenAI、Microsoft、Adobeなどが参加するロビー団体が、脆弱性通知条項の緩和を求める公開書簡を提出。

  • 2024年6月10日：通知猶予が96時間に緩和。

  • 2024年8月22日：AB3211から脆弱性通知条項が削除。

  • 2024年8月28-29日：SB1047が下院、上院で可決。

  • 2024年9月17日：他の関連法案（AB2602、AB1836、AB2655）の報道。

  • 2024年9月29日：州知事がSB1047への署名を拒否。

🎭 その他の関連法案

カリフォルニア州では、ディープフェイクやAIによるデジタルコンテンツの規制を強化するため、他にも関連する法案が提出されています。

  • AB2602：AIで生成されたパフォーマーの声や肖像のデジタルレプリカ使用について、契約書に明記することを義務付け、許可なく使用されることを防ぐ内容です。

  • AB1836：故人の遺族の同意なしに故人のデジタルレプリカを商業的に使用することを禁止する法案です。

  • AB2655：オンラインプラットフォームに対し、選挙関連の欺瞞的なコンテンツやデジタル的に改変されたコンテンツを規制する法案です。

これらの法案もディープフェイク技術の悪用を防ぎ、特に選挙やパブリックイメージの操作に対するリスクを軽減することを目指しています。

まとめ

カリフォルニア州では、ディープフェイクやAI生成コンテンツに関する規制強化が急務となっており、複数の法案が審議されています。これにより、AIの安全性と透明性が向上し、消費者や社会全体に対してより安全なデジタル環境を提供することが期待されます。特に、SB1047やAB3211は、ディープフェイクのリスクを低減し、AIの商業利用における信頼性向上を目指す重要なステップですが、法案成立には今後も議論が続く見通しです。

ディープフェイク技術の進化が加速する中、こうした法整備がどのように私たちの生活に影響を与えるか、今後も注目していきましょう。

次回も、AI関連の最新ニュースをお届けしますので、ぜひフォローしてくださいね！

この記事が気に入ったらサポートをしてみませんか？