見出し画像

OpenAI、Adobe、MicrosoftがAIコンテンツに透かしを入れることを義務付けるカリフォルニア州法案を支持

Zun-Beho

AB 3211は、AI生成コンテンツの識別を目的としたカリフォルニア州の法案で、8月に最終投票が予定されていました。OpenAI、Adobe、Microsoft、および国内最大手のソフトウェアメーカーを代表する業界団体は、4月にカリフォルニア州議員宛ての書簡で法案を「実行不可能」かつ「負担が大きすぎる」と述べ、AB 3211に反対していましたが、テクノロジー企業にAI生成コンテンツにラベルを付けることを義務付けるカリフォルニア州法案を支持ししました。

サム・アルトマンによる同意表明のポスト

ご本人が、AB 3211法案に同意したことをXにて報告しています。

AB 3211法案にAIベンダーやスタートアップが強く反対

カリフォルニア州のAB 3211法案に対して、当初、多くのAIベンダーやスタートアップが強く反対していました。彼らの主な懸念は、法案が過度に負担が大きく、特に新興企業にとって開発の自由を制限し、イノベーションを妨げる可能性があるというものでした。特に、GoogleやMeta、Microsoftなどの大手企業は、AIコンテンツに関する規制が州ごとに異なることになり、全体的な技術開発に混乱をもたらすと警告していました。しかし、OpenAIやAdobeのような企業が法案の修正後に支持に回ったことにより、業界内でも意見が分かれました​。

メタデータ内にウォーターマークを付けることを義務付ける法案

具体的には、AB 3211はAIによって生成された写真、ビデオ、音声クリップに対して、メタデータ内にウォーターマークを付けることを義務付けるものです。多くのAI企業はすでにこのような措置を取っていますが、ほとんどの人はメタデータを確認しないため、効果的ではありません。そのため、この法案では、InstagramやXなどの大手オンラインプラットフォームにも、一般の視聴者が理解できる形でAI生成コンテンツをラベル付けすることを求めています。

コンテンツ起源および真正性連合が合意

OpenAI、Adobe、Microsoftは、AI生成コンテンツのマーキングに広く使用されているC2PAメタデータ標準を策定した、Content Provenance and Authenticity Coalition（コンテンツ起源および真正性連合）の一員です。

当初、AdobeやMicrosoftを含む大手ソフトウェアメーカーを代表する業界団体は、AB 3211に対して「実行不可能」や「過度に負担が大きい」として反対していました。しかし、法案の修正により、彼らの立場が変わり、現在では支持に回っています。

この法案は、AI技術の普及に伴う偽情報やデジタル偽造のリスクを軽減するための重要な一歩と見なされており、技術企業と政府が協力して、透明性と信頼性を高める取り組みの一環として位置付けられています。

AB 3211試行の背景

AB 3211のような法案が重要視される背景には、AI技術が急速に進化し、写真や動画などのコンテンツを本物そっくりに生成できる能力が高まっていることがあります。これにより、偽情報やフェイクニュースの拡散が懸念されており、信頼性の確保が急務となっています。

OpenAIやMicrosoftなどの主要企業が法案を支持するようになったことは、業界全体でAI技術の責任ある活用に向けた意識が高まっていることを示しています。これにより、デジタルコンテンツの起源を確認しやすくし、消費者が安心して情報を利用できる環境を整備することが目指されています。

AB 3211試行の影響

この法案が成立すれば、カリフォルニア州内だけでなく、他の州や国にも影響を与える可能性があります。カリフォルニア州は技術革新の中心地であり、その法律はしばしば他の地域にも影響を及ぼすため、今後のAI技術の規制においても、AB 3211は重要な前例となるでしょう。

また、技術企業にとっても、法令遵守のための新たな基準が設定されることになり、AI技術の開発や運用において透明性の向上が求められるようになるでしょう。

このような動きは、AIが私たちの生活に深く関わる中で、その影響をより健全に管理するための重要なステップとなります。

日本での激しい生成AIに対する拒否反応はどう変わる？

日本では、生成AIがpixivやアニメ、漫画の画像を学習した事による絵師さん、イラストレーターさん、アニメーターさんの類似画風の画像大量発生により、つよい生成AI拒否反応が起こっていました。Xの反応をみると、それが少しでも緩和されるのではないかとおもわれます。

このポストをちょっと解説しますと、一昨日、韓国人が友人知人、親族や身近な知人とのハメ撮りディープフェイクを生成してしまう事例が多発してしまい、「ディープフェイク」というワードがトレンド入りした件を受けたものだと思われます。

これはもう、本当にその通りで筆者の経験をお話ししますと、ネット証券の口座開設でIDを登録しなければならず、引っ越しを４回したため、マイナンバーカードに現住所の記載がなくそれで読み込んでも無効になるので、住民票を発行してスマホでそれをスキャンした時に起こりました。なんと、スマホのネット証券アプリに添付されてるカメラ機能で撮影したら、画像全体に「転写禁止」の小さな字がみっちり浮かび上がり無効となりました。

これは本当にイタチごっこになりそうな懸念もあります。昨今ではモザイク処理されたAVのモザイクを復元するAIツールも出回っていると聞きます。

ま、要するに上記のポストの事例は、テーラー・スウィフトがトランプ支持であるかの様なディープ・フェイクをポストしたトランプ氏ご本人とか、ソビエト連邦の旗の前で背を向けて演説しているカマラ・ハリス氏に対して民衆が赤い旗を振って応援しているディープフェイク画像をアップしたイーロン・マスク氏らを言っているのでしょう。

3211可決寸前にテキサス州に逃れたイーロン・マスクのxAI

Elon MuskのxAIがテキサス州に移転した背景には、彼がカリフォルニア州でのAI規制に強い支持を示したことが関係しています。Muskは、AIの危険性を強調し、カリフォルニア州での厳しいAI規制法案、特にSB 1047を支持することで注目を集めました。彼は、この法案がAI開発における安全性を確保するために必要だとし、過去20年以上にわたってAI規制を支持してきたと述べています。

しかし、カリフォルニア州での厳しい規制が可決される可能性が高まる中、MuskはxAIをテキサス州に移転させました。テキサス州は、ビジネスに対してより自由な環境を提供することで知られており、Muskの移転決定はこの柔軟性を活かす意図があると考えられます。

一方で、テキサス州でカリフォルニア州のような規制が導入される可能性は現時点では低いと見られています。テキサス州はビジネスフレンドリーな州であり、規制が少ないため、Muskはテキサスでの活動がより自由になると考えたのでしょう。ただし、カリフォルニア州での法案が成功し、その影響が他州に波及する可能性も否定できません。

これにより、Muskはカリフォルニア州での厳しい規制を支持しつつ、自らの企業活動にはより緩やかな規制の州へ移転するという二面性を見せています。
この動きが今後どのような影響を与えるか注目されています​。

なを、イーロン・マスク氏のGrokを使ったディープフェイク画像がXには溢れかえった様子は下記のNoteで解説していますので合わせてご覧ください。


この記事が気に入ったらサポートをしてみませんか？