『TikTok、AI生成コンテンツに自動でラベル付けを開始。C2PAとこれからのネットリテラシー教育』～【web3&AI-テックビジネスのアイディアのタネ】2024.5.10
「先進テックで未来の生活はもっと良くなる！」と信じて、Web3・AI・ガジェットなどのデイリーニュースから毎日ひとつピックアップしてご紹介しています。
新規ビジネスのアイディアのタネがほしい方、未来を想像してワクワクしたい方、読んでちょっといいなと思った方、ぜひフォロー・高評価よろしくお願いします！
■TikTok、AI生成コンテンツに自動でラベル付けを開始
TikTokは9日、AIに関する透明性とリテラシー向上に取り組むと発表した。AI生成コンテンツ(AIGC)に対して自動でラベル付けを開始するほか、C2PAと連携し、「コンテンツクレデンシャル」機能を動画プラットフォームとして初めて実装する。
「人間が作ったか、AIが作ったか」を改ざんできないブロックチェーンに刻んでNFTで証明書を発行、SNSや報道メディアなどがNFT証明書を参照して「これは人間が撮った」や「AIで生成した」などを明確化できるのが｢コンテンツ認証イニシアチブ（CAI）｣と標準化団体｢Coalition for Content Provenance and Authenticity（C2PA）｣が制定している証明規格です。
本来C2PAは団体名ですが、「C2PA対応」のように規格名のように紹介されることも多く、個人的にもその方がわかりやすいと感じています。
さて、そのC2PAにTikTokが対応、アップされたコンテンツがC2PAに対応したAIで生成されたものだった場合、自動的にラベル付けをすることを発表しました。
C2PAは「コンテンツの出自を明確にするソリューション
「C2PAでAIで生成したコンテンツだということを自動的にラベル付け」のようにニュースなどで紹介されることが多いため、C2PAはAIコンテンツであることを明示するものだと誤解されそうですが、正確には「コンテンツの出自を明確にする」ことを目的としたソリューションです。
つまり、人間が撮影した写真であることも、C2PAに対応した一眼レフカメラを使えば証明が可能になります。
誰が、いつ、どこで、どのカメラで撮影したのかについて証明でき、報道機関などが「この写真はAIで生成したものではない≒フェイク写真ではない」と安心して使うことが想定されています。
「AI生成の証明」のほうが身近
しかし、C2PAに対応したカメラが業務用の非常に高額なものしかないこともあり、「人間が撮影した」ことの証明よりも「AIが生成した」ことを証明する方が、今回のTikTokのケースのように身近に目に触れることになりそうです。
いずれブロックチェーンがより安価・高速・大量に使えるようになれば、コンシューマーにとって最も身近なスマホのカメラで撮影したものもC2PAのメタ情報が記録可能になります。
ただ、今のスマホのトレンドはカメラ撮影機能にAI加工をくっつけてしまうことです。
消しゴムマジックに始まり、Samsungの「影を消す」機能もAIによる画像加工です。スマホで撮られた写真や動画の場合はもはやAIと不可分かもしれません。
OpenAIもC2PA正式参加を発表
OpenAIは、画像などのコンテンツ認証・来歴記録の標準規格「C2PA」に参加すると発表した。また、OpenAIのツールで作成されたコンテンツを特定できる技術についても提供し、コンテンツの信憑性に関する取り組みを強化する。
OpenAIでは、2024年の年初から、ChatGPTと「DALL・E3」で作成・編集されたすべての画像にC2PAのメタデータを追加する取り組みを実施している。今後は動画生成モデルのSoraにも導入される予定。
かなり前から表明はされていましたが、OpenAI社も正式にC2PA参加を発表しました。ChatGPT、DALL・E3、Soraに導入予定だとしています。
SNSやブラウザのC2PA対応がカギ
生成AI側が次々とC2PA参加を発表する中で、これから大事になるのが、コンテンツを表示するSNSやブラウザなどがC2PA対応するかどうかです。
今回のTikTokのように、C2PAタグがあれば自動的にAI製であることをタグ付けし、人間がフェイク画像に騙されないようにすることが、今考えられている一番有用な使い方です。
原理的には「人間製」も自動タグ付け可能です。
C2PAタグがついていなければ、一旦「疑わしい」と判断を保留して安易に拡散しないようにすることが、新しいSNSリテラシーになるくらいのことが期待されます。
ラジオ投稿「AIか、人間か」
TBSラジオ「アフター6ジャンクション2」で、リスナーからの投稿が「人間製か、生成AI製か」を当てるというゲームを一昨日に1時間にわたってやっていました。
「AIらしくない文体にして」など荒業を駆使したプロンプトで、もうほとんど判別不可能でした。まだまだ不出来な今現在のテキスト系生成AIでも、下手をすると人間よりマシな文章が書けてしまうレベルなのに驚かされました。
ラジオの要のひとつであるリスナーからの投稿がもはや人間かAIかが判別不可能ということは、リスナー不在でも投稿番組をでっち上げられてしまうということでもあり、「パンドラの箱を開けてしまったかもしれない」と締めくくっています。
AI＋人間＝人間の能力となる時代には判別が無意味化
耳や目を養ってもAIであるかを判別することが無理なレベルに突入している今の時代には、C2PAのような証明技術は非常に重要になるでしょう。
しかしおそらく、PIVOT TALKでPOSTS代表の梶谷健人さんが語っていたように、AIで拡張された人間の能力＝人間の能力となることは間違いありません。
「これは人間製だから正しい」と言えるわけでもありませんし、「これはAI製だからフェイク」というわけでもありません。
AIかどうかではなく、真実かどうかを、立ち止まって考える能力が求められる時代です。C2PAによる自動ラベル表示は、人間がその訓練をするためにあると捉えた方が良いのかもしれません。