フェイク動画を検知する技術をOpenAIが開発中
今年は、動画生成AIがブームの兆しを見せています。
中でもリリース前から騒がれているのが、ChatGPTを運営している
OpenAIが開発中のSoraです。
ただ、同時に危惧されるのがフェイク動画による社会的な混乱です。
2024年は特に国際情勢に影響を与える重要な選挙が多いため、その動向は注目されています。
もちろんOpenAIもそのリスクは考慮しており、最近こんな発表が行われました。
ようは、
自社製の生成AIによる画像・動画については検知出来る技術を開発している、
という話です。
自社限定にしているので、想像ですが、独自の埋め込み技術を採用しているのだろうと思います。
余談ですが、それを汎用化しようとしているのが、日本政府が後押ししている「電子透かし技術」です。
電子透かし、と聞くとわかりにくいですが、紙の紙幣では今でも透かし技術による偽札防止は行われています。初耳の方はお手元のお札を明るいところにかざすと、文字なのが浮かび上がって見えるはずです。
もちろんデジタルなので原理は異なりますが、先日のOECD国際会議でも話題にしています。（外務省サイト）
動画は特に感情に与える度合いが強いので、ぜひSoraリリースされるときには、同時にそれを検知出来るサービスも提供してほしいですね。