『マスク氏 ハリス副大統領の偽動画をXで拡散 批判の声上がる フェイク対策をOSレベルで実装すべき』～【web3&AI-テックビジネスのアイディアのタネ】2024.7.31
「先進テックで未来の生活はもっと良くなる！」と信じて、Web3・AI・ガジェットなどのデイリーニュースから毎日ひとつピックアップしてご紹介しています。
新規ビジネスのアイディアのタネがほしい方、未来を想像してワクワクしたい方、読んでちょっといいなと思った方、ぜひフォロー・高評価よろしくお願いします！
■マスク氏 ハリス副大統領の偽動画をXで拡散 批判の声上がる
実業家のイーロン・マスク氏がみずからが所有するSNSのXで、アメリカの大統領選挙でバイデン大統領の後継候補となる見通しとなったハリス副大統領の偽動画を拡散させ、Xの規約違反ではないかと批判の声が上がっています。
イーロン・マスク氏が自身のSNS「X」でカマラ・ハリス副大統領の偽動画を拡散し、批判を浴びています。
今回の偽動画については、AIやCGで作られたディープフェイク動画ではなく、既存の動画にハリス副大統領に似せた「声」だけをナレーションのように上被せする手口であることに注目しました。
フェイク「音声」は見破りにくい
近年、フェイク動画や偽情報が社会に与える影響はますます大きくなっています。このディープフェイク動画は確かに無抜くことが難しいレベルに進化しています。
しかし、今回問題となったのは、ディープフェイク動画ではなく、既存の動画にハリス副大統領に似せた「声」をナレーションのように上被せする手口でした。この手法は、技術的なハードルが低く、制作コストも抑えられるため、広範に量産される可能性があります。
フェイク音声の脅威
フェイク音声は、ディープフェイク動画と比べて見破るためのヒントが少ないことが大きな問題です。既存の動画にナレーションを加えるだけで、簡単に偽情報を拡散することができます。
さらに、フェイク動画のように高度な技術やコストを必要としないため、誰でも手軽に制作できる点が、社会に与える影響をさらに深刻なものにします。
OpenAI社が開発中の「Voice Engine」は、わずか15秒の音声から声を学習できる技術です。危険性や脅威を認識しているOpenAI社は「同社内部や特別な契約を結んだパートナーだけに利用を制限」しています。
しかし他社もどうようの技術を開発中でもあり、年年歳歳フェイク音声の制作はさらに容易になり、その悪用が懸念されます。
フェイクを見破る技術の重要性
ディープ音声を「息継ぎ」で見抜く技術も開発中です。この技術は、偽音声が本物の音声と異なる微妙なパターンを捉えることで、80％程度はフェイクを見破ることが可能だとしています。
スマートフォンOSへの搭載の提案
このようなフェイクを見抜く技術は、スマートフォンのOSレベルで標準搭載されるべきだと考えます。
例えば、Webサイト、SNS、動画などをスマートフォンで閲覧した際に、フェイクコンテンツが含まれている場合、OSが警告を出す機能を実装することが望まれます。これにより、騙される人を少しでも減らすことができるでしょう。
ただし、100％の検出精度を保証することは難しく、OSが見抜けなかった場合に責任を問われるリスクもあります。しかし、少しでも多くの人を守るためには、このような機能を搭載する価値があると考えます。AppleやGoogleといったスマートフォンOSの主要メーカーには、この選択をぜひとも検討していただきたいと考えますし、ユーザー側も検出できなかったことを責めるのではなく、1件でも発見でき騙されずに済む効用のほうに注目してほしいと思います。
AIが情報安全を守るCMにも注力を
偽動画やフェイク音声の脅威は、今後さらに増大することが予想されます。これに対抗するためには、技術的な対策と共に、社会全体でのリテラシー向上が必要です。特に、フェイク音声に対する警戒を強化し、スマートフォンやその他のデバイスでの検出技術を進化させることが急務です。
AIの便利で楽しい使い方を訴求するテレビCMもよいですが、安全性を高め安心して情報に接することができるAIの活用方法についても訴求してほしいと願っています。