世界的な選挙におけるAIの欺瞞的な使用に対する協定

　先週ドイツで世界の安全保障課題について議論する Munich Security Conference (MSC 2024) が開催され、世界の安全保障やグローバル秩序、気候変動の影響などのテーマに加え、AI に関する議論も行われました。その中でも選挙における AIの欺瞞的な使用に対する協定に注目が集まっています。
今年の世界的な選挙において40カ国以上で40億人以上の人々が投票する中で、この協定は欺瞞的な AI コンテンツが干渉するのを防ぐことを目的としています。企業も、政府も、市民社会組織も、単独で対処できるわけではないことを前提としており、署名企業には、Adobe、Google、Meta、Microsoft、OpenAI、TikTok などが含まれていて、他にも IBM や X (旧Twitter) など主要 IT 企業 20社が含まれています。
　この協定は AI によって生成されたディープフェイクが選挙に悪影響を及ぼすのを防ぐための指針で、オンラインコミュニティを有害な AI コンテンツから保護するための重要な一歩であり、各企業の継続的な取り組みを基にしています。具体的には、欺瞞的な選挙関連コンテンツには AI生成の音声、映像、画像が含まれており、政治候補者、選挙関係者、民主的選挙における他の主要な利害関係者の外見、声、行動を偽装または変更するもの、または有権者に対して投票の方法、場所、時期などについて、有権者に虚偽の情報を提供するものも含まれています。
　さらにこの協定は、欺瞞的な AI 生成コンテンツを検出し、対処するための技術を展開することを約束していて、偽情報を拡散するオンライン配信を検出し、教育キャンペーンを推進し、透明性を提供するなど、具体的なステップを講じることを目指しています。また、欺瞞的な選挙関連コンテンツの起源を追跡し、問題についての公衆の認識を高める必要性など、広範な原則も含まれています。
　この協定では、ディープフェイクの禁止や削除を約束しているわけではなく、AI によって作成または配布された欺瞞的なコンテンツを検出し、ラベル付けする方法を示しており、各社がベストプラクティスを共有し、コンテンツが拡散し始めた場合には「迅速かつ適切な対応」を行うとしていて、利用者はソーシャルメディア等で公開されているコンテンツが本物かどうかを判断できるようになるはずです。
　どんなに素晴らしい技術であっても、人がその技術を使う以上、使い方を間違えれば取り返しのつかない事態となることは、原爆をはじめ歴史の中で明らかです。AI を人々の生活を豊かにするために活用できるインフラ構築に期待したいです。