AIで偽動画・音声「ディープフェイク」規制論
以前、菅田将暉さん主演のドラマ「3年A組-今から皆さんは、人質です‐」が面白くて夢中でみていました。
そんなバカな？的な設定もあるのですが、セリフの一言一言のメッセージがすごくて、ついつい見入ってしまいました。
テーマは「フェークニュース」です。
フェークニュースに踊らされて、SNSで拡散されお金まで動くあたりはフィクションとはいえ、「あるかも」と思わせる部分も多々あったからです。
今、リアルな社会でもフェーク動画が存在して、多くの欲望の中で社会を混乱に陥れる可能性があります。
AIなどを利用した一見では嘘と見分けられないものは
「ディープフェーク」
と呼ばれています。
そんな高まる懸念に対して
欧米先行、日本は遅れ 安保リスクも
という状況です。
そこで今日はディープフェークを
＊デープフェーク世界で増加傾向に
＊EUが乗り出すデープフェーク規制
＊安全保障上の脅威になるデープフェーク
＊危機感に乏しい日本
とみていきながら
ITの遅れと危機感の遅れも伴う日本はもっと戦略的に動くべき
という取るべき道についても考えたいと思います。
＊デープフェーク世界で増加傾向に
改めて、「ディープフェイク」とは
人工知能などを使って映像や音声を本物のように加工したもの
で、それに対して欧米が規制に本格的に取り組み始めました。
裁判の証拠操作など身近な場面での脅威が現実味を帯びてきていて、他人事とはいえないようになってきています。
さらに、スケールが国レベルになると、国家の安全保障リスクになるとの懸念も強まっているのです。
具体例をあげてみると
欧州議会が2021年7月に公表したディープフェイクに関する報告書では、イギリスの親権をめぐる裁判で、夫の脅迫めいた録音が取り上げられました。
市販のソフトを使い編集した精度が低いものであったので、証拠として認定されなかったのが幸いでした。
しかし、より精緻なら司法判断も左右しかねないリスクを浮き彫りにしたのです。
又、オランダの情報会社センシティの調査では、20年12月に世界中で検知したディープフェイク動画は約8万5千件に上ったそうです。
殆どがポルノ動画でしたが、動画は18年12月以降2倍のペースで増え続けています。
＊EUが乗り出すデープフェーク規制
各国が脅威と捉えている中で、
欧州連合はディープフェイクを含むAIに関する包括的な規制案
を21年4月に公表して、各国に先駆けて本格規制を模索し始めました。
規制案では4段階のリスクに応じてAIの利用を規制するものです。
4つのリスクとは
① 裁判証拠の偽造
② 偽のドローン映像でかく乱など軍事利用
③ 選挙での世論誘導
④ ウエブ会議映像の偽装など商取引で悪用
です。
個人を格付けするAIや法執行目的の公共空間での顔認証は禁止します。
重要インフラなどに使う「ハイリスクAI」は販売前の適合性評価などが必要となります。
本物と見間違うような映像などのディープフェイクは透明性の確保義務を負うAIとして、人工的に作っているとの明示を求めるという内容です。
EUはAIを巡るルール形成で主導権を握る狙いがあるとみられています。
しかし、一方で産業界では負担増や技術発展の阻害を懸念して
「ハイリスクAIの定義があいまい」
などと修正を求める声もあるのです。
「施行までに2年はかかる」とみる専門家もいます。
＊安全保障上の脅威になるデープフェーク
アメリカ政府は、
ディープフェイクを安全保障上の脅威
と捉えています。
米国は20年12月、偽情報の識別や外国の悪用例について軍と国の研究機関に分析を求める連邦法を整備しました。
21年には軍人とその家族を標的とする脅威に関する調査まで拡大したのです。
トランプ元大統領の選挙戦でも見られたように、国家を超える偽情報の利用も目立ってきています。
最近では、緊迫するウクライナ情勢を巡り米国務省は3日、ロシアが再侵攻の口実とするため動画を捏造しているとの情報を入手したと公表しました。
米調査会社「ミトスラボ」によると、1月初旬までの約1カ月間で、ウクライナを巡りロシア寄りの偽情報やプロパガンダを拡散するツイッターアカウントは697個に上っていて、21年11月の12倍に急増したそうです。
米側は偽のドローン映像や衛星画像などで軍事作戦がかく乱される事態も想定し始めているそうです。
＊危機感に乏しい日本
日本ではまだポルノ動画に悪用して摘発された事例などにとどまっています。
政府関係者の間でも差し迫った脅威とみなす雰囲気は乏しいようですね。
経済産業省は21年7月に
AI技術全体について開発事業者などに法的拘束力のない指針を策定しました。
しかし、ディープフェイクの法規制を巡る議論には至っていないのが現状です。
「日本はもっと戦略的に動く必要がある」
と唱える専門家も多くいます。
ITの遅れと危機感の遅れも伴う日本はもっと戦略的に動くべき
議論に時間のかかるテーマだけにAIの技術発展と規制をどう両立していくのか？踏み込んだ検討を始めるべきです。
一番怖いのがグローバル化の中で技術発展も規制も両方遅れることですね。
ターミネーターのシュワルツェネッガーの顔をシルベスター・スタローンに差し替えたフェーク画像です。違和感なくここまでできます。
アプリでもこれだけのことが出来るようになりました。
合わせて読んで欲しい過去記事
フィリピンの情報サイトを運営しています。
幅広く情報発信しています。ご覧くださいませ