AIのウソを見破れ！ディープフェイクフォレンジックに注目
「ディープフェイクフォレンジック」という言葉をご存じでしょうか？
日々AIが発展しているこの世の中で、ディープフェイク技術が悪用されるケースが増えてきました。本来素晴らしい技術であるはずのディープフェイクが、このような形で広まるのは見過ごしておけません。
そこで注目されているのが「ディープフェイクフォレンジック」です。ディープフェイクフォレンジックを活用すれば、ディープフェイクで作られた音声・動画であるかを判断できるため、誤情報の拡散を防げます。
ディープフェイクの悪用は今や、特定の業界のみの問題ではありません。ビジネスに関わる者すべてで取り組まなければならない問題なのです。
本記事では、ディープフェイクフォレンジックの概要や求められる背景、日本・世界の動きを紹介します。
本記事を最後まで読めば、ディープフェイクフォレンジックに関しての理解が深まり、自社をウソの情報から守る術がわかります。
今後のAI社会で生き残るためには、ディープフェイクフォレンジックが必要不可欠になってきます。ぜひ最後までご覧ください。
ディープフェイクフォレンジックとはAIのウソを見破る技術
そもそもディープフェイクフォレンジックとは、映像や音声を分析し、ディープフェイクによって作り出されたものなのかどうかを判断するための技術です。
ディープフェイクとは、人の顔や声を別の音声や動画に合成する技術です。ディープフェイクフォレンジックでは、映像のピクセルや音声の波形の解析を通して、映像や音声が信頼に足るものなのかどうかを判断します。
ディープフェイクによって作られた音声や動画は完成度が高く、一見本物と見分けがつきません。その巧妙さから、悪用されるケースも増えてきたため、真偽を判断する技術が必要になってきたのです。
ディープフェイクフォレンジックは、いわば「AIのウソを見破る技術」と言えるでしょう。AIの発展は目覚ましいですが、それと同時に問題も増えてきます。AIを安全に活用するには、ディープフェイクフォレンジックは欠かせない技術なのです。
なぜディープフェイクフォレンジックが必要？ディープフェイクの悪用例
ディープフェイクフォレンジックは、ディープフェイクが悪用されないために必要なのですが、実際にどのように悪用されているのでしょうか。
実際にディープフェイクが悪用された、以下3つの例を紹介します。
・別人に成りすまして採用面接を受けていた
・声を模倣して偽の口座に送金指示
・偽の映像を流して混乱を招く
ディープフェイクがない時代には考えられない問題が起きています。一つずつ見ていきましょう。
別人に成りすまして採用面接を受けていた
FBIは2022年6月、リモートワークの求人に応募する際、ディープフェイクの技術を使って別人が採用面接を受けている事例があると警告を出しました。
普通に話しているときはさほど目立ちませんが、咳やくしゃみをしたときに、表情や音声が一致しなかったことから面接官が気づいたそうです。
このようにして仮に採用されたとしても、雇用されるのが別人であれば、れっきとした犯罪です。雇用主側も、望んでいない人材を雇用することになります。
特に、新型コロナウイルスの影響でリモートワークが浸透している現在では、このような事例はどの企業にもあり得ると思っていいでしょう。
参考：Deepfakes and Stolen PII Utilized to Apply for Remote Work Positions
声を模倣して偽の口座に送金指示
The Wall Street Journal（WSJ）によると、イギリスのエネルギー企業のCEOが、親会社のCEOから電話で「ハンガリーのサプライヤーに22万ユーロを送金しろ」と指示されたようです。
しかし、入金後にその声はディープフェイクを悪用していた詐欺師のものだったと判明したのです。
話の内容にもよりますが、聞き覚えのある声なら、疑いもなく信じてしまうかもしれません。ディープフェイクを音声にも活用できることは知っておきましょう。
参考：Fraudsters Used AI to Mimic CEO’s Voice in Unusual Cybercrime Case
偽の映像を流して混乱を招く
ディープフェイクは今や個人でも作成できるため、気軽に動画を作成し、投稿できます。対象が有名人であれば、なおさら注目を浴びるでしょう。
これは悪用ではありませんが、2018年はじめ、YouTubeにオバマ元大統領が話している1つの動画が投稿されました。
「トランプ大統領は救いようのないマヌケだ」と発言しており、たしかにオバマ元大統領らしくない発言ですが、一見本物にしか見えません。
しかし、この動画は「BuzzFeed」と俳優兼監督のジョーダン・ピールがディープフェイクで作成したもので、動画を最後まで見るとネタバラシされます。とはいえ、途中まで見て本物のオバマ元大統領だと思った方も少なからずいるでしょう。
また、2020年12月には、ディープフェイクで作成された、イギリスのエリザベス女王によるクリスマスメッセージが放映されました。こちらも最後まで見ればディープフェイクで作ったことがわかるようになっていますが、まるで本物のようです。
これら2つは意図的に作られ、ディープフェイクの悪用に警鐘を鳴らすものでしたが、実際に悪用されて混乱を招いた例もあります。
記憶に新しい方もいると思いますが、ロシアによるウクライナへの軍事侵攻の真っただ中、ウクライナのゼレンスキー大統領が投降を呼びかける動画がSNS上にアップされました。
一見本物のゼレンスキー大統領が話しているようでしたが、実はこれはディープフェイクで作られた偽動画だったのです。軍事侵攻という状況もあり、各ニュースで取り上げられるほどの混乱を招きました。
この動画は米メタによって削除されるなど、ディープフェイクが注目されるきっかけにもなりました。
ディープフェイクフォレンジックがAIのウソを見破った例
先ほどのゼレンスキー大統領の偽動画ですが、ディープフェイクフォレンジックがそのウソを見破りました。
ディープフェイクフォレンジック調査を実施し、本物の動画と比較したところ、首の影に違いがあり、顔だけ合成して作られたディープフェイク動画だと判明したのです。
このように、ディープフェイクフォレンジックによって本物の動画と偽動画がわかるようになれば、悪用される可能性も減り、ディープフェイク技術がよりよい方向で活用されるように手助けできるのです。
ディープフェイクフォレンジックが必要とされる分野
ディープフェイクフォレンジックは、正しい情報が求められる法執行機関やメディアをはじめ、以下のようなさまざまなジャンルで必要とされます。
幅広く「ビジネス分野」としても活用方法はあるので、どの業界に属する企業でも関係のないものではありません。
今後はさらにAIの発展が予想されるため、ディープフェイクの技術も上がっていくでしょう。ディープフェイクフォレンジックは、自社を守るためにも必要になってくるのです。
ディープフェイクフォレンジックに関する日本・世界の動き
ディープフェイクフォレンジックに関して、日本や世界ではすでに動きがあります。
ここでは、ディープフェイクフォレンジックに関する日本・世界の動きとして、以下3つを紹介します。
・AOSデータがディープフェイクフォレンジックサービスへの取り組み開始
・サイバーエージェントがタレントのDeepfake映像検知プログラムを国内初採用
・イスラエルのClarity社がシード資金として1600万ドルを調達
ディープフェイクフォレンジックはどこまで進んでいるのか、詳しく見ていきましょう。
AOSデータがディープフェイクフォレンジックサービスへの取り組み開始
「データとAIの利活用」を掲げ、さまざまな製品・サービスを提供しているAOSデータ株式会社は、ディープフェイクフォレンジックサービスへ取り組んでいます。
これにより、ディープフェイクによって作られた音声・動画の真偽の判断がさらに正確になることが期待できるでしょう。
ディープフェイクフォレンジックの市場規模は、2020年が約1億4,400万ドルでしたが、2028年には約6億6,900万ドルにまで拡大すると予想されています。
日本のディープフェイクフォレンジックの先駆けとして、今後も目が離せません。
サイバーエージェントがタレントのディープフェイク映像検知プログラムを国内初採用
株式会社サイバーエージェントが、ディープフェイクで作られた顔映像の真偽を自動判定するプログラム「SYNTHETIQ VISION: Synthetic video detector」を採用しました。
これは、タレントなどの有名人のディープフェイクの映像検知に使われた初めての事例です。
特に、ディープフェイクの被害を受けやすいのは多くの方に顔が知られている有名人の方なので、これを機に、日本のタレント事務所へのディープフェイクフォレンジックシステムの浸透が期待されます。
参考：AIが生成したフェイク顔映像を自動判定するプログラム 「SYNTHETIQ VISION」をタレントのDeepfake映像検知に採用～フェイク顔映像の真偽自動判定では国内最初の実用例～
イスラエルのClarity社がシード資金として1600万ドルを調達
世界でもディープフェイクフォレンジックは注目されており、イスラエルのAIサイバーセキュリティ会社「Clarity」は、2024年2月15日、シード資金として1600万ドルを調達したと発表しました。
CyberArkの会長Udi Mokadyやスタンフォード大学の教授Larry Diamondが投資するなど、大きな注目を集めています。
この資金調達により、従業員の倍増や研究開発の拡大など、ディープフェイクフォレンジック開発に集中できる環境が整えられます。
この出来事は、世界もディープフェイクフォレンジックに注目していることを示すのではないでしょうか。
参考：ディープフェイク検出Clarityが、初のシード資金として1600万ドルを調達
まとめ：ディープフェイクフォレンジックはAIを適切に活用するために欠かせない技術
ディープフェイクフォレンジックとは、映像や音声を分析し、ディープフェイクによって作り出されたものなのかを判断するための技術です。いわば「AIのウソを見破る技術」とも言えるでしょう。
実際にディープフェイクの悪用により、さまざまな問題は起き始めています。情報があふれかえる今の世の中で、ウソの情報が拡散される事態は防がなければなりません。
ディープフェイクフォレンジックは、その懸念を払しょくし、AI技術をよりよい方向へ導ける技術です。
特定の業界のみならず、ビジネスに関わるすべての企業に必要不可欠になってくるため、今のうちからチェックしておきましょう。