フェイクニュースと生成AI
生成AIを使えばどんな動画や画像でも創り出せる。そんな未来がすぐそこまで来ている。いや、むしろもう来ているといっても過言ではないだろう。と
ある調査会社に話を聞いてみれば、少し前まではデジタル画像や動画は何らかの事件において重要な証拠となり得たが、もはや画像だけでは法的な証拠としては弱くなってきているらしい。
そんな昨今において、私のやっている事故調査活動は今後も信頼性の高い業務を提供できるのだろうか。
今回はフェイクニュースと生成AIについて語ってみることにする
ウクライナ戦争で注目されたフェイクニュース
フェイクニュースといえば、ウクライナ戦争勃発時のゼレンスキー大統領の映像が非常に印象的ではなかっただろうか。
祖国に対して降伏を促すような彼の映像は多くのウクライナ国民に衝撃をあたえ、それがひとたびフェイクニュースだと分かると、この映像はおおきな社会問題へと発展した。
“ディープフェイク”と呼ばれるこの映像は、各国の要人、有名人の映像にAIで作られた音声を合成することで作成され、一見すると本人との区別がつかないほどの完成度を誇るものまである。
※ちなみに、ディープフェイクの言葉の定義としては生成AIによって作られた人をだますための動画や画像、音声のことを指すネガティブな言葉だが、本記事では生成AIで作られたリアルな合成素材すべてをディープフェイクとして表現する。
ディープフェイクの登場によりリアルと合成の区別があいまいに
とはいえ、何もディープフェイクは悪いことばかりではない。例えば歌手の八代亜紀さんのお別れ会で流れた故人の音声によるスピーチ。
文章こそ誰かの作ったものではあるが、その音声は彼女本人の肉声とほぼ変わらない完成度だった。
もちろん、厳密には大きく違うのであろうが、それほど親しくない人にとっては本当に本人がしゃべっているように聞こえただろう。
他にも画像を合成するタイプのディープフェイクであれば、写っていたはずの人間を画像から消去したり、いなかった人間を自然に合成してくれたりもする。
これらの画像の完成度は言われなければわからないレベルのものも多数存在。スマホのアプリでも簡単に作成できてしまうのだ。
生成AIとドライブレコーダー
それだけ身近になった生成AIは私に一つの懸念を与えるようになった。それが生成AIによって作られたドライブレコーダーの映像である。
自動車関係の仕事をしている私は日ごろからドライブレコーダーの映像を見る機会が多い。
“事故の状況を確認してほしい”
“過失割合が納得いかないので映像を元に助言が欲しい”
こういった相談を受けることも多く、実際にドライブレコーダーの映像を元に保険屋と修理見積の交渉を行うケースもある。
このときのお互いの共通認識は“ドライブレコーダーの映像は絶対的に正しい”という前提だ。交渉はこの条件の下で話が進んでいる。
しかし提出されたドライブレコーダーの映像が生成AIによって作られたディープフェイクだったらどうだろう。
恐らくまともな事故調停はできないのは言うまでもない。
ドライブレコーダーの映像をAIで作り替えられるのではないかという懸念
例えば事故を起こしたとき。自分と相手の双方にドライブレコーダーが搭載されていれば事故の映像をAIで合成される可能性は少ないだろう。少なくとも大きな改変できないはずだ。
しかし、これが片一方の車両にしか映像が残っていなかった場合、事故の証拠映像を捏造するなんて造作もないかもしれない。
例えば、自分が車線変更をしたときに後続車に追突されたとしよう。ウインカーを上げ、余裕をもって進路変更をし、自分に運転の落ち度が無かったとしたら追突事故として相手の過失が大きいことを主張するはずだ。
だがこの時、追突した側の車両が“ウインカーを出さずに急に車線変更を開始したために衝突した”と証言した場合、その状況を判断するのは後続車のドライブレコーダーしかない。
そんな唯一の証拠である相手方のドライブレコーダーの映像が、“本当は光っていたはずのウインカーを意図的に消されて”いたとしたらどうだろう。
この事故の真実は相手の証言の方が正しいことになってしまう。実際にはウインカーを出していたのに、だ。
その時調査をする我々はどうすればいいのか
こうなってしまうと非常に面倒だ。なにせ証拠となる映像と本人の主張が食い違っているのだから事故処理は一向に進まなくなってしまう。
今までであればドライブレコーダーの映像を捏造するなんて発想はなかったために映像証拠がすべてであった。
しかし、このように生成AIによって自然に、簡単に映像を編集できるようになってしまえばもはやドライブレコーダーの映像は証拠としての効力は非常に弱まっていくだろう。
その時、事故調査をする我々はより証拠として強いものを提示する必要があるのかもしれない。
EDRは生成AIに勝てるのか
では映像に勝るほどの証拠をどうやって集めるのか。その答えがEDRにあるのではないかと私は考えている。
EDRとは“イベントクラッシュデータ”の略称で、簡単に言えば飛行機のブラックボックスと同じものだと思っていただければいい。
このEDRには事故発生時の車の状態が細かく示されており、例えば先程のケースであればウインカーのON/OFFまで記録されている。
このデータは基本的には改ざんはできず、仮にレポートファイルに手を加えたとしても大元のデータを再読み込みした場合には正しい情報が必ず表示される。
“改ざんの難しさ”という意味においては間違いなくEDRはAIよりも上をいっており、データをよそから生成することは不可能だ。
国産車への導入はトヨタ・スバルが中心だが、2022年以降販売の車両にはEDRの搭載が義務付けられている為、今後の事故調査の中心となることはほぼ間違いないだろう。
間違いなくその車両からデータを抜けたという証拠があればAIよりも信頼度の高い調査が可能である
とはいえ、EDRもデジタルデータの一つだ。全く改ざんができないかといわれれば可能性はゼロではない。
そんなときのために我々はEDRを抽出した作業の一部始終を映像で記録し、改ざんが不可能な状態の記録を行わなければならない。このあたりは今後の調査の課題となっていくだろう。
しかし、EDRの抽出が間違いなく対象車種であることの証明がきちんとなされるのであれば、EDRは事故調査においてトップクラスの信頼度だ。
最新技術であるがゆえにまだまだ認知度は低いが、一般ユーザーであっても是非この情報の存在を知ってもらい、積極的に調査依頼をかけてみてほしい。
しかしEDRだから生じる懸念点も
だがEDRといえども万能ではない。例えば日本国内でEDRを抽出するための機械は一般流通しておらず、限られた企業しか持っていない。
他にも機械を取り扱う人間の熟練度が低ければ、正しい解析も難しくなる。
しかも一定以上の強い衝撃が検知されていなければ事故自体が記録されていない可能性もある。
まだまだ課題を上げればきりがないツールであることは否めない。
重要なことはフェイクであるかどうかの目効きを養うことではなかろうか
デジタルデータが浸透している現代では“証拠”というものの確保が非常に難しくなっている。
AIによって合成されてしまえば映像さえも証拠にならなくなるうえに、下手をすると都合の良い事実が捏造されてしまうかもしれない。
だからといってEDRを使ったとしてもそれも100％の信頼度を誇るわけではない。
では私たちはどうすればいいのか。その答えはこうだ。
“フェイクであることを見破る目を鍛えるしかない”
どれほど自然に作られた映像であっても所詮はフェイク。現実とは絶対に違うはずだ。
EDRにしたってデータを鵜呑みにしてはいけない。そのデータの結果と事故の整合性を自分の目で確認することが大切だ。
当たり前のように最新のテクノロジーが使える現代。この世の中を上手く渡り歩いていくためには改めて、アナログの世界の重要性に目を向けてみるのもいいかもしれない。