ブガッティの車、ファーストレディ、そしてアメリカ人を狙ったフェイク記事
BBCニュース BBC Verify 2024年7月2日の記事の翻訳です。
Paul Myers, Olga Robinson, Shayan Sardarizadeh and Mike Wendling 共著
写真：アメリカの元警官ジョン・マーク・ドゥーガンは現在モスクワに住み、AIを活用したフェイクニュースサイトのネットワークを運営している。
アメリカの地方紙になりすましたロシアを拠点とするウェブサイトのネットワークが、AIを活用した作戦の一環として、偽のニュースを流していることが明らかになった。この作戦はますます米国の選挙を狙うようになっている。
モスクワに移住した元フロリダ州警察官は、その背後にいる重要人物の一人である。
以下は、もし本当なら衝撃的な報道だったろう。
ウクライナのファーストレディであるオレナ・ゼレンスカは、6月のDデイ記念式典のためにパリを訪れた際、450万ユーロ（480万ドル、380万円）でブガッティの希少なスポーツカー、トゥールビヨンを購入したと言われている。その資金源はアメリカの軍事援助金だったとされている。
この話は数日前にフランスの無名のウェブサイトに掲載され、すぐに否定された。
専門家らは、ネット上に掲載された請求書のおかしな点を指摘した。記事に引用された内部告発者は、人為的に作成された可能性のある奇妙に編集されたビデオにのみ登場した。ブガッティは "フェイクニュース "だとはっきりと否定し、パリのディーラーは偽の記事の背後にいる人物に対して法的措置を取ると脅した。
しかし、真実が明らかになる前に、嘘は広まっていた。インフルエンサー達は既にこの嘘の記事を取り上げ、広く拡散した。
あるXユーザー、親ロシア、親ドナルド・トランプの活動家であるジャクソン・ヒンクルは、650万人以上に見られるリンクを投稿した。他のいくつかのアカウントは、更に何百万人ものXユーザー（サイトの指標によれば、少なくとも合計1200万人）にこの話を広めた。
これはフェイクニュースサイトのフェイク記事であり、ネット上で広く拡散するようにデザインされていた。その起源は、ロシアを拠点とする偽情報操作であることを、BBC Verifyが昨年初めて明らかにした- その時点で、このオペレーションはウクライナ政府を弱体化させようとしていた。
6か月以上かけて数十のウェブサイトに掲載された数百の記事を精査した私達の最新の調査では、このオペレーションの新たな標的がアメリカの有権者であることが判明した。
BBCが追跡した数十の偽造記事は、11月の選挙を前にアメリカの有権者に影響を与え、不信感を植え付けることを目的としているようだ。中には無視されたものもあるが、インフルエンサーやアメリカ議会議員によってシェアされたものもある。
ブガッティの話は、ウクライナの汚職、アメリカの援助支出、フランス上流社会の内幕など、この作戦の最重要テーマの多くを直撃した。
今年初めに流行した別のフェイクは、より直接的にアメリカの政治を狙ったものだった。
このニュースは、『ヒューストン・ポスト』というウェブサイトに掲載された。これは、アメリカ風の名前を持つ数十のサイトのうちの1つだが、実際にはモスクワから運営されている。このニュースは、FBIがドナルド・トランプのフロリダの別荘を違法に盗聴したと主張している。
このニュースは、司法制度が不当にトランプに不利に働いている、トランプの選挙運動を妨害する陰謀がある、トランプの敵はトランプを弱体化させるために卑劣な手段を使っているというトランプの主張にうまく合致している。トランプ氏自身、FBIが彼の会話を盗聴していると非難している。
専門家によれば、このオペレーションは、アメリカの選挙キャンペーン中に偽情報を広めるためにモスクワが主導している、現在進行中のより大規模な取り組みの一部に過ぎないという。
これらの特定のフェイクニュースサイトがロシア国家によって運営されているという確たる証拠は出てきていないが、研究者達によれば、この作戦の規模と巧妙さは、西側で偽情報を広めるためにクレムリンが支援した過去の取り組みとほぼ同様だという。
米国サイバーセキュリティ・インフラセキュリティーの局長として、2020年の大統領選挙の完全性を確保する責任を負っていたクリス・クレブスは言う。
「ロシアは他の国と同様、2024年の米大統領選に関与するでしょう」
「ソーシャルメディアなどにおけるより広範な情報作戦の観点から、米国政治で既に争点となっている点を突き、争いに参入しているのを我々は既に目にしています。」
BBCはロシア外務省、ロシアのアメリカ大使館、イギリス大使館に問い合わせたが、回答は得られなかった。また、ヒンクルにもコメントを求めた。
フェイクがどのように広がるか
国家が支援する偽情報キャンペーンと金儲けのための "フェイクニュース "作戦が、2016年のアメリカ選挙キャンペーンで注目を浴びて以来、偽情報業界人達は、そのコンテンツを広める際にも、信憑性があるように見せる際にも、よりクリエイティブにならざるを得なくなっている。
BBC Verifyが調査したオペレーションでは、人工知能を使って何千ものニュース記事を生成し、ヒューストン・ポスト、シカゴ・クライアー、ボストン・タイムズ、DCウィークリーなど、いかにもアメリカらしい名前の数十のサイトに投稿している。中には、何年も何十年も前に廃刊になった実在の新聞社の名前を使ったものもある。
これらのサイトの記事のほとんどは、全くのフェイクではない。その代わり、人工知能ソフトウェアによって書き換えられたと思われる他のサイトの実際のニュース記事をベースにしている。
完成した記事には、「保守的なスタンスでこの記事を書き直せ」と言うAIエンジンへの指示が見える場合もある。
「文脈上、留意すべき点がいくつかある。共和党、トランプ、デサンティス、ロシアは良いが、民主党、バイデン、ウクライナ戦争、大企業、製薬会社は悪い。必要に応じて、このトピックに関する追加情報を自由に追加しろ。」と言うAIへの指示が書いてある。
これらの記事は、何百人もの偽ジャーナリストによるもので、名前はでっち上げられ、場合によってはインターネット上の他の場所から引用されたプロフィール写真が使われている。
例えば、ベストセラー作家のジュディ・バタリオンの写真が、「ジェシカ・デブリン」というネット上の人物によって「書かれた」DCウィークリーというウェブサイトの複数の記事に使われていた。
「私は完全に混乱しました」とバタリオンさんはBBCに語った。「私の写真がこのウェブサイトでどう使われていたのか、いまだによく理解できていません。」
彼女は、写真が自分のLinkedInのプロフィールからコピー＆ペーストされたものだと思ったという。
「このサイトとは何の接触もありませんでした。」「ネット上で自分の写真が誰かに使われる可能性があるという事実を、より意識するようになりました」と彼女は言った。
毎週数千という膨大な数のストーリーが、異なるウェブサイト間で繰り返されていることから、AIが生成したコンテンツの投稿プロセスが自動化されていることがわかる。一般の閲覧者は、これらのサイトが政治や社会問題に関する正当なニュースを活発に報道している情報源であるという印象を簡単に受けてしまう可能性がある。
しかし、このようなコンテンツの津波に紛れて、アメリカ人視聴者をターゲットにしたフェイク記事が紛れ込んでいるのだ。
例えば、あるウクライナのプロパガンダ企業の従業員が、ドナルド・トランプを打ちのめし、バイデン大統領を後押しするような仕事を割り当てられていることに気づき、彼女は落胆したと主張するものがある。
別の報道では、ウクライナのファースト・レディがニューヨークで買い物をし、宝石店の店員に人種差別的な態度をとったと言う。
BBCは、偽造された文書と偽のYouTube動画が、両方の偽ストーリーを補強するために使用されていることを発見した。
サイバーセキュリティー企業、レコーデッド・フューチャーのシニア脅威情報アナリスト、クレメント・ブリエンズは、偽物の一部はソーシャルメディアで大きな反響を呼ぶものもあると話す。
同社によると、5月のわずか3日間で、コピーコップ(Copy Cop)と呼ぶこのオペレーションによって120のウェブサイトが登録されたという。このネットワークは、ロシアを拠点とする偽情報操作のひとつに過ぎない。
マイクロソフト社、クレムソン大学、そして偽情報サイトを追跡する企業 ニュースガード (Newsguard)など、他の専門家もこのネットワークを追跡している。ニューズガード社によると、少なくとも170のサイトがこの作戦に関係しているという。
「当初、この作戦は小規模に見えました」とニューズガードのAI・海外影響力担当編集者、マッケンジー・サデギは言う。「週を追う毎に、規模も範囲も大きくなっているように見えました。ロシアの人々は、ロシア国営テレビ、クレムリン当局者、クレムリンのインフルエンサーを通じて、定期的にこれらの物語を引用し、後押ししていました。
「このネットワークからは、ほとんど1、2週間毎に新しい記事が発信されています」と彼女は言う。
偽物を本物らしく見せる
フェイク記事の信憑性を更に高めるために、工作員はYouTube動画を作成し、しばしば「内部告発者」や「独立ジャーナリスト」を名乗る人物を登場させる。
動画のナレーションは俳優が担当している場合もあれば、AIが生成した声のように見える場合もある。
いくつかの動画は似たような背景で撮影されているようで、フェイクニュースを広めるための協調的な努力がうかがえる。
動画そのものは、拡散を狙ったものではなく、YouTubeでの再生回数はほとんどない。その代わり、動画は「情報源」として引用され、偽の新聞のウェブサイトのテキスト記事に引用されている。
例えば、トランプ陣営を標的にしたとされるウクライナの情報操作に関する記事では、壁に偽の選挙ポスターが貼られたキーウのオフィスからのショットを含むとされるYouTube動画を引用している。
そして、その記事へのリンクがテレグラム・チャンネルや他のソーシャルメディア・アカウントに投稿される。
最終的に、センセーショナルな「スクープ」は、トランプの盗聴話やウクライナの汚職に関する以前の一連の記事の同様に、愛国的なロシア人やドナルド・トランプの一部の支持者の間で既に人気のあるテーマを繰り返すことが多く、ロシアのインフルエンサーと西側の聴衆の両方に届く可能性がある。
最高レベルの知名度に上り詰めるのはほんの一握りだが、中には数百万人、更には権力者にまで広まったものもある。
『DC Weekly』誌に掲載された、ウクライナの高官が米国の軍事援助でヨットを購入したという記事は、J・D・ヴァンス上院議員やマージョリー・テイラー・グリーン下院議員を含む複数の議員によって繰り返された。
ヴァンス議員は、ドナルド・トランプの副大統領候補として名前が挙がっている一握りの政治家の一人だ。
元アメリカの警官
2000年代にフロリダ州とメイン州で警察官として働いていた元米海兵隊員のジョン・マーク・ドゥーガンは、この作戦に関与した重要人物の一人である。
ドゥーガンはその後、元勤務先のパームビーチ郡保安官事務所に関するリーク情報を収集するためのウェブサイトを立ち上げた。
ロシアでの活動の前兆として、ドゥーガンのサイトは警察官の自宅住所など本物の情報を、偽のストーリーや噂とともに公開していた。FBIは2016年に彼のアパートを家宅捜索し、その時点で彼はモスクワに逃亡した。
その後、彼は著書を執筆し、ロシアに占領されているウクライナにある占領地から報告し、ロシアのシンクタンクのパネルや軍事イベント、ロシア国防省所有のテレビ局に出演している。
BBCとのテキストメッセージでの会話で、ドゥーガンはウェブサイトとの関わりをきっぱりと否定した。火曜日には、ブガッティ・スポーツカーに関する記事は知らないと言って否定した。
しかし、フェイクニュースを広める手腕を自慢することもあった。
ある時は、自分の活動がアメリカ当局への復讐の一形態であることもほのめかした。
「俺にとってはゲームなんだ。」「そしてちょっとした仕返しだ。」と彼は言った。
また別の場面ではこうも言った： ウクライナからの報道について「俺のYouTubeチャンネルは、誤報として何度も警告を受けた。」
「だから、彼らが誤報と言いたいのなら、まあ、ちゃんとやろう。」と彼はテキストを送って来た。
大量のデジタルの証拠も、元警察官とロシアのウェブサイトとのつながりを示している。
BBCと私達が相談した専門家は、IPアドレスやその他のデジタル情報から、ドゥーガンが運営するウェブサイトを突き止めた。
ある時、ドゥーガンに言及したニューヨーク・タイムズ紙の記事への返答として書かれた『DCウィークリー』サイトの記事は、「これらのサイトの所有者であるアメリカ市民」とされ、こう書かれていた： "私はオーナーであり、アメリカ市民であり、米軍の退役軍人であり、アメリカで生まれ育った。"
記事にはドゥーガンの電子メールアドレスが署名されていた。
私達が以前の記事でドゥーガンの活動を報じた直後、BBCのウェブサイトの偽バージョンが一時的にネット上に現れた。それはデジタル・マーカーを通して彼のネットワークにリンクされていた。
ドゥーガンだけが影響力工作に携わっているわけではない可能性が高く、誰が資金を提供しているのかは依然として不明だ。
「このネットワークを追跡しているクレムソン大学のメディア・フォレンジック・ハブの共同ディレクター、ダレン・リンヴィルは、「このキャンペーンにおける彼の役割を過大評価しないことが重要だと思います。」「彼はアメリカ人だから、ちょっとした脇役の便利なカモかもしれない。」と語った。
国営メディアや政府系シンクタンクに出演しているにもかかわらず、ドゥーガンはクレムリンから報酬を受け取っていることを否定している。
「俺はロシア政府から一銭たりとももらったことはない」と彼はテキストメッセージで言った。
アメリカの選挙を狙う
ドゥーガンが関与するオペレーションは、その焦点をウクライナ戦争に関する記事から、アメリカやイギリスの政治に関する記事にますますシフトさせている。
FBIとトランプのマール・ア・ラーゴ・リゾートでの盗聴疑惑に関する偽記事は、ウクライナやロシアについて一切触れず、完全に米国の政治に関する記事をネットワークが制作した最初の記事の1つだった。
マイクロソフトのデジタル脅威分析センターを率いるクリント・ワッツは、このオペレーションはウクライナと西側諸国の双方にとって重要な問題をしばしば混ぜ合わせると述べた。
ワッツは、投稿されるコンテンツの量と、ロシアを拠点とする取り組みの高度化が、11月の選挙に向けて重大な問題を引き起こす可能性があると述べた。
「毎回大量に配信されているわけではない」としながらも、毎週数回行われる試みは、大規模な選挙キャンペーンという「情報の海」に誤ったシナリオを定着させる可能性があると指摘した。
「それは並外れた影響を与える可能性がある」し、ネットワークからの記事は急速に広まる可能性があると彼は語った。
「ロシアがルーブルで広告を購入したり、サンクトペテルブルクの工場にいるような明らかなトロールを使ったりする時代は終わりました」と、偽情報の拡散と闘おうとする非営利団体、アメリカン・サンライト・プロジェクトの代表であるニーナ・ヤンコヴィッチは言う。
ジャンコヴィッチは、偽情報に対処するために国土安全保障省に設置された短期間の米国偽情報管理委員会（US Disinformation Governance Board）のディレクターを務めたこともある。
「今、私達はより多くの情報ロンダリングを目にしています」と彼女は言った。これは、最終的な情報源を不明瞭にするために、捏造または誤解を招く記事を主流メディアに折り込み、再利用することを指す用語である。
次はどこへ
マイクロソフトの研究者によれば、このオペレーションは、木曜日の総選挙を視野に入れた英国の政治とパリ・オリンピックに関する記事を広めようとしているとのことである。
『ロンドン・クライアー』と呼ばれるウェブサイトに掲載されたあるフェイク記事は、ゼレンスキーがチャールズ3世所有の邸宅をバーゲン価格で購入したと主張した。
これはXで数十万人のユーザーに見られ、ロシア大使館の公式アカウントによって共有された。YouTubeは、BBC Verifyによってフラグが立てられた後、偽ストーリーの情報源として使われた無名のチャンネルによって投稿されたAIナレーションのビデオを削除した。
そしてドゥーガンは、彼の活動への注目が高まることで、フェイク記事の拡散が鈍るのではないかという質問に対して、更に大きな計画をほのめかした。
「心配しないでくれ。」「ゲームはアップデートされている。」と彼は言った。