『Manufacturing Consensus』はデジタル影響工作の新手法とトレンドを学べる良書

『Manufacturing Consensus』（サミュエル・ウーリー、イエール大学出版局、2023年1月31日）。

●本書について

本書はデジタル影響工作黎明期からこの分野をリードしてきたサミュエル・ウーリーが8年間にわたって取材してきた人々との体験をもとにまとめたものである（サミュエル・ウーリーについてはこちら）。ウーリーはエスノグラフィーのアプローチと呼んでいる。量的なものではなく、デジタル影響工作にかかわる人々の実態を質的な情報をもとに分析している。本書は引用されている資料が莫大で、それだけでも貴重なくらいだ。こんな資料があったのかと驚く。今回は本書の紹介なのでひとつひとつの事例を紹介していないが、本書にはあふれるほどの事例が盛り込まされており、これもまた参考になる。
＊サミュエル・ウーリーは、デジタル影響工作ではなく、コンピューテーショナル・プロパガンダという言葉を使っているので、以後、ウーリーの使用している言葉に合わせる。

プロパガンダは、その受容、内容、生産の三つの角度から分析を始めることができる。 本書では、主にプロパガンダの生産に焦点を当てて、コミュニケーション、メディア研究、 そしてエスノグラフィー的な情報に基づいた視点からアプローチする。新しいメディアを使って新しい形のプロパガンダを作る人々を分析することで、現代のプロパガンダ担当者の目標や権力との関係について掘り下げている。
以下、本書のトピックスを簡単にご紹介する。

●大きな流れ　自動化と匿名化、プロパガンダの民主化

まず、インターネットおよびSNSによって実現された自動化と匿名化は、プロパガンダの民主化をもたらしたとウーリーは説明する。かつては国家などでしかできなかった社会に影響を与えるプロパガンダを個人でも手軽にできるようになったのだ。国家から個人までさまざまなアクターがコンピューテーショナル・プロパガンダをおこなう時代になった。

コンピューテーショナル・プロパガンダはバンドワゴン効果によって、SNSプラットフォームのアルゴリズム、報道機関やジャーナリストなどあらゆるものを利用して影響力を拡大している。SNSプラットフォームはAPIやレコメンデーションシステムがトレンドになっていると騙されてプロパガンダコンテンツを表示し、報道機関やジャーナリストも同様に多くの人が注目していると欺かれて記事に取り上げてしまうのだ。同様なことがTVや他のメディアなどでも連鎖的に起こる。
一田注：フェイクニュース・パイプライン、プロパガンダ・パイプラインあるいはコタツ記事が増えるように意図的に操作することもここに含まれる。本書で言うバンドワゴン効果は、かなり広い範囲にわたっている。

ボットの活動は多様化している。SNS利用者に直接訴えかけるのではなく、SNSプラットフォームのAPIやジャーナリストたちに的を絞った活動をおこなっているものも多い。SNSプラットフォームのアルゴリズムを利用して、より多く表示させるように誘導したり、伝統的な大手メディアの記者が記事を探す方法論を利用し、記事に取り上げられやすいような露出をしてみせたりしている。

本書でウーリーが繰り返し主張しているのが、ボットは自分自身の声を増幅させるものであり、自分自身の延⻑線上にあるということだ。あらゆるシステムは開発した者の意志を反映し、その偏見や主張がエンコードされている。中立的なツールにすぎないというは幻想なのだ。同様にSNSプラットフォームそのものにも偏見がエンコードされている。

●国家によるコンピューテーショナル・プロパガンダ（State Use of computational Propaganda）

ボットやソーシャルメディアの政治利用に関する初期の研究の多くは、従来のトップダウン型 のプロパガンダモデルの基礎である国家の利用に焦点を当てていた。いちはやくコンピューテーショナル・プロパガンダに対応した国家はロシアとインドだが、アメリカやイギリスなどは追いついていない。また、コンピューテーショナル・プロパガンダをもっとも早く利用した国家はトルコとエクアドルだった。

コンピューテーショナル・プロパガンダへの国家関与は大きく4つのレベルに分けられる。余談だが、この区分は拙著『フェイクニュース　戦略的戦争兵器』（角川新書）とほぼ同じだったので驚いた。

国家が支援するトロールやコンピューテーショナル・プロパガンダは、権威主義的な政権や非自由主義的な政権だけではなく、民主主義国でもボットや他のツールを活用している。サミュエル・ウーリー自身や他の研究から、アメリカでは主流の政治運動とその下請け業者、そしてその支持者が、コンピューテーショナル・プロパガンダをおこなっている。
国家が伝統的なメディアを影響力を持ち、統制が可能な場合、これらのメディアを使ってコンピューテーショナル・プロパガンダの内容や情報操作を正当化できる。これは権威主義的な国家に特に当てはまるが、ブラジル、インド、米国などの⺠主主義国家にも当てはまるようになってきている 。

●政治ボットインフルエンサー（Automated Political Influencers）

政治ボットインフルエンサーは金銭目当てと主張や意見の拡散の2つであり、絡み合っている。たとえば金銭目当てであっても、彼らが支援する政党あるいは政治家と信念が一致していることが多い。もちろん、純粋に金銭目当ての者もいる。主張や意見の拡散では愛国心など信念に基づいて、多くの人を説得するためにおこなっている。

近年ナノインフルエンサー（nanoinfluencers）が増加している。ナノインフルエンサーは、一般に5,000 人以下のフォロワーを持ち、現在、政治キャン ペーンやその他のグループによって、選挙期間中に特定の種類のコンテンツを広めるよう勧誘され、報酬を支払われている。サミュエル・ウーリーが取材した人物によると、多くは他にふつうの職業を持つ一般人であり、こうした一般の人々はフォロワーとより親密でローカルなつながりをもっており、そのためメッセージがより強く伝わるという。(これは、WhatsAppなどのメッセンジャーを利用したコンピューテーショナル・プロパガンダでも見られる現象だ。
ナノインフルエンサーはそれぞれの規模が小さく、基本的にホームグロウン（現地の人間）であるため検知されにくいという利点もある（基準の設定が難しそう）。
ナノインフルエンサーは運用においては他の要素と組み合わせられている。たとえばインドのITセルネットワークは、個人の政治ボットインフルエンサーと国家ベースのコンピューテーショナル・プロパガンダ、国家リソース、戦略が組み合わさった特徴を持っている。

ボット製作者のほとんどは欧米の裕福な国の出身か、そうでなくても裕福であることが多い。これもデジタル・デバイドの一例となっている。

現在、ボットには多様な種類が存在する。たとえばハニーポットのボットもある。特定のキーワードやトレンドに反応する他のボットをおびき寄せるボットだ。

●SNSプラットフォーム（Social Media Companies, the Technology Industry, and Propaganda）

現在のSNSプラットフォーム企業は、コンピューテーショナル・プロパガンダや偽情報の問題に真摯に取り組むことはない、少なくとも組織的に取り組むことはないとサミュエル・ウーリーは断言している。ボットと同様、SNSプラットフォームは、その作成者の意志を反映している。
第一に、テクノロジーを構築する人々の信念や価値観は、彼らが構築するツールに刻み込まれている。第二に、サミュエル・ウーリーが取材した善意の技術者たちの意図とは裏腹に、ツールやシステムを立ち上げた瞬間にハッキング、ゲーム、操作に勤しんでいる利用者がいる。第三に、SNSプラットフォームは、それを作り出し使用する人々と同様に欠陥があり、政治的なものである。シリコンバレーは、現在の政治システムを支える人的 ・技術的インフラの中核をなしている。 これらの偏見と欠陥は、SNSプラットフォームの悪用を可能にしている。

また、その修正もきわめて困難である。第一に、抜け穴を埋め、バグをつぶし、機能を変更するために、何層にもわたって元の基本コ ードの上に追加された複雑なコードは、特定の政治的な偏見がどのように、あるいはど のように組み込まれたかを判断することを困難にしている。第二に、レコメンデーションのアルゴリズムのコードは、何層ものパッチと変更で構成されているシステムの基幹部分だ。つまり、サイトの他の多くの部分(それぞれが独自のコードの層を持ち、何百人もの開発者が関係している)が、その上に構築されている。レコメンデーションのコードの変更あるいは削除はシステムを機能停止させかねない。

SNSプラットフォームは、自らをコンテンツ制作者やコンテンツ・キュレーターとしてではなく、ユー ザーが作成したコンテンツを単にホストする中立的なプラットフォームとしているが、サミュエル・ウーリーは彼らはメディアであると言い切っている。
コンテンツはユーザーの選択に基づいて拡散されるべきだという考えは、⺠主的に聞こえるが、アルゴリズム、サイト構造、セキュリティの抜け穴があるため、そうはならないことがある。そもそも民主主義といっても、チェックアンドバランス、法律がなければ機能しない。そしてSNSプラットフォームにはそれがない。SNSプラットフォームは、今やコンピューテーショナル・プロパガンダにとって不可欠な存在になっている。

一田注：AIに偏見があることはかなり知れ渡ってきたが、同様にふつうのシステムにも偏見が組み込まれている。正確に言えば意図的に偏見を排除するルールを明文化しなければ偏見を排除することはできない。

●ジャーナリスト（Journalism and Political Bots）

サミュエル・ウーリーが取材したコンピューテーショナル・プロパガンダ専門家の多くは、大手ニュースメディアの記者に誤解を招く内容を報道させるという目標を持って偽情報を流し、それを成功させていた。
たとえば2016 年、2016 年の選挙に関する報道のアジェンダは、ブロガーやソーシャルメディアの著名人を含む極右メディアのエコシステムによって事実上決定されていた。

高い評価を得ている正規の報道機関の記者でもボットやソックパペット主導のプロパガンダを大衆に広めることがよくある。"IRA が管理す るアカウントが投稿したツイートを少なくとも 1 つ引用した 314 のニュース記事 "を分析した結果、国家機関または国家から報酬を得ている組織が、報道機関を使って情報をロンダリングしていた。他の取材では、過激派グループや単独の荒らしは、ジャーナリストに自分たちのプロパガンダを報道させることに何度も成功していることがわかった。

今の時代は事件そのものが報道機関やネットを通じて主張を拡散させる計画に基づいておこなわれることもある。もともと自分たちの主張を知らしめるために事件を起こすことは昔からあったが、リアルタイム配信などの特徴を持ったSNSが生まれたことで複数のメディアを利用してバンドワゴン効果を最大にする効果的なオペレーションが可能になった。たとえばフロリダ州パークランド の銃乱射事件は、犯人が最初からYouTubeや報道機関で拡散されることを意図して計画的に実行した痕跡がある。

現在、報道機関やジャーナリストは3つの危機に直面している。
・プロパガンディストはジャーナリストに対する暴力的な脅迫や中傷の連鎖をてこに、 ジャーナリストを嫌がらせで黙らせようとする
・大量の情報の拡散によってジャーナリストが代表する事実と理性の声をかき消そうとする
・コンピューテーショナル・プロパガンダの実行者はジャーナリストに偽のコンテンツを共有させる罠をしかける

なお、報道機関やジャーナリストもニュースを配信するためにボットをよく使用するが、そこには下記のような違いがある。

●今後について

・AIとVRの利用が広がる
匿名性と自動化により、政治的傾向の強いグループや人々は、自分たちの意見を増幅させ、他の人々の考えを抑制することができるようになった。 次の大きな脅威は、ディープフェイクやVRプラットフォームの利用である。

・暗号化チャットアプリの影響力増大
暗号化されたチャットアプリ(WhatsApp など)やプライベー トチャットフォーラム(Discord など)が、Facebook、Twitter、YouTubeといった従来のオープンプラットフォームよりもはるかに大きな割合でプロパガンダに利用されるようになってきている。これらは前述のナノインフルエンサーたちが活躍する場でもある。

・ジオ・プロパガンダの利用が増える
もうひとつはジオ・プロパガンダ（geo-propaganda）と呼んでいる手法。ジオ・プロパガンダとは、デジタルで収集した位置情報を政治的操作に利用することである。

長くなったので感想はこちらに書きました。
『Manufacturing Consensus』の感想　https://note.com/ichi_twnovel/n/n89edbe563b33
なお、本書の内容をそのまま受けとると、しばらく前から注目を浴びているある分野がまるごと否定されてしまう。気がついた人はいるかな？　その点についてウェビナーでウーリー自身について確認した。少なくとも彼はそう考えているようだ。

好評発売中！
ネット世論操作とデジタル影響工作：「見えざる手」を可視化する
『ウクライナ侵攻と情報戦』（扶桑社新書）
『フェイクニュース　戦略的戦争兵器』（角川新書）
『犯罪「事前」捜査』（角川新書）＜政府機関が利用する民間企業製のスパイウェアについて解説。