マインドハッキング あなたの感情を支配し行動を操るソーシャルメディア
クリストファー・ワイリー＝著 牧野洋＝訳 新潮社出版
圧倒的に日本が出遅れている、情報、プロパガンダ戦略。遅すぎることはないし、一刻も早く行動した方がいいが、デジタル庁の発足も、今更感が拭えない。
Tiktokやfacebookなども、情報が収集されていると自覚して利用するのとしないのでは全く意味が違ってくるだろう。
この本を読むと、なぜアメリカがTiktokをああまでして規制しようとしているのかがわかると思う。
情報を兵器化した方法
情報兵器はカスタム仕様
「トレンド=文化=人々が共に行動する」
オンラインでの観察やプロファイリングによって、「アダプション(採用)ライフサイクル」「普及率」「最大普及率」などの予測を行う。
優先事項をまずリストアップした。まず、クイックストリーム(ウェブサイトへの訪問者が残した履歴情報)経由で新たな情報源を見つける。次に、プロファイリングと機械学習を通してナラティブのターゲティングを改善する。
情報兵器は様々な属性－－言語、文化、地域、歴史、人口構成など－－に従ってカスタマイズされなければならない。
パースペクティサイド＝「視点」＋「殺虫剤」の造語
紛争国内で反政府活動をしたいのであれば、触媒となり得る人間をターゲットにしてそこに資源を集中投下すれば良い。少数の人間が大きなインパクトを起こせるから。それを効率的に行うには、まずはプロファイリングをきちんと実施しその上でターゲットにすべき人間－－新しい考え方を柔軟に受け入れる傾向が強く、ソーシャルネットワークと深くつながっているタイプ－－を見出し、反政府活動を促すカウンター（対抗）ナラティブを流す。
最も効果的なパースペクティサイドを行うには、「自己」と言う概念に突然変異を起こさせる必要がある。パースペクティサイドを担う洗脳者は、ターゲットの「自己」を盗み出し、別の自己(洗脳者にとって好都合の自己)と置き換える。
通常は敵勢力のナラティブを押さえ込む方で、対抗ナラティブを拡散させ、ターゲットを取り囲む情報空間を支配する。多くの場合、心理学で言う「心理的レジリエンス要因」と言う防壁を数ヶ月かけて段階的に取り壊す。ターゲットの中に非現実的な知覚や認識を生み出して混乱させ、「自己効力感」ダメージを与える。ターゲットは次第に、些細なイベント(あるいはでっち上げのイベント)に過剰反応して大惨事だと思い込むようになる。
対抗ナラティブは従来の意味や目的を取り除き、混乱をもたらしたり、無意味なイベントを作り出したりする。同時に、ターゲットの中に不信感を植え付けることで、ターゲットと近い仲間とのコミニケーションを遮断する。
やり方はカルトの崩壊、凍結、再構成の方法と類似している。
ターゲットは神経症型と自己陶酔型＋α ダークトライアド
士気を弱めるだけでは不十分だ。最終目標は、敵のターゲットにネガティブな感情に火をつけるとともに、思考プロセスに影響与えることで、「一時の衝動に駆られた行動」「常軌を逸した行動」「強迫観念に取り憑かれた行動」などを引き起こすこと。既に南アフリカで実施済み。麻薬組織内部で不和を生じさせ、情報をリークさせたり、メンバーの離脱、サプライチェーンの破壊など。
ターゲットに最もふさわしいのはタイトル通り。ケンブリッジアナリティかも事実、この傾向の人々を利用してアメリカ国内でオルタナ右翼の反乱を起こした。
2011年、DARPAは①ソーシャルメディア利用者のプロファイリング、②反政府メッセージの拡散過程、③オンライン空間でのごまかし－－を研究テーマに掲げ、Facebook、Yahoo!、IBMのエンジニアを迎え入れた。同時期にロシアと中国もそれぞれ始めている。
ちなみにFBIも容疑者のプロファイリングは半分機械学習を用いて行っており、サイコパス診断なども半分は自動。つまり、個人のプロファイリングをしようと思えばいくらでもできる世界になっている。本書後半にそのことにも言及。
ジュシカスの広範囲にわたるデータパイプライン計画
1、自動データ収集ソフトを開発する
2、アルゴリズム式インピュテーション(欠測値補完)
3、深層学習ニューラルネットワークを使い、個人の行動を予測する
行動に影響を与えるナラティブについては心理学者チームの力を借りる必要がある。
大実験「マイノリティー・リポート・プロジェクト」
ジュシカスの思い描くターゲティングシステムを構築するにはデータを入手しなければならない。そこでトリニダード・トバゴ国家安全保障省から「データを使って犯罪に走りそうなトリニダード人を見つけ出したい」との要望が入った。地元政治家の権力掌握を陰で支援する見返りに、政府プロジェクトの発注を受けて投資を回収すると言うビジネスモデル。
発展途上国にとって、個人情報、プライバシーの権利は金持ちだけの特権。
地元通信会社にアクセス権を要請し、通る。個人がネットで何をしているのか、IPアドレスから特定し、インカメを使って監視することも可能になった。
最新の心理学の知見を悪用する
最も外交的なイタリア人を推定する
文化表現する時、パーソナリティに関する語彙を使う。例えば、「日本人は真面目で、時間を厳守し、礼儀正しい」など。そうしたステレオタイプに分けられる。しかし、個人に落とし込むには、そうしたステレオタイプな表現を使えなくなる。
もし、個人のデータを使って、個人の属性を計測、推測できるのならば－－そして同じ属性を用いて文化を表現できるのなら－－文化を大雑把に計測して定量化し、分布曲線を描けるはず。
そこで、イタリア人の外向性を少しだけ下げたいなら、どうすればいいのか？
実在するイタリア人の中からターゲットを絞り、時間をかけて外向性を削り取っていく。「文化を変える＝正規分布曲線の平均値を上げたり下げたりする」ということになる。
文化を変えることで政治を変える－－バノンのミッション
まとめると、文化をバラバラにして個人レベルにまで落とし込んだ上で、個人に影響を与えると、社会を動かすことができる。
そして、個人に影響を与えるには、心理学の知見を悪用する。その他の武器として、パーソナリティ5因子モデル（IPIP NEO-PI）、フェイスブック、アルゴリズム、ナラティブ。
認知バイアスを特定して悪用する
ハッキングの最終目標は不備を見つけ出して悪用すること。軍事心理戦での不備とは、「思考の不備」である。人の心をハックするには認知バイアスを特定して利用する。
文化を変える戦略－－パンデミック予防の戦略と同様
第一に、情報兵器－－個別にカスタマイズしたメッセージ－－に、”感染”しやすいグループを見つける。
第二に、伝染性ナラティブに影響されやすい特性を明らかにする。
第三に、ワクチンとして対抗ナラティブを流布させる。もし、国内での予防ではなく敵に感染させたいなら、より助長するナラティブを流す。
－－プライミング効果－－ 一つ目の質問をするかしないかで、本当に聞きたい質問の答えが変わる。
－－利用可能性ヒューリスティック－－ 実際よりも多く感じること
－－感情ヒューリスティック－－ 人は怒りに火をつけられると、情報取捨選択して合理的に判断する能力を低下させてしまう。この「知的ショートカット」をナラティブを多用して起こさせる。例）FOXニュース
－－アイデンティティ中心ロジック－－ 何かのコンテンツを目にしたとき、グループ全体のアイデンティティーが強くなるか(あるいは脅かされるか)どうかを基準に意思決定してしまうバイアス。例）あなたたは普通の〇〇なのだから、そう考えるのも無理ないです。
ドナルドトランプが人種差別発言をしたとして間接的なことを思い出す星フォックスニュースの視聴者はトランプへの批判を見て、「トランプへの攻撃」ではなく「自分たちのアイデンティティーへの攻撃」として内在化した。
「いじめの自動化」と「心理的虐待の大規模化」
１、ターゲットの潜在的人種偏見を刺激する認知バイアスを特定する
２、何度も実験を繰り返して、心理作戦用兵器の在庫を積み上げる（ナラティブが多い？）
３、ソーシャルメディアやブログ、グループ、フォーラム経由で計画的に兵器を配置する
人工社会シュミレートの概念実証（PoC）をバージニア州で実験して試した。そして以下のことが判明した。
①「パーソナリティー特性」と「政治的結果」に明確な関係がある。
② メッセージをカスタマイズして計量心理学上のプロファイルと一致させれば、人間行動を予測するだけでなく人間行動に変化を起こさせることを示した。
アイザック・アシモフのSFシリーズ『ファウンデーション』
情報戦争のウーバー
人間行動・文化の本質的な側面を定量化することに成功すれば情報戦争のUberになれる。
サンクトぺテル大 SNS経由でのオンライン上での荒らし、「トローリング」についての研究
→データ傍受による犯罪サイコグラフィックプロファイリング
→「計算心理学」「計算社会学」
友人データの収集するアプリ「マイパーソナリティー」1ドル払ってダウンロードしてもらう。
Facebookに「生態学的妥当性」
Facebookには自然な人間行動を示すデータが詰まっている。あらゆるスクロール、あらゆる動き、あらゆる「いいね」、ニュアンス、興味、嫌いなもの、全てが揃っており定量化できる。
そんなFacebookに集まるデータは、必然的にバイアスがかかってしまう研究者による質問が介在しないという意味で「生態学的妥当性」を得ている。
研究者はもはや被験者に質問する必要もない。ユーザが自然に生成するデータを活用し、その中から特定のパターンを識別するアルゴリズムを書くだけで良い。後は勝手にシステムが人間には決して気づけないパターンを見出してくれる。
全人口のデジタル行動を遺伝子情報と関連付けるようなアイデアまで生まれていた。
ユーザーエンゲージメントの暗部
Facebookグループ、広告、記事などでナラティブを流し、神経症系、ダークトライアドの２集団を怒りなどで煽ることによって、大衆のエンゲージメント（ブランドなどに対する愛着や組織と従業員のつながりなど）を高めようとした。
一番効果的なコンテンツは「腹立たしいもの」「不快なコンテンツ」で、よくバイラルする。それは身の危険を感じるものに、扁桃体がより敏感になるように進化してきた名残。
それに加え、「ルーディックループ」と「強化スケジュール」を利用する。
Facebook上にフェイクページを作る
ケンブリッジアナリティカはもっともらしい名前を使って右派のグループを作成
→ターゲット（既に似たようなページにいいねしているユーザー）のフィードに流れるようになる
→ユーザーがこのグループに参加すると、怒りに火をつけられるような、大量の記事やビデオを見せられる。
→「これはひどい」などの会話が繰り広げられ、フィルターバブル化
この間ずっと、メッセージの内容を修正し、テストを繰り返した。
ターゲットを３つのグループに分類した。
１、自分が過激派だと認めている
２、キャプティブオーディエンス（虜にされた支持者）
３、データによってコントロールされるグループ
そして、一定数に達するとオフラインイベントを開催。小さいカフェなどで集まることで、多いと錯覚させ、大きなムーブメントに参加していると思わせる。サクラなどもいたが、ほとんど必要なく、勝手に盛り上がった。
不都合な真実を隠すための方法「ポリティカルコレクトネス」
ヘイトとパラノイアでアメリカ全土を汚染する
認知バイアスに着目して、他人種に対する感覚や態度に影響与える実験を行っていた。質問や写真をうまく使い、ターゲットの心の奥底に潜む人種差別意識を刺激しようとしている。
あるビデオの中では、実験に参加した男性の1人が突然怒りを爆発させ、口角泡を飛ばしながら差別発言を連発していた。ケンブリッジアナリティカの研究者により「誘導尋問」にうまく乗せられてた。
あらゆる手段で「怒り中毒者」を量産する。
CA制作のおぞましいビデオ広告－－本物の虐殺と拷問シーンをとったもの
AI 9によるケンブリッジは何かの広告ターゲティングプラットフォームの構築ページ256
広告ターゲティングプラットフォーム「リポン」
ソーシャルメディア広告やデジタル広告によるマイクロターゲティングを行うにはプラットフォームが必要であり、このプラットフォームはケンブリッジアナリティカのモデルを搭載していなければならない－－というのがCAの基本方針となった。
①アレクサンダー・コーガンがFacebookデータを収集する
②AIQがリポンにFacebookデータを読み込ませる
③リポンのユーザが計量心理学・行動学上の要因に従って有権者をカテゴリー化する
スターバックスやナイキも偽情報の標的に
ナイキ製品ボイコットは実際にはロシアと繋がるSNSアカウントが起点となっていたが、誰もが「ナイキ製品ボイコットは純粋にアメリカ国内で生まれた抗議運動」だと思い込んだ。
オルタナ右翼一派が出所のニセクーポン（有色人種は全品75％引き）
→何も知らない黒人の客がそれを持っていくが、拒否される
というシナリオ。そのもめている様子を動画に撮って、SNSで拡散され、対立を煽る。
こうした、日常生活に深く関わっていて、欠かせないアイテムが敵対的ナラティブに組み込まれ、感染すると、対立はより深刻になる。
コモディティー化した人間行動
我々は身の回りにある情報に基づいて意思決定をしている。第三者がコントロールする情報にしかアクセスできないとなると、最後には洗脳されてまともに決定できなくなる。長期にわたって情報操作にさらされていると、無自覚のまま偏見倒れてしまうもの。
ニュースフィードで検索エンジン経由で出てくる情報は、アルゴリズムによって既にキュレーションされている。留意しておかなければならないのは、アルゴリズムの目的は情報提供ではなくエンゲージメント向上にあると言うこと。
既に我々は「動機付けされた空間」にどっぷりとつかっている。
人間エージェンシー（行為主体性）という概念。人間は誰にも影響されずに独自に合理的な意思決定を行う。言い換えれば、世界は人間のために決定を行わず、世界の中で人間が自分の意思で決定する、ということである。
火事→ビル 法はビルを罰しない。理由はエージェンシーの欠落。
啓蒙時代に基本的権利が明確になった。生存、自由、言論、結社、投票、良心－－全て人間の権利であり、エージェンシーを前提にしている。
しかしいつの間にか人間社会にはマインドコントロールシステムが根を下ろしている。
ソーシャルメディアの根底にあるイデオロギーは、「ユーザーによる選択やエージェンシーの強化」ではなく、「プラットフォームと広告主の利益最大化」である。→ユーザーの行動を操り、選択を狭めようとする。
Facebook運営は「嫌なら使わなければいい」と言うかもしれない。とはいっても、インターネット上では圧倒的な存在であり、独占的地位を築いている。ユーザにとって他の選択肢はあまりない。この意味では電気、通信、水道と同じで公共インフラであり独占企業大である。にもかかわらず「サービス」と言うレッテルを貼っている。そうすることで本人同意を得て、責任を利用者に押し付けている。
これはエツィオ・マンディ－ニの言うところの「シェアリング・エコノミー」と「コラボレーション・エコノミー」の違い。シェアリングの方は、プラットフォームの所有者が全ての権利を担っており、利用者にはなんの主導権もなく、”被”利用者化しているということ。