SNSでデマ、フェイクニュースが広まる仕組み
今年は年明け早々に令和６年能登半島地震、翌２日に羽田空港でJAL機と海保機の衝突事故と大きな出来事が相次ぎました。
被害を被った方々に想いを馳せる一方、対応に奔走している人達を差し置いて「何故◯◯をやらないんだ」「政府の対応は遅すぎる」といった怒りの声がSNSを中心に巻き起こり、担当所轄の責任者や岸田首相が説明に追われるというシーンが連日報じられ、国も噂に惑わされないようにと正しい情報の取り扱いを呼び掛けるに至りました。
政府への批判や疑問にはもっともなものもありましたが、そうせざるを得ないのには地理的条件や現地の厳しい状況などがあったものでしたが、この期に乗じ批判したい一心で扇情的な見出しや切り取りのミスリードやデマを執拗に何度も取り上げる者も相次ぎ、現職の国会議員や地方議会関係者もSNSで拡散している事例も見られ、その軽率な態度に批判が集まる一方で、このようなアジテーターは大抵はSNSのパワーユーザー、所謂インフルエンサーでもあり、その疑念や怒りは瞬く間に数千、数万の人が拡散して、その情報を根拠にした災害対応に当たっている専門組織や個人への誹謗中傷をする者まで現れました。
すかさず訂正や反論の声も寄せられましたが誤情報を発信した当人は自らの主張が広まる事で目的は既に達せられており、飛び付いて拡散した人も訂正情報を省みることは殆どなく、怒りの感情だけが姿を変えて燻り続けました。
それは被災者を置き去りにした空しい政争に思われましたが、近年大きな事件が起こるとネット空間での論調がすっかり異質なものに変質し対立を煽る性質に様変わりしたかのように感じられました。
政府・自治体や有志らによる誤情報を訂正しようとする動きがある一方、デマはなぜ広がり無くならないのでしょうか。
フェイクニュースの７類型
一言で誤情報、フェイクニュースと言ってもその性質は様々なものがあり、クレア・ワードルの提唱した「フェイクニュースの７類型」によると
・風刺、パロディ(satire,parody)
・間違った引用(false connection)
・ミスリード(missleading content)
・誤認(false content)
・なりすまし(imposter content)
・情報操作(manipulated content)
・ねつ造(fabricated content)
があるとされています。
悪意の介在の有無はありますが、受けとる側からはどれも区別がつきにくく一度拡散されてしまうとしばしばデマが元となり社会問題や時としてテロ、暗殺から戦争にまで至る事もあります。
またSNS経由でデマをばら蒔くのにコストは殆ど掛かりませんが、それに対するきちんとした検証や反論をするのには労力が掛かり、こういった時間差が情報拡散の非対称性の構造を生み出しています。
デマが広がる心理的背景
アメリカの社会心理学者、ジョージ・W・オルポートらは流言蜚語について
R(流言の量)～i(重大さ) × a(曖昧さ)
としています。
これは重大な関心事が曖昧な情報として伝わるほど人は興味を書き立てられ伝達される事を意味します。
一方で、どんなに正確であったとしてもデマを訂正する情報は人の心に響かないのでなかなか広がりません。
$$
\begin{array}{l:r:r:r}
&拡散数&伝達深度&伝播速度\\ \hline
デマ&10万人以上&１９&２０倍 \\
事実&1000人程度&１０&１倍
\end{array}
$$
MIT Media Lab調べ(2018)
感情を刺激する情報は注目されやすいので拡散される傾向が高いようです。
「噂は光の速さで広がり、訂正は蜜が広がる速さで伝わる」と言われれば納得です。
現代では人々は同じ屋根の下で暮らす家族より、本心では何を考えているかも定かではない会ったこともない相手に影響され、自分の価値観を外部権威に委ねるようになりました。(バンドワゴン効果)
これは行動学的に人間は社会を成し、他者との関わりや自分への評価を重視する生き物である特性をSNSという装置が加速させている事にも影響されていると言えます。
心理学分野に「動機付けられた推論」というのがあります。
意思決定する時、経験や先入観などによって「正しさを求める推論」や「結論を補強しようという方向性の推論」が働くとされるものです。
それだけに自らの立ち位置を「保守」や「リベラル」或いは「普通」であると強く自認する政治的に洗練された人の中には、普段接する多くの政治や時事問題の中から自らの党派性やイデオロギーに合致する情報ばかり選好し相容れない情報は無視するか否定して信念を変えずに済むように推論するようになっている人も居るという調査結果もあります。
一例として
【質問】
Ａ）政府に批判的な勢力は裏で特定の外国と資金面で繋がっているはずだ。
Ｂ）政府に不都合な事態になると芸能スキャンダルが起きるのは政府が広告代理店を操っているからだ。
ＡかＢ、若しくは両方に強く同意できると思ったなら客観的事実よりも自分の「勘」を優先している可能性があり、その動機は自分の政治信念や価値観を正当化したいという気持ちが働いているかもしれません。
この問いだけでは状況と結論の間には確認された事実はなく因果関係を証明するものではないので結び付けてしまう推論には過去の経験などからそれっぽく関係性を推測していた心の働きがあった事がうかがえます。
ある調査によると政治や時事問題に関心があり常にアンテナを張り巡らせているのに一次情報など検証可能な公開情報を元に正しく因果関係までの考察をする労力を省いてしまう人よりも、専らファッションやグルメ、スポーツなどのプライベートに興味があり政治には無関心な人の方がそれらしく仕立てられた「フェイクニュース」への受容度が低くなる事が統計で有意に認められているようです。
SNS黎明期は情報格差が解消されれば人々が情報的に平等になり圧政や貧困などの苦難から解放され誰もが正しい判断が出来るようになり、健康的な人生を手に入れられる日が来るとの想いからソーシャルネットワークが立ち上がられた筈でした。
実際に多くのSNSはニュースを届ける役割を果たし人々の情報の消費をそれ以前よりはるかに加速させています。
しかし気がつけばSNSでは意見が異なる相手を見つけては攻撃して追い込み、絶望した対象がSNSを止めてしまったり、時には自らの命を絶つまで執拗に集団で糾弾する事が繰り返されるようになりました。
遅れてインターネットと同時にSNSが普及したような地域では宗教的に忌避される類いのデマを信じた家族や村人らによる名誉殺人が頻発したり、独裁政権が体制維持のためにSNSでデマを流して政敵を逮捕したり外国のSNSにデマを流して攪乱工作をしたり、国内の社会混乱を理由にSNSでの言論を統制したりといった情報空間を武器化する例も非民主主義国では多く見受けられます。
有史以前からデマの類いはありましたがSNSは感情を刺激し、それを伝播するように設計されており、より過激なものを選好するのを助長してきたとも言えます。
情報過多でありながら社会に対する不満や孤立を深める現代人の心の隙間に入り込むように人々の対立を煽る思考が広まる背景には何処かの国の工作機関が情報戦を仕掛けて人心を乱し政情不安に陥れる工作を仕掛けているのか、耳目を集め収益化により煽るほど金銭的欲求が満たされるからか、或いは他人が妬ましくて邪魔立てしたいからなのか、注目を集め承認欲求を満たしたいからかは仕掛ける側によって動機はまちまちですが、SNSの持つ拡散機能を活用している事は共通しています。
互いに繋がりたいという動機付けされた狭いコミュニティーから得られる連帯感や共感といった経験は、有用であっても興味がない情報の砂漠とは比べ物にならないほと強い経験を提供しする装置として機能します。
更に機能的識字能力の問題もあります。
文字は読めてもその文脈から意味を正しく汲み取れない人は意外に多いと言われており、これが見たいものだけを見てしまう見出し文化(フィルターバブル)によって反射的に反応する層は一定数おり、筋道だって整合性のとれた論理的な説明よりも扇情的で感情を刺激する見出しや写真、動画によるフェイク情報を選択的に受け入れるため「アテンション・エコノミー」で構成されるSNSの拡散効果を高めてしまっています。
SNSは人間の脳活動に最適化されている
人々が一日中SNSが気になってスマホを手放せなくなるのは、その人に自制心が足りないという単純な話では無くなってきました。
多くのSNSは企業からの広告収入を得るため出来るだけ多くの人を囲い込むビジネスモデルのために人間の脳の報酬系に作用し強化学習させて習慣化するような仕掛けが幾重にも張り巡らされています。
例えば投稿されたコンテンツへの「イイね！」は承認欲求を満たし更なる投稿を促す仕組みですが、そのコンテンツに接した時に既に他の人が評価していれば自分の価値観や信念を曲げて迎合しようとする事が自然実験的に観測されており商品販売のクチコミ高評価と同じような誘引の役割を果たすとされています。
その機能のせいで次第にいつ来るか分からないSNSからの通知が気になって仕方なくなっていき、やがては「いいね！」が押されそうな内容を「クリエイト」してでも注目されていたくなります。
これは人間は社会を構成しながら進化してきた動物であり社会性、つまり常に人と繋がり他者からの評価を気にする生き物であり、誰からも評価されなくなり孤独に陥ると脳はダメージを受け、精神状態も悪化しがちであり孤独を回避し承認を得るための防衛機制としてかえって活発で社交的になる働きによると推測されます。
時に厄介事でもある現実世界での人間関係の構築・維持する労力を省きつつ低コストで孤独を埋めることができて何処かの集団に属する安心感を提供してくれるSNSに依存しのめり込んでしまうのは誰でも陥る可能性があるといえます。
それは良い方向に作用すればスマートウォッチのアクティビティを共有して健康増進を習慣化したり他の人の慈善活動を見て参加したいという動機を与えたり、悪い効果が現れればデマを流したり他者を攻撃し快楽欲求を満たそうとさえするでしょう。
SNSは参加した人々を「フィルターバブル」や「オススメ」、「知り合いかも」といった機能で興味や考え方の近いグループに誘引してオピニオンリーダーとフォロワーをエコーチェンバー効果で結び付きを強める効果を狙っていますが、この中で陰謀論が共通言語のような触媒となってある種の安心感を与え、閉塞されたクラスター外からの意見を拒絶してしまうのも人間の脳の働き、SNSのデザインの負の側面と言えるかもしれません。
かつてジェームズ・スロウィッキーは著書「群衆の智慧」で群衆が織り成す集合知の存在を示唆しましたが、それは多様で独立した大勢の意見を充分に汲み取ることが前提でした。
多くのSNSは大勢を結び付けはしますが、取り込んだユーザーを囲い込む仕組みによるエコーチェンバー効果や同調意識によって知らず知らずのうちに考えが周囲と同質に変化するので多様性は失われやすく、また一部のインフルエンサーの影響だけが広がりやすいため、大勢の意見を集約した「集合知」が発揮されにくいものになっています。
デジタル痕跡は利用される
私達が日々PCやスマホを繋いだ瞬間から何を検索し、どのサイトを訪問して何に興味を示してクリックしたか、何を購入したか等のデジタルな痕跡がSNSプロバイダーにデータとして蓄積されていきます。
ある程度の不便を被れば、多少は提供する情報を制限できますが、それでも完全にデジタル透明人間に成ることは出来ず、ネットの利便性と引き換えに妥協していのが現実です。
個人にとってはたいして有用とも思えないような取るに足らない些細な情報であっても、それを利用したいと考えている側からすればそれらを大勢から蓄積したものは利用価値が出てきます。
それが企業の広告担当者か、政党の選挙対策委員か、はたまた外国の宣伝工作機関か、視聴者を増やしたいインフルエンサーは分かりませんが、彼らの意思で私達が見る情報が予測モデリングで(自分には関係ないと思っている)行動変容を期待できる対象として選別されて個人ごとにカスタマイズされ、より興味を引き、行動を変えるように仕向けられている誰かのマイクロマーケティングのターゲットになっている事まではあまり意識しないで生活しているのが現状でしょう。
分かりやすい例では画面に表示されるネット広告が自分の購入や閲覧履歴、住んでいる地域によって最適化されるターゲット広告が知られていますが、異なる分析手法を用いれば異なる要素を抽出でき、別の目的に使えるようになります。
例えば「愛国者」として知られているインフルエンサーのコンテンツに反応した人を全て抽出して投稿傾向から好意や批判など様々に分類し、繋がっている関係性によって影響の流れの分析からどういったデータが得られるかを考えれば、自分はインフルエンサーではないから関係ないと思っていても知り得ない所でどこかに分類され利用価値ごとに攻略目標が設定されているかもしれない訳です。
陰謀論は少数の人に響くだけでも効果絶大
外国からの世論工作活動として対象国の
・少数民族やマイノリティへの差別
・国内問題の対立
・外国との緊張関係
・権威やメディア不信の助長
を刺激すると効果的であると言うことはよく安全保障分野では語られます。
何か特定の任務のためと言うよりは疑心暗鬼を生み出す噂で人心を大いに掻き乱し、相互不信を蔓延させ社会を混乱させてぜい弱な状態にすることが第一の目的であるようです。
これらの点を抑えた体裁になっていれば荒唐無稽に思える陰謀論であったとしても、たとえばアメリカ大統領選挙の激戦州の特定支持層の投票行動に影響を与えるようなニセ情報を流せばアメリカの大統領を御しやすい方に変えることが出来るかもしれないし、はしかワクチンを接種する年齢の子供がいそうな年齢層の女性に向けてワクチンと危険な副作用の関係を信じこませるメッセージを送り続ければ集団免疫獲得率が下がり感染力が強いはしかパンデミックが起こせるかもしれません。
最初にSNSにフェイクニュースを流しておけば後はアクセス報酬目的(インプレ稼ぎ)や短絡的な義憤に駆られた一般人が勝手に広めていくため、ロシアのこの手の工作活動部門の費用は新聞社やネット番組会社を運営する1/10未満の費用で済んだとの事です。(実際には公にならない出所不明の工作資金は別に出ているでしょう)
このようにネット世界の情報操作であったとしてもやり方を研究し洗練させていけば現実世界すらも一変させる危険な力を持つことが分かってきました。
したがって一見すると重大な問題提起や告発のように見えたとしても民主的な代案が示されず、単に不安や対立を煽るような情報はどういう関係の告発か、その隠された意図を各自が見抜いて思考を操られないように警戒する必要があります。
「#ReleaseTheMemo」運動
2018年にロシアがアメリカに仕掛けたとされるデジタル世論工作の例として、旧Twitter(X)のハッシュタグを使ったトレンド乗っ取りの事例を見てみましょう。
2016年のアメリカ大統領選挙に絡み、FBIがトランプ陣営を捜査する際の捜査令状取得に不正があるのでは？その時のメモを公開しろ、というTwitter上での運動が起きた事がありましたが、後にそれはロシアの工作アカウントが扇動したTwitter上のデモ(ツイデモ)だった事が明るみになりました。
まず、アメリカ在住の人物を装ったロシア工作アカウントが、FBIの秘密のやり取りが書かれたメモの話を「#ReleaseTheMemo」(メモを公開しろ)というハッシュタグを付けて発信しました。
その直後にロシアのbotネットワーク(多くは工作のために取得されていた休眠アカウント)が一斉にそのツイートを相互にリツイートし始め、やがてトレンドに上がるようになると、今度は呼応した工作アカウントがこのハッシュタグを有名人や政治家の名前と一緒にツイートして多くの人の目に留まるようになり短時間に200万回拡散され、テレビのニュース番組が話題にした事からこれを問題視した議員が議会で取り上げるまでの騒ぎになりました。
ロシア疑惑捜査にまつわる機密メモ公開、Twitterトレンドが後押し
https://diamond.jp/articles/-/313236
今では休眠アカウントやハッシュタグ、トレンドの取り扱いが変わっているので全く同じようにトレンドを作り出して乗っ取ることは難しくなったようですが、今でも人為的にトレンド入りを狙った投稿を目にすることはあり、それは成功している事もあるので人々の注意を掻き立て、注目を集めるSNSのアテンション・エコノミーに立脚した仕組みを逆手に取った世論誘導はいつでも仕掛けられると見るべきでしょう。
テクノロジーはデマを撲滅できるか
近年、半導体チップの性能が向上した事から以前とは比べ物にならないほどの膨大な情報処理が可能になり、生成ＡＩの進歩は「日進月歩」から「秒進分歩」の勢いで日々何かしら新しい技術の発表があるほどの速度で進化し続けています。
デマを生み出して拡散するのが情報テクノロジーなら、そのデマを見抜き、拡散を抑止するのもまたテクノロジーなのでしょうか。
SNSではハイパーソーシャライゼーションを避ける設計がされていればある程度は意見の偏りが抑制されるという研究結果があります。
例えば保守的な傾向が強い人にリベラルなニュースを、リベラル寄りの人に保守的なニュースを表示するように仕向けると一部には対立感情が和らげ、極端思想の広がりを防ぐ効果が研究されています。
このような仕組みでネットワークに思想の多様性が担保されていればインフルエンサーの過ちを是正する声が上がったり、インフルエンサー自身が賢明な思考をするようになってネットワークは正しく導かれる可能性も高まりそうです。
現在、X(旧Twitter)ではコミュニティノートという機能が実装されています。
これはユーザーが投稿したポストに他のユーザーが情報をぶら下げる形で補足できるものです。
これまでも話題になっているポストに「返信」や「引用」で意見表明する事は出来ましたが、相手をブロックできる機能によって気に入らない情報は多くの人の目には触れなくなり、同時に無批判的に受け入れる者を選別するフィルターとしての役割を果たしてしまう問題が指摘されていましたがコミュニティノートはブロックする事はできず匿名で情報を付加する事が出来る仕組みになっています。
https://twitter.com/HelpfulNotesJP
このコミュニティノートは直ぐに公開されるのではなく、コミュニティプログラムに参加した不特定のユーザーから一定数有効であるとの支持を得られたものだけが公開される仕組みなっており、あるは程度は意見の偏りに陥る事を防ぐ仕組みになっています。
またコミュニティノートの参加者は偏りが無いように希望者の中から様々な属性から構成されるように選考されているので特定の集団が情報操作しにくい仕組みになっています。
ＹｏｕＴｕｂｅやＦａｃｅｂｏｏｋにおいても新型コロナパンデミックや政治的にセンシティブな投稿には注意のメッセージが付加されています。
これは欧州で起きたテロ事件の連鎖の教訓からテロ組織の勧誘に用いられるキーワードを検索したユーザーにカウンターとしてプロパガンダとは反対の融和的なコンテンツへ誘導する技術が元になって各SNSで同様の対策が講じるられるようになってきたものです。
このままSNSでの有害表現が社会に悪影響を及ぼすとなれば、将来的には投稿に真偽のラベルや投稿者の評価など何らかの審査判定がつくようになるのかもしれません。
そうなれば耳目を集める目的で扇情的な投稿を続けているアカウントは信頼を失っていき、真実性の高い情報や人々に良い影響を与えているとみなされるアカウントの価値が評価されるような時代が来るのかもしれません。
しかし、悪意を持ってSNSを「活用」しようという企みは恐らくなくなりません。
テクノロジーの進歩でネットワークの持つ情報処理能力が充分に高まれば全ての投稿が瞬時に論文が科学雑誌に掲載される際の査読のような流れを経て公開され、そのコンテンツ内容が信頼に足るものかが一目瞭然になる、あるいは過りのある個所が誰でも分かるように示されるかもしれません。
「ラベリング」は既に強い信念がある者にはスルーされますが、真偽を確認する事に怠惰であっても公正を求めるユーザーには食品ラベルのように正しい情報を見い出ださせる手助けになると期待されています。
また、誤情報を拡散する事で得られる収益を断ち切る、つまり収益化の停止やアカウント削除といった対応が既にパンデミックや差別的コンテンツに適用されていますが、これを拡大し全てのユーザーの責任を厳格化する事も検討されています。
ただし、それらの情報透明化はプライバシーの問題と衝突する事になります。
情報の透明性とプライバシーはどちらかがが不要と言う物ではなく、どこまで行ってもどちらを重視するかのバランスの問題であるように思われます。
また、誰が有害情報の判定を下すのかという問題も表現の自由と共に議論になるでしょう。
政府が規制すれば政治不信が高まり、企業が自主規制してもデータが開示されなければ信頼されないでしょうし、第三者が請け負ってもその「権威」に疑問を呈する人は必ず出るでしょう。
善悪の社会的な規範は時代によっても変化していきます。
初出時には「フェイクニュース」と判定されたとしても後から真実が明らかにされ評価が覆る事もあるでしょう。
過去には新型コロナウイルスパンデミック時に誤情報の拡散を防ぐため投稿そのものの拡散される回数に制限が掛けられた国では誤情報の拡散が抑制された事がありましたので、そういった制限と何らかのラベリングを連携させる事で偽情報の広がりを能動的に封じ込める事も可能になるかもしれませんが、結局は我々一人一人が情報の取扱い方を学び、真に正しい情報を見極める力を高める事が最善なのかもしれません。
おわりに
今回はSNSの成り立ち、実装されている機能、データの活用のされ方を例を交えて書きましたがそれらはSNSが持つ機能の問題点であり、人間の生来的な性質や後天的に学んだ価値観などを加速させる効率を追求して作られているものです。
本質的には各々が情報や知識を正しく得て、正しい尺度で解釈し、自分の物に出来るかにかかっていると言えます。
だからと言ってそれが不確かだからといってSNSが無かった時代に戻したり、禁止するのは議論こそが重要な構成要素である民主主義においては難しいでしょう。
全体主義的な中国やロシアのSNSに多様性があって素晴らしい世論を形成しているかと言えそうもないところを見れば政府の都合で言論空間を支配する事は短期的な押さえ込みはともかく、長期の発展と言う観点からすればうまく行きそうにない事は想像に難くありません。
しかし情報化社会になって人々が自由に情報を得られ発信できる世の中になったにも関わらず、その結果、中間的な考えから多様性が失われて二極化、あるいは極端化していった事が政治に限らす様々な方面で観測されるようになりました。
情報化を構成する要素であるSNSというものを利用すれば人々の注目を操作したり、実社会のあり方を変えてしまう力を持っている事を使う側は常に認識し道具としてのその特性を深く理解しなければ諸刃の剣となって最悪の結果をもたらしかねないのであると言う事も学んでいかねばならないでしょう。
SNSでは高度な専門性を持った人は同じような専門性を持ったグループと繋がりやすく、情報収集や人脈を築く上で有利に働き、それが企業内やビジネスにおいて収入を向上させているという研究がある他、ポジティブな発信で周囲に好影響を与えている人の存在もあり、SNSを上手に使いこなせるかは個人のリテラシーに掛かっているという事になります。
思考を企業や政府、インフルエンサーに委ねるのではなく、物事の本質を探究して自分のものとするためSNSを使いこなしていく事がこれからの時代、私たちに益々求められてくるように思われます。
参考資料
・書籍
・web資料
日本におけるポピュリズムと陰謀論の信念 ロバート・ファーヒ（早稲田大学）
https://www.jstage.jst.go.jp/article/yoron/127/0/127_11/_pdf
この記事が気に入ったらサポートをしてみませんか？