情報オーバーロードと確証バイアス
今回は情報セキュリティーについて、少し視野を広げて書こうと思います。
兵庫県知事選挙で経験したことが動機です。マスメディアやソーシャルメディアなどでご存じの方は少なくないと思います。長い間兵庫県民をやっていても経験したことがないカオスな状態でした。それにはキーパーソンがいるのだと思いますが、今回そのことには触れません。
インターネットでの行動は、ググったり、ソーシャルメディアのフィードをみたりすると言うことが主だと思います。ググること、フィードをみることの基盤になっているメカニズムについて考察してみました。
ソーシャルメディアのジレンマ
ソーシャルメディアを使うことは日常生活の一部になりました。一方、真偽が不明な情報、誹謗中傷の拡散などの問題も生み出しています。ソーシャルメディアで得られる情報に根拠があるのか、それは事実なのか、どう判断すれば良いのか？
情報は手に入るがそれが事実かはわからない、ジレンマです。誰でも膨大な情報にアクセスできると同時に発信もできるようになっていることが、このジレンマの要因の一つではないでしょうか。
兵庫県知事選挙で感じたこと
兵庫県民として、ソーシャルメディアのアルゴリズムと情報リテラシーについて考えさせられる経験をしました。私は日常、Facebookで友人知人と他愛のない日常の投稿をゆるい感じで楽しんでいました。
この選挙期間中に状況が一変しました。県知事候補に関する議論を目にすることが急増したのです。
県外に住む友人や知人から、真偽が不明な情報や候補者への誹謗中傷を含む投稿がシェアされたり、知らない人がスレッドに割り込んで真偽不明の主張や有名Youtuberの動画をシェアしたりと、カオスな状況に戸惑いを覚えました。
YouTubeで実感したこと
シェアされた有名YouTuberの動画を一度視聴したところ、その後、Youtubeで表示される動画に県知事選挙に関する真偽不明または「それは違うだろう」という内容の動画が大量に表示されるようになりました。
これには驚きました。そして、ソーシャルメディアのアルゴリズムはユーザーの行動履歴に基づいて動画を「おすすめ」してくるという素朴な理解を改めることにしました。
「おすすめ」をするアルゴリズムを利用して自身のコンテンツを優先的に表示させるテクニックがあることは知っていましたが、詳しいことは知りませんでしたので調べてみようと思います。
情報操作と認知の操作
嘘も100回言えばほんとうになる。「嘘（事実でないこと）」は情報操作で「100回言う」は認知の操作ではないかと思っています。「ほんとう」だと「思う」のは人（自分）の認知です。
人は認知したことを基に行動を決定しますから、行動を操作できることになります。
「情報操作と認知の操作」をブーストする要素と思われる「アルゴリズム」「エコーチェンバー効果」「情報オーバーロード」「確証バイアス」について調べてみました。
エコーチェンバー効果
情報過多が引き起こす問題について、過去の文献を探しました。2021年8月の「日経サイエンス」の記事では、「エコーチェンバー効果」と呼ばれる現象が紹介されていました。
これは、ソーシャルメディアのアルゴリズムによって、ユーザーが自分の意見に合致する情報ばかりに囲まれ、偏った情報に接してしまうというものです。
(Eppler, M. J., & Mengis, J. (2004). The concept of information overload)。
情報オーバーロード
処理できる量を超える情報に晒された際に、効果的に情報を利用できなくなる状態です。意思決定の質の低下、ストレスの増加、集中力の低下など、様々な影響を受けるとされています。
情報オーバーロードの原因として、情報の量、速度、複雑さ、矛盾などが挙げられています。(Eppler, M. J., & Mengis, J. (2004). The concept of information overload)。
確証バイアス
自分の既存の信念や仮説を支持する情報を選択的に探し、支持しない情報を無視または軽視する傾向のことです。脳が情報オーバーロードの状態になるのを抑制する機能と言えます。
その副作用として客観的な判断を阻害し、誤った結論に導く可能性があります。
確証バイアスは「人が自分の信念と一致する情報を求め、矛盾する情報を避けようとする傾向」と定義されています。それは、情報の探索、解釈、記憶といった認知プロセスに影響を及ぼすとされています。
(Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises.)。
アルゴリズム
ソーシャルメディア、YouTube、検索エンジンなどは、ディスプレイの限られた画面上に情報を表示しなければなりません。また、人間の認知能力にも限界があります。アルゴリズムでユーザーにとって価値のある情報が優先的に表示されれば利用体験が向上します。
キーワード「youtube アルゴリズム」で検索すると、そのアルゴリズムについての解説がいくつもヒットします。
ユーザーの行動履歴、人気度・バズっている、クリック数、フォローやチャンネル登録数など、解説により違いはあるもののいくつかの指標があるようです。
特にバズっている動画の優先順位が上がるというのは、私がYoutubeで経験したことと一致しているように思います。
情報セキュリティーと危機管理
自社や個人について事実と異なる情報が拡散されているときどうするかは経営課題であって、危機管理です。悪夢のようなことが起きても、一個人一組織ができることは限られています。
方法論や対策が研究され提案されています。また、企業向けの製品・サービスもあるようですが、今のところ原因を断つようなものではありません。
ソーシャルメディアのジレンマ
真偽が不明な情報・虚偽・誹謗中傷にどう対処すべきか？
真偽が不明な情報のファクトチェックは重要ですが限界もあります。虚偽・誹謗中傷への対処も難しい面があります。ソーシャルメディア側も批判を受けてアルゴリズムや人力で警告・削除・アカウントの停止など対応はしていますが、逆に言論の自由を巡って議論や批判も起きています。
つい最近、Meta社のマーク・ザッカーバーグ氏が「検閲をしない」と宣言しました。これまでは「行きすぎた」とその理由も説明していました。本当の動機はどうかについて様々な憶測があるようですが、運営側にとっても難しい問題なのでしょう。
ソーシャルメディアは、自由な表現の場であると同時に社会的なインフラとしての役割も担っており、問題への対応にはジレンマがあるのだどと思います。
操作される情報、歪む現実
アルゴリズムによる情報操作を意識せずにソーシャルメディアを利用していると、サイバー空間で皆が同じテーマで議論しているという錯覚に陥る可能性があります。
悪意のある者がアルゴリズムを逆手に取れば、社会にとって無視できない影響力を持つことも可能でしょう。
リツイートによって情報のインフレーションが起きれば「嘘も100回言えばほんとうになる」が本当になってしまい現実の認識が歪むのだと思います。経済のインフレーションなら金利を上げてコントロールできますが...。リツイートに何らかのコストかフリクションがかかればましになるのでしょうか。
Xにおける、ボットによるツイート（自動発言）の問題もあります。
2016年と少し古い記事ですが...第一期トランプ政権が誕生した大統領選挙の分析です。
BBC News Japanの記事「討論会後のトランプ氏支持ツイート、「botが量産」と研究 。
ヘッドラインは「ドナルド・トランプ氏支持の「bot（ロボットによる自動発言）アカウント」からのツイートが、民主党候補ヒラリー・クリントン氏支持のbotによるツイートの9倍に上っていた」「bot機能は「世論を操作」し「政治上の論点を曇らせる」ことがあると明らかになったと、研究チームは結論している」となっていました。
パラドックスとジレンマとどう向き合うか
社会全体の情報リテラシーが上がれば、ディストピアを思わせる陰謀論や根拠のない情報がサイバー空間を占拠する事態は減っていくかも知れません。かなりの楽観論ですが。
ソーシャルメディアの自主規制はどうでしょうか？ Meta社はこれを手放しました。懲罰を含む法律はどうでしょうか？ 言論の自由とどう折り合いをつけるかですね。
実存的課題
発信側の「言論の自由」は保証されていても、受け取る側の情報選択の自由は制限されていると言えるのではないか？
ソーシャルメディアがアルゴリズムの詳細を公開することは難しいとしても、ユーザーにはコンテンツが表示された理由を知る権利があるべきではないか？
今できること
身もふたもない話ですが、情報リテラシーを身につけることです。
ソーシャルメディアが社会的インフラとして機能している現代において、この問題はより複雑化しています。
情報リテラシーを高め、アルゴリズムの影響を理解した上で、ソーシャルメディアと賢く付き合っていくにはどうすれば良いか？を一人ひとりが意識し、機会があれば議論に参加することも大事だと思います。
今日はここまで。お読み下さりありがとうございました。
内容との整合性をとるため、タイトルを変えました。
「情報過多の罠。思考を操るアルゴリズム」→「情報オーバーロードと確証バイアス」としました。
目次を追加しました
「リツイートによって情報のインフレーションが起きれば「嘘も100回言えばほんとうになる」が本当になってしまい現実が歪むのだと思います。」→「現実の認識」としました。