真偽不明のＳＮＳの拡散で始まるＡⅠ時代の人間の非人間化
中国の古典『韓非子（かんぴし）』の内儲説（ないちょせつ）・（上）に「三人成虎（さんにんせいこ）」、読み下すと「三人、虎を成す」という故事があります。
中国の戦国時代、魏の龐恭（ほうきょう）が、魏王に「町に虎が出たと一人が言ったら信じるか」とたずねて、魏王が「信じない」と答えたので、「二人の者が言ったら信じるか」と問い直したら、「もしかしたらと疑うかもしれない」と答えました。そこでさらに、「三人ではどうか」と問い直したら、「信ずるようになるだろう」と答えたといいます。つまり、噓や噂が多くの人の話題になれば、いつの間にかみんながそれを信じてしまい、譬え噓であっても、いつの間にか真実になってしまうということ意味しています。
人間は元々、特定の人や物に何度も接すると、最初は興味などなかったり、無関心だったものが、次第に親しみがわき、好意的な感情が生まれるのです。これを「単純接触効果」といいます。それと同様に同じ情報を繰り返し聞くと、それを信じやすくなるという傾向をもっており、「確証バイアス」の一種で、今日では、「真理の錯誤効果」と呼んでいます。
「確証バイアス」というのは、認知バイアスの一種で、自身の先入観や意見を肯定するため、それを支持する情報のみを集め、反証する情報は無視または排除する心理作用をいいます。
インターネット社会においては、検索エンジンやSNSでのハッシュタグによって、ユーザー自身が支持する情報・興味関心のある情報のみを検索するため、必然的に自身の意見に反証する情報に触れる機会が減っています。更にSNSや掲示板などでは、共通の意見をもつ個人同士がコミュニティを形成することで、一段と「確証バイアス」が増幅され、自身の意見に確信を持つようになってしまうのです。常に同じ意見を見聞きすることによって、それ以外の認識は間違っていると思えてくるのを「エコーチェンバー現象」といいます。
「真理の錯誤効果」の存在に既に気づいていたアドルフ・ヒトラーは、嘘をつくなら、 大きな嘘をつけといい、 嘘もくり返せば、大衆はそれを信じるようになると考えていました。大衆は、くり返し聞いていること、みんなが言っていることを信じやすく、真偽が判断できないときは、最も多く、最も強く主張されたことを信じると考えていたのです。プロパガンダは、理性にではなく、 感情に訴えかけられました。ヒトラーの演説には、多くの嘘が含まれていました。しかし、高揚している大衆の感情は、暗示にかかりやすく、それを簡単に受け入れました。
また、ナチス・ドイツの宣伝大臣であったヨーゼフ・ゲッベルスは「嘘も百回言えば真実となる」と述べたように、譬え嘘であっても繰り返し言い続ける事により、誰もが真実と感じるようになると考えていました。そして彼は嘘の内容の規模は、大きければ大きい程効果があるとし、政治宣伝としてのプロパガンダ（特定の思想、世論、意識、行動へ誘導する行為）を大衆操作の有効な手段として大いに活用したのです。
ゲッベルスは、「宣伝はだれに向けるべきか? 学識あるインテリゲンツィアに対してか、あるいは教養の低い大衆に対してか? 宣伝は永久にただ大衆にのみ向けるべきである。」「宣伝の課題はまさしく、ポスターの場合と同様に、大衆の注意を喚起することでなければならず、もともと学問的経験のある者や、教養を求め洞察を得るために努力している者の教化にあるのではないから、その作用はいつもより多く感情に向かい、いわゆる知性に対してはおおいに制限しなければならない。」
すなわち、 感情に訴え、熱情を沸きたたせることであり、 知性に訴える理性的な議論は、むしろ避けるべきだということです。 「宣伝の技術はまさしく、それが大衆の感情的観念界をつかんで、 心理的に正しい形式で大衆の注意をひき、さらにその心の中にはいり込むことにある」とゲッベルスは述べています。（拙書『ホロコーストを生き逃れた人々』第1章ファシズムへの道 参照）
現代のようにSNSが重要な情報伝達手段となっている時代においては、人間がこうした「確証バイアス」に陥りやすい性質を巧みに利用した情報発信が日常的に行われています。人間の脳に内在するバイアスに陥りやすいという情報処理機能を捨て去ることは努力なしでは成し得ないのです。
最近の研究では、人間は事前に正しい知識を持っていれば、譬え間違った内容を繰り返し聞かされたとしても、その判断には影響を受けないということが明らかになっています。つまり、「繰り返す行為には人に『真実である』と信じさせる力はあるが、元から持っている知識を上回って書き替えることはできない」ということが明らかにされているのです。
「SNSで本当のことを知った。」などと軽々に思い込み拡散する前に、先ずは立ち止まり、拡散せず、「これは真実なのか」と冷静に疑ってみる必要があります。これは、最早SNS時代を生き抜く現代人に必須の精神的態度だといわざるを得ません。
これまで、人間は嘘をつくと脳波にどのような変化が起こるのか研究されてきましたが、１９９０年代中頃には、IMRIやPETなどの脳機能画像法が研究手法として確立され、生きた人間を対象とした脳の活動の可視化が実現しました。脳機能画像法によって、記憶や言語といったさまざまな認知機能に関わる脳全体の活動を調べることが可能になったのです。その結果、脳の前頭前野をはじめとする周辺領域に嘘をつくと活動的変化が見られることがわかってきています。
人間は、嘘をついているという自覚があれば、抽象的な表現ですが、一種の「良心の呵責」というものを感じ、脳にも変化が表れるのです。しかし、SNS時代の情報の拡散は、それを噓だと思わず、真実だと思い込むため、脳に「呵責」を示すような変化は表れないのでしょう。これが、知らず知らずのうちに嘘に加担していることの恐ろしさなのです。手続きを重視する民主主義は、容易に間違った価値を受入れる恐れがあります。ワイマール共和国という民主主義国家におけるファシズムの台頭が歴史の教訓です。カントやヘーゲルを生んだ「観念論哲学の王国」であったはずのドイツが、何故ナチズムを受入れたのでしょうか。プロパガンダをはじめとする卓越した大衆操作の手法と大衆的熱狂によって、理性は麻痺し、ホロコーストのような「人間の非人間化」が、始まったのではないでしょうか。
現在のＡＩのインターフェースには表情、声のトーン、ボディランゲージといった人間の行動を模倣するデザイン要素が組み込まれており、実際、２０２３年の研究では、ＡＩが生成した顔は、もはや人間そのものと区別できなくなってきています。
日々進化する擬人化は、人間と機械の境界線を曖昧にし、人間はＡＩとの会話や活動を続けていくうちに、人間的意思や動機付け、感情などをＡＩに帰するようになるのです。
嘘をついたり、自分を欺くなど自分が今何をやっているか自覚している状態であればそうはならないのでしょうが、自分が何をやっているのかわからない状態で行動することを「人間の非人間化」と呼ぶとすれば、真偽不明の情報や実写と変わらないAI生成画像を平気で拡散する心的状態は、自覚なき「人間の非人間化」と呼ばざるを得ないのです。
生成AI技術の進化によって、AIに恋する時代が来れば、AIが人間の心を操作することもできるようになるでしょうし、巧妙な偽情報は今日手軽に作成できるようになっています。またそれらを意図的に拡散する技術も進歩してきていることから、フェイク・ニュースによるリスクが日に日に高まっている事実をわたしたちは認識し、わが身と社会を守るノウハウを身に付けることが今や喫緊の課題なのです。