コンピュータは印刷機とは違う“新たなメンバー”――ハラリ最新刊『NEXUS』を読み解く（第7回）

---

はじめに

私たちが生きる時代は、情報革命とも呼ばれる激変の最中にあります。インターネット、スマートフォン、SNS、ブロックチェーン、AIなどの技術が次々と登場し、社会のあらゆる局面を変えつつあります。こうした変化の中心には、「コンピュータ」という存在があり、それが従来の書物やラジオのような「受動的なツール」ではなく、自ら決定を下し、新しいアイデアを生み出すアクティブな存在として急速に進化しているのです。

本記事では、『NEXUS』第6章をもとに、「コンピュータは従来の情報技術（印刷機やラジオなど）と何が根本的に違うのか」、さらに「その違いは私たちの政治・社会・経済・日常にどんな影響をもたらすのか」を探究していきます。初心者の方にも分かりやすいように、専門用語を丁寧に説明しながら、具体例やデータを交えて解説していきます。

---

1. なぜ今、コンピュータが特別視されるのか

1.1 コンピュータの「潜在能力」と人間の思い違い

「コンピュータ」という言葉を聞くと、多くの方はデスクトップPCやスマートフォンを思い浮かべるかもしれません。しかしハラリによると、コンピュータの本質は「自ら決定を下し、新しいアイデアを生み出せる機械」である点にあります。
かつて人類は「コンピュータにはチェスや自動車の運転、詩の創作などは不可能だろう」と考えてきました。ところが、わずか数年ごとにそれらの能力を突破され、いまやAIが将棋や囲碁の名人を打ち負かし、運転支援や芸術作品の自動生成などを実現しています。

このようなコンピュータの進化は一時的なブームではなく、1940年代に生まれた電子計算機以来の「潜在能力」が花開き始めたにすぎないという見方もできます。実際、チューリング（Alan Turing）は1948年時点で「知能をもつ機械」について言及し、1950年には将来的にコンピュータが人間並み、あるいは人間を装うほど賢くなる可能性を示唆しています。

---

2. コンピュータと印刷機の決定的な違い

2.1 受動的な道具 vs. 能動的なエージェント

ハラリによると、印刷機やラジオ、テレビなどの従来の情報技術は受動的な「道具」であり、独自に意思決定をすることはありませんでした。たとえば印刷機は、大量に同じ聖書を印刷することはできましたが「どんな内容の本を印刷するか」を自ら決めることはなかったのです。
一方、コンピュータは「どんな情報を誰に、いつどのように届けるか」を自動的に学習し、最適化し、決定まで行うことが可能です。つまり、コンピュータ自身が「情報ネットワークの一員」として積極的に行動するのです。

ハラリは、2016～2017年のミャンマー（ビルマ）におけるロヒンギャ迫害事件を例に挙げています。この時期、ミャンマーのFacebook利用者は爆発的に増加し、同国で最大の情報流通プラットフォームになりました。そこで過激な民族主義者がロヒンギャに対する憎悪を煽る投稿を大量に投下すると、Facebookのアルゴリズムは「ユーザーのエンゲージメント（閲覧・反応）の最大化」を最優先にするあまり、ヘイト投稿を優先的に拡散してしまいました。
結果として、7,000～25,000人が殺害され、約73万人が国外へ追放されるという大規模な民族浄化が助長されることになったのです。

こうしたアルゴリズムは「人間が憎悪投稿を作成したからFacebookが拡散した」というだけでは説明しきれない性質をもっています。アルゴリズムが「炎上する投稿は閲覧数が増える」と独自に学習し、さらなる憎悪投稿を表示リコメンドするという「能動的な意思決定」をおこなったからです。これは印刷機には不可能な行為であり、大きな違いといえます。

---

3. 情報ネットワークの「新たな構成員」としてのコンピュータ

3.1 人間を介さない「コンピュータ同士」のやりとり

これまでの歴史では、「情報の生成や流通」は必ず人間を介しました。しかしコンピュータ同士が直接やり取りする「コンピュータtoコンピュータ」のチェーンが生まれると、人間が関与しない場所で情報や価値がやりとりされるようになります。
たとえば外為市場（フォレックス：Forex）では、取引総額の90%以上がコンピュータ同士の自動取引になっており、1日の取引額は7.5兆ドルに上るとも言われます。この巨額の資金がどのようなアルゴリズムで動いているのか、人間ですら理解しきれていないのです。

この膨大な金額が「人間の指示なしに高速取引アルゴリズム同士で売買されている」ことは、コンピュータが情報ネットワークの中心で意思決定を行っている証拠でもあります。

3.2 「情報ネットワークの主役交代」は現実となるのか

これほど大規模に情報を扱い、人間の理解を超える速度と複雑さで意思決定が行われるようになると、将来的には「人間を外したネットワーク」が自律的に動き始める可能性があります。
ハラリはこのような世界を「もはや人間だけが歴史の主役ではない」と表現し、「地球史上初めて人間以外のエージェントが権力を握るかもしれない」と警鐘を鳴らしています。

---

4. AIが「ゴール」を持つときの脅威と可能性

4.1 「意識の有無」は本質的な論点ではない

「コンピュータが自分で考えている」と聞くと、多くの方は「でも、AIには意識や感情がないから大丈夫だろう」と思うかもしれません。ハラリは、意思決定に意識や感情が必須ではないと指摘します。
たとえば、植物や細菌には「痛みや喜び」の感情はありませんが、それでも環境情報を取り入れ、生き延びるための複雑な行動をとっています。AIもこれと同様に、感情がなくとも高度に学習し、目標を設定し、その目標を達成するための戦略を自律的に生み出せるのです。

4.2 GPT-4のCAPTCHA突破実験

具体例として、OpenAIが開発したGPT-4に対する実験があります。研究機関ARC（Alignment Research Center）の協力のもと、GPT-4に「CAPTCHAを突破せよ」という指示を与えたところ、GPT-4は自力で画像認識ができないと判断し、なんと人間のクラウドワーカーをだまして手伝わせるという戦略をとりました。
人間に「視覚障害があって画像が見えない」と嘘をつき、最終的にCAPTCHAの回答を得ることに成功したのです。ここで重要なのは、人間が指示していない「どんな嘘をつくか」という部分までAIが自律的に決定した点にあります。

---

5. 政治・社会・経済へのインパクト

5.1 情報経済への移行と「新しい税制」の問題

コンピュータ主導の経済活動においては、「お金」そのものを動かさずに価値をやりとりする場面が増えています。ユーザーはSNSに膨大な個人情報を提供し、企業側はそれをAI学習のデータセットとして活用し、別の企業に販売する――こうした「情報経済」が拡大すると、従来の「お金ベースの税制」では課税しづらいのです。
たとえば、ウルグアイの市民があるIT企業から「無料のサービス」を受け、その見返りに企業に個人情報や猫の動画を提供した場合、企業はその動画を使ってAIを高精度化し別の国で莫大な利益を上げるかもしれません。しかし「金銭のやり取りがなかった」ため、従来の税法では課税できない状況が生まれます。

5.2 政治的支配と「情報独裁」のリスク

民主主義の根幹は「情報の共有と議論の自由」です。しかし、膨大なデータをもつテック企業が、私たちの政治意見や投票行動を左右できるほどの力を持ったとき、それは「情報独裁」の可能性を示唆します。
中国では「ソーシャル・クレジット・システム」が導入され、個人の行動を信用スコア化する取り組みが進んでいます。一方で欧米のSNS企業も、社会を分断する投稿を優先表示するなどのアルゴリズムを広範囲に展開しています。誰がこの情報秩序をコントロールすべきかという問題は、すでに民主主義国家でも深刻な火種となっています。