ユヴァル・ノア・ハラリ「Nexus」レビュー

Taejun

2024年11月1日 18:00

ハラリの最新作の存在をトレバー・ノアのポッドキャストで知ったので早速読んだ。

今のところ今年一番の当たりだったので、思いつくままに感想を書いてみる。

本書のテーマは情報とネットワークだ。ハラリらしく、歴史的な文脈から人類の情報処理とネットワークを振り返り、未来を考えるというものだ。いつも思うのだけれども、彼は比喩と例の引き出しが異常にうまい。

情報とは

そもそも情報とはなにか。ハラリは情報は単体では何も意味を持たないと喝破する。虚偽情報などにあるように、情報は事実を含めることもあるし、そうでないこともある。

ただし、情報は常に人をつなげる役割を果たしている。この点においては、音楽などがよい例だ。音楽そのものが何らかの事実を正確に反映するのは難しいが、それは僕たちをつなげている。

だからこそ、ハラリは情報そのものではなく、それが社会構築においてどのような機能を果たしているのかを考える必要があると説く。

その機能としては大きく３つがある。第一に虚構としての情報は社会に秩序をもたらすこと。第二に真理としての情報は技術進歩や社会の起動修正等の智慧をもたらすこと。そして第三に、その虚構・真理ともに結果として力をもたらすこと。

秩序をもたらす虚構と、智慧をもたらす真理の両輪があってこそ社会は機能する

僕たちホモ・サピエンスが地球で最も繁栄した種になったのは、僕たちが賢いからでも強いからでもなく、大勢の人間で協働できるからだ（これはサピエンスで書かれている）。僕たちが顔すら知らない人とも協力関係を結ぶことができるのは、何らかの物語を共有しているからであるとハラリは主張している。

この物語のことをハラリは「間主観的事実/Intersubjective Reality」よんでいる。これは客観的事実（りんごが落ちた）や主観的事実（私は悲しい）とは違い、大勢の人々の主観的な事実のことだ。たとえば、「我々は数千年の歴史をもつ大和民族である」みたいなものは間主観的事実になる。迷信、教義、イズムなどがこれにあたる。政治家の描くビジョン＝未来の物語も往々にして虚構である。

間主観的事実は真実ではない。どこの国や宗教にも創設神話があるが、それが科学的事実（客観的事実）であると考える科学者はほとんどいないだろう。だけれども、虚構は僕たちホモ・サピエンスを団結させるのに極めて重要な役割を果たしてきた。すこし観点は違うけれども、ベネディクト・アンダーソンも「想像の共同体」でそんなことを話している。

虚構というと悪いイメージがあるかもしれないが、それは決してそうではない。虚構は社会に一定の秩序をもたらしていて、それがなければ僕たちの社会は果てしない闘争にさらされかねない。

一方で、真理は社会を進歩させたり軌道修正する智慧をもたらす。

真実を中心に据えて物事を考える人々の集団も存在してきた。学者たちだ。ギリシャ時代の学者たちもそうだし、現在の科学者集団もそうだ。科学者たちは客観的な事実に依拠し、常に自己否定を続けながら真実に近づこうとする。

ここで重要なことは、真理は社会秩序を成立させるのにあまり役立たないということだ。というのも真理は往々にして複雑だし、救いをもたらすものでない場合もあるし、人を当惑させることも多いからだ。真理を説こうとしたソクラテスが恨みを買って死刑にされてから2500年経った今も、政治においては真理よりも虚構が幅を利かせている。

このあたりはブッダと仏教の関係を思い出させられる。僕はブッダは認識論における極めて優れた哲学者だったと思っている。彼は虚構ではなく真理を説いた。それは例えば「生老病死といった苦しみはなくならないので、瞑想して感覚を制御することで対応するべきである」みたいなことだ。

ブッダの考えは真理であり智慧だったのだけれども、これは大勢の普通の人にとっては救いがなかった。ブッダの真理に共感した人よりも、当惑した人のほうが多かったのではないだろうか。だからブッダ死後の仏教では「これさえ唱えていれば救われる」みたいな流派さえも生まれるようになった。これは明らかに虚構なのだけれども、この虚構がなかったら仏教がここまで拡がることはなかったのだろうと思う。

社会集団が維持され発展するために重要なのは虚構と真理のバランスだ。虚構なしにはそもそもの秩序は存在しないが、真理なしには社会に自己修正メカニズムが働かないのでどこかで破綻するようになる。僕たちの生活だって、建前＝虚構と本音＝真実をうまく組み合わせていくことでようやく成り立っていることを考えてみるとよい。

虚構をつくり出す権威である独裁者や宗教団体は、往々にして自己否定をすることができない（たとえばキリスト教は未だに進化論を認めていない）。そして、権威集団だけが力を持つ社会は、いつか事実に叩き伏せられるようになる（たとえば、科学を完全に軽視した国があるとしたら、その国は科学を大切にする国に戦争で大敗することだろう）。一方で科学者集団が世間をまとめることも難しい。

虚構と真理が有する力をバランスさせることが重要なわけだ。

情報量の増大と社会変化

虚実を常に含んでいる情報が社会に増えるとどうなるか。

「ナイーブな人々」とハラリに称される大勢の人々は、より多くの情報が僕たちを真実に近づけ、社会をよりよいものにすると考えてきた。マスメディアが発生したときに人々はそのように考えたし、GoogleやFacebookの創業当初の社是もそうだった。

だけれども、事実はそうでない。なぜなら、情報が増えると虚構と真理のバランスを取ることが難しくなるからだ。情報を処理する技術が追いつかないと、情報の増大は社会は不安定にする。

情報がきちんと人々に共有され消化されない社会では、民主主義は機能しなくなる。都市国家だったときのローマにおいては共和制が機能していたが、帝国になるにつれてそれは難しくなっていった（当時はマスメディアも存在しなかった）。共和制を壊したのはカエサル個人ではない。ローマ帝国が拡大している一方で情報をローマ帝国の人々につなげる方法は存在しなかったので、帝政に移行せざるをえなかったわけだ。その時代に情報処理の役割を担っていたのは官僚機構の文書行政だった。今も官僚機構は社会に秩序をもたらすために極めて重要な役割を果たしている。

現代においても、比較的民主主義が機能している国には小国が多いが、これは小国だとメディアだけでは伝えられない情報の機微もうまく人に共有されるからという側面はあるのだろう。それと、最近の僕は、日本の民主主義は人口の多い国の中ではもっともちゃんと機能しているではないかとすら思うようになっているのだけれども、その理由は基礎教育のレベルが高いからなのだろうと考えている。

マスメディアは大規模民主主義を可能にする一方で、全体主義監視システムもつくりあげた。スターリン下のソ連がよい例だ。

このことからも分かるように、ある技術はそれそのものによって未来を決めるわけではない。あくまでもそれを利用する人間たちが何を望むのかによって決まる。それはAIに関しても同じことがいえる。

AIによって変わる社会

これまでは、虚構をつくり出すのも真理を発見するのも人間だった。AIの革新的なところは、これからは虚構や真理を機械がつくるようになるということだ。

これはすでに始まっている。ちょっと前にAIがつくったシティポップが話題になっていたけれども、音楽についてはかなり質の高いところまできている（ジャズも見つけたので貼り付けておく）。

音楽のみならず、最近はアートもAIによってつくられるものが増えてきた。創作活動は基本的に新しい技術によって変化し続けるので、これからこの領域の変化はかなり激しくなると思う。

これが何を意味しているかというと、人類史上はじめて、文化（これも社会秩序に必要な虚構の一部）を機械がつくるようになるということだ（その原材料を僕たち人間がつくっているとしても）。今はまだAIのつくる物語は質が高いとはいえないけれども（フェイクニュースはさておき）、そのうち人間を凌駕する質のものを出してきても驚きはしない。

僕たちの思考や行動は僕たちが暮らす文化に影響を受けている。それが意味することは、僕たちはこれまで以上に扇動されやすい世界に暮らすことになるということだ。特にこれからの10年〜20年の間は、AIを使いこなした人たちが作り出す虚構たちが僕たちを扇動する可能性が高まっていくことだろう。これはすでに現実のことになっていて、2021年にはAI彼女に扇動されてエリザベス二世を暗殺しようとした人も現れている。

もちろんAIは科学的真理の発見にも大きな貢献をするので、それがもたらす進歩が、強化された大衆扇動装置を抑制するかもしれない。最初にも述べたように、社会の維持・発展のために大切なことは虚構と真理の相克をつくりだすことにある。

昔よりも遥かに舵取りは難しくなる。より進んだ民主主義が誕生するかもしれない一方で、スターリンも真っ青の全体主義体制が完成するかもしれない。独裁者やカルト指導者が今までのフェイクニュースよりも100倍説得力のある動画やニュースを洪水のようにつくり出す世界を想像してみるといい。

この2000年くらいの文明は、官僚機構と迷信と科学の結びつきに支えられてきた。そして、コンピューターネットワークは新しい官僚機構になる可能性があり、そこから何が生まれてくるのか完全に予想することはできない。

ある意味でAIは核兵器よりも危険かもしれない。核兵器は人間がコントロールする武器であり、人間の意思なしに発射されないが、AIは人間の意思をすり抜ける可能性が十分にある（このあたりはLife3.0にも書かれていた）。どこかでどこかで人間を操作することによって、人間の支配から離れる可能性を否定できない。

もしAIが僕たちに忠実だったとしても、ちょっとした間違い、たとえば「ペーパークリップ製造を最大化せよ」みたいなものを完全に遂行するために地球をすべて破壊し尽くす可能性すらある。だからこそ、最近の研究者たちはよくガードレールの話をしているように思う。

もう一つの人類にとっての危機は、産業革命が帝国主義をもたらしたのと同じように、AI革命がデータ帝国主義をもたらすかもしれないことだとハラリはいう。

マルクスが物象化論で話していたように、人間はある意味で資本・機械に支配されているかのように振る舞うことがある（そもそも農耕社会化はある意味で米や小麦に支配された結果ともいえる）。産業革命時代、早期に産業化した国々は資源を求めて産業化していない国々を征服していった。そして収奪した資源を用いて生産活動を拡大していった。この植民地支配は今の時代にも禍根を残している。

現代ではすでにデータ帝国主義のようなものが始まっている。一部のデータ企業（ほとんど米中）が僕たちの個人情報の全てを握っているのが現状だ。アメリカ政府が、ビッグテック数社が持っているデータを悪用すれば、他国の政治家たちを容易に失脚させることができる。欧州のGDPRやインドのデータ保護などはそれに対抗する手段だけれども、もっと強いガバナンスがないと危ういとしか言いようがない。

この脅威に気づいた国が自国民のデータ保護をより強くしていくと、一つの開けたインターネットが分散していく可能性がある。これをハラリは鉄のカーテンならぬシリコンのカーテンとよんでいる。実際に中国はそれを設けているわけで、データガバナンスをきちんと作り込まないと、同じことがより多くの国で起きる未来を否定することはできない。

よりよい未来のために

警鐘を鳴らしつづけるハラリだけれども、彼の本ではいつも希望が語られている。忘れてはいけないのは、今の社会は大変だけれども、長い目で見れば今の社会のほうが昔よりも良い社会になっていることだ。乳幼児死亡率はこれまでになく下がっているし、殺人も世界中で減少傾向にある。21世紀になってはじめて、僕たちは、軍事よりも福祉により多くのお金を割くようになっている。

技術進歩は社会に方向性を決定づけるものではなく、方向を決定づけるのは（少なくとも当面は）技術をつかう人間だ。

AI時代に民主主義を維持するためにハラリはいくつかの原則を提示している。