『ホモ・デウス テクノロジーとサピエンスの未来 下』を要約する
AIとバイオテクノロジーの台頭は世界を確実に変容させるだろうが、単一の決定論的な結果が待ち受けているわけではない。本書で概説した筋書きはみな、予言ではなく可能性として捉えるべきだ。こうした可能性のなかに気に入らないものがあるなら、その可能性を実現させないように、ぜひ従来とは違う形で考えて行動してほしい。
1. 人間至上主義革命
近代以降、ニーチェの「神は死んだ」に代表されるように、人間の自由意志を中心に据えた人間至上主義が主流になった。人間至上主義は、人間が自分の内なる経験から人生の意味を見出すことを求め、人生の目的は多様な知的、情動的、身体的経験を通じて知識を深めることだと説く。
人間至上主義によれば、人間は内なる経験から、自分の人生の意味だけではなく森羅万象の意味も引き出さなくてはならないという。意味のない世界のために意味を生み出せ――これこそ人間至上主義が私たちに与えた最も重要な戒律なのだ。
p.45［第7章 人間至上主義革命］
人間至上主義は正統派、社会主義的、進化論的の三つの宗派に分かれる。正統派は個人の自由意志と独自性を重視し、単に「自由主義」とも呼ばれる。社会主義は他者への共感と団結を強調し、進化論的人間至上主義はダーウィンの進化論に基づき、自然選択と争いを肯定する。
20世紀は自由主義を強化した時代であった。NATOの相互確証破壊（MAD）ドクトリンの下で、核兵器が自由主義を守る盾となり、消費文化が社会の原動力となった。社会を動かす力としては強制労働所よりもスーパーマーケットのほうが強力だった。自由主義は冷戦で勝利し、人間至上主義の宗教戦争に終止符を打った。これにより、自由主義は世界の主要な思想として確立されることとなる。
南ヨーロッパに始まり、スペイン、ギリシャ、ポルトガルの独裁政権が倒れ、民主的な政府に道を譲った。1977年、インディラ・ガンディーは非常事態宣言を解除し、インドの民主主義を復活させた。1980年代には東アジアとラテンアメリカで、ブラジルやアルゼンチン、中華民国、韓国などの軍事独裁政権が民主的な政権に取って代わられた。80年代後期から90年代初期には、自由主義の波は強大なソヴィエト帝国を一呑みにし、いわゆる「歴史の終焉」の到来を期待させた。
p.114［第7章 人間至上主義革命］
2. 自由意志か、アルゴリズムか
自由主義は人間の自由意志を最高の権威と見なすが、最近の研究ではその自由意志の存在が疑わしい。例えば、暴力行為の背景には人間の完全な自由意志ではなく、脳内の電気化学的プロセスや遺伝的素質が関わっていることが指摘されている。さらに、このプロセスは外部からコントロール可能であることも明らかになっている。
科学者はラットの脳に電極を埋め込み、リモートコントロールで操作する「ロボラット」を開発した。これにより、ラットは普段嫌がる行動さえも強制的に行わせられる。人間においても、愛情や恐怖、憂鬱などの感情が脳の特定の部分を刺激することで操られる可能性が示されている。アメリカ軍は脳にチップを埋め込む実験を進め、心的外傷後ストレス障害の治療に応用しようとしている。また、エルサレムのハダサ病院では、うつ病患者の脳に電極を埋め込む治療法が試みられており、一部の患者に効果が見られている。
また、科学の進歩により、人間は経済的有用性と軍事的有用性を失いつつある。経済的には人々は、さまざまな仕事の管理者たちさえも、AIに置き換えられる。オックスフォード大学の研究では、アメリカの仕事の47パーセントが深刻な危機にさらされるだろうという。また、軍事的には、無人ハイテク機器を活用した戦略、もしくはサイバー戦争が主流になるため、大多数の人間は不要なる。科学の進歩は、集団としての人々、もしくは特定の少数の人々には良い影響をもたらすかもしれないが、多くの人々の有用性が無くなっていくのは避けられないだろう。
もし科学的な発見とテクノロジーの発展が人類を大量の無用な人間と少数のアップグレードされた超人エリート層に分割したなら、あるいはもし権限が人間から知能の高いアルゴリズムの手にそっくり移ったなら、そのときには自由主義は崩壊する。そうなったとき、そこに生じる空白を埋め神のような私たちの子孫のその後の進化を導いていくのはどんな新しい宗教あるいはイデオロギーなのだろう?
p.252［第9章 知能と意識の大いなる分離］
3. 新しいテクノ宗教
シリコンバレーにいるハイテクの権威たちが、神に代わる新宗教を創造し始めている。幸福、平和、繁栄、さらに永遠の命をテクノロジーを通じて地上で実現することを約束する。この新しいテクノ宗教は、テクノ人間至上主義とデータ至上主義という二つの主要なタイプに分けられる。テクノ人間至上主義では、現在の人間モデルが時代遅れとされ、テクノロジーを使って進化した「ホモ・デウス」を生み出すことを目指している。これは、以前の進化論的人間至上主義やヒトラーの超人創造とは異なり、遺伝子工学やナノテクノロジーの助けを借りて、もっと平和的に目標を達成することを望んでいる。
ただし、テクノ人間至上主義も人間の自由意志を最高の権威と見なす点で自由主義と根幹は変わらない。自分の意志をデザインしたりデザインし直したりできるようになった日には、もう私たちは自由意志をあらゆる意味と権威の究極の源泉と見なすことはできないだろう。なぜなら、たとえ私たちの意志が何と言おうと、いつでも別のことを言わせられるからだ。
テクノ人間至上主義は、私たちの欲望がどの心的能力を伸ばすかを選び、それによって未来の心の形態を決めることを見込んでいる。とはいえ、テクノロジーの進歩のおかげで、まさにその欲望を作り変えたり生み出したりできるようになったら、何が起こるのか？
テクノ人間至上主義も倫理的な問題を解決できない。私の目標達成にテクノロジーは大いに役立つが、その「私」自体が改変可能なのだ。民主的なプロセスで決まる国策もテクノロジーによってハイジャックされてしまう。国民があれこれを望むようにと作り変えられてしまう。その時、富や幸福など、何を最も重要な指標とするのか。これまで「神」が占めたポジションに取って代わられる存在としては、自由意志はかなり不安定である。
4. 人間に取って代わるもの＝情報
データ至上主義では、全てはデータフローで成り立っていて、物事の価値はそのデータ処理への貢献度で決まるとされる。これが科学界で主流になっている。自由市場資本主義者が市場の「見えざる手」を信じるように、データ至上主義者はデータフローの「見えざる手」を信じている。彼らはグローバルなデータシステムが全知全能になると考え、人々がデータフローに統合されることがすべての意味の源だと見なす。伝統的宗教が神が全てを見守ると言うのに対し、データ至上主義はアルゴリズムが人々の行動や感情に常に関心を持っていると主張する。
例えば、株式取引は人間が作った最も速く効率的なデータ処理システムの一つである。誰でも参加でき、銀行や年金基金を通じても可能。株式取引は世界経済を動かし、地球上や宇宙での出来事を反映する。科学実験の結果、政治スキャンダル、火山爆発、太陽の活動など、あらゆる情報が株価に影響する。システムは多くの情報が自由に流れることでスムーズに機能する。何百万人もの人が情報にアクセスし、その取引で価格が決まる。例えば、「ニューヨーク・タイムズ」の見出しの影響を株式市場が判断するのにかかる時間は約15分と推定される。
過去数十年で民主主義が優位に立ったのは、分散処理が効果的だったからだ。しかし、今後はデータの増加と速度の向上に伴い、選挙や議会などの従来の制度が非効率的であるために廃れるかもしれない。これは非倫理的だからではなく、単にデータ処理に不向きなためだ。政治はテクノロジーの進展に比べて遅れがちで、特に現代ではテクノロジーの進歩が政治の進展を大きく上回っている。
21世紀の今、私たちは前例のない演算能力と巨大なデータベースを使った優れたアルゴリズムを開発している。グーグルとフェイスブックのアルゴリズムは、あなたの感情を正確に知るだけでなく、あなた自身が気づいていない多くのことも把握している。そのため、自分の感情に頼るのをやめ、これらの外部アルゴリズムに耳を傾けるべきだという考えが出てくる。一人一人の投票先だけでなく、民主党や共和党に投票する神経学的理由もアルゴリズムが理解しているなら、民主的な選挙の意味は何だろうか。
人間中心からデータ中心への世界観の変化は単なる哲学的な革命ではなく、実際的な革命になるだろう。真に重要な革命はみな実際的だ。「人間が神を考え出した」という人間至上主義の発想が重要だったのは、広範囲に及ぶ実際的な意味合いを持っていたからだ。同様に、「生き物はアルゴリズムだ」というデータ至上主義者の発想が重要なのは、それが日常生活に与える実際的な影響のためだ。発想が世界を変えるのは、その発想が私たちの行動を変えるときに限られる。
p.318［第11章 データ教］
5. 結び
ハラリは技術の進歩がもたらした成果と宗教的な影響を分析し、過度な自由競争が引き起こすディストピア的な結果に対して警告を発する。ハラリが示す未来像はまだ現実離れしているように思われるが、既に一部の仕事はAIによって代替されている。もし人々がこのような未来を望まないのであれば、今日から少しずつ行動を変えていくべきだ。
一方で、本書は「実存的不安」をサブテーマにして通読すると面白い。人間の有用性が失われたとき、私たちは何を生きがいに生きていくのか。アルゴリズムの推奨に沿って行動する人生にどんな意味があるのか。あなたの就職先、人間関係、趣味嗜好もすべてアルゴリズムに決められるとき、あなたの実存的意味は崩壊せずにいられるのだろうか。ナビが出てから人々が土地勘を失ったように、AIの濫用によって人生における方向感覚を見失ってはいけない。楽だからといって、人生の主導権をAIに引き渡してしまったとき、あなたはシステムの単なる一部になってしまう。