NEXUS（第1部）: 民主主義はAI革命を生き延びられるか？（ユヴァル・ノア・ハラリとともに）

20,793 文字
次回:NEXUS (パート2): ユヴァル・ノア・ハラリが語るAI時代における人類の安全を守る方法｜AIに仕事を奪われたい (note.com)

LinkedInがお届けします。わたしはルーファス・グリソムです。これが次なる大きなアイデアです。
今日は、AIが民主主義の未来にとってどういう意味を持つのかについて考えていきます。
先週、ニューヨーク市で200人のファンの皆さんと一緒に特別なゲストをお迎えして、ライブポッドキャストの収録を行いました。そのゲストがユヴァル・ノア・ハラリです。
もしかしたらこのお名前をご存じない方もいらっしゃるかもしれませんが、彼の最初の著書『サピエンス』はきっとご存知でしょう。後に出版された『ホモ・デウス』や『21世紀の21の講義』と合わせて、4000万部以上も売れたんです。
わたしがユヴァルと話をしたのは、彼の待望の新刊『NEXUS：石器時代からAIまでの情報ネットワークの簡単な歴史』が出版された後でした。
なんでこんな、人類の歴史を俯瞰して未来を予測するような本が、若いイスラエルの歴史学者によって書かれたのに、スティーブン・キングのスリラー小説みたいに売れたんやろか？
それはおそらく、人類の物語がうまく語られると、本当にスリラーみたいやからなんです。貪欲で賢い動物が、何度も何度も世界を作り変えて、その過程で自分たちの未来を脅かしてしまう。そんな物語やからです。
ハラリの最新作『NEXUS』の主張は比較的シンプルです。人類の歴史を通じて、粘土板や印刷機、電信や SNS といった強力な新しい情報技術を発明するたびに、人間社会の基盤が揺らいできました。しばしば壊滅的な結果をもたらしながら。
じゃあ、わたしたちの最新の発明である人工知能については、どう考えたらええんでしょうか。
ユヴァルはこう言うてます。
「大きな情報技術の変革が起こると、民主主義に地震が起きるんです。そして今、わたしたちはそれを世界中で経験しています。もし注意を払って何かをしなければ、この情報革命のせいで、民主主義は数年のうちに崩壊するかもしれません。」
人類の物語は続いています。そして今、わたしたちはクライマックスを迎えようとしています。今回の危機をどうやって乗り越えられるでしょうか？
ユヴァル・ノア・ハラリに聞いてみましょう。
LinkedInポッドキャストネットワークは、SAPがスポンサーです。SAPのビジネスAIを使えば、ビジネス全体でAIの力を活用し、関連性が高く、信頼性があり、責任ある結果を達成できます。革新的な技術、現実世界の結果。それがSAPビジネスAIです。
このエピソードは、フォードがお届けします。生活に閉じ込められたとき、ブロンコ・オフ・ロデオが処方箋です。究極のフォード・ブロンコ体験で、誰でも参加できます。broncooffroadeo.comでサインアップしてください。
ユヴァル・ノア・ハラリ、次なる大きなアイデアへようこそ。
ありがとうございます。ここに来られて嬉しいです。
ユヴァル、前回お会いしたとき...失礼しました、お帰りなさいと言うべきでしたね。前回お会いしたとき、あなたはこう言われました。「人間は物語で考えるんです。人々の心に届くには、物語を語らなあかんのです。」
わたしにも物語があります。2003年、まだ無名やった若いイスラエルの歴史学者が、「世界史入門」という控えめなタイトルの授業を教えていました。
彼は内気やったんで、講義を書き起こして生徒たちと共有しました。生徒たちはそれをコピーして配り始めました。
この若い歴史学の教授は、他の人も人類の物語を読みたがるんちゃうかと思って、アマゾンで自費出版しました。タイトルは『動物から神へ』。2000部も売れませんでした。
そこで彼は本を磨き上げて、より良い文学エージェントを見つけ、新しい名前で出版しました。『サピエンス』というタイトルです。2500万部売れました。
この若い歴史学者はもっと本を書き、サピエンスシップという財団を設立しました。その使命は、知識と思いやりの種をまき、人類が直面する最も重要な課題について世界的な対話を促進することでした。
きっと若い頃のあなたは、この物語を聞いてびっくりするでしょうね。なぜ『サピエンス』やあなたの他の本がこんなに反響を呼んだと思いますか？
思うに、まず多くの人々の懸命な努力の結果やと思います。わたしの名前が表紙に載っていますが、実際には大勢の人が懸命に働いたんです。
良い本はたくさんありますが、同じように注目されへんかったものもあります。子育てに部族が必要なように、成功した本を作るにも、献身的な人々がたくさん必要なんです。
最終的に1人の名前しか載らへんとしてもね。
それに加えて、本当にニーズを満たしたんやと思います。今や世界はグローバル化していますが、少なくとも世界中の教育システムの大半は、自国や自分の宗教、自分の文化の物語しか教えません。
それはそれで大切なことですが、わたしたちが誰なのかを理解するには十分ではありません。本当に深く、幅広く考える必要があるんです。
なぜなら、わたしたち一人一人が世界中から集まってきた断片でできているからです。遺伝子のことだけやなくて、食べ物やスポーツのことも言うてるんです。
コーヒーが好きなら、それを栽培したエチオピアの人々に感謝せなあかん。コーヒーに砂糖を入れるなら、砂糖を栽培したニューギニアの人々に感謝せなあかん。
サッカーを観るのが好きなら、イギリス諸島でそのスポーツを発展させた人々に感謝せなあかん。
この意味で、今日のわたしたちの生活を理解するには、地球全体の歴史を本当に理解する必要があるんです。
わたしの説明はこうです。『サピエンス』がこれほど多くの部数を売れたのは、学術的な議論の多くを取り除いて、わたしたちの種の物語を直接的かつ簡潔に語ったからやと思います。
あなたは、わたしたちに一種の世俗的な起源の物語を提供したんです。わたしたちは起源の物語を渇望しています。なぜなら、わたしたちは皆、あなたが言うように、自分たちが誰で、どこから来たのかを理解したいからです。
あなたが新刊『NEXUS』の冒頭で言うているように、情報が行う最も重要なことの1つは、わたしたちをつなげることで秩序を作り出すことです。起源の物語はこれを行います。
残念ながら、真実の物語で人々をつなげるのは難しいです。あなたが指摘するように、真実の物語は架空の物語ほど柔軟ではありません。
でも『サピエンス』は、少なくともほとんど真実やと言えるでしょう。そして両方を実現したんです。起源の物語を通してわたしたちをつなげ、真実も語ることができた。少なくともそれが野心やったんですね。
あなたは『サピエンス』の後、『ホモ・デウス』を出版しました。神のような力を追求することについての本です。
2016年に出版されたんですが、驚くことに今から8年前です。
わたしは出版された時に読んだのを覚えています。これは、人工知能に対する一般の人々の興奮が起こるずっと前のことでした。GPT-1は2年後の2018年に登場し、ChatGPTが一般の人々の意識に爆発的に広まったのは2022年末、つまり2年も経っていません。
あなたは『ホモ・デウス』でAIの力が増大することの必然性について、時代を先取りして書いていました。
8年前にこう書いています。「アルゴリズムが人間を労働市場から押し出すにつれて、富はごく少数のエリートの手に集中するかもしれない。」
『ホモ・デウス』を書いてから、人工知能の進歩はあなたの予想を超えましたか？
そうですね、わたしや多くの人が予想していたよりもずっと速く進んでいます。
これによって、緊急性の感覚が生まれています。2016年には理論的な哲学的議論やったような問題が、今では即座に対処せなあかん緊急の政治的・社会的問題になっています。
よく「AIやアルゴリズムが世界に与える影響について心配するのは早すぎるんちゃうか」という質問を受けます。
わたしにとっては、もうほとんど遅すぎるくらいに思えます。
もしハリウッド的なSFシナリオ、ロボットの反乱を心配せなあかんと考えているなら、確かにロボットの反乱を心配するのは早すぎます。
でも、例えばわたしたちの民主主義システムへの実際の影響を見てみると...今、わたしたちは史上最も洗練された情報技術を持っていますが、お互いに話をする能力を失いつつあります。民主主義的な会話が崩壊しつつあるんです。
どの国にも、その国特有の社会的・政治的状況や出来事について独自の説明があることはわかっています。
なぜ会話が崩壊しているのか、なぜ民主党と共和党がここで理性的な会話をし、事実に同意し、お互いの話を聞くことが不可能になっているのか。
でもブラジルに行っても同じことが起こっています。イスラエルに行っても、フランスに行っても、インドに行っても、フィリピンに行っても、同じことが起こっています。会話が崩壊しているんです。
民主主義の本質は会話です。それが全てです。1人の人間が全員に何をすべきか命令するのではなく、グループの人々が互いに話し合うことです。
会話は情報技術に基づいています。石器時代の小さな集団のように、ごく少数の人々なら、技術は必要ありません。ただ輪になって話せばいいだけです。
でも何百万人もの人々が会話をしようとすると、適切な技術がなければ不可能です。
近代後期まで、大規模な会話を可能にする技術はありませんでした。だから大規模な民主主義はなかったんです。
わたしたちが知っている例は全て小規模なものです。部族や、古代アテネのような都市国家です。
新聞やラジオ、テレビができて初めて、大規模な民主主義が見られるようになりました。
つまり、民主主義は情報技術の上に成り立っているんです。それは付随的なものではありません。
情報技術に大きな変革が起こると、民主主義に地震が起きます。そして今、わたしたちはそれを世界中で経験しています。
注意を払って何かをしなければ、この情報革命のせいで、民主主義は数年のうちに崩壊するかもしれません。
だから、2016年には遠い将来の心配事やったものが、2024年にはもうほとんど手遅れになりつつあるんです。
これが『NEXUS』の中心的な主張ですね。情報技術が進歩するにつれて、社会構造の変化を促してきたということです。
エピローグで、あなたは『ホモ・デウス』を書いた後、世界のリーダーや技術企業のトップと会う機会に恵まれたと書いています。
突然、みんながあなたをAIの専門家として見るようになったんですね。
そして、彼らが情報ネットワークの歴史を本当に理解していないことに気づいたんです。彼らは何を理解していなかったんですか？
彼らは通常、情報ネットワークの歴史について非常に素朴で楽観的な見方をしていました。
例えば、こんなことをよく聞きました。「印刷革命は中世のカトリック教会の情報独占を打ち破ったんや。そのおかげで科学革命が起こったんや。今、わたしたちはインターネットやAIの創造で同じことをしているんや。」
これは、印刷革命や科学革命の初期段階で実際に何が起こったのかを完全に無視しています。
印刷革命は科学革命をもたらしませんでした。ヨーロッパ史上最悪の宗教戦争と、最悪の魔女狩りをもたらしたんです。
魔女狩りのピークは中世ではありません。印刷革命後の近代初期やったんです。
この種の素朴さや無知は、最近の数十年でも経験しました。
1990年代には、インターネットや後のソーシャルメディアが真実を広め、専制政治を崩壊させ、民主主義を広めるという約束がたくさんありました。
今では逆のことが起こっていることに気づいています。
そうですね。本の最初から始めましょう。粘土と棒による文字の誕生です。文字の始まりですね。
文字は人間社会の構造をどのように変えたのでしょうか？
文字は良い例です。技術的には非常にシンプルなんです。
あなたが言うように、粘土は基本的に泥です。人々が泥で遊んでいるだけです。
粘土板は単なる泥の塊で、人々は棒を取って泥に小さな印をつけます。これが文書になるんです。
この非常にシンプルな技術が、社会的、政治的、経済的な現実を完全に変えてしまいます。全く新しい政治システムの創造を可能にしたんです。
一つの例を挙げましょう。所有権の意味について考えてみてください。
フィールドを所有するということは、どういう意味でしょうか？このフィールドが自分のものだということは、どういう意味なんでしょうか？
文字が生まれる前、古代メソポタミアの小さな村に住んでいたとしましょう。所有権とは、隣人たちがこの土地は自分のものだと言うことを意味します。
だから彼らはそこで山羊を放牧したり、わたしの許可なしに果物を摘んだりしません。
所有権とは、コミュニティの合意を意味します。
これにはいくつかの影響があります。例えば、私有財産権を執行するのが非常に難しくなります。コミュニティに依存しているからです。
コミュニティがあなたの土地を見知らぬ人に売ることに同意しなければ、あなたはそれをすることができません。彼らが所有権を決定するからです。
もう一つの意味は、何千キロも離れた首都にいる王様が、村から税金を徴収するのが非常に難しいということです。
文書がないからです。メソポタミアの数百の村で、誰がどの畑を所有しているのかを誰が覚えていられるでしょうか？
村の隣人たちは知っていますが、遠い首都の王様は知りません。
だから大きな王国はなかったんです。
そして、この泥の塊が全てを変えます。
突然、フィールドを所有するということは、このフィールドは自分のものだと書かれた乾いた泥の塊があるということを意味するようになります。
これが馬鹿げていると思うかもしれませんが、今日でもまだそうなんです。わたしたちは泥を紙に、一部の場所ではデジタルファイルに置き換えただけです。
でもそれだけです。所有権とは、このフィールドは自分のものだと書かれた文書がどこかにあるということを意味します。
全ての隣人が「いや、それはあんたのもんちゃう」と言っても、わたしはその紙切れを裁判所に持っていくことができます。そうすれば、裁判所と警察がわたしの主張を支持してくれるでしょう。それはわたしのものなんです。
これは例えば、隣人たちの合意なしに、この土地を売ることができるということを意味します。
土地を売るには、あなたがわたしに山羊か金の塊をくれて、わたしがあなたに乾いた泥の塊を渡せばいいんです。これであなたがフィールドの所有者になります。コミュニティの合意は必要ありません。
だから、個人の財産権はより強くなります。
同時に、権威主義的な政権の力も強くなります。
なぜなら、遠い首都の王様が「素晴らしいアイデアだ」と言うからです。「ここにメソポタミア全土の畑を記録した乾いた泥の塊をたくさん集めたアーカイブを持つことができる。これでわたしは誰が何を所有しているのかを知ることができる。今なら税金を集めることができる。その税金で警備員や兵士を雇って、自分の意志を押し付けることができる。」
この非常にシンプルな発明が、こんなに大きな革命を引き起こすんです。
そして重要な教訓の一つは、同じ技術がしばしば矛盾する結果をもたらすということです。
コミュニティの犠牲の上に、個人の権利と中央権力の両方を強化するんです。単に権威主義だけではなく、個人主義だけでもありません。それらは一緒に進むんです。
あなたは、大規模な民主主義と全体主義は、印刷機の発明以前には不可能だったと主張しています。
これはわたしにとって新しい情報でした。ローマ共和国の民主主義の失敗は腐敗が原因だと思っていました。
ネロや、あの腐敗して貪欲なシーザーたちのことを思い浮かべますよね。
でもあなたは、そうではないと言います。その歴史的瞬間には、民主主義システムを基本的に都市国家以上に成長させることは単に不可能だったんだと。
そうです。有名な例としてアテネがあります。他にもたくさんの例があります。最も有名なのはアテネと共和制ローマです。
これらはどちらも都市国家です。単一の都市を超えて成長し、帝国を征服すると、民主主義であることをやめてしまいます。
なぜなら、単純に会話を持続することができないからです。
古代ローマで、重要な決定を下さなければならないとき、例えば戦争をするか平和を結ぶかといったとき、市民の大部分がフォーラムに集まって、感動的なスピーチを聞いて、何をするか決めることができました。
彼らはお互いに話をすることができ、お互いを知っていました。
でもひとたびこの都市を超えて成長し、イタリア全土、そして地中海全体に広がると...
実際、ローマはアテネと違って、植民地に市民権を与えることはありませんでしたが、ローマは最終的に帝国内のすべての自由民に市民権を与えました。
例えば、自身が北アフリカ出身の家系だったカラカラ皇帝は、紀元212年に帝国内のすべての自由民に自動的にローマ市民権を与えました。
これで帝国内のすべてのアラブ人がローマ人になり、すべてのユダヤ人がローマ人になり、すべてのブリトン人がローマ人になり、すべてのゲルマン人がローマ人になりました。
でも全ての決定は1人の人間によってのみ下されます。そしてその1人とはカラカラです。
市民権はありますが、それは実際の政治的権利を意味しません。
これはカラカラがそんなにひどい人間だったからではありません。彼はかなりひどい人間でしたが、それが理由ではありません。
単に、できないからなんです。例えば、ドナウ川でドイツ人たちが帝国に入ろうとしている移民危機があったとします。彼らを帝国に入れるべきかどうか。
ナイル渓谷の農民と、ブリタニア属州の羊飼い、シリアの商人たちの間で会話を持つことはできません。
「ドイツ人たちを帝国に入れるべきだと思いますか、それとも入れるべきではないと思いますか？」
そんな会話を持つための技術がないからです。
もしこれがカラカラやローマ皇帝たち一般の過ちだったなら、他のどこかで大規模な民主主義を見ることができたはずです。ペルシャや、インドや、アメリカや、中国で。
でも、わたしたちが世界中で見るのは、小規模な社会、部族や都市国家はしばしば民主主義的ですが、ある規模を超えると、全て権威主義的になるということです。
興味深いことに、人々が民主主義を知らなかったわけではありません。
ローマ人たちは、ローマ帝国が実際に独裁的な帝国になってずっと経った後も、ローマ帝国が民主主義であるふりを続けました。
小規模な状況では、まだ民主主義的に機能することができました。
例えば、ローマ帝国のほとんどの都市では選挙を行い、選出された役人がいて、民衆集会があり、比較的民主主義的な方法で運営されていました。
例えば、ポンペイでは...ポンペイは紀元79年にヴェスヴィオ山の噴火で破壊されました。ヴェスヴィオ山が爆発して、ポンペイを溶岩の下に埋めて、奇跡的な方法で保存したんです。
考古学者たちが発見したものの1つは、紀元79年のポンペイで行われる予定だった選挙に関する何百ものラクガキです。
そのいくつかは本当に面白いんです。例えば、推薦文があります。「ラバ使いたち全員が、ガイウスをポンペイの長官に推薦します」というようなものです。
そして、こんな裏技もあります。「酔っ払い全員がヴァラを支持しています」「こそ泥全員がヴァラを支持しています」「あなたがヴァラに投票すべき理由は...」
ある意味で、これは本当の選挙だったんです。
でも、これが可能だったのはポンペイが約1万から1万1000人の小さな都市だったからです。だからまだ会話を持つことができたんです。
何百万人もの人々が会話を持つことが可能になるのは、18世紀、19世紀になってからです。新聞が登場し、その後、電信やラジオ、テレビなどが登場してからです。
近代政治において新聞編集者の力が非常に大きかったのは偶然ではありません。
民主主義でも独裁政治でも、近代政治の重要な指導者の多くは新聞編集者として始めました。
レーニンは、ソビエトの独裁者になる前の唯一の仕事は基本的に『イスクラ』の編集者でした。
ムッソリーニは、イタリアの独裁者になる前に、まず社会主義新聞のジャーナリストでした。そして後にファシスト新聞を創刊し、その新聞の編集長になりました。これが独裁者になる前の彼の仕事だったんです。
そして、大規模な民主主義を可能にしたこれらの同じ技術が、大規模な全体主義も可能にしました。
古代メソポタミアの泥の塊と同じように、両方向に作用するんです。
全体主義は権威主義とは違います。
権威主義体制では、ローマ皇帝のような1人の人間がすべての政治的決定を下します。例えば、戦争をするかどうかといったことです。
でも彼は、ほとんどの個人の日常生活をほとんど管理していません。
全体主義は、独裁者や政党が人々の生活の全体を完全に管理しようとする状況です。
限られた数の政治的決定、例えば戦争をするかどうかといったことだけでなく、すべての経済的決定、すべての社会的決定、すべての文化的決定を下そうとします。
彼らは各工場が何を生産するか、各製品がいくらするか、どの本の出版が許可されるか、どの演劇が上演されるべきかを決めたいと思います。彼らはすべてを決めたいんです。これが全体主義です。
古代世界では、全体主義体制を作ることは不可能でした。再び、せいぜい1つの都市を超えてはできませんでした。
人々が試みなかったわけではありません。例えば中国の秦王朝は試みましたが、できませんでした。
人々の生活をそこまで管理するには、情報技術が必要なんです。
大規模な民主主義を妨げた同じ問題が、大規模な全体主義体制も妨げたんです。
だから、大きな組織のほとんどは、ある意味で低レベルの権威主義体制でした。
ネロやカラカラに税金を払い、軍団に反抗せず、それだけです。彼らはあなたを好きなように生きさせます。
全体主義は、大規模な民主主義と同じ時期に、20世紀に台頭します。
なぜなら、大規模な民主主義的な会話を可能にする同じ技術が、モスクワの共産党が何千キロも離れた場所で人々の生活の全てを細かく管理しようとすることも可能にするからです。
これらの同じ技術は、あなたが本で詳しく説明している人類史のもう一つの暗い章も可能にしました。
わたしはこのことをあまり知りませんでしたが、特に印刷機が魔女狩り狂騒曲を可能にしたんですね。
わたしはアメリカ人はセイラムの魔女裁判のことはよく知っていると思いますが、ヨーロッパで起こった魔女狩り狂騒曲の規模と破壊力は驚くべきものです。
これは、今日わたしたちが目にしているQアノンや多くの集団妄想の先駆けですね。
これはどのように始まったのでしょうか？何がこれを可能にしたのでしょうか？
これは今日にとって重要な物語です。なぜなら、情報技術に対する素朴な考えを払拭するのに役立つからです。
先ほど言ったように、シリコンバレーに行けば、多くの人が「印刷革命がどれほど素晴らしかったか見てください。科学革命をもたらしたんです」と言っているのを聞くことができます。
実際には、グーテンベルクが15世紀半ばに印刷技術をヨーロッパに導入してから、17世紀半ばにニュートンらとともに科学革命が花開くまでには200年の開きがあります。
その200年の間にヨーロッパで見られたのは、ヨーロッパ史上最悪の宗教戦争と最悪の魔女狩りでした。
魔女狩りは中世の現象ではありませんでした。中世のほとんどのヨーロッパ人は魔女を気にしていませんでした。
魔術を信じていたとしても、それが重要だとは考えていませんでした。村の誰かが魔法の力を持っていると思われていても、誰かに恋をしたら愛の媚薬を作ってくれたり、牛が盗まれたら失くした牛を見つける手伝いをしてくれたりするくらいでした。彼らは悪ではありませんでした。
そして15世紀になると、陰謀論が始まります。サタン崇拝者の魔女による世界的な陰謀があるというものです。
ここかしこに孤立した個人がいるのではなく、世界中の魔女が実際には人類文明を破壊することを目的とする、サタンが率いる単一の組織の一部だという世界的な陰謀です。
彼らは地獄の嵐を呼び起こし、人々を殺すというんです。
これは最初、広まりませんでした。多くの人々はこれを信じず、実際、教会もこれを拒否しました。
教会は、魔術への信仰は非キリスト教的な迷信だと主張しました。
長い話を短くすると、一つの重要な転換点は、本当に狂った個人、ハインリヒ・クラーマーという名前の人物が現れたときでした。
彼は陰謀論を信じ、オーストリアのアルプス地方で一種の自主的な魔女狩りを始めました。
人々を逮捕し、そして地元の教会当局は「この人は狂っている」と言って、容疑者を釈放し、彼を追放しました。
彼は印刷機を通じて復讐しました。これはグーテンベルクがヨーロッパに印刷技術を導入してすぐ後のことでした。
彼は印刷機を通じて復讐し、印刷時代最初のベストセラーの一つとなり、近代の魔女狩りの基本的なテキストとなった本を書きました。
『魔女に与える鉄槌』という本で、これらの狂った陰謀論とファンタジーに満ちていました。
この本の味を少し紹介しましょう。魔女が男性からペニスを盗む能力についての章がありました。
彼は証拠を挙げています。例えば、ある朝目覚めて自分のペニスがなくなっていることに気づいた男の話を語っています。
彼はすぐに地元の魔女を疑います。そこで魔女のところに行って、「わたしのペニスを返せ」と強要します。
魔女は「わかった、わかった。あなたのペニスを返すわ」と言います。彼女は男に「木に登って」と言います。彼は木に登ります。
「木の頂上に鳥の巣があるわ。そこにわたしが全ての男性から盗んだペニスを全部置いているの」と彼女は言います。
彼は木に登って巣を見つけ、そこには確かにたくさんのペニスがあります。
彼女は「さあ、あなたのを取っていいわよ」と言います。
彼はもちろん一番大きいのを取ります。すると魔女は「だめよ、それは取れないわ。それは教区の司祭様のよ」と言います。
今みんな笑っていますが、これは涙で終わりました。
なぜなら、この本は...コペルニクスの全ての惑星の動きについての数学的な方程式はあまりベストセラーになりませんでしたが、『魔女に与える鉄槌』は大ヒットしたからです。
これが16世紀から17世紀にかけてのヨーロッパの大魔女狩り狂騒曲の基礎、あるいは主要なテキストの一つとなりました。
これによって何万人もの人々が殺害されました。その大半は女性でした。
ところで、魔女と女性を結びつけたのはクラーマーです。中世では、ほとんどの魔女が女性だという考えは一般的ではありませんでした。
クラーマーがこの考えを導入し、あるいは普及させたんです。彼は魔術を性的なものにしました。
この本は、サタンへの乱交的で小児性愛的で食人的な崇拝に満ちています。
これは恐ろしい結果をもたらしました。
もう一つの話を紹介しましょう。1600年、ドイツのミュンヘンで、ポッペンハイマー家が魔女の一家だと告発されました。
当局はポッペンハイマー家全員を逮捕しました。母親、父親、3人の子供です。最年少の子供ハンセルは10歳でした。
彼らは尋問を、10歳の少年を拷問することから始めました。彼が一番弱い環だからです。
本当に言葉に表せないほどひどい方法で彼を拷問し、最終的に彼の母親が魔女だと白状させました。
この自白を得ると、家族の運命は決まりました。
そして他の家族メンバーも拷問します。彼らは近くの畑の作物を破壊するために雹の嵐を呼び起こした罪、子供たちを殺害した罪、魔術で何十人もの人を殺した罪で告発されました。
彼らは全員処刑されました。再び、火あぶりの刑に処され、体は熱いペンチで引き裂かれました。
彼らは10歳の子供に、両親と年上の兄弟姉妹が処刑されるのを見るよう強制し、それから彼も処刑しました。
とても面白い本から始まりましたが、涙で終わったんです。
今日、インターネットやソーシャルメディアで広まっている陰謀論を見ると、『魔女に与える鉄槌』にまで遡ることができます。
驚くべきことです。ピザゲートや、ワシントンDCのピザレストランに銃を持って乱入した狂った男のことを読むと、「ああ、これは現代特有の妄想の形だ」と思いますよね。
ヒラリー・クリントンが地下室で小児性愛ネットワークを運営しているとか...
でも、そうではないことがわかります。
これは、情報の自由な流れと情報の配布が、自動的に真実の出現やヒトの協力につながるわけではないということを、かなり明確に示していると思います。
もし情報を作り、広めるのを容易にする情報技術を作るだけで、知識や知恵、進歩につながるという考えは、歴史を見ると、そうではないことが何度も何度もわかります。
なぜそうなのかもわかっています。真実は非常に稀で高価な種類の情報なんです。ほとんどの情報は真実ではありません。
真実は高価です。なぜなら研究や投資が必要だからです。
何かについて、古代メソポタミアについてでも今日の出来事についてでも、真実の説明を書きたいなら、研究に多くの時間とお金と労力を投資する必要があります。
一方、フィクションやファンタジーは安上がりです。何も投資する必要はありません。頭に浮かんだことをそのまま書けばいいんです。
もう一つは、真実はしばしば複雑ですが、フィクションは可能な限り単純にできるということです。人々は単純な物語を好みます。
例えば、わたしの畑を破壊した雹嵐の原因は何か。魔女がやったという物語は、気候を理解するよりもずっと理解しやすいです。
最後に、真実はしばしば痛みを伴い、魅力的ではありません。一方、フィクションは好きなだけ魅力的にできます。
個人のレベルから国家全体のレベルまで、わたしたち自身について真実であるが知りたくないことがたくさんあります。
真実は、しばしばわたしたちに不快なことに向き合うことを強いるんです。
あなたが指摘するように、自国の歴史について正確に語る政治家は、多少フィクションの要素を含んだ版を語る政治家よりも、おそらく人気が出ないでしょうね。
では、印刷機が直接科学革命につながったわけではないとすると、科学革命を可能にしたものは何だったのでしょうか？
わたしが思うに、あなたが「無知の発見」と呼んでいるものです。科学革命につながる本当に重要な発展は印刷ではありません。
無知と間違いを認めることに基づく新しい機関の出現です。これが科学機関の特徴です。
宗教機関、例えば異端審問所のような機関は、この聖書やあの聖書、このドグマやあのドグマの形で、すでに絶対的な真理を所有していると仮定します。
それには誤りや欠落はありません。世界について知る必要のあることはすべてすでに知られています。
対照的に、科学機関は無知の仮定に基づいています。
世界についてまだ知らないことがたくさんあり、わたしたちが知っていると思っていることにも誤りや間違いがあるかもしれない、という前提に立っています。
このタイプの機関が16世紀から17世紀にかけての近代初期のヨーロッパで現れ始めます。これが科学革命の本当の理由です。
はい、彼らも印刷に頼りました。でも大きな問題は、何を印刷するかです。
今日「ユーザーエンゲージメント」として知られているものに基づいて印刷するなら、『魔女に与える鉄槌』を印刷することになります。それは魅力的だからです。
これが、近代初期のヨーロッパのほとんどの出版社が最初に出版したものです。これらのものが売れたからです。
科学機関や協会、出版社ができて、彼らが異なる基準を持つようになって初めて、「人々がこれを買うだろうか」ではなく、「これが実際に真実であるという証拠はどのくらいあるのか」と問うようになりました。
彼らはこの高価で稀な種類の情報、つまり真実に重要性を与えました。そして常に、これが科学機関の特徴なんですが、彼らは自分たちの間違いを探し続けています。
陰謀論も非常に懐疑的ですが、他人の間違いだけを探します。彼らは自分たちの証拠や理論の間違いや誤りを探しません。
本当の科学理論の特徴は、その支持者自身が常にその理論の穴や誤りを見つけようとしていることです。
基本的に、学術論文を出版しようとすると、以前の間違いの修正や追加だけが学術誌に掲載されることを知っています。
すでに知られていることを再度出版することはありません。
ある機関が信頼できるかどうかを知るには、インセンティブ構造を見てください。
教会のようなところでは、出世したいなら、前に来た人々に常に同意し、新しいアイデアは決して持たないのがいい方法です。誰かが新しいアイデアを持ってきたら、それに反対します。
この戦略に従えば、最終的に主席ラビやアヤトラ、法王になる良いチャンスがあります。
でも科学機関ではそれは通用しません。ただ「アインシュタインは正しかった」「ダーウィンは正しかった」と言って回っても、人々は「そうだね」と言うだけで、『ネイチャー』に掲載されることはありません。
アインシュタインが知らなかったことを発見する必要があります。理想的には間違いです。相対性理論や進化論に間違いを見つければ、ノーベル賞です。
これがインセンティブ構造であり、科学理論を信頼する理由があるのはこのためです。
これらの機関の最高の頭脳が常に間違いやギャップを見つけようと働いているからです。彼らがそれを見つけられないということは、この理論が非常に堅固だということを意味します。
ユヴァル、これは興奮しますね。今や人間の進歩の証拠が得られています。
自己修正メカニズムのこの力は、科学的方法を解き放ち、啓蒙主義につながります。
わたしたちには、理論的には、わたしたちが知らないことや制御できないことの理解における謙虚さの増大によって相殺される、絶えず増大する技術力があります。
でもわたしたちが自分たちについて良く思い始める前に、あなたはまた、わたしたちがある種の奇妙な適応をしていると指摘しています。
つまり、科学の力を利用してわたしたちが欲しいものを手に入れる一方で、並行して、自分たちが完全無欠だと主張する煽動者や暴君の餌食になる、という適応です。
そうですね。科学は決して政治組織の良い基盤にはなりません。科学で人々を鼓舞するのは非常に難しいんです。
大きなプロジェクトがあるとしましょう。例えば原子爆弾を作りたいとします。
原子爆弾を作るには、いくつかの科学的事実を知る必要があります。物理学の事実を無視すれば、原子爆弾を作ることはできません。少なくとも爆発する原子爆弾は作れません。
でも原子爆弾を作るには、何百万人もの人々にこのプロジェクトで協力してもらう必要もあります。
物理学を知っているだけでは十分ではありません。ウランを採掘する人、原子炉を建設するエンジニアやビルダー、これらのエンジニアや労働者が食べるためのジャガイモや米を育てる農民が必要です。
どうやって何百万人もの人々にこのようなプロジェクトで働くよう説得するのでしょうか？
「E=mc²だよ」と言っても、誰も説得されません。
古代世界から21世紀まで、わたしたちが見ているのは、人々を説得する方法は通常、神話学によるということです。
現代では時々イデオロギーと呼ばれますが、基本的には同じことです。ほとんどの場合、フィクションの物語です。
これらが、何か大きなプロジェクトで人々を協力させる最も効果的な方法なんです。
だから再び、原子爆弾を作るのに物理学の事実を完全に無視することはできませんが、通常は神話学の専門家が核物理学の専門家に指示を出すんです。
今日、イランでは核物理学の専門家がシーア派神学の専門家から指示を受けています。
イスラエルでは、彼らはますますラビたちから指示を受けるようになっています。
ソビエト連邦では、彼らは共産主義イデオロギーの専門家から指示を受けていました。
イデオロギーや神話学に関しては、事実はそれほど重要ではありません。
イデオロギーを作って事実を無視しても、あなたのイデオロギーは非常に大きな爆発音とともに爆発するでしょう。
だから、近代史でも何度も何度も見られるのは、科学が人間社会や政治運動に膨大な力を与え、それが時には完全に妄想的なイデオロギーや神話学のために利用されるということです。
LinkedInポッドキャストネットワークは、SAPがスポンサーです。
SAPソリューション全体に組み込まれたSAPビジネスAIは、即座に影響を与えます。
ジールというデジタルアシスタントから、AIパワーの機能全体までを使って、自社のデータを使って自信を持って意思決定ができます。
SAPビジネスAI。革新的な技術、現実世界の結果。それがSAPビジネスAIです。
LinkedInポッドキャストネットワークは、フォードがスポンサーです。
仕事が要求しすぎて、ワークライフバランスが健康的でないとき、処方箋はブロンコ・オフ・ロデオです。
これは究極のフォード・ブロンコ体験で、誰でも参加でき、所有者には無料です。
5つの素晴らしいオフ・ロデオ会場のいずれかを体験し、ブロンコの伝説的な能力を最大限に活用する方法を学びましょう。
ワークライフバランスにもっと生活を取り入れましょう。broncooffroadeo.comでサインアップしてください。
さて、この歴史的な旅で、わたしたちは文字の誕生、印刷機、蒸気機関、初期の科学革命を経てきました。
新しい技術革新から、一連の負の、時には肯定的な意図しない結果が生まれるのを見てきました。
過去30年間で、わたしたちはインターネットの台頭を、そしてより最近ではソーシャルメディアを目にしてきました。
あなたは21世紀の初めに、「未来は分散型情報ネットワークと民主主義のものだと思われていた。それは間違いだったことが判明した」と書いています。
ソーシャルメディアはわたしたちの民主主義を蝕んでいるのでしょうか？
わたしは、その答えはわたしたちの周りにあると思います。今のところ、そうですね。
そしてそれはソーシャルメディアだけではありません。
現在、民主主義の未来に対する3つの主要な危険を特定できます。ソーシャルメディアだけでなく、アルゴリズムやAI一般の台頭に伴うものです。
最初の危険性については、すでに話しました。民主主義的な会話の崩壊です。
これは、今日わかっている限りでは、アルゴリズムやボット、AIが会話を乗っ取った結果です。
民主主義的な会話は、人間同士の会話であるはずです。
民主主義を、輪になって互いに話をしている人間のグループだと想像してください。
そこに突然、ロボットのグループが入ってきて、非常に大きな声で、非常に説得力のある方法で、非常に感情的に話し始めます。そして誰が誰なのかわからなくなります。
もはや人間の会話ではありません。人間の会話が崩壊するんです。
これは15年か20年前くらいから起こり始め、ますます加速しています。
これが、人間同士の会話が崩壊している理由です。
アルゴリズムに制御権を与えると... 会話で最も重要な質問は常に、何が質問なのか、人々は何について話しているのか、ということです。
答えの前に、彼らは何について話しているのでしょうか？気候変動について話しているのか、それとも移民について話しているのか。
昨日、わたしはディベートを見ていました。トランプに気候変動について質問しましたが、彼は気候変動について一言も言いませんでした。移民のことしか繰り返しませんでした。
移民に対する彼の見解を議論する前に、なぜ気候変動が話題のときに移民について話しているのでしょうか？
あらゆる会話で重要なのは、人々が何について話しているかです。
そして、わたしたちは何について話すべきかを決める力を、ますますソーシャルメディア、Twitter、Facebookなどのアルゴリズムに与えています。
これらの場所では、アルゴリズムがニュースフィードのトップに何を表示するかを決定しています。
移民に関する記事に多くの興味やトラフィックが集まっているのを見ると、「ああ、これは重要だ。人々はこれについて話している。わたしもこれに興味を持つべきだ」と言います。
でも、それが本当は最初にボットや推奨アルゴリズムによって引き起こされたものだったらどうでしょう？
それが本当に人間が話したいと思っていることなのか、それともアルゴリズムがわたしたちにそれについて話すよう説得しているのか、誰にもわかりません。
これが一つ目の問題です。これは最も簡単な問題です。なぜなら、適切な規制で解決できるからです。
基本的に、ボットが人間になりすますことを禁止する必要があります。
Twitterでボットが人間のふりをするのは許されません。
また、企業はアルゴリズムの行動に責任を持つ必要があります。ユーザーの行動ではなく、アルゴリズムの行動についてです。
ユーザーが馬鹿げた陰謀論を考え出してオンラインで公開した場合、個人的には、ほとんどの場合、FacebookやTwitterがそれに対して責任を負うべきだとは思いません。
でも、FacebookやTwitterのアルゴリズムがその動画を推奨したり、人間の視聴者に自動再生したりすることを決定した場合、これは企業の責任です。
これが最初の問題です。
もっと大きな問題は、民主主義と全体主義は2つの異なる種類の情報ネットワークだということです。
全体主義は集中型の情報ネットワークです。全ての情報が1つの場所に集まり、そこですべての決定が下されます。
民主主義では、多くの個人や組織、企業などの間に分散しています。
20世紀には、民主主義は単純に全体主義よりも効率的な情報ネットワークでした。
なぜなら、全体主義体制の中心にいる人間は、すべての情報を処理できなかったからです。
ソビエト連邦全体からすべての情報がモスクワに流れ込み、一握りの官僚的な共産主義者がすべての決定を下さなければならなかったとき、彼らは悪い決定を下しました。
来年はキャベツをどれくらい栽培するか、ウラジオストクの工場は何を生産すべきかなど。
でも中心にいる人間をAIに置き換えると、話は違ってきます。
AIは潜在的に、全体主義体制の主な問題である情報の過度の集中を、大きな資産に、優位性に変える可能性があります。
これは、わたしたちが心配すべきことの一つです。再び、解決不可能ではありませんが、懸念すべきです。
もう一つは監視です。
再び、全体主義は監視に基づいています。全ての人を常に監視することに基づいています。
20世紀の情報技術では、単純に全ての人を24時間365日追跡することは不可能でした。
ソビエト連邦に2億人のソビエト市民がいるとします。彼ら全員を24時間365日追跡するには、少なくとも4億人のKGB工作員が必要です。
なぜ2倍かというと、KGB工作員も人間だからです。彼らも休息が必要で、食事をする必要があり、家族と会いたいと思い、休暇に行きたいと思います。だから2倍の数が必要なんです。
そして彼らには4億人のKGB工作員がいませんでした。
もう一つの問題は、20世紀の状況で誰かが一日中わたしを追跡したとして、彼らはわたしが一日の間にしたことで何をするのでしょうか？
彼らは紙の報告書を書くんです。これが彼らのすることです。紙に何かを書くんです。
1950年や1970年のモスクワにあるKGB本部が、毎日何億もの紙の報告書で溢れていることを想像してください。誰もそれを分析できません。
今、AIはこの両方の問題を解決します。
何百万人もの人間の工作員は必要ありません。スマートフォンやコンピューター、ドローン、カメラ、マイクがわたしたちを常に追跡しています。だからこの問題は解決されました。
そして分析の問題も解決されました。情報の海からパターンを見つけるために何百万人もの人間のアナリストは必要ありません。これがAIのすることです。
人類史上初めて、プライバシーを完全に消滅させ、全ての人が常に追跡される完全な監視体制を作ることが技術的に可能になったんです。
これは予言ではありません。これは避けられないことではありません。ただの可能性です。
20世紀にいくつかの国が全体主義を選んだけれども、全ての国がそうではなかったのと同じように、21世紀でもいくつかの国がすでにこの完全な監視体制を構築することを選んでいますが、これは避けられないことではありません。わたしたちは抵抗できるんです。
そうですね。高度なAIは監視国家をパッケージにしたようなものですね。
顔認識や意味分析、これらの驚くべき能力が事実上無料で手に入ります。
一方で、AIが誰もの治療士や教師、ビジネスアドバイザーになれば... これらはAIの最も興奮する利点の一部だと思いますが...オーウェル的なシナリオを簡単に想像できます。
あなたはこう書いています。「政府は全ての市民に関する親密な知識を使って、前例のない規模で世論を操作する可能性がある」と。
つまり、親密さのスケーリングもこのパズルの一部なんですね。
そうです。以前は、あなたと親密になれるのは他の人間だけで、しかもごく少数でした。
政府はあなたと親密になることはできませんでした。あなたの友人や家族だけでした。全体主義体制でさえそうでした。
例えば、ナチス・ドイツでは全ての家族にラジオでヒトラーのスピーチを聞くよう強制することはできましたが、ラジオはあなたの友達ではありません。
彼らは注目を命じることはできましたが、親密さを命じることはできませんでした。
そして、人々の心を変えたいなら、注目は重要ですが、親密さの方がはるかに強力です。
前の10年間、アルゴリズム間で注目を集めるための大きな戦いがあったのを見ました。でもアルゴリズムはまだ親密さを作り出すことはできませんでした。
今、新世代のAIでは、親密さを作り出すことができます。
彼らはわたしたちと会話を持つことができ、わたしたちの感情を理解し、人間のふりをすることができます。
これは全て悪いことではありません。あなたが言ったように、これらのAIの新しい能力には大きな肯定的な可能性があります。
わたしたちは以前には想像もできなかったサービスを提供するAI教師やAI医師、AIセラピストを持つことができます。
でも間違った手に渡ると、これはオーウェルでさえ想像できなかった種類の全体主義システムを作り出す可能性があります。
突然、大量の親密さを生み出すことができるんです。
世界で最も恐れている政治家を思い浮かべてください。その人物がAIに基づいて大量の親密さを生み出す能力を持ったら、何をするでしょうか？
2年前にお会いしたとき、あなたはアメリカで民主主義が崩壊する可能性が20%だと思うと言いました。
この2年間で、その割合は変わりましたか？
民主主義には、古代世界でも現代世界でも、常に重要な弱点がありました。
民主主義の考え方は、人々がある人物や政党に限られた期間、大きな力を与えて、いくつかの政策を試してみるというものです。
そしてその限られた期間の後、例えば4年後に、彼らは権力を返還し、人々は再び判断することができます。
「良いアイデアだったか？別のことを試してみるべきか？」と。
このシステムの大きな問題は、あなたが権力を与えた人物や政党が、この政策やあの政策を追求する代わりに、その力を使って民主主義システムを破壊し、権力にしがみつこうとした場合、どうなるかということです。
結局のところ、あなたは彼らが権力を返還するという前提で権力を与えたんです。彼らが返還したくないと思ったらどうでしょう？
彼らが権力を保持することを決意し、それを保持するのに十分な力を持っていたらどうでしょう？
わたしたちは古代ギリシャで暴君たちがそうするのを見ました。そしてロシアのプーチン、ベネズエラのチャベスやマドゥロがそうするのを見ました。
彼らは最初、民主主義的な方法で権力の座に上り詰め、そして権力にしがみつきました。
トルコのエルドアンは言いました。「民主主義は列車のようなものだ。目的地に着くまで乗り、そして降りる。列車に乗り続けてはいけない。目的地に着いたら降りるんだ。」と。
民主主義の最大の危険は、権力を返還しそうにない人に権力を与えることです。
そしてドナルド・トランプについては、彼が2020年の選挙で負けたことを認めることを未だに拒否しているという証明済みの記録があります。
これ以上の証拠が必要でしょうか？この人物が機会を得たら、権力を手放さないだろうということの。
だから、チャンスがどれくらいあるかはわかりません。でも民主主義にとって、権力を手放さないだろうと疑う十分な証拠がある人物に権力を与えるのは、非常に大きな賭けです。
わたしは、この会話に少し光を当てるのが役立つかもしれないと思います。
AIには膨大な肯定的な可能性があると思います。
わたしが危険性や脅威について話し続ける理由は...
AIについて良いことは何かありますか？未来の世代はわたしたちがAIを創造したことに感謝するでしょうか、それとも解き放ったことを呪うでしょうか？
ユヴァルとわたしは、会話の後半でこれらすべてについて議論します。それは木曜日にここで聞くことができます。
そんなに長く待てないという方のために、2つの方法があります。
まず、App Storeに行って、The Next Big Ideaアプリをダウンロードしてください。そこでは、著者自身が作成した日々のオーディオやテキストの書籍要約、オーディオeコース、そして広告なしのこのポッドキャストを見つけることができます。
最近、同じ素晴らしいコンテンツを楽しむもう一つの方法を立ち上げました。
毎日新しいアイデアをメールボックスに届ける全く新しいSubstackです。
チェックしてみてください。book of the day.nextbigideaclub.comにアクセスしてください。
そこでは、ユヴァル・ノア・ハラリとの完全な会話の映像を見つけることができます。
book of the day.nextbigideaclub.comです。
これは、The Next Big Idea Clubでわたしたちが行っている仕事をサポートするオプションも提供します。
今日のエピソードは、Caleb Bissingerが制作し、Mike Toaがミックスしました。
先週のイベントをサポートしてくれたWeber Shandwick Futuresチームに感謝します。彼らのサポートのおかげで、来場者全員にNexusのサイン入りコピーと、特別カクテル「Nexus Negroni」を提供することができました。
The Next Big IdeaはLinkedInポッドキャストネットワークの誇り高いメンバーです。
わたしはルーファス・グリソムです。木曜日にユヴァルとの続きでお会いしましょう。