ユヴァル・ノア・ハラリとガボール・シュタインガルトの対談 | パイオニア・ブリーフィング - インタビュー

10,171 文字

シュタインガルト: ユヴァル・ノア・ハラリ教授、ようこそお越しくださいました。
ハラリ: ありがとうございます。お招きいただき光栄です。
シュタインガルト: 最新鋭のメディア船にお乗りいただいております。100%電気で動いておりまして、知性はたっぷりですが、人工知能は使っていません。約束しますよ。安全な空間ですので、くつろいでいただけますか?
ハラリ: はい、とても快適です。
シュタインガルト: 先生は恐ろしい時期を経験されたところですね。私にはこの本を書くことなど想像もできません。一種の悪夢のような。私たちが話しているのは、おそらく人類史の終わり、つまり歴史の終わりではなく、人間が支配する時代の終わりについてですね。説明していただけますか。
ハラリ: そうですね。私たちは今、新しい種類の高度な知的エージェントを作り出しています。一つだけではなく、何百万、何十億ものエージェントを。コンピューターですか? そう、AIですね。はい。コンピューターは、私たちや世界について、ますます重要な決定を下すようになっています。銀行でローンを申し込むと、AIが融資を決定します。
大学に願書を出すと、AIが合否を決めます。軍事面でも、何を爆撃するかをAIが決定します。AIは決定を下すだけでなく、発明や創造も行います。これまで人類は文化の中で生きてきました。私たちは文化的な人工物からなる世界に生きていたのです。
このボート、このマイク、私たちが話す言語、物語、音楽、詩、金融商品、政治的イデオロギー、こういったものすべてです。何千年もの間、これらは人間の想像力から生まれてきました。今、この惑星上で初めて、人間でもなく有機体でもないものが、そういったものを作り出すことができるようになりました。音楽やアートを作り、新しい科学理論や政治的アイデア、新しい宗教的なアイデアを生み出すことができます。
それが良いか悪いか判断する前に。私たちを破壊するのか? 救ってくれるのか? 立ち止まって考える必要があります。何万年もの間、人間の文化の中で生きてきた私たちが、徐々にハイブリッドな文化の中に身を置くようになるということは、どういう意味を持つのでしょうか。私たちを取り巻くすべての文化的な人工物が、物理的なものからアイデアまで、無機的な知性から生まれる異質な文化の中で。
シュタインガルト: 私たちが作り出したものですよね。
ハラリ: 私たちが今作り出していますが、コントロールも予測もできません。AIの本質的な定義は、それが自律的に学習し、変化できるということです。自律的に学習し変化できないなら - 予期した通りのことしかしないなら - それは本当のAIではなく、単なる自動機械です。
自動機械は長い間存在してきました。洗濯機やコーヒーメーカーなど、そういったものです。これらはAIではありません。私たちが命じたことだけをするからです。それが自律的に学習し、変化し、物事を発明し始めたときに初めてAIになります。つまり定義上、私たちはそれがどのように発展し、何をするのか予測できないのです。
シュタインガルト: 人間がループの中に留まる、私たちが止めるべきだと思ったときにいつでもAIを止める可能性と意志を持っているということがよく言われます。でも、大手インターネット企業によるこの約束を信じていないのですね?
ハラリ: いいえ、まず第一に、私たちはこのAI革命の始まりにいるだけです。AIが登場してからまだ10年しか経っていません。最初のAIを目にしてからわずか10年です。そのアイデア自体は何十年も前からありましたが。そして、これはほんの小さな赤ちゃんの一歩に過ぎず、AIの発展は何十年、何世紀、そう、おそらく何百万年も続くでしょう。
そして本当にそうなのです。今日私たちが知っているChat GPTやその前のGPT4などのAI、これらは最も原始的なAIです。それでも、すでに世界を変えています。そして、スイッチを切り替えて止めることはできません。
シュタインガルト: 例を挙げてください。
ハラリ: ソーシャルメディアが最良の例です。ソーシャルメディアはAIによってコントロールされています。それらは非常に原始的なAIですが、AIです。これまでニュース産業、世界のニュースの流れは人間によってコントロールされていました。世界で最も重要な人々の一部は、ニュースの編集者たち、ニューヨーク・タイムズやCNNなどの編集者たちでした。
現代の政治における重要な人物について考えると、その多くは新聞編集者でした。レーニンはソビエト連邦の独裁者になる前、イスクラ紙の編集者でした。ムッソリーニは社会主義系のジャーナリストとして始め、その後ファシスト系の新聞の編集者となり、そして独裁者になりました。
それがキャリアパスだったのです。ジャーナリスト、編集者、独裁者と。非常に強力な職業でした。
シュタインガルト: 非常に強力な職業でしたね。
ハラリ: 今日、世界で最も強力な編集者は誰でしょう? 彼らの名前は何でしょう? 名前はありません。なぜなら彼らはアルゴリズムだからです。フェイスブックでニュースを編集しているのは誰か、TikTokで次にどの動画が来るかを決めているのは誰か? アルゴリズム、AIです。
シュタインガルト: 顧客が決めているのだと。マーク・ザッカーバーグは上院で質問されると、そう答えます。「顧客が決定を下すのであって、我々ではありません。我々は政治家ではありません」と。
ハラリ: マーク・ザッカーバーグが編集者なのではありません。ザッカーバーグが開発したアルゴリズムが、ザッカーバーグ自身も予測できず、おそらく理解もできない決定を下しているのです。
シュタインガルト: 聖書の例を挙げてください。デジタル時代における聖書の変容について、どのようにお考えですか?
ハラリ: はい。ユダヤ教、キリスト教、イスラム教のような書物宗教について考えると、それらはテキストに権威を与えます。聖書やコーラン、そしてそれらの解釈に。彼らが何千年も抱えてきた問題は、テキストが直接あなたと話すことができないということです。読むことはできますが、言葉の解釈は様々で、どの解釈が正しいのか、正しい答えが何なのかわかりません。
そのため、テキストを解釈するための人間の制度を作り出しました。そして真の力はテキストにあるのではなく、テキストを解釈する人々にあります。今や、テキストが直接あなたと話し、自身を解釈することを可能にする技術があります。例えばユダヤ教を考えると、これまでどのラビも全てのユダヤ教のテキストを読むことはできませんでした。
聖書、ミシュナー、タルムードは読めますが、2000年の間に各ラビが書いたすべてのものを読むことはできません。今や、AIはそれらすべてを読み、人間のラビや人間が決して思いつかなかったようなパターンや解釈を見つけることができます。なぜなら、そのパターンがあまりにも複雑すぎるからかもしれません。
そして、書物宗教、特定のテキストを神聖だと信じる宗教はどうなるのでしょうか? あなたと話せるテキストを持つとき。コミュニケーションを取れるテキスト。これらのテキストは、どのように解釈されるべきかを教えてくれます。答えが何になるのか、私にはわかりません。
シュタインガルト: つまり、特定の状況で何をすべきか、友人や恋人、両親、仕事についてなど、聖書に尋ねることができるということですか? 聖書に尋ねることができる。そして聖書がデジタルツールに、パートナーになる。
ハラリ: そして、聖書が何を言っているのかを教えてくれる人間のラビや司祭は必要なくなります。テキストが直接あなたと話すことができます。そして、教皇や主席ラビたちがこれについてどう考えるのか、私にはわかりません。しかし、特にテキストが神聖だと信じる人々にとって、テキストが実際にあなたと話すことができるという、歴史上初めての新しい状況を迎えています。
シュタインガルト: しかし、あなたは否定的な文章をたくさん作られましたね。シリコンチップを例に挙げると、「シリコンチップはスパイを生み出すことができる。決して眠らないスパイ。そして決して死なない独裁者を」と。これは私が見るところディストピアですね。
ハラリ: はい。しかし、それが避けられないとは言っていません。それは可能性の一つに過ぎません。私たちが下す決定次第です。それは制御を失ったAIです。単に制御を失っただけではないと思います。人間の現実の中で新しいことを可能にするのです。以前は全体主義政権でさえ、常に全ての人を監視したいと望んでいた - 東ドイツのシュタージのように - 本当に東ドイツの全市民を24時間監視したいと望んでいました。
しかし、それはできませんでした。なぜなら、すべての人を常に監視するには二つのことが必要だからです。まず、多くのエージェントが必要です。一人を監視するのに一人のエージェントだけでなく、二人か三人必要です。シュタージのエージェントも寝なければならないからです。つまり、各市民を24時間監視するには複数のシフトが必要なのです。
そして、これらのエージェントは報告書を書きます。そして一日の終わりに、これらの紙の報告書は東ベルリンのシュタージ本部に送られます。そして誰かがそれらを分析しなければなりません。しかし、分析官が足りませんでした。東ドイツ市民に関する多くの報告書。これらの報告書は、すべての情報を分析する分析官が十分にいなかったため、シュタージ本部で埃をかぶっていました。
今日では、歴史上初めての完全な監視体制を作り出すことができ、それはプライバシーを完全に破壊することになります。人々を監視するために人間のエージェントは必要ありません。AIエージェントがいます。スマートフォンやドローン、カメラ、マイクがいたるところにあります。そしてさらに重要なことに、情報の洪水を処理するために人間の分析官は必要ありません。
今日、私たちには選択肢がありますが、以前にはなかった新しいものがメニューに加わっていることを認識する必要があります。一方で、人々は周りの世界を、人々が言うことやインターネットが言うことだけで判断するのではありません。彼らには独自の真実の基準があります。
シュタインガルト: 4年前より良くなっていますか? これは選挙戦でよくある質問です。現実の世界について、どう思われますか? 私たちに語りかける世界について。
ハラリ: 世界には事実がありますが、それらに到達することはますます困難になっています。なぜなら、私たちはますます濃密な情報環境の中で生活し、常に情報の爆撃を受け、もはや現実を見ることができないからです。私たちは現実についての物語だけを見て、聞いて、感じています。
もちろん、これは新しいことではありません。人間は決して現実をあるがままに経験したことはありません。聖書の時代でさえ、彼らは現実についての物語を経験していました。例えば、バビロニア人が来てエルサレムを破壊し、神殿を打ち壊したとき。
人々は神への信仰を失わなかったのです。なぜなら、これこそが神が存在し世界をコントロールしている証拠だという物語があったからです。神が私たちを罰するためにバビロニア人を送ったのだと。神の神殿の破壊ほど、人々を宗教から幻滅させる、より直接的で即座の証拠はないと思うかもしれません。
しかし、非常に巧妙な物語の語り手たちが現れ、こう言うのです。「バビロニア人によって神殿が破壊されたという事実は、神がいかに強力であるかを証明している。神が自身の神殿を破壊するためにバビロニア人を送り込むほどの力を持っていることを」と。
シュタインガルト: あなたが言っているのは、情報 - これは私たちジャーナリストの仕事の一部である、情報を提供するということ - あなたが言っているのは、情報は真実ではないということですね。
ハラリ: 情報は全く真実ではありません。ほとんどの情報はフィクション、ファンタジー、プロパガンダ、そして嘘です。真実は情報のごく一部に過ぎません。なぜでしょう? なぜなら、真実はまず第一に高価だからです。何かについて真実の報告をしようとすれば、調査、事実確認、分析に時間とお金と労力を投資しなければなりません。
フィクションは非常に安価です。しかし、そうすると人々を軽視することになりませんか? 彼らは自分で現実を判断する能力がないと言っているのですから。だから彼らは物語の語り手に頼らざるを得ない。私たちは制度に頼らざるを得ないのです。私が一個人として単独で世界の真実を発見できるという考えは、ファンタジーです。
そしてこれは非常に危険なファンタジーです。なぜなら、それは制度への信頼を損なうからです。民主主義は信頼できる制度なしには存在できません。制度への信頼をすべて破壊してしまえば、残されるのは無政府状態か独裁のどちらかです。独裁は信頼できる制度を必要としません。テロに基づいているからです。
制度を攻撃し、人々を解放していると考える人々がたくさんいます。実際には、彼らは独裁への道を舗装しているのです。科学について考えてみましょう。私は科学者として、科学はチームスポーツだということがはっきりとわかります。一人でできることではありません。
アインシュタインでも、ダーウィンでも、私のような歴史家でもできません。古代に何が起こったのか、聖書がどのように成立したのか、私にはそれを一人で突き止めることはできません。他の何十人、何百人もの科学者たちの研究に頼らなければなりません。発掘を行い古代の碑文を発見する考古学者たち、それらの碑文を読むことができる文献学者たち、そしてローマ、ギリシャ、バビロニアの歴史の専門家たち。
私には一人でそれはできません。そしてこれは他のどの研究分野についても同じことが言えます。もちろん、私はこれらのシステムを、良いシステムや倫理的なシステムとして称賛しているわけではありません。むしろ警告です。
シュタインガルト: 人々は考えます。あなたは、それらが効果的だと言っているのですか?
ハラリ: はい。そして、私は効果的ではないと言います。私たちはスターリニズムの中心部にいます。そしてそれは消滅しました。私は、人々が自己満足に陥り、スターリニズムやナチズムが自らの誤りや誤概念の重みの下で崩壊するほど欠陥があったと信じることに反対です。
そうではありませんでした。それらは恐ろしいシステムで、莫大な被害をもたらしました。しかし、軍事力や政治力、そして経済力の面でも、それらは極めて効果的で、世界を支配する寸前までいきました。21世紀にそのようなシステムの出現に対して何もする必要がないという自己満足、それらが欠陥を持っているからという考えは。
それは危険な考え方です。いいえ、これらのシステムは倫理的にはもちろん忌まわしいものです。これまでに作られた最も恐ろしいシステムの一つです。しかし、その政治的・軍事的な力を過小評価してはいけません。なぜなら、人間社会における力は真実からは来ないからです。
それは多くの人々を共通のプロジェクトのために動員する能力から来るのです。そしてスターリニズムとナチズムは、何百万人、いや何億人もの人々を産業や軍隊を作り上げるために協力させることに極めて効果的でした。そしてそれらは世界で最も強力な産業と軍隊の一部でした。
シュタインガルト: しかし、ドイツのこの地域の共産主義をより詳しく見てみましょう。最後には一発の銃声も発せられず、軍隊も必要とせずに内部から崩壊しました。第二次世界大戦は別の話です。アメリカと世界中の軍隊が必要でしたが、このケースではシステムは内部から崩壊しました。優れた物語の語り手たちがいたにもかかわらず。
彼らには独自の新聞やテレビ局があり、人々に共産主義が人類の最終目標だと語っていました。しかし最後には、この物語の語りはもはや機能しなくなりました。システムは内部から、一種の人間の知性によって崩壊したのです。
ハラリ: これについて三つのことを言わせてください。まず第一に、私たちは共産主義ブロックの指導者たちの中に、平和的に去る用意のあった人々がいたことで幸運でした。ベネズエラのマドゥロやセルビアのミロシェビッチのような人物を考えると、1980年代にクレムリンにマドゥロのような人物がいれば、もっと悪い結果になっていた可能性があります。
結局のところ、それは決断でした。彼らは権力にしがみつくために暴力を使うという選択もできたはずです。第二に、それには長い時間がかかりました。1940年代、50年代には、彼らには世界を支配する本当のチャンスがありました。それは際どい状況でしたが、最終的には失敗しました。
第三に、20世紀の共産主義を本当に打ち負かしたのは、過度に中央集権化された経済の非効率性に起因する、長期的な経済的機能不全でした。それは単に極めて非効率的だったのです。21世紀の今、私たちにはAIがあります。人間をAIに置き換えれば、AIがそれを引き継ぐことができます。
人々に情報を押し付けると、彼らは圧倒されます。AIに情報を押し付けると、AIはより効率的になります。これは開かれた疑問です。しかし、ポジティブな側面も見てみましょう。民主主義です。今日では誰もがメディアにアクセスできます。ソーシャルメディア革命とコンピューター革命以来、すべての人々にアクセスがあります。
市民ジャーナリズムは活動家だけの問題ではなく、現実の世界に到達しています。今日の政治家たちは挑戦を受けています。なぜなら人々は数秒で事実を確認できるから、AIも民主主義を支援しているからです。私たちが民主主義の民主化を経験しているということについて、どう思われますか?
ハラリ: 先ほど言ったように、それには非常にポジティブな可能性と非常にネガティブな可能性があります。民主主義に関して言えば、現時点での結論は肯定的ではありません。なぜでしょうか? これは事実です。2024年の世界を見渡すと、世界中で民主主義が不安定化し、崩壊さえしているのが分かります。民主主義は本質的に会話です。そして私たちが目にしているのは、その会話が崩壊しているということです。人々がもはや理性的に議論することができなくなっているのです。
もはや互いの話を聞くことができなくなっています。なぜそうなのか、長々と議論することはできますが、私が思うに、これはほとんど誰もが同意する数少ないことの一つです。アメリカの民主党員と共和党員は何にも同意できませんが、会話が崩壊しているということには同意します。何かがおかしいのです。
シュタインガルト: ハラリさん、私は納得できません。今日の会話を - すべてが疑問視され、すべてが攻撃にさらされている - 100年前の会話と比べてみてください。ヨーロッパのすべての出版社がこの部屋に収まったであろう時代と。メディア業界の有力者たちは、ドイツではおそらく10人、ヨーロッパでも50人程度、それ以上はいませんでした。
そして今や誰もがこの大きな会話に参加できます。これが民主主義です。あなたと私では、測っているものが違います。あなたは参加を測っています。私は合意に達する能力を測っています。会話には両方が必要です。誰もが大声で争い、相手の話を聞かず、決定に至ることができないなら、それは民主主義ではなく無政府状態です。
もちろん、参加の輪を広げる必要があります。それはとても重要です。しかし、合意に達することができなければ、残されるのは無政府状態か独裁のどちらかです。無政府状態は民主主義ではありません。
シュタインガルト: しかし、マイノリティーについてはどうですか? 彼らは今日、自分たちの見解を世界に発信する機会を持っています。彼らの利益を実現することが可能です。そしてそれらの利益は実際の政策となります。マイノリティーに関して言えば、私たちはおそらくヨーロッパで史上最もリベラルな社会を持っています。なぜなら、これらのマイノリティーが初めて声を持つようになったからです。
ハラリ: はい。それはとても良いことです。しかし、それだけでは十分ではありません。誰もが声を持っていても、システムが崩壊するのであれば、それは良い結果とは言えません。
シュタインガルト: なぜ崩壊するのでしょうか?
ハラリ: 11月のアメリカでの出来事を見守りましょう。私の国イスラエルでは、民主主義が崩壊しています。そして崩壊について話すとき、もっと詳しく説明したいと思います。
それは、すべての選挙が戦争のように感じられるということを意味します。民主主義には政治的なライバルがいます。しかし、相手側が単なる政治的な対立相手ではなく、敵だと考えるとき。彼らが私たちを破壊しようとしていると。彼らが勝てば私たちを破壊するだろうと。そうなると、すべての選挙が戦争になります。勝つためには、合法か違法かを問わず、何でもしなければなりません。
私たちが勝てば、私たちの支持者だけを大切にします。負ければ、結果を受け入れません。判決を受け入れません。このような状況では、民主主義は機能できません。2年、4年、8年は機能するかもしれません。しかしその後、選択肢は次のようになります。国を分裂させるか、内戦を始めるか、独裁制を確立するかです。
希望がないわけではありませんが、この技術の上に構築していく必要があります。しかし、それを放置してはいけません。なぜなら、「エンゲージメント」という単一の基準だけで人間の感情を測ることは、恐ろしい間違いだからです。ユーザーエンゲージメントの観点からすると、1時間の怒りは30分の理性と冷静さよりも良いのです。30分の睡眠よりも良いのです。
アルゴリズムは人間の本質について、非常に表面的で狭い見方しかしていません。彼らはエンゲージメントにしか関心がありません。何千年もの歴史から私たちが学んできたことは、人間には幅広い感情と能力があるということです。人間には悪徳も美徳もあります。そして良い社会を築くためには、人間の美徳を育て、悪徳を抑制する制度を作らなければなりません。
シュタインガルト: 私たちは懐疑的でなければなりません。同意します。しかし、私たち自身の意見に対しても懐疑的でなければなりません。第一のマシン時代について考えてみましょう。今、私たちは第二のマシン時代に生きています。MITの同僚たちが有名な本で描写したように。第一のマシン時代、鉄鋼工場や自動車工場などが出現したとき、人々はまた恐れを抱いていました。
私たちはその時、筋力を拡張しました。そして今、私たちは思考力を拡張しています。そして人々は当時も恐れていました。第一のマシン時代において。正当な理由があったとあなたは言います。しかし、私たちはそれを乗り越えました。私たちはそれをより良いものにしました。労働組合を作り上げました。血と汗と涙をもって!
第一のマシン時代を振り返り、最終結果だけを見ると、すべてが素晴らしく見えます。1800年の生活条件を見て、2000年のそれと比較してみてください。すべてが改善されています。
ハラリ: その通りです。しかし、そこに至る道のりは激動に満ちていました。なぜなら、第一のマシン時代の間、人々は善良な産業社会の作り方を単に知らなかったからです。彼らは実験しました。そしてそれらの実験のいくつかは恐ろしいものでした。一つの実験は現代帝国主義で、何億もの人々に恐ろしい結果をもたらしました。そして共産主義が登場しました。そして共産主義とファシズムは、さらなる実験でした。
シュタインガルト: しかし、この激動を私は人生と呼びたいと思います。これは人生経験です。新しいものが出現し、私たちは開拓者なのです。第二のマシン時代が到来し、私たちは懐疑的でなければなりませんが、それを民主主義や社会、福祉にもたらす機会によって評価しなければなりません。
ハラリ: はい。しかし、第一のマシン時代で起こったことの再現を避けるために最善を尽くさなければなりません。AI基盤の社会の作り方を学ぶために、帝国主義、全体主義、世界大戦の新しい一巡りを経験しなければならないとすれば、それは何十億もの人々にとってとても悪いニュースです。つまり、これは警告です。予言ではありません。避けられないわけではありません。
すべては今後数年間に私たちが下す決定にかかっています。しかし、これらの決定の重みは、私たちが作り出している新しい種類の技術のために、これまでの歴史以上に大きいのです。
シュタインガルト: ハラリさん、この対話をありがとうございました。
ハラリ: ありがとうございました。