「AIは世界をターミネーターよりもカフカ的にする」ユヴァル・ノア・ハラリが語る危険性（パート1）

6,071 文字
AIは本当に創造できるのか? ユヴァル・ノア・ハラリ、人工知能を語る(パート2)｜AGIに仕事を奪われたい

お待たせしました。皆様、私はジョナサン・フレドランドです。本日は、私たちの時代を代表する知識人の一人をお迎えしています。彼の最初の著書『サピエンス』は2500万部を売り上げ、この国のサンデータイムズのベストセラーリストに96週連続でランクインしました。全体で4500万部、65ヶ国語で販売されています。現在はケンブリッジ大学のフェローであり、エルサレム・ヘブライ大学の歴史学部で講師も務めています。先ほど申し上げたように、現代の偉大な知性の一人、ユヴァル・ノア・ハラリを温かくお迎えください。
とてもお会いできて嬉しく思います。話し合うことがたくさんありますが、中でも特にあなたの新刊『ネクサス』について。人類が情報をどのように扱ってきたかの歴史と、人工知能に関する非常に急進的な考察についてお話ししたいと思います。しかし、まずはこのことについてお聞きしたい。20年前、あなたは中世の軍事史を研究する歴史学者として、良くて120人ほどしか読まないような研究論文を書いていました。それが今や、このような会場を満員にできる存在となり、世界中でこのような聴衆を集めています。それはどのような感覚ですか？あなたの執筆や思考、あなた自身にどのような影響を与えていますか？
少し奇妙で予想外ですが、これは歴史の力を示していると思います。歴史は今まで以上に重要になっています。私にとって歴史は過去の研究ではありません。中世の軍事史を研究していた時でさえ、歴史は千年前の王や戦いを覚えることだとは考えていませんでした。歴史は変化の研究です。物事がどのように変化するかの研究であり、それゆえに現在と未来についての研究でもあります。私たちは今、歴史上のどの時期よりも大きな変化の時期にいます。だからこそ、歴史はかつてないほど重要なのです。
では、この新刊で描かれている歴史について話しましょう。情報に焦点を当てることについて、多くの人は情報を二次的なものと考えがちです。戦争があり、その後に情報戦があるというように。人々はそれを一種の媒介された二次的なものとして扱います。実際の生活があり、その後にその生活について語ることがある、というように。しかし、あなたは情報が実際には現実の基本的な構成要素であり、人間にとって本質的なものだと書いています。なぜ情報がそれほど重要なのか、まずそこから説明していただけますか？
私たちがすることのほとんど全ては、非常に多くの他者との協力に基づいています。その大半は完全な見知らぬ人です。私たちは数十人、おそらく100人か200人くらいは知ることができますが、私たちが協力する相手のほとんどは見知らぬ人です。戦争について話すと、軍隊は数千人、時には数百万人のネットワークです。軍隊を結びつけているものは何でしょうか？経済システムについて考えてみると、私たちが食べる食物は、しばしば地球の反対側に住む見知らぬ人々によって栽培されています。
彼らと私たちを結びつけているものは何でしょうか？教会や文化機関を見ても、ネットワークを結びつけているのは情報です。命令や税金、神話、お金といったものです。例えば、アメリカ合衆国について考えてみましょう。共和党と民主党がほとんど何についても合意できない中で、アメリカを結びつけているものは何でしょうか？おそらく、国を結びつける最後の物語はドルの物語です。ドルの価値について、それが彼らが未だに合意している最後のものです。
しかし、これも暗号通貨の人々によって攻撃を受けています。突然、各党が独自の通貨を持ち、スーパーマーケットで異なる党の人の通貨を受け付けないような状況を想像してください。赤いドルと青いドル、あるいはビットコインなど。この情報ネットワークの力は膨大で、今や地球上で最も重要なものとなっています。
そして、これら全てについて理解すべき重要なことは、情報は真実である必要がないということです。ドルについて考えてみると、それは現実の何かを描写しているわけではありません。ドルが真実か偽りかを問うことはできません。それは現実に新しい何かを作り出すのです。
おそらく最も良い例は音楽です。音楽がどのように人々を結びつけているか考えてみてください。教会で一緒に賛美歌を歌う人々でも、太鼓のビートに合わせて行進する兵士たちでも、クラブで一緒に踊る人々でも、音楽が彼らを結びつけています。音楽について重要なのは、フェイクニュースについての議論が多い中で、フェイク音楽というものは存在しないということです。
悪い音楽はたくさんありますが、フェイク音楽というものは存在しません。情報としての音楽は、常に結びつきを作り出します。後でAIについて話すときにも触れますが、多くの人々はAIが世界について真実を教えてくれることを期待したり夢見たりしています。しかし、そうはならないでしょう。AIは単に新しい世界を作り出すだけです。私たちが今日知っている世界よりもはるかに複雑で、理解するのが難しい新しい世界を。
ちょうど音楽に触れたので、AIに話を進めてから戻りますが、AIによって作曲された音楽や生成されたアートについて。フェイク音楽は存在しないと言いましたが、AIによって書かれたシンフォニーは本物ですか、偽物ですか？
それは完全に本物です。好きではないと言うことはできます。人間によって作曲された多くの音楽についても同じことが言えます。しかし、空気の振動という点では確実に本物です。また、アートとは何か、創造性とは何かについて大きな議論があります。おそらく後で触れることになるでしょうが、多くの人々はアートと創造性の目的は人々に感情的な影響を与えることだと考えています。
この点で、AIによって作られた音楽は人々に大きな感情的影響を与えることができます。人間が作った音楽と同じように、私たちの感情的なキーボードを演奏することができるのです。
本のサブタイトル「石器時代からAIまでの情報ネットワークの簡潔な歴史」について、多くの人々は直感的にそれを物事が良くなっていく進歩の物語だと考えるでしょう。人類は文字の発見から印刷、新聞へと進み、各段階で私たちの能力がより良く、より大きくなっていく。それが着実な進歩の物語だと。そしておそらくAIがその集大成となるかどうかについても触れることになるでしょうが、その上昇曲線という考え方について、あなたはそれを素朴だと呼び、それは正しくないと言っています。なぜそれがそのように機能しないのか説明していただけますか？
『ネクサス』の基本的な問いは、人間がそれほど賢いのなら、なぜそれほど愚かなのかということです。明らかに多くの面で、私たちはこの惑星で最も賢い、最も賢明な動物です。月に到達し、原子を分裂させ、生命のコードであるDNAの読み書きの方法を知っています。
しかし、私たちは自分自身と生態系の大部分を破壊する寸前にいます。しかも一つの方法だけではありません。今や私たちは自己破壊の方法の完全なメニューを持っています。そして、私たちはそれを認識しているにもかかわらず、多くの面で崖っぷちに向かって突進し続けているのです。
なぜそうなのでしょうか？これは歴史を通じて人間を悩ませてきた問いです。なぜなら人間には、今日だけでなく歴史を通じて自己破壊的な活動への傾向があったからです。多くの神話や神学は、人間の本性に何か問題があると主張しています。私たちには存在として、生き物として、自己破壊的になり、邪悪になる何らかの深い欠陥があり、外部からの力だけが私たちを救うことができると。
私はこれは間違っていると思います。問題は私たちの本性にあるのではなく、私たちの情報にあるのです。ほとんどの人は善良です。しかし、善良な人々に悪い情報を与えると、彼らは悪い決定を下します。自己破壊的な決定を下します。そして次の問いは、なぜ情報は良くならないのかということです。
悪い情報のために善良な人々が悪い決定を下す例を挙げてください。本質的に悪いのではなく、悪い情報のために悪い決定を下す例を。
例えば、20世紀の集団妄想や集団精神病の例を見てみましょう。ナチス・ドイツやソビエト連邦のスターリン体制のようなものです。実際に文書を見て、アーカイブを読み、まだ生存している人々にインタビューすると、ヒトラーに投票し、支持した人々のほとんどは邪悪な人々ではありませんでした。
これはナチズムや歴史上の他の恐ろしいことについての大きな誤解の一つです。異端審問や十字軍を見ても、邪悪な人々だと言える人はごくわずかです。ほとんどの場合、人々は良いことをしていると考えています。
火刑台で人々を焼き殺した異端審問官や魔女狩りの人々でさえ、実際には彼らの魂を永遠の地獄の炎から救っていると考えていました。あるいは、この異端者を生かし続けて、この悪い考えを広めさせれば、より多くの人々が天国に行く機会を失い、代わりに永遠に地獄の炎で過ごすことになると考えていました。
だから、この人を焼き殺すことは実際には愛の行為なのです。そして少なくとも一部の人々は、それを真剣に信じていました。
つまり、あなたの指摘は、彼らの失敗は道徳的なものではなく、異端者が永遠の苦しみから救われるといった悪い情報を与えられたことにあるということですね。
もし彼らの基本的な前提を受け入れるなら、もし彼らの世界観を受け入れるなら、そうです。彼らがしていることは突然意味を持つだけでなく、良い行いのように見えてきます。もしユダヤ人が世界を破壊すると考えるなら、彼らを破壊することが突然良い行いのように見えてきます。
問題は、彼らをそのような間違った、誤った信念に導いた悪い情報なのです。本質的な問題は邪悪さではなく無知なのです。
そして次の問いは、何千年もの進歩の後、私たちが文字や印刷、ラジオを発明し、世界をこれほど多くの情報で満たした後でも、人々がなぜまだそれほど無知でいられるのかということです。
ここでの重要な誤解は、情報が単に知識ではないということです。ほとんどの情報はガラクタです。私たちは今、歴史上最も洗練された情報技術を持っていますが、人々は理性的な会話を行う能力を失いつつあります。
先ほどアメリカ合衆国について触れましたが、同じことが世界中で見られます。より強力な情報技術を発明し、より多くの情報を持てば、必然的に知識や理性、知恵、コミュニケーションが向上するという、このとても素朴な考えは、歴史を通じて何度も何度も、そうはいかないという非常に良い教訓を与えられてきました。
その重要な理由は、真実が世界の情報の非常に小さな部分集合だということです。音楽のように、真実の問題が全く生じない情報がたくさんあります。世界について何かを伝えようとする情報でさえ、そのほとんどは真実ではありません。
その理由は明白であるはずです。真実にはコストがかかります。中世の戦いについて、あるいは現在のアメリカの政治で何が起きているかについて、真実の記録を書こうとするなら、証拠を集め、分析し、何が信頼できて何が信頼できないかを見分けるために、多くの時間と労力とお金を投資する必要があります。真実の記録を作るのはとてもコストがかかります。
それに対して、フィクションやファンタジー、嘘は非常に安価です。好きなことを書くだけで、事実確認も研究も必要ありません。同様に、真実はしばしば非常に複雑です。なぜなら現実は複雑だからです。世界の物理的構造について知りたいと思えば、それは非常に複雑です。あるいは、何が疫病を引き起こすのかについても非常に複雑です。一方、フィクションは好きなだけ単純にすることができます。そして人々は通常、単純な物語を好みます。それの方が簡単だからです。
最後に、真実はしばしば痛みを伴い、魅力的ではありません。個人のレベルでは、あなたが愛する人々に与えた痛み、あるいは自分自身に与えた痛みを認識するために、何年もの療法が必要かもしれません。それを認めるのは簡単ではありません。
これは国家全体や文化、宗教のレベルにまで及びます。彼らは時として、クローゼットの中にスケルトンどころか墓地全体を持っていて、それを認めたくないのです。真実がコストがかかるだけでなく複雑で痛みを伴うのに対し、フィクションは好きなだけ気持ちよく、魅力的で、単純にすることができます。
したがって、完全に自由な情報市場では、真実は上に浮かぶのではなく、底に沈むようになっています。私たちは真実に助けを与える必要があります。
私たちはこれをソーシャルメディアやインターネットの世界で目にしてきました。サイエンティフィック・アメリカンの研究によると、嘘は真実の6倍の速さでウイルス的に拡散し、共有されやすいことが分かっています。あなたはその理由の一部を説明してくれましたが、これは重要です。なぜなら、これらの物語は社会全体を結びつける接着剤であり、偽りの物語の方が真実の物語よりもその接着剤として優れているからです。それらは単により安価で魅力的なのです。
例えば、原子爆弾を作ろうとする場合を考えてみましょう。原子爆弾を作るためには、いくつかの事実を知る必要があります。これは非常に明確であるべきです。大規模なネットワーク、情報ネットワーク、経済的、軍事的、文化的なネットワークは、ゼロの真実では機能できません。世界についていくつかの真実を知る必要があります。原子爆弾を作りたいなら、物理学のいくつかの事実を知る必要があります。そうでなければ爆弾は爆発しません。
しかし、人間のネットワークについての重要な点は、それらが二つのものを必要とするということです。世界についていくつかの真実を知る必要がありますが、同時に非常に多くの見知らぬ人々の間で秩序を保つ必要もあります。原子爆弾を作るためには、物理学の効果を知っている物理学者が一人いるだけでは不十分です。他に何千人、何十万人もの人々が必要です。
エンジニアが必要で、原子炉を建設する建設者が必要で、どこかでウランを採掘する鉱夫が必要で、これらのエンジニアや物理学者たちが食べるための米や小麦を栽培する農民が必要です。では、どのようにして何十万人もの人々に核開発プログラムで働かせることができるでしょうか？
単に物理学の事実を伝えて、「E=mc²を聞きなさい」と言っても、誰もそれを動機付けとは感じません。より良い物語が必要です。そして最も簡単な物語は神話的な物語であり、ファンタジーです。
科学や技術開発に携わる人々がしばしば理解していないのは、ほとんどすべての場合において、物理学や生物学、歴史の事実を知っている人々が、神話学や神学の専門家から命令を受けているということです。そして、この基本的な不均衡は、歴史を通じて何度も何度も見られるものです。