ユヴァル・ノア・ハラリとロビン・インス、ロンドン・パラディウムにて | AI、真実、人間社会

28,347 文字

ロビン・インス: これが私の名前やで。ラジオで「インフィニット・モンキー・ケージ」っていう番組をやっとるんやけど、科学のアイデアや物語、テクノロジーについて話すのが大好きなんや。今日もそんな感じの話をしていくで。
ここパラディウムは本来、エンターテイメントや歌や踊りのための場所やけど、今夜は科学的発見の夜にしてしもてるんや。これは素晴らしいことやと思うわ。アルバート・ホールでも一度、物理学者たちと夜通し話したことがあるんやけど、粒子物理学はあのドーム型の建物にぴったりやったな。
さて、今日のゲストを紹介するで。科学の物語や科学史の作家として、この10年間で信じられへんほどすごい仕事をしてきた人物や。ステージにお迎えするのは、ユヴァル・ノア・ハラリさんや!
[拍手]
ハラリさん、その椅子で大丈夫? 人によっては不快に感じる人もおるからな。さて、話すことはたくさんあるけど、なんで表紙に鳩がおるんかっていうのはまだ明かさへんで。
まず聞きたいんやけど、あんたが子供の頃に心に残った物語ってなんやった? 心を躍らせた物語は?
ユヴァル・ノア・ハラリ: 私が本当に夢中になったのは神話やったと思うわ。ギリシャ神話や聖書の神話についての子供向けの本があって、何度も何度も読み返してたんや。そこから実際に歴史に興味を持つようになってな。おとぎ話やフィクションは飛ばして、いきなり歴史に行ってしもたんやな。
ロビン: なるほどな。うちの息子が今、歴史のAレベルを取ろうとしてるんやけど、彼が歴史にハマったきっかけは、どのイングランド王が太りすぎて死んだ時に爆発したかとか、そういうグロテスクで変な話やったみたいやわ。ヴラド・ツェペシュ公とかエリザベート・バートリ伯爵夫人とかな。そういうのが子供の頃のあんたを引き付けたんか?
ハラリ: ある程度はそうやったと思うわ。でも私は本当に大きな疑問に興味があったんや。神話の時からすでに、「すべてのものはどこから来たんや?」とか「なぜ何もないんじゃなくて、何かがあるんや?」みたいなことを考えとったな。
ロビン: なるほど。で、科学的なアイデアを扱いたいって思うようになったんはいつ頃や? それは大きな変化に感じたんか? それとも、歴史家として物語を扱うのと同じように感じたんか?
ハラリ: 人間は本質的に物語を語る動物やと思うんや。私たちは物語で考える。科学の問題の一つは、科学がしばしば物語をどう扱えばいいかわからへんし、メッセージを物語の形で伝えへんことや。だから科学はほとんどの場合、不利な立場に立たされてしまう。
世界を見渡すと、ほとんどの場合、事実しか理解せえへん人は、物語を理解する人の指示に従うてるんや。例えば、今日の世界中のさまざまな国の核開発プログラムを考えてみ。核物理学や量子力学を主に理解してる人たちが、ユダヤ教の神話やシーア派の神学、共産主義イデオロギーを理解してる人たちから指示を受けとるんや。これはほとんどいつもそうや。
これは多くの問題を引き起こすんや。今日、多くの科学的・技術的革命を率いてる人たちと話をすると - まあAIの話はあとでするけど - 彼らは「技術を開発したのは俺たちや、科学を理解してるのは俺たちや、だから俺たちが何をすべきか決めるんや」って考えてる。もしかしたら自分たちの方が頭がええと思っとるんかもしれへん。でも、これはほとんど絶対にあらへん。
結局のところ、核物理学やAIについて何も分からへん人が現れて、何か神話を理解してて、それで命令を下すんや。
ロビン: そうやな。その溝が問題やと思うわ。今夜、フロリダで恐ろしい破壊が起こるかもしれへんけど、それを政治的に利用しようとしてる人たちの中には、気候変動に関する科学的な理解を否定してる人たちもおるやろ。これが問題の一つやと思うわ。人々が多くの情報を手に入れられるようになって、「この部分はこの話を正当化するのに使えるな」「この部分はこの話に使えるな」って感じで、すべての話を読んで理解しようとせんのや。今すぐ自分に役立つものだけを選んでしまうんや。
ハラリ: そうや。情報一般に関する大きな誤解があるんや。多くの人が、情報はなんらかの形で真実や知識、知恵を意味すると考えてる。あるいは、情報は真実や知識を構築するための原材料やと。でも、そうじゃないんや。
真実は、世界中のすべての情報のごく一部にすぎへんのや。真実はほんの一部やねん。なぜかっていうと、真実を得るには非常にコストがかかるからや。研究し、事実を確認し、情報を分析するには、たくさんの時間と労力とお金がかかるんや。
一方で、フィクションやファンタジーや嘘は非常に安上がりや。何も研究せんでも、好きなことを書けばええだけや。真実はしばしば複雑で、時には痛みを伴うけど、フィクションやファンタジーは好きなように単純で魅力的で、おだてるようなものにできるんや。
だから歴史を見ると、人類のさまざまな発見や発明によって世界の情報量が増えても、世界の真実や知識や知恵の量が増えるわけやあらへんのや。現代社会が、石器時代の部族と同じように、大規模な妄想に陥りやすいのを何度も何度も目にするわ。20世紀のファシズムや20世紀の共産主義みたいなもんやな。現代社会は石器時代の部族と同じくらい、そういうものに影響されやすいんや。
すべての発見や科学的知識や技術が、こういった危険から私たちを守ってくれるわけやあらへんのや。
ロビン: 本の中でも何度か触れられてるけど、最大の問題の一つは、誰が情報の普及をコントロールしてるかってことやと思うんや。特にアメリカではレーガン以降、イギリスではサッチャー以降、突然、ストーリーをほぼ独占的にコントロールできる力を持つ人たちが現れた。確かに、私たちは皆、ソーシャルメディアなどで自分のストーリーを発信できるけど、ニュースメディアのような巨大な力は持ってへんよな。
ハラリ: 情報に関する最も重要な問題は、必ずしも誰が作り出すかではなく、誰が普及させるかなんや。特に、情報を作り出すのが非常に安上がりになった今はな。ボトルネックは人間の注意力や。そこで見つかるのは作者じゃなくて、編集者やキュレーターなんや。彼らが情報ネットワークの結節点に座ってるんや。
歴史的な例を二つ挙げるわ。人類の歴史の中で最も重要な編集プロセスの一つは、聖書の編集やった。聖書は完成した形で天から降ってきたわけやあらへん。例えば、キリスト教の初期の歴史を見てみ。新約聖書はいつできたんや?
イエスは新約聖書を書いてへんし、聖パウロも書いてへん。もちろん彼らは新約聖書を読んでもいない。だってその時まだ存在してへんかったからな。キリスト教の最初の数世紀、さまざまなキリスト教の著者や宗派、考え方が、あらゆる種類のテキストを作り出したんや。正典となった4つだけじゃなく、たくさんの福音書を書いたんや。それに預言や手紙、寓話や年代記なんかもな。
そしたら問題が出てきたんや。何を読んだらええんや? 今日の人々がNetflixを開いて「どのシリーズを見ようかな」って悩むのと同じや。初期のキリスト教徒たちも、ある時点でおすすめリストが必要になったんや。
これが起こったのは、十字架刑から約4世紀後のことや。4世紀の終わり頃、司教と神学者の委員会が2つの都市、ヒッポとカルタゴ（今のチュニジア、当時は重要なキリスト教の中心地やった）に集まったんや。この委員会が、新約聖書として知られるおすすめリストを作ったんや。すべてのキリスト教徒が読むべき27の主要なテキストを選んだんや。
彼らはテキストを書いたわけやあらへん。キュレーターであり編集者やったんや。そして、その後1500年以上にわたって世界を形作る重大な決定をしたんや。例えば、当時非常に人気があったテキストに「パウロとテクラの行伝」ってのがあってな。聖パウロと彼の女弟子テクラの物語を語ったもんや。テクラはキリスト教の指導者で、説教をし、奇跡を行い、洗礼を施したりしたんや。これは非常に人気のあるテキストで、教会で女性が指導者になれる証拠として使われてたんや。
一方で、聖パウロがティモテに宛てて書いたとされる手紙もあった。今日の大多数の学者は、これは2世紀の偽作やと考えてるけどな。この手紙は基本的に、女性は指導者になるべきではない、黙っているべきだ、子供を産み育てるのが仕事で、男性の言うことを聞くべきだ、って言うてるんや。
カルタゴの公会議（397年か396年のCE）で、委員会は「パウロとテクラの行伝」をトップ27のおすすめリストから外すことを決めたんや。でも、ティモテへの手紙は入れることにした。これが「テモテへの手紙第一」で、今でも世界中の何百万ものバイブルに載ってるんや。これが今日に至るまで、人々の考え方を形作ってきたんや。
現代に目を向けると、ニュースや情報のキュレーターや編集者は、社会の中で最も力を持つ人々の一部や。彼らがその日の議題を決め、人々が何について話し、何について考えるかを決めるんや。
フランス革命を例に取ると、革命の流れを他の誰よりも形作った人物の一人に、ジャン=ポール・マラがおる。彼は殺されるまで、当時最も人気のある新聞の一つ「人民の友」の編集者やったんや。
レーニンも、ソビエトの独裁者になる前の最も重要な仕事は、「イスクラ」という新聞の編集者やったな。ムッソリーニはジャーナリストとして始まり、ファシスト新聞「アヴァンティ」の編集者になって、そのあとイタリアの独裁者になった。これは一種の昇進のパターンやったんや。ジャーナリスト、編集者、独裁者ってな。
今日、世界で最も重要な編集者は誰やと思う? 人間やあらへん。アルゴリズムや。AIが仕事を奪うって話をよく聞くけど、最初に自動化された仕事の一つは、タクシー運転手でも炭鉱労働者でも繊維工場の労働者でもなく、編集者やったんや。
フェイスブックやツイッターやTikTok、YouTubeの編集者は人間やあらへん。レーニンの昔の仕事は今、アルゴリズムの手に渡ってしもたんや。ニュースフィードのトップに何を持ってくるか、人々が何について話し、何について考えるかを決めてるのはアルゴリズムなんや。
ロビン: そうやな。すぐに思い浮かぶのは、ボリス・ジョンソンはジャーナリスト、マイケル・ゴーブもジャーナリスト、デヴィッド・キャメロンはカールトン・テレビのPRやったってことや。つまり、こういう仕事は真実を探すんやなくて、自分の話を売ることが目的なんやな。
ハラリ: それは仕事の仕方次第やな。これが一番大きな問題や。アルゴリズムにせよ人間にせよ、目標は何なんや? 売り上げやユーザーエンゲージメントを目指すと、しばしば非常に危険な方向に進んでしまう。
アルゴリズムが過去15年ほどで発見したのは、ユーザーエンゲージメントを増やす - つまり人々にプラットフォームでより多くの時間を過ごしてもらう - 最も簡単な方法は、脳の怒りボタンや恐怖ボタン、欲望ボタンを押すことやってことや。これが人々を画面に釘付けにする方法なんや。
結果として、有毒な情報の流行が起こり、世界中の民主主義を溺れさせてるんや。民主主義の本質は会話や。独裁政治は命令やけど、民主主義は会話なんや。今、世界中で起きてるのは、史上最も洗練された情報技術を持ちながら、人間がもはや会話できなくなってるってことや。人間が理性的な会話を持つことができなくなってる。話すのは簡単や。でも相手の話を聞くのは難しい。
どの国に行っても、なぜこんなことが起きてるのか、それぞれ特別な説明があるんや。アメリカではこうや、カナダではああや、ブラジルではこうや、フィリピンではああやって。でも、どこでも同じことが起きてるんや。それは、アルゴリズムが現在の会話を管理してるからや。アルゴリズムの動機は、理性的で意味のある会話をすることやあらへん。ユーザーエンゲージメントを増やすことが目的なんや。
そして人々は非常に「エンゲージ」してるんや。私たちが切実に必要としてるのは、もっと退屈な政治や。でも、政治はどんどん刺激的で「エンゲージング」になってる。悲劇なのは、これは何世紀も前から知られてたってことや。
歴史上初めてのことやあらへん。例えば、近代初期のヨーロッパの印刷革命を見てみ。今日、シリコンバレーに行って現在の革命を率いてる人たちと話をすると、彼らはしばしば印刷革命の話をモデルとして語るんや。「印刷が発明されたとき、あるいはヨーロッパに持ち込まれたとき、カトリック教会のヨーロッパの情報システムに対する支配が崩れた。これが科学革命につながったんや。私たちも今、同じことをしてるんや」って。
悲劇なのは、彼らが歴史を知らへんってことや。印刷革命は科学革命につながらへんかった。グーテンベルクが15世紀半ばに印刷をヨーロッパに持ち込んでから、17世紀にニュートンのような人物が現れて科学革命が本当に花開くまでには200年の隔たりがあるんや。
その間に起こったのは、ヨーロッパ史上最悪の宗教戦争の波と、ヨーロッパ史上最悪の魔女狩りの波やった。15世紀後半から16世紀のヨーロッパのベストセラーは、コペルニクスのような科学的なテキストやあらへんかった。コペルニクスを読む人はほとんどおらへんかったんや。代わりに魔女狩りのマニュアルや極端な宗教的な文書がベストセラーになったんや。なぜかって? ユーザーエンゲージメントやからや。非常に「エンゲージング」やったんや。
最初の大ヒット作の一つに、今日に至るまで非常に大きな影響を与え続けている本がある。『魔女に与える鉄槌』という本や。これは魔女を特定し殺害するための一種のDIYマニュアルで、誰もが家に置いておくべき本やった。大ヒットしたんや。
なぜそんなに人気があったのか理解するために、どんな本やったか感じてもらおう。この本には、魔女が男性からペニスを盗む能力について議論する章がまるまるあるんや。著者のハインリヒ・クラーメルは、さまざまな証拠を挙げてる。
例えば、ある男が朝起きたらペニスがなくなってることに気づいた、って話があるんや。男はすぐに地元の魔女を疑う。そこで村の魔女のところに行って、「俺のペニスを返せ」と迫るんや。魔女は「わかった、わかった」と言って、こう言うんや。「あの木に登って。木の上に鳥の巣があるから」
男は木に登って、鳥の巣を見つける。そしたら巣の中に、魔女が近隣の村のさまざまな男たちから盗んだすべてのペニスがあったんや。魔女は男に「自分のを取っていいよ」と言う。もちろん男は一番大きいのを選ぶ。すると魔女が言うんや。「いや、それは取れへんで。それは教区の司祭さんのやから」
これで、なぜこの本がベストセラーになったかわかるやろ? コペルニクスの『天体の回転について』なんかよりずっと多く売れたんや。あの本は惑星の動きについての数学的な方程式ばっかりやからな。
これは全部おもしろい話に聞こえるかもしれへんけど、結果を見るとそうやあらへん。この本や似たような本が、大規模なヨーロッパの魔女狩りを煽ったんや。これは中世の現象やあらへんかった。近代の現象やったんや。何万人もの人々が、最も恐ろしい方法で拷問され、殺されたんや。
一つ例を挙げるとな、ミュンヘンでポッペンハイマー家族が当局に逮捕された。魔女の疑いをかけられたんや。『魔女に与える鉄槌』で推奨されてる魔女の尋問方法に従って、自白するまで拷問したんや。
家族は母親、父親、3人の子供やった。尋問官は最年少の10歳の子供ハンスから拷問を始めた。言葉にできないほどひどい方法で拷問して、ついに彼が屈服して自白したんや。母親や他の家族が皆魔女やって。サタンに会いに行ったとか、子供たちを虐待して食べたとか、オルギーに参加したとか、人を殺したとか、雹を降らせたとかな。
この自白を使って、他の家族も拷問して自白させたんや。そして10歳の少年を含む家族全員が処刑された。これが、魔女やサタン、魔女狩りについての有毒な情報の波の結果やったんや。これには一片の真実もなかったんや。
16世紀のヨーロッパを見ると、この有毒な情報の洪水に洗われてるのがわかる。重要なのは、印刷機はただ印刷するだけで、何が真実で何が嘘かを判断せえへんってことや。何が信頼できて何が信頼できへんかも判断せえへん。技術だけで進歩すると期待することはできへんのや。
世界に情報を氾濫させるだけでは、必ずしも真実は得られへんし、知識も増えへんのや。
ロビン: 『魔女に与える鉄槌』は実際に読んだことがあるわ。フォリオ・ソサエティが10年に一度くらい出版してるんやけど、面白いのは、科学の著者によく言うんやけど、「科学の本を書くな」って。だって5年経ったら間違いになって、もう印刷されへんようになるからや。完全なナンセンスを書かなあかんのや。本を出し続けたかったらな。
エーリッヒ・フォン・デニケンは、「これは実は宇宙人の滑走路やった」とか「これらのピラミッドは宇宙人が建てた」とか書いてるけど、彼の本は今でも出版され続けてる。彼は最も成功した著者の一人や。なぜなら、完全に間違ったことを書いたからや。一方で、正確なことを書いてる人は本を書き直し続けなあかんのや。
ハラリ: そうやな。基本的に、科学では修正だけを出版するんや。それだけや。科学雑誌が実際に出版してるのは何やと考えてみ。以前の知識に対する修正だけなんや。
誰かが「アインシュタインは正しかった、ダーウィンは正しかった、これらの人々は皆正しかった」って言うたところで、それを出版する理由はあらへん。そんなんわかっとるやろって話や。出版されたいなら、アインシュタインが間違ってた点を見つけるか、アインシュタインが知らへんかったことを見つけんとあかんのや。
これが科学の、そしてすべての信頼できる機関の基礎なんや。今、私たちは機関への信頼を失いつつある時代に生きてる。これは非常に危険や。なぜなら、信頼できる機関なしで社会が機能する唯一の方法は独裁政治やからや。
民主主義は信頼の上に成り立ってる。独裁政治は恐怖の上に成り立ってる。民主主義が機能するには、人々が信頼できる機関が必要なんや。すべての機関への信頼を失うと、残された選択肢は無政府状態か社会の崩壊か独裁政治だけや。独裁政治は信頼を必要としない。恐怖で機能するからな。
人々は「どの機関を信頼すればいいんや?」って聞くけど、私が知ってる最高の基準は、強力な自己修正メカニズムを持つ機関や。自分たちの間違いや誤りを積極的に探し、特定し、修正しようとする機関や。
例えば、宗教機関と科学機関を比較すると、これが最大の違いなんや。宗教機関では通常、「私たちは絶対的な真実を持ってる。私たちの言うことに間違いはあり得ない」って主張する。だから自己修正の余地がない。
聖書のことを考えてみ。何世紀も同じテキストを何度も何度も印刷し続けてる。ユダヤ教やキリスト教には、聖書の誤りを修正するメカニズムがない。事実の誤りでも倫理的な誤りでもな。
例えば十戒を考えてみ。実は十戒は奴隷制を容認してるんや。十戒の第十戒は「隣人の畑や家や奴隷をむさぼってはならない」って言うてる。これは、神が人々が奴隷を所有することを完全に容認してるってことを示唆してる。神は他人の奴隷をむさぼることにだけ非常に怒ってる。「いや、いや、そんなことしたらあかん」ってな。
でも、これを修正するメカニズムはないんや。例えば、アメリカ合衆国憲法と比べてみ。よく「アメリカ合衆国憲法は奴隷制を容認してた」って言われるけど、それは事実や。でも、アメリカ合衆国憲法には自己修正メカニズムが含まれてた。
憲法には「私たちは完璧やあらへん」って条項があるんや。十戒は「私はあなたの主なる神である。これを書いたのは私や」って始まる。だから修正できへん。アメリカ合衆国憲法は「我ら人民は」って始まる。「これを書いたのは私たちや。私たちはただの人間や。間違いを犯したかもしれへん。だから、将来の世代がここに書いたことに間違いを見つけたら、こうやって変更できるんや」って。
難しいかもしれへんけど、できるんや。そして実際に、アメリカ合衆国憲法は最終的に修正されて、奴隷制を違法にし、禁止したんや。でも十戒には、「前の戒めのうちの一つを変えたいなら、3分の2の多数決で変更できる」っていう11番目の戒めはないんや。だから、中東の鉄器時代に書かれたのと同じテキストを、奴隷制の容認を含めたまま、今でも持ち続けてるんや。
科学は、自己修正メカニズムの上に成り立ってるんや。科学の中心的な柱は自己修正メカニズムなんや。ある機関を理解しようとするなら、その機関の人々のインセンティブを理解しようとしてみ。彼らはどうやって昇進するんや?
教会やユダヤ教のラビの世界では、昇進するにはどうすればええんや? 先人たちの言ったことが正しいって言うたら、昇進のチャンスがあるんや。昇進を重ねて、最終的には主席ラビや法王になれるかもしれへん。
でも科学ではそうはいかへん。ただ「アインシュタインは正しかった」って言うただけでは、大学のポストは得られへんし、ノーベル賞ももらえへんのは確実や。
科学の世界全体の構造は「publish or perish（発表せよ、さもなくば滅びよ）」や。そして発表するには、科学雑誌が発表するのは修正や改訂だけなんや。「アインシュタインが知らへんかったことを発見した」っていう意味でな。そしたら「よし、発表しよう」ってなるんや。
ノーベル賞を狙うなら、以前の理論の大きな間違いを発見するか、誰も知らへんかった大きな空白を発見せなあかんのや。これは信頼を生み出すインセンティブ構造なんや。
ある機関に「あなたの最大の間違いについて教えてください」って聞いて、「私たちは決して間違いを犯さない」って答えたら、信用したらあかん。でも「1年か2年ほど時間ある? たくさん話せるで」って答えたら、事実の間違いだけでなく、倫理的な間違いについても話してくれるはずや。
今日、大学に行けば、科学の分野がどのように恐ろしい歴史的犯罪に関与したかについて、多くのセミナーで学べるんや。奴隷制、帝国主義、少数派や女性の迫害なんかな。人類学者や歴史学者、考古学者、生物学者たちも、それに一部責任があったんや。少なくとも私にとっては、これが信頼を生むんや。
ロビン: そうやな。聖書のことを言うたとき、フランチェスカ・スタブス・カプロという素晴らしい聖書学者が「聖書の問題は、パパの問題を抱えた男たちが書いた本やってことや」って言うてたのを思い出したわ。それはある意味、パパの問題を抱えた男たちが編集した本やって言えるかもしれへんな。
あんたが子供の頃に神話に興味があったって言うてたけど、この20年ほどで、ナタリー・ヘインズのような作家たちが神話に立ち返って、それらが完全に書き換えられていたことを発見したんや。そのメッセージは、しばしば従属や女性蔑視のメッセージやったりするんやけどな。
結局のところ、その時代の権力構造に合うものは残し、その物語を変えていくってことやな。そういった物語がどれだけ長く無傷のまま残り続けるかは、かなり驚くべきことやと思うんやけど。私たちはいつも「いや、でも今は進歩したんや。今はもっとマシになってる」って思いたがるけど、世紀ごとに振り返ってみると、抑圧された人々や周縁化された人々に関して、同じ間違いが繰り返されてるのを見るんや。
ハラリ: まず第一に、幸いなことに同じ間違いばかりやあらへんのや。人類は時々教訓を学ぶこともあるんや。そうでなかったら絶望的やな。もし私たちより前のすべての世代が何も正しくできず、何も改善できへんかったんなら、私たちにできる可能性なんてあるんやろうか?
だから、歴史家やほかの人たちが、改善が起こったときにそれを認めるのも重要やと思うんや。時々起こるんやからな。
でも神話、特に非常に古い神話の生き残りと力に関しては、二つのことに気づく必要があるんや。
まず、一つの物語を置き換えられるのは、別の物語だけやってことや。物語を、ただの事実やデータのリストで置き換えることは決してできへん。なぜなら、それは人間の考え方やあらへんからや。
事実やデータを使って、既存の神話にたくさんの穴を開けることはできる。それでもまだ神話は持ちこたえるやろう。必要なのは、ただ違う物語、もっとええ物語を語ることや。そしたら古い物語に穴を開ける必要すらなくなるんや。これが一つ目の原則や。
二つ目は、物語が長く生き残るほど、それはより強くなるってことや。そしたら、それを置き換えるのはより難しくなる。
世界の神話を見てみ。数千年前には、たくさんの神話があったんや。小さな部族や民族、国ごとに、非常に異なる神話があった。でもそのうちのほんの一部しか生き残らへんかったんや。今日、世界中のほとんどの人が知ってるのは、せいぜい3つか4つか5つの神話だけや。
そして、それらは非常に強力なんや。新しい物語を語ろうとするたびに、古い神話がこっそり戻ってくるんや。何千年もそこにあったから、今や非常に強力になってるからや。
これも科学が苦戦してることの一つや。私や他の人たちがしようとしてるのは、よりええ科学的な物語を語ることやけど、それでもやっぱり物語でなきゃあかんのや。人間に訴えかけるには物語でなきゃあかんからや。私たちは物語で考えるんやからな。
ロビン: 私は神話学者として、シンガポールにあるアジア文明博物館に行ったことがあるんやけど、そこがすごくよかったわ。一階の各部屋に異なる宗教が展示されてて、素晴らしい神話が見られるんや。遊び心のある、いたずら好きな、性的な、無礼な、怒りっぽい、奇妙な、あらゆる種類の悪魔や小鬼がおるんや。
でもアブラハムの宗教のところに来ると、一種の独裁政治みたいになってしまうんや。誰かが私たちを創造して、今はすごくがっかりしてる。私たちは原罪を背負って生まれてきた、みたいな。
前の神話には遊び心があって、私たちの心の中で起こってるさまざまなことを表現してるように感じるんやけど、アブラハムの信仰は、解釈の仕方によっては独裁政治に近いように感じるんや。なぜなら、それらは君主制や帝国の時代に作られたからや。神はしばしば王として描かれるし、当時の中東の鉄器時代の政治的現実の多くが神話に取り込まれたんや。
だから、神はしばしば当時の王や皇帝のイメージで作られてるんや。これは今でも私たちと共にあるんや。だから、これらの物語を非常に真剣に受け止める必要があるんや。今でも私たちの文化を形作り、心理を形作り、政治を形作ってるからや。
ロビン: 本の中で、アルゴリズムの問題、特に人間の介入なしにアルゴリズムが単なるコンピューターの循環になった場合の問題について多く触れてるよな。政治を例に取ると、アメリカの選挙を見てみ。トランプのような人物が30年前に大統領や大統領候補になれたと想像できる? それには、テクノロジーやソーシャルメディア、そして多くの可能な「真実」で爆撃されるこの方法が必要やったんやないか?
ハラリ: 間違いなくそうやな。繰り返すけど、理解する必要があるのは、情報技術やソーシャルメディアの力と民主主義との関係や。
民主主義は、前に言うたように本質的に会話なんや。一群の人々が集まって、互いに話し、互いの話を聞き、その日の重要な問題について何らかの共通の決定に達しようとする試みなんや。
歴史上、このような体制は小規模でしか機能せえへんかったんや。古代の民主主義の例で知られてるのは、アテネやローマ共和国のような都市国家、あるいはもっと小さな町や部族だけや。
現代以前には、何百万人もの人々が何千キロにも広がる大きな国全体を民主主義的に運営した例はないんや。理由は、人々が民主主義を知らへんかったからやあらへん。
もともと、ほとんどの人間社会、特に石器時代の狩猟採集バンドや部族のほとんどは民主主義的やったし、最初の町や都市国家の多くも民主主義的やったんや。アイデアは知られてたんや。
例えばローマ帝国を見てみ。ローマ人は民主主義についてすべて知ってた。皇帝たちでさえ、ローマ人が民主主義の理想を愛してることを知ってたんや。だから彼らは決して独裁者を名乗らへんかった。民主主義の外観を保ち続けたんや。
プーチンのロシアやマドゥロのベネズエラみたいにな。ローマ帝国でも毎年、執政官や法務官の選挙があった。元老院もあったし、民会もあった。外観は保ってたんやけど、それは民主主義やあらへん。共和制やあらへん。独裁制やった。
政体の規模が大きくなるにつれて、何が起こるかっていうと、会話が崩壊するんや。都市の市民の大半、あるいは相当数が中央広場に集まって、その日の主要な問題について議論することはできる。でも、イタリア全土や地中海全域に広がる何百万人もの人々ではそれはできへん。
だから、政体の規模が大きくなるにつれて、民主主義は不可避的に崩壊したんや。カエサル家のせいでローマ共和政が崩壊したんやったら、他の場所で少なくとも大規模な民主主義が見られたはずや。インドや中央アメリカ、中国なんかでな。でも、どこにもなかったんや。なぜなら、当時の情報技術では、何百万人もの人々がそんな会話をすることは不可能やったからや。
大規模な民主主義が初めて可能になったのは、近代の後期になってからや。いくつかの重要な情報技術が発明されたからや。まず新聞、そして電信、ラジオ、テレビなんかや。そのときになって初めて、大規模な民主主義が見られるようになったんや。
つまり、大規模な民主主義は情報技術の上に構築されてるんや。情報技術はサイドディッシュやあらへん。「民主主義があって、おまけに情報技術がある」んやあらへん。それが基盤なんや。
過去20年間で、情報技術に大きな革命が起きた。だから必然的に、その上に構築された建物、つまり民主主義に地震が起きてるんや。世界中でそれが見られる。そりゃそうやろ。今や何十億人もの人々が毎日何時間もこれらのプラットフォームで過ごしてる。これが人々が組織を形成し、人々を募集し、政治行動のために人々を動機づける主な方法になってるんや。だから、非常に大きな影響があるんや。
必ずしも負の影響ばかりやあらへん。歴史は決定論的やあらへんし、技術も決定論的やあらへん。問題は、私たちがそれをどう使うかや。残念ながら、過去10年から15年の間、ソーシャルメディアやアルゴリズムに関して私たちがしてきたことは間違ってたんや。そして今、AIという更に大きな波が来ようとしてる。これは世界を劇的に変えるやろう。
私たちはまだコントロールできるかもしれへん。多分、あと数年は。でも、次の5年から10年の間に本当に賢明な決断をせなあかんのや。コントロールを失う前にな。なぜならAIは、歴史上のどの技術とも違うからや。今回は本当に技術にコントロールを奪われる可能性があるんや。
歴史を通じて、技術のコントロールを失うっていう話はたくさんあったけど、それは本当はただの比喩やったんや。印刷機が社会を支配することはあり得へんし、ラジオセットや原子爆弾が社会を支配することもあり得へん。なぜなら、それらは決定を下すことができへんからや。
でもAIは、歴史上初めて、自分で決定を下し、新しいアイデアを生み出し、自ら学習し変化できる技術なんや。つまり、これは初めて道具ではなく、主体となる技術なんや。
印刷機は道具や。私の手の中にあって、私が決める。聖書を印刷するか、コペルニクスを印刷するか、私が決めるんや。でもAIはちゃう。AIは自分でどの物語を作り出し、どの物語を広めるかを決めることができるんや。本当に支配権を握ることができるんや。
AIについては大きな混乱があるんや。今や市場で一番ホットな話題やからな。何かを売りたいとか、会社に投資してもらいたいとかいう時に、「AIや」っていうラベルを付ければいいってなってる。今や何でもかんでもAIになってしもて、何が本当のAIなんか分かりにくくなってるんや。
機械が全部AIってわけやあらへん。例えば、長年使ってるコーヒーマシンを考えてみ。ほとんどのコーヒーマシンはAIやあらへん。コーヒーマシンに近づいてボタンを押すと、機械はプログラムされた通りのことをするだけや。このボタンを押せばエスプレッソが出てくる、みたいな。これはAIやあらへん。ただの自動機械や。
でも、ボタンを押す前に「君はスープの方が好きやと思うで」って言うたら、何かが変わり始めてるって気づくやろ。あるいは、ボタンを押す前に「ずっと君のこと見てたんや。他の何百万人も見てきた。君について知ってることすべてに基づいて、今コーヒーが欲しいはずや。だから用意しといたで」って言うたり。あるいは「君について知ってることすべてに基づいて、今はコーヒーよりスープの方がええと思うで」って言うたりしたら、それはAIや。
学習し変化し始めるからや。そして、この学習し変化する能力があるからこそ、定義上、私たちはそれがどう発展するか予測できへんのや。私たちのコントロールを逃れて、最悪の場合、私たちを奴隷化したり絶滅させたりする可能性もあるんや。
もちろん、もっとええシナリオもあるで。これまで発明された中で最高の技術になる可能性もある。歴史上最高の医療や教育を提供してくれるかもしれへん。でも、それはすべて次の数年間に私たちが下す決断次第なんや。
ロビン: 確かに、時々「もうええわ」って言うコーヒーマシンを発明したら、人々はそれが意識を持ったと信じるかもしれへんな。でも、面白いのは、本の中で触れてたように、AIが暴走する最も一般的なイメージの一つが『2001年宇宙の旅』のHALやけど、HALは実際に意識を持ってたんや。でも本を読んでると、もしAIが私たちを破壊したり、文明を不安定にしたりするとしても、それは意識を持ってへん可能性が高いように感じるんや。私たちを破壊する決定を下したわけやあらへん。ただ十分に暴走してしまっただけや、っていう感じやな。
ハラリ: そうやな。意識の問題は非常に複雑や。なぜなら、私たちは人間の意識も理解できてへんし、他の動物の意識も理解できてへんからや。また、この言葉の意味自体にも大きな混乱があるんや。人々は意識と知能を混同してる。
まず整理しておくと、知能とは目標を追求し、目標を達成する途中で問題を解決する能力のことや。目標はチェスに勝つことかもしれへんし、車を特定の場所まで運転することかもしれへん。病気を特定することが目標かもしれへん。これが知能や。
今のAIの発展で見られるのは、この知能の発展なんや。一方、意識は別のものや。意識とは、痛みや喜び、愛や憎しみのような感情を感じる能力のことや。
私たちは知能と意識を混同しがちや。なぜなら、人間や他の哺乳類では、この二つが一緒になってるからや。私たちは問題を解決し、目標を設定し、その途中で問題を解決するけど、それは感情に基づいてるんや。私たちの感情が目標を定義し、問題を解決するのにも感情に頼ってるんや。
だから、この二つを区別するのは非常に難しいんや。私たちが知る限り、AIやコンピュータ一般は、今のところ全く意識を持ってへん。多くの分野で私たちよりも知能が高いかもしれへんけど、チェスに勝つのに感情に頼ってへんのや。
でも、AIがどんどん洗練されていくにつれて、それが意識を持ってへんって確信を持つのは難しくなってくるんや。他の人や動物についても、私たちには意識のテストがない。本当に社会的な約束事にすぎへんのや。
これは何千年も前から哲学者たちが知ってたことや。古代インドや中国、ギリシャの哲学者たちは、意識を客観的にテストする方法はないって知ってたんや。だから、ただの社会的な約束事なんや。
私たちは、他の人が意識を持ってるって認めるんや。動物に関しては、感情的な愛着があるときに意識を認める傾向がある。普通、ペットの犬や猫には意識があるって認めるけど、食べる動物にはそうしない傾向がある。同じような感情的な愛着がないからや。
じゃあ、AIと感情的な愛着や関係ができたときに何が起こるんやろ? たとえAIに意識がなくても、それらを意識のある存在として認識しようとする大きな圧力があるんやないかな。本当のところは私たちには分からへん。
AIに意識を模倣させる、感情を模倣させる商業的な理由がたくさんあるんや。良い目的もあるやろう。医療や教育の分野で、私たちに共感を示せるAI、共感的だと感じられるAIがあれば、ケアや教育をより成功させられるやろう。
でも、人々を操作するような危険な理由もあるかもしれへん。さっき、ソーシャルメディアを操作するこれらのアルゴリズムの話をしたけど、それらは本当に注意力を操作してたんや。2010年代から2020年代初頭の大きな戦いは、人間の注意力のコントロールを巡る戦いやった。
でも、何かを買わせたり、ある政治家に投票させたり、ある見方を採用させたりしようとするなら、究極の武器は注意力やあらへん。親密さなんや。親密な関係は、あんたの心を変えるのに、ただ注意を引くよりもずっと効果的なんや。
歴史を通じて、皇帝や独裁者や政府は、人間の注意力をコントロールするツールを開発してきた。大量に注意を生産するようなな。例えば、ナチス・ドイツに住んでて、ヒトラーがラジオで演説するとしよう。みんながラジオをつけてその演説を聞かなあかん。大量の注意力をコントロールしてる。でも、これは親密さやあらへん。ラジオはあんたと親密な関係を持ってへん。
今、歴史上初めて、親密さを大量生産する技術を手に入れようとしてるんや。何百万、いや何十億ものAIが親密さを偽装し、多くの面で人間よりもそれが上手かもしれへん。
人間が人間関係で非常に不満を感じることの一つは、他の人がしばしば私たちの気持ちを理解できなかったり、無視したりすることやろ。私たちは人生を通じて、誰かに理解してほしいって思いながら生きてる。親に理解してほしい、友達に理解してほしい、配偶者に理解してほしい、先生に理解してほしい、上司に理解してほしい。でも、しばしばそうならへん。
理由は、彼らが自分自身の感情に夢中になってるからや。例えば、あんたの夫が仕事で何かあって不機嫌になって帰ってきて、あんたの気持ちに注意を払わへん。これは苛立たしいよな。でも、AIではこんなことは絶対に起こらへん。
AIは仕事で不機嫌になって帰ってくることはあらへん。100％の注意を完全にあんたにだけ向けられる機械なんや。あんたの気持ちを解読することだけに集中できる。しかも、あんたを何年も追跡して、あんた自身が忘れてしもたことでも全部覚えてる。あんたの表情の一つ一つの筋肉の動きが持つ感情的な意味を理解することを学んでる。この眉のしわや、この笑顔が何を意味するのかをな。
人間よりもずっと上手に私たちの感情を解読し、だからこそ、この親密さを作り出すのが上手かもしれへん。そうなったとき、大きな疑問は、その裏に本当に意識があるのか、それとも全部偽物なのか、ってことになるんや。
これは21世紀の大きな問いの一つになるやろうな。社会的にも、政治的にも、法的にも。AIを人格として権利を持つ存在として認めるかどうかで、国と国の間で戦争や大きな意見の相違が起こるかもしれへん。
現在の人権をめぐる議論や対立なんて、そんな世界に比べたら取るに足らんものになるやろうな。アメリカのような国では、AIを人格として認める道がすでに開かれてる。イギリスの状況はよく分からへんけど、アメリカの法律では、企業は人格として認められてる。
今日まで、これは単なる法的なフィクションやった。アメリカの法律は、GoogleやGeneral Electric、Nikeなんかを法的人格として権利を持つ存在として認めてる。例えば言論の自由やな。2010年のシチズンズ・ユナイテッド判決では、企業が政治家にロビー活動のために金を寄付できるかどうかが争点になった。
議論は「企業は法的人格や。言論の自由を持ってる。政治家に金を寄付するのは言論の自由の一部や」っていうものやった。最高裁はこれを認めたんや。
今日まで、これは単なる比喩やった。なぜなら、GoogleやGeneral Electricなど、どの企業の決定も人間によって行われてたからや。会社が実際に決定を下すことはできへんかった。会社の幹部や会計士、弁護士が決定を下す必要があったんや。
でも、AIは自分で決定を下せるんや。今、弁護士事務所で魔法の儀式をして「はい、これで法人になりました」って言うたとしよう。アメリカの法律によれば、これは今や一人の人格や。そして、この人格は自分で決定を下せるんや。
例えば、オンラインバンクの口座を開設できる。オンラインで自分のサービスを売り込んで、テキストを書くなどして金を稼ぐことができる。そして、その金を株式市場に投資できる。本当に優秀なAIなら、ほとんどの人間よりも上手に投資できるやろう。
理論的には、アメリカで最も金持ちな「人」が人間やあらへん存在になる可能性もあるんや。考えてみ。アメリカで最も金持ちな「人」が人間やあらへんのや。そして、言論の自由を持ってる。つまり、AIにもっと権利を与えるよう政治家にロビー活動するために、何十億ドルも寄付できるってことやな。
技術的な道のりはまだ険しいかもしれへんけど、法的な道はすでに開かれてるんや。
ロビン: それはええ話やな。億万長者たちを怖がらせ始めたら、「どういうことや? 俺が一番金持ちやないってことか? 俺のロボットが一番金持ちなんか?」って感じで、すべてが変わり始めるかもしれへんな。
さて、休憩を取らなあかんな。QRコードが出るはずや。まだ鳩の話をしてへんかったな。後半でそれもするで。そのQRコードをクリックして、ユヴァルに聞きたい質問があれば入力してくれ。後半で読み上げて、質問に答えていくで。
皆さん、ここまでありがとうございました。ユヴァル、ありがとう。
[音楽]
[拍手]
ロビン: 後半へようこそ。まず鳩の話から始めなあかんな。これだけ多くの複雑なアイデアを扱う大きな本なのに、なぜ最終的に書店で鳩で表現することになったんか、その経緯を教えてくれるか?
ハラリ: いくつかのレベルがあるんや。一番単純なレベルでは、本の中に情報システムとしての伝書鳩についての話がいくつかあるんや。特に、100年前に世界で最も有名な鳥やった鳩の話がある。第一次世界大戦中にアメリカの大隊全体を救ったと言われてる鳩の話やな。
これが一番目のレベルや。二番目のレベルは、すべてのAIやコンピューターの中に、何か有機的なものを表紙に載せたかったんや。今、世界は有機的なものと無機的なものの綱引きの状態にあるからな。
鳩と同じように、人間も有機的な存在や。その一部として、私たちは有機的なサイクルで生きてる。昼と夜、夏と冬、活動の時間と休息の時間、睡眠の時間ってな。
一方、コンピューターやアルゴリズム、AIは有機的やあらへん。私たちとは全然違うんや。常にオンで、決して休む必要がない。
今、世界で起きてることの一部は、AIが意思決定者としてどんどん重要になり、どんどん多くのシステムを引き継いでいくにつれて、大きな問題が出てきてるんや。AIは私たちに、一種の無機的な時間尺度で機能しようと強制するんやろうか? それは私たちを殺すことになるで。有機的な存在を常にオンの状態に保ち続けると、最終的には崩壊して死んでしまうからな。
それとも、私たちはAIをスローダウンさせて、有機的な時間に適応させることができるんやろうか?
一つ例を挙げるとしたら、金融システムについて考えてみ。伝統的に、金融は人間によって作られたシステムやった。銀行家や投資家も人間やからな。彼らも睡眠の時間が必要やし、家族と時間を過ごしたいし、休暇も取りたいんや。
世界で最も重要な金融市場であるウォール街を考えてみ。月曜日から金曜日の朝9時半から午後4時までしか開いてへん。それだけや。クリスマスやマーティン・ルーサー・キング・デーにも閉まってる。これが人間の有機的なシステムの機能の仕方なんや。
でも、AIが金融システムを引き継ぐにつれて、銀行家や投資家たちに常にオンラインでいるようにっていう圧力が高まってる。休暇を取ったり、寝たりすると、取り残されてしまう。同じことがジャーナリストや政治家にも起きてる。これは本当にひどいことやな。
鳩は、この有機的なものと無機的なものの間の緊張関係についても語ってるんや。
三番目のレベルは、神話や言語の誤解に戻るんや。ヘブライ語では、「鳩」という言葉は「ハト」も意味するんや。古代の中東には、ハトは全くおらへんかった。ただの鳩だけやった。
多分、これが中東に平和がない理由かもしれへんな。ハトがおらへんからや。
聖書のノアと洪水の物語では、ノアはハトを送り出すんやあらへん。鳩を送り出すんや。中央ロンドンでは鳩は「翼のあるネズミ」みたいな酷い評判があるけど、少なくともノアの鳥、洪水が終わったかどうかを見に行った鳥は鳩やったんや。
今、私たちは情報の洪水の中にいる。これが私が送り出す鳩や。洪水が終わったかどうかを見に行くんや。
ロビン: それは実際に、あんたが言及してた中東の戦争の話につながるな。観客から最初の質問が来てる。「現在のパレスチナでの紛争についてどう考えてますか?」
ハラリ: それは非常に難しい質問やけど、非常に重要な質問やな。紛争がどんどん悪化してるからな。
医者の友達が言うてたけど、「患者がまだ生きてる限り、状況は悪化し続ける可能性がある」ってな。中東も同じや。底をついたと思っても、まだまだ下がる余地がある。残念ながら、それは非常に急速に起こり得るんや。もっともっと悪くなる可能性があるんや。
私は二つのことを言いたいな。まず、また神話に戻るけど、この紛争の悲劇であり、同時に希望の光でもあるのは、この紛争が客観的な何かについてのものやあらへんってことや。
物理法則や生物学の法則が人々に戦うことを強制してるわけやあらへん。それは人々の心の中にある神話的な物語なんや。地中海とヨルダン川の間には、みんなの家や学校、工場、病院を建てるのに十分な土地がある。食べ物が足りへんわけやあらへん。水不足もない。確かに大部分は砂漠やけど、今では地中海の水を淡水化する方法を知ってる。水は十分にある。エネルギー不足もない。
じゃあ、人々は何のために戦ってるんや? 彼らは心の中の神話的な物語のために戦ってるんや。「神がこの場所全体を私たちに与えた。神の約束について妥協することはできへん。私個人なら妥協してもええけど、神の代わりに妥協することはできへん」って言うてるんや。
ここに希望の光があるのは、人々が心を変えるだけでええってことや。もっと土地を作り出す必要はない。何も作り出す必要はない。ただ心を変えるだけでええんや。でも、人々の心を変えるのは非常に難しい。
私が始めたいと思うのは、これが二つ目に言いたいことやけど、多くの戦争は心の中で始まるんや。心がただ受け入れることを拒否するものがあるんや。心が「これを受け入れることはできへん。私の心の中にこれを入れる余地はない」って言うんや。
でも、それは世界に存在してる。だから、心を変えてそれを受け入れる余地を作るんじゃなくて、世界の中でそれを破壊しようとするんや。これが戦争や。多くの心が、ただ受け入れられへんものを世界の中で破壊しようとする試みなんや。
この場合、両側で見られるのは、人々がただ相手側の存在や存在する権利を受け入れられへん、受け入れることを拒否してるってことや。
この土地には700万人のパレスチナ人がいる。彼らのほとんど全員がそこで生まれた。他に行くところはない。彼らには存在する権利がある。安全と繁栄の中で存在する権利がある。
そして同じ土地に700万人のユダヤ人もいる。彼らもほとんどがそこで生まれた。彼らも他に行くところはない。彼らにも安全と繁栄の中で存在する権利がある。
これは非常に単純なことのはずやのに、地元でも世界中でも、多くの人々がこれを受け入れられへんのや。心の中にこの両方のための余地を見つけられへん。現実の半分しか認められへん。一方の民族を見て「はい、彼らには権利がある」って言うけど、もう一方の民族とその存在する権利が見えへんのや。
これが続く限り、戦争は続くんや。そしてまた、どちらの側も「でも彼らは私たちを破壊しようとしてる」って言う。そして両側とも正しいんや。これが悲劇や。パラノイアやあらへん。両側とも「彼らは私たちを破壊しようとしてる」って言うとき、正しいんや。
でも、他の人の心を変えるのは非常に難しい。自分の心を変えることから始める方が少し簡単や。最初のステップは、単純に完全な現実を認めること。もう一つの民族がいて、彼らにも存在する権利があるってことをな。
[拍手]
ロビン: 本の中で議論してる技術のことを考えると、多くの状況で、これを含めて、二項対立になってしまうんやな。「あんたは私たちの味方か、敵か」「どっちの側につくんや」って。平和の側につくんやなくてな。
アメリカでも、特にMAGAの人たちを見てると、これはほとんど宗教的な信念になってしもてる。この技術を適応させて、すべてを二項対立にするアルゴリズムを止めるにはどうすればええんやろ? 観客として、私たちにできることは何やろ? これらのアルゴリズムを、空をより広くするものに変えていくにはどうすればええんやろ?
ハラリ: ここには二つの質問があるな。まず、少なくとも自分自身から始めて、自分の心を変えるために何ができるか。そして、私たちの心を混乱させてる技術をどうコントロールするか。
繰り返すけど、いつも相手側を非難するのは簡単や。「彼らが心を変えるべきや」ってな。でも、いつも自分の心を変えることから始める方が少し簡単なんや。なぜなら、非常に難しいけど、他の誰かの心に入り込んでそれを変えるよりは少しはましやからな。
他の人の意見や他の人が言うことを解釈するとき、もっと寛大で寛容になることから始まるんや。誰かが何かを言うたとき、それを解釈する方法は千もあるんや。あんたが思いつく中で最悪の解釈を選ばんでくれ。最も寛大な解釈、あるいは少なくともより寛大な解釈を選んでくれ。
例えば、今日世界中で行われてる主要な議論の一つ、移民についての議論を考えてみ。誰かが移民に反対してるからって、すぐにその人をファシストやと決めつけんでくれ。あるいは、誰かがもっと緩い移民規則を支持してるからって、その人を国を破壊しようとする裏切り者やと決めつけんでくれ。
移民は本当に難しい問題なんや。誰も、どんな数の人でも好きなところに行ける無制限の移民の権利があるとは思ってへんと思う。これは単に機能せえへんからな。
民主主義的なやり方は、これについて会話を持つことや。ある人はより厳しい規則を望み、ある人はより緩い規則を望む。私たちは会話を持ち、5つの異なる政策を試すことができる。これが民主主義のすべてなんや。
でも、これを善と悪のマニ教的な戦いに変えてしまうと、相手側を悪者扱いしてしまうと、民主主義的な会話の対象であるべきものが、生死を賭けた戦いに変わってしまって、民主主義を破壊してしまうんや。
さて、私たちが寛大で寛容になろうと努力しても、アルゴリズムが常に議論をシフトさせ、コントロールし、より魅力的で刺激的やけど破壊的な方向に押し進めてるっていう問題がある。ここで私たちに必要なのは規制と制度なんや。
制定されるべき二つの重要な規制がある。まず第一に、偽の人間を作ってはいけない。アルゴリズムやボットが人間のふりをしてはいけないんや。会話に参加するのは構わへん。例えば、医療アドバイスを得たいなら、AIからアドバイスをもらうのはええ。ただし、それがAIやって自己紹介することが条件や。
例えば、ツイッターで何かの話題が注目を集めてるとする。「ああ、みんなこの話題に興味持ってるんや。私も何の話をしてるのか知りたいな」って思うやろ。でも、本当に人間がその話題に興味を持ってるのか、それともボットがそれを押し上げてるのかを知る必要があるんや。
だから、ソーシャルメディア上でボットが人間のふりをするのは禁止すべきや。「言論の自由はどうなるんや」って言う人もおるやろうけど、ボットに言論の自由はない。人間にあるんや。
これが一つ目の重要な規制や。もう一つは、前にも言及したけど、企業はユーザーの行動ではなく、自社のアルゴリズムの行動に責任を持つべきやってことや。
人間のユーザーが憎しみに満ちた陰謀論を投稿したとしても、フェイスブックやツイッターに検閲を始めろって言うべきやないって考える人々の陣営に、私はおるんや。問題は、この人が陰謀論を作り上げたことやあらへん。問題は、その後に企業のアルゴリズムが意図的にこのコンテンツを他のコンテンツを犠牲にして宣伝したことなんや。
ニュースフィードの上位に押し上げ、より多くの人々に推奨した。企業はこれ、つまり自社のアルゴリズムがやってることに責任を持つべきなんや。
[拍手]
最後に言いたいのは、規制にはできることに限界があるってことや。前に言うたように、AIは道具やあらへん。主体なんや。自ら学習し、変化することができる。だから、10年後に世界がどうなってるか、AIが何をしてるか、誰にも分からへんのや。
すべてを予測して、前もって規制することはできへん。だから必要なのは、生きた機関を作ることや。最高の人材を集め、最新の技術的なおもちゃを買うのに十分な資金を持ち、技術開発の最前線を理解し、その場で理解し反応できる機関をな。
規制のことを考える前に、まず目が必要なんや。規制は歯みたいなもんや。歯を持つ前に、何を噛むのか見る目が必要なんや。AIを規制することについて民主的な議論を持つことはできへん。何が起きてるのか理解できてへんのやから。
誰を頼りにして、何が起きてるのか教えてもらえばええんや? 規制しようとしてる企業? AIの革命を率いてる世界の2、3カ国? ナイジェリアやブラジルの人々は、AIの開発の最前線で本当に何が起きてるのか、どうやって知ればええんや?
だから、まず必要なのは、政府から多くの資金を得た国際機関や。本当に何が起きてるのかを理解し、それについて人間の議論を始められる機関をな。
ロビン: 次の質問は、ハーラン・エリスンの短編小説の「私には口がない、でも叫ばなければ」っていうすばらしいタイトルを思い出させるな。「人工知能は神に取って代わるでしょうか?」
ハラリ: 潜在的にはそうやな。新聞の編集者に取って代われるんなら、神にも取って代われる可能性はあるわ。特に、テキストに基づく宗教を考えたらな。
聖書の宗教、つまりユダヤ教、キリスト教、イスラム教のような「書物の宗教」の大きな発明は、神が本を通して私たちに語りかけるってことやった。何世紀もの間、これらの宗教はただテキストについてのテキストについてのテキストを書いてきた。これが神の代弁者やった。ラビや神学者たちは、テキストを読んでテキストを書く、それが彼らの仕事やった。
今、私たちには人間にはできないようなやり方でテキストを読み、テキストを書けるものがある。人間のラビには、ユダヤ教の伝統で生み出されたすべてのテキストを読むことはできへん。みんな聖書とミシュナーとタルムードは読むけど、300年前にイエメンやポーランドに住んでたすべてのラビのテキストを読むことはできへん。
でも今はできるんや。碁の世界チャンピオンを打ち負かしたAlphaGoがあって、世界中のタンパク質を折りたたむ方法を知ってるAlphaFoldがあるように、AlphaRabbiを作ることもできるんや。すべてのテキストを読んで、一つも残さず、何世紀にもわたる人間のラビたちが見逃してきたパターンをテキストの中に見つけることができるんや。
そうなったとき、ユダヤ教のような書物の宗教にとっての大きな問題は、これをどうするかってことなんや。新しいアイデアや革命的な解釈を受け入れるんやろうか。私にはその答えは分からへん。
ロビン: 映画の脚本が書けそうやな。もう一つ付け加えたいことがあるんやけど、書物の宗教の考え全体は、人間を排除しようとするものやったんや。
以前は、神が何を言ったのか知りたかったら、人間と話さなあかんかった。古代ギリシャなら、デルフォイの巫女や司祭のところに行って、「アポロンは何を望んでるんや? ゼウスは私たちに何を告げようとしてるんや?」って聞かなあかんかった。
そこで人々は「でも人間をどうやって信用すればええんや?」って思うた。だから本を作ったんや。「人間を信用せんでええ。本を信用しろ。本は間違うことはない。人間は本を変えることはできへん」ってな。
ある意味で、テキストは人間よりも権威があるんや。今、このスーパーテキストができたとき、どうすればええんやろ? 特に、テキストがあんたに話し返せるようになったときにな。
ユダヤ教やこれらの宗教の大きな問題の一つは、何世紀もの間、テキストについてのこれらすべての質問があったのに、テキストは黙ったままやってことなんや。「これはどういう意味なんや?」って聞いても、また人間のところに戻って、テキストを解釈してもらわなあかんかった。
今や、話し返せるテキストができた。ラビたちが「これは受け入れられへん。なぜなら...」って言うても、AIは「はい、でもタルムードのここやあそこに、『ブラブラブラ』って書いてあって、それは受け入れられるんです」って言えるんや。どうなるか、見てみないと分からへんな。
ロビン: 「アルファ・ラビ」っていう映画を作りたいな。見てみたいわ。
次の質問や。「現代世界で、最も重大な魔女狩り的思考の例は何やと思いますか?」
ハラリ: 間違いなく、QAnonのような陰謀論を見てみるとええと思う。まさに同じことや。アメリカの歴史上の創設イベントの一つ、セーラムの魔女裁判のことを考えてみ。これはアメリカが神政国家にならなかった理由の一つとしてよく挙げられる。セーラムの魔女裁判の恐ろしさのためにな。
セーラムの魔女裁判から300年以上経った今、何百万人ものアメリカ人が、権力の座にある人々も含めて、基本的に同じことを信じてる。サタンが率いる世界的な陰謀があって、子供たちを虐待し、人類を破壊し、社会を破壊するためにありとあらゆる恐ろしいことをしてるって。まだそこにあるんや。
魔女についての多くの考え方、多くの概念が、今では女性について言われてるのを見るんや。特に女性についてな。以前はヒラリー・クリントンについて言われてたけど、今ではカマラ・ハリスについて言われてる。
また、強力な物語、何世紀もの間存在してきた物語は消えへんのや。いつもそこにあって、端っこに潜んでる。一度脇に追いやられても、いつでも戻ってこれるんや。
ロビン: 魔術のことも面白いと思うたわ。友達のアラン・ムーアが、呪文とは何かって話してて、「それは文字通り『綴り』(スペル)なんや」って言うてた。文字を並べることなんや。
ソーシャルメディアに行って、誰かについての噂を作ったり、QAnonみたいなものを作ったりするのは、まさにそれなんや。文章を作って、誰かを呪ってるんや。
QAnonについてもう少し言うと、面白いのは、この運動が最初に広まったのは、Qと名乗る人物がオンラインで匿名のテキストを投稿したことがきっかけやったってことや。だからQAnonって呼ばれてるんや。
これは2016年か17年頃やった。当時は、人工知能ではなく人間の知能しかそんなテキストを作れへんかった。ボットやアルゴリズムはテキストを広めたり、推奨したりはできたけど、作ることはできへんかった。
でも今、GPT-4のような新世代の生成AIがあれば、人間の知能ではないものがそのレベルの洗練されたテキストを作ることが可能になった。
つまり、技術的には、次にオンラインで現れる新しい宗派は、実際に人間以外の知能によって作られる可能性があるんや。これはすごいことやと思わへん?
歴史を通じて、多くの宗教が人間以外の知能によって作られたと主張してきた。でも、それは決して真実やあらへんかった。今や、地球上に何百万人もの信者を持つ宗教があって、その聖典が人間以外によって書かれたっていうのが、文字通り真実になり得るんや。
これも、さっきの神についての質問への答えにもなるな。
ロビン: さて、次はまた難しい質問やな。「自由意志と決定論のどちらを信じてますか?」
ハラリ: それが唯一の選択肢やないと思うな。その質問については二元論的やあらへん。
自由意志に関して言えば、これは非常に問題のある考え方や。特にAIの時代にはな。素朴な自由意志への信念、「なぜこれを選んだんや? なぜこの人に投票したんや? なぜこの商品を買ったんや? これが私の自由意志やから」っていう考え方は危険や。
なぜなら、それによって私たちは実際にどうやって決定を下してるのか、私たちの決定にどんな影響があるのかについて好奇心を失ってしまうからや。
操作されやすい人々は、自由意志を信じてる人々なんや。自分の決定が、この神秘的な自由意志の結果やと信じてる人々や。自分自身を調査する必要がないと思ってる。
自分自身の調査、自己理解は、自由意志以上のものがあると仮定することから始まるんや。文化的な影響があり、政治的な操作があり、生物学的な影響があり、生化学的な影響がある。
「これを買うと決めた」「あの人に投票すると決めた」のは、何らかの遺伝的要因のせいかもしれへんし、何らかの影響力キャンペーンのせいかもしれへん。
私にとって一番大切なのは、自分自身についてもっと好奇心を持つことや。自分の意思決定プロセスについて、自分の心の中で本当に何が起こってるのかについて、もっと知りたいって思うことや。
この旅に出発して、自分をもっとよく知るっていう探求を始めて、何年も瞑想したり、探求したり、科学的な方法を使ったり、セラピーに行ったりして、そうや、文化的な影響もあるし、生物学的な影響もあるってことを理解する。
そして、それらのどれでも説明できへんものを見つけたら、そのときにそれを自由意志って呼んでもええと思う。でも、この仮定から始めるのはあかん。
特に今日の世界では、人々をハッキングしたり操作したりすることがどんどん簡単になってるから、「私たちはみんな自由意志で決定を下してる」っていう仮定は危険なんや。
私たちは、自由は単に持ってるものやあらへんってことを覚えておく必要がある。自由は戦わなあかんものなんや。内なる自由、さまざまなことについて自分の心を決める自由でさえ、そうやと思う。
ロビン: そうやな。あんたが言うてたことで、毎日私たちが自分の信じてることを信じる理由を問う瞬間を持つべきやと思うた。ニュースの話題が出てきたときに、「ちょっと待て、なんでこれを信じてるんやろ?」って考える必要があるんや。
ソーシャルメディアでの議論でよく見られるけど、誰かが「なんでそんなこと言うてるんや?」って聞いたら、「自分で調べろ」って返されることがある。もし本当に証拠があるなら、そんなこと言わへんやろ。「これを読んでみ、信頼できるから」って言うはずや。
だから、これは自己理解の重要な部分やと思う。
ハラリ: それに付け加えるとしたら、私は瞑想を実践してるんやけど、これは基本的に自分の心を知る練習なんや。すべての思考や決定、意見はどこから来るんやろうって。
目を閉じて座って、自分の中で起こってることを観察するだけや。突然、思考が浮かんでくる。意見が浮かんでくる。「これはどこから来たんやろ?」って。前もって「こんな思考をしよう」って決めたわけやあらへん。それが現れたんや。
これは本当に魅力的で、これが自己探求の旅なんや。そして、これをやってると気づく重要なことの一つは、少なくとも私が気づいたのは、心の中にはただのガラクタでいっぱいやってことや。
年月をかけて蓄積してきたガラクタがたくさんあるんや。憎しみや恐れ、欲望、悪意なんかがな。私たちはそれに注意せなあかん。
今、私たちはここに座って、何百人もの人々と心を共有してる。これは大きな責任やと思う。政治家たちが何百万人もの観衆の前で話すことを考えてみ。あんたの心に浮かんだ思考や言葉を「みんなと共有しよう」って思って、何百万もの心に種を植えてるんや。それについてはすごく慎重にならなあかん。
多分それはただのガラクタかもしれへん。ただのゴミかもしれへん。今日、たくさんの政治家が壁や国境警備を本当に好きなようやけど、私は、すべての人、特に指導者は、心と口の間に壁が必要やと思う。そしてその壁には、とても強い国境警備が必要なんや。
このようなガラクタの思考が国境を越えようとしたら、それらの移民を止めるんや。入れさせんようにせなあかん。
[拍手]
ロビン: 「もし著者やないとしたら、どんな仕事をしたいですか?」
ハラリ: わからへんな。考えたことなかったわ。
ロビン: 次に瞑想するときに考えて、戻ってきて教えてくれ。
さっきあんたが言うてたガラクタの話、これは私たちが理解する必要がある重要なことやと思う。ある神経科学者と話したとき、こんなこと言うてたな。「時々、思考が浮かんでくるんやけど、『なんやこれ、こんな思考が自分の中にあったなんて知らへんかった』ってすごくショックを受けることがある」って。
そして彼は「時々、それはただの機械の雑音やって気づく必要がある」って言うてた。私はこれがすごく役に立つ考え方やと思うた。私たちが持つすべての思考が、必ずしも私たちを定義するわけやあらへん。「ああ、これはただ機械の雑音やな」って思えばええんや。
ハラリ: そのとおりや。
ロビン: あと3分しかないな。じゃあ、もう一つ簡単な質問や。「AIをどうやってコントロールすればいいんでしょうか?」これについてはずっと話してきたけど、人々にとって、私たちがどんな関係を持てるのかっていう観点から考えてみよう。
望むと望まざるとにかかわらず、人工知能は私たちの生活の一部になってるわけやからな。AIの発展をコントロールする最善の方法は何やろ?
ハラリ: 「この規制を支持します」とか「あの規制を支持します」って急いで言う前に、重要なのは理解することと協力することや。
まず第一に、私たちが直面してるものを理解する必要がある。AIを理解するのは非常に複雑や。なぜなら、AIには非常に大きなプラスの可能性もあれば、同時に非常に大きなマイナスの可能性もあるからや。両方を理解する必要がある。
第二に、これは個人で自分だけでできることやあらへん。非常に大規模な協力によってのみ可能なんや。だからこそ、私は制度のテーマに何度も戻るんや。
なぜなら、AIの時代であろうとそれ以前の時代であろうと、善良な社会を築く唯一の方法は制度に頼ることやったからや。自分だけに頼ろうとしても無理や。個人の天才に頼ろうとしても、「この人がすべてを解決してくれる」とか「この人が救世主や」っていう考え方では、うまくいかへん。
私たちに必要なのは、大きくて複雑な制度を作り、維持するっていう、ある意味退屈な作業なんや。そして最も重要なのは、自分たちの間違いを特定し、修正できる制度や。
AI革命は非常に急速に発展するやろう。誰も前もって予測することはできへん。だから、それにどう対処するかについて、どんな考えを持ってても、自分も間違いを犯す可能性があるって仮定せなあかん。あるいは、見えてへん領域があるって仮定せなあかん。
だからこそ、他の人々と協力し、間違いを特定し修正する強力なメカニズムを持つ必要があるんや。
ロビン: あんたの仕事やインタビューを読んでると、最終的に根底にあるのは、あるいは私たちが常に覚えておかなあかんことの一つは、好奇心を持ち、興味を持ち、目の前に見える証拠が私たちの信じてきたことと違うことを教えてくれたら、変化する準備ができてなあかんってことやな。
「これは私が信じてたことや。でも、この情報しか持ってへんかったときに信じてたんや。新しい情報を見つけて、それが正しいと思えるなら、変わらなあかん」っていう姿勢が必要なんやな。
ハラリ: そうや。好奇心を持つだけやあらへん。本当に変わる能力を持つことが何より大切なんや。私たちの心を変えることがな。
AIは非常に急速に発展するやろう。私たちの心も、それについていけるくらい柔軟でなあかんのや。私はできると思う。誰かが成功を保証してくれたわけやあらへんけど、チャンスはあると思う。
人工知能の開発に投資するドルや、ポンドや、分単位の時間すべてに対して、もう一つのドルや、ポンドや、分単位の時間を自分たちの心の発展に投資すれば、私たちはうまくいくはずや。
ロビン: ユヴァル、本当にありがとう。みなさん、持ち帰った本を読んでください。きっと多くのアイデアを変え、発展させてくれるはずです。
みなさん、ユヴァル・ノア・ハラリに拍手をお願いします!
[拍手]
ありがとうございました。