ユヴァル・ノア・ハラリ: 言論の自由、制度への不信、社会秩序 | メイキング・センス #386

15,060 文字

みなさん、ユヴァル・ノア・ハラリです。また来てくれてありがとう。
ほんまに実際にお会いできてうれしいわ。
そやね、このスタジオで初めてのインタビューやからな。これは意義深いことやと思うわ。我々は多くの関心事を共有してるからな。長年、瞑想について語ろうとしてきたけど、今回こそは少なくともなんか言えるんちゃうかな。
せやな、今回は絶対に瞑想について触れたいと思ってるで。
世界で色んなことが起こってるから、そこにたどり着くのはいつも難しいねんけどな。
NRL(自然言語処理)と瞑想の関連性について話すこともできるで。直感に反するかもしれへんけど、そこには探求する価値のある繋がりがあると思うわ。
そうやな。瞑想が世界や現実と関係ないんやったら、それは無意味やからな。
せやな。まあ、聴衆の皆さんの許容量を過小評価してるかもしれへんけど、こんな混沌とした状況で、あんたの専門知識がその混沌に関連してるのに、瞑想について考える余裕があるんかなって思ってしもたわ。
さっきナスラッラーの話が出たけど、今録音してる時点で、イスラエルがヒズボラの指導者ハサン・ナスラッラーを殺害したって発表があったばかりやな。そのことについてもまた話すかもしれへんけど。
あんたの新刊『NEXUS』について焦点を当てたいんやけど、これは素晴らしい本やった。『サピエンス』や『ホモ・デウス』っていう他の大著と、どういう関係があるんか説明してもらえへんか?
基本的に、『サピエンス』と『ホモ・デウス』の終わりから始まってるんや。『サピエンス』では、アフリカの片隅にいた取るに足らない類人猿がどうやって世界を支配するようになったかを扱ったわ。『ホモ・デウス』では、我々や我々の創造物の地球上での潜在的な未来を探ったんや。
『NEXUS』は、過去と未来の両方に関わる重要な問いから始まるんや。それは、人間がこんなに賢いのに、なんでこんなにアホなんやろか、っていう問いやねん。
月に行って、原子を分裂させて、DNAを解読できるのに、我々は色んな方法で自分自身を破壊しようとしてるんや。生態系の大惨事かもしれへんし、世界大戦や核戦争かもしれへん。史上最強のAI技術を作ってるけど、それが簡単に制御不能になって、我々を奴隷にしたり破壊したりする可能性もある。
我々はそれを全部知ってるのに、それでも続けてるんや。一体何が起こってるんやろか?
歴史を通じて、多くの神話や神学が、人間の本性に何か問題があるんや、我々には深刻な欠陥があるんやって言うてきた。でも、それは正しい答えやと思えへんのや。
問題は我々の本性にあるんやなくて、情報にあるんや。良い人間に悪い情報を与えたら、悪い決定をするんや。それだけのことなんや。
そしたら次の疑問は、なんで我々は悪い情報であふれかえってるんやろか? 何千年もの歴史の中で、洗練された情報ネットワークやコミュニケーションを発展させてきたのに、なんで我々の情報はよくならへんのやろか?
現時点で、人類は史上最高に洗練された情報技術を持ってるって言えるのに, お互いに話をしたり、聞いたり、まともな会話を成立させる能力を失いつつあるんや。一体何が起こってるんやろか?
これが『NEXUS』の重要な問いなんや。そして、情報と情報ネットワークの歴史を探求してるんや。人類の視点からやなくて、情報の視点から歴史を見直してるんやな。
例えば、民主主義と独裁制の歴史を見るんやけど、普通我々が考えるような異なる倫理体系や理想を信じてるものとしてやなくて、異なる情報ネットワークとして見てるんや。民主主義と独裁制では情報の流れ方が違うんやな。
独裁制では、全ての決定が行われる一つのハブがあって、そこから全ての情報が流れ込んだり流れ出たりするんや。民主主義は分散型の情報システムで、決定は多くの異なる場所で行われるし、多くの情報は中央を通過せえへんのや。
アメリカのことを考えてみ。ワシントンDCに中心があるけど、多くの決定はここハリウッドやロサンゼルスみたいな他の場所で行われてるし、ほとんどの情報は中央を通過せえへんのや。
歴史的な民主主義と独裁制の闘争を、異なる情報の流れ方のモデルとして考えることができるんや。
ここでもう一度触れたいんやけど、あんたの言うてることはかなり直感に反するし、非常に面白いな。民主主義と独裁制を、人々は全く異なるカテゴリーの二項対立として考えがちやけど、あんたはそれらを情報の流れの連続体上に置いてるんやな。
せやな。そして、ここで「ナイーブな見方」っていうのを加えたいんや。情報についてのナイーブな見方があるんやな。つまり、より多くの情報は本質的に良いものやっていう考え方や。
今、我々のソーシャルメディアを運営してる人々にこの考えが見られるんや。全てのアイデアを衝突させて、情報の流れからあらゆる摩擦を取り除いて、インターネットビジネスのダイナミクスが増幅させるものは何でも増幅させればええっていう考え方やな。
人々の頭の中には「日光は最高の消毒剤や」みたいなフレーズがあるんやな。だから全てを晒せば大丈夫やって。この情報の流れを操作しようとする試みは、本質的に邪悪で、情報の連続体の全体主義的な側に近づくんやって。
これは非常にナイーブで、現実や歴史から切り離されてるんや。世界に情報をあふれさせれば真実が浮かび上がってくるって考えるのは間違ってるんや。真実は沈んでしまうんや。情報イコール真実やないんや。ほとんどの情報はがらくたなんや。
もっと食べれば健康になるって考えるようなもんや。せやけど、生きるためにはある程度の食事は必要やけど、ただ食べ続けるだけやったら体に良くないよな。特にジャンクフードばっかり食べ続けたらな。
基本的に、世界には情報ダイエットが必要なんや。真実は情報の一部分やけど、それもほんのわずかな部分なんや。なぜかっていうと、まず真実はコストがかかるんや。
ローマ帝国のことや経済危機のことについて、真実の記録を書いたり作ったりしようと思ったら、証拠を探したり、ファクトチェックしたり、分析したりするのに多大な時間と労力とお金をかける必要があるんや。
例えば、ローマ帝国で起こったことを知りたいと思ったら、歴史家は少なくとも10年間大学で勉強せなあかんのや。ラテン語やギリシャ語を学んで、古代の手書き文字の読み方を覚えて、考古学の発掘の仕方を学ばなあかんのや。
そして、たとえローマ帝国の文書を見つけて、ラテン語が読めて、それを読むことができたとしても、それはただの宣伝かもしれへんのや。カエサルが敵軍の兵士は10万人いたって言うてるからって、本当に10万人いたわけやないんや。だから、情報をどう評価するかっていうのも難しい問題なんや。
一方、フィクションは非常に安上がりなんや。頭に浮かんだことをそのまま書けばええだけやからな。
真実はまた、複雑なもんやな。現実が複雑やからな。でも、フィクションは好きなだけシンプルにできるんや。そして人々は、ほとんどの場合、複雑さよりもシンプルさを好むんや。これも真実にとってはもう一つの不利な点やな。
あんたが指摘してるのは、真実とフィクションの間の非対称的な関係やな。それは、このような摩擦のない環境では、フィクションに有利に働くんや。
そうや、そして第三の利点として、真実は時々、いつもではないにしても痛みを伴うことがあるんや。個人的な関係を考えてみ。我々は自分が他人をどう扱っているかについての真実を知りたくない場合が多いんや。だからこそ、何年もセラピーに通って、現実を認識する必要があるんやな。
これは個人的なレベルから、国家全体や文化全体のレベルまで当てはまるんや。アメリカやイスラエル、あるいは他のどこかで選挙に出馬して、ただ真実を、全ての真実を、そして真実だけを人々に伝えたら、多くの票は得られへんやろな。
イスラエルの政治家が、イスラエルとパレスチナの紛争について単に真実を語るだけやったら、多くの票を獲得する可能性は低いんや。少なくともある程度のフィクションや神話を入れて、有権者にとってより魅力的で快適なものにする必要があるんや。
まあ、今でもすでにかなり不快な状況やから、真実がどんなもんかと思うとぞっとするな。
せやから、真実はコストがかかるし、複雑やし、時に痛みを伴うんや。一方、フィクションは安上がりで、シンプルで、好きなだけ魅力的にできるんや。
だから、完全に自由な情報市場では、真実は負けてしまうんや。真実に有利になるように天秤を傾ける必要があるんや。裁判所や新聞社、大学、研究センターなどの機関を作って、真実を生み出し、守る努力をする必要があるんや。
人々がこれらの機関を攻撃する時、しばしばエリート機関や陰謀の軛から人々を解放してるんやって主張するけど、そうやない。これらの機関への信頼を全て破壊したら、独裁への道を舗装してしまうことになるんや。
社会には機関が必要で、民主主義は信頼の上に成り立ってるんや。でも、全ての信頼を破壊したら、社会をまとめる唯一の選択肢は恐怖になってしまう。それが独裁者のやることなんや。
これが多くの独裁者志望者のゲームなんや。真実や知識への我々の主要なアクセス手段である機関への信頼を体系的に破壊するんや。そして、これらの機関が全て消えたら、残された唯一の選択肢は独裁になるんや。
じゃあ、機関が信頼に値しないことが証明されたって言う人に対して、あんたはどう言うんや? アメリカの最もエリートな学術機関が、一種の目覚めた道徳的パニックに捕らわれてるってことはあるやろ。
ハマスの支持者が学生の間にいるだけやなくて...そのことについても話したいし、自分の専門分野や時々所属してる機関に対しても批判はあるんや。歴史を10年間勉強してきた人から、最も単純化された現実観が出てくるのを聞くこともあるしな。
でも、30,000フィートの高さから見てみよう。多くの機関の専門家たちは、近年自分たちの頭に恥をかぶせてきたんや。でも、その反応として機関を破壊するんは違うんや。
そうや、だから我々に必要なのは二つのことなんや。まず、一つだけやなくて、複数の機関が必要なんや。お互いにチェックし合えるようにな。基本的な前提は、人間は間違いを犯すもんやし、機関は人間で構成されてるから、全ての機関は間違いを犯す可能性があるんや。間違いを犯したり、乗っ取られたり、腐敗したりする可能性があるんや。
だからこそ、複数の機関が必要で、お互いにチェックし合えるようにせなあかんのや。もし一つの機関が本当に腐敗してしまったら、裁判所に行ったり、新聞やその他のメディアでそれを暴露したりできるんや。
そして二つ目に、全ての機関には自己修正メカニズムが必要なんや。これが良い機関の特徴なんや。機関の中に、自分たちの間違いを特定して修正するメカニズムがあるんや。
これもまた、民主主義と独裁制の重要な違いなんや。独裁制には自己修正機関がないんや。ロシアにはプーチンの間違いを暴露して修正するメカニズムがないんや。
でも民主主義は自己修正が全てなんや。選挙の基本的なメカニズムは、4年ごとに「あ、間違いを犯したな。別のことを試してみよう」って言えることなんや。
もちろん、このようなメカニズム自体も間違いを犯す可能性があるんや。選挙は不正操作される可能性があるんや。例えば、ベネズエラで最近選挙があったけど、ベネズエラの人々は「チャベスとマドゥーロは間違いやった。別のことを試してみよう」って言うたんや。
でも、マドゥーロが権力を握ってるから、選挙を不正操作して「いや、俺が勝ったんや」って言うたんや。これは、アメリカの来る選挙にも非常に関係があることやな。
民主主義の最大の危険は、民主主義では4年間誰かに権力を与えるけど、その条件は後で返すってことなんや。でも、もし返さへんかったらどうなるんや?って危険が常にあるんや。
だから、返さへん可能性が高いと疑う理由のある人に権力を与えるのは非常に危険なんや。
だから、選挙だけでは十分やないんや。自由なメディアも必要やし、自由な裁判所も必要なんや。
人々は「でも、もし全ての機関が腐敗してしまったらどうするんや?」って聞くかもしれへん。そしたら、運が悪かったってことやな。完璧なものはないんや。
もし社会の全ての機関が腐敗して乗っ取られて、全ての自己修正メカニズムが機能不全になってしまったら、それは非常に悪いニュースやな。社会は崩壊するんや。
希望としては、そこまでいかへんってことやな。そこまでいかへんように努力することが非常に重要なんや。解決策は信頼を失うことやないんや。
今、世界で見られる主要な問題の一つは、人間や人間社会に対する非常に皮肉な見方が広がってることなんや。これは右翼だけやなくて左翼にも見られるんや。極左と極右が一致してるのは、人間と現実に対する非常に皮肉な見方なんや。
彼らは、唯一の現実は力やって言うんや。全ての社会的相互作用、全ての人間の相互作用は実際には力の闘争やって。全ての人間の機関は単なる力を得るための陰謀やって。
ジャーナリスト、科学者、歴史家、裁判官、政治家、これらは全て力を得るための陰謀やって。誰かが何か言うたら、「これは本当か?」って聞くべきやないんや。なぜなら、誰も真実なんて気にしてへんからや。これはナイーブやって彼らは言うやろう。
そうやなくて、「これは力の行使や。誰が得をするんや? 誰の特権が守られてるんや? 誰の利益が守られてるんや?」って聞くべきやって。
これはマルクス主義者からも、トランプ支持者からも聞こえてくる言葉やな。少なくともこの点では、ドナルド・トランプはカール・マルクスと一致してるんや。全ては単なる力の闘争やって。
そしてもしそう考えたら、全ての信頼が崩壊してしまうんや。そして残るのは、独裁制だけなんや。独裁制は実際に全てが力だけやって仮定してるからな。
重要なのは、これは非常に皮肉なだけやなくて、単に間違ってるってことを認識することやな。人間は力に狂った悪魔で、力のことしか気にしてへんわけやないんや。
力を持ってる人でさえ、少なくとも一部の人は本当に真実のことを気にしてるんや。
完全に同意やな。でも、脚注として付け加えたいんやけど、たとえ皮肉な見方が正しかったとしても、人々の利害関係は完全に一致してへんのや。
力を求める人々の対立の中でも、ポピュリストが想像するような陰謀や協力、オーウェル的な密室会議はめったに存在せえへんのや。
イーロン・マスクとドナルド・トランプを例に取ってみ。二人とも自分に対して非常に高い評価を持ってる人やけど、必ずしも人生や世界で同じ目標を持ってるわけやないんや。
たとえ一定期間、ある共通の利益のために同盟を組むことができたとしても、長期的にはその同盟を維持するのは非常に難しいやろうな。
彼らと一致してへん人々のことは言うまでもないな。
真実をもたらす自己修正メカニズムと、秩序をもたらす自己修正メカニズムの間には、興味深い緊張関係があるな。あんたが本の中で描写してる真実と秩序のトレードオフやな。それについてもう少し詳しく話してもらえへんか?
それは非常に重要やな。人間社会を本当に情報ネットワークとして考えるなら、これらのネットワークが何を生み出すかって問いになるんや。
機能するためには、一つだけやなくて二つの異なるものを生み出す必要があるんや。真実と秩序の両方を生み出す必要があるんや。
真実を完全に無視するシステムは崩壊するやろう。遅かれ早かれ現実に直面して崩壊するんや。
でも、真実にしか興味がないシステムも秩序を維持できへんのや。なぜなら、フィクションやファンタジー、大衆の妄想の方が秩序を維持するのは簡単やからな。
具体的な例を挙げてみようか?
そうやな。人々の混乱を捉えたいんや。我々はさっき、フィクションが本質的に邪悪で取り消すべきもののように真実とフィクションの緊張関係について話したけど、あんたが今言うてるのは、我々には一定のフィクションが必要やってことやな。
そうや、完全に真実だけを求めることはできへんのや。フィクションは秩序を作り出すのに非常に効率的なんや。
主な点は、人間社会を維持するのは複雑やってことなんや。複雑なのは、異なる方向に引っ張られる二つのもののバランスを取る必要があるからや。真実と秩序のバランスを取る必要があるんや。多くのトレードオフがあるんや。
例を挙げてみよう。原子爆弾を作りたいと思ったとするやろ? イランが原子爆弾を作りたいと思ったとしよう。
世界についていくつかの事実を知る必要があるんや。それは不可欠や。もし核物理学の事実を完全に無視したら、原子爆弾は作れへんのや。それだけのことや。
一方で、原子爆弾を作るには、物理学の事実を知るだけでは十分やないんや。何百万人もの人々がプロジェクトで協力する必要があるんや。
一人の物理学者がいて、その人が歴史上最も優秀な物理学者で、E=mc²や量子力学の全ての秘密を知ってたとしても、その人一人でガレージで原子爆弾は作れへんのや。
ウランを採掘する人が何千キロも離れた場所に必要やし、原子炉を建設するエンジニアや労働者も必要やし、全ての物理学者や労働者が食べるものを生産する人も必要なんや。
どうやって何百万人もの人々をプロジェクトで協力させるんや? 単に物理学の事実を伝えて、E=mc²やって言うて、「さあ、始めよう」って言うても機能せえへんのや。
そこでイデオロギーや神話、フィクションが登場するんや。普通、何百万人もの人々をプロジェクトで協力させるには、何らかのイデオロギーや神話を伝えるんや。
そこでは事実はそれほど重要やないんや。非常に強力なイデオロギーを作ろうとして事実を無視しても、そのイデオロギーは非常に大きな爆発を起こす可能性が高いんや。
歴史上ほとんどの場合、例えば核物理学の専門家は、シーア派神学やユダヤ教神学、共産主義イデオロギーやナチズムイデオロギーの専門家から命令を受けるんや。
真実の専門家は、通常、秩序の専門家から命令を受けるんや。これは科学者やエンジニアがしばしば理解できひんことなんや。
例えばAIに取り組んでて、科学者やエンジニアがAIをどうするか決めると思ってるかもしれへんけど、そうやないんや。世界についての事実を知ってるから非常に強力な技術を生み出したら、神話や神学の専門家がやってきて「この非常に強力な技術を作ってくれてありがとう。さあ、これをどうするかは我々が決めるで」って言うんや。
これの本当に善良で賢明なバージョンはあるんやろうか? あんたが描写してるのは、シニシズムと不信のもう一つの理由のように聞こえるんやけど。
そうやな、これは重要やな。大規模な社会をフィクションなしで作るのは非常に難しいんや。お金でさえフィクションなんや。
例えば、アメリカ社会をまだ一つにしてる最後のものは何やろうか? 共和党員と民主党員がまだ同意してる最後のものは何やろうか? それはドルやな。
これさえも暗号通貨などから攻撃を受けてるけどな。でも、ほぼ最後に残ってる物語は、みんながドルの価値に同意してるってことなんや。これはただのフィクションなんやけどな。
フィクションは...ごめん、ここでちょっと掘り下げたいんやけど。あんたのフィクションって言葉の使い方がちょっと混乱を招くかもしれへんな。真実について話してる文脈では、フィクションって本質的に悪いものに聞こえるんや。
真実があって、フィクションがあるって感じやな。あんたが話してるのは慣習のことやな。人間の想像力から生まれて、現実から来てへんものについてな。
そうや、ドルの価値は純粋に想像上の現実なんや。紙そのものは...ほとんどのドルは紙ですらなくて、コンピューター上のデジタルトークンやな。客観的な価値はないんや。
価値があるのは我々の想像の中だけなんや。この意味では、構築された現実なんや。
そして、もう一つの大きな疑問が出てくるんや。全てが陰謀なんやろうか? 全てがただのフィクションなんやろうか?
重要なのは、フィクションはそれがフィクションやって認識する限り、非常に価値があって肯定的なものになりうるってことなんや。
ドルが悪いものやとは思わへんし、社会をまとめてるフィクションが悪いものやとは思わへんのや。それらが人間が作った想像上のものやって現実を認識する限りはな。
これは重要なことなんや。なぜなら、そうすれば修正できるからや。修正を加えることができるんや。
人間社会をまとめるための基本的なテキストを二つ比較してみようか。十戒とアメリカ合衆国憲法や。どっちも人間の想像力から生まれたフィクションという意味では同じやけど、わしはどっちかというと後者の方が好きやな。
なぜかっていうと、一方のテキストはこの現実を認めようとせえへんのに対して、もう一方のテキストは完全に正直なんや。
十戒は「われは汝の主、なんじの神なり」から始まるんや。このテキストは神によって書かれたもんやって主張してて、人間が書いたもんやとは認めへんのや。だからこそ、自分の間違いを修正するメカニズムを含んでへんのや。
もしかしたら聴衆の中には「十戒に間違いがあるって？殺すなとか盗むなに何が間違ってるんや」って思う人がおるかもしれへんな。
そういう聴衆はおらへんと思うで。わしに対する評価が高すぎるわ。
せやな。でも、例えば第十戒を読んでみ。奴隷制を容認してるんやで。第十戒は「汝の隣人の家を欲するなかれ。隣人の畑も、奴隷も欲するなかれ」って言うてるんや。
これは、神が人々が奴隷を所有することを完全に容認してるってことを暗に示してるんや。神が気に入らへんのは、隣人の奴隷を欲することだけなんや。「これらは彼の奴隷や。欲するな」って感じやな。
このテキストは人間の想像力の産物やってことを認めへんから、11番目の戒めがないんや。「もし前の10個の戒めに何か間違いを見つけたら、3分の2の多数決で戒め番号10を変更できる」みたいなもんがないんや。そういうメカニズムがないんや。
だから、鉄器時代から今日まで同じテキストを持ち続けてるんや。
一方、アメリカ合衆国憲法も、社会をどう管理するかについての指示を与える基本的なテキストやけど、これも人間の想像力から生まれたもんや。客観的な現実やないんや。この意味ではフィクションやけど、正直なんや。
「われら人民は（We the People）」から始まるんや。我々人民がこのテキストを書いたんやって。我々は人間やから、もしかしたら間違いを犯したかもしれへん。例えば奴隷制を容認するような間違いをな。
だから、このテキストの中に、それを修正するメカニズム、自分自身の間違いを特定して修正するメカニズムも含めてるんや。簡単やないけど、できるんや。そして実際にやってきたんや。
フィクションは非常に価値があるものになりうるんや。我々には必要なもんや。大規模な社会を持つことはフィクションなしではできへんのや。でも、自分自身がフィクションであることについて正直であるべきなんや。そうすれば、我々の祖先の間違いを特定して修正する能力を持つことができるんや。
でも、この図式には本質的に保守的な面があるな。何かがフィクションや慣習やって認めることは、それを軽率に改訂すべきやって言うてるわけやないんや。
そのとおりや。道路の左側を走るか右側を走るかっていう慣習を毎日考え直そうとする人はほとんどおらへんのは非常に良いことやな。
明らかに恣意的な決定やけど、一度決めたら我々全員がそれを再考せえへんのが極めて重要なんや。そういうものがたくさんあるんや。
だから、最近の機関の誤りがどれだけ恥ずかしいものであっても、それぞれの誤りに対して適切な反応は機関と完全に決別して、ある意味で文明を一から作り直すことやっていう感覚が非常に有害になってきてるんや。
自分で立つ場所を見つけて、そこからリブートしようっていう感じやな。これは明らかに...まあ、ポピュリズムのバージョンがあって、それについて話すべきやと思うけど、このメッセージは上から来てるように見えるんや。
あんたはドナルド・トランプとイーロン・マスクを主な加害者として挙げたけど、彼らはこの点について主な加害者なんや。我々の機関に対する不信感を非常に根本的なレベルで、そして非常に大規模に広めてるんや。
右からも左からも来てるんや。ポピュリストの立場でもあり、マルクス主義者の立場でもあるんや。「古い世界を破壊して、その代わりに新しい世界を作ろう」っていうのは、共産主義の...なんて言うんやったっけ?
インターナショナルやな。
そうそう、共産主義のインターナショナルにもあるし、ポピュリスト右翼にもあるんや。
歴史家として、わしはバークの意味での深い意味で保守的な傾向があるんや。最近世界中で見られたのは、保守党の自殺やな。彼らは保守的な価値観を捨てて、革命政党になってしまったんや。
例えば、今日のアメリカの共和党は革命政党なんや。革命的っていうのは...
単にそう言うてるだけやないんや。全ての機関が腐敗してて、改革できへんから、全てを破壊して一から始める必要があるって言うてるんや。
人々はこれが真実か嘘かって言うかもしれへんけど、それはとりあえず置いておいて、その構造を見てみ。これが革命政党の姿なんや。
物事があまりにも腐敗してて、あまりにも秩序が乱れてて、残された唯一の選択肢は既存の全ての機関を破壊して、ゼロから始めることやって言うんや。これは100年前のレーニン主義者やボルシェビキの立場やったんや。
そして今、多くのいわゆる保守政党の立場になってるんや。
保守主義の伝統的な洞察は、確かに機関には欠陥があって、腐敗する可能性があるけど、機能する社会や機関を構築するには何世代もかかるってことなんや。
人間には現実の複雑さを完全に理解して、完璧な社会をゼロから発明する能力はないんや。それはできへんのや。それを試みるたびに、修正しようとしてた問題よりもさらにひどい災害につながるんや。
完璧な社会は作れへんのや。だからもっとゆっくり動いて、既存の機関や伝統をもっと尊重すべきなんや。修正が必要やし、改正が必要やし、改善が必要やけど、完全に破壊してゼロから始めるのは...
歴史の中で実際に起こった出来事から来る何百年もの修正が、今のシステムに組み込まれてるんや。その全てを捨てて、ゼロから始めようとする前に、非常に慎重になるべきやな。
じゃあ、その図式を考えると、ソーシャルメディアについてどう思う? 明らかな病理が見られるけど、それを修正するためにどんなアドバイスがある? イーロン・マスクやマーク・ザッカーバーグにアドバイスできるとしたら?
まあ、二つのことやな。企業はアルゴリズムの行動に対して責任を負うべきやし、言論の自由を持つのは人間だけで、ボットやアルゴリズムは言論の自由を持たへんし、人間のふりをしてはいけへんのや。
これがソーシャルメディアを修正するために必要な主な二つのことやな。
つまり、これらのプラットフォームは出版社として見なされるべきで、アルゴリズムの調整は編集上の選択やってことやな?
そうや。でも、これについて考えるのは奇妙やけど、完全に自動化された最初の仕事はタクシー運転手やなかったし、繊維労働者でもなかったんや。それはニュース編集者やったんや。
これについて考えるのは驚くべきことやけど、かつてレーニンやムッソリーニが持ってた仕事が今はアルゴリズムによって行われてるんや。
レーニンはソビエト独裁者になる前は新聞「イスクラ」の編集者やったんや。ムッソリーニも同じで、新聞「アヴァンティ」の編集者から権力の座に上り詰めたんや。
これは、新聞の編集者から国の独裁者への昇進ルートみたいなもんやったんや。そして、これには理由があるんや。
ニュースの編集者は、社会の最も重要な接点の一つに座ってるんや。彼らは会話を形作り、人々が何を認識し、何を議論するかを決定するんや。
これは社会の中で最も重要な地位の一つやった。そして今、それはアルゴリズムに奪われてしもたんや。
なぜなら、「イスクラ」ではレーニンがその日のトップ記事は何か、主な見出しは何かを決めてたんや。でも、Facebookではアルゴリズムがあんたのフィードバックやニュースの一番上に何が来るかを決めてるんや。
でも、どっちもひどく聞こえるな。人々にレーニンとアルゴリズムの選択を与えたら、アルゴリズムを選ぶやろ。
そうやな。でも、問題は独裁制やなくて民主主義の中での話や。民主主義では、新聞やその他のニュース媒体は自分たちの決定に責任を負うんや。
例えば、ニューヨーク・タイムズの編集者が何かの陰謀論やフェイクニュースをニューヨーク・タイムズの一面に掲載することを決めたとしたら、彼や彼女は「言論の自由や。これを信じてる人もおるし、だからニューヨーク・タイムズの一面に載せたんや」っていう言い訳の後ろに隠れることはできへんのや。
編集者としてのあんたの仕事は、ただランダムなものを載せたり、人々を喜ばせるものを載せたりすることやないんや。あんたの仕事は事実確認をして、これらの決定に責任を持つことなんや。
ニューヨーク・タイムズの一面に何かを掲載するなら、それが正確で責任あるものやってことを確信せなあかんのや。もしそれができへんなら、あんたは間違った仕事に就いてるってことやな。
そして、これは Facebook や Twitter、TikTok にも同じことを言いたいんや。人間のユーザーを検閲することには非常に慎重になるべきやな。
人間のユーザーが嘘やフェイクニュース、陰謀論を投稿することを決めたとしても、そのアカウントを停止したり、彼らを追放したりする前に、非常に慎重になるべきやな。
でも、もし企業として、わしのアルゴリズムが特定のフェイクニュースや特定の陰謀論を宣伝することを決めたなら、それはわしの責任なんや。ユーザーの責任やないんや。
宣伝すること、増幅することが問題なんであって、ネットワーク上に存在すること自体は問題やないってことやな。なぜなら、毎日何十億ものコンテンツが到着するのを防ぐことはできへんからな。
そうや。悪意のある嘘や児童ポルノがネットワーク上に全くないってことを保証することはできへんのや。それは、人々が毎日ニューヨーク・タイムズに手紙を送ってくるのと同じようなもんや。ニューヨーク・タイムズの仕事は全ての手紙を送ることやないんや。
でも、確信がない限り、一面に掲載してはいけへんのや。そして、時々間違いを犯すこともあるやろうけど、それでも事実確認をして、その話の影響について考えて、何を宣伝するかについて非常に責任ある決定をすることがあんたの仕事なんや。
もう一つの点は、ソーシャルメディアは言論の自由を人間にのみ認めるべきで、ボットやアルゴリズムには認めるべきやないってことや。特に、偽の人間、偽造された人間は禁止すべきやな。
ボットが人間のふりをしてるなら、我々はそのことを知るべきやな。例えば、Twitterで何かの話題が急に注目を集めて、たくさんのトラフィックを得たとする。
あんたは「おっ、多くの人間がこの話に興味を持ってるんやな。これは重要な話題に違いない。みんなが話してることを知りたいわ」って思うかもしれへん。そしてクリックして、あんたもコメントし始めるかもしれへん。
でも実際には、少なくとも最初にその話題を注目の的に押し上げた存在は人間やなくて、プーチンや他の誰かに仕えるボットやったんや。これは間違ってるんや。
我々は偽の人間が人間の会話を形作ることを許すべきやないんや。民主主義は会話やと想像してみ。円を作って立って互いに話し合ってる人々のグループやと。
突然、ロボットのグループが円に加わって、非常に大きな声で、非常に説得力のある方法で話し始める。彼らは人間のふりをしてて、あんたには誰が人間で誰がロボットかわからへん。そしたら会話は崩壊してしまうんや。
念のために言うとくけど、あんたはいろんな種類のボットに反対してるわけやないんやな。ただ、ボットはボットとして宣言されるべきやって言うてるんやな?
そうや。例えば、医療ボットがあって、何か医療状態についてそのボットに相談したいと思うかもしれへん。すぐに人間の医者の能力をはるかに超えるAI医者ができるやろう。
わしはそれに反対してへんのや。それらは医療を劇的に改善できるし、何十億もの人々により良い医療を提供するのに役立つやろう。
でも、わしが人間以外の存在と話す時は、これが人間以外の存在やってことを知りたいんや。人間の存在と話してるんやないってことをな。
彼らは人間のふりをせえへん限り、会話に参加することは歓迎やな。
つまり、あんたが本の中で使ってる言葉で言うと、基本的にユーザーに対して受託者責任を負う善意のネットワークが必要やってことやな?
そうや、それは非常に古い原則なんや。この点については何も新しいものを発明する必要はないんや。
例えば、あんたの医者やセラピスト、会計士や弁護士のことを考えてみ。何世紀もの間、我々はすでにこれらの規制や理解を持ってきたんや。
彼らは我々について非常にプライベートな情報、我々の人生を台無しにする可能性のある爆発的な情報にアクセスできるんや。そして彼らには、非常に極端な状況（犯罪があった場合など）を除いて、その情報を我々の利益のためだけに使う受託者責任があるんや。
例えば、我々の医者は我々の個人情報を利益のために第三者に売ることはできへんのや。そして同じ原則が、ハイテク大手との関係にも適用されるべきなんや。彼らも同じ責任を負うべきやな。
効率と非効率のトレードオフについて、あんたはどう考えてるんや? 非効率は一見バグのように見えるけど、あんたが本の中で指摘してるように、全体主義に対する防御壁として機能する場合もあるから、それが特徴になることもあるんやな。
でも一方で、悪意のある行為者やテロリストを見つけるために、ある種の効率も必要やし。
合理的に機能してる民主主義で、真実と秩序の両方について誤りを修正する機関がある場合、効率のダイヤルを自分で調整できるとしたら、どう調整する?
それは民主主義的な会話の中で決めていくべきことやな。極端を避けて中道を見つけるんや。そして間違いを犯すこともあるやろうから、その間違いを修正し続けるんや。
一度にすべてを解決する魔法の弾丸なんてないんや。適切な監視レベルは何か、適切な移民レベルは何か、そういったことを民主主義的な議論で決めていくんや。
極端な立場、例えば「人間には好きな場所にどんな数でも移民する権利がある」みたいな立場は完全に実現不可能やな。オープンボーダーってやつやな。
じゃあ、一つの国がどれくらいの移民を、どういう条件で受け入れたいのか、それを議論しよう。人々には様々な見方があるやろう。
より厳しい移民政策を望む人々を、すぐにファシストやナチスだと決めつけるべきやないし、同様により寛容な移民政策を望む人々を、すぐに国を破壊しようとする裏切り者だと決めつけるべきやないんや。
会話をして、この政策を試してみて、あの政策を試してみる。それが善悪の全面戦争になるべきやないんや。
監視のレベルについても、言論の自由のレベルについても同じことが言えるんや。全ての場合において中道を見出す必要があるし、それは難しいんや。
そして、我々は間違いを犯さないってことはないし、他の人々がこれらの問題について良いアイデアを持ってるかもしれへんっていう前提から始める必要があるんや。
よっしゃ、あんたが本の中で描いたこの一般的な枠組みを使って、いくつかの現在の出来事を見てみようか。
アメリカの選挙があるし、ウクライナでの戦争も続いてるし、イスラエルも少なくとも二つの前線で敵と戦ってる...話すことが多すぎるくらいやな。
まずアメリカの選挙から始めようか。我々の状況をどう見てる? 我々は本当に、あんたが本の中でより一般的に描写してる機能不全の代表例みたいなもんやな。
ソーシャルメディアだけでは完全に説明できへんけど、確かに問題を増幅させたことは間違いないな。かなり根本的な問題について互いに話す能力を失ってしもたっていう広範な感覚があるし、何か政治的な大惨事に向かって突っ走ってるように見えるんや。
選挙がどう転んでも、国民の半分が結果を信じへんっていう可能性が十分にあるんやな。最近の出来事を考えると。
じゃあ、どうやってこの崖っぷちから引き返せばええんやろか?
歴史的に見ると、民主主義の存続にとって二つの大きな危険があるんや。そして今のアメリカではその両方が見られるんや。
一つ目の大きな危険は、我々が先ほど議論したことやな。民主主義は、ある人物や政党に権力を与えて、ある政策を試してみるというシステムなんや。