動揺する技術は世界をどのように再構築しているのか? | ニコラス・トンプソンとユヴァル・ノア・ハラリの対話

27,347 文字

はい、みなさん、こんにちは。お元気ですか?はい、私は元気です。皆様とお会いできて本当に光栄です。彼は皆様ご存知の通り素晴らしい歴史学者であるだけでなく、とても親切な方です。グリーンルームでは、本にサインをしたりイスラエルの政治について私の質問に答えたりする中で、私の10歳の息子に就寝前の物語を読んでくれました。息子は「Unstoppable Us」の大ファンなんです。本当にありがとうございます。
この本では、歴史の中のいくつかの物語、あなたが紹介するキャラクターたち、そして彼らが表す思想について話を進めていきたいと思います。その後、歴史やAI、民主主義についてのあなたの主張について話し合い、最後に時間があれば黙示録的な思考実験についても触れたいと思います。よろしいですか?
ええ、もちろんです。たくさんの質問、数千もの質問を人々から寄せていただいていることも感謝しています。それらにも答えていきましょう。
最初の質問ですが、あの鳥は何ですか?
ああ、それは難しい質問ですね...ハトです。ありがとうございます。では、そのハトは何を表していて、なぜ世界の歴史についてのあなたの本の表紙にいるのですか?
主に2つの理由があります。まず、ヘブライ語ではハトと鳩の区別がありません。英語圏では、ハトは「翼のついたネズミ」と呼ばれることが多く、鳩は平和の白い天使のように考えられていることは知っていますが、ヘブライ語では同じなんです。中東には鳩はいないかもしれませんね。だから中東に平和がないのかもしれません。
ノアの箱舟の物語では、洪水が終わったかどうかを確かめるために送り出されたのはハトであって鳩ではありません。現在、私たちは情報の洪水の中に生きています。これは私のハトが、その洪水が終わったかどうかを確かめるために送り出されたようなものなのです。
もう1つの理由は、本の主要な登場人物の1人が、シュラミという名前のハトだからです。100年前、世界で最も有名な鳥でした。今でもスミソニアン博物館に展示されていると思います。ここからそう遠くないところにね。
そのシュラミの物語について教えてください。本の中で展開する議論にとって重要だと思います。
じゃあ、この鳥がどうやって世界で最も有名な鳥になったのか、お話ししましょう。第一次世界大戦中、アメリカ遠征軍がドイツ軍と戦っていた北フランスで、あるアメリカ軍の大隊がドイツ軍に包囲されました。カバー射撃を提供しようとしたアメリカ軍の砲兵隊は、大隊の正確な位置を把握できていませんでした。実際、砲撃はアメリカ軍の兵士たちの上に落ちてきて、状況をさらに悪化させました。
司令部に大隊の正確な位置を伝えるため、伝令を送ろうとしましたが、誰もドイツ軍の包囲網を突破できませんでした。そこで、唯一可能な手段として、伝書鳩のシュラミに頼ることになりました。司令官は小さな紙切れにメッセージを書き、ハトの足に取り付けて空に放ちました。
ハトはドイツ軍の砲火をくぐり抜け、何度も撃たれました。片足を失いましたが、幸いメッセージの付いた足ではありませんでした。胸も撃たれましたが、それでも目的地にたどり着くことができました。砲撃は中止され、正しい場所に援軍が送られました。「迷走大隊」として知られたその部隊は救出されたのです。
シュラミと呼ばれたそのハトは、何百人ものアメリカ兵を死や捕虜の運命から救った鳥として称えられました。少なくとも、これが軍の報告書や新聞で繰り返し語られた物語です。映画も作られ、子供向けの本も出版されました。今でもシュラミ、勇敢なハトについての子供向けの本があります。
最近の歴史研究が公文書を詳しく調べたところ、この物語には多くの疑問点が浮かび上がってきました。まず、司令部は実はハトが到着する前に大隊の正確な位置を把握していたことが判明しました。そして、そのハトが本当にシュラミだったのかどうかも確実ではなく、全く別のハトだった可能性もあるのです。
しかし、シュラミは何年もの間スミソニアン博物館に展示され、第一次世界大戦の退役軍人たちの巡礼の地となり、繰り返しになりますが、世界で最も有名な鳥となりました。これは本書が扱うテーマの一部です。情報の力と、真実と私たちが語る物語との間の緊張関係、そして必ずしも真実とは限らない物語の効果についてです。
それが私の注目を引いたのは、アメリカでもこういった問題が今でもあるからです。しかも動物に関することが多いんです。実際、私たちの現代の哲学者の一人、JDヴァンスが昨日言った言葉を引用させてください:「アメリカのメディアにアメリカ国民の苦しみに実際に注目させるために物語を作らなければならないのなら、私はそうするつもりだ」。あなたはこれに賛成ですか?
私は賛成だとは言っていません。これは人類の歴史を通じて起こってきたことだと言っているのです。ほとんどの情報は真実ではありません。真実は情報の中でも稀少で高価な一部分なのです。真実の物語を書くには多くの時間と労力とお金が必要です。一方、フィクションやフェイクニュースは非常に安価です。頭に浮かんだことを書けばいいだけです。
真実は複雑になりがちです。なぜなら現実が複雑だからです。一方、フィクションは好きなだけシンプルにできます。そして人々は通常、シンプルな物語を好みます。真実の最後の欠点は、真実はしばしば痛みを伴うということです。個人レベルでも、例えばイスラエルの政治についてでも、人々は自分自身や自分の国や世界について知りたくないことがたくさんあるのです。
フィクションは好きなだけ心地よいものにできます。安価でシンプルで心地よいものと、高価で複雑で時に痛みを伴うものとの競争では、誰が勝つかは明らかです。真実に何らかの助けを与えない限りは。
これは昨日、私が理事会で事実確認部門への資金調達について説明した時に使った、まさに同じ議論です。では、高貴な嘘についての質問をさせてください。歴史は物語を語る人々によって決定されます。その物語には真実が含まれているものもあれば、含まれていないものもあります。本を読み始めた時に予想していたほど、あなたは高貴な嘘の考え方を否定的に見ていませんでした。物語を語る人が、より大きな善のために正確に真実を語らないことが許されるのは、どのような状況においてなのか説明してください。
物語が現実の正確なレプリカになることは不可能です。ある帝国が完全に真実な地図を作ろうとした有名なボルヘスの物語がありますね。現実を完全に正確に表現する地図を作ろうとして、結局1:1のスケールの地図を作ることになったという。これが100%真実で正確で、何も単純化せず、何も変更しない唯一の地図だったからです。帝国全体が帝国の地図で覆われることになり、この地図を作る努力が帝国の資源を枯渇させ、そのため帝国は崩壊しました。
私たちは今、ある意味で同じような状況にいます。世界には表現の危機があります。どんな表現も十分に良いものとは思えません。なぜなら、どんな表現も実際には世界の1:1の地図にはなり得ないからです。これは単純に不可能なのです。そして私たちはそれにどう対処すべきか分からないでいます。
私の立場は、すべての物語はある程度フィクショナルだということです。なぜなら、すべての真実を語ることは単純に不可能だからです。500ページで世界の歴史を書いた人間として、時には単純化が必要だということは分かっています。そして、フィクション自体が必ずしも悪いわけではありません。例えば、サッカーやベースボールのルールはフィクショナルです。私たちが発明したものです。でもそれは悪いことではありません。フィクショナルな文学がすべて悪いわけではありません。
重要なのは、フィクションがそのフィクション性を認識し、現実のふりをしないことです。そして文化的または政治的な影響について考えると、大勢の人々を結束させるには何らかの物語や神話を使う必要がありますが、それは必ずしも悪いことではありません。あなたが何をしているのかを認識している限りは。
例えば、人類の歴史における2つの基本的なテキストを比較してみましょう。十戒とアメリカ合衆国憲法を比べてみると、一方のテキストはそのフィクション性を認識していて、もう一方は認識していません。十戒は人間の想像から生まれたものだと認めず、神の知性の産物として天から降りてきたと主張します。
その欠点は、自身の誤りを認め、修正するメカニズムがないことです。例えば、紀元前1000年頃に書かれた十戒は奴隷制を容認しています。多くの人はそのことを考えたことがないか、知らないのですが、第10戒は実際に奴隷制を容認しています。「あなたの隣人の畑や牛や奴隷を欲してはならない」と言っています。これは神が人々が奴隷を所有することに問題がないことを示唆しています。神が怒るのは、隣人の奴隷を欲する場合だけです。それはだめですよ、それは神を怒らせます。
一方、十戒と同様に大規模な人間の協力の基礎となり、法制度や政治制度の基礎となった合衆国憲法を比較してみましょう。十戒が「我は汝の主なる神なり」で始まるのに対し、憲法は「われら人民は」で始まります。人民がこの文書を作ったのです。私たちがこれらの法律を発明したのです。
したがって、人間の想像力から生まれたものであることを認識しているため、この文書には誤りがある可能性があることも認識しています。そして自身を修正するメカニズムを持っています。これは最終的に、当初は奴隷制を容認していた合衆国憲法を修正して奴隷制を禁止するために使われました。一方、十戒は天から降りてきたものだと主張するため、テキストを変更するメカニズムがありません。第10戒が気に入らない場合に、3分の2の多数決で変更できるという第11戒はないのです。
フランシスコ教皇が第2戒を変更する方が、アメリカ議会が修正第2条を変更するより可能性が高いと思いますが、それが現状です。
では宗教の話を続けましょう。本の中で少なくとも3つの非常に重要な部分で登場する物語について、お話ししていただきたいと思います。ヒッポとカルタゴの公会議の物語と、新約聖書にテモテを選び、パウロとテクラの行伝を除外したことの結果についてです。あなたが先ほど話していた物語の力についての重要な続きだと思います。神に誓って、すぐにAIの話に移りますが、これは重要な前提なんです。
実際、AIから始めることもできます。カルタゴ公会議は、今日のチュニジアで397年に開かれましたが、AIと非常に関連があります。なぜならAIが人類の歴史を形作る最初の大きな力の1つとして私たちが目にしたのは、推薦の力だからです。ソーシャルメディアで見るものは、ソーシャルメディアのアルゴリズムによる推薦の結果です。人々にどの物語を読むべきか、どの動画を見るべきかを推薦する力は非常に重要です。推薦の力を示す歴史上の最良の例の1つが、聖書の編集過程です。
新約聖書を作った人々は、テキストの著者ではなく、何を入れて何を除外するかを決めた編集者たちです。なぜなら、イエスの時代やパウロの時代には新約聖書はありませんでした。聖書は存在しなかったのです。キリスト教の最初の4世紀の間、キリスト教徒たちは膨大な量と種類のテキストを生み出しました。キリストについての物語、黙示録についての予言、パウロや他の教会指導者による手紙、そして男が死んでから200年後に人々がパウロの名前で書いた偽の手紙などがありました。
キリスト教のコミュニティは、繰り返しになりますが、非常に多くのテキストで溢れかえっていました。そして、良きキリスト教徒は何を読むべきかという問題が浮上しました。今日、私たちがテレビシリーズで溢れかえっていて、何を見るべきかの推薦リストが必要なのと同じように、推薦リストが必要だったのです。
4世紀末、委員会が設立されました。教会の公会議で、神学者や司教たちが、今日のアルジェリアにあるヒッポ、そして今日のチュニジアにあるカルタゴで会合を開きました。彼らはすべてのキリスト教徒が読むべき27の重要なテキストのリストを作成しました。これが新約聖書となりました。彼らはテキストを書いたわけではありません。当時存在していた非常に多くのテキストを検討し、何を入れて何を除外するかを選んだのです。
これは今日に至るまで、数十億人の人々のキリスト教とさまざまな問題についての見方を形作ってきました。多くの例の中から1つ挙げると、当時キリスト教徒の間で非常に人気があったテキストの1つが「パウロとテクラの行伝」でした。パウロは聖パウロのことで、テクラは当時最も人気のある聖人の1人でした。彼女はパウロの女性の弟子で、共同体の指導者でした。説教をし、奇跡を行い、洗礼を授けました。そして教会における女性のリーダーシップの例として称えられ、女性も説教をし、洗礼を授け、奇跡を行うことができるという例として賞賛されました。
これが1つの人気のあるテキストで、女性についての1つの見方を示していました。一方で、別のテキストがありました。パウロからテモテへの手紙とされるもので、今日の多くの学者はこれが後世の偽作だと考えています。1世紀にパウロが書いたものではなく、おそらく2世紀になってから彼の名前で偽造されたものです。この手紙では、女性とその教会における役割について全く異なる見方が示されています。
女性は従順であるべきで、沈黙を守るべきで、決してリーダーになるべきではないと書かれています。男性に言われたことを何でもすることと、子供を産み育てることで自己実現すべきだと。これが人生における彼女たちの役割なのだと。
カルタゴの委員会は、パウロとテクラの行伝をトップ27から除外し、このテモテへの手紙を含めることを決定しました。これは今でも世界中で新約聖書の一部として「テモテへの第一の手紙」となっています。これが1500年以上にわたって、数十億のキリスト教徒の教会における女性観、そして一般的な女性観を形作ってきたのです。
これが推薦の力です。そしてこれがAIにつながります。この力は、ますますAIアルゴリズムによって握られるようになっています。現在、ソーシャルメディアとフェイクニュースや陰謀論の広がりについて、大きな公の議論があります。
イーロン・マスクやマーク・ザッカーバーグのような人々が、誰も検閲したくない、これは言論の自由の問題だと言っているのを耳にします。しかし、これはソーシャルメディアにおけるこの種の情報の広がりの問題は、人間のユーザーが特定の嘘やフィクションやフェイクニュースを作り出すことではありません。本当の問題は、企業のアルゴリズムがどの物語を推薦し、どの物語を宣伝するかを決定することです。
カルタゴの公会議の司教たちが持っていた力、そして最近の世代の新聞編集者たちが持っていた力が、今はソーシャルメディアのアルゴリズムの手にあるのです。これが規制についての議論の中心にあるべきです。これは人間の言論の自由の問題ではなく、企業のアルゴリズムの責任の問題です。
なぜなら、企業のアルゴリズムが特定の陰謀論を宣伝することを決定した場合、それはそれを発明した人物の責任ではなく、アルゴリズムとそのアルゴリズムを作った企業の支配者たちの決定なのです。これが議論の中心にあるべきです。
つまり、もしカルタゴの公会議が少し異なっていたら、女性はもっと早く力を持っていただろう、フェミニスト革命が何世紀も早く起こっていただろう、おそらくAIはもっと早く発明されていて、今頃私たちは全滅していただろう、ということですね、ユヴァル?
それは1つの可能性です。歴史は非常に予想外の展開をします。いや、タペストリーから1本の糸を抜き出すことはできないということは分かっています。
AIについてのあなたの懸念に話を移しましょう。懸念について手短に見ていき、その後これらのアルゴリズムがどのように構築されるべきかについてのあなたの哲学について話したいと思います。まず、現代のAIが民主主義を破壊する可能性がある理由を、ごく簡潔に一言二言で説明していただけますか?
ごく簡潔に言えば、民主主義は会話です。独裁は1人の人間がすべてを命令することです。それが独裁です。民主主義は、集団の人々が主要な問題について何をすべきかを決めるために会話をすることです。
会話を持つことは簡単なことではありません。技術的な困難さがあります。20人の人々が会話をしようとする場合、彼らは全員が一つの部屋に集まって話すことができます。しかし、2000万人がどうやって会話できるでしょうか?そのためには何らかの技術が必要です。
近代以前には、大規模な会話を可能にする技術が単純に存在しませんでした。そのため、世界のどこにも大規模な民主主義は存在しませんでした。古代の民主主義の例として私たちが持っているのは、すべて小規模なものです。アテネや共和政ローマのような都市国家、つまり1つの都市だけです。あるいはさらに小さな部族や集団や村です。このような小規模な民主主義の例は多くありますが、古代世界に大規模な民主主義の例は1つもありません。すべての大規模な政体は権威主義的でした。
大規模な民主主義が現れ始めるのは、近代の情報技術の台頭以降です。最初の重要な技術は新聞で、その後、電信、ラジオ、テレビが登場します。そして突然、それが実現可能になります。他の条件も満たされる必要があります。新聞があれば民主主義が保証されるわけではありません。ソビエト連邦にも新聞やラジオはありました。しかし、歴史上初めて大規模な民主主義が可能になったのです。
これを理解することは重要です。なぜなら、情報技術は付け合わせのようなものではないからです。民主主義があって、その横に情報技術の問題があるというわけではありません。情報技術は民主主義の基盤なのです。民主主義はこの技術の上に構築されています。したがって、情報技術の大きな変化は、その上に構築されている民主主義に地震を引き起こす可能性が高いのです。
これが今、世界中で私たちが目にしていることです。世界中で民主的な会話の崩壊が起きています。人類史上最も洗練された情報技術を持っているのに、人々はお互いに話す能力を失いつつあります。さらに重要なことに、お互いの話を聞く能力も失いつつあります。
これが起きている国ではどこでも、その国固有の説明があります。なぜアメリカでは民主党と共和党が会話できないのか。イスラエル、私の国に行けば、イスラエルの何が悪いのかについての固有の説明を聞きます。ブラジルに行けば、ブラジル社会の何が悪いのかについての固有の説明があります。
しかし、同じことがどこでも起きています。会話が崩壊しているのです。これはその国の歴史や社会や経済の特別な特徴のせいではありません。この新しい情報技術の台頭から生じる普遍的な地震なのです。
当初、この技術の開発者たちは、真実を広め、専制政治を倒し、民主主義を強化すると約束しました。しかし、それは逆のことをしています。
非常に簡潔に、起きていることを視覚化する1つの方法は、民主主義を人間の集団が立って会話をしている様子だと想像することです。そして突然、ロボットの集団が輪の中に入ってきて、とても大きな声で、とても説得力のある方法で、とても感情的に話し始めます。そして私たちには誰が人間で誰がロボットなのか区別がつきません。
これが過去10年から15年の間に起きてきたことです。その結果、会話が崩壊しています。繰り返しになりますが、これはアメリカに固有の現象ではありません。世界中で起きているのです。そしてますます独裁への道を開いています。なぜなら、独裁は会話を必要としないからです。繰り返しになりますが、1人の人間がすべてを命令するのです。
その仮定について少し掘り下げてみましょう。私なら異なる比喩を使うかもしれません。ロボットの集団が会話に参加するのではなく、知的な補助者たちが私に加わって、会話を整理するのを手伝い、私が何を質問するかの準備を手伝ってくれる。そしてそれだけではなく、もし昨年を見てみると...ベネズエラは悲劇的な例ですが、選挙は民主主義と同じではありませんが、これを民主主義の代理指標として使うと、ポーランドでは民主主義寄りの比較的良好な選挙がありました。トルコでも少し進展があり、インドでは実際に非自由主義的な民主主義が挑戦を受けました。メキシコではユダヤ人女性が選出される非常にスムーズな選挙がありました。フランスでは深層偽装もなく、選挙結果が好きかどうかは別として、非常に効果的でした。イギリスでも同様です。
世界は、ソーシャルメディアやAIなどの課題にもかかわらず、これらの選挙についてはうまくいっています。
それは既成事実というわけではありません。民主主義が崩壊してしまったわけではありません。しかし、10年前や15年前と比べて今日の民主主義の健全性を見ると、少なくとも勢いは非常に懸念されます。
そして繰り返しになりますが、世界中の例を見て私を本当に驚かせるのは、何か巨大なイデオロギー的な溝についてではないということです。実際、今日のアメリカのような場所での異なる陣営間のイデオロギー的な溝は、50年前よりもずっと小さいのです。
懸念されるのは、議論の温度のようなものと、理性的な討論を持つ能力、理性的な会話を持つ能力の欠如です。単に選挙を持つことは重要ですが、それだけでは十分ではありません。選挙は民主主義ではありません。
そしてあなたが挙げた例のいくつかでさえ、問題は誰が勝つか、どの51%が最終的に勝つかではありません。51%と49%の関係についてです。民主主義は、すべての選挙が生死を賭けた闘争のように感じられるべきではありません。これに負けたら崩壊するかもしれないと感じるべきではありません。さらに言えば、敵同士の戦争のように感じられるべきではありません。
国が人々が政治的なライバルを敵として見るような状況に達すると、民主主義は長くは生き残れません。なぜならその時、すべての選挙は再び戦争のようなものになるからです。勝つためには何でもします。負けた場合、判決を受け入れる動機がありません。勝った場合、自分の部族のことだけを気にかけます。
この状況で起きているのは、国家が部族に分裂することです。それは最終的に部族間の戦争と内戦、または独裁政治につながります。ここで重要なのは、民主主義だけでなく、ナショナリズムと国民共同体の崩壊にも関係があることです。
多くの人々は、民主主義とナショナリズム、あるいは民主主義と愛国心は何らかの形で対立するものだと考えています。しかし、それらは一緒に機能しなければなりません。民主主義は、国民共同体が存在する場合にのみうまく機能します。あなたが本当に自国の他の人々を気にかけ、彼らも本当にあなたを気にかけていると感じる場合にのみです。
国家がもはや国家ではなく、戦う部族があり、各部族が自分たちのことだけを気にかけるという状況に達すると、民主主義が崩壊するのは時間の問題です。これが本当に懸念される傾向であり、世界中の多くの場所で見られます。最新の選挙結果に関係なく。そしてこれは再び、人々の間のコミュニケーションの種類に戻ります。例えば、私たちは自分とは異なる見方を持つ人々の話を、彼らを敵だと考えることなく聞くことができるでしょうか?
グリーンルームで学んだところによると、ユヴァルがツイッターでボットと議論を避ける方法の1つは、彼が言うように90年代に留まり、メールと電話を使うことだそうですね。では質問させてください。
私たちはこの時代に向かっています。私は民主主義が危機にあることに完全に同意します。そしてあなたが挙げた理由で危機にあることにも完全に同意します。そして私たちがまもなく、私たちの決定の多くと私たち自身の頭の中での思考の多くの基礎となる、非常に強力なAIアルゴリズムを持つことになることにも完全に同意します。
本の中の非常に重要な部分で、あなたはAIシステムに組み込まれるべき4つの価値を挙げています。それらは、善意(AIシステムは善意を持つべき、これは合理的に思えます)、分散化、相互性(AIがあなたについて理解していることを、あなたもAIについて理解すべき)、そして進化する能力(先ほど米国憲法と十戒について言及したように)です。
質問ですが、これらの価値が互いに対立した場合はどうなりますか?その部分を読んだとき、私は善意が分散化と対立するように思いました。なぜなら、もしアルゴリズムを分散化して、突然さまざまなアルゴリズムやさまざまな選択肢やさまざまな企業が現れた場合、あなたの定義する善意を持つものもあれば、持たないものもあるでしょう。未来のAIシステムを設計する際に、これら4つの原則をどのように比較考量すべきなのでしょうか?正しく比較考量することは、あなたが望む世界を実現する上で非常に重要に思えます。
善意について、私は非常に狭い意味のこと、私たちが何世紀も知っていることを意味しています。単純に、もし私の情報を手に入れたなら、それを私の利益のために使うべきであって、私を操作するために使うべきではないということです。これは私たちの医師や弁護士や会計士やセラピストとの間で既に持っている基本的な原則です。そしてソーシャルメディアやメールのようなデジタルサービスを提供する人々との間でも、それは異なるべきではありません。
ちょっと待ってください。フェイスブックは、アルゴリズムが最も影響力を持っていた全盛期でさえ、私たちを操作しているとは決して言わなかったでしょう。私たちが望むものを与えているのだと言ったでしょう。
それは1つの言い方です。そしてフェイスブックのアルゴリズムは私たちに対して非常に大きな力を持っています。フェイスブックやほとんどのソーシャルメディア企業のビジネスモデルは、ユーザーエンゲージメントを増やすことに基づいています。エンゲージメントは良いことのように聞こえます。誰がエンゲージしたくないでしょうか?
しかし企業にとって、それは私たちがプラットフォームでより多くの時間を過ごす必要があるということを意味します。なぜなら、私がそこで過ごす時間が長ければ長いほど、彼らはより多くのお金を稼ぐからです。広告やコマーシャルを見せることによって、あるいは私のデータを収集して第三者に提供または販売することによってです。
これが私の望むことかどうかは、非常に大きな疑問です。私は本当にプラットフォームでより多くの時間を過ごしたいのでしょうか?彼らのアルゴリズムが行うのは、試行錯誤によって私の弱点を見つけ出し、その弱点を利用して私を画面に釘付けにし続けることです。
これはハッキングの基本的な考え方です。スマートフォンやコンピュータやプログラムをハッキングするには、コードの弱点を探します。人間に対しても同じです。これが人間をハッキングする方法です。これらのアルゴリズムを使って私たちのコードの弱点を見つけるのです。
各人がそれぞれの弱点を持っています。一つのサイズがすべてに合うわけではありません。何が私を怒らせるのか、私が既に何を憎んでいるのか、私が既に何を恐れているのか、あるいは私が何に貪欲なのか、そしてそれをどんどん与え続けるのです。
食品会社が、何かに砂糖と脂肪と塩をたくさん入れると人々がもっと欲しがることを学んだのと同じです。それが本当に私たちにとって良いことなのか、そうでないのか、それは問題です。簡単に解決できる問題ではありません。しかし、これがジレンマの核心、議論の核心です。
そして繰り返しになりますが、主要なメッセージは、最終的には企業の利益ではなく、このすべての情報を消費することが本当に私にとって良いことなのかどうかについてであるべきだということです。
最後に一点、私は食品の例のように、私たちは情報ダイエットを必要とする段階に達したと思います。より多くの情報は常に良いことだという単純な考えは、単純に間違っています。より多くの食事が常に良いことではないのと同じように。
だからこそ、みんなThe Atlanticを購読すべきですね。
思考実験をさせてください。なぜなら、あなたのシステムが機能するためには、誰が善意を定義し、誰がこれらの価値を定義するかにある程度依存すると思うからです。
先日バーで交わした会話から思考実験を提示したいと思います。AIの分野で働くエンジニアと出会いました。詳細は明かせませんが、その人がどういう人で何をしているのか正確には言えません。その人は現在、テキサス州のために働いていて、量刑アルゴリズムを担当しています。
有罪が確定した人物がどれくらいの期間刑務所に服役するかを決定するAIアルゴリズムを担当しているのです。そして彼女には難しい課題があります。歴史的なデータで訓練されたアルゴリズムは、歴史的なデータの偏見を持つことになります。テキサスの歴史的なデータでアルゴリズムを訓練すると、それは人種差別的になります。
だから、女性をより早く釈放するようにする必要があり、それが適切で正しいことを確認する必要があります。過去のデータを見直して、それをコントロールしようとします。私たちは長い会話をして、私は彼女に「これをどうコントロールするの?あれをどうコントロールするの?これをどうコントロールするの?」と尋ねました。
最終的に彼女は「知ってる?ニック、私がやってることを話すわ」と言いました。「私はアルゴリズムを細工してるの。テキサス州が以前よりもずっと短い期間で量刑を下すように細工してるの。しかも、テキサス州が私がそうしていることに気付かないようにね」と。
これはAIエンジニアがすべきことでしょうか?
それは非常に危険です。しかし、多くのリベラルが賛成する価値かもしれません。保守的な州が人々に長すぎる刑期を科してきたと感じているので、その人が正義だと信じることにつながる価値をシステムに組み込んでいるのです。
少なくとも、国の法律について話す時は、これは市民と有権者に任せるべきで、エンジニアの独裁に任せるべきではありません。
まあ、彼らは好きな請負業者を雇う権限を州に与えています。彼らはテキサス州知事を選び、この人を雇ったのです。これが起きているのはテキサス州ではありませんから、量刑アルゴリズムについてグーグルで検索しないでください。別の場所で別のことが起きているんです。あなたにはそれが何か分からないでしょう。しかし、同じような例です。
私はこの例が提起する重要なポイントは、不可解性の問題だと思います。私たちの人生をコントロールするシステムをどこまで理解できるのか。
私はよく、AIについて何が本当に恐ろしいのかと質問されます。ハリウッドのSFシナリオのような、大きなロボットの反乱やロボットが反乱を起こして私たちを殺しに来るというようなことは、近い将来起こる可能性は低いです。
しかし、既に起きていること、これはSFの未来のシナリオではありません。既に起きていることは、基本的に私たちには何百万ものAI官僚、官僚的なアルゴリズムがあり、私たちの人生についてますます多くの決定を下しているということです。
銀行にローンを申し込むと、AIが決定を下します。私たちが犯罪を犯すと、彼らは私たちを刑務所に送り、どれくらいの期間かを決めるのはますますAIになっています。そしてこれは、連邦準備制度の金利はどうあるべきかというような重要な経済的・金融的決定のレベルにまで及ぶ可能性があります。これはますますAIによって下される決定になる可能性があり、人間によってではありません。
AIにこのような力を与える理由は多くありますが、最終的に私たちについての多くのこれらの重要な決定が、単純に理解できない方法で下されるようになったとき、どうなるのでしょうか?
なぜ銀行が私たちのローンを拒否したのか分かりません。なぜ彼らが私たちを5年ではなく4年や6年の刑期にしたのか分かりません。なぜ金利が4%で3%ではないのか分かりません。そして私たちが分からないのは、誰かが隠しているからではなく、単純に人間の脳にとって複雑すぎるからです。
AIの利点、良い面は、人間の脳よりもずっと多くのデータを分析でき、私たちには扱えないパターンを見つけ、私たちには扱えない数学的な複雑さを扱えるということです。しかし、そのすべての欠点は、例えば民主主義にとってどういう意味があるのでしょうか?
ますます多くの決定、あるいは少なくとも多くの決定が、透明性がなく、したがって人間に対する説明責任がない方法で下されるようになった場合、どうなるのでしょうか?
別の例を見てみましょう。これも同様です。AIシステムを作っている企業の1つがAnthropicで、彼らは憲法的AIと呼ばれるシステムを使用しています。プロンプトの書き方やアルゴリズムの構造化の方法として、私の理解では、主要なAI企業の中で最もユヴァル・ノア・ハラリの哲学に近いものです。
回答を出す際、その回答が国連人権宣言に準拠しているかどうかをチェックします。実際、米国憲法、国連人権宣言、そしてAppleの利用規約に従っています。とても面白いですね。
しかし、彼らや他のAI企業が抱える最大の問題は、あなたが言ったように、なぜ物事が決定されるのかが分からないということです。そこで彼らは「解釈可能性」と呼ばれるものを理解しようとしてきました。
彼らは、すべてのトレーニングデータに入って、ゴールデンゲートブリッジに関連するすべてのものに少し余分な重みを付けてみました。ゴールデンゲートブリッジの写真があれば2倍の重みを付け、ゴールデンゲートブリッジへの言及があれば2倍の重みを付け、単語があれば...サンフランシスコ・ジャイアンツの成績表なら、フィラデルフィア・フィリーズのものよりも少し重みを付けます。
そうして彼らはClaudeに「ラブストーリーを語って」と頼むと、当然、そのラブストーリーはゴールデンゲートブリッジで展開されるわけです。トレーニングデータと重みを操作すると、このような興味深い結果が得られます。
では質問です。これができるなら、なぜAIに入って、ゴールデンゲートブリッジではなく、愛、思いやり、善意に重みを付けないのでしょうか?それは良いアイデアでしょうか?
技術的な意味で何を意味するのか、私には確信が持てません。しかし人類の歴史を見ると、歴史の中でかなり頻繁に、人々は愛について語り、愛から始まって、非常に早く憎しみと戦争に至ることを知っています。
カルタゴの公会議に話を戻しますが、自らを愛の宗教と見なすキリスト教は、歴史上どの宗教やイデオロギーよりも多くの暴力の原因となりました。そして彼らは何らかの方法で、愛からどうやって十字軍を起こし、異端審問所を建て、異端者を火刑に処すのかを見出しました。すべて愛からです。そして彼らは本当にそれを信じていました。
このようなことが起きる方法の1つは、自分が愛に動機づけられていると考え、ユートピアを建設しようとしていると考えた場合、自分の邪魔をする者は必然的に悪魔的な存在でなければならない、邪魔をする者は邪悪でなければならないということです。私がより善であればあるほど、反対する立場は単に異なる考えを持つ人というだけではなく、定義上邪悪なものとなります。
繰り返しになりますが、それをAI用語にどう翻訳すればいいのか分かりません。しかし、歴史からの教訓の1つは、これらの良い重みを持っているから、私たちの聖典に重みを付け、愛を含むものには余分に、思いやりを含むものには余分に重みを付けたからといって、そこから異端審問所が生まれるのを避けられるわけではないということです。
人間でそれが起こるなら、AIについても非常に懸念されます。私たちに必要なのは、歴史から繰り返し学ぶ基本的なことですが、自己修正メカニズムです。何かが基礎に良い価値を持っているからといって、そこから出てくるものも必然的に善意に満ち、思いやり深いものになると信頼することはできません。
近代でもマルクス主義で同じことを見ました。平等と思いやりというこれらの素晴らしい思想から始まり、グラーグ(強制収容所)で終わります。そして、自分が良い基盤から来ていると本当に確信し、また自分がユートピアを建設する過程にいると考えるなら、それはユートピアへの道で最も恐ろしいことをする白紙小切手を与えることになります。
そして再び、あなたの邪魔をするものは、政治的なライバルから一種の悪魔的な所有へと変化します。
ある意味で、これはあなたが言った最も恐ろしいことの1つですね。なぜなら、AIモデルを構築している人々は、本当に自分たちがユートピアに導いていると信じているからです。
そしてそれは非常に非常に危険です。なぜならそれが彼らに白紙小切手を与えるからです。彼らは「私たちはユートピアを建設しているのだから、途中で犠牲にしなければならないものは何でも価値がある」と言います。これはレーニンやスターリンのような人々の基本的な議論でもありました。
「はい、これらの何百万もの人々を殺さなければなりません。しかし最終的に、ここ地上に本当に存在する社会主義というユートピアを建設すれば、死んだこれら数十億の人々は価値があったことが分かる」と。
私はクメール・ルージュとAnthropicを同時に考えたことはありませんでしたが、ここにきてそうなりました。しかし待ってください、ユヴァル。次の数週間で、前回はトロントにいましたが、西に移動して、これらすべての人々と座って話をすることになるでしょう。なぜなら彼らは皆あなたの本を読んでいるからです。
あのジェフ・ベゾスのインタビューの有名な画像がありますよね。彼の背後の本棚には4冊の本と植物があって、その3冊があなたの本だったと思います。
だから、あなたはこれらの人々と話をすることになります。つまり、あなたが私に言っているのは、例えばAnthropicを経営するダリオ・モディがそこにいて、「ねえ、私たちは何を学習させるべきか考えているんだ。前向きで、事実に基づく物語だけに学習させるべきだと考えている。シリアルキラーの日記のような、すべてのものを学習させるべきではないと本当に思うんだ」と言ったら、あなたは「いや、シリアルキラーの日記も入れなさい。あなたの定義する愛だけに学習させてはいけない」と主張するということですか?
いいえ、基本的に私はこう言うでしょう。私にはAIの訓練の仕方は分かりません。これは私の分野ではありません。しかし、どんなに前向きな基礎を与え、どんなに前向きな意図を持っていたとしても、あなたの第一の前提は、これが完璧ではないということであるべきです。私は完璧ではありません。間違いの可能性は高いのです。
したがって、修正の余地を残す必要があります。これを構築する際の最も重要なことは、間違いを特定し修正するメカニズムを構築することです。これは1917年のレーニンにも同じアドバイスをしたでしょう。
「あなたはこの巨大な実験に乗り出そうとしています。ユートピアを建設しようと考えています。まず、あなたは間違いを犯すだろうという前提から始めてください。ソビエト連邦の構造に、システムの間違い、レーニンの間違い、そしてあなたの後継者になる者の間違いを特定し修正するメカニズムを含めてください」。これは彼らがしなかった唯一のことです。
レーニンは『サピエンス』を読むべきでしたね。列車の中で読んでいる彼の姿が浮かびます。
繭(コクーン)について少し話しましょう。これはあなたの本の非常に興味深い部分の1つです。あなたは、心と体の分離のような基本的な人間の問題があると主張します。マーティン・ルターの物語を語り、実は私がこれまで読んだことのないルターの物語の語り方をしています。
しかし、あなたは、AI時代には、心とは何か、体とは何かについて全く異なる理解を持つ文明、したがって全く異なる司法制度を持つ文明が現れる可能性があると主張します。これは本の中で最も頭を悩ます部分の1つです。聴衆にこれを説明してもらえますか?
説明することがたくさんありますね。手短に試みましょう。まず、繭について。この情報革命の時代におけるメタファーの変化です。30年前、支配的なメタファーはウェブ、つまりワールドワイド・ウェブでした。ウェブはすべてとすべての人をつなぐはずでした。
しかし年月とともに、ウェブは私たちの周りで閉じていき、今では繭となっています。すべての人、すべてのグループが情報の繭の中に閉じ込められています。時には、隣人が自分とは異なる繭の中にいて、互いにアクセスする方法がまったくないということもあります。
これがどこまで行き着くかの極端な例として、今日、アメリカ合衆国では誰が前回の選挙に勝ったのかについて人々が合意できないように、人間とは何か、人とは何か、心と体の関係とは何かについて人々が合意できない場所に至る可能性があります。
ユダヤ教、キリスト教、ヒンドゥー教、仏教など多くの伝統に見られる繰り返される議論の1つは、人間とは正確に何なのか、そして心と体、あるいは魂と精神と体の関係は何なのかということです。
再びカルタゴの公会議と初期キリスト教の時代に戻ると、ユダヤ教と、ユダヤ教から生まれた最初のキリスト教徒たちは、人間を体現化された存在として見ていました。体が中心でした。私たちは体なのです。
聖書のユダヤ教では魂についてまったく語られていませんでした。体から分離して存在する魂があり得るという考えは、聖書のユダヤ教では聞いたこともありませんでした。すべては体についてでした。そして最初のキリスト教徒たちも体に焦点を当てていました。
もともとの考え全体は、神が肉体の中に受肉するということでした。肉体が中心にあり、イエスが十字架にかけられた後、彼は肉体を持って戻ってくるはずでした。そして神の国は、地上の肉体を持つ体の物質的な王国であるはずでした。
しかし最終的に、プラトン哲学やその他の影響の下で、また実践的な理由から、神の国が見えなかったため...初期のキリスト教徒たちにとって本当に大きな問題は、彼らが勝利したことでした。迫害された宗派である時、あなたはこれらすべての約束を持つことができます。「私たちが最終的に力を得たとき、神の国があるだろう」と。
そして彼らは宗教に起こり得る最大の災難の1つに遭遇しました。彼らは力を得たのです。ローマ帝国の支配的な宗教となりました。では、神の国はどこにあるのでしょう?神の国はありません。同じ戦争、腐敗、内戦、処刑、人間の貪欲さがあります。すべては同じです。
そこで彼らは言います。「神の国は地上にはない。それは異なる現実のレベルにある。天国にある。あなたは肉体ではそこにアクセスできない。死んだ後、あなたの魂が天国に行くのだ」と。
多くのキリスト教徒は、人間についての非常に異なる見方、二元論的な見方に傾いていきます。実際、私の本質は魂であり、それはすべての性的な情熱とすべての欲望を持つ、この物質的な生物学的な汚れた体の中に閉じ込められているというものです。
希望、理想は、最終的に魂がこの地上の肉体の牢獄から解放され、天国という純粋に非物質的な領域に到達し、永遠に存在し続けるということです。
キリスト教の2000年の歴史を通じて、この緊張関係が見られます。彼らは決して体を完全に放棄することはできませんでした。部分的には聖書が体で満ちているからです。そして繰り返しになりますが、キリストは肉体の中に受肉し、肉体を持って復活し、肉体を持って生き返りました。聖書自体には、純粋な魂の非物質的な領域についてはほとんど書かれていません。それはほとんど後から来たものです。
そこには常に議論があり、それはしばしば宗教戦争にまで発展します。教会の初期の世紀の1つで最大の議論は、イエス・キリスト自身の本質についてでした。一方の陣営は彼が完全に人間で肉体を持っていたと言い、もう一方の陣営は彼が完全に神的で非物質的な霊的存在だったと言いました。
そして第三の陣営があり、ノンバイナリーだと言いました。そしてノンバイナリーが勝ちました。これが最終的に教会の公式教義となりました。彼はノンバイナリーで、両方であり同時にどちらでもないのです。これらの問題をめぐって大きな議論そして暴力もありました。
では、これらすべてはAIとどう関係するのでしょうか?私たちは心と体のこの議論の新しいラウンドを迎えようとしています。実際、既にその最中にいます。あなたのアイデンティティとは何か?あなたのアイデンティティを定義するものは何か?あなたのアイデンティティは生物学的な体によって定義されるのか、それともあなた自身についての信念によって定義されるのか?
マーティン・ルターのような人々は、唯一重要なのはあなたが信じることだと言いました。そして私たちは今、この議論の新しいラウンドの中に生きています。オンラインに行けば何にでもなれる、画面の前に座っている生物学的な体があなたが採用できるアイデンティティを制限すべきではないと言う人々もいます。
他の人々は「いいえ、いいえ、いいえ、生物学的な体があります。これがあなたのアイデンティティの中心です。あなたの生物学的な体を無視することはできません」と言います。そして誰もが知っているように、これは今、非常に激しい議論となっています。
これはまた、私たちがAIをどう扱うかにも影響を与える可能性があります。AIには体はありませんが、私たちと相互作用し、私たちの感情のボタンを押し、自分自身が感情を持っているふりをすることがますます可能になるでしょう。
人のアイデンティティにおいて体を重視する人々は、AIを人として扱うことに抵抗するでしょう。アイデンティティは生物学とほとんど関係がないと考える人々は、AIに体がないにもかかわらず、AIを人として扱うことにずっと抵抗がないでしょう。
そして異なる国々は異なる道を選ぶかもしれません。今日のアメリカと中国の間の人権についての議論を考えてみてください。50年後、ある国では数十億の存在が権利を持つ人として考えられ、別の国では全く人として認められないという状況を考えてみてください。なぜなら彼らには生物学的な体がないからです。
少なくともアメリカでは興味深いことに、体を持たない非人間を法的な人格として権利を持つものとして認める完全に開かれた法的な道がすでにあります。なぜなら企業は、米国法の下では少なくとも2010年以降、最高裁判所によると言論の自由を持つ法的な人格だからです。
現在、これは法的なフィクションです。なぜなら企業のすべての決定は生物学的な体を持つ人間によって下されなければならないからです。グーグルは米国法の下では法的な人格ですが、現在、グーグルのすべての決定は何らかの人間によって下されなければなりません。
しかし、数年後、AIを法的な人格として法人化し始めるとどうなるでしょうか?技術的にAIを法人として、例えば「Boogle」として法人化することができます。そしてBoogleの興味深い点は、決定を下すために人間の従業員を必要としないということです。これはAIが自分でできることです。
例えば、AIは銀行口座を開設し、お金を稼ぎ始めることができます。タスクラビットやメカニカルタークのようなオンラインプラットフォームで、人々や企業にサービスを提供してお金を稼ぐことができます。そしてお金を持つようになると、株式市場に投資を始めることができます。
そしてもしそれが非常に知的なAIなら、潜在的にアメリカで最も裕福な人になる可能性があります。アメリカで最も裕福な人が人間ではなくAIである状況を考えてみてください。そして繰り返しになりますが、私の理解では米国法の下でこの非人間の人格に与えられる権利の1つは言論の自由です。
これは特に、政治献金を行うという形で現れます。このAIは、AIにさらに多くの権利を与えることと引き換えに、政治家に数十億ドルを寄付することができます。これらが、大きなロボットの反乱よりも私たちがより懸念すべき種類のSFシナリオだと思います。
この企業で上級AIボットが下級AIボットに言い寄り始めたら、AIリソース部はどうすべきでしょうか?
はい、ここには肉体を持つ人々がいて、ピザとビールを取りに行かなければならないので、黙示録についてもう1つだけ質問して、その後、聴衆からの質問に移りましょう。
地下鉄で本を読んでいた時、先日息子と夕食前に読み終えようとしていた時、これが私のお気に入りの段落でした。ちょっと読ませてください。あなたにその意味を説明してもらいたいと思います。
「私たちは今、意識を持たないが非常に強力な異質な知性を作り出しました。」同意です。「もし私たちがそれを誤って扱えば、AIは人類の地球における支配を消滅させるだけでなく、意識の光そのものを消し去り、宇宙を完全なる闇の領域に変えてしまうかもしれません。」とても明るい本ですね、ユヴァル。「これを防ぐことは私たちの責任です。」
これを防ぐ1つの方法は、AIが私たちを消滅させるのを防ぐことでしょう。もう1つは、意識を作り出し、それを宇宙に送り出すことを試みることでしょう。私たちが自身を消滅させたとしても、意識が存在することを可能にする人間のすることとは何なのか、この段落が提起する疑問について説明してください。
私には何なのか分かりません。問題は、私たちはまだ意識を理解していないということです。それが私たちの中でどのように生まれるのか分かりません。それがどのように進化したのか分かりません。
だからこそ、AIに関しても、AIの意識というこの大きな問題について、私は不可知論的な立場を取る傾向があります。AIが必然的に意識を発達させるとは思いませんが、決して意識を発達させないとも確信はありません。そうかもしれません。
つまり、このシナリオでは、AIが人類文明を破壊し、支配権を握り、地球から銀河系の残りの部分、そして他の銀河系に広がっていくかもしれません。しかしその過程で、彼らは決して意識を発達させない。これが暗い宇宙のシナリオです。
繰り返しになりますが、これら2つの用語について大きな混乱があります。なぜなら人間では、それらは一緒に存在するからです。知性とは目標を達成し、その目標に向かう途中で問題を解決する能力です。意識とは痛みや喜び、愛や憎しみを感じる能力です。
人間は感情に頼って問題を解決します。私たちや他の哺乳類や動物において、意識と知性は一緒に存在します。だからこそ私たちはそれらを混同するのです。
しかしコンピュータでは、これまでのところ、意識の進歩なしに知性の巨大な進歩だけを見てきました。私たちが判断できる限りでは。いくつかの分野、狭い分野では、AIは既に私たちよりもはるかに知的です。しかしそれは意識を持っていません。
チェスの試合に勝っても嬉しくないし、負けても悲しくありません。何も感じないのです。多くのシナリオでは、AIがますます知的になるにつれて、ある時点で意識も獲得するとされます。しかしこれが必然的だと考える理由はありません。
スーパーインテリジェンスに至る異なる道があり得ます。哺乳類と人間は、何百万年もの間、1つの道を進んできました。意識の発達を伴う道です。コンピュータやAIは、単に異なる道、はるかに速い道を進んでいる可能性があります。意識を発達させる段階を通過することなく、スーパーインテリジェンスに達する道です。
もしこれが起こり、それが私たちのコントロールを失った場合、これは再び、人類の地球における支配の終わりだけでなく、意識の光そのものの終わりを意味する可能性があります。銀河帝国を持つことができますが、何も感じません。それはただ、すべてが暗いのです。
でも、なぜそれが人類の消滅という十分に悪い結果よりも悪いのか説明してください。
人間以外の意識を持つ存在が世界に現在存在します。他の動物がいます。数十億年の生命の歴史の中で、サピエンスが間違いなく最後の駅であると考える理由はありません。生物学的な進化を通じてか、あるいはAIとの何らかの組み合わせを通じてか、私たちが生き残れば、今日の私たちのような人間がここに1000年後や1万年後にもいるとは思えません。
技術があまりにも進歩して、意識を持つ存在はいますが、彼らは全く異なる体と心を持ち、全く異なる経験を持つでしょう。そしてこれは必ずしも悪いことではありません。200万年前に存在した最初の人類種がいなくなったという事実を、私たちは悲劇とは考えないのと同じように。
少なくとも、ほとんどの人は自分の子供たちについて、彼らが少なくともある面で自分よりも少し進化していることを望んでいます。しかしこれが完全に消し去られる、知性は存在するが意識がまったくないと考えるのは...私は知性は本当に過大評価されていると思います。
人生で本当に重要なのは意識です。知性ではありません。知性は私たちに異なることをする能力を与えますが、最終的にはすべて意識についてなのです。
あなた知ってますか、誰がまだそこにいるでしょう、ユヴァル?豚たちがいて、何千もの言語を話すでしょう。
さて、聴衆からの質問に移りましょう。マーティン・ガラルド・イン・ホダスからの質問です。
あなたの前作で、人類は「飢餓、疫病、戦争」をほぼ克服したと主張されていました。今でもその考えに同意されますか、それともその主張を再考されましたか?
私は人類には飢餓、疫病、戦争を抑制する能力があると思います。しかしそれは私たちの決定次第です。そして私たちは過去10年間、ひどい決定をいくつかしてきました。だからこそ、これらの災厄、これらの状況の回帰を目にしているのです。
私たちは今、第三次世界大戦の瀬戸際にいます。もしそれが起これば、飢餓、そして潜在的には疫病も伴う可能性が高いです。理解すべき重要なことは、例えば最近の世代における戦争の減少は、自然の法則の変化の結果ではなかったということです。
それは神の奇跡でもありませんでした。単に人々が良い決定を下し、良い制度を作った結果でした。そして私たちが悪い決定を下し始め、平和を維持してきた制度を疎かにし始めると、戦争は戻ってくるのです。
この質問はハメド・アラビからです。AIが雇用に与える影響、特に低技能の仕事や低所得のコミュニティへの影響について、増大する懸念があります。AIの急速な進歩と不確実性を考慮すると、これらの負の影響を緩和するためにどのような戦略や措置を実施できるでしょうか?
最も安全なのは、スローダウンすることです。私は人間と人間社会は極めて適応力があると思います。しかし適応するためには時間が必要です。もし10%か20%の人々が突然仕事を失えば、これは巨大な政治的危機となります。もしそれが数年かけてより緩やかに起これば、私たちには適応する時間があります。
最も重要なのは、グローバルレベルで何が起こるかです。例えばアメリカのような国を見た時、私はそれほど心配していません。今後10年か20年で多くの仕事が消えるでしょう。他の仕事が生まれるでしょう。大きな問題は、人々が新しい仕事に再訓練できるかどうかです。
そのために彼らは支援を必要とするでしょう。AIの革命をリードする国々は、人口の再訓練を支援し、また移行できない社会のメンバーを支援するための莫大な資源を持つことになるでしょう。大きな問題は、完全な経済的崩壊に直面する可能性があり、労働力を再訓練し新しいAI経済に適応するための資源を持たない他の国々でしょう。
質問の前提について、AIが特に低技能の仕事と低所得のコミュニティに影響を与えるということについて、どう思いますか?人々は両方の立場を主張していますが。
私は確信が持てません。会計士、弁護士、医師、コーダー、エンジニアのような高収入の仕事にも影響を与える十分な理由があります。低所得の仕事に特に焦点を当てるという理由はないと思います。おそらく最初にメディアのCEOと歴史家を一掃するでしょう。
これはマイク・シオンからです。あなたの歴史的な著作で私が最も好きなのは、それが私たちがどう生きるべきかについてだけでなく、どう生きるべきかについても示唆を与えてくれることです。もしあなたがライフスタイル・グルとして、聴衆にどのようなメッセージや推奨を持っているでしょうか?
私はライフスタイル・グルではないので分かりません。ほとんどの方がご存知の通り、この方は毎日2時間瞑想し、1ヶ月間の瞑想リトリートを行います。ええ、でも私は全ての人にそうしろとは言いません。私には効果がありますが、他の人には効果がないことを知っています。
誰かにとっては、森の中をハイキングするほうがいいかもしれません。だからそうしたらいいのです。瞑想が私に効果があるから、すべての人に効果があるはずだという考えはそうではありません。私は1ヶ月間の沈黙リトリートを試みましたが、私の従業員と3人の子供たちには効果がありませんでした。
AIと偽情報は、特にLGBTQ+コミュニティのような少数派の権利にどのような影響を与えると思いますか?
それは私たちの決定次第です。決定論的ではありません。両方の方向に働く可能性があります。私自身の人生から、インターネットとソーシャルメディアがLGBTQコミュニティにとって多くの面で素晴らしいものだったことを知っています。
私は22年前、イスラエルで最初のゲイ向けソーシャルメディアサイトの1つで夫に出会いました。これは本当に革命でした。なぜなら、歴史の中のマイノリティについて考えると、2種類のマイノリティがあるからです。集中したマイノリティと分散したマイノリティです。
集中したマイノリティを考えてみてください。例えば、ユダヤ人コミュニティです。例えば中世のヨーロッパでユダヤ人として生まれた場合、周りにユダヤ人はあまりいませんが、あなたはユダヤ人に囲まれています。ユダヤ人の家族、ユダヤ人の近所、ユダヤ人のゲットー、ユダヤ人コミュニティに生まれます。たくさんのユダヤ人を知っています。だから他のユダヤ人を見つけるのに問題はありません。
しかし例えば私は、1970年代のイスラエルに生まれ、80年代と90年代に非常にホモフォビックな社会で育ちました。テルアビブではなく、ハイファの小さな郊外に生まれました。ゲイの人を誰も知りませんでした。これは分散したマイノリティです。
ほとんどのゲイの少年は、ゲイの家族やゲイのコミュニティに生まれません。時々そういうことはありますが、非常にまれです。そこで最初に直面する質問は、他の仲間をどうやって見つけるかということです。ユダヤ人は対処する必要のない質問ですが、ゲイの人々は歴史を通じて対処しなければなりませんでした。
そしてインターネットが登場し、大きな程度でこの問題を解決しました。突然、以前よりもずっと簡単に、少なくともかなり簡単にお互いを見つけることができるようになりました。
私はしばしば情報技術やソーシャルメディアを批判し、本の中でも多くの批判がありましたが、それらには巨大な前向きな可能性もあります。宇宙の光を消し去る可能性がありますが、ゲイにとっては良いことです。
ありがとうございます。もし他の現在は絶滅した人類の種を1つ復活させることができるとしたら、どの種を選び、どのような目的のためにしますか?
それは彼らにとって非常に悪いことになると思います。私たちの種が少しだけ異なる言語や肌の色を持っているだけで、お互いをどう扱うかを見れば、サピエンスの世界でネアンデルタール人やデニソワ人のマイノリティになりたくはないでしょう。
キャスリーン・ランダーズからの質問です。AIは、人間のように道徳的なコードを刷り込むことができるという前提で、愛着と結びつきの感覚を作り出すために、人間の両親によって発達段階に沿って育てられるべきでしょうか?
私たちはそれを試すべきではありません。AIは有機的ではありません。彼らは完全に異なる方法で、完全に異なる方法で機能します。彼らはチンパンジーやネアンデルタール人のように、人間の家族で育てれば人間的になるだろうと考えられるものではありません。
これがAIについて私たちがよく持つ重要な誤解です。例えば、AIがいつ人間レベルの知性に達するのかと尋ねる人々がたくさんいます。答えは「決して」です。AIは人間レベルの知性への道を歩んでいません。AIは人間ではありません。有機的ですらありません。
私にとって、AI(人工知能)という略語は伝統的に人工知能を意味していましたが、今は異質な知能を意味すべきだと思います。宇宙から来たという意味ではなく、これは知性ですが、根本的に異質な方法で決定を下し、情報を処理し、アイデアを発明するという意味での異質です。
繰り返しになりますが、AIは有機的ではありません。有機的な存在である私たちは、サイクルによって機能します。昼と夜、冬と夏、成長と衰退です。時には活動的で、時には休息が必要です。
世界で私たちがますます直面している問題の1つは、世界が今、これらの非有機的な知性によって運営されているということです。彼らは決して休息する必要がありません。サイクルを持っていません。そして彼らは私たちに同じようになるよう圧力をかけます。
私たちが彼らのようになるのではなく、彼らが私たちに圧力をかけるのです。有機的な存在に常にオン、常に活動的であるよう強制すると、最終的にはただ崩壊して死んでしまいます。
例えば金融システムについて考えてみてください。伝統的に金融システムは有機的なシステムで、時々休憩を取ります。ウォール街、市場は月曜から金曜の午前9時30分から午後4時までしか開いていません。それだけです。週末はオフ、クリスマスはオフです。
これは人間にとって良いことです。しかしAIにより多くの金融のコントロールを与えると、システムは常にオンになります。これは人間の金融業者や銀行家に常にオンであるよう圧力をかけます。これは人間的に不可能です。
同じことがジャーナリストにも、政治家にも起きています。その結果、彼らは崩壊します。私はしばしば、英語の中で最も誤解されている言葉は、少なくともアメリカでは「excited(興奮した)」だと言います。
人々はそれを良いことだと思って過剰に使用します。あなたに会って「I'm so excited to meet you(お会いできてとても興奮しています)」と言い、本を出版すると「This is so exciting(とてもエキサイティングです)」と言います。彼らは「excited」が「happy(幸せ)」を意味すると考えています。しかし、そうではありません。
「excited」とは、あなたの神経系と脳が完全にオンになっていることを意味します。有機的な存在の神経系を常にオンのままにしておくことができれば、それは崩壊につながります。
システム全体があまりにも興奮しすぎています。私たちはリラックスする必要があります。お互いに会って「I'm so relaxed to be here with you today(今日はあなたとここにいられてとてもリラックスしています)」と言い、まったく興奮していないと。
そして政治がより興奮が少なくなることがいかに良いことか考えてみてください。私は、私たちが何よりも政治に必要としているのは、退屈な政治家だと思います。「退屈な政治家に投票しましょう」と言いたいです。
さて、今夜の最後の質問をさせていただきます。これはミシャからです。将来のAIへの依存は、宗教に影響を与え、精神性の源として競合することになると思いますか?
そうなる可能性が非常に高いと思います。多くの宗教は常に、超人的な知性へのアクセスを持つことを空想してきました。そして突然、私たちはそれを手に入れたのです。
聖なるテキストについて考えてみてください。聖なるテキストの考え方は、これが私たちより優れた非人間の知性から来ているということです。今日まで人類の歴史を通じて聖なるテキストの問題は、私たちに話し返すことができなかったということです。
テキストに私たちが理解できない何かがあり、テキストは自身を説明することができませんでした。「聖書のこの一節の正しい解釈は何か?」というような。だから理論的には宗教における最高の権威は聖なるテキストでしたが、実際には聖なるテキストの周りに人間の制度が成長し、実際の権威はテキストを解釈する人々の手にありました。
今日のテック界で、オープンソースを信じる人々と、いや、それは閉鎖的であるべきで、ただ数人の専門家がというように、この戦いがあるのと同じように、カトリックとプロテスタントの間でも同じでした。
カトリックは「いいえ、あなたは教会の専門家に聖なるコードを解釈させなければなりません」と言い、プロテスタントはオープンソースを信じ、誰でもコードを読んで自分で解釈できると考えます。
しかし、歴史上初めてテキストが話し返すことができるようになったらどうなるでしょうか?伝統的な聖書のテキストについて、AIを3世紀や11世紀のすべての神学者や司教や思想家が書いたすべての論文を読むように訓練することができます。そしてそのAIは、どの人間よりもキリスト教のテキストをよく理解するでしょう。
それは人間の神学者や司教よりも権威があるでしょうか?これが1つの大きな問題です。もう1つの問題は、非人間の知性によって書かれた新しいテキストを持つ新しい宗教が現れた場合どうなるかです。
そしてこれは既に今、オンラインでAIが新しい聖なるテキストを広めることで起こり始める可能性があります。これが次の大きな宗教の核となり、再び、超人的な非人間の知性から来る、話し返すことができるテキストを持つことになります。
だから私は間違いなく、AIにおける最も興味深い発展のいくつかは神学と宗教の分野で起こるだろうと思います。そしておそらく、GoogleやMicrosoftは神学者を何人か雇うべきでしょう。彼らはそれを必要とすることになるからです。
はい、それが終わりにするのに完璧なタイミングですね。Politics and Prosに、この劇場に、そして何よりもユヴァル・ノア・ハラリに大きな感謝を。