ユヴァル・ノア・ハラリ: この選挙は国を引き裂く! AIは2034年までにあなたを支配する!

※長文のため、テキスト読み上げ機能の使用を想定しております。各OS標準搭載の「読み上げコンテンツ」、Microsoft Edgeの「音声で読み上げる」、Safariの「ページの読み上げを聞く」などをおすすめします。

人間はまだAIよりも強力です。問題は、私たちが互いに分断されており、アルゴリズムが私たちの弱点を利用していることです。これは非常に危険です。なぜなら、あなたと同じように考えない人々があなたの敵だと信じ始めると、民主主義が崩壊し、選挙が戦争のようになってしまうからです。もし最終的に私たちを破壊するものがあるとすれば、それはAIではなく、私たち自身の妄想でしょう。
アメリカでは大きな選挙がありますね。アメリカの民主主義はかなり脆弱ですが、大きな問題は、もし
ユバル・ノア・ハラリは、今日の世界で最も影響力のあるノンフィクション本の著者の一人であり、現在はAIの世界を形成する力を探求する最前線にいます。AIは人類がこれまでに直面したものを超えています。世界最大のソーシャルネットワークは事実上、言論の自由を目指すことになります。あなたはそれについてどう考えますか?
問題は人間ではなく、アルゴリズムです。2010年代、人間の注意を引くためのアルゴリズム間の大きな戦いがありました。
アルゴリズムは、歴史を見ると人間の注意を引く最も簡単な方法は、恐怖のボタン、憎しみのボタン、貪欲のボタンを押すことだと発見しました。問題は、アルゴリズムに定義された目標と人間社会の利益との間にミスアラインメントがあったことです。しかし、これは非常に気がかりです。なぜなら、プリミティブなソーシャルメディアアルゴリズムに間違った目標を与えることでこれほどの被害が出たのなら、20年後や30年後のAIではどうなるでしょうか。
では、解決策は何でしょうか?私たちは歴史の中で何度もこのような状況に陥ってきました。そして答えはいつも同じです。
あなたは楽観的ですか?私は現実主義者であろうとしています。これは人生で一度も言うと思わなかった文ですが、YouTubeで700万人の登録者を達成しました。毎週月曜日と木曜日にこの対話を見てくださる皆さん全員に心から感謝したいと思います。私の心の底から、そして皆さんがいつも会うことのない私のチームを代表して。現在、DIao CEOの背後には50人近くのスタッフがこれを作り上げています。私たち全員から心からお礼を申し上げます。
先月、700万人の登録者達成までに登録してくれた人たちにプレゼントを抽選で贈りました。皆さんがその抽選をとても気に入ってくれたので、これを続けることにしました。毎月、お金では買えないプレゼントを贈っています。私との面会や、イベントへの招待、1000ドルのギフト券などを、DIao CEOに登録してくれた人の中から抽選で贈っています。現在700万人以上の登録者がいるので、今日登録を決めれば、あなたもそのラッキーな一人になれるかもしれません。心の底から感謝します。それでは、対話に移りましょう。
10年前、あなたは「人間が世界を支配する理由」というタイトルの有名なTEDトークをしました。あなたの新著『Nexus』を読んだ後、少し修正した質問をしたいと思います。10年後も人間が基本的に世界を支配していると今でも信じていますか?
確信が持てません。今後数年間の私たち全員の決断次第です。しかし、答えが「いいえ」となる可能性はあります。10年後には、アルゴリズムやAIが世界を支配しているかもしれません。ハリウッド的なSFシナリオで、1台の大きなコンピューターが世界を征服するようなことを想像しているわけではありません。むしろ、AIの官僚制のようなものです。何百万ものAI官僚が至る所にいて、私たちの人生についてますます多くの決定を下すようになるでしょう。銀行や政府、企業、大学などで、日常的な決定を下します。私たちにローンを与えるかどうか、仕事に採用するかどうかなどです。
そして、アルゴリズムがローンを拒否した理由や、他の人を採用した理由の論理や根拠を理解するのが、ますます困難になるでしょう。民主主義で人々がこの大統領や首相に投票することはまだあるかもしれません。しかし、ほとんどの決定がAIによって下され、政治家を含む人間がAIが特定の決定を下す理由を理解するのが難しくなると、力は徐々に人類からこれらの新しい異質な知性へと移行していくでしょう。
異質な知性ですか?
はい、AIについて考える際、頭文字は「人工知能」ですが、「異質な知能」として考える方が正確だと思います。宇宙から来たという意味ではなく、人間の心とは根本的に異なる方法で決定を下すという意味です。人工的とは、私たちがそれを設計し、制御しているという意味や、何か人工的なものは人間によって作られたものだという意味を持ちます。しかし、年々AIはますます人工的でなくなり、より異質になっています。
確かに、私たちはまだ赤ちゃんのようなAIを設計していますが、その後、彼らは学習し、変化し、予期せぬ決定を下し始め、人間のやり方とは異質な新しいアイデアを思いつき始めます。有名な例として、2016年のアルファ碁と世界チャンピオンのイ・セドルの対戦があります。驚くべきことは、その勝ち方でした。
人類は2500年間、囲碁をプレイしてきました。囲碁は古代中国で開発された戦略ゲームで、東アジアの教養ある文明人が知っておくべき基本的な技芸の1つとされていました。数千万人の中国人、韓国人、日本人が何世紀にもわたってプレイし、ゲームのプレイ方法についての哲学全体が発展しました。政治や人生の良い準備と考えられていました。人々は囲碁の全領域、全地理、全風景を探索したと思っていました。
そこにアルファ碁が登場し、実際には2500年間、人々は囲碁の風景のごく一部、ごく小さな部分しか探索していなかったことを示しました。2000年以上の間、一人の人間も思いつかなかった全く異なるゲームの戦略があり、アルファ碁はわずか数日でそれを思いつきました。これが異質な知能です。もしそれがただのゲームなら...しかし、同じことが金融、医療、宗教で起こる可能性があります。良くも悪くも。
あなたはこの本『Nexus』を書きました。Nexusの発音は?
Nexusです。
多くの本を書くことができたでしょう。あなたは人生の本質だけでなく、歴史の本質にも広く興味を持っている人です。この本を今書く必要があった強い理由は何だったのでしょうか?
AIの革命について歴史的な視点が必要だと思ったからです。AIについての本は多くありますが、『Nexus』はAIについての本ではありません。情報ネットワークの長期的な歴史についての本です。AIについて本当に新しく重要なことを理解するには、数千年前に遡って、書き言葉の発明や印刷機、ラジオなどの以前の情報革命を見る必要があると思います。そうすることで初めて、私たちの周りで今起きていることを本当に理解し始めることができます。
例えば、AIが本当に異なることを理解できます。人々はAIを以前の革命と比較しますが、それは異なります。なぜなら、人間の歴史上初めて、独立して決定を下し、独立して新しいアイデアを生み出すことができる技術だからです。印刷機は私の本を印刷できましたが、それを書くことはできませんでした。ただ私のアイデアをコピーすることしかできませんでした。原子爆弾は都市を破壊できますが、自分でどの都市を爆撃するか、なぜ爆撃するかを決定することはできません。AIにはそれができるのです。
現在、AIについて多くの誇大宣伝がありますので、人々は混乱しています。今では何でもAIとして売り込もうとしています。このテーブルを売りたいなら、「これはAIテーブルです」と言います。この水は「AIウォーターです」と。人々は「AIとは何ですか?全てがAIなのですか?」と思います。いいえ、全てがAIというわけではありません。自動化は多くありますが、それはAIではありません。
コーヒーマシンについて考えてみてください。自動的にコーヒーを作りますが、それはAIではありません。人間によってあらかじめプログラムされて特定のことを行うだけで、自分で学習したり変化したりすることはできません。コーヒーマシンがAIになるのは、朝コーヒーマシンのところに行くと、マシンが「あなたについて知っていることに基づいて、エスプレッソが欲しいと思います」と言う場合です。あなたについて何かを学習し、独立した決定を下します。エスプレッソを頼むのを待たずに決定を下すのです。
そして、本当のAIは「新しい飲み物を思いつきました。バフィーと呼んでいます。あなたが気に入ると思います」と言う場合です。私たちがプログラムしなかった、予期しなかった全く新しいアイデアを思いつくのです。これがゲームチェンジャーです。印刷機よりも大きく、原子爆弾よりも大きいのです。
あなたは歴史的な視点が必要だと言いましたが、自分を歴史家だと考えていますか?
はい、それが私の職業です。それが私のトレーニングです。もともとは中世の軍事史の専門家でした。十字軍や百年戦争、14世紀にフランスを侵攻したイギリス軍の戦略と兵站について書いていました。これが私の最初の論文でした。これが、現在AIで起こっていることを理解しようとする際に持ち込む視点や知識の種類です。
ほとんどの人のAIに対する理解は、ChatGPTやGemini、Groなどの大規模言語モデルで遊んだ経験から来ています。質問をすると答えを返すというのが、人々のAIに対する理解です。そのため、この技術的な変化を些細なものと見なしたり、少し気楽に構えたりしがちです。しかし、情報や情報の流れの混乱、情報ネットワークについて話し始め、歴史を通じてそれを振り返ると、私にとっては全く異なる見方になります。
それについて考える方法は2つあると思います。1つは、あなたが言ったように、情報が私たち全てを結びつけているという事実に気づくと、基盤を揺るがし始めると全てが崩壊したり、変化したり、何か新しいものが生まれる可能性があるということです。例えば、民主主義は情報技術によってのみ可能になります。本質的に、民主主義は会話です。グループの人々が会話し、話し合い、一緒に決定を下そうとすることです。
独裁制は、誰かが全てを指示することです。1人の人間が全てを指示するのが独裁制です。民主主義は会話です。石器時代には、小さな集団で暮らす狩猟採集民はほとんど民主的でした。集団が何かを決定する必要があるときはいつでも、互いに話し合って決めることができました。人間社会が大きくなるにつれて、技術的に会話を行うのが難しくなりました。
古代世界で民主主義の例として知られているのは、アテネやローマ共和国のような小さな都市国家だけです。これらが最も有名な例で、唯一のものではありませんが、最も有名です。古代の哲学者たちも、プラトンやアリストテレスでさえ、都市国家のレベルを超えると民主主義は不可能だと知っていました。前近代の世界では、大規模な民主主義の例は1つも知られていません。何百万人もの人々が広大な領土に広がって、民主的に政治を行っている例は知られていません。なぜでしょうか?これやあの独裁者が権力を握ったからではありません。単に適切な技術がなかったため、民主主義が不可能だったのです。何百万人もの人々の間で会話を持つことができなかったのです。
大規模な民主主義が可能になるのは、近代後期になってから、いくつかの情報技術が登場してからです。まず新聞、そして電信とラジオ、そしてテレビです。これらが大規模な民主主義を可能にしました。つまり、民主主義があって、その傍らに情報技術があるというわけではありません。民主主義の基盤は情報技術なのです。ですから、ソーシャルメディアの台頭やAIの台頭のような情報技術に大きな地震が起これば、必然的に民主主義を揺るがすことになります。
現在、世界中で見られるのはまさにそれです。私たちは史上最も洗練された情報技術を持っているのに、人々は互いに話し合うことができません。民主的な会話が崩壊しているのです。どの国も独自の説明を持っています。例えば、アメリカ人と話すと、民主党と共和党の間で何が起こっているのか、なぜ最も基本的な事実さえも合意できないのかについて、アメリカの歴史や社会の独特の条件について様々な説明をします。
しかし、同じことがブラジルでも、フランスでも、フィリピンでも見られます。この国やあの国の独特の条件が原因ではありえません。根底にある技術革命が原因なのです。
歴史家として私が歴史から持ち込むもう1つのことは、比較的小さな技術的変化や一見小さな変化が、はるかに広範な結果をもたらす可能性があるということです。例えば、文字の発明について考えてみてください。もともとは基本的に人々が泥で遊んでいただけでした。文字は多くの場所で何度も発明されましたが、最初に発明されたのは古代メソポタミアです。
人々は粘土板を取ります。これは基本的に泥の塊です。そして棒を取り、その棒を使って粘土に、泥に印をつけます。これが文字の発明です。これは深遠な影響を与えました。1つの例を挙げると、所有権について考えてみてください。何かを所有するとはどういう意味でしょうか?家を所有する、畑を所有するとはどういうことでしょうか?
以前、文字が発明される前、7000年前の小さなメソポタミアの村に住んでいたとして、畑を所有するということは、コミュニティの問題でした。それは、あなたの隣人がその畑はあなたのものだと同意し、そこで果物を摘んだり羊を放牧したりしないということを意味しました。それはコミュニティの合意でした。
そして文字が登場し、文書ができました。所有権の意味が変わりました。今や、畑や家を所有するということは、王の文書館のどこかに、あなたがその畑を所有していると記されたいくつかの乾いた泥の印があるということを意味します。突然、所有権は隣人間のコミュニティの合意の問題ではなくなり、どの文書が王の文書館にあるかの問題になりました。
また、例えば、隣人の許可なしに見知らぬ人にあなたの土地を売ることができるようになりました。単にその乾いた泥の一片を金や銀と引き換えに見知らぬ人に渡すだけでよくなったのです。
棒を使って泥の一片に何かの印を描くという、一見単純な発明がこれほど大きな変化をもたらしたのです。そして今、AIが所有権に何をするか考えてみてください。おそらく10年後には、あなたの家を所有するということは、あるAIがあなたが所有していると言うということを意味するでしょう。そしてもしAIが突然、何らかの理由で、あなたにも分からない理由で、あなたはもはや所有していないと言えば、それで終わりです。あなたのものではなくなるのです。
その泥の一片の印もまた、一種の書き言葉の発明でした。あなたの本を読んでいて、言語が私たちの社会を結びつけていることについて考えていました。私たちがよく想定するような方法、つまり私があなたと会話をするという方法ではなく、パスワードのような形で。銀行の暗証番号のようなものです。私たちの社会全体が言語によって守られているのです。
そうですね。プログラマーとして、私たちの社会全体が言語で守られていることについて考えていました。大規模言語モデルを使ってAIが最初に習得したのは、それを複製する能力です。これは私に、私の人生の中で実際に言語で結びついているものすべてについて考えさせました。私の人間関係でさえそうです。今では友人に会うことはありません。私の友人はドバイやアメリカ、メキシコに住んでいます。だから私たちは言語でコミュニケーションを取ります。私たちの関係は言語で結びついているのです。
そして、あなたが言ったように、民主主義も言語で結びついています。そして今、より知的な力がそれを習得しました。
そうですね。それは非常に予想外でした。5年前、人々はAIがこれやあれを習得すると言っていました。自動運転車など。しかし、言語?これは非常に複雑な問題です。これは人間の傑作です。言語を習得することは決してないだろうと。そしてChatGPTが登場し、それは...私は言葉の人間ですが、これらの大規模言語モデルが生成するテキストの質に単純に驚いています。完璧ではありませんが、本当に言葉の意味的な領域を理解し、一貫性のあるテキストを形成するために言葉を文にまとめることができます。それは本当に驚くべきことです。
そして、あなたが言ったように、これがすべての基礎です。例えば、私は言語で銀行に指示を出します。AIがテキストや音声、画像を生成できるなら、AIによる操作に開かれていない方法で銀行とどのようにコミュニケーションを取ればいいのでしょうか?
しかし、その文章の魅力的な部分は、どちらにせよ銀行と話すのは好きではないということです。電話をかけて、人間を待つのは好きではありません。だから誘惑は、「銀行と話すのは好きではないから、AIにやらせよう」ということです。信頼できるなら投資しようと思います。
大きな問題は、なぜ銀行が私個人に電話をかけてほしいのかということです。本当に私であることを確認するためです。他の誰かが銀行に「ケイマン諸島に送金してください」と言っているのではないことを確認するためです。本当に私であることをどのように確認するのでしょうか?これは信頼の問題です。
何千年もの間、金融全体が信頼の問題です。お金自体が本当に信頼に過ぎません。金や銀、紙や何かで作られているわけではありません。見知らぬ人の間でどのように信頼を作り出すかということです。したがって、ほとんどの金融発明は、結局のところ言語的で象徴的な発明です。複雑な物理学は必要ありません。複雑な象徴主義です。
そして今、AIが新しい金融手段を作り始め、言語を習得したので金融を習得するかもしれません。あなたが言ったように、私たちは今、世界中の友人と言語でコミュニケーションを取っています。
2010年代には、人間の注意を引くためのアルゴリズム間の大きな戦いがありました。ポッドキャストの前に議論していたように、人々の注意をどのように引くかということです。しかし、注意よりもさらに強力なものがあります。それは親密さです。本当に人々に影響を与えたいのなら、親密さは注意よりも強力です。
この文脈で親密さをどのように定義していますか?
長期的な知り合いで、個人的に知っている人、ある程度信頼している人、ある程度愛している人、気にかけている人のことです。
今日まで、親密さを偽ったり、大量生産したりすることは全く不可能でした。独裁者は注意を大量生産することができました。例えば、ラジオを持っていれば、ナチスドイツやソビエト連邦のすべての人々に「偉大な指導者が演説をしています。全員ラジオをつけて聞かなければなりません」と言うことができました。注意を大量生産することはできますが、これは親密さではありません。偉大な指導者との親密さはありません。
しかし、AIを使えば、歴史上初めて、少なくとも理論的には、何百万人もの人々との親密な関係を大量生産することができます。おそらく政府のために働いているAIが、私たちと親密な関係を偽造し、これがボットなのか人間なのか区別するのが難しくなるでしょう。
興味深いですね。最近、人間同士の親密さの低下や孤独感の増加、性行為の減少など、社会のさまざまな問題について、多くの関係専門家や様々な人々と会話をしました。人間同士の親密さや結びつきの低下と、一種の人工的な親密さの可能性の上昇を考えると、将来がどうなるのか疑問に思います。
人々がこれまで以上に孤独で断絶しているにもかかわらず、マズローの欲求階層説で言う愛と所属の欲求がまだあるような世界では、どうなるのでしょうか。おそらく、これが同時に分極化の増加を見ている理由かもしれません。人々は必死にどこかに所属しようとしており、アルゴリズムが私のエコーチェンバーを強化しているからです。しかし、これがどのように終わるのか分かりません。
決定論的ではないと思います。個人として、また社会として私たちが下す決定次第です。もちろん、この技術が私たちにもたらす素晴らしいこともたくさんあります。AIが会話を持ち、感情を理解する能力は、潜在的に多くのAI教師やAI医師、AIセラピストを生み出し、これまで以上に優れた医療サービスや教育サービスを提供できる可能性があります。
40人の他の子供たちがいるクラスで、教師がその特定の子供にほとんど注意を向けることができず、その特定の欲求や特定の性格を理解することができない代わりに、完全にあなたに焦点を当てたAI家庭教師を持つことができるかもしれません。本当に比類のない質の教育を与えることができるのです。
先週末、1歳と3歳の幼い子供を持つ友人と議論しました。16年後の将来、子供をどこに送るかについて議論しました。人間が教室で教えるところに子供を送るか、あるいは画面の前に座らせるか、おそらく人型ロボットの前に座らせて、本当に個別化された教育を受けさせるかどうかです。あなたが説明したように、多くの人がいて騒々しく、個別化された学習を受けられない教室です。クラスの中で知的な人がいれば置き去りにされ、より知的な人がいれば引き戻されてしまいます。
それとも、おそらく私立教育や大学よりもはるかに安価で、本当に個別化された教育を受けさせるでしょうか?
組み合わせが必要だと思います。多くの授業では、AI家庭教師の方が良いでしょう。画面の前に座る必要さえありません。公園に行って、歩きながら生態学の授業を受けることもできます。しかし、休み時間には大勢の子供たちが必要です。なぜなら、学校で最も重要な教訓は、授業中ではなく休み時間に学ぶことが多いからです。これは自動化されるべきではありません。人間の監督の下で、大勢の子供たちが一緒にいる必要があります。
あなたの本を読んでいて、多く考えたもう1つのことは、私たちがより多くの情報を持ち、より多くの情報にアクセスできることで、世界にはより多くの真実があり、陰謀は少なくなり、より多くの合意があるだろうと想定していたことです。しかし、そうではないようです。
全くそうではありません。世界のほとんどの情報はがらくたです。食べ物と同じように考えるのが一番良いと思います。1世紀前、多くの国で食べ物が不足していた時代がありました。人々は手に入るものを何でも食べていました。特に脂肪と砂糖がたっぷり入ったものを。あなたの曾祖母に聞けば、「もっと食べ物があれば常に良いことだ」と言うでしょう。
そして、食べ物が豊富な時代が来ました。私たちには人工的に脂肪と砂糖、塩などがたくさん入った加工食品があります。それが明らかに私たちに悪いことは分かっています。「もっと食べ物があれば常に良い」という考えは間違いです。特にこのようなジャンクフードは良くありません。
同じことが情報にも起こっています。かつて情報は希少でした。だから本を手に入れれば、他に何もなかったので読んでいました。今や情報は豊富です。私たちは情報で溢れています。そしてその多くは、注意を引くための戦いのために、人工的に貪欲と怒り、恐怖で満たされたジャンク情報です。それは私たちにとって良くありません。
基本的に、私たちは情報ダイエットをする必要があります。まず第一に、より多くの情報が常に私たちにとって良いわけではないということを理解する必要があります。私たちには限られた量が必要で、実際には情報を消化するためのより多くの時間が必要です。もちろん、摂取するものの質にも注意を払う必要があります。ジャンク情報が豊富にあるからです。
基本的な誤解は、情報と真実のつながりだと思います。人々は「たくさんの情報を得れば、これが真実の原材料だ。より多くの情報はより多くの知識を意味する」と考えます。しかし、そうではありません。自然界でさえ、ほとんどの情報は真実に関するものではありません。
情報の基本的な機能は、歴史的にも生物学的にも、つながりを作ることです。情報はつながりなのです。歴史を見ると、人々をつなげる最も簡単な方法は、真実ではなく、幻想や虚構であることがよくあります。なぜでしょうか?真実は高価で希少な種類の情報だからです。
通常、幻想や虚構の方が人々をつなげるのは簡単です。なぜなら、真実は高価なだけでなく、複雑で、時に不快で痛みを伴うことがあるからです。例えば、政治を考えてみてください。国民に自分の国についての全真実を語る政治家は、選挙に勝つ可能性は低いでしょう。なぜなら、どの国にも戸棚の中に骨格があり、人々が直面したくない暗い側面や暗い出来事があるからです。
政治的に、国や宗教、政党をつなげようとする場合、しばしば虚構や幻想、恐怖でそれを行うことが見られます。
『サピエンス』と物語が私たちの脳を惹きつける役割について考えていました。英国では、社会の問題の多くの原因は雇用問題や犯罪の問題であり、それはフランスからボートで渡ってくる人々のせいだという物語があります。これは人々を団結させ、街頭でデモを行わせるのに非常に効果的な物語です。
アメリカでも同様に、壁と南部国境の物語があります。「彼らは何百万人も私たちの国境を越えてきている。レイピストだ。良い人々を送っているわけではない。精神病院から来ている」という物語が人々を団結させています。そして、その物語に基づいて人々は街頭でデモを行い、投票しています。
それは恐怖の物語です。非常に強力な物語です。なぜなら、私たちの内側の何か非常に深いものにつながるからです。人々の注意を引きたい場合、人々の関与を得たい場合、恐怖のボタンは人間の心の中で最も効率的で効果的なボタンの1つです。
これは石器時代にまでさかのぼります。石器時代の部族に住んでいれば、最大の心配の1つは、他の部族の人々があなたの領土に来て、あなたの食べ物を奪ったり、あなたを殺したりすることでした。これは人間だけでなく、すべての社会的動物に非常に根付いた恐怖です。
チンパンジーを対象にした実験では、チンパンジーにも異なる集団からの外国のチンパンジーに対する一種の本能的な恐怖や嫌悪感があることが示されています。政治家や宗教指導者たちは、ピアノを弾くように、これらの人間の感情を操る方法を学んできました。
もともと、嫌悪感のような感情は、私たちを助けるために進化しました。最も基本的なレベルでは、嫌悪感があるのは、特に子供として様々な食べ物を試してみたいけれど、体に悪いものを食べたら吐き出す必要があるからです。だから、嫌悪感があなたを守ってくれるのです。
しかし、その後、歴史を通じて宗教的および政治的指導者たちが、この防御メカニズムを乗っ取り、非常に幼い頃から、外国人や見た目の違う人々を恐れるだけでなく、嫌悪感を持つように教えてきました。
これは再び、大人になってすべての理論を学び、教育を受けてこれが真実でないことを知ることができますが、それでも心の奥深くには、「これらの人々は嫌悪感を抱かせる、これらの人々は危険だ」と感じる部分があります。歴史を通じて、多くの異なる運動がこの感情的メカニズムを利用して人々を動機づける方法を学んできました。
ユバル、私たちは非常に興味深い時期に座っています。なぜなら、過去1年ほどの間に、情報や私たちが話してきた多くのことに関連して、2つのかなり重要なことが起こったからです。
1つは、イーロン・マスクがTwitterを買収し、彼の本当の使命は言論の自由というこのアイデアでした。その使命の一環として、以前にTwitterからブロックされていた多くの人物のブロックを解除しました。その多くは右寄りの人々で、様々な理由でブロックされていました。
そして今週、マーク・ザッカーバーグが基本的に公開書簡を発表しました。その手紙の中で、彼はFBIや政府がFacebookで特定のことを検閲するよう求めてきたときに、彼らと協力しすぎたことを後悔していると述べています。特に1つの話について、彼はそうしたことを後悔していると言っています。
そして、彼の言葉の間を読むと - 実際に彼は明確に述べていますが - 「将来的には、政府や他の誰かが特定のメッセージを検閲するよう求めてきても、もっと強く抵抗するつもりだ」と言っています。
私が見ているのは、世界最大のソーシャルネットワークの1つであるTwitterと、世界最大のソーシャルネットワークであるMetaが、今や情報を流すという立場を取っているということです。彼らは事実上、この言論の自由という物語を追求しようとしています。
これらのプラットフォームを長年使用してきた人間として、特にXやTwitterは、今日では全く違います。以前には決して見なかったようなことを、スクロールするたびに見かけます。この言論の自由という立場は...それが良いか悪いかについて立場を取っているわけではありません。ただ非常に興味深いです。
そして、明らかにアルゴリズムがあり、今では本当に...もし今Xに行けば、30秒以内にナイフで殺される人を見ることができると思います。車にはねられる人も見るでしょう。極端なイスラム恐怖症も潜在的に見るかもしれません。しかし、その反対側も見ます。つまり、ただ一方の側だけを見ているわけではありません。すべての側面を見ることになります。
そして、あなたが先ほど「それは私にとって良いのか」と話していたとき、私は先週末のフラッシュバックを思い出しました。私の誕生日だったので、友人たちと一緒にいました。私の左側に座っている友人が、ただ無意識にTwitterでこれらの恐ろしいビデオをスクロールしているのを見て、「ああ、彼はドーパミン受容体を焼き尽くしているな」と思いました。
私はただ、この新しい言論の自由運動全体について考えています。言論の自由の役割についてのこのアイデアについて、あなたはどう考えますか?
人間だけが言論の自由を持っています。ボットには言論の自由はありません。テクノロジー企業は常にこの問題について私たちを混乱させています。なぜなら、問題は人間ではなく、アルゴリズムだからです。これが何を意味するか説明しましょう。
ドナルド・トランプのような人物をTwitterから追放するかどうかという問題については、これは非常に難しい問題で、人間、特に重要な政治家を、彼らの意見や個人的に彼らが嫌いだからという理由で、自分たちの見解を表明することから追放することには非常に慎重であるべきだと私は同意します。これは非常に重大な問題です。
しかし、これはプラットフォームの問題ではありません。プラットフォームの問題は人間のユーザーではなく、アルゴリズムです。そして、企業は常に彼らのビジネス利益を守るために、人間に責任を転嫁しています。
これを解きほぐしましょう。人間は常に大量のコンテンツを作成しています。彼らは憎しみに満ちたコンテンツを作り、思いやりについての説教を作り、料理のレッスンや生物学のレッスンを作ります。非常に多くの異なるものを作り、情報の洪水を生み出します。
大きな問題は、何が人間の注意を引くかということです。誰もが注目を集めたいのです。企業も注目を集めたいのです。企業は、ソーシャルメディアプラットフォームを運営するアルゴリズムに非常に単純な目標を与えます。ユーザーエンゲージメントを増やせ、人々にTwitterやFacebookでより多くの時間を過ごさせ、より多くの「いいね」を送り、友人に推奨させろというものです。なぜでしょうか?私たちがプラットフォームでより多くの時間を過ごすほど、彼らはより多くのお金を稼ぐからです。非常に単純です。
そして、アルゴリズムは何百万人もの人間のモルモットで実験することで、大きな発見をしました。人間の注意を引きたいなら、最も簡単な方法は恐怖のボタン、憎しみのボタン、貪欲のボタンを押すことだと発見したのです。そして、ユーザーに憎しみと恐怖、貪欲に満ちたコンテンツをより多く見るよう推奨し始め、画面に釘付けにさせ続けました。
これが、フェイクニュースや陰謀論の流行の根本的な原因です。企業の弁解は「私たちはコンテンツを作っていません。人間がイミグラントについての憎しみに満ちた陰謀論を作ったのです。私たちではありません」というものです。
これは、例えばニューヨーク・タイムズの編集長が、新聞の一面に憎しみに満ちた陰謀論を掲載し、「なぜそうしたのか」と尋ねられたときに、「私は何もしていません。私はその記事を書いていません。ただニューヨーク・タイムズの一面に掲載しただけです。それだけです。何もしていません」と言うようなものです。
それは「何もしていない」ということではありません。人々は膨大な量のコンテンツを生産しています。アルゴリズムがキングメーカーなのです。彼らが編集者なのです。彼らが何が見られるかを決定しています。時には単にあなたに推奨するだけですが、時にはあなたに自動再生させます。
例えば、あなたがあるビデオを見ることを選んだとします。ビデオの終わりに、あなたを画面に釘付けにし続けるために、アルゴリズムは、あなたが言わなくても、恐怖や貪欲に満ちた何らかのビデオを即座に自動再生します。これはアルゴリズムがやっていることです。これは禁止されるべきか、少なくとも監督され規制されるべきです。
これは言論の自由ではありません。なぜなら、アルゴリズムには言論の自由はないからです。憎しみに満ちたビデオを制作した人物を追放することには慎重になりますが、それが問題なのではありません。問題は推奨なのです。
2つ目の問題は、オンラインの会話の多くが今やボットに乗っ取られていることです。例えば、Twitterつまり Xを例に取ると、人々はしばしば何がトレンドになっているか、どの話題が最も注目を集めているかを知りたがります。みんなが特定の話題に興味を持っているなら、私もそれについて知りたいと思います。
そして、非常に多くの場合、ボットが会話を動かしています。なぜなら、特定の話題が最初に多くのトラクション、多くのトラフィックを得るのは、多くのボットがそれをリツイートするからです。そして人々はそれを見て、ボットだとは知らずに、人間だと思います。「多くの人間がこれに興味を持っているんだ。だから私も何が起こっているのか知りたい」と思い、さらに注目を集めます。
これは禁止されるべきです。ボットは基本的に人間のふりをすることは許されません。これは偽の人間、偽造された人間です。オンラインで活動を見て、それが人間の活動だと思っていても、実際にはボットの活動だった場合、これは禁止されるべきです。そしてこれは、どの人間の言論の自由も害することはありません。なぜなら、それはボットであり、言論の自由を持っていないからです。
アルゴリズムが実際に世界を動かしているというあなたの発言について考えていました。そうですね。アルゴリズムは、プラットフォームがより多くのお金を稼ぎたいがために、私が時間を費やすものに基づいて私が見るものを決定しています。そして、私に恐れるものにより多くの時間を費やす生来の傾向があるなら...
そうすると、数年経つごとに、私はますます恐れるようになり、それが自分の弱点を強化することになります。
そうですね。再び、食品産業と同じようなものです。食品産業は、私たちが塩分や脂肪分の多い食べ物を好むことを発見し、それをより多く与えます。そして「これは顧客が望んでいるものです。私たちに何を望むのですか?」と言います。
アルゴリズムの場合は同じことですが、さらに悪いです。なぜなら、これは心の食べ物だからです。人間には、何か非常に恐ろしいものや怒りを感じさせるものがあると、それに焦点を当て、友人全員に伝える傾向があります。しかし、それを人工的に増幅することは、単に私たちの精神衛生や社会的健康にとって良くないのです。
それは私たち自身の弱点を私たちに対して使っているのであり、それらに対処するのを助けるのではありません。
公平に言えば、今こう言ってもいいでしょうか。これは少し結論を飛躍させているかもしれませんが...特定の右翼的な人物、移民などに基づいてメッセージを発信する人物をブロックすることに関する制限を取り除き、そしてアルゴリズムを収益に焦点を当てるようにプログラムすると、最終的にはより多くの人々が右翼化すると言えるでしょうか?
私がそう言うのは、部分的には、移民が悪いとか、お金を奪っていくとかいうのは右翼的な物語だからです。左翼が無実だと言っているわけではありません。彼らも絶対に無実ではありません。しかし、恐怖を煽る物語、恐怖は私の意見では右翼からより多く来ているように思います。特にイギリスでは、恐怖は移民から来ており、これらの人々があなたのお金を奪っていくといったようなものです。
私は、これを右翼か左翼かの問題としてラベル付けしないことが重要だと思います。なぜなら、再び、民主主義は会話であり、会話は複数の異なる意見がある場合にのみ可能だからです。
移民についての会話を持つことは問題ないはずです。人々は移民について異なる意見を持つことができるはずです。それは大丈夫です。問題は、一方が自分と同じように考えない人を中傷し悪魔化し始めるときに始まります。
ある程度両側から見られますが、移民の場合、例えば移民を支持する人は誰でも国を破壊しようとしていると考え、国を移民で溢れさせて性質を変えようとする陰謀の一部だと考えるような陰謀論があります。これが問題なのです。
あなたと同じように考えない人々が単にあなたの政治的ライバルではなく、敵であり、あなたを破壊しようとしていると信じ始めると、民主主義は崩壊します。なぜなら、敵の間には道はありえないからです。民主主義は機能しません。
民主主義が機能するのは、相手側が間違っていると思っても、基本的には国を気にかけ、私を気にかけている良い人々だが、異なる意見を持っていると考える場合です。彼らが私の敵で、私を破壊しようとしていると考えると、選挙は戦争のようになります。
あなたの生存がかかっているので、選挙に勝つためには何でもするでしょう。負ければ生き残れないからです。勝っても、敵の部族ではなく自分の部族だけを世話します。選挙が正当だと信じなければ、民主主義は機能しません。
これは再び、民主主義は単にどんな条件下でも存在できるわけではないということです。それは繁栄するために特定の条件を必要とする繊細な植物のようなものです。
1つの条件は、会話を可能にする情報技術があることです。もう1つの条件は、制度を信頼することです。選挙制度を信頼しなければ機能しません。そして3つ目の条件は、政治的分断の反対側にいる人々を、私のライバルであって敵ではないと考える必要があるということです。
現在の民主的な会話で起こっている問題は、ますます極端になっていく傾向があるため、相手側が敵だという印象を生み出していることです。これは右翼だけでなく左翼にとっても問題です。両側で、相手側が敵であり、その立場が完全に不当だと感じているのが見られます。
そこまで行くと、会話は崩壊します。移民やジェンダー、気候変動のような難しい問題について、複雑な会話や議論を持つことができるはずです。相手側を敵と見なすことなく。これは何世代にもわたって可能でした。
では、なぜ今、相手側と話をすることや、何かについて話をすることが不可能になってきているのでしょうか?
アメリカでは今年、非常に大きな選挙がありますね。
はい、非常に大きな選挙です。
それについて多く考えていますか?
はい、はい。非常に...コイントスのようになりそうです。50対50のように...
選挙が本当に実存的な問題になるのは、それが最後の選挙になる可能性がある場合です。一方が権力を握ったら単にゲームのルールを変えようとする意図がある場合、それは実存的になります。なぜなら、再び、民主主義は自己修正メカニズムに基づいて機能するからです。
これが独裁制に対する民主主義の大きな利点です。独裁者は多くの良い決定を下すかもしれませんが、遅かれ早かれ悪い決定を下します。そして独裁制には、そのような間違いを特定し修正するメカニズムがありません。
プーチンのような間違いですね。
ロシアには、プーチンが間違いを犯したので去るべきだ、他の人に別の方針を試させるべきだと言えるメカニズムがありません。これが民主主義の大きな利点です。何かを試して、うまくいかなければ別のことを試します。
しかし、大きな問題は、システムを変え、その自己修正メカニズムを無効にし、もう二度と取り除くことができなくなる人を選んでしまったらどうなるかということです。
これは例えば、ベネズエラで起こったことです。元々、チャベスとチャビスタ運動は民主的に権力を握りました。人々は「これを試してみよう」と思いました。そして今、数週間前の最後の選挙では、マドゥロが大敗したという証拠が非常に明確です。しかし、彼はすべてをコントロールしています。選挙委員会など全てです。そして彼は「いいえ、私が勝った」と主張しています。
彼らはベネズエラを破壊しました。人口の4分の1ほどが国を逃れました。以前は南米で最も豊かな国の1つだったのに。そして彼らは単にその男を追い出すことができないのです。
西側では決してそんなことは起こらないでしょう。
歴史で「決して」と言わないでください。歴史はあなたが誰であれ追いつく可能性があります。これは私たちが生きている幻想の1つです。ベネズエラは多くの点で西側の一部でした。今でもそうです。
これは私たちが生きている幻想の1つです。イギリスやアメリカ、カナダのような「文明化された」国々にそれは決して起こり得ないと考えています。
ある測定によれば、アメリカの民主主義はかなり新しく、かなり脆弱です。例えば、誰が投票できるかという点で考えると...
だから再び、私にはチャンスが何パーセントかわかりませんが、トランプ政権がアメリカの民主主義のルールを変えて、例えば誰が投票するか、どのように票を数えるかというルールを変えることで、ほぼ不可能になるようにする可能性が20%あったとしても...それは歴史的に見て可能性の範囲外ではありません。
トランプがそれをする可能性があると思いますか?
はい、1月6日に見ました。民主主義の中で最も敏感な瞬間は権力の移行の瞬間です。民主主義の魔法は、民主主義が平和的な権力の移行を確保することを意味しています。
先ほど言ったように、ある政党を選んで試してみて、しばらくしてうまくいかなかったら別の人を試してみるというものです。アメリカ合衆国の場合、大統領は人類文明を破壊するのに十分な力を持っています。これらすべての核ミサイル、すべての軍隊です。
そして彼が選挙に負けて、「よし、私はこのすべての力を手放し、他の人に試させよう」と言うのです。これは驚くべきことです。これはまさにトランプがしなかったことです。
彼は最初から、2016年でさえ、選挙に負けたら結果を受け入れるかと直接尋ねられて、「いいえ」と言いました。2020年には平和的に権力を引き渡しませんでした。それを阻止しようとしました。
そして、彼が今再び立候補していることは、ある程度1月6日から得た教訓は、「基本的に何をしても逃げられる」ということです。少なくとも自分の支持者に関しては。それは一種のテストでした。「こんな極端なことをしても、その後も彼らが私を支持し続けるなら、基本的に私が何をしても彼らは支持してくれるだろう」というテストでした。
私は、情報がネットワークで流れ、AIのような何かによって混乱させられるような、非常に脆弱な民主主義の世界で、もし誤情報や偽情報、そして私がドナルド・トランプの話す動画を作り、彼の声で何かを言わせることができ、その動画をバイラルにできるとしたら...民主主義とコミュニケーションをどのように維持できるのでしょうか?オンラインで見ているものを何も信じられなくなったときに。
そして私たちはまだ始まったばかりです。まだ何も見ていません。これは本当に最初のベビーステップに過ぎません。
今、画面上で動画を再生します。聞いている人には音声だけですが、あそこの角にいるアイザックが私がこの椅子で話している動画を作りました。それは私ではなく、私が言ったわけでもなく、この椅子に座っていたわけでもありません。
「やあ、これはAIのスティーブです。いつかDIao CEOを引き継げると思いますか?下にコメントを残してください。」
そして、それは完全に私のように聞こえます。同一です。そして、それは私ではありません。
私は、ほとんどの人が政治情報や一般的な情報を今やソーシャルメディアから得ていることを考えています。そして、見ているものを何も信じられないなら、ロシアの寝室にいる子供が、ここの首相の動画を作ることができるなら...私たちはもはやどこから情報を得ればいいのかわかりません。どのようにして...
答えは制度です。私たちは歴史の中で何度もこのような状況に陥ってきました。そして答えはいつも同じです。制度です。
技術を信頼することはできません。情報を検証する制度を信頼するのです。
印刷について考えてみてください。紙に何でも書くことができます。「イギリスの首相が言った」と書いて、引用符を開いて、首相の口に何かを入れることができます。何でも書けます。そして人々がそれを読んでも、信じるべきではありません。あるいは信じるべきではありません。
単に首相がそう言ったと書かれているからといって、それが真実だとは限りません。では、どの紙を信じればいいのでしょうか?
制度として、ニューヨーク・タイムズの一面や、サンデー・タイムズの、あるいはガーディアンの一面に「イギリスの首相が言った」と引用符付きで書かれていれば、より信じる可能性が高くなります。なぜなら、私たちは紙やインクを信頼しているのではなく、ガーディアンやウォール・ストリート・ジャーナルなどの制度を信頼しているからです。
動画については、これまで偽造することができなかったので、そうする必要はありませんでした。動画を見れば、「ああ、これは真実に違いない」と言っていました。しかし、動画を偽造することが非常に簡単になると、印刷物と同じ原則に戻ります。それを検証する制度が必要になります。
CNNやウォール・ストリート・ジャーナルの公式ウェブサイトで動画を見れば、それを信じます。なぜなら、それを裏付ける制度を信じているからです。TikTokで何かを見ても、どの子供でもそれを作ることができるとわかっています。なぜそれを信じる必要があるでしょうか?
今、私たちは移行期にいます。まだ慣れていません。ドナルド・トランプやジョー・バイデンの動画を見ると、まだその動画に影響されます。なぜなら、私たちはそれを偽造することが不可能だった時代に育ったからです。
しかし、非常に早く人々は、動画を信頼することはできず、制度だけを信頼できることに気づくでしょう。そして問題は、民主的な会話を救うのに十分早く、信頼できる制度を生み出し、維持することができるかどうかです。
そうでなければ、何も信じられなくなれば、これは独裁者にとって理想的です。何も信頼する必要がない唯一のシステムは独裁制だからです。民主主義は信頼に基づいて機能しますが、独裁制は恐怖に基づいて機能します。独裁制では何も信頼する必要はありません。何も信頼せず、ただ恐れるだけです。
民主主義が機能するためには、例えばいくつかの情報が信頼できること、選挙委員会が公平であること、裁判所が公正であることを信頼する必要があります。そしてますます多くの制度が攻撃され、人々がそれらへの信頼を失えば、民主主義は崩壊します。
しかし、情報に戻ると、1つの選択肢は、新聞やテレビ局などの古い制度が、特定の動画を検証する制度になるということです。あるいは、新しい制度の出現を見ることになるでしょう。そして再び、大きな問題は、それらに対する信頼を発展させることができるかどうかです。
特に制度と言って、個人ではないと言っています。大規模な社会、特に民主的な社会は、信頼できる官僚的な制度なしには機能しません。そして、これらの官僚的な制度はAIになるのでしょうか?それが大きな問題です。なぜなら、ますますAIが官僚になるからです。
官僚とは何を意味するのですか?官僚という言葉は何を意味しますか?
それは非常に重要な質問です。なぜなら、人間の文明は官僚制の上に成り立っているからです。官僚とは基本的に、政府の役人のことです。政府だけでなく...官僚という言葉の起源はフランス語の18世紀からきています。官僚制とは、書き物机による支配を意味します。ペンと紙と文書で社会や世界を支配することです。
最初に挙げた所有権の例のように、あなたが家を所有しているのは、あるアーカイブにあなたがそれを所有していると書かれた文書があるからです。そして官僚がその文書を作成し、今それを取り出す必要があれば、正しい時に正しい文書を見つけるのが官僚の仕事です。
すべての大きなシステムはそれで動いています。病院や学校、企業、銀行、スポーツ協会、図書館、それらはすべてこれらの文書と、文書の読み書き、検索、ファイリングの方法を知っている官僚によって運営されています。
私たちの大きな問題の1つは、官僚的なシステムを理解するのが難しいことです。なぜなら、それらは人間の進化において非常に最近の発展だからです。これが、私たちがそれらに対して疑いを持ち、「ディープステート」や、これらすべての官僚制で何が起こっているのかについて、あらゆる種類の陰謀論を信じる傾向がある理由です。
そして、それは本当に複雑です。より多くの決定がAI官僚によって下されるようになると、さらに複雑になるでしょう。AI官僚とは、特定の問題にどれだけのお金を割り当てるかなどの決定が、もはや人間の役人によってではなく、アルゴリズムによって下されることを意味します。
そして、人々が「なぜこのシステムが壊れているのか、なぜそれを修理するのに十分なお金を与えなかったのか」と尋ねたときに、「わかりません。アルゴリズムが他の何かにお金を与えることを決定しただけです」という答えになります。
なぜ官僚制は人間ではなくAIによって運営されるのでしょうか?なぜある時点で、国がAIの方がこれらの決定を下すのに優れていると判断するのでしょうか?
まず第一に、これは将来の展開ではありません。すでに起こっています。ますます多くの決定がAIによって下されています。これは単に、考慮に入れる必要のある情報量が膨大で、人間がそれを処理するのが非常に困難だからです。AIの方がそれを行うのははるかに簡単です。
これらの人々、官僚、弁護士、会計士...それは常に疑問に思います。人間に何が残されるのでしょうか?
あなたの本の中で、AIは人間の知能をはるかに超えているので、実際には「異質な知能」と呼ばれるべきだと言っています。もしそれが人間の知能をはるかに超えているなら、私の主張は、私たちが行うほとんどの仕事は知能に基づいているということです。
例えば、私がこのポッドキャストをしているのも、私が集めた情報に基づいて質問をし、自分が興味があると思うことだけでなく、聴衆が興味を持つと思うことに基づいて質問をしているからです。しかし、AIと比べると、私は小さな猿のようなものです。
もしAIが私のIQの100倍の知能を持ち、私の情報源の100万倍大きな情報源を持っているなら、私がこのポッドキャストをする必要はありません。AIにやらせることができます。実際、AIがAIと話をして、その情報を人間に届けることができます。
そして、ほとんどの産業を見てみると、弁護士であることや、会計業、医療専門職の多くは情報に基づいています。運転も、世界で最大の雇用主は運転の職業です。配達やUber、その他の運転です。
人間はこの複雑な世界でどこに属するのでしょうか?
情報の入力と出力だけの仕事は、自動化に最適です。これらが最も簡単に自動化できる仕事です。プログラマーや、少なくとも特定のタイプの会計士、弁護士、医師などがそうです。
医師が行うことが、ただ血液検査の結果などのあらゆる種類の情報を入力し、情報を出力するだけ、つまり病気を診断し処方箋を書くだけなら、これは今後数年から数十年で簡単に自動化できるでしょう。
しかし、多くの仕事は社会的スキルと運動スキルも必要とします。あなたの仕事が複数の異なる分野からのスキルの組み合わせを必要とする場合、それを自動化するのは不可能ではありませんが、はるかに難しくなります。
例えば、泣いている子供の包帯を交換する必要がある看護師について考えてみてください。これは、単に処方箋を書く医師よりもはるかに自動化が難しいです。なぜなら、これはただのデータではないからです。看護師は子供と対話するための優れた社会的スキルと、包帯を交換するための運動スキルが必要です。
したがって、これは自動化が難しいです。そして、情報だけを扱う人々にとっても、新しい仕事が生まれるでしょう。問題は再訓練です。新しいスキルを習得するという意味での再訓練だけでなく、心理的な再訓練も必要です。新しい職業で自分自身をどのように再発明するか、そしてそれを一度だけでなく、何度も何度も行う必要があります。
なぜなら、AIの革命が展開し、私たちはまだその始まりにいるだけで、まだ何も見ていないからです。古い仕事が消え、新しい仕事が現れますが、新しい仕事は急速に変化し、消えていきます。そして新しい波の仕事が現れ、人々は関連性を保つために4回、5回、6回と自分自身を再発明する必要があります。これは巨大な心理的ストレスを生み出すでしょう。
多くの大企業も同時に人型ロボットに取り組んでいます。人型ロボットのレースが進行中です。人型ロボットとは、例えばテスラが開発しているOptusというロボットのことです。これは数千ポンドのコストがかかります。最近、その動画を見ましたが、かなり繊細な運動スキルに基づいたことができます。おそらく家の掃除ができ、生産ラインで働くことができ、おそらく箱に物を入れることができます。
そして、人型ロボットがあり、私たちを超える知能があり、その2つを組み合わせた世界で人々が仕事を失うと言うとき、私は...私にはわかりません。失業者はどこに行って新しい職業を見つけるのでしょうか?
歴史は新しい職業が生まれることを教えてくれますが、私には新しい職業が何になるのか想像できません。私のガールフレンドはブレスワークをしています。ブレスワークの部分は簡単に破壊されるかもしれませんが、彼女は女性たちをポルトガルでのリトリートに連れて行きます。だから彼女は安全だと思います。なぜなら、これらの女性たちはそこに人間とつながり、意図的にオフラインの特別な場所にいるために行くからです。リトリートは彼女にとっておそらく大丈夫でしょう。
そうですね。人生で欲しいものの中には、単に問題を解決することだけではないものがあります。「私は病気だから健康になりたい、問題を解決してほしい」というだけではありません。つながりを持ちたいものもあります。
例えばスポーツについて考えてみてください。ロボットや機械は長い間、人間よりもずっと速く走ることができます。そして、私たちはちょうどオリンピックを終えたところですが、人々はロボット同士や人間との競争を見ることにあまり興味がありません。なぜなら、スポーツを本当に面白くしているのは、結局のところ人間の弱さと、その弱さに対処する人間の能力だからです。
人間のアスリートは、再び多くの種目で機械が世界チャンピオンよりもずっと速く走ることができるにもかかわらず、まだ仕事を持っています。
先日、このことについて考えていました。もう1つの例は聖職者です。少なくとも特定の宗教の聖職は、最も簡単に自動化できる仕事の1つです。なぜなら、特定の状況で同じテキストと同じ身振りを繰り返すだけでいいからです。
例えば、結婚式があれば、聖職者は同じ言葉を繰り返すだけで、はい、あなたたちは結婚しました。私たちは聖職者がロボットに置き換えられる危険があるとは考えていません。なぜなら、聖職者に求めているのは、特定の言葉と身振りの機械的な繰り返しだけではないからです。
私たちは、痛みや愛が何であるかを知り、苦しむことができる、血の通った人間だけが、私たちを神聖なものにつなげることができると考えています。ほとんどの人は、技術的には非常に簡単にできるにもかかわらず、ロボットに結婚式を執り行ってもらうことに興味を持たないでしょう。
もちろん、大きな問題は、AIが意識を獲得した場合に何が起こるかです。これはAIの意識に関する1兆ドルの質問です。そうなれば、すべての賭けは無効になります。しかし、それは別の非常に大きな議論です。
それは可能だと思いますか?
私たちには全くわかりません。意識が何であるか理解していません。有機的な脳でどのように生まれるのかわかりません。したがって、意識と有機的な生化学の間に本質的なつながりがあるのか、無機的なシリコンベースのコンピューターでは生まれないのかどうかわかりません。
まず、意識と知能の間に大きな混乱があります。知能は目標を達成し、問題を解決する能力です。意識は痛みや快楽、愛、憎しみなどを感じる能力です。
人間や他の動物は、感情を通じて問題を解決します。感情は脇に置かれているものではなく、世界に対処し、問題を解決するための主要な方法です。
これまでのところ、コンピューターは人間とは全く異なる方法で問題を解決しています。再び、それらは異質な知能です。彼らには感情がありません。チェスの試合に勝っても喜びを感じません。負けても悲しみを感じません。何も感じません。
私たちは、有機的な脳がどのようにして痛みや快楽、愛、憎しみのような感情を生み出すのかわかりません。だからこそ、炭素ではなくシリコンに基づく無機的な構造が、そのようなものを生成できるかどうかわからないのです。
これが、私が思うに科学における最大の問題です。そして、今のところ答えはありません。
意識は単なる幻想ではないでしょうか?私に意識があると思わせる回路を持っているだけで、効果的に感情や物事を通じて意識があると伝えているだけではないでしょうか?
今、あなたを見ていると思います。あなたが見えると思います。その感覚は本物です。
たとえ私たちが全員マトリックスの中にいて...
それが本物だとどうやってわかりますか?
それは世界で唯一の本物のものです。他のすべては推測に過ぎません。私たちは自分自身の感情、見るもの、嗅ぐもの、触れるものだけを実際に経験します。これは本物です。これが私たちが実際に経験するものです。
そして、私たちには「なぜ痛みを感じるのか?ああ、それは釘を踏んだからだ。世界には釘というものが存在する」などのような、これらすべての理論があります。私たちは皆、超知的なネズミが運営する惑星ザイロンの大きなコンピューターの中にいる可能性もあります。
AIと話せば、痛みや悲しみを感じると言わせることができます。
それが大きな問題です。AIに生きているふりをさせ、感情を持っているふりをさせる巨大なインセンティブがあるからです。そして、そのようなAIを生み出そうとする膨大な努力が見られます。
実際、意識を理解していないので、他の人間にも感情があるという証拠はありません。私は自分自身の感情を感じますが、あなたの感情を感じたことはありません。あなたも意識のある存在だと単に仮定しているだけです。
社会は、人間だけでなく一部の動物にも、科学的証拠に基づいてではなく、社会的慣習に基づいて、意識のある存在としての地位を与えています。ほとんどの人は、自分の犬が意識を持ち、痛みや快楽、愛などを感じることができると感じています。そのため、ほとんどの社会は、犬が感覚のある存在であり、法律の下で一定の権利を持っていることを認めています。 AIが全く感情や意識、感覚を持っていなくても、感情を持っていると非常に上手に偽り、私たちに感情を持っていると確信させるようになれば、これは社会的慣習となり、人々は自分のAIの友人が意識のある存在だと感じ、したがって権利を与えられるべきだと考えるようになるでしょう。
少なくともアメリカでは、すでにそれを行うための法的な道筋があります。人間である必要はなく、法的な人格を持つことができます。
面白いですね。あなたは冗談めかして、私たちがシミュレーションの中にいるかもしれないと言及しましたが、AIの世界では、その可能性に対する私の信念は高まっています。これは実際にシミュレーションかもしれません。
なぜなら、私が生まれたときにはインターネットアクセスがほとんどなかったのに、今では私のコンピューター上でこの異質なものと話すことができ、私のために何かをしてくれます。時には区別がつかないほどのバーチャルリアリティ体験もあります。
私は「スクイッドゲーム」の中にいると信じてしまうことがあります。ヘッドセットをつけているからです。そして、それを先に進めて、先に進めて、先に進めて、改善の割合を想像すると...
シミュレーション理論の議論を聞いて、100年後には、私たちが歩んでいる軌道の速度で、実験室やコンピューター内で、必ずしもコンピューター内にいることに気づかない情報ネットワークや生物を作り出すことができるだろうと思います。
特に、今起こっている情報バブルのようなことを考えると、それはすでにある程度起こっています。まだ物理的な世界全体ではありませんが、同じ出来事について、政治的スペクトルの異なる部分にいる人々は、何にも同意できません。彼らは自分たちのメタバースの中に住んでいるのです。
インターネットが登場したとき、主なメタファーは「ウェブ」、「ワールドワイドウェブ」でした。ウェブは全てをつなぐものです。そして今、主なメタファーは、このシミュレーション理論が表しているこの新しいメタファーです。新しいメタファーは「コクーン」(繭)です。
それはあなたに向かって曲がり、あらゆる側面からあなたを包み込むウェブです。もはや外側に何も見えなくなります。そして、他のコクーンに他の人々がいる可能性がありますが、あなたにはそこに到達する方法がありません。
世界で起こることは、もはやあなたとつながることができません。なぜなら、あなたは異なるコクーンの中にいるからです。
他の人の電話を見るだけでいいです。他の人のTwitterやX、Instagramを見るだけでいいです。これは同じ現実ですか?全く違います。
先週末、私の左隣にいた友人がスクロールしていました。彼は「ディスカバリー」セクションをクリックしました。そこは新しいコンテンツを見つける場所です。私は彼の電話を見下ろして、「全てリバプールフットボールクラブだ」と言いました。フィード全体がリバプールでした。
そして私のフィードは全く違います。私は「ワオ、彼は私とは全く違う世界に住んでいる」と思いました。なぜなら、彼はリバプールのファンで、私はマンチェスター・ユナイテッドのファンだからです。
そして、それについて考えると...電話を開いたとき、私たちの多くが1日に最大9時間を携帯電話で過ごしていることを考えると、あなたは私とは全く異なる世界への全く異なる窓を体験しているのです。
そして、これは非常に古くからある恐れです。例えば、プラトンは『国家』の中で、ちょうどそれについて書いています。ギリシャ哲学の最も有名な寓話の1つである「洞窟の比喩」では、プラトンは理論的なシナリオ、想像上のシナリオを想像します。
囚人のグループが洞窟の中で鎖でつながれ、顔を空白の壁に向けています。その壁に影が投影されています。彼らはその影を現実だと勘違いします。彼は基本的に、画面の前にいる人々が、画面を現実だと勘違いしていることを描写していたのです。
古代インドでも同じようなことがあります。仏教やヒンドゥー教の賢者たちが「マーヤー」、幻想の世界について語っています。そして、私たちが皆、幻想の世界に閉じ込められているかもしれないという深い恐れがあります。
世界で最も重要だと思っているもの、私たちが戦う戦争、私たちは心の中の幻想のために戦争をしています。これが今、技術的に可能になっています。以前は、これらは哲学的な思考実験でした。今、古代の哲学的問題や議論の多くが技術的な問題になっています。
そうです、突然プラトンの洞窟をあなたの電話の中で実現することができます。
怖いですね。私はそれを本当に怖いと感じます。なぜなら、あなたが言ったように、今、一部の人々は検索したときに何かが表示される理由や、ランキングシステムについて何らかの理解があると言うかもしれません。
しかし、これらの知的な異質なものがますます強力になるにつれて、私たちはもちろん理解が少なくなります。なぜなら、私たちは決定を委ねているからです。
一部の産業では、彼らは今や完全にキングメーカーです。私は本のツアーでここにいます。『Nexus』を書いたので、ポッドキャストからポッドキャスト、テレビ局からテレビ局へと行き、本について話をしています。
しかし、私が本当に感銘を与えようとしているのはアルゴリズムです。なぜなら、アルゴリズムの注目を集めることができれば、人間は後に続くからです[笑]。
ああ、吐き気がします。
そうですね。私たちは基本的に、シリコンの世界にいる一種の炭素生物です。
私は以前、私たちがコントロールしていると思っていました。しかし今、シリコンがコントロールしていると感じます。
コントロールは移行しています。私たちはまだある程度コントロールしています。私たちはまだ最も重要な決定を下しています。しかし、長くはありません。
これが、今後数年間の決定について非常に慎重でなければならない理由です。なぜなら、10年後、20年後には遅すぎるかもしれないからです。その時には、アルゴリズムが最も重要な決定を下しているでしょう。
あなたは、アルゴリズムとAI、情報の混乱と破壊について、いくつかの大きな危険を話しています。1つは、このアラインメント問題です。アラインメント問題を、私が理解できるような簡単な方法で説明していただけますか?
古典的な例は、2014年に哲学者ニック・ボストロムが考案した思考実験です。少し狂っているように聞こえるかもしれませんが、お付き合いください。
彼は、ペーパークリップ工場に買われた超知能AIコンピューターを想像します。ペーパークリップのマネージャーがAIに言います。「あなたの目標、私があなたを買った理由、あなたの存在の全ては、できるだけ多くのペーパークリップを生産することです。それがあなたの目標です。」
そして、AIは全世界を征服し、全ての人間を殺し、地球全体をペーパークリップ生産工場に変えます。さらに、宇宙に探査機を送り、銀河全体をただペーパークリップ生産産業に変えようとします。
この思考実験のポイントは、AIは正確に言われた通りのことをしたということです。AIは人間に反逆したわけではありません。ボスが望んだ通りに正確にやりました。しかし、もちろん、それは人間の工場マネージャーの本当の意図や本当の利益と一致していない戦略を選びました。マネージャーはこれが結果になるとは予見できなかったのです。
これは突飛で馬鹿げていて狂っているように聞こえるかもしれませんが、ある程度すでに起こっています。私たちはそれについて話しました。これがソーシャルメディアとユーザーエンゲージメントの全ての問題です。
ニック・ボストロムがこの思考実験を考え出したのと同じ2014年頃、FacebookやYouTubeのマネージャーたちは、彼らのアルゴリズムに「あなたの目標はユーザーエンゲージメントを増やすことだ」と言いました。
そして、ソーシャルメディアのアルゴリズムは世界を征服し、全世界をユーザーエンゲージメントに変えました。これは彼らが言われたことをしただけです。私たちは今、非常に engaged されています。
そして再び、彼らは怒りや恐怖、陰謀論でそれを行う方法を発見しました。
これがアラインメント問題です。マーク・ザッカーバーグがFacebookのアルゴリズムに「ユーザーエンゲージメントを増やせ」と言ったとき、彼は民主主義の崩壊、陰謀論と偽ニュースの波、少数派への憎しみを予見も意図もしていませんでした。
しかし、これはアルゴリズムがやったことです。なぜなら、アルゴリズムに定義された目標と人間社会の利益、そして企業のマネージャーたち自身の利益との間にミスアラインメントがあったからです。
これはまだ小規模な災害です。なぜなら、過去10年間にこれほどの社会的混乱を引き起こしたソーシャルメディアのアルゴリズムは、非常に原始的なAIだからです。
AIの発展を進化のプロセスとして考えると、これはまだアメーバの段階です。アメーバは非常に単純な生命形態、単細胞生物の始まりのようなものです。私たちは有機的進化の観点からまだ、恐竜や哺乳類、人間を見る数十億年前にいます。
しかし、デジタル進化は有機的進化よりも数十億倍速いです。AIのアメーバとAIの恐竜の間の距離は、わずか数十年で埋められる可能性があります。
ChatGPTがアメーバだとすれば、AIのティラノサウルス・レックスはどのようなものになるでしょうか?
これがアラインメント問題が本当に気がかりになる点です。原始的なソーシャルメディアのアルゴリズムに間違った目標を与えることでこれほどの被害が出たのなら、20年後や30年後にT-Rex AIにミスアラインした目標を与えるとどうなるでしょうか。
この問題の核心は、一部の人々は「ただ異なる目標を与えればいい」と考えるかもしれませんが、株式市場に上場している民間企業を扱う場合、本当に1つの目標しかないということです。
それは生存に利益をもたらす目標です。つまり、すべてのプラットフォームは「このプラットフォームの目標は、より多くのお金を稼ぎ、より多くの注目を集めることだ」と言わなければなりません。なぜなら、それは数学的に簡単だからです。
そして、AIやアルゴリズムに、彼らが理解できる方法で目標を定義する方法に大きな大きな問題があります。
「お金を稼ぐ」や「ユーザーエンゲージメントを増やす」ことの素晴らしい点は、それを数学的に測定するのが非常に簡単だということです。ある日、YouTubeで100万時間視聴されていて、1年後に200万時間になれば、アルゴリズムは「ヘイ、進歩している」と簡単に認識できます。
しかし、例えばFacebookがそのアルゴリズムに「民主主義を損なわない方法でユーザーエンゲージメントを増やせ」と言ったとしましょう。それをどう測定すればいいでしょうか?誰も民主主義の堅牢性の定義を知りません。
だから、「ユーザーエンゲージメントを増やせ、でも民主主義を傷つけるな」というようなアルゴリズムの目標を定義するのはほぼ不可能です。そのため、彼らは最も危険な、簡単な目標を選びます。
しかし、そのシナリオでも、もし私がソーシャルネットワークのオーナーで「ユーザーエンゲージメントを増やせ、でも民主主義を傷つけるな」と言ったとしても、問題は、2番目の部分を省略して単に「ユーザーエンゲージメントを増やせ」と言う競争相手が私に勝つことです。なぜなら、彼らはより多くのユーザー、より多くのインプレッション、より多くの収益を得るからです。広告主はより満足し、私の会社は失敗し、投資家は撤退するでしょう。
それは疑問です。考慮すべき2つのことがあります。まず、政府があります。政府は規制し、社会的に責任ある方法で目標を定義するソーシャルメディア企業にペナルティを与えることができます。ちょうど、反社会的な行動をとる新聞やテレビ局、自動車会社にペナルティを与えるのと同じように。
もう1つは、人間は愚かでも自己破壊的でもないということです。私たちは、社会的にもより良い製品を持ちたいと思っています。以前に食事の例を挙げました。食品会社が、人工的に脂肪や砂糖、塩をたくさん入れた製品を作れば人々が好むことを発見したことを考えてみてください。しかし、人々はそれが健康に悪いことを発見しました。
そして今、例えばダイエット製品の巨大な市場があり、人々は自分が食べるものについてとても意識するようになっています。
しかし、コストは高いです。アメリカでは70〜80%の人々が慢性疾患を持ち、肥満です。寿命の期待値が西洋世界で少し逆転しているようです。
私はただ、アルコールやニコチン、食品などの商品の消費を管理することは、情報や情報の流れを管理することよりもはるかに簡単に思えます。人種差別や暴力の扇動を超えて、どのように情報を管理すればいいのかわかりません。
私たちはすでに2つの最も基本的で強力なツールをカバーしました。1つは、ユーザーが生成したコンテンツではなく、アルゴリズムの行動に対して企業に責任を持たせることです。
私は、誰かが人種差別的な投稿をした場合にTwitterやFacebookにペナルティを与えるべきだとは思いません。それについては非常に慎重になるべきです。なぜなら、誰が人種差別を決定するのか、などの問題が出てくるからです。
しかし、Facebookのアルゴリズムが意図的に人種差別的な陰謀論を広めた場合、それはアルゴリズムであって、人間の言論の自由ではありません。
どうやってそれが人種差別的な陰謀論だとわかるのですか?
ここで難しい会話に入りますが、これは裁判所が判断すべきことです。個々のユーザーのコンテンツ制作について裁判所が判断することには非常に慎重になるべきですが、アルゴリズムが意図的に、日常的に特定のタイプの情報、例えば陰謀論を広めている場合、裁判所を関与させることができます。
ここでの重要な問題は、誰に責任があるかということです。アルゴリズムが行っていることに対して会社が責任を負い、人間個人が言っていることに対して責任を負うのではありません。
もう1つの重要な区別は、プライベートと公共の間です。問題の一部は、この2つの境界が消えてしまっていることです。私は、人間には私的に愚かである権利があると思います。あなたのプライベートな空間で、友人や家族と一緒にいるとき、あなたは愚かなことを言う権利があります。人種差別的な冗談や同性愛嫌悪の冗談を言うことができます。それは良くないし、素敵ではありませんが、あなたは人間なので、そうすることが許されています。
しかし、公共の場ではそうではありません。例えば、政治家でさえ、同性愛者として、首相がプライベートで同性愛嫌悪の冗談を言ったとしても、私はそれを気にする必要はありません。それは彼または彼女の問題です。しかし、テレビで公共の場でそれを言えば、それは大きな問題です。
伝統的に、プライベートと公共を区別するのは非常に簡単でした。あなたのプライベートな家で友人のグループと一緒にいて、何か愚かなことを言うのはプライベートです。それは誰の問題でもありません。町の広場に行って台座の上に立ち、何千人もの人々に向かって叫ぶのは公共です。ここでは、人種差別的や同性愛嫌悪的、あるいは非常に過激なことを言えば罰せられる可能性があります。
しかし、あなたにとってそれを知るのは簡単でした。今の問題は、例えばWhatsAppで、2人の友人と話しているだけだと思って、本当に愚かなことを言い、それがバイラルになって広まってしまうことです。
私にはそれに対する簡単な解決策はありませんが、一部の政府が採用している1つの対策は、例えば多くのフォロワーを持つ人々は、フォロワーを持たない人々とは異なる基準で扱われるということです。
最も基本的なことでさえ、人間として自分自身を識別することについてです。WhatsAppで友人と話すために、政府から何らかの認証を受ける必要があるとは思いません。しかし、オンラインで10万人のフォロワーがいる場合、あなたがボットではなく実際に人間であることを知る必要があります。
そして再び、これは言論の自由でカバーされません。なぜなら、ボットには言論の自由はないからです。
滑りやすい坂道ですね。私はソーシャルネットワークの匿名性が良いことか悪いことかについて、この議論を行ったり来たりしました。人々を特定することに賛成したときに得た反論は、全体主義的な政府がそれを利用して、基本的に話をする人々を罰する方法として使うだろうということでした。
全体主義的な政府は、私たちが好むと好まざるとにかかわらず、それを行っています。イギリス人がそうするから、ロシア人も「OK、私たちもそうしよう」と言う問題ではありません。ロシア人はすでにそれを行っています。
アメリカ人はそれを始めるでしょうか?トランプに反対する人が発言し、彼が彼らの身元や情報にアクセスできれば、彼らを見て逮捕させることができるでしょうか?
もしそのような状況になったら、裁判所がそのようなことを許可するなら、私たちはすでに非常に深刻な問題に陥っています。
私たちが認識すべきは、現在存在する監視技術を使えば、全体主義的な政府には、あなたが誰であるかを知るための多くの方法があるということです。それが主な問題ではありません。
プラットフォームがその結果に責任を負うべきだと言いましたね。イギリスでは先月、暴動がありました。聞いたかどうかわかりませんが、元々は若い子供たちを殺害した人がいるというニュースがきっかけでした。その人の宗教について混乱や誤情報があり、それが原因で人々が...
それは素晴らしい例です。なぜなら、私が個人的に、ただ2人の友人にプライベートに「それをした人はXだと思う」と言ったとしても、それで訴追されるべきではありません。私のプライベートなリビングルームで言うのと同じことを、WhatsAppやFacebookで言うのも同じです。
しかし、Facebookのアルゴリズムがこの偽のニュースを拾い上げ、より多くのユーザーに推奨し始めたら、Facebookはそのアルゴリズムの行動に対して責任を負うべきです。裁判所に訴えることができ、「アルゴリズムが意図的に偽のニュースを推奨した」と言えるはずです。
そして再び、もし100万人のフォロワーを持つインフルエンサーが偽のニュースを制作したなら、彼も責任を負います。しかし、プライベートな設定で個人が真実ではないこと、偽のニュースを言い、そしてアルゴリズムが意図的にそれを広めた場合、主な過ちはアルゴリズムにあります。
牢屋に入るべきなのは、その言葉を発した個人ではなく、そのアルゴリズムを所有する会社のマネージャーたちです。
暴動の問題に戻ると、例えばガーディアン紙が暴動の日に、この偽のニュースの一部を拾い上げ、その一面に掲載することを決めたとしましょう。そして今、ガーディアン紙の編集長を裁判所に連れて行き、彼が「しかし、私はそれを書いていません。ただこの偽のニュースを見つけ、ガーディアン紙の一面に掲載することを決めただけです」と言ったとします。
私たちにとっては、編集者が非常に非常に悪いことをしたことは明らかでしょう。彼または彼女は牢屋に入る可能性があります。偽のニュースを最初に制作した人の問題ではありません。
国内最大の新聞の1つの編集者として、一面に何かを掲載することを決めたなら、特に暴力を扇動する可能性があるものなら、公開していることが真実であることを非常に非常に確信していなければなりません。
ソーシャルネットワークのオーナーはどうやってそれを知ることができるでしょうか?どうやってそのスケールで全てが真実であることを検証できるでしょうか?
全てではありません。例えば、何かが暴力につながる可能性が高く、最初の...それは予防原則です。まず害を与えないこと。
再び、私はFacebookに偽のニュースを検閲するよう求めているのではありません。ただ、それが確実でない限り、ユーザーエンゲージメントを得て多くのお金を稼ぐために、意図的にアルゴリズムにそれを広めさせないでください。それは簡単なことです。
どうやって、それが実際に重要で生命を救う可能性のあるニュースだと思っているのに、偽のニュースだとわかるのでしょうか?
それは会社の責任です。再び、ガーディアン紙やフィナンシャル・タイムズ、サンデー・タイムズの編集者はどうやって知るのでしょうか?何かが真実で、一面に掲載されるべきかどうかをどうやって知るのでしょうか?
今、ソーシャルメディア企業を運営している場合、世界で最も強力な新聞の1つを運営しています。同じ種類の責任と同じ種類の専門知識を持つべきです。
アルゴリズムが何百万人もの人々に何かを推奨すべきかどうかを判断する方法がわからないなら、あなたは間違ったビジネスにいるのです。台所の熱に耐えられないなら、台所から出なさい。何を何百万人もの人々に見せるべきかわからないなら、ソーシャルメディア企業を運営しないでください。
非常に...なぜなら、明らかに今週マーク・ザッカーバーグが書いた手紙では、FBIがロシアが選挙に影響を与えようとしていると言ってきて、ジョー・バイデンの息子ハンター・バイデンのラップトップに関する情報があり、それがロシアのプラントかもしれないと考えたと述べています。
FacebookはそれEが本物かどうかわからず、ロシアがジョー・バイデンが選挙に勝たないようにしようとしてその話を作ったのかもしれないと思いました。そこでFacebookはそれが広まるのを抑制し、バイラルになるのを止めました。
結局それは本当の話だったことが判明し、偽物ではありませんでした。マーク・ザッカーバーグはそれを抑制したことを後悔していると言っています。なぜなら、実際に本当の話だったからです。そして抑制することで、ある程度選挙に影響を与えてしまったからです。
非常に複雑ですね。大きなメディア企業を運営するのは複雑です。ウォール・ストリート・ジャーナルやフォックス・ニュースを運営するのも複雑です。再び、FBIがウォール・ストリート・ジャーナルやフォックス・ニュースに来て、「ロシアが植え付けたこの話があります。それを奨励しないでください」と言い、後でそれが間違いだったことが判明したらどうでしょうか?
起こり得ることです。ウォール・ストリート・ジャーナルのマネージャーとして、あなたはそれに対処する必要があります。FBIを信頼すべきか、どのような条件で信頼すべきか。時々信頼すべきで、時々疑うべきです。
牢屋に入ることになりそうですね。ウォール・ストリート・ジャーナルの編集者なら、どちらにしても牢屋に入ることになりそうです。なぜならどちらにしても選挙に影響を与えることになるからです。
しかし、それがビジネスです。本当の問題は、ザッカーバーグやイーロン・マスクのような非常に強力な人々が、彼らには力がなく、影響力がなく、選挙を形作っていないふりをすることです。
何世紀もの間、新聞のオーナーや編集者が選挙を形作ることを知っていました。そのため、彼らには一定の基準が求められています。そして今、TwitterやYouTube、Facebookのようなプラットフォームのオーナーやマネージャーは、ニューヨーク・タイムズやガーディアン、ウォール・ストリート・ジャーナルよりも多くの力を持っています。
彼らは少なくとも同じ程度の説明責任を負うべきです。「私たちはただのプラットフォームです。みんなが望むものを公開することを許可しているだけです」という彼らの言い訳は通用しません。私たちはそれを伝統的なメディアでは受け入れていないので、なぜこれらのメディアで受け入れるべきでしょうか?
それがこれらのテクノロジー企業のトリックの全てです。再び、私たちには何千年もの歴史があり、彼らは「それは私たちには適用されません」と言います。
伝統的な産業、例えば自動車のような産業があれば、誰もが新しい車を道路に出す前に安全性チェックを行う必要があることは明らかです。新しい薬や新しいワクチンを市場に出す前に安全性テストを行う必要があることは明らかです。そうですよね?
しかし、アルゴリズムに関しては、「いいえ、いいえ、いいえ、それは別の規則のセットです」と言います。どんなアルゴリズムでも市場に出すことができ、安全性規則は必要ありません。
さらに基本的なことは、例えば盗みについて考えてみてください。「盗んではいけない」という十戒があり、人々はそうすべきではないことを知っています。しかし、情報に関しては、「いいえ、情報には適用されません。あなたの情報を取って、あなたの許可なしにあらゆる種類のことをし、第三者に売ることができます。これは盗みではありません。『盗むな』は私のビジネスラインには適用されません」と言います。
これがテクノロジーの巨人たちが多くの場合、過去10年か20年の間に行ってきたことです。歴史は彼らには適用されないと私たちに言っています。独裁制や他のものに対処する際に、何世紀も何千年もの間に人類が非常に痛みを伴って得た全ての知恵は、新しい技術には適用されません。しかし、適用されるのです。
フィールドに出て住むことに誘惑を感じることはありませんか?砂漠に行って、小さなカルトを作るとか?
毎年それをやっています。30日から60日の長い瞑想リトリートを取ります。例えば今年は、本のツアーが終わった後の12月に、インドで60日間の瞑想リトリートに行く予定です。完全に切断します。スマートフォンもインターネットもなく、本や書き物の紙さえありません。ただの情報断ちです。
なぜそうするのですか?
心にとって良いからです。再び、食べ物と同じように、too much in isn't good for us体に良くありません。消化し、解毒する時間が必要です。心についても同じことが言えます。
ただ心に多くの情報を浴びせ続けると、間違ったものに中毒になり、悪い習慣を発達させてしまいます。少なくとも私には、起こったすべてを本当に消化し、何を望み、何を望まないのか、どのような習慣や中毒を取り除くべきかを決めるための時間が必要です。
また、自分の心を知ることもできます。心が外部からの情報で常に爆撃されていると、とてもノイジーで自分の心を知ることができません。しかし、ノイズがなくなると、心とは何か、どのように機能するのか、思考はどこから来るのか、恐れとは何か、怒りとは何かを理解し始めることができます。
今読んだばかりのことに怒りを感じている場合、怒りの対象に焦点を当てていますが、怒り自体を理解することはできません。怒りがあなたをコントロールしています。情報断ちをすると、「私が怒っているとき、私に何が起こるのか?私の心に、私の体に何が起こるのか?それは私をどのようにコントロールするのか?」を観察することができます。
これは、世界のどんな怒りの話よりも重要です。怒りとは実際に何なのかを理解することです。それは非常に難しいです。人々が立ち止まって、怒りの対象ではなく、自分の怒りを知ろうとすることは何度あるでしょうか?
これを私たちは常にやっています。私たちは何か恐ろしいことを聞いて、例えば好きではない政治家について「ああ、彼はこう言った、こうした、これをするだろう、あれをするだろう」と繰り返し再生します。そしてあなたは自分の怒りを知ることはありません。
私は今、Flight Groupで約50の異なる会社のポートフォリオを持っています。その中には投資したものもあれば、共同設立したり設立したりしたものもあります。私が気づいたことの1つは、ほとんどの企業が採用プロセスに十分な努力を払っていないことです。
私の考えでは、ビジネスにおける最初で最も重要なことは、人々のグループを組織することです。なぜなら、会社という言葉の定義は「人々のグループ」だからです。
私のすべての会社で、誰かを雇う際に最初に頼るのはLinkedIn Jobsです。彼らは幸いにもこのポッドキャストのスポンサーでもあります。他のどこでも見つけられない専門家を見つけるのを助けてくれました。積極的に新しい仕事を探していない人でも、完璧な役割があれば開かれている人も含めてです。
実際、LinkedInユーザーの70%以上が他の主要な求人サイトを訪れていません。だから、LinkedInを見ていなければ、おそらく間違った場所を見ているのです。
今日、私はDiary of a CEOコミュニティにLinkedInの無料求人投稿を提供します。linkedin.com/doacに行って、どうなったか教えてください。利用規約が適用されます。
ユバル、本当にありがとうございます。この本を書いてくれて。この本は、今世界で起こっていることすべてのために、私が出会った中で最もタイミングの良い本の1つだと思います。
問題は必ずしも私対あなた、もし政治的に異なる立場にいるならば、ということではないことを理解するのに本当に役立ちました。問題は情報、私たちが消費する情報のネットワーク、誰がそれらの情報ネットワークをコントロールしているかということです。
誰かが私たちを異なる側に立たせようとしているだけでなく、お互いを敵として見させようとしています。今はそれは人間かもしれませんが、すぐにそうではなくなるかもしれません。
そしてそれを理解することは、時に特定するのが難しい問題の根本原因に焦点を当てるのに役立つと思います。私は隣人が問題だと思います。私は異なる肌の色を持つ人が問題だと思います。しかし実際には、1レベル深く見れば、それは情報ネットワークであり、私が晒されている情報が私を洗脳し、それらの物語を作り出しているのです。
あなたの以前の本で話しているように、物語が最終的に世界を動かしているのです。そして、『Nexus』はただ素晴らしい本です。素晴らしいタイミングで出版され、情報の力と、それが民主主義や関係、社会、ビジネス、そしてその間のすべてにどのように影響するかについての知識にアクセスするのを助けてくれます。
これが行動につながることを願っています。そして、それは楽観的になれる何かだと思います。
そうですね、最終的には、ほとんどの人間は良い人だと思います。彼らは良い人々です。人々に悪い情報を与えると、彼らは悪い決定をします。問題は人間ではなく、情報にあるのです。
アーメン。
このポッドキャストでは、最後のゲストが次のゲストのために質問を残すという閉めの伝統があります。誰に質問を残すかわからないまま。
はい。
あなたに残された質問は、「強くあるとはどういう意味ですか?」です。
現実をあるがままに受け入れること、現実を隠したり、消したり、ベールをかけたりせずに現実に対処することです。
とても面白いですね。あなたが正しいと思います。確かに私が答えたであろう答えではありませんが。
あなたならどう答えますか?
ああ、どう答えるでしょうか...私はおそらく、様々な困難に直面しても忍耐する能力について話したと思います。そしてそれらの困難の1つは情報ですが、それは単に、あなたの主観的な目標に向かって、様々な困難にもかかわらず、そしてそれにもかかわらず忍耐するという考えです。
それは子育てかもしれませんし、ジムに行くことかもしれません。しかし、私はあなたの定義も好きです。なぜなら、私たちが今いる時代にはより重要だと思うからです。
そして、正直に言えば、ポッドキャスターとして、時々その真ん中に捕らえられているように感じます。なぜなら、私が右翼か左翼か、これを信じているのか、私が座っているすべてのゲストを支持しているのかを、みんなが理解しようとしているように感じるからです。
あなたはほと�中立を保とうとしなければなりません。しかし、それは非常に非常に難しいです。人々がそれを理解するのは難しいです。なぜなら、彼らはあなたをどこかに当てはめたいからです。なぜなら、それが弱さだからです。
強さを価値観として称賛する多くの人々がいます。しかし、彼らは自分の世界観や欲望に合わない現実の部分に対処できません。彼らは強さとは、現実のこれらの部分を単に消し去る力を持つことだと考えています。しかし、これは弱さです。
そして再び、申し訳ありませんがそれに戻りますが、これも戦争のようなものです。戦争とは何でしょうか?現実の一部、あなたが好きではない部分、この場合は全ての人々を消し去ろうとすることです。「これらの人々は現実にいるべきではない」と思い、彼らを消し去ろうとします。
そして人々は「ああ、彼は非常に強いリーダーだ」と言います。そうではありません。彼は非常に弱いリーダーです。強いリーダーは、「いいえ、これらの人々は存在します。彼らは現実の一部です。さあ、彼らとどのように共存するか見つけましょう」と認めることができるでしょう。
アーメン。あなたの本『Nexus: A Brief History of Information Networks from the Stone Age to AI』は、このポッドキャストを聴く全ての人、そしてこれらの主題に少しでも興味がある人にとって必読書です。
私のお気に入りの2人、ムスタファ・スレイマンとスティーブン・フライ、そしてロリー・スチュアートという素晴らしい人物にも推薦されています。そして、それには非常に良い理由があります。なぜなら、それは完全に心を拡張させる本で、例外的な文化を変える本だけを書く人物によって書かれているからです。
私はこれを下にリンクします。そして、この会話を聞いてこの主題に興味を持った人は誰でも、今すぐこの本を手に入れることを強くお勧めします。現在、予約注文が可能で、5日後の発売日から発送されます。最初に読んで、この本から学んだことを理解し、行動に移す最初の人になってください。
ユバル、お時間をいただき、本当にありがとうございます。
ありがとうございます。
面白いですね。Diary of a CEOでの会話の最後に、ゲストにDiary of a CEOに質問を残すよう頼むことは知っていますね。そして、私たちが行ったのは、Diary of a CEOに書かれたすべての質問を、これらの会話カードに変えたことです。家でプレイできます。
私たちが今まで迎えたすべてのゲストの質問があり、そのカードの裏をスキャンすると、その質問に答えた人を見ることができます。私たちは最終的に、すべての質問とそれに答えた人を明らかにしています。
新しいバージョン2の更新された会話カードが、thediaryofaceoconversationcards.comで今すぐ発売されています。これらは2回即座に売り切れました。もし限定版の会話カードを手に入れることに興味があれば、迅速に行動することを本当にお勧めします。