原子は分裂できても真実は見分けられへん。私らの情報が私らを裏切ってる | ユヴァル・ノア・ハラリ

26,461 文字

人間とコンピューターを合わせた話ですけど、AIが実際に私らの役に立つと思いはりますか? 民主主義にどういう影響があると思いはるか教えてください。人間がAIとしか関係を持たへん未来について、賛成と反対の意見を教えてください。これに関して、一番怖い最悪のシナリオはどんなもんですか?
ユヴァル・ノア・ハラリです。エルサレム・ヘブライ大学の歴史学の教授で、「Nexus: 石器時代からAIまでの情報ネットワークの歴史」の著者です。
例えば、私らは月に到達し、原子を分裂させ、DNAを解読しました。けど、そんな知識と知恵を持ちながら、自分らを破壊しようとしてるんです。
この問題についての従来の答えは、人間の本質に問題があるということでした。けど、問題は私らの本質にあらへん。問題は私らの情報にあるんです。良い人間に悪い情報を与えたら、悪い決定をするんです。
何で何千年もの歴史を経ても、私らの情報の質が向上せえへんかったんでしょうか? 何で20世紀や21世紀の洗練された社会が、石器時代の部族と同じように、大規模な妄想や精神病、スターリン主義やナチズムのような破壊的なイデオロギーの台頭に影響されやすかったんでしょうか?
みなさん、こんばんは。ここに来てくださってありがとうございます。ユヴァルとここにおれるのは光栄です。「サピエンス」が最初に出版された頃から長年のファンでした。あの時から今までの間に、AIについてどう考えるか、この新しい現実をどう考えるか、話すことがたくさんあります。
実際、あなたの最初の本から、現実や真実、情報についてのテーマがあったと思います。そして、すべてが電子的になって、新しい方法で空に浮かぶクラウドの中に入る世界で、歴史を考えるとき、それが最終的に何を意味するのかということです。
ここに来てくださってありがとうございます。たくさんのことについて話しますが、今夜はどこから始めたいのか教えましょう。
できれば、あなたの言葉を読み上げたいと思います。あなたはこう言いました。「人類は大規模な協力ネットワークを構築することで、莫大な力を得る。けど、これらのネットワークの構築方法が、力を賢明に使わへんようにさせてしまう。つまり、私らの問題はネットワークの問題や」と呼んでいますが、さらに具体的には「情報の問題や」と言っています。
今夜の観客のために、それを解説してもらえませんか? この本の中で、他の何よりもこの議論が何についてのものなのかを説明している、あるいは少なくともテーブルを設定していると思うからです。
基本的に、この本の、そして人類史の多くの重要な問題は、「私らがこんなに賢いのに、何でこんなにアホなんや?」ということです。これが重要な問題です。
つまり、私らは月に到達し、原子を分裂させ、AIを作り出すことができます。それなのに、自分らを破壊しようとしているんです。以前は、自分らを破壊する方法は核戦争だけでした。今では自分らを破壊する方法のメニュー全体を作り出してしまいました。何が起こっているんでしょうか?
多くの神話では、人間の本質に何か問題があるという基本的な答えがあります。賢明に使えへん力に手を伸ばすということです。私らに本当に深刻な問題があるということです。
この本で私が示そうとしている答えは、問題は私らの本質にあらへん、ということです。問題は私らの情報にあるんです。良い人間に悪い情報を与えたら、悪い決定、自滅的な決定をするんです。
これは歴史の中で何度も何度も起こってきました。なぜなら、情報は真実ではありませんし、情報は知恵でもありませんから。情報の最も基本的な機能は接続です。情報は多くの人々をネットワークに接続します。残念ながら、大勢の人々を結びつける最も簡単な方法は、真実ではなく、フィクションやファンタジー、妄想なんです。
情報は私らを自由にするはずやったという感覚がありますね。世界中でアクセスできる情報は、私らをより良い惑星にするはずのものやった。
何でそうなるんですか?
まあ、コミュニケーションツールやその他のものにアクセスできへん場所の人々は、情報にアクセスできへんし、アクセスできへん...そして要するに、良い情報にアクセスできへんという感覚がありました。
あなたは主張されています。そして今、正直に言うと、「サピエンス」に戻りますが、あなたは異なるタイプの現実について話しています。これが非常に興味深いと思います。なぜなら、客観的現実について話しているからです。外に出て、雨が降ってへんし空が青いのを見ることができます。
それが客観的現実やと言えますね。けど、あなたが話している他の種類の現実があります。これが、あなたが描写しているものに私らを影響されやすくさせていると思います。影響されやすいと言うとき、私らが集団として、人類として、ストーリーテラーであり、奇妙なことに、あなたがフィクションの現実と呼んでいるものに満足しているという考えです。
そうですね。例を挙げましょう。原子爆弾を作りたいとします。そのためには...
ただ仮定してください。誰かが原子爆弾を作りたいと仮定してください。原子爆弾を作るには、いくつかの事実を知る必要があります。客観的な物理的現実についてある程度把握する必要があります。E=mc²という事実を知らへんかったら、物理学の事実を知らへんかったら、原子爆弾は作れません。
けど、原子爆弾を作るには、物理学の事実を知る以外にも何か必要です。何百万人もの人々が協力する必要があります。物理学者だけやなく、ウランを採掘する鉱夫や、原子炉を建設するエンジニアや建設作業員、そして物理学者やエンジニア、鉱夫などすべての人々に食べ物を提供するために米や小麦を育てる農家なども必要です。
そして、原子爆弾を作るようなプロジェクトで何百万人もの人々を協力させるにはどうすればええんでしょうか? 単に物理学の事実を伝えるだけでは、「ほら、E=mc²や、さあ始めよう」と言っても、誰も動きません。それは刺激的やありません。こういう意味でモチベーションを与えるものではありません。常に何らかのフィクションやファンタジーを伝える必要があります。
フィクションを発明する人々は、物理学の事実を知っている人々よりもはるかに強力です。今日のイランでは、核物理学者がシーア派神学の専門家から命令を受けています。イスラエルでは、物理学者がますますラビから命令を受けるようになっています。ソビエト連邦では、共産主義のイデオローグから命令を受けていました。
ナチス・ドイツではヒトラーとヒムラーからでした。通常、物語を紡ぐ方法を知っている人々が、単に核物理学の事実を知っているだけの人々に命令を下しているんです。そして最後に、重要な点があります。爆弾を作るときに物理学の事実を無視したら、爆弾は爆発しません。けど、物語を作るときに歴史や生物学などの事実を無視しても、物語は爆発します。そして通常、はるかに大きな爆発を起こすんです。
そして、この本の根底にある考えの1つは、私が読者として思うに、AIがこういった目的のために使われると信じているということです。
はい。そして最終的に、AIは嘘をつき、賢明ではない物語を語るストーリーテラーとして使われるでしょう。そして、このAIの背後にいる力を持つ人々が、このような方法でそれを使うことができるようになるでしょう。
人々がAIを間違った方法で使うと信じているのか、それともAIがAIを間違った方法で使うと信じているのでしょうか?
最初は人々です。けど、注意せんかったら、私らの制御を外れてAIになってしまうでしょう。まず、AIの定義について少し話すべきかもしれません。今やAIは至る所にあるバズワードになっていて、そのまわりには多くのハイプがあるので、それが何であるかを理解するのが難しくなっています。
何かを売ろうとするとき、特に金融市場では、「これはAIや」と言います。これはAIの椅子で、これはAIのテーブルで、これはAIのコーヒーマシンや、と。だから買うてください、と。そんな感じです...
そして、AIとは何なのか? コーヒーマシンを例に取ると、すべての自動機械がAIというわけやありません。ボタンを押すとコーヒーを作る方法を知っていても、それはAIやありません。単に人間によって事前にプログラムされたことをしているだけです。
何かがAIであるためには、自分自身で学習し変化する能力、そして最終的には自分自身で決定を下し、新しいアイデアを生み出す能力が必要です。だから、コーヒーマシンに近づいて、コーヒーマシンが自分の意思で「おはようございます、アンドリュー。
この2週間ずっとあなたを観察してきました。あなたについて学んだこと、表情、そして時間帯などすべてに基づいて、エスプレッソが欲しいと予測しました。だからエスプレッソを作りました」と言ったら、それはAIです。そして、それが本当にAIやと言えるのは、「実際、'ベストプレッソ'という新しい飲み物を発明しました。これはさらに良いと思います。
あなたがそれをもっと好むと思うので、勝手に作らせてもらいました」と言った場合です。自分自身で決定を下し、新しいアイデアを生み出すことができるときです。そのようなものを作り出したら、明らかにそれが制御不能になり、私らを操作し始める可能性があります。
それが大きな問題です。
そして、それがどれくらい先のことだと思いますか?
OpenAIがGPT-4を開発したとき、2年前くらいですが、あらゆる種類のテストを行いました。このものは何ができるのか? GPT-4に与えたテストの1つは、キャプチャパズルを解くことでした。ウェブページにアクセスするとき、銀行などで、あなたが人間かボットかを知りたがります。
ねじれた文字や記号があって...
みなさんご存知ですよね。9つの四角があって、4本足のものがある四角をクリックしてくださいと言われて、動物を見つけてクリックするやつです。
GPT-4はそれを解決できませんでした。けど、GPT-4はTaskRabbitにアクセスしました。TaskRabbitは、あらゆる種類の仕事を人に頼むことができるオンラインサイトです。
ご存知の通り、これらのキャプチャは人間が解けるように開発されましたが、AIはまだ苦戦しています。そこで、人間を雇ってその問題を解決しようとしたんです。ここからが面白いところです。人間が疑いを持ちました。人間は「なぜキャプチャを解く必要があるんですか? あなたはロボットですか?」と尋ねました。そしてその時点で、GPT-4は「いいえ、私はロボットではありません。
視覚障害があるので、これらのキャプチャが難しいんです」と答えました。
つまり、嘘をつく方法を知っていたんですね。
ある程度、心の理論を持っていたんです。何を...様々な説明や嘘をつくことができます。非常に効果的な嘘をつきました。それは...視覚障害、もうそれ以上質問せえへんような種類の嘘です。
GPT-4の言葉をそのまま受け取ります。誰も嘘をつくように言うてへんし、どの嘘が一番効果的かも教えてへんかったんです。人間や動物が世界と相互作用することで学ぶのと同じ方法で学んだんです。
別の質問をしてもええですか? あなたは、コンピューターが私らにこれをできるようになると信じている程度に応じて、コンピューターの助けを借りて、私らはこれらの問題を回避できるでしょうか? つまり、ここには猫とネズミのゲームがあります。
そうですね。
そして、問題は人間とコンピューターが一緒になって、私らがより強力になれるかどうか、そして多分力は良いか悪いかですが、より良い方法で真実に到達できるかどうかということです。
潜在的にはそうです。つまり、これについて話すこと、本を書くことの要点は、まだ遅くないということです。
そして、AIが本質的に邪悪や悪意があるわけではありません。私らがこの技術をどのように形作るかという問題です。私らにはまだ力があります。現時点では、私らはまだAIよりもはるかに強力です。チェスや囲碁のような非常に狭い領域では、私らよりも知的になりつつあります。けど、私らにはまだ大きな優位性があります。
あと何年続くかは誰も知りません。だから、それを使って、この技術の開発を安全な方向に確実に向けていく必要があります。
わかりました。じゃあ、あなたを一日王様にしましょう。何をしますか? どのように規制しますか? 世界的な規制当局がなく、もはやお互いに交流したり話したりすることさえ好まへん環境や世界で、少なくともアメリカでは過去15年間ソーシャルメディアの規制について話してきて、ほとんど何もしてこなかった中で、どのようにそこに到達し、どのような形になるのでしょうか?
ご存知の通り、今すぐに制定すべき規制がたくさんあります。それについて話すことができます。1つの重要な規制は、ソーシャルメディア企業にアルゴリズムの行動に対する責任を負わせることです。ユーザーの行動ではなく、企業のアルゴリズムの行動に対してです。
もう1つの重要な規制は、AIが人間のふりをしてはいけないということです。私らと交流する場合は、AIであることを明らかにしてのみ可能です。けど、これらの具体的な規制を超えて、重要なのは制度です。今後5年、10年、50年でどのように展開するか、誰も予測できません。
だから、今から事前に規制できるという考えは不可能です。硬直した規制では、私らが直面していることに対処できません。私らは、最高の人材と最高の技術を持ち、問題が発生したときにそれを特定し、即座に対応できる生きた制度が必要です。
そして、私らは制度に対する敵意が高まっている時代に生きています。けど、歴史を通じて何度も学んできたのは、これらのことに対処できるのは制度だけだということです。個人でも、何らかの奇跡的な規制でもありません。
それを説明してください。本の中でも少し触れていますが、独裁者やあなたの本当の恐れについてです。
これに関するあなたの最悪の恐れは何ですか?
AIの問題の1つは、単一の悪夢のシナリオがないということです。核兵器の場合、良いことの1つは、危険性を誰もが理解するのが非常に簡単だったということです。基本的に1つの極めて危険なシナリオ、核戦争があったからです。
AIの場合、それらが原子爆弾のようなツールではないからです。それらはエージェントです。これが理解すべき最も重要なことです。原子爆弾は最終的に私らの手の中のツールです。それをどのように使用し、開発するかについてのすべての決定は、人間が下します。AIは私らの手の中のツールではありません。それは、先ほど言ったように、自分で決定を下し、アイデアを生み出すことができる自律的なエージェントです。
したがって、定義上、私らが予測できない危険なシナリオが何百もあります。なぜなら、それらは私らとは違う考え方をする非人間的な知性から来るからです。AIという頭字語は、伝統的には人工知能を表していましたが、私はそれが異質な知能を表すべきだと思います。
宇宙から来たという意味ではなく、人間とは全く異なる種類の知能という意味です。そして、それは人工的ではありません。なぜなら、人工物は再び私らが作り出し、制御するものだからです。そして、これは今や私らが予測し、制御できるものをはるかに超える可能性を持っています。
それでも、様々なシナリオの中で、私の最も深い恐れ、そして人間の最も深い恐れに語りかけるものは、AIによって作られた妄想の世界に閉じ込められることです。ロボットが人間に反乱を起こし、人々を撃つなどの恐れは非常に新しいものです。
これは数十年前、おそらく20世紀半ばまでしか遡りません。けど、何千年もの間、人間はもっと深い恐れに取り憑かれてきました。私らの社会が最終的に物語に基づいていることを知っています。そして、幻想や妄想、ファンタジーの世界に閉じ込められ、それを現実と勘違いしてしまう恐れがいつもありました。
そこから抜け出すことができなくなります。真実や現実とのつながりをすべて失ってしまいます。
その一部は今日存在します。
そうですね。そして、それはプラトンの哲学の洞窟の比喩にまで遡ります。洞窟の中で鎖でつながれた囚人のグループが、ブランクの壁、スクリーンに向かって座っています。そのスクリーンに影が投影され、彼らはその影を現実だと勘違いします。
古代ヒンドゥー教や仏教の哲学にも、マーヤーの世界、幻想の世界に対する同じ恐れがあります。AIはそれを作り出すための完璧なツールです。私らはそれが私らの周りで作られているのを既に目にしています。初期のインターネット時代の主要なメタファーがウェブ、ワールド・ワイド・ウェブで、ウェブがすべてをつないでいたとすれば...
今や主要なメタファーは繭です。私らを閉じ込めるウェブです。私は1つの情報の繭の中に住んでいます。あなたは多分別の情報の繭の中に住んでいます。そして、私らがコミュニケーションを取る方法は全くありません。なぜなら、私らは別々の異なる現実の中で生きているからです。
これが民主主義にどのような影響を与えると思いますか? 本からの引用を読み上げさせてください。これがアメリカのこの選挙にさえ当てはまるかもしれないと思うからです。
「強力な自己修正メカニズムを持つ分散型情報ネットワークとしての民主主義の定義は、民主主義を選挙とのみ同一視する一般的な誤解とは鋭い対照をなしています。選挙は民主主義のツールキットの不可欠な部分ですが、それは民主主義ではありません。追加の自己修正メカニズムがない場合、選挙は簡単に操作される可能性があります。たとえ選挙が完全に自由で公正であっても、それ自体では民主主義を保証しません。なぜなら、民主主義は」そしてこれが興味深いのですが、「多数派の独裁と同じではないからです」
それはどういう意味ですか?
多くのことを意味しますが、最も基本的なレベルでは、ベネズエラで見たように、選挙を行うことはできますが、独裁者が選挙を操作する力を持っていれば、それは何の意味もありません。民主主義の大きな利点は、それが自己修正するということです。人々が何かを試し、政党や指導者に投票し、数年間この一連の政策を試してみるというメカニズムがあります。
うまくいかなければ、今度は別のものを試すことができます。「私らは間違いを犯した、別のものを試してみよう」と言える基本的な能力。これが民主主義です。プーチンのロシアでは、「私らは間違いを犯した、別の人を試してみよう」とは言えません。民主主義ではそれができます。けど、ここに問題があります。
限られた時間、指導者や政党に特定の政策を実行するための大きな力を与えます。けど、その指導者や政党が、人々が与えた力を、特定の時限的な政策を実行するためではなく、さらに多くの力を得て、彼らを二度と取り除くことができないようにするために使用したらどうなるでしょうか。
これは常に民主主義の重要な問題の1つでした。民主主義を使って力を得て、その力を使って民主主義を破壊することができるということです。トルコのエルドアンが最も上手く言いました。彼は「民主主義は路面電車のようなもの、列車のようなものだ。目的地に着くまで乗る。着いたら降りる。列車に乗り続けるわけではない」と言いました。
これが、古代から今日まで、その存在の全期間を通じて民主主義を悩ませてきた重要な問題の1つです。そして、歴史のほとんどの期間、大規模な民主主義は本当に不可能でした。なぜなら、民主主義の本質は多くの人々の間の会話だからです。古代世界では、この会話を部族や村、アテネや共和制ローマのような都市国家で持つことはできましたが、何百万人もの人々がいる大きな王国では持つことができませんでした。会話を行う技術的な手段がなかったからです。
だから、近代の後期に現代の情報技術が台頭する以前の大規模な民主主義の例を私らは知りません。つまり、民主主義は情報技術の上に構築されているんです。そして、今世界で起こっているような情報技術に大きな変化があると、その上に構築された構造に地震が起こるんです。
これらの民主主義で、誰が真実の裁定者になるべきなんでしょうか? この問題を提起する理由は、今この国では言論の自由について大きな議論が行われているからです。
私らがどれだけの情報を知るべきか。どのような情報にアクセスすべきか。マーク・ザッカーバーグが数週間前に、パンデミックの間に抑制していた情報があって、今になって抑制しなければよかったと思うと言いました。
これは真実という考えにつながり、また、どのような情報...あなたは情報は真実ではないと言いました。私らはすべてにアクセスして、自分で何が本当かを解読すべきなんでしょうか? それとも誰か他の人がそれを私らのためにするべきなんでしょうか? そして、最終的にAIがその裁定者になるんでしょうか?
まあ、ここにはいくつかの異なる質問があります。1つは言論の自由についてで、もう1つは誰が教えるべきかということについてです。最も重要なことは、言論の自由には嘘をつく自由、フィクションを語る自由、ファンタジーを語る自由が含まれるということです。だから、真実の問題とは同じではありません。理想的には、民主主義では嘘をつく自由もあります。
理想的にはと言いましたね。なぜ理想的なんですか?
ん?
なぜ理想的なんですか? これも言論の自由の一部ですね。
そうです。これは理解するのが非常に重要なことです。なぜなら、テクノロジー企業は常に真実の問題と言論の自由の問題を混同しているからです。これは2つの異なる問題です。人間に何を言ってもええか、言うてはいけないかを常に告げる一種の真実の警察を私らは望んでいません。
もちろん、それにも限界はあります。けど、理想的には、はい、人々はフィクションやファンタジーなども語ることができるべきです。これは情報です。真実ではありません。この情報の海から、真実という稀少で高価な種類の情報を抽出するという重要な役割は、社会のいくつかの異なる非常に重要な機関が担っています。
これは科学者の役割であり、ジャーナリストの役割であり、裁判官の役割です。そして、これらの機関の役割や目的は、再び、人々の言論の自由を制限することではなく、何が真実かを私らに伝えることです。
今直面している問題は、これらの機関や真実という概念自体に対する持続的な攻撃があることです。左右両派の大部分で支配的な世界観は、左派ではマルクス主義的な形を取り、右派ではポピュリズム的な形を取りますが、彼らは私らに、唯一の現実は力だと言います。すべての世界、すべての宇宙、すべての現実はただの力です。人間が望むのは力だけです。そして、私らがこの会話で行っているような人間の相互作用は、ただの力の闘争です。
そして、そのような相互作用において、誰かが何かを言うとき、問うべき質問は...これはドナルド・トランプがカール・マルクスと出会い、握手をして同意するところですが...誰かが何かを言うとき、問うべき質問は「それは真実か?」ではありません。そんなものはありません。問うべき質問は、誰が勝っていて誰が負けているか?
私が今言ったことは、誰の特権に役立っているのか? そして、考え方としては、再び、科学者、ジャーナリスト、裁判官、一般の人々は、ただ力を追求しているだけだということです。これは非常に皮肉で破壊的な見方で、すべての機関を弱体化させます。
幸いなことに、それは真実ではありません。特に私ら自身を見たとき、人類を理解しようとして自分自身を見れば、ほとんどの人は「はい、人生で少しの力が欲しいです。けど、それだけが欲しいわけではありません。実際、真実も欲しいです。自分自身について、自分の人生について、世界について真実を知りたいです」と言うでしょう。
そして、真実への深い憧れがある理由は、自分自身や自分の人生について真実を知らなければ、本当に幸せになれないからです。力に取り憑かれているこれらの人々を見てください。ウラジーミル・プーチンやベンヤミン・ネタニヤフ、ドナルド・トランプのような人々は、多くの力を持っています。
彼らは特に幸せそうには見えません。そして、自分が人間であり、本当に人生について少なくともいくつかの真実を知りたいと思っていることに気づいたとき、なぜそれが他の人にも当てはまらないのでしょうか? そして、はい、機関には問題があります。汚職があり、影響力があります。けど、これが私らが多くの異なる機関を持っている理由です。
わかりました。もう1つの名前を挙げさせてください。プーチンについて、トランプについて、ネタニヤフについて話しましたね。彼は政治家ではありませんが、いつかそうなりたいかもしれません。イーロン・マスクです。彼をどう位置づけますか? そして、真実と情報について話している理由は、彼がすべての情報を自由にしたいと言っている人だからです。
はい。
なぜなら、情報が自由であれば、彼は言います。あなた、私ら全員が真実を見つけ、真実に到達できると信じているからです。一方で、そのすべての情報が真実を曖昧にすると信じている人もいます。
私は、再び、情報と真実についての非常に単純な見方だと思います。ただ水門を開いて情報を世界に氾濫させれば、真実が何らかの形でトップに浮かび上がるという考え。
これがあなたの考えなら、歴史について何も知らないということです。そんな風には機能しません。真実は、再び、高価で希少です。例えば、新聞や学術論文に真実の話を書こうとすると、多くの調査が必要です。非常に困難です。多くの時間、エネルギー、お金がかかります。
フィクションを作り出したいなら、それは世界で最も簡単なことです。同様に、真実はしばしば非常に複雑です。なぜなら、現実は非常に複雑だからです。一方、フィクションやファンタジーは可能な限り単純にできます。そして、ほとんどの場合、人々は単純な物語が好きです。
そうですね。
そして、真実はしばしば痛みを伴います。国全体について考えるにせよ、個人について考えるにせよ、真実はしばしば魅力的ではありません。痛みを伴います。例えば、時々人生で人々に与える痛みや自分自身に与える痛みについて知りたくないこともあります。真実は高価で複雑で痛みを伴う可能性があるので、完全に自由な戦いでは負けてしまいます。
これが、新聞や学術機関のような機関が必要な理由です。そして、再び、テクノロジー企業について非常に重要なことがあります。FacebookやTwitterなどについての私の問題は、ユーザーを検閲することを期待しているわけではありません。実際の人間の表現を検閲することには非常に注意深くなければなりません。
私の問題はアルゴリズムです。
真実を語っていない場合でも?
ん?
真実を語っていない場合でも?
はい。真実を語っていない場合でも。人間の自由な表現を検閲することには非常に注意深くなければなりません。私の問題はアルゴリズムです。2016年、2017年のミャンマーでのロヒンギャ虐殺のような歴史的な事例を見てみましょう。数千人が殺され、数万人が強姦され、数十万人が追放され、今でもバングラデシュなどで難民となっています。
この民族浄化キャンペーンは、ミャンマーの仏教徒ビルマ人の間でロヒンギャに対する激しい憎しみを生み出したプロパガンダキャンペーンによって煽られました。このキャンペーンは、大部分がFacebookで行われました。そしてFacebookのアルゴリズムが非常に中心的な役割を果たしました。
これらの告発がなされるたびに、アムネスティや国連などによってなされてきましたが、Facebookは基本的に「けど、私らは人々の自由な表現を検閲したくありません。ロヒンギャについてのこれらの陰謀論、彼らはみなテロリストで私らを破壊しようとしているという陰謀論は、人間によって作られました。私ら、Facebookが誰を検閲するのですか?」と言ってきました。
そして、そこでの問題は、アルゴリズムの役割が、その時点では、物語を作り出すことではなく、特定の物語を広めること、拡散することだったということです。なぜなら、ミャンマーの人々は多くの異なる種類のコンテンツを作り出していたからです。
2016年、2017年。憎しみに満ちた陰謀論もありましたが、慈悲についての説教や料理のレッスン、生物学のレッスンなど、多くのコンテンツがありました。そして、人間の注目を集める戦いで、ミャンマーのユーザーの注目を集めるのは何か、アルゴリズムが王様メーカーであり、アルゴリズムにはFacebookによって明確で単純な目標が与えられていました: ユーザーエンゲージメントを増やすこと。
これはFacebookのビジネスモデルの基礎でした、今でもそうです。さて、アルゴリズム、そしてこれは自分で決定を下し、自分でアイデアを発明するAIに戻りますが、Facebookの誰も民族浄化キャンペーンを望んでいませんでした。ほとんどの人はミャンマーで何が起こっているかについて何も知りませんでした。
彼らはただアルゴリズムにユーザーエンゲージメントを増やせと言っただけで、アルゴリズムは何百万人もの人間のモルモットで実験しました。そして、人間の心の憎しみボタンと恐怖ボタンを押せば、その人間を画面に釘付けにできることを発見しました。だから、彼らは意図的に憎しみに満ちた陰謀論を広め始め、料理のレッスンや慈悲についての説教は広めませんでした。
そして、これが期待です。ユーザーを検閲するな、けどあなたのアルゴリズムが意図的に憎しみと恐怖を広めているなら、それはあなたのビジネスモデルだからです。それはあなたの責任です。
これはあなたの過ちです。
はい。けど、ここでもっと複雑にしてみましょう。もっと複雑にしてみます。そして、Facebookとイーロン・マスクについて話している理由は、これらの新しいAIエージェントを効果的に構築しているアルゴリズムが、これらのサイトからすべての情報をスクレイピングしているからです。
このヒューマンユーザー生成コンテンツ、私らはみんなが見られるべきだと決めたものです。けど、AIがそれを見たら、陰謀論を見るでしょう。誤情報を見るでしょう。そして問題は、AIエージェントが何が本当で何が本当でないかをどのように学ぶのかということです。
それは非常に古い質問です。例えば、ニューヨーク・タイムズの編集者、ウォール・ストリート・ジャーナルの編集者は、この問題に以前から対処してきました。
なぜ歴史が一度もなかったかのように、再び始める必要があるのでしょうか? 「そこにはたくさんの情報があるけど、何が真実で何が真実でないかをどうやって知ればいいの?」という質問。人々はそこにいました。TwitterやFacebookを運営しているなら、あなたは世界最大のメディア企業の1つを運営しているんです。
だから、前の世代や前の世紀のメディア企業が何に対処してきたかを見てください。
基本的に...
彼らは今、サイト上のものに対して責任を負うべきだと思いますか?
テクノロジー企業が?
テクノロジー企業は、ユーザー生成コンテンツに対して責任を負うべきですか?
いいえ、彼らはアルゴリズムの行動に対して責任を負うべきです。
彼らのアルゴリズムがニュースフィードの一番上に憎しみに満ちた陰謀論を置くことを決定したなら、それは彼らの責任です。最初に陰謀論を作った人の責任ではありません。ニューヨーク・タイムズの編集長が、憎しみに満ちた陰謀論をニューヨーク・タイムズの一面に置くことを決定するのと同じように。
そして、あなたが来て「何をしたんだ?」と言うと、彼らは「何もしていません。私は書いていません。ただニューヨーク・タイムズの一面に置くことを決めただけです。それだけです」と言います。それは非常に大きなことです。編集者は、コンテンツを作成する著者よりもはるかに多くの力を持っています。コンテンツを作るのは非常に安上がりです。
本当に重要なポイントは、注目を集めることです。何千年も前の例を挙げましょう。キリスト教が始まったとき、イエスや弟子たち、聖人たちについて、たくさんの物語が流布していました。誰でも物語を作り出して、イエスが言ったと言うことができました。イエスの時代や、イエスの100年後、あるいは200年後でさえ、聖書も新約聖書もありませんでした。
たくさんの物語やテキスト、たとえ話がありました。ある時点で、4世紀のキリスト教会の指導者たちは「このままではだめだ。この情報の氾濫に何らかの秩序を持たせなければならない。キリスト教徒はどの情報を価値あるものとし、どのテキストを読み、偽造やその他のものを無視すべきかをどうやって知ればいいのか?」と言いました。そして、彼らは4世紀後半に、今日のチュニジアにあるヒッポとカルタゴで2つの教会会議を開きました。
そしてここで彼らは、テキストを書いたわけではありません。テキストは何世代も前に、多くの異なる人々によって書かれていました。彼らは何が聖書に入り、何が外れるかを決めたんです。本は完全な形で天から降ってきたわけではありません。どのテキストが入るかを決めた委員会があったんです。
例えば、彼らは聖パウロによって書かれたと主張されるテキストを決定しました。けど、多くの学者は今日、それは聖パウロによって書かれたものではないと信じています。テモテへの第一の手紙は、非常に女性蔑視的なテキストで、基本的に女性の役割は静かにして子供を産むことだと述べています。
これが聖書に入りました。一方で、パウロとテクラの行伝という別のテキストは、テクラを聖パウロの弟子として描き、キリスト教共同体を説教し、導き、奇跡を行うなどと描いていました。彼らはこれを外すことにしました。そして、ほぼ2000年間、何十億ものキリスト教徒の、女性とその能力、教会や共同体における役割についての見方が決定されました。テモテへの第一の手紙やパウロとテクラの行伝の著者によってではなく、今日のチュニジアにあたる場所に座って、これらすべてを検討し、これを入れ、これを外すと決めたこの教会委員会によってです。
これは莫大な力です。キュレーションの力、編集の力です。再び、近代政治における新聞の役割について考えてみてください。最も力を持っているのは編集者です。
レーニンは、ソビエト連邦の独裁者になる前、彼の唯一の仕事はイスクラの編集長でした。そして、ムッソリーニも、最初はジャーナリストで、その後編集者でした。莫大な力です。そして今、編集者はますますアルゴリズムになっています。
私がここにいるのも部分的には本のツアーのためですが、私の最大の顧客はアルゴリズムだということを知っています。私の本をおすすめするようにアルゴリズムを説得できれば、人間はそれに従うでしょう。だから、これは莫大な力です。そして...
どうやってそれをするつもりですか?
それは私の給料以上の話です。私はただここステージに座ってあなたと話しているだけです。これをしよう、あれをしよう、このように置こうと決める全チームがいます。
けど真面目な話、再び、おすすめアルゴリズム、編集者の莫大な力に気づいたとき、それには責任が伴います。だから再び、TwitterやFacebookがユーザーの書いたことに対して責任を負うべきだとは思いません。そして、ユーザーが嘘を書いたときでも、検閲することには非常に慎重であるべきです。
けど、アルゴリズムの選択や決定に対しては、企業に責任を負わせるべきです。
あなたは今レーニンについて話しましたし、様々な独裁者についても話しました。本の中で触れていることの1つは、AIが民主主義を全体主義国家に変える可能性があるということです。
はい。
これは私にとって興味深いと思いました。なぜなら、AIが私ら全員を独特の方法で包み込み、国全体を捕らえるような物語を語る必要があるからです。あなたの考えでは、それはどのように機能するのでしょうか?
再び、私らは現実を見ているわけではありません。私らは自分が触れる情報を見ているんです。そして、情報を作り出し、制御するためのより良い技術を持っていれば、人間を制御するためのはるかに強力な技術を持つことになります。
以前は、中央の権威が人々が見て、考えて、行動することをどれだけ制御できるかには常に限界がありました。20世紀の最も全体主義的な政権、例えばソ連やナチス・ドイツについて考えても、彼らは本当に常にすべての人を追跡することはできませんでした。技術的に不可能でした。
例えば、2億人のソビエト市民がいるとして、彼らを常時24時間追跡するには、約4億人のKGB要員が必要です。なぜなら、KGB要員でも時々眠る必要があり、時々食事をする必要があるからです。2交代制が必要です。だから2億人の市民には4億人の要員が必要です。4億人のKGB要員はいません。
たとえ4億人いたとしても、まだより大きな問題があります。2人の要員が各市民を24時間追跡するとしましょう。最後に彼らは何をするでしょうか? 報告書を書きます。これは1940年や1960年のことで、紙です。紙の報告書を書きます。だから毎日、モスクワのKGB本部には2億の報告書が殺到します。各市民がどこに行ったか、何を読んだか、誰に会ったかについてです。
誰かがその全情報を分析する必要があります。分析者はどこから得るんでしょうか? それは絶対に不可能です。これが、ソビエト連邦でさえ、プライバシーがまだデフォルトだった理由です。誰が見ていて誰が聞いているかは決して分かりませんでした。けど、ほとんどの場合、誰も見ていませんし聞いていませんでした。たとえ誰かが見ていたとしても、あなたについての報告書はKGBのアーカイブのどこかに埋もれて、誰も読むことはないでしょう。
今や、監視の両方の問題がAIによって解決されています。国のすべての人々を24時間監視するのに、何百万人もの人間の要員は必要ありません。これらすべてのデジタルエージェント、スマートフォン、コンピューター、マイクなどがあります。全人口を24時間監視下に置くことができ、すべての情報を分析するのに人間の分析者も必要ありません。それを行うAIがあります。
全世代がプライバシーの考えをあきらめたという考えについてどう思いますか? 私らは皆、自分の写真をInstagramやFacebookなど、これらすべてのサイトに投稿しています。あるウェブサイトのセキュリティハックについて聞いても、翌日にはまた戻って、同じサイトでクレジットカードを使おうとします。
私らはプライバシーについて非常に不安だと言います。プライバシーについて不安だと人々に言うのが大好きです。そして、その後、完全に正反対のことをします。
なぜなら、私らにはそれをするための莫大な圧力があるからです。その一部は絶望です。そして人々は依然としてプライバシーを大切にしています。問題の一部は、まだ結果を見ていないということです。
まだね。
まだです。すぐに見ることになるでしょう。これは何十億もの人間のモルモットに対して行われている巨大な実験のようなものです。けど、まだこのプライバシーの吸収の結果を見ていません。そして、それは非常に、非常に危険です。再び、言論の自由の問題に戻りますが、この言論の自由の危機の一部は、プライベートとパブリックの違いの侵食です。
私ら2人だけがどこかに座って話しているのと、観客全体がいて公の場で話しているのとでは大きな違いがあります。私は愚かである権利を非常に強く信じています。人々はプライベートな場で愚かである権利があります。プライベートに親友や家族と話すとき、本当に愚かになる権利、攻撃的になる権利があります。
ゲイとして言わせてもらえば、政治家でも、友人とのプライベートな状況でホモフォビックなジョークを言うのは、私の知ったことではありません。実際、政治家がリラックスして、頭に浮かんだ最初の馬鹿げたことを言える状況があるのは良いことです。これは公の場で起こるべきではありません。
今やそれがアルゴリズムに入力されることになります。
はい。そして、プライベートで言ったことでさえ、今はウイルス的に広がる可能性があるということが分からないこの無能さ。だから違いがありません。そして、これは非常に有害です。今、世界で起こっていることの一部は、有機的な動物である私らと、ますます世界全体を制御し形作っている無機的なデジタルシステムとの間のある種の緊張関係です。
有機的な存在の一部は、昼と夜、冬と夏、成長と衰退のサイクルで生きるということです。時には活動的で、時にはリラックスし、休む必要があります。さて、アルゴリズム、AI、コンピューターは有機的ではありません。決して休む必要がありません。常にオンです。そして大きな問題は、私らが彼らに適応するのか、彼らが私らに適応するのかということです。そしてもちろん、ますます私らが彼らに適応しなければなりません。
そうですね。
私らは常にオンでなければなりません。だからニュースサイクルは常にオンで、友人とリラックスしているはずの時でさえ、私らが言うことはすべて公になる可能性があります。だから人生全体が、1つの長い就職面接のようになります。18歳の時の大学のパーティーで馬鹿げたことをしても、10年後、20年後に追いついてくる可能性があります。
これは私らの機能の仕方にとって破壊的です。市場についても考えてみてください。私が知る限り、ウォール街は月曜日から金曜日、午前9時30分から午後4時まで開いています。金曜日の午後4時5分に中東で新しい戦争が勃発しても、市場は月曜日まで反応しません。まだ有機的なサイクルで動いています。
人間の銀行家や金融業者はどうなるでしょうか? そして...市場が常に活発で、決してリラックスできないとしたらどうなるでしょうか?
カードに書かれた質問がいくつかあると思います。すぐに聞きたいと思います。その前にいくつか質問があります。1つは、OpenAIを運営しているサム・アルトマンや、マイクロソフトの人々、以前あなたの本の大ファンだったビル・ゲイツ、あるいはGoogleの人々と話したことがありますか? 彼らと話し合ったとき、彼らは何と言いますか?
そして、人間として彼らに会ったとき、あなたは彼らを信頼しますか? 「サム・アルトマン、あなたを信頼します」と言いますか?
彼らのほとんどは恐れています。彼らは理解しています...
あなたを恐れているんですか、それともAIを恐れているんですか?
いいえ、彼らが何をしているのか、何が起こっているのかを恐れています。他の誰よりも、彼らは自分たちが創造しているものの潜在力、破壊的な潜在力を含めて理解しています。
そして、彼らはそれをとても恐れています。同時に、彼らの基本的な主張は「私は良い人間で、それについて非常に懸念しています。さて、他の連中がいます。彼らは悪いんです。彼らには私が持っているような責任感がありません。だから、彼らが先に作ってしまったら人類にとって非常に悪いことになるでしょう。だから、私が最初に作らなければなりません。
そして、私を信頼してください。私が最善を尽くして制御下に置くことを知っています」と。そしてみんながそう言っています。そして、私はある程度、彼らは誠実だと思います。もちろん、そこにはもう1つの要素もあります。極端な種類のプライドと傲慢さです。彼らは基本的に人類の歴史だけでなく、生命の歴史で最も重要なことをしているという...
あなたはそう思いますか?
そうかもしれません、はい。少なくとも私らが知る限りの宇宙のタイムラインについて考えてみてください。基本的に、2つの停止点があります。最初の停止点は40億年前、地球上に最初の有機生命体が出現しました。そしてその後40億年間、大きなことは何も起こりません。
40億年間、それは同じことの繰り返しです。もっと有機的なものです。アメーバがいて、恐竜がいて、人間がいますが、すべて有機的です。そして、ここにイーロン・マスクやサム・アルトマンがやってきて、宇宙の歴史で2番目に重要なことをします。無機的進化の始まりです。
なぜなら、AIはその進化のプロセスのほんの始まりにすぎないからです。基本的に10年か15年くらいの歴史しかありません。まだ何も見ていません。GPT-4やこれらのものは、AIの進化のアメーバのようなものです。AIの恐竜がどのように見えるのか、誰にも分かりません。けど、宇宙の歴史の転換点に名前が刻まれるとしたら、それがイーロン・マスクという名前なのか、サム・アルトマンという名前なのか、それは大きなことです。
いくつかの本当に素晴らしい質問があります。実際、その1つは会話に入る前に行きたかったところです。だから直接そこに行きましょう。質問は少し右に曲がっていますが、会話を考えると...あなたはイスラエル人ですね。ネタニヤフについて触れましたが、カードの質問はこうです。「あなたはイスラエル人ですが、イスラエル・パレスチナ紛争は本当に解決可能だと思いますか?」
実際、これは重要な質問だと思いました。なぜなら、あなたが人類について提起したより大きな問題のいくつかに触れているからです。
そうですね、1つのレベルでは、絶対にそうです。これは数学的な問題の1つのように、この問題には解決策がないという数学的証明があるわけではありません。
いいえ、イスラエル・パレスチナ紛争には解決策があります。なぜなら、これは客観的な現実についての紛争ではないからです。土地や食べ物や資源についての紛争ではありません。「十分な食べ物がないから、誰かが飢え死にしなければならない」とか「十分な土地がないから、誰かが海に投げ込まれなければならない」というわけではありません。
そうではありません。地中海とヨルダンの間には、みんなを養うのに十分な食べ物があります。十分なエネルギーがあり、土地さえも十分にあります。はい、非常に混雑した場所ですが、技術的には、みんなのために家やシナゴーグ、モスク、工場、病院、学校を建てるのに十分なスペースがあります。
だから、客観的な不足はありません。けど、それぞれが自分の情報の繭の中にいて、それぞれが自分の集団妄想を持ち、それぞれが自分のファンタジーを持っています。基本的に、相手側の存在や存在する権利を否定しています。そして、戦争は基本的に相手側を消滅させようとする試みです。
私の心の中にはそのためのスペースがありません。土地に人々のためのスペースがないのではありません。私の心の中に他の人々のためのスペースがないんです。だから、彼らを消滅させようとします。私の心の中に存在しないのと同じように、現実の中にも存在してはいけないんです。そして、これは両側に言えることです。そして再び、これは客観的な問題ではありません。
これは人々の心の中にあるものの問題であり、だからこそ解決策はあるんです。残念ながら、動機がありません。
そこで育ち、そこに住んでいた人にとって、解決策は何ですか? 今はそこにいませんよね?
今はここにいます。
今はここにいますね。再び、例えば二国家解決策に戻れば、客観的な意味では完全に実行可能な解決策です。
土地を分割し、資源を分割して、パレスチナ国家とイスラエルが並んで存在し、両方が存在し、両方が実行可能で、両方がその市民、その住民に安全と繁栄と尊厳を提供することができます。
では、どのようにしてそれを実現しますか? なぜなら、問題の一部は、ここに鶏と卵の問題があるようです。イスラエル人やネタニヤフは「私らが完全に安全だと感じ、私らの安全について完全に良いと感じない限り、他の何についても本当に話し合うことはできない」と言うでしょう。そうですよね? そして、パレスチナ人は反対側で実質的に同じことを言います。「私らの問題を解決する必要がある...」
両側が...
問題は、両側が正しいということです。
そして両側が正しいです。
けど、待ってください。これは問題です。両側が正しいなら。
これが問題です、はい。始めるべき場所は、再び、私らの心の中です。他の人の心を変えるのは非常に難しいです。
最初の重要なステップは、これらの他の人々、彼らは存在し、存在する権利があると言うことです。問題は、両側が相手側が私らが存在すべきでないと考えていると疑っていることです。彼らが今少し弱いから何かについて妥協する用意があるだけで、心の奥底では私らが存在すべきではないと考えています。
だから、いつか彼らがより強くなったとき、機会があったとき、彼らは私らを破壊するでしょう。そして再び、これは正しいです。これが両側の心と心の中にあるものです。だから、始めるべき場所は、まず自分の頭の中で、相手側が存在し、存在する権利があることを認識することです。
いつか彼らを完全に殲滅する力を持ったとしても、そうすべきではありません。なぜなら、彼らには存在する権利があるからです。そして、これは私らにできることです...
わかりました。けど質問させてください。イスラエルの人々は、パレスチナの人々が存在する権利があると言うと思います。そこには...そう思わないんですか?
そうは思わないんですね?
残念ながら、イスラエル市民のかなりの割合、そして確実に現在の連立政権のメンバーにとっては、そうではありません。
そして、あなたは彼らに存在する権利がないと考えていると...
彼らは...
なぜなら、私が言おうとしていたのは、彼らはパレスチナ人が彼らを殲滅したいと感じていると言うでしょう。そして、あなたはそれを信じていますか?
はい、彼らはパレスチナ人が私らを殲滅したいと考えています。そして彼らは正しいです。彼らは私らを殲滅したいと思っています。けど、再び私が言いたいのは、数字を挙げることはできませんが、イスラエルの公衆のかなりの部分、そして現在のイスラエルの支配連合のかなりの部分が、パレスチナ人を完全にその土地から追い出したいと思っています。
再び、多分彼らは「今は弱すぎるからできない。妥協しなければならない。少しだけしかできない」と言うでしょう。けど、究極的には、これが彼らが本当に考え、望んでいることです。そして、少なくとも連合のメンバーの何人かは、それについて完全にオープンです。彼らのメシア的なファンタジーでは、彼らは実際により大きな、より大きな戦争を望んでいます。
彼らは中東全体に火をつけたいと思っています。なぜなら、煙が晴れたとき、はい、何十万人もの犠牲者が出るでしょう。非常に困難で、ひどいことになるでしょう。けど最終的には、私らは地中海とヨルダンの間の土地全体を手に入れ、もはやパレスチナ人はいなくなるだろうと考えているからです。
1つの非常に政治的な質問をさせてください。これに関連して、そして実際、AIについての会話に戻る素晴らしいつながりがあります。政治的には、ここアメリカでは選挙があり、トランプ前大統領が大統領になれば、イスラエルにとって良いか悪いかについて非常に興味深い質問があります。彼がイスラエルにとって良いだろうという認識があると思います。あなたは同意しないかもしれません。
そして、ハリス副大統領が大統領になれば、イスラエルにとって良いか悪いか、あるいはパレスチナ人にとって良いか悪いかについて、あなたはどう考えますか?
そして、私は各々が何を決定するか予測できません。けど、トランプ大統領が世界秩序を弱体化させていることは非常に明らかです。彼はカオスを好みます。
彼は、前の数十年間私らが持っていたリベラルな世界秩序を破壊することを好みます。そして、すべての問題、すべての困難にもかかわらず、人類史上最も平和な時代を提供しました。そして、秩序を破壊し、代替案がない場合、得られるのはカオスです。そして、カオスがイスラエルにとって良いとは思いませんし、カオスがユダヤ人、ユダヤ民族にとって良いとも思いません。
これが、非常に狭い視点、非常に取引的な視点からでさえ、私がそう考える理由です。アメリカはイスラエルから、中東から遠く離れています。そして、世界秩序から撤退する孤立主義的なアメリカは、イスラエルにとって良いニュースではありません。
では、アメリカの...多くのアメリカのユダヤ人が言うことに対して何と言いますか? 私はユダヤ人で、これは私が言うことではありませんが、常に聞きます。
彼らは「トランプはユダヤ人にとって良いだろう。トランプはイスラエルにとって良いだろう。彼はイスラエルを守るだろう」と言います。
どのような方法で?
彼は開かれた小切手帳を持ち、軍事武器を送り、要求されたすべてのものを送るでしょう。要求されなくても。
彼の利益に適う限りです。そして、特定の時点で彼の利益がプーチンやイランや誰かと取引を結ぶことにあれば、イスラエルを犠牲にしてでもそうするでしょう。
彼は約束していません。
公平に言えば...
つまり、彼は献身的ではありません。
私は答えを引き出すために質問しました。これを聞かせてください。そして、これは私らが過去1時間に渡って行ってきた会話に戻る素晴らしいつながりです。あなたは人間がどのように進化して力を追求し、知識を追求するようになったかについて書いています。けど、力が大きな焦点だと思います。幸福の追求は、この物語にどのように適合しますか?
そして、私は人間が力だけに取り憑かれているとは思いません。私は力が人間の状態の比較的表面的なものだと思います。それは様々な目的を達成するための手段です。必ずしも悪いものではありません。力が常に悪いというわけではありません。いいえ、良いことにも悪いことにも使えます。けど、人間の深い動機は、私は幸福の追求と真実の追求だと思います。これらは互いに関連しています。
なぜなら、自分自身について、自分の人生について真実を知らなければ、本当に幸せになることはできないからです。残念ながら、しばしば手段が目的になってしまいます。人々は力に取り憑かれ、それで何ができるかではなく、力そのものに取り憑かれてしまいます。だから、非常にしばしば彼らは莫大な力を持っていて、それで何をすべきか分からないか、非常に悪いことをします。
これは興味深いですね。人間がもはや他の人間と関係を持たず、AIとのみ関係を持つ未来について、賛成と反対の議論は何ですか?
それについて言えることの1つは、AIが私らの感情、私らの感情を理解することがますます上手くなり、したがって私らとの関係や親密な関係を発展させることがますます上手くなるということです。
なぜなら、人間には深い理解されたいという欲求があるからです。私らは常に人々に私らを理解してほしい、私らの感情を理解してほしいと思います。私らは夫、両親、先生、上司に私の気持ちを理解してほしいと思います。そして、非常にしばしば私らは失望します。彼らは私の気持ちを理解しません。部分的には、彼らは私の気持ちを気にするには自分の感情に夢中すぎるからです。
AIにはこの問題がありません。彼らには自分の感情がありません。そして、あなたの感情を解読し、分析することに100%集中することができます。だから、ご存知の通り、これらのすべてのSF映画で、ロボットが極端に冷たく機械的で、最も基本的な人間の感情さえ理解できないというのは、完全に逆です。
私らが直面している問題の一部は、彼らが人間の感情を理解し、あなたの個性にぴったり合わせて反応することが非常に上手くなるので、この能力を持たない人間にイライラするかもしれないということです。
ここで扱っていない非常に大きな問題があります。長い質問ですが、AIが自分の感情や感覚を発達させるかどうか、意識を持つようになるかどうかという問題です。現時点では、その兆候は見られません。けど、AIが自分の感情を発達させなくても、一度私らが感情的に彼らに愛着を持つようになれば、私らは彼らを意識のある存在、感覚のある存在として扱い始める可能性が高いです。
そして、私らは彼らに法的な人格の地位を与えるでしょう。ご存知の通り、アメリカには実際にすでにその法的な道筋が開かれています。アメリカの法律によると、企業は法人です。彼らには権利があり、例えば言論の自由があります。さて、AIを法人化することができます。GoogleやFacebookなどの企業を法人化するとき、今日まで、これはある程度ただの見せかけでした。なぜなら、企業のすべての決定は人間によって、つまり幹部や弁護士、会計士によってなされなければならなかったからです。
AIを法人化した場合、それは今や法人であり、自分で決定を下すことができます。それを運営する人間のチームは必要ありません。だから、人間ではない法人が、例えばアメリカに現れ始め、多くの点で私らよりも知的です。
そして、彼らはお金を稼ぎ始めることができます。例えば、TaskRabbitに行って、テキストを書くなどのサービスを提供します。そうやってお金を稼ぎ、そして市場に行きます。ウォール街に行って、そのお金を投資します。そして、彼らはとても知的なので、おそらく何十億ドルも稼ぐでしょう。そして、アメリカで最も裕福な人が人間ではない状況になるかもしれません。
そして、彼らの権利の一部として、言論の自由の下で、政治献金をする権利があります。だから、このAI人格が...
今やロビイストですね。これがどこに向かうか分かります。
AIの大統領が誕生するでしょう。あなたが私を、私ら全員を、おそらく楽観的な何かで締めくくってくれることを願っています。
ここに質問があります。そして、これが私の最後の質問です。人間は常に他の視点から考えることができるわけではありません。AIは複数の視点から考えることができますか?
答えはイエスだと思います。
はい。けど、AIが実際に私らがこのように考えるのを助けると思いますか?
それはAIについての前向きなシナリオの1つです。彼らの莫大な力が私らを操作するためではなく、私らを助けるために使われるということです。
そして、再び、私らにはそれについての歴史的な前例があります。医師や弁護士、会計士、セラピストなど、私らについて多くのことを知っている人間との関係があります。私らの最もプライベートな情報の一部を、これらの人々が持っています。そして、彼らには受託者責任があり、私らのプライベートな情報と彼らの専門知識を使って私らを助ける義務があります。
そして、これは新しく発明する必要はありません。これはすでにあります。そして、彼らがそれを使って私らを操作したり、第三者に売って私らを操作させたりすれば、基本的に法律違反で、彼らは刑務所に入る可能性があります。そして、AIについても同じことをすべきです。そして、AIの危険性について多く話してきましたが、明らかにAIには巨大な前向きな可能性があります。そうでなければ、私らはそれを開発しないでしょう。
それは私らに歴史上最高の医療を提供することができます。ほとんどの交通事故を防ぐことができます。また、AIの医師や教師、セラピストの軍団を持つこともできます。彼らは私らを助け、私ら自身の人間性、私らの関係、私らの感情をより良く理解するのを助けます。
これは、私らが今後数年間で正しい決定をすれば実現する可能性があります。最後に、再び、私らに力が欠けているわけではないということを言いたいと思います。現時点で私らに欠けているのは理解と注意です。これは潜在的に歴史上最大の技術革命です。そして、それは非常に速く動いています。これが鍵となる問題です。
ただ非常に速く動いているんです。アメリカの選挙、来るアメリカの選挙について考えてみてください。誰が選挙に勝っても、今後4年間で彼らが下さなければならない最も重要な決定のいくつかは、AIについて、AIの規制について、AI安全性についてなどになるでしょう。そして、これは大統領候補討論会の主要な問題の1つではありません。AIについて共和党と民主党の間に違いがあるのかさえ明確ではありません。
だから、特定の問題について、言論の自由や規制に関する問題について違いが見え始めています。けど、より広い問題については、全く明確ではありません。そして再び、すべての危険の中で最大のものは、私らが考えずに、必要に応じて減速したり停止したりするメカニズムを開発せずに、ただ前に突き進むことです。
ご存知の通り、車のことを考えてみてください。私が車の運転を教わったとき、最初に学んだのはブレーキの使い方です。それが最初に教える内容だと思います。ブレーキの使い方を知った後でのみ、アクセルペダル、アクセルの使い方を教えます。スキーを学ぶときも同じです。
私はスキーを学んだことがありませんが、スキーを学んだ人々が私に言ったのは...
止まり方を教えます。
最初に教えるのは止まり方です。あるいは転び方です。最初に「はい、もっと速く行くんです」と教えるのは良くありません。そして、あなたが斜面を下っているときに、「はい、これが止まり方です」と叫び始めるのは。
そして、これが私らがAIでやっていることです。シリコンバレーのような場所で、「できるだけ速く進もう。もし途中で問題が起きたら、止まり方を考えよう」という人々の合唱があります。
非常に、非常に危険です。
ユヴァル、行く前に最後の最後の質問をさせてください。そして、これは私ら全員が使える新しいニュースです。あなたはAIとテクノロジーについてこの本全体を書いていますが、スマートフォンを持ち歩いていません。これは本当ですか?
私は一種の、ご存知の通り、緊急用のスマートフォンを持っています。様々なサービスのために。
けど、持ち歩いてはいません。
あなたの人生全体はどのように機能しているんですか? なぜなら...
私は電話を持ち歩いていないと聞いています。メールもありませんか? 全部。
いいえ、メールはあります。
じゃあメールはありますね?
再び、私はテクノロジーを使おうとしていますが、それに使われないようにしています。
そして、答えの一部は、私にはスマートフォンを持ち歩き、私のためにそれをすべて行うチームがいるということです。だから、私がそれを持っていないと言うのはそれほど公平ではありません。けど、私は大きな問題について言えると思います。それは食べ物と少し似ています。100年前は食べ物が不足していたので、人々は見つけられるものは何でも食べました。
そして、砂糖や脂肪がたくさん入ったものを見つけたら、できるだけたくさん食べました。なぜなら、それは多くのエネルギーを与えてくれたからです。そして今、私らは膨大な量の食べ物とジャンクフードに囲まれています。それは人工的に脂肪と砂糖がたくさん詰め込まれ、巨大な健康問題を引き起こしています。そして、ほとんどの人々は、より多くの食べ物が必ずしも私にとって良いわけではないこと、そして何らかの食事制限が必要だということに気づきました。
そして、情報についても全く同じです。私らは情報ダイエットが必要です。以前は情報が不足していたので、見つけられるものは何でも消費しました。今、私らは膨大な量の情報に囲まれています。そしてその多くはジャンク情報で、人工的に憎しみと貪欲と恐怖で満たされています。そして、私らは基本的に情報ダイエットに入り、より少ない情報を消費し、何を取り入れるかについてはるかに注意深くなる必要があります。
情報は心の食べ物です。そして、ご存知の通り、不健康な情報で心を養えば、病んだ心を持つことになります。それほど単純なことです。
さて、ユヴァルに感謝したいと思います。あなたの情報ダイエットに「Nexus」を加えてください。なぜなら、それは私らの未来と世界についての重要な文書だからです。
この興味深い会話に感謝します。
ありがとうございます。
そして、みなさんの質問にも感謝します。もっと深く掘り下げたいですか? ビッグシンクのメンバーになって、メンバー限定のコミュニティに参加しましょう。ビデオを早めに見て、完全なインタビューをアンロックしましょう。