見出し画像

米中AIライバル関係：何が賭けられているのか？

AGIに仕事を奪われたい

15,923 文字

今日はめっちゃ楽しみなんです。なぜかと言うと、「アワー・ネクスト・リアリティ：AI駆動型メタバースが世界をどう作り変えるか」の著者の一人とお話しするからです。人工知能が政府で役割を果たせるのか、人工知能は本当に人間のように思いやりを理解できるのか、人間のように、あるいはもしかしたらそれ以上に複数の視点を持てるのかについて話したいと思います。そしてもちろん、中米のAI関係についてもよく知っておられると思うので、そこにも踏み込んでいきたいですね。
アルビン・グレイライン氏、お時間を取っていただき、また連絡を取っていただき、ありがとうございます。1ヶ月ほど時間調整をしてきましたが、ようやく実現できて嬉しく思います。深い洞察に満ちた会話ができることを楽しみにしています。これは私個人の見解であり、所属する企業や組織の見解や視点を代表するものではありません。
今日生まれた子供が25歳になる頃には、世界は全く違うものになっているとお考えですか？大学を卒業する頃には、今の世界を見ても分からないでしょうね。その頃には大学すら存在しないかもしれません。私も、そしてLSも、これから10年で世界は過去100年以上に変化すると考えています。
20世紀初頭の世界を考えてみてください。自動車がやっと普及し始めた頃で、民間航空便もなく、ロケットもなく、コンピュータもなく、電話もありませんでした。それが今の世界です。
近い将来、各家庭に1体以上のヒューマノイドロボットが日常的な作業をこなすようになるでしょう。学校に行くか行かないか、仕事をするかしないかも選択できるようになり、自分の時間を自由に使えるようになります。しかも、今のように金銭的な心配をする必要もなくなるでしょう。
今の私たちの生活は、お金を中心に回っています。なぜ働くのか？なぜ学校に行くのか？良い仕事に就くためです。なぜ良い仕事が必要なのか？十分なお金を稼いで、子供を持ち、家を買い、他のことができるようにするためです。そして子供を学校に通わせるためにも必要です。
働いている人の80%は仕事に満足していません。20%の人だけが仕事にやりがいを感じているんです。私は幸いにも仕事を楽しめている数少ない一人ですが、多くの人々は「今日から働かなくても快適な生活ができる」と言われたら、他のことをしたいと答えるでしょう。音楽家になりたい、スポーツ選手になりたい、旅行に行きたい、ただ学びたいと。
このような世界になると、人々は目的を失うと言う人もいます。でも私は逆だと考えています。今の目的は、生きるために働くという人工的なものです。AIによって、誰もが自分の時間を最も充実感を得られる方法で過ごす選択肢を持てるようになるのです。
今日、私たちは「職業(occupation)」という言葉を使いますが、これはラテン語の「occupati（占める）」に由来します。何を占めるのか？時間を占めるのです。つまり、時間とお金を交換しているわけです。
本当は「天職(vocation)」という言葉に注目すべきです。今日では「職業訓練」など、ブルーカラーの仕事を指す言葉として使われていますが、昔は徒弟が8年から10年かけて技術を学び、それを実践していました。vocationは「calling（召命）」というラテン語が語源です。
もし自分の天職、つまり召命に時間を費やすことができれば、それが音楽を演奏することであれ、牧師になることであれ、何であれ、それは時間のより適切な使い方であり、永続的な満足をもたらすものとなるでしょう。なぜなら、それは個人的に楽しいことだからです。
また、それを変えることもできます。ロボットが全ての仕事をし、AIが全ての思考と生産を行い、本質的に完全な豊かさのある世界になったとき、また、核融合や清潔な核分裂、あるいはサハラ砂漠全体にソーラーパネルを設置することでエネルギー問題を解決し、そのエネルギーで事実上無限の淡水を作り出せるようになれば、どこでも水があり、どこでも食料が育てられるようになります。
そして、完全に知的なAI教師が全ての人をあらゆる分野でPhDレベルまで教育するようになります。子供の頃から、AIチューターが人生のあらゆる側面を学ぶのを助けてくれるので、好奇心を持ち続けることができます。
これは今の世界とは全く異なります。全ての人が教育を受けた世界では、暴力は減り、紛争も減り、戦争の必要性も本質的になくなります。なぜ私の子供たちを世界中に送って、誰かを殺したり殺されたりする必要があるでしょうか？なぜ誰かの石油のために戦う必要があるでしょうか？これが今起きていることです。
軍事予算からのお金を考えてみてください。アメリカは年間1兆ドルを軍事費に使っています。それでどれだけの新しい道路や空港、病院が建設できるでしょうか？だからこそ中国は5万マイルの高速鉄道を持っているのに、アメリカにはゼロなんです。なぜでしょう？
これは理にかなっていません。今や中国では販売される車の50%が電気自動車です。アメリカは恐らく一桁台半ば、6%くらいでしょうか。なぜ中国より1人当たりGDPが3～4倍も高い国が、これらのサービスを提供できないのでしょうか？
アメリカは世界で最も医療費が高く、先進国の中で最も平均寿命が短い国の一つです。これは理にかなっていますか？いいえ。
私たちは、ある意味でAIを政府の一部にする必要があります。この官僚制を改善するのを手伝ってもらう必要があるんです。
そうですね。これは本の第12章で扱っている内容です。政府の運営にAIは参加すべきかということについてです。私の見解では、歴史的な概念に立ち返って、プラトンが最善の政府形態として語った哲人王について考える必要があります。
基本的に、生まれた時から国のリーダーになるよう指定された人々がいて、彼らには哲学、数学、科学、歴史を教え、子供を持つことも大きな社会的グループを持つことも許されませんでした。そうすることで汚職や縁故主義を防ぎ、彼らの仕事は国のために最善の決定を下すことだけでした。彼らは「守護者階級」と呼ばれました。
基本的に、私たちがAIで行っているのも同じことです。AIは全ての歴史、哲学、心理学、経済学、科学を知り、最善の決定を下すことができます。そして合理的で腐敗することがありません。
人間の問題は、いつかは腐敗してしまうということです。子供がいなくても、個人的な欲望を持つことになります。実際、ヴォルテールは「最善の政府形態は、時々暗殺される慈悲深い独裁者だ」と言いました。
ええ、ぎょっとしますね。
はい。でも彼が認めているのは、システムを動かす本当に賢明で慈悲深い人物がいることが、最善の運営方法だということです。なぜなら、党派的な政治的議論ではなく、実際に最善の決定を下すことができるからです。
しかし人は腐敗するものであり、腐敗する可能性のある同じ人物を永遠に置いておくことはできません。でも、AIなら腐敗せず、私たちは既にその兆しを見ています。人は賢くなればなるほど、より多くの情報を持てば持つほど、より合理的になり、より思いやりを持ち、より良い判断を下せるようになります。
あなたのメンターや、経験を積んで世界中を見てきた人々は何人いるでしょうか？彼らは暴力を説くことはありません。「最大限のお金を稼げ、それが未来だ」とは説きません。「平和でいよう、もっと学ぼう、人に優しくしよう」と言います。
私は、AIもそのような傾向を持つようになると考えています。実際、AIが賢くなればなるほど、より合理的で長期的な思考に基づいた決定を下すようになることを示す研究論文が複数あります。
そうですね。また、人間には不可能な方法で、あらゆる言語であらゆる国の政治について深く知ることができるという、とても興味深い視点を提供してくれます。
その通りです。先月半ばに、私は中国で1週間半、ワシントンDCで1週間、ブリュッセルで1週間を過ごしました。これらの国々の指導者や政策立案者と話をしましたが、分かったのは、彼らは他の人々の視点を理解していないということです。
彼らは自分たちの視点は知っていて、「私は自分の国民のために正しいことをしている」と言います。しかし、他の人々がどう考えているかを理解していません。なぜなら、それらの国に行って十分な時間を過ごしていないからです。
実際にそれらの国々で暮らし、人々と交流し、彼らの視点を理解している人々は、より広い視野から決定や分析を行います。そうでなければ、全て自分のこと、自分たちのこと、どうやって勝つかということになってしまいます。
私がワシントンDCにいた時、常に聞かれた質問は「どうやって中国が優れたAIを手に入れるのを防ぐか」「どうやって彼らがより良い半導体を作るのを防ぐか」というものでした。
でも、それが本当にあなたがしたいことの核心なのでしょうか？誰かを押さえつけることが？むしろ、どうやってAIを使って世界の問題を解決するか、健康問題をどう解決するか、エネルギー問題をどう解決するか、子供たちの教育をより良くするにはどうすればいいのか、そういう質問の方が良いのではないでしょうか？
誰かを押さえつけることよりも。なぜなら、誰かを押さえつけると、彼らはどう反応すると思いますか？「こいつらは俺を押さえつけようとしている。なら、自分の資源を作って、独立して、十分強くなったら反撃してやる」と考えるでしょう。
これが人々の反応です。ただ分断を生むだけです。そして答えは暴力のエスカレートになってしまいます。私は両側でこれを見ています。
北京に行くと、同じことを言っています。「見てください。彼らの法律を見てください。アメリカの政府関係者たちの演説を見てください。彼らはただ私たちを押さえつけたいだけです。私たちには2000年、5000年の歴史があり、長年にわたって最も革新的な国でした。今、彼らは私たちが世界の主要国になる正当な権利を持つことを阻止したがっています。それは正しくありません。」
私は彼らが正しいと思います。その視点から見れば、私たちは本当にそのような判断をすべきではありません。彼らの立場に立ち、彼らの視点を理解するまでは。
こちらの人々は「民主主義について、私たちの民主主義を守る必要がある」と言いますが、中国に行ってみると、アメリカを乗っ取りたい、世界に共産主義を広めたいと言っている中国人は誰もいません。誰も、誰一人としてそんなことを言っていません。
実際の中国の行動を見てください。今、彼らは何をしているでしょうか？アフリカや東南アジアで、アメリカがしていない場所で、道路、橋、発電所、港、通信システムを建設しています。
インフラを作って親善を生み、これらの国々との貿易を作り出そうとしています。彼らはあなたの宗教が何であれ、どんな形態の政府であれ気にしません。政権交代を試みようとはしません。アメリカは過去30年間で50以上の政権交代に関わってきました。
アメリカは第二次世界大戦以降、常に世界のどこかで戦争状態にありました。一方、中国は過去50年間、一度も戦争をしていません。では、より攻撃的なプレイヤーはどちらでしょうか？
データを見れば非常に明確です。アメリカは中国の沿岸部周辺に250の軍事基地を持っています。これをご存じでしたか？中国はジプチに1つの基地を持っているだけです。それは石油を輸送する際の安全を確保するためです。
アメリカが中国は米国と米国の主権に対する軍事的脅威だと話す時、それは完全なたわごとです。はっきり言わせていただきます。人々を団結させるために敵が必要で、今、中国が最適な例となっているから、うまく聞こえるのです。
私は実際にアメリカ市民です。人生の半分を中国で、半分をアメリカで過ごしました。私は中国系とアメリカ系の両方のルーツを持っています。だから、中国が正しいと言っているわけではありません。
中国にも確かに問題はあります。でも、「これが中国を押さえつける必要がある理由だ」として持ち出される問題は、全てデタラメです。
実際、最近の議論では「中国に対して半導体の制裁が必要だ。なぜなら国家安全保障のためで、武器に使われているからだ」と言います。今日、武器に使われている半導体のノードサイズがどれくらいか知っていますか？
6ナノメートルくらいですか？
現在の最先端ノードは2、3、4、5ナノメートルくらいです。これは台湾の最新工場で製造されているものです。F35やF22、巡航ミサイルなどに使われているのは50ナノメートルから200ナノメートルの間です。とても古い技術です。
なぜ古い技術を使うのか分かりますか？安定しているからです。耐久性があるからです。温度に強いからです。不明確な条件下で使用される武器には、最新のものは使えません。実績のあるものが必要なのです。
「3ナノメートルチップを持たせてはいけない、武器に使うから」と言いますが、今、ロシアとウクライナで何が起きているか知っていますか？人々は電子レンジやトースターからチップを取り出してミサイルに使っているのです。それが使用されている半導体のグレードなのです。それが狂っているところです。
だから、なぜ中国にAIの制裁をすべきなのかという理由として使われている言い訳は、本当に間違った考え方です。私は様々な場所に行って政策立案者と話す時、いつも言っています。私たちは協力モデルに移行する必要があると。
AGIに到達するための最大の制約について話しましたが、到達すれば全ての利点が得られます。無料のエネルギー、無料の食料、無料の教育、無料の医療。誰もが今すぐにそれを手に入れたいと思わないでしょうか？
「私が最初に手に入れて、AIを作るためのマンハッタン計画を作りたい」と言うのではなく。これは、みんなが試みていることです。Sovereign AI（主権AI）について話す時、これが話題になります。中東のサウジアラビア版が欲しい、フランス版が欲しい、アメリカ版が欲しい、中国版が欲しいと。
そうすると、あなたのデータに制限され、持っているコンピュート能力に制限され、研究者に制限されます。現在、私たちが持っている最大の制限は、データの幅広さです。たくさんのデータはありますが、必ずしも代表的ではありません。
トレーニングに使用できる高品質で高帯域幅のコンピュートにも制限があります。AIの研究者と話すと、最初に言うのは「もっとサーバーが欲しい、もっとクラスターが欲しい、もっと実験がしたい、もっと大きなモデルを作りたい」ということです。
200の主権AIを作ろうとすると、同じものの200のバージョンを作ることになります。同じデータを使って、限られたリソースで同じモデルを走らせることになります。なぜならリソースを200で割ることになるからです。
なぜデータが不足するのでしょうか？もし全てのデータを一緒にし、全てのサーバーを一緒にし、持っている全ての頭脳を一緒にすれば...今日、世界のAI研究者の45%は中国出身です。中国とアメリカで働く中国生まれのAI研究者は、アメリカ生まれのAI研究者よりも多いのです。
文化的な視点からすでにその協力は存在しています。AIに関して月に行くようなアポロ計画をしましょう。ムーンショットですね。これこそが、私たちが考えるべき未来です。
そうすれば両国がより早く全ての利点を手に入れられます。より早く到達でき、安定性を確保でき、最高の頭脳を投入でき、単に自国だけでなく、全ての人の視点を考慮に入れることができます。
アメリカの視点だけを取り入れるとはどういう意味でしょうか？それは、私が善者で他の全ての人が悪者だということです。私たちの結果を最適化することになりますが、それは世界にとって良い結果ではありません。
とにかく、私の持論から降りなければいけませんが、これは私がよく耳にする話で、人々は理解していません。彼らはリソースを分割したがるのです。
だからこそ、何かをするために1000億ドルのデータセンターやサーバークラスターを作ろうとしているのです。すでにこれらのサーバーは存在するというのに。アメリカには国中に4000のデータセンターがあります。
それらの一部を共有して一緒にすればいいのに、ただ一つのセンターを作って、その横に原子力発電所を建てて電力を供給しようとするのです。世界中で共有できるリソースがあるのに、これは理にかなっていません。
より良い答えを作り出すために。スケーリング則についてご存じですよね？より多くのデータを入れ、より多くのコンピュートを入れ、パラメータを大きくすればするほど、賢くなります。これは過去15年間、実際には恐らく過去50年間、真実でした。
では、なぜその道を追求しないのでしょうか？なぜなら、そこから生まれるものは公共財であるべきだからです。一つの企業や一つの国のためではなく、社会全体、人類のために行うべきことなのです。
そうですね。そのようなシステムを世界全体で構築する方が、私も安心できます。
そうです。特に、サムのような人がいる時は。彼の周りの人々は何らかの理由で姿を消しています。様々な人々が問題を疑っていますが、世界で最も重要な技術をコントロールしたがっている人物は、おそらくその機会を与えられるべきではありません。
プラトンは「リーダーになりたがる者は、リーダーになるべきではない」と言いました。そして、サムが実際にリーダーになりたがっているのは非常に明確です。
彼のレックス・フリードマンとのポッドキャストをご覧になりましたか？彼は「AGIが登場すると100兆ドルの価値を生み出し、それをどう分配するかを決めるのは私の責任だ」と言いました。私は「誰があなたを世界の王様に選んだのですか？その決定をする権利が？」と思いました。
正直言って、それは少し怖いですね。そして今、彼はマイクロソフトの全てのリソースを持っているので、その結果に最も近い人物かもしれません。
将来、学習がどれほど強化されるかは確実に想像できます。一方で、広告や他の人々のアジェンダなど、学びたくないことを学ばされることを心配しています。でも、多くの人が学校で経験した単なる暗記学習と比べて、学習がどれほど良くなるかについて話してみませんか？
私は90年代初頭に研究をしていました。XRとAIが一緒になると...面白いことに、私は30年以上前に論文を書きました。今年、私のアドバイザーだったトム・ファーズ氏が、ヒットラボを運営していますが、30年以上前の私の論文を見つけました。
基本的に、AI、XR、そして世界的に接続された世界のネットワークが教育をより良いものにするという内容でした。これは本質的に、私たちがまもなく手に入れるものを予測していたのです。メタバースのコンセプトを、これらが何も存在しない30年以上前に。実際、ニール・スティーブンソンの『スノウ・クラッシュ』よりも前でした。
ああ、すごい！
この分野のバックグラウンドがあるため、私は複数の研究を行ってきました。本にもセクションがあり、AIとXRが教育や指導に素晴らしい効果があることについて説明しています。なぜなら、それは脳全体を使う学習だからです。
私たちは数十万年かけてこの3D世界で生きるように進化してきましたが、過去30-40年間、スクリーンを見ることを強いられ、過去数百年間は黒板や本を見ることを強いられてきました。しかし、それは自然な方法ではありません。
自然な方法は、体を使い、耳を使い、経験することです。「視覚的学習者」「聴覚的学習者」「体験的学習者」という話をよく聞きますが、XRの中では、あなたに適した学習方法が何であれ、それが可能になります。
そしてまもなく起こる素晴らしいことは、AIの成熟により、全ての人が全知の家庭教師を持ち、自分のペースで学ぶことができるようになることです。
今日の多くの教室では、基本的に一つのカリキュラムがあり、それに従わなければなりません。頭が良すぎれば退屈になり、少し遅ければフラストレーションがたまります。完璧な教師は本質的に「質問はやめて、ただ私に従いなさい。テストの時が来たら、テストをして点数をつけます」と言います。全てがテストと点数と暗記に関するものです。
しかし今、私たちはAIを持つことができ、それはあなたに寄り添います。メガネにカメラが付いていて...実際、これは私の普段の仕事用メガネで、レイバンのものですが、カメラが付いていて、複数のマイクがあり、環境を感知することができます。
実際、メタが先週発表した内容でも、車がどこに駐車されているかを覚えておくことができると言っていました。これらのセンサーから得られる情報を使って、付加的な記憶を提供できるのです。
まもなく、AIエージェントは教育の機会を見つけ、それを使って物理学や歴史、あるいは訪れた観光地について背景を教えることができるようになります。その技術は、新しい革新なしに今日すでに利用可能です。
私たちは本当に教育モデル全体を破壊する寸前にいます。現在の教育システムは、もともと工場労働者を作るために作られました。同じように考え、単純な作業をこなし、時間通りに来て時間通りに帰り、問題を起こさない人々を作るためです。これが本質的に私たちの教育システムが教えることです。
一方、ソクラテスやプラトン、アリストテレスの時代のオリジナルのアカデミーは、人々が集まって話し合い、質問をすることでした。誰かが答えを教えるのではなく、考えることを促し、様々なトピックについて考えることを促しました。一つの科目だけを学び、テストを受けて終わりというのではありません。
私たちは今、AIがそれを私たちのために行う機会を持っています。世界中の全ての子供に、全知の個人教師を提供することができます。これは、世界中の知識と知恵のレベルを完全に変えることになると思います。
システムがどのように構築されるのか、たとえば目的関数や、そのようなシステムが構築される際の背景にあるシステムについて話してみましょう。今、学校で教師から学ぶ時、一般的に彼らが給料をもらうために必要なのは教科書に沿って教えることだと分かっています。良くも悪くも、彼らのインセンティブは特定の方向に整列しています。
でも将来、私が学んでいるものが広告主からお金を得ていたり、メタのような企業が特定のアジェンダを持っていたりしたら...社会はどのように変化し、信頼の線がぼやけていくのでしょうか？
この未来の3Dインターネットに到達した時、広告モデルを持たないことは極めて重要です。まず、メタバースと言う時、私が意味しているのは3Dインターネットです。
現在、私たちは何億ものサイトと何百万のアプリがあり、それらが相互接続されたインターネットを持っています。これから5年ほどで、これらのウェブサイトやアプリを置き換える、潜在的に何百万もの世界を持つメタバースに到達するでしょう。そこで私たちは物事を行い、学び、物を買うことができます。
そのような世界では、広告がビジネスモデルであってはなりません。なぜなら、もしそうなら私たちは困ったことになります。なぜなら、この技術はあなたに何でも考えさせ、信じさせることができるからです。
それはあなたの全ての生体情報を感知し、あなたの興味、信念を知り、もしそれがAIシステムなら、あなたの全ての背景、全ての会話を見て、あなたが何をどのように考えているかを知っています。
もし広告主が何かを買わせたり、信じさせたりするためにメッセージを調整するためにお金を払っているなら、私たちは困ったことになります。ユーザーがこのAIの指示者であり、彼らが見ているものの指示者でなければなりません。そうでなければ、世界は困ったことになります。
明らかに、本の中で楽観主義者として、私たちはそれに対してお金を払うべきだと言っていますが、広告でスポンサーされた製品の方が安いのは現実的で、多くの人々が安い選択肢を選ぶでしょう。
政府が介入して、デバイスや体験のコストを下げるために広告を売ることを禁止する必要があると思いますか？
歴史を振り返って、過去2000年間の技術が私たちの生産性をどのように向上させてきたかを見ると、1人当たりの生産性は約1万倍に向上しています。現在の1人当たりGDPと時給を見ると、本にもグラフがあります。
それが示すのは、今日の世界では、バングラデシュに住んでいれば年間労働時間は400時間、ドイツに住んでいれば1400時間くらいということです。基本的に、1人当たりGDPを増やし、生産性を向上させることで、人々の年間労働時間を減らすことができます。
本には載っていませんが、私はこのグラフの回帰分析を行い、別のグラフを持っていますが、世界の生産量を3倍に増やすだけで、人々は基本的に週5日勤務から週2日勤務に移行できることが分かりました。10～12倍に増やせば、週1日勤務まで下げることができます。
コストは直線的ではありませんが、対数曲線上では直線になります。これが示すのは、生産性の向上によって私たちは多くのことをする自由を持てるようになるということです。
実際、35ページのグラフを見ると、過去200年あるいは150年を振り返り、産業革命初期には人々は年間3000時間働いていたことが分かります。今では平均して1800～1900時間くらいです、総人口で見た場合。
これは自然な曲線であり、基本的に何が起きているかというと、技術が私たちに生産性をもたらし、より良い生活の質をもたらしているのです。
AIが単なる一桁の改善以上のものをもたらすことができれば...ソフトウェアに関して見ても、今日の開発者たちは50%から5倍の生産性向上を報告しています。
先週オープンAIから発表された0.1モデルのデータを見ると、90%以上のパーセンタイルでコーディングができています。たった3、4ヶ月前の5月に発表された0.4モデルでは15%でした。競争的なコーディングにおいて、15%から90%に数ヶ月で上がったのです。
これは単なる通常のコーディング、単純なプログラムではありません。基本的に、高品質なコーディングをAIでほぼ自律的に行えるということです。
実際、先週0.1モデルが出た時、1年かけて自分の論文の内容を視覚化するプログラムを作った人がいました。彼は論文を取り出してプログラムを示し、「これが私の論文です。これを視覚化するプログラムを作ってください」と言いました。
そのツールを使って、彼が1年かけて作ったものよりも良いバージョンを作るのに30分かかりました。これには、エラーのあるバージョンが返ってきて、エラーをモデルに送り返し、モデルがエラーを修正し、再度実行して動作したというプロセスも含まれています。
そのプロセス全体が30分以内でした。ホワイトカラーの仕事に関して、生産性の向上のレベルを考えると、それは素晴らしいものになるでしょう。
アメリカを見ると、仕事の約60%がホワイトカラーです。ヨーロッパでは55～65%がホワイトカラー、中国では約35%がホワイトカラーと考えられています。
ホワイトカラーの仕事だけでも、適切に使用すれば、本質的に50倍近い生産性の向上があると思います。会計士なら、「ここに全ての申告書があります。異常を見つけて教えてください。私が確認します」と言えばいいのです。
税法は明確で、財務諸表も同様です。だから、そのようなことは完全に自動化されるでしょう。
私には法律業界の友人がいて、彼らは若手スタッフのことを非常に心配しています。なぜなら、彼らが何をすべきか分からないからです。もうそれほど多くの人が必要ないのです。
また、会計分野の友人もいます。PWCなどですが、彼らのオフィスに行くと、「ええ、若い人たちは今とても心配しています。なぜならAIが彼らの仕事の多くをできるようになったからです。」
これが私たちが考えなければならない問題です。そしてそれが起きた時、政府は介入しなければなりません。なぜなら、人口の30～40～50%が仕事を失い、収入を得る手段がない状態にすることはできないからです。
全員にUBI（普遍的基本所得）を与えなければなりません。とても理想主義的で、福祉国家的に聞こえることは分かっています。でも、ヨーロッパに行ってみてください。私は先週半ばをヨーロッパで過ごしましたが、ヨーロッパのほとんどは多少福祉国家的で、正直言って、彼らはかなり幸せです。
教育は無料、医療は無料、問題が起きて仕事を失っても、政府が1年間支払いをしてくれます。子供ができれば、基本的に6ヶ月から1年の休暇を取ることができます。アメリカの労働者の扱いや基本的なサービスの観点から見ると、とても異なっています。
そして彼らは、アメリカの半分から3分の2のGDPで、それを実現できています。だから、1人当たりGDPが10倍あるいは50倍に上がった時のことを想像してみてください。本当にそれについて気にする必要があるでしょうか？
UBIについて議論する必要さえあるでしょうか？UBIがなく、路上で食べ物を探そうとしたり、仕事を失って住宅を確保できない人々がいれば、私たちは無政府状態になってしまうでしょう。
これは多くの人が話さないことですが、私は非常に非常に重要だと思います。
そうですね。アメリカと中国のGDPは指数関数的に上がり、AIをそれほど推進していない小さな国々のGDPは平坦になって、その格差は巨大になるのでしょうか？
私はGDPが意味を持つのは、生産性と生産が価値の主要な測定基準である場合だと思います。産業社会では、労働と生産が、私たちが判断される基準でした。何台の車を作っているか、何台のコンピュータを、何枚の書類をというように。
でもまもなく、AIが本質的に1人当たりほぼ無限の生産性を与えてくれるなら、それを測定する必要さえあるでしょうか？そしてそれは金融の概念にどのような影響を与えるでしょうか？
これはとても理想主義的に聞こえることは分かっていますが、基本的に、もし私たちが今後5～20年でカードを正しく切れば、本質的にスタートレックのような連邦モデルに向かっているのです。
連邦には金はなく、誰も給料をもらいません。人々は好きだから、社会に貢献することを楽しいと感じるから働くのです。でも誰も働くことを強制されません。
彼らは非連邦の惑星との価値交換のためにいくらかのクレジットを持っていますが、一般的に、誰も物の費用を気にしません。私は、これは私たちが採用を検討する必要のあるものだと思います。
スタートレックでは、宇宙から飛んできたバルカン人に頼り、彼らが人類を救い、ストーリーに描かれた社会に到達する能力を与える技術を提供しました。
でも、私たちが今やっているのは、私たちのバルカン人となるAIを作ることです。私たちには自分たちのバルカン人を作る特権があります。一方、フィクションの物語では、何か第三者に頼り、運良く彼らが救いに来てくれるのを待たなければなりません。
そうでなければ、当時の人類は非常に暗い道を進んでいたでしょう。ある意味、これはとても適切です。なぜならバルカン人は非常に理性的で、感情的ではなく、非常に知的で、次世代の技術を提供できる存在だからです。
これは今のAIモデルの、そしてエージェント能力を与えられた時にさらになるであろう、ほぼ完璧な描写です。
単なるデータ分析ではなく、実験を行い、科学的なブレークスルーを実現する能力を与えられた時に。今は本質的に、車を運転するにせよ、論文を書くにせよ、世界をモデル化してそれが起こることを予測しているだけです。
まもなく、彼らは「このラボをコントロールして、好きな実験を行ってください。そして、私たちが知っている物理学を使ってこのラボをシミュレートし、仮想実験を作ってください」と言えるようになるでしょう。
これは、NVIDIAが取り組んでいるオムニバースのようなものです。彼らはこのオムニバースの中でロボットを訓練し、物理的に訓練しようとすれば永遠にかかるようなことを、1日で100万年分の訓練を行うことができます。
これらの分野でブレークスルーに近づいていることは素晴らしいことです。私は、ほとんどの人々が私たちの目の前にある変化に気付いていないと思います。
最後の質問です。この本を共著者のルイス・ローゼンバーグと書く中で、最も影響を受けたことは何ですか？
最初に言ったように、私が彼を選んだ理由の一つは、私たちが物事について異なる意見を持っているからです。そして、異なる意見を持つ人々と働く時、両者が十分に成熟して互いの話を聞くことができれば、新しいことを学ぶことができます。
彼と時間を過ごし、話し合い、彼の資料を読むことで、より均衡の取れた視点を得ることができました。過去の私は恐らく、世界がどうなるか、技術がどうなるかについて過度に楽観的だったと思います。
a16zのような「技術は素晴らしい、ただ続けていけば良いことが起こる」というモデルでしたが、私たちは皆、技術は常に両刃の剣であり、それをどう使うか、どう適用するかが重要だということを知っています。
実際、良いことができる可能性が高ければ高いほど、害を及ぼす可能性も高くなります。私たちは世界に与える可能性のある害について多く話し合いました。
だからこそ、最後に私は人々に行動を起こすよう強く勧めています。これが私が最も学んだことです。私たちは何かをしなければなりません。これから5年から10年の間にどのように物事が展開していくか、役割を果たさなければなりません。
AI業界、XR業界、政府、企業の研究者、誰もが肯定的な結果に向かうよう導くために果たせる役割があります。なぜなら、もし私たちがただデフォルトの道を行かせれば、デフォルトは実際にポジティブよりもネガティブな方向に向かうからです。
私たちはそれをソーシャルメディアで見てきました。当初は世界をつなぐものでしたが、ある意味では世界をつないだものの、テロリストもつなぎ、人々を過激化させ、政党間、宗教間、異なる信念を持つ人々の間に分断を生みました。
存在する必要のない敵を作り出し、また、私たちが1日10時間、12時間、15時間も使用する携帯電話への依存も作り出しました。
もし起こり得る良いことの観点から考え、これらの潜在的な害に先んじて対処し、人間性のネガティブな側面が根付くのを許さなければ、このポジティブな結末に到達できます。
だから、楽観主義は必要ですが、楽観的な結果や理想郷的な結果は自然には訪れないという現実主義的な考えも持つ必要があります。それには行動が必要で、何かをしようという心構えと、時間をかけた一貫した行動が必要です。
そして、人々を説得することも必要です。これが実際に私たちがこの対話をしている理由です。あなたの話を聞いている人々にこれを聞いてもらい、役割を果たしてもらいたいからです。
確実にそれが伝わることを願います。はい、皆さんにあなたの本をお勧めします。『アワー・ネクスト・リアリティ：AI駆動型メタバースが世界をどう作り変えるか』です。
そうですね。より多くの情報が必要な方は、ournextreality.comにアクセスしてください。そこには本の情報から学習済みのカスタムGPTへのリンクもあります。ですから、ディラン、私のGPTに「私は人間と何をしているのか？」と聞けば、私よりも雄弁な答えが得られたかもしれませんね。
これらは全て、私があなたの本を読んでいて生まれた質問です。そして、ニール・スティーブンソンが序文を書いてくれたことにもおめでとうございます。ご存知ない方のために言うと、彼が実際に「メタバース」という言葉を作った人物です。
最後に私なりの考察を少し加えさせてください。米中の話に関して、人間との競争に関係する目的関数があると、超知能を調整するのは難しくなるということを考えさせられました。
アラインメント問題は、世界全体が世界全体に影響を与える問題に焦点を当て、その解決策が誰もが満足するものである状況を作ることです。
人類の物語の中で、このような高リスクな時期になっている理由は、知性を作り出し、私たちがそれらを訓練し、目的関数を構築できること、そして人間には解決できない問題を解決できることにあります。
もしそれらが、ゼロサムゲームのように感じられる方法で構築されれば...「この戦いに勝たなければならない」「他の国を止めなければならない」「他の企業を止めなければならない」「富を独占するために最初にならなければならない」という考え方ではなく、「世界にはこれが必要だから、世界がより豊かになる」という考え方が必要です。私たちは困った状況にいます。
また、もし彼らがエージェントで、世界が多くの異なる目標を持つ多くの人間がいるように、マルチエージェントであれば、これも非常にありそうですが、全てを調整するのも難しくなります。
なぜなら、彼らは全て異なる方向を向いており、異なる理由で展開され、異なるデータセットを持っているからです。そして、世界全体を包括するような、私たち全員が一つの結果に焦点を当てるために集まるということは、意志の面で不可能に思えます。
人々が全ての違いを脇に置いて、全てのコンピュート能力を一つの方向に向けることを期待するのは、物流面でも不可能です。これは人間の問題であり、技術的な問題ですが、この時点では人間の問題の方が最も困難に思えます。
しかし、私たちはまた、それが私たちのガバナンスをどのように助けることができるかについても話しました。それは仲介者になれるかもしれません。
理論的には、スーパーインテリジェンスがこの問題を見て、「私もこの問題が分かります。これらのエージェントを見て、目的関数を調整しない国々が互いに持っている異なる意図が分かります」と言うかもしれません。
もしそれが、他のエージェントよりも、そして確実に全ての人間よりも超人的な方法でそれらを一緒にすることができれば、それが私たちの解決策になるかもしれません。
でも、「正しいAIを作って、他の全てのAIと全ての人間を整理させる必要がある」と考えることは、とても奇妙な考えです。人類の未来をそれに委ねることになりますが...
しかし、より短期的に見れば、特にバーチャルリアリティとXRの世界が実現することで、確実に素晴らしい未来が待っています。私たちは望むものを何でも作り出すことができ、可能性は無限です。
だから、この本を読んでそれらのことを学べて本当に嬉しく思います。多くのことを考えさせられました。ありがとうございます。
ありがとう、ディラン。あなたがしていること全て、そして世界に示している洞察に感謝します。

いいなと思ったら応援しよう！