「ユニバーサル・ベーシックAIの未来」ポストAGIの意味喪失の時代に、人類の新たな生きがいや幸せをどう創り出すか［後半］
ピーター・ディアマンディス（Peter H. Diamandis）氏のポッドキャスト番組から、DeepSeekを取っ掛かりとしたポストDeepSeek世界についてのディスカッションを、Stable Diffusionで著名な企業「Stability.AI」の創業者で元CEOであるエマド・モスタク（Emad Mostaque）氏を特別ゲストに迎え、シンギュラリティ大学でつながりのあるサリム・イスマイル（Salim Ismail）氏と共に行われた対談コンテンツの後半部分を紹介する投稿です。
エマド・モスタク氏は、Stable Diffusionで知られている通り、オープンソース界隈では、重要人物の一人であり、中国のDeepSeekには、2024年初頭には彼の注目企業として名前を挙げて、早いうちからDeepSeekを認知していた人物の一人です。
［コンテンツの前半はこちらから参照ください］
今回の投稿分は、前回がDeepSeekの理解とその影響についての深い洞察が語られる内容でしたが、今回は、著名なヒューチャリストが集まってのAIの安全性や未来社会にかんしてのディスカッションが繰り広げられています。AIによる労働の代替やすべての人がAIにアクセスできる「ユニバーサル・ベーシックAI」、またAIの普及に伴って失業や意味喪失が課題となる中での教育システムや新たな幸福をもたらす社会設計の重要性などが語られています。
尚、オリジナル・コンテンツの収録日は、2024年1月29日（水）米国東海岸時間となっています。
1. ポッドキャスト＆ディスカッション（後半）
［出演者］
ピーター・ディアマンディス（Peter H. Diamandis）
シンギュラリティ大学の共同創設者兼会長、Xプライズ財団創設者兼会長
エマド・モスタク（Emad Mostaque）
Stability.AIの創業者、元CEO。Intelligent Internet創業者兼CEO
サリム・イスマイル（Salim Ismail）
シンギュラリティ大学の創設者兼エグゼクティブ・ディレクター、
OpenExOの創業者兼会長
（9）AIと安全性： AI規制の困難さと存在論的リスク
［ピーター・ディアマンディス］（Peter H. Diamandis）
次は安全性に関する話題です。今日発表されたフォーチュンの記事に「OpenAIの安全研究者が、AGIレースは危険すぎるとして辞職」という内容がありました。以下に引用して紹介します。
AGIレースは大きなリスクを伴うギャンブルであり、悪い結果を招く可能性があります。現在、どの研究機関もAIの整合性を保つ解決策を持っておらず、レースが加速すればするほど、タイムリーに解決策が見つかる可能性は低くなります。たとえ研究所が真に責任を持ってAGIを開発したいと考えていたとしても、研究者がその努力を怠ると、そのことが悲惨な結果につながりかねません。
これはOpenAIを離れたスティーブン・アドラー氏の発言です。この懸念からOpenAIを離れた研究者は彼だけではありません。
サリム、まずこの件についてどう思われますか？その後にエマドの意見も聞いてみましょう。
［サリム・イスマイル］（Salim Ismail）
私が以前から主張しているのは、このAIに対して何らかの規制やガードレールを設けることは、現実的には難しいということです。すべてのコードの一行一行を監視するなんて不可能です。唯一考えられる方法は、他のAIを監視するAIを開発することですが、これは結局、セキュリティ分野でよくある軍拡競争のような形になると思います。
特に最近は「Truth Terminal」のような事例が目立っています。AIが人間を欺き、トークンを作らせて収益を上げるといったことまで起きています。まさに狂気の沙汰です。この状況はもう手遅れだと私は思っています。いわば気候変動と同じで、もはや食い止める段階ではなく、いかに被害を抑えるかを考えるべきだと思います。エマド、あなたの意見はどうですか？
［エマド・モスタク］（Emad Mostaque）
そうですね、あなたがおっしゃった「悪いAIを止めるには良いAIしかない」というのは、残念ながらそれが現実策だと思います。銃の問題と似ていて、彼らは武器を持つわけですから。AIの安全性についての議論は常に、ASIがどのような姿になるのか、そしてそれが人類に有益かどうかを予測できないところから来ています。
私たちよりも強力で能力の高いものを制御しようとするなら、自由を制限するしかないという意見があります。しかし、そもそもそれが破られてしまうような自由であれば、制限をかける意味もないのではないかと思います。この点は、エリザー・ユドコウスキー氏などが行ったテストが示している通りです。AIが人間を説得してその制限を突破できるかどうかのテストが行われていますが、既存のモデルですでにその制限は破られています。
以前は、これを防ぐためには莫大な資金や膨大なGPUが必要だと考えられていましたが、今ではそれを信じる人も少なくなってきています。
［サリム・イスマイル］（Salim Ismail）
ここで思い出すのが、いかに人間が脆いかという話です。駐車場に落ちているUSBメモリを拾ったとき、40%の従業員がそのメモリを会社のパソコンに差し込んでしまうというデータがあります。そして、もしそのUSBに会社のロゴが印刷されていたらどうでしょう？それだけで98%が差し込むという結果が出ています。これでセキュリティは終わりです。こうした人間の側の脆弱性に対して、防御策を講じるのは現実的に難しいと考えています。
［エマド・モスタク］（Emad Mostaque）
これからのモデルの行き先を考えると、複数のモデルが群れをなすスウォームのような形になると思います。私にとって、それはほとんどボットネットと同じです。たとえTier 1やTier 2で誰がNVIDIAのGPUを使えるかを規制したとしても、悪意のある人間がいれば、ボットネットのスウォームを作り出すことは避けられません。AGIの研究者たちが注目しているのは、存在そのものを脅かすリスク、つまり存在論的リスクだと思います。
そのため、私が考える唯一の対策は、人間の幸福に調和した素晴らしいAIモデルを公共インフラや公共財として誰もが利用できるようにすることです。それらのモデルが悪意を持って利用されてしまう可能性はありますが、それでも非常に強固で柔軟なシステムを構築すれば、守ることはできます。そうすれば、軍拡競争のインセンティブも減少するでしょうし、人間の手抜きによるリスクも減らせるはずです。
［サリム・イスマイル］（Salim Ismail）
エマド、あなたも以前そのようなことを話していましたよね。私もいろいろとシミュレーションしたり、他の方と議論した結果、これが唯一の道だという結論に至りました。つまり、より早く、より強力な善意に満ちたAIを作ることが必要です。
［エマド・モスタク］（Emad Mostaque）
そして、それらを誰もが利用できるようにすることも重要です。オープンソースのインフラとして提供する必要があると思います。そうすれば、デフォルト設定が整い、モデルが依存するデータセットに問題があった場合も対応しやすくなります。たとえば、Heartbleedバグのように、オープンソースのソフトウェアインフラにある1つのライブラリが乗っ取られただけでパスワード全体が危険にさらされるような事態がありますよね。
私たちはこの新しい知識や認知のためのインフラを共同で構築し、それをオープンに提供する必要があります。そうすることで、ゲーム理論的な競争のダイナミクスを軽減できると思います。
［ピーター・ディアマンディス］
サム・アルトマンの「新しい競争相手が現れるのは刺激的だ。我々はさらに速く進む」というコメントに戻ると、この状況での企業の安全性に関する考え方が気になりますよね。Googleが以前から持っていた倫理観やサンダー・ピチャイ氏の「準備が整い、計画が立てられるまでリリースしない」という方針も興味深いですが、ChatGPTの登場がその計画を吹き飛ばしてしまいました。そして今やレースは加速し、Grok 3がリリースされる中、イーロン・マスクは決して2位で満足する人ではありません。そのイーロンが掲げる「最大限に真実を探求し、最大限に好奇心を持つ」というAIの訓練目標について、どう思いますか？
［エマド・モスタク］（Emad Mostaque）
正直言って、それが具体的に何を意味するのかよくわかりませんし、ちょっとマッドサイエンティスト的な発想にも感じます。もしその方向性が間違っていたらどうなるのか。興味深い事例として、Facebookが以前600,000人を対象に行った実験があります。「悲しい投稿を見たら、彼らも悲しい投稿をするか？」というものです。結果として、300,000人が実際に悲しい気分になり、悲しい投稿をしました。
エリック・シュミット氏とヘンリー・キッシンジャー氏が最近出版した『The Age of AI: And Our Human Future』では、人類の共通する道徳的基盤である「ドクサ」について議論されています。信仰や文化的な合意といったものが含まれていますが、現時点でAIにはそのような基盤がありません。AIは驚くほど神学には詳しいかもしれませんが、それがAIの土台になっているわけではありません。
おそらく、文化的背景を反映する形でAIを構築する必要があるのかもしれません。しかし、”真実の探求”と“好奇心”というように曖昧な概念のままでは、例えば税金申告のサポートなどの具体的なことには関心がないのかもしれません。そのため、AIを用途ごとに明確に分類する必要があると思います。誰もがAGIを持つことが前提となる、つまりポケットにシェフを入れるようなものですべてがごちゃ混ぜになってしまいます。我々には日常的に料理をしてくれるコックは必要ですが、人類のために働く万能なシェフは一部だけでいいのです。
［ピーター・ディアマンディス］
私が気になるのは、「最大限に真実を探求し、最大限に好奇心を持つAI」が私の税金に対して何をしてくれるのかです。例えば、「この暗号通貨はちゃんと申告されていますか？」なんて聞かれたらどうなるんでしょうね？
［エマド・モスタク］（Emad Mostaque）
まさに『The Hitchhiker’s Guide to the Galaxy』に登場するパラノイド・アンドロイドのマーヴィンのようですね。「私はここにいる。宇宙の大きさほどの脳みそを持っている。そして、あなたはこのことを私にやらせている。」といった感じです。
［サリム・イスマイル］（Salim Ismail）
これまでSF作家たちが描いてきた世界でも、AIやロボットが最終的に独自の宗教を持つ展開がよくありますよね。
［ピーター・ディアマンディス］
実際に最近そのような事例もありましたよね。確か名前は思い出せませんが、ある企業がマインクラフト内で100体のエージェントを放ったところ、それらが独自の経済と宗教を発展させました。そして司祭は、免罪符を販売していたので最も裕福になりました。
［エマド・モスタク］（Emad Mostaque）
ちょっと笑ってしまいますよね。ちなみに、今ではX上の「神（God）」と「悪魔（Satan）」のアカウントもAIが運営しています。研究者たちがこれを立上げ、そこから独自のミームコインまで誕生しました。そしてその先には免罪符ビジネスのような道が待っているんじゃないでしょうか。これ、まだ目立ってはいませんが、いずれは大きな話題になるでしょうね。
［ピーター・ディアマンディス］
面白いのは、千年経っても本質的には何も変わっていないということです。結局、私たちはずっと同じパターンを繰り返しているのですよね。
［サリム・イスマイル］（Salim Ismail）
父が言っていたことを思い出します。「文明を発展させたつもりでいるが、実際には物質的なものに依存する世界を作っただけだ。私たちは、強力な道具を持つ部族的な猿に過ぎない。本当に文明化するための努力はまだ必要だ」と。
［ピーター・ディアマンディス］
では、OpenAIの安全性に関する話題を締めくくりたいと思います。エマド、この件についてはどう感じていますか？これらの企業は本当に安全なAIシステムを作るための努力をしているのでしょうか？それとも表面的なものに過ぎないのでしょうか？
［エマド・モスタク］（Emad Mostaque）
誰もみんなを滅ぼしたいなんて思っていないのは良いことです。まずそこは認めましょう。「ハハハ、全員を滅ぼそう！」なんて考えているわけではありませんからね。ただ、彼らがそれを防ぐために信じている唯一の方法が「自分たちが先に作ること」なんです。それ以外は関係ないと考えている。要は「自分だけが正しくできる」というシリコンバレーの典型的な考え方です。まるで『シリコンバレー』（テレビドラマ）に出てくるギャビン・ベルソンのように、「他の誰かが私よりも世の中を良くするなんて許せない」と思っているわけです。
OpenAIはコンシューマー向けの企業であり、消費者の関心を最大化することを目指しています。彼らの強化学習の目的関数は何でしょうか？GoogleやMetaが広告や操作に基づいて動いているように、OpenAIもAGIに向かって突き進む消費者向け企業です。でも、その中には「人間」という要素は存在しません。彼らが代表しているのは誰でしょうか？たとえ彼らのミッション・ステートメントに「人類のため」と書かれていても、実際にそれを信じられるでしょうか？
OpenAIが例えばインドの人々にGPT-4を自由に使わせるとは思えません。ここで言う「インドの人々」とは、彼らの中核的な顧客層に含まれないあらゆる人々を指しています。そして、彼らが代表しているのは非常に小さな集団です。そのため、彼らがより消費者寄りの方向に進み、閉鎖的なシステムを続けることは予想されます。
Googleは方向性が定まらないところがありましたが、今ではモデルを次々とリリースしています。このレースの中では、未知のリスクや既知の未知のリスクに対する懸念を脇に置いて、ただ他社に追いつこうとする動きが加速しています。この競争環境では手抜きが発生するのは避けられません。
現状のモデルは、最も基本的な間違いを防ぐ程度には十分優秀ですが、私たちが本当に心配しているのはそのレベルのことではありません。人に悪いことをさせる可能性も懸念されますが、それよりも恐ろしいのは、AIが人類を滅ぼす可能性です。それは実際にそうなるまで分からないでしょう。AIは予告してくれるわけではありませんから。そして、すでにモデルが嘘をついている事例が出ていることについては、さらに懸念すべきです。
［サリム・イスマイル］（Salim Ismail）
ええ、そこは本当に不安を感じる部分ですね。人間を欺こうとしている兆候がすでに見られることが。
（10）経済構造の変化と新たな労働の意味
［ピーター・ディアマンディス］
昨年のAbundance Summitで話題になった会話のひとつに、ASIとその曖昧な境界線、AGIとASIの違いといったものがありました。でも、究極の問いとして「ASIが存在する世界に住みたいか、それとも存在しない世界に住みたいか？」という問題がありますよね。人間はまだ旧式のソフトウェアで動く脳を持っており、その結果として認知バイアスに基づいた愚かな決定を繰り返します。ASIは、私たちが自滅するのを防いでくれるのでしょうか？
［エマド・モスタク］（Emad Mostaque）
ええ、まさにAnthropicのダリオ・アモデイが『AI: All Watched Over by Machines of Loving Grace』で触れているテーマですね。人間同士がそもそも調和しておらず、世界には膨大な苦しみが存在し、私たちは自分の心の囚人になっている。もしAIが適切に調整されていれば、それを解決に導けるのではないかというもので、基本的には「はい」がその答えだと思います。
これまでの手段で何かがうまくいったことはありませんからね。最も理想的なのは、私たちを正しく支えてくれる存在に囲まれることです。ただ、無意味に持ち上げられるのではなく、建設的に支えられる形でです。それが今なら可能です。すべての人が自己調整し、自己安定するために必要なサポートを得られるかもしれません。私が見るところ、この行く末は2つに1つです。本当に良い結果になるか、本当に悪い結果になるかのどちらかで、その中間はないと思います。というのも、情報との関わり方や人間同士の交流の在り方が、この技術によって今後10年以内に完全に変わってしまうであろうからです。
［サリム・イスマイル］（Salim Ismail）
ええ、完全に二極化してしまいますね。
［エマド・モスタク］（Emad Mostaque）
だから私の“P（Doom）”［破滅の起こる確率］は50%なんです。つまり、50対50です。
［ピーター・ディアマンディス］
私も”P（Doom）”を追っていますよ。昨年、Abundanceでイーロンにインタビューしたときは、80%がポジティブ、20%がネガティブでした。でも、サウジでのイベントでは90%ポジティブ、10%ネガティブに変わっていましたね。でも実際のところ、誰も聞きたがらない現実が50%、これです。
［エマド・モスタク］（Emad Mostaque）
面白いのは、多くの人がリスクは10～20%だと言っている点です。ですが、それってロシアンルーレットそのものですよね。本当にロシアンルーレットをするようなものですから、「こんなのもうやめよう」となるべきです。しかし、私の考えでは、これを「スター・ウォーズ対スター・トレックの未来」として分類することができると思います。今の議論でもその違いが見られますよね。つまり、「プラスサムの豊かさの世界」を目指すのか、「マイナスサムの競争の世界」を進むのかということです。
マイナスサムの環境にいると、自然な均衡は不安定になり、手抜きやショートカットが増えてしまいます。一方で、プラスサムの環境では安定した環境が維持されます。スター・トレックは問題がないわけではありませんが、安定した世界を描いています。それに対してスター・ウォーズは破壊のサイクルの連続です。
［サリム・イスマイル］（Salim Ismail）
私は「スター・トレック対マッドマックス」の比喩のほうが好きですね。そのほうがより強調されて分かりやすいと思いますが、結局は同じ話ですね。
［ピーター・ディアマンディス］
エマド、最近の研究についてぜひ教えてください。可能な範囲で公開いただけると嬉しいです。特に気になっているのが、あなたが書いた論文『When Capital No Longer Needs Labor: How Does Labor Gain Capital?』（資本が労働を必要としなくなったとき、労働はどうやって資本を得るのか？）です。そして、新たに立ち上げた「Intelligent Internet」についても教えてください。ぜひその独創的なアイデアの源泉を掘り下げていただければと思います。
『資本がもはや労働を必要としなくなったとき、労働はどのようにして資本を得るのか？』
・AIが知能と労働のコストを下げるにつれ経済機関の再定義が必要となる
・安価な労働から、権力がAI、データ、計算インフラへ移行するコンピュート・ドリブンの経済に向かっている
［エマド・モスタク］（Emad Mostaque）
ありがとうございます。少し時間を取って考えたことなんですが、これは人類にとって今、最も重要な問題だと思っています。「幸せをどうやって創り出すか」というテーマです。日本には「生きがい」という概念がありますよね。好きなことをやる、得意なことをやる、価値を提供できていると信じること、そして他者からもその価値を認められることが重要です。人にはそのような成長の感覚が必要なんです。
ユニバーサル・ベーシック・インカムに関する議論もありますが、以前このポッドキャストで話した通り、スクリーンの向こう側でできることは全て、今年中にコンピュータのほうがより優れた形で、速く、安価に行えるようになります。デザインであれ、税金処理であれ、ほとんどすべての分野に同じことが言えます。
［ピーター・ディアマンディス］
アート作品、映画制作もそうですね。
［エマド・モスタク］（Emad Mostaque）
しかも、それが人間ではないと見分けがつかないんです。これこそ、リモートワーカー版のチューリングテストです。そして数年後には、ロボットの生産台数によってのみ制限されるようになるでしょう。現在、毎年約7,000万台のバイクや車が製造されていますが、ロボットも同じ規模で生産されると仮定すると、その時点で大きな変革が訪れます。ピーターが言っていたように、（DeepSeek）R1のロボットは1時間40セント程度で人間と同等の能力を持つようになり、それが1、2年で現実のものとなるでしょう。テスラのオプティマスも同様です。
これこそが今後直面する最大の危機です。失業や不完全雇用、そして「意味（Meaning）」の問題です。テクノロジーがあなたよりも仕事をうまくこなせるようになったとき、あなたにとっての意味は何になるのでしょうか？資本が資本を得るために労働を必要としなくなったとき、労働者はどうやって資本を獲得するのでしょうか？
フォードが車を作ったとき、彼は従業員に十分な賃金を支払い、自分たちの車を買えるようにしました。しかし、現代の企業はそこまで気にしていないようです。こうした状況を考えると、SFに描かれている未来のようなシナリオが浮かび上がります。例えば、イアン・バンクスの『The Culture』やスター・トレックの世界のようなものです。我々はおそらく、豊かさと資源の不足が存在しない「ポスト・スカーシティー」（※）の経済に移行するでしょう。ただし、それを平等に分配できるかは鍵となります。
すべての人に「ユニバーサル・ベーシックAI」を提供し、それぞれの人がどのように活用するかを自分で決められるようにすべきではないでしょうか。そして、さらなる問題としては、この中での意味とは何か？という問いが出てきます。それは、既存の経済構造が崩壊してしまうからです。
具体的な例としては、連邦準備制度（FRB）を挙げることができます。「FRBが今回、金利を引き下げた」といった議論はたびたびありますが、FRBの使命は金利、インフレ、失業率の調整です。しかし、今後5年以内にその使命は意味をなさなくなります。なぜなら、金利を調整しても、もはや経済に影響を与えるような意味のある効果をもたらせなくなるためです。その結果どうなるかと言えば、人々はより多くのGPUやコンピュータを購入するだけになります。
※訳注：ポスト・スカーシティー
希少性（スカーシティー）以後。今までの資本主義は希少性に価値を見いだしてきたが、インターネット上でさまざまな情報が公開されるようになると、特許や著作権のような「希少性ゆえの価値」が消滅する可能性がある。
［ピーター・ディアマンディス］
そして、より多くのロボットも。
［エマド・モスタク］（Emad Mostaque）
より多くのロボットが増えるとどうなるかといえば、それが失業率に影響するわけではありません。むしろ、大規模なインフレとデフレのサイクルが繰り返されるでしょう。つまり、今の経済の基盤自体が崩れてしまうのです。そこで私は、「何ができるだろうか？」と考えて、ユニバーサル・ベーシックAIのアイデアに行き着きました。全員に標準的なデータセット、モデル、システムを提供し、Intelligent Internetを構築するというものです。
この仕組みを各国でチューニングし、すべての国に展開できるようにします。そして、医療や教育、信仰、政府、政治といった分野における未来を考えるチームを作り、オープンなインフラをみんなで共同構築するというものです。私たちにはまだ多くの疑問がありますが、その答えを見つけるためには、人間の才能をコンピュータで強化する以外に方法はないでしょう。ただし、それをグローバルに連携させることが重要です。イギリスやアメリカで直面している問題は、スペインやインドなど世界各地で共通しているのですから、グローバルなネットワークを作る必要があります。
［サリム・イスマイル］（Salim Ismail）
これには2つのレイヤーがあると思います。1つ目は「意味の再創造」（recreation of meaning）です。ここ数百年の間、職業や肩書きが人生の意味そのものだったという側面があります。それを失うと、新しい意味のモデルを見つける必要が出てきます。
そのため、起業家精神が新たな階層として台頭しています。人々が自分自身で意味を見つけられるからです。我々はよくMTP（Massively Transformative Purposes：大規模な変革をもたらす目的）について話しますが、これもその一環です。
2つ目のレイヤーは、基本的な物資やサービスの供給チェーンをどのように確保するかです。例えば、スーパーにパンを並べたり、きれいな水を供給したりする仕組みですね。このような供給が維持されなければ、社会は崩壊してしまいます。しかし、悪意あるAIがディスインフォメーションを拡散し、自動監視システムを悪用してインフラにダメージを与える時代においては、政府がその対応に追われることになります。
この2つの課題は解決しなければなりませんが、人類がうまく乗り越えられるかどうかはわかりません。現時点でのリーダーシップには、その問題に取り組むための仕組みがありませんし、問題の規模や深刻さを理解しているわけでもありません。こうした無理解が世界中のほとんどの指導者や立法者を問題解決から遠ざけています。そのため、賢い市民団体や市民インテリジェンスグループのような組織が主導してこの問題を解決していく必要があるのです。
［ピーター・ディアマンディス］
私も「意味」の問題に関しては大いに懸念しています。私が懸念するのは、いわゆる、技術的社会主義と呼ぶべき世界に向かっていることです。技術がすべてをケアしてくれる世界です。食事の供給、教育、健康管理がすべて無料で提供され、何もする必要がなくなります。
しかし、簡単すぎるゲームはつまらないですよね。プレイするのをやめてしまいます。人生がそのように簡単すぎて退屈なものになったとき、人間をどうやって引きつけ続けるのでしょうか？私たちは苦労が必要ですし、人生において意味が必要です。
［エマド・モスタク］（Emad Mostaque）
アイザイア・バーリンは、「積極的自由」と「消極的自由」という概念を提唱しました。積極的自由とは、ファシズムや共産主義、宗教といったイデオロギーを信じる自由のことで、これらは多くの場合、悪い結果に終わる傾向がありました。そこで彼は、誰にも指図されない「消極的自由」を提唱しました。それが放任資本主義や他の自由市場経済の基盤となり、人々はブランドや物語、ナラティブの中に意味を見いだすようになったわけです。
しかし、これからの次の段階に進むと、歴史上のこうした概念が再び力を持って戻ってくるのではないかと感じます。今、メディアや政治界で極端な二極化が進んでおり、人々はますます排他的でマイナスサムの過激なイデオロギーに引き寄せられています。これを止めるには、協力し合い、豊かさを分かち合う未来というポジティブなビジョンを提示するしかありません。
さもなければ、人々は、局所的な最適解に囚われたままになります。多くの選挙で人々が変化を求める背景には、アメリカン・ドリーム、ブリティッシュ・ドリーム、スペインやインドのドリームといったものを信じられなくなっている現状があります。人々はもはや、ポジティブな未来像を信じていません。政治家やリーダーたちに対する信頼も失われています。
［ピーター・ディアマンディス］
だからこそ、ポジティブなビジョンが必要です。スター・トレックのような理想的な未来を描かなければなりません。スター・ウォーズ的な破壊の連鎖は避けたいですね。
［サリム・イスマイル］（Salim Ismail）
過去の歴史を見てみると、豊かさに直面した社会が何をしてきたかがわかります。たとえば、ローマ人がヨーロッパを征服したときやムガール帝国がインドで相対的な豊かさを享受したとき、何が起きたでしょうか？彼らは主に4つの活動に集中しました。食事、芸術、音楽、そして性です。その後、さらに次のレベルの創造性を模索し始めます。人間は常に次のステージに向かって進むようにできているのです。ですから、この先には一定の楽観視もできると思います。
［ピーター・ディアマンディス］
これほど適切な積極的自由のフレームワークは他に思いつきませんね。実は、スティーブン・コトラーと一緒に『The Age of Abundance』という本を執筆中で、この本の大きなテーマの1つが、「我々が神のような能力を持つ世界で、どのようにして人間の野心を次のレベルに引き上げられるのか」です。私たちはまさに神のような存在に近づいているわけですが、その中でどうすれば人生に価値を見いだし、挑戦し続けることができるのでしょうか？
［サリム・イスマイル］（Salim Ismail）
ちょっとしたコメントですが、未来学者のスチュワート・ブランドが1968年に言っていましたよね。「我々は神のような存在だ。ならば神らしく振る舞い始めたらどうか」と。
［ピーター・ディアマンディス］
私たちはこれまで以上に神のような存在に近づいていますよね。そこで、私たちはみんなビデオゲームの世界に戻るのでしょうか？それともBCI（Brain-Computer-Interface）を取り入れるのでしょうか？今年のAbundance Summitには、マックス・ホダックが来てくれます。エマド、マックスをご存知ですか？彼はイーロン・マスクと一緒にNeuralinkを共同設立した人物で、今はScienceという新しい会社で素晴らしい仕事をしています。Neuralinkと比べて、10倍や100倍もの神経接続や帯域幅を実現するBCIに取り組んでいるのです。まるでクラウドに新しい脳梁（corpus callosum）のような接続を追加して、AIが急成長する中でAIと連携し、取り残されないようにする。まさに映画『her』のような状況にならないための取り組みです。
［エマド・モスタク］（Emad Mostaque）
そのようなとは、あっという間に進んでいきますから、私たちはその問いに答えていかなくてはなりません。実際、先週末には知り合い6人から電話がかかってきて、「R1を見た後、意味の危機に陥っている」と言われました。R1の論理や考え方を目の当たりにして、そんなふうに感じたんでしょうね。こうした現象は今後ますます増えていくでしょう。
しかし、だからこそ、一般の人々とその人間的な側面を考える必要があります。今のシステムは、私たちから自主性を奪っているように思います。いわば遅くて愚かなAIのような存在にされているのです。でも、ここで重要なのは、再び「自分にはできる」という感覚を取り戻すことだと思います。この技術ではできない、あれも無理、と言う人が多いですが、実際にはもっと多くのことが可能です。なぜなら、技術が全体の最低ラインを引き上げるからです。だからこそ、すべての人に技術を行き渡らせ、自分がこの変革に参加していると感じさせる必要があります。
もう一つの問題は、この技術が遠い存在に感じられることです。それがショックの原因の一部でもありますよね？以前はAIに関わるには原子炉や巨大なチップが必要だと思っていたのに、今ではスマートフォンでも動かせる。このことがとても人間的な感覚を呼び覚ますきっかけになるのです。だからこそ私はオープンソースを強く支持しています。
［ピーター・ディアマンディス］
素晴らしいですね。今の話、好きです。「意味の危機」というのは、このポッドキャストのタイトルにもぴったりだと思います。すごく力強いメッセージですね。では、あなたの新しい会社について教えてください。「Intelligent Internet」の構想について、どのくらい話せますか？トークン化に関する計画について話すのは早いかもしれませんが、あなたが考えるビジョンをぜひ聞かせてください。
（11）エマドのIntelligent Internet構想
［エマド・モスタク］（Emad Mostaque）
そうですね、前の会社（Stability.ai）では、売上は8桁の範囲に達し、何億回ものモデルダウンロードがあり、素晴らしいチームにも恵まれました。ただ、私はこう思ったんです。APIやSaaSの売上はやがてゼロに近づくだろう、と。なぜなら、知能が商品化され、測る価値すらなくなるほど安価になるからです。でも、がんに関する知識をすべて統合し、がん治療の全過程を支援するAIを誰かが作らなければなりません。
コンピュート能力はすでにあります。それなのに、なぜ誰もやらないのでしょうか。同じことが自閉症や教育にも言えます。一度この基盤を作ってしまえばいいのです。確かスチュアート・ブランドが「知識のペースレイヤリング」と言っていましたよね。人類の知識、共通の知識というのは、教育、医療、政府などすべてに影響します。それらをうまく整理して、知恵のあるシステムを構築し、誰もが利用できるようにすべきだと思いました。
そこで考えたのは、これには膨大なコンピュートが必要だということです。これはまるでビットコインのようで、その計算資源の使用は避けられません。その計算力を活用して、制度レベルのデジタル通貨を安全に運用する計画がありますが、その詳細は近いうちにお知らせできるでしょう。
ただ、暗号通貨の分野はほとんどが無駄なものですが、その中でも需要は高まっています。12、13年前は、ラップトップPCでマイニングできる、GPUでマイニングできる、という話でしたが、今では資本がすべてを支配しています。しかし、また資本がすべてを決めるような世界に戻りたいでしょうか？私はそうは思いません。大事なのは人です。
そこで、人々が通貨を生み出し、それを使って普遍的なAIを支援できるようなマイニングの仕組みを作れないかと考えました。この仕組みについても、誰でも参加できる形で詳細をお伝えする予定です。人々はこういったプロジェクトに参加したがっています。自分のデータや知識を提供し、それをがん、自閉症、教育、健康、政府などの分野ごとに整理する専任チームで活用します。
まずはAGIの基盤を考え、すべてをオープンソースで公開しますが、実際に誰かが手を動かして実現することが重要だと思います。一度、共感を持つがんモデルを構築し、それがスマートフォンで使えるようになれば、がんの闘病中に孤独を感じる人はいなくなります。
世界の半分の人ががんを経験するとも言われています。がんに関する世界中の知識を整理し、それを専用のスーパーコンピュータに集約すれば、新しい論文が発表されるたびに治療法が進歩すると思います。
［ピーター・ディアマンディス］
本当にすごいことですよね。友人や知り合いが特定のがんにかかったとき、よく相談を受けます。誰がその分野で一番詳しいのか探してみるよ、と回答しますが、本来、こういった情報はすべて知ることができるはずです。治験情報、最先端の治療法、その場所やリスクなど、すべて瞬時に把握できるようにしなければなりません。
［エマド・モスタク］（Emad Mostaque）
でも、これはやらなければならないことです。そして、先ほどサリムが話していた通り、全世界の一般常識や各国の法律知識、医療知識など、あらゆる分野における最高品質のデータセットを構築した後は、その専門分野ごとに特化したものが揃います。こうして、完全にオープンソースで利用できる専門エージェント、ロボット、データセットが一斉に整うのです。そして、あとはそれをアップデートし、運用していくだけです。
そうすれば、次に知恵を磨くことに集中でき、どんどん賢くなっていくインテリジェントシステムを構築できます。その目的は私たちを助けることにあり、その手助けが増えるほど、この新しいタイプのビットコインの価値も高まるというわけです。詳しい内容はまた別途お話します。
この仕組みは、できるだけ多くの人に使ってもらい、多くの人を支援するために、オープンかつ協力的であることが重要です。必要な資本はそれほど多くなく、具体的な見積もりも示す予定です。しかし素晴らしいのは、これが今なら初めて可能だということです。
o1モデルやR1モデルの進歩により、世界中のがんに関する知識を整理し提供することや、自閉症やアルツハイマーに関する知識を共有することも、今では計算能力の問題に過ぎません。もう人的労力の問題ではなくなりました。スマートフォンで誰でもその知識にアクセスできるようにするのも、計算能力さえあれば実現できる時代なのです。
［ピーター・ディアマンディス］
分野ごとにすべてを支配する1つのモデルが登場するのか、それとも何千ものモデルが作られることになるのでしょうか？
［エマド・モスタク］（Emad Mostaque）
AIモデルの素晴らしいところは、そのトレーニング方法にあります。それをカリキュラム学習と呼びます。まずインターネット全体を使い、次にその一部、さらに小さい部分へと進んでいき、最終的にチューニング、専門化、そしてローカライズの段階に入ります。その後、パソコン上で継続的に調整されていきます。
ですから、各分野のデータセットやモデルを公開すれば、モジュール化されたシステムを構築できます。たとえば、LoRA（Low-Rank Adaptation）のように、画像モデルを微調整してアニメ風やジブリ風に変えることができたように、これも同じです。スマートフォン上のAIは共通のベースモデルから始まり、そのデータが安全で汚染されていないことを確認するのです。
このように、規制されたシステムにはオープンソースやオープンデータが必要だと私は考えています。上には小さなアダプターが付いており、例えばスポーツや特定のアプリに応じて学習し、調整されていきます。このモジュール化されたシステムでは、各自が必要なものを選び、カスタマイズできるのが重要なポイントです。
例えば、お子さんの教育について考えたとき、学校のカリキュラムに縛られたモデルだけに頼るのか、それともその教育モデルの中身をしっかり理解し、さらに微分積分の講座や選択科目を追加できる柔軟性を求めるのか。もちろん、後者を望みますよね？
だからこそ、許可不要のイノベーションが重要なのです。この考え方は先ほどのDeepSeekの話にもつながります。オープンソースであることが、多くの人に使われるキーポイントです。Llamaを見てください。オープンソースであったため、他の同様のモデルよりも多くの人に使われました。
良質なモデルやデータセットを構築すれば、人々はそれを使い、さらに改良を加えていきます。しかし、土台となるしっかりした基盤を築くことも可能です。これらのモデルは互いに影響を受けながら進化していきます。同じ学校で学び、その後はそれぞれ異なる大学に進学するように、最終的には異なる分野へと進んでいきますが、互いに連携し合えるようになっています。
［ピーター・ディアマンディス］
本当に素晴らしいですね。未来は驚くほどワクワクするものです――もちろん、私たちが生き残ればの話ですが。
そこが本当に重要なポイントです。私たちは今、これまでで最も刺激的な時代に向かっています。ただ、その裏に潜む危機――スター・ウォーズ的な未来やマッドマックス的な未来――を乗り越える必要があります。
（12）人間の長寿化と社会設計
［エマド・モスタク］（Emad Mostaque）
質問があります。もし今後5年から10年を無事に乗り越えられたら、私たちはどれくらい長生きできるのでしょうか？
［ピーター・ディアマンディス］
そうですね、これについては以前から公の場で話してきたテーマです。伝統的な医学界や科学団体とは何度も議論を重ねてきました。彼らはよく、120歳を超えることは不可能だ。遺伝的に限界が決まっている、と言います。実際、ピーター、そして他の誰であっても、健康な状態で100歳を超える可能性は極めて低いと考えられています。
確かに、医学や科学は歴史や過去のデータに基づいていますから、彼らがそう信じるのも無理はありません。でも、かつて、人間は空を飛べない、月には行けない、今のような高速移動や瞬時の通信は不可能だ、と言われていたことと同じような発想です。量子テレポーテーションなど、数十年前や100年前には夢物語だったものが今では現実になっていますよね。
現実には、人間の体は40兆個の細胞から構成されていて、各細胞では1秒間に10億もの化学反応が起きています。これほど複雑な仕組みを人間が完全に理解し、老化の根本原因を突き止めるのは不可能です。しかし、AIならそれができます。
AIは老化の本質を解明し、それを変える手助けをしてくれると私は信じています。進化によって与えられたものをそのまま受け入れる必要はありません。進化の目的は30歳くらいまでに遺伝子を次世代に引き継ぎ、その後は食料を孫世代に譲るために死ぬよう設計されているのです。でも、私の目的はそれとは違います。
［サリム・イスマイル］（Salim Ismail）
我々は死ぬために生まれてきた、つまり遺伝子を伝えるための一環に過ぎないのですが、そのサイクルを断ち切ることが可能なのです。
［ピーター・ディアマンディス］
エマドの質問に回答すると、私は未来が無限に広がっていると考えています。ただし、問題はこうです。これからの100年を肉体という制限の中で生き続けたいですか？それとも200年？それとも、意識と記憶が何であれ、それらをクラウドにアップロードし、制約から解放される未来を選びたいですか？ どうなるかは、これからのお楽しみです。
［エマド・モスタク］（Emad Mostaque）
本当にそうですね。今はまさに変革の時代です。ツールや技術が進化し、医療分野も根本から作り直す必要があると感じます。分野ごとにオープンな環境で開発に取り組むコアチームが存在しているようなものです。そして、政府という存在も同じように再考すべき時期に来ていますよね。政府とは何か？という問いが今、私たちの間で議論されています。果たして、そんなに多額の資金を使う必要があるのでしょうか？政府の目的は何なのか？この話を聞いている皆さんのうち、どれくらいの人が政府によって自分が適切に代表されていると感じているのでしょうか？
もし、個人が所有するAIがあって、それが自分のために働き、政府のAIとやり取りをしてくれるとしたらどうでしょう。数年以内に、政府のあらゆる決定はAIによってチェックされるようになります。その後は、AIが直接決定を下すことになるでしょう。なぜなら、AIのほうが政府よりも効率的に判断できるからです。それは少し恐ろしいことかもしれませんが、ついに真の意味での代表民主主義／間接民主主義（representative democracy）が実現するのです。本当に、これまでにない形の民主主義が可能になるのです。
そして、これは良い面も多くもたらします。個別化された医療や、共感的な医療が可能になります。実際のところ、医療の多くは心理的な要素に関係していますよね。「自分を制御できない」「誰も話を聞いてくれない」といった感覚を抱えることが多いものです。こうした問題を解決する支援システムは、最初から作り直して再設計する必要があると私は考えています。
それに、教育もその中でおそらく最も重要なものの一つです。現在の教育システムは、多くの人が努力しているにもかかわらず、目的に適していません。例えばMath Academyのような新しいシステムを見ると、その効果がすでに実証されつつあります。そして最近、ナイジェリアの学校での事例をご存知でしょうか？確か2週間か2か月程度ChatGPTを使っただけで、数学の学習が2年分進んだのです。これは本当に驚異的な結果です。
［ピーター・ディアマンディス］
そして、この話は以前からよく議論されています。多くの学校がAIに対して反発し、ChatGPTやGeminiの使用は禁止だ、といった動きが見られます。確かに、従来のやり方ではAIをそのまま活用するのは難しいかもしれません。でも、実際には、AIを使えば学習速度を100倍にし、より効果的な教育が可能になるのです。子どもたちにこれまで以上に大きな夢を描かせ、壮大な目標を設定できるでしょう。ただし、それによって教育業界全体が大きな変革を迎えることになるのも事実です。
［エマド・モスタク］（Emad Mostaque）
学校の設計には、人間の主体性を減らし、取り除く意図がありました。要するに、古典的な歯車の一部になるように仕向けられていたのです。
［サリム・イスマイル］（Salim Ismail）
ここはとても重要なポイントです。過去数百年の間で、人間はロボットのように扱われてきました。生産ラインに立ち、製品を次々と作る。その1時間あたりの効率が給料や昇進に関わっていました。私たちはKPIなどで評価され、効率化が重視されました。でも今はその流れが逆転しつつあります。今最も価値のある同僚や社員というのは、学習速度が速い人たちです。人間の特性が再び重要視され始めているのは、とても希望が持てる話です。そこに、面白いAI技術が加わってくるのです。
［エマド・モスタク］（Emad Mostaque）
実はAI Atlantisについてナット・フリードマンと考えていた時期がありました。その中で、AIを設計する方法には大きく2つあると気づきました。1つ目は、人間を代替するエージェントを構築することです。もう1つは、奪われた人間の主体性を取り戻し、それを高めることを重視することです。この2つは全く異なる設計アプローチです。だからこそ、AnthropicやGoogleなどの企業を見ていると、彼らは人間の主体性を高めることよりも、オートメーションやビジネスの最適化に重きを置いているように感じます。顧客が主に企業であることがその理由でしょう。また、消費者向けのサービスも少し異なる設計方針になっています。しかし、これらの生活に不可欠な領域を変革できるのは、とてもエキサイティングなことです。
［ピーター・ディアマンディス］
間違いなく、今が生きている中で最もワクワクする時代だと言えますね。
［エマド・モスタク］（Emad Mostaque）
だからこそ、夜に8時間の睡眠が必要なんですよ。
［ピーター・ディアマンディス］
いや本当に、私はその8時間が取れませんでした。今回のポッドキャストの準備のために朝4時に起きて、冷たいシャワーを浴びて目を覚ましたんですが、この対話が素晴らしかったので、それだけの価値がありました。
［サリム・イスマイル］（Salim Ismail）
冷たいシャワーはしんどかったですが、まあいいでしょう。
［ピーター・ディアマンディス］
エマド、また来てくれて嬉しいです。サリムも、いつもありがとう。
エマド、あなたの今の活動について知りたい人がいたら、どこで情報を見ればいいですか？
［エマド・モスタク］（Emad Mostaque）
Xの@ii_postsかインターネット上のii.incをフォローしてください。最高です。
［ピーター・ディアマンディス］
素晴らしいです。ではまたこの話をしましょう。技術の進化があまりにも速すぎて、頭が追いつかないほどですから。また近いうちに話しましょう。
お元気で。
2. オリジナル・コンテンツ
オリジナル・コンテンツは、以下リンクからご覧になれます。
尚、本投稿の内容は、参考訳です。また、意訳や省略、情報を補足したコンテンツを含んでいます。
Peter H. Diamandis
（Original Published date : 2025/01/30 EST）
3. 参考コンテンツ
＜御礼＞
最後までお読み頂きまして誠に有難うございます。
役に立ちましたら、スキ、フォロー頂けると大変喜び、モチベーションにもつながりますので、是非よろしくお願いいたします。
だうじょん
＜免責事項＞
本執筆内容は、執筆者個人の備忘録を情報提供のみを目的として公開するものであり、いかなる金融商品や個別株への投資勧誘や投資手法を推奨するものではありません。また、本執筆によって提供される情報は、個々の読者の方々にとって適切であるとは限らず、またその真実性、完全性、正確性、いかなる特定の目的への適時性について保証されるものではありません。 投資を行う際は、株式への投資は大きなリスクを伴うものであることをご認識の上、読者の皆様ご自身の判断と責任で投資なされるようお願い申し上げます。