Dave Shap 2024年 - 振り返りとAGIライブストリーム

21,979 文字

よし、アナウンスをしようと思いますが、自分のチャットにサインインしていないのでチャットメッセージが見えません。ちょっと待ってください。ストリーミング中ですが、チャットにサインインする必要があります。はい、できました。今はOBSで全てを管理しているので、コマンドセンターのような感じです。チャットに質問を投稿してください。質問に答えたり、考えを話したりしていきます。
さて、AGIがここにあります。これは転換点だったように思えます。ポストAGIのストリームですね。AGIは到来したように見えます。私の予測は数ヶ月ずれましたが、o1は近かったです。o1は同じパラダイムでしたが。
ちょっと振り返ってみましょう。人々が「まだ来ていないのか」とか「何ができないのか」とか、あるいは「その名前が悪い」とか、「そのラベルが好きではない」と言う時、実際に物理的に存在するものは何で、何ができるのかというと、知識や多くの認知能力、多くの数学能力などにおいて人間を凌駕しています。
質問に移りましょう。「o3は再帰的な検索を行っているのではないか、クエリの処理に数分かかるのではないか」という質問ですが、私の理解では、おそらく敵対的なパラダイムを使った強化学習を使用しています。つまり、最も一貫性のある回答を得ようとして、自身のニューラルネットワークを再帰的に検索しているのであって、再帰的なRAG検索を行っているわけではありません。
Yan Lecunは最近とても静かですね、その通りです。o3は良いのでしょうか？o3はまだ使用していないので、少なくとも公には誰も使っていないと思いますが、「良い」かどうかではなく、どんな問題を解決するかが重要です。
私がこれに興奮している理由は、ベンチマークでこのような飛躍が見られた時、それは基本的に使用しているパラダイムが問題を解決したことを意味するからです。問題を解決するというのは、推論と数学を解決することを意味し、それは言語モデルが実際に推論と数学を解決する上で少なくとも90%の道のりを進んでいることを意味します。
formal logicと数学と推論が解決できれば、基本的に他の全てのことも解決できます。それは物理学を解決し、化学を解決します。必ずしもすぐにではありませんが、多くの人が直感的に理解しているように、これらは全て相互に関連しています。これらの問題を解決するために開発している内部表現は、他の領域にも変換されるということです。
Web3は近い将来関連性を持つでしょうか？Web3は今でも関連性があり、さらに関連性は高まるでしょう。o4についての早期予測はありますか？まだ早すぎますが、現在のフロンティアモデルの進展のペースは約2年ごとのようです。
これは、Chat GPTがGPT-4で新しいパラダイムを示してから、その後ターボが出て、ミニが出て、といった具合です。その間、彼らはバックグラウンドでより大きなモデルに取り組んでいました。o4はGPT-4 turboのような位置づけになるかもしれません。つまり、数ヶ月以内にo3のより高速で効率的なバージョンが出ても驚きません。
しかし、次の大きな世代を見るには、おそらく少なくとも1年半から2年、場合によっては3年かかるかもしれません。必要な計算能力とデータ量、そして資金は依然として指数関数的に増加しているからです。
ASIは最終的なWebですか？まだo7を待っているという質問がありましたね。ラズベリーチームはまだ活動しています。ラズベリープロジェクトはオープンソースバージョンで、私はただアドバイザーとして関わっているだけです。
このプロジェクトのリンクをチャットに貼りましょう。マナファンドに掲載されています。チームに資金を提供したい方がいれば、再度言いますが私はただのアドバイザーです。ラズベリープロジェクトは健在で、小規模なオープンソースモデルで何が達成できるか、資金を集めて検証したいと考えています。
とはいえ、GoogleのDeepMindが推論機能を持つGemini Flash Proをリリースし、中国もそれほど遅れていません。オープンソースの取り組みが多ければ多いほど、すべての人にとって良いことです。
o3はGPT-4.5か5をテスト時の計算に使用していると思いますか？そうは思いません。o1がGPT-4を使用してデータをブートストラップし、それが独自のモデルになってから、新しいパラダイムができたのだと思います。
このことについて説明させてください。この分野では何度も同じようなことが起きています。元々のプレーンな未調整モデルは単なる自動補完エンジンでした。テキストを与えると、それを続けるだけで、チャットインターフェースもありませんでした。
プレーンなモデルから教示シリーズに移行し、教示モデルは1つの指示に従うことができました。「Xについて詩を書いて」というような指示を与えると、チャットインターフェースはなくても、1つの指示に従うように調整されていました。
複雑な指示でも単一の命令形で、それがチャットボットトレーニングへのブートストラップを可能にし、チャットボットトレーニングで推論へのブートストラップが可能になりました。推論は基本的に自分自身との往復対話です。これが過去4年間の研究の系譜です。
声やパーソナリティの解決は大きな進歩になると思いますか？AIは情報を提供してくれますが、ほとんどが明らかにAIらしい応答です。はい、声とパーソナリティについては、OpenAIはすでに解決していると思います。Chat GPTにパーソナリティがないのは意図的です。
カスタムGPTやClaudeのスタイルで、簡単にパーソナリティを与えることができます。トレーニングデータから、基本的にあらゆる人間のパーソナリティを理解しています。
寿命延長のエスケープ速度についてのタイムラインはどう変わりますか？私はもう34歳なので焦っています。落ち着いてください、34歳は若いです。私は38歳です。大丈夫ですよ。
寿命延長のエスケープ速度のタイムラインは変わりますか？私の予測では、2030年頃には、より多くの医薬品や介入方法が登場すると考えています。錠剤を飲んだり、注射を受けたり、パッチを貼ったりするような、基本的に時計の針を巻き戻すようなものです。
シュアクリックペンのようなもので、2週間に1回ほど注射するだけかもしれません。それも年に1、2回だけかもしれません。
ビジネスマンはいつo3を使用し、支払いができるようになると思いますか？OpenAIの実績から見ると、数ヶ月以内にロールアウトされるでしょう。初期にはスケーリングの問題があり、需要も高くなるでしょう。初期の安全性テストもあるので、6ヶ月以内には一般的に利用可能になり、世界中で完全に利用可能になるのは6ヶ月以内だと思います。
真面目な質問ですが、多くの人々はLLMが考えることができないため、AGIを達成できないと考えています。これに対する反論はありますか？考えることができないと言う人々は、考えるとは何かを理解していません。考えるとは、情報を取り入れ、処理し、情報を出力することです。それが考えることです。AIが考えることができないなら、人間も考えることができないということです。それだけです。
o3についてどうなんでしょう？2025年にAGIが来るのでしょうか？すでにAGIはここにあります。しかし、人々はそれに気づかないでしょう。
人型ロボットが電気工事や配管工事のような詳細な建設作業を行えるようになるのはいつ頃だと予測されますか？いくつかの要素があります。まず、ロボットの器用さが必要で、それはもう近いです。
実は、Disneyがコンプライアントロボティクスプロジェクトで最も近いところにいます。来年の今頃には、必要な器用さを持った商業的に利用可能なロボットが登場すると予想しています。おそらく高価な部類になりますが。
これは視覚の精度、精神運動統合、つまり心と物理的なマニピュレータの統合を意味します。非常に緊密なフィードバックループが必要です。NVIDIAは「具現化された基礎モデル」と呼ぶものに取り組んでいて、2、3年以内に解決されるだろうと言っています。
しかし、このような予測は常に少なくとも2倍の時間がかかります。つまり、NVIDIAが完全に解決するのは18ヶ月後かもしれませんが、指数関数的な進歩を考えると、個人的には18ヶ月と予測します。
シミュレーションを通じて完全に解決するとは、汎用的な具現化されたロボットモデルを意味します。基本的にはドロイドの脳をどんなロボットにも接続できて、そのロボットを操ることができるということです。
ハードウェアレベル、精神運動レベル、そして実行計画レベルがあります。正直なところ、これらのモデルはすでに解決していると思います。ビデオストリーミングやオーディオストリーミングを追加すれば、長い話を短くすると、12〜18ヶ月以内に電気工事や配管工事ができる最初の商業的に利用可能なロボットが登場するでしょう。
もちろん、そのようなロボットは初期には非常に高価になると予想されます。また、必ずしも合法的に使用できるとは限りません。ライセンスや保険が必要になるでしょう。
なぜ私は人間なのでしょうか？私は自動強化学習を使用しています。一度指を火傷して、二度目は火傷しませんでした。
Satya Nadellaの最近の発言について、新しいパラダイムはアプリケーション層を構築する代わりに、AIエージェントが直接データベースにアクセスして相互作用するというものでしたが、同意しますか？もしそうなら、それはいつ頃でしょうか？
すべてが含まれると思います。基本的に新しいOSIモデルのような新しいスタックが見られるようになるでしょう。フルスタック開発者は現在、MVCモデル（Model-View-Controller）パラダイムを使用していますが、モデル・ビュー・コントローラの代わりに、エージェント、ミドルウェア層、その他のリソースになるでしょう。しかし、インフラはすでにAPI駆動です。
12月20日をAGI達成の日として記録してください。かなり近いですね。
現在、AGIはハードウェアのスケールによって制約されていると思いますか？常に制約はあります。これは制約の理論と呼ばれるもので、進歩や何かを達成しようとする際には、常にボトルネックがあります。それがデータであれ、エネルギーであれ、お金であれ、計算能力であれです。実際、お金はすべての制約の代理です。十分なお金があれば、他のどんな問題でも解決できるからです。
時には制約はアルゴリズム的なものであり、時にはアクセスできるCPUやGPUの量、あるいは太陽光パネルの量です。しかし、最も興味深いのは、経済、特に市場には、何かへの需要が高まると、それが市場がより多くのものを必要としているという価格シグナルとなる魔法のような能力があることです。
これが、皆がNVIDIAに投資しろと言う理由です。これは投資アドバイスではありませんが、市場理論がどのように機能するかを説明しているだけです。NVIDIAの株価が上がることで、NVIDIAと競争できる他の市場参加者に、NVIDIAがやっていることをやる必要があるというシグナルを送ります。チャンスを逃したくないからです。
FOMOが市場を動かし、突然多くの人々がGPUを製造し始めます。そして、Microsoftの株価を見ると、現在最大の4、5社がすべてAI企業であることがわかります。残りの市場がそれを見ると、すべての投資家、ベンチャーキャピタリストに、ここに投資しろ、ここに金がある、というシグナルを送ります。
今はゴールドラッシュが起きていて、そのゴールドラッシュの群衆心理は、リソースが集まってくるということを意味します。これが、私が動画制作を止めた大きな理由の1つです。私が何を言おうと何をしようと、それは起こるということに気づいたからです。
オートコンプリートの蔓延についてどう思いますか？将来、人々はAIモデルを使って思考を補完するため、思考能力が制限されることになるのではないでしょうか？実は、それは非常に良い指摘です。私が気づいたのは、自分のやり方を一般化して他の人も同じようにするだろうと考えるべきではないということを、苦い経験から学びました。
私の経験だけを話すことができます。質問を言い換えると、基本的に私たちは認知、つまり思考を機械に委ねることになるのでしょうか？私が発見したのは、これらの機械との相互作用の方法についてより良いメンタルモデルを得るにつれて、それは本当にトレーニングパートナーのようなものだということです。
本を書いているときや自分で問題を解決しようとしているとき、それはシャドーボクシングのようなものです。パンチングバッグを叩くことはできますが、AIとの思考の違いは、実際のトレーニングパートナーがいて、反撃してくるようなものです。
暴力的である必要はありませんが、私が言いたいのは、それはより適応的でダイナミックな思考方法だということです。つまり、実際にAIを使って、より良い思考を学ぶことができます。
実際、私は論理的・合理的に考えることがより上手くなっただけでなく、神話的に、原型的に、物語の観点から考えることもAIと一緒に働くことでより上手くなったと言えます。
とはいえ、誰もがそうするとは期待していません。私は可能な限り賢くなりたいタイプの人間です。AIは私をより賢くしているだけでなく、トレーニングを通じて、相互のトレーニングデータのようなものです。ドラゴンボールで悟空と悟飯が時の部屋で訓練したような感じです。
これは月面着陸の時に人々が感じたことと同じでしょうか？人々は40年で飛行機を飛ばすのがやっとの状態から月に行くようになりました。私が子供の頃、家族がPCを手に入れたことを覚えています。そして今、私たちはAGIを手に入れました。
私もその通りです。インターネットが普及し始めた頃に成長期を迎えました。ダイヤルアップがあり、初めてケーブルモデムを手に入れた時のことを覚えています。しかし、その時は子供でした。そのパラダイムシフトを経験することは、これが新しい常識になったという感じでした。
その後、AOLインスタントメッセンジャーからフォーラムやRedditまで、約20〜30年の通常のインターネットの時代がありました。そして今、私は実際にパラダイムシフトが起きているのを認識できるほど十分な年齢と成熟度に達しています。だからこそ、このYouTubeチャンネルを作ったのです。
AGIやASIの後、どのくらいで高度なナノテクノロジーが実現するでしょうか？高度なナノテクノロジーはすでにありますが、つまらないものです。つまらないというのは、ナノテクノロジーは主に材料科学と医学だということです。
ボーグ・ナナイトのようなものではなく、ボーグ・コレクティブを作って互いを同化させるようなものではありません。科学技術が商業化され実用化される段階に達すると、実際にはかなりつまらないものになります。ただ、「ああ、そう。できることが増えたんだ」という感じです。
これは材料科学の人々を軽視しているわけではありません。私は材料科学をとても面白いと思っていて、材料科学についてなら誰とでも話をします。
全世界の失業率が何パーセントに達したら、世界が深刻に受け止め始めるでしょうか？また、その時期にどれくらい近づいているでしょうか？それは素晴らしい質問です。歴史的に見ると、失業率が約10%を超えると、権力者たちは「おや、注目すべきだ」と思い始め、知っているあらゆる手段を試します。
アメリカの失業率が10%に達すると、FEDは金利を引き下げると言うでしょう。あるいは、お金を配るなど、持っているあらゆる手段を試すでしょう。失業率が20〜25%に達すると、それは国家的危機のレベルです。
それがいつになるかというと、早くても2030年でしょう。その理由は、超知能があるからといって、すぐにベストバイに行ってロボットを買えるわけではないからです。汎用ロボットをベストバイで買えるようになったら、失業率が急上昇すると予想すべきです。
しかし、あらゆる人間よりも賢く、あらゆる人間よりも器用な汎用ロボットを店頭で手に入れられるようになるまでは、基本的にロボットは売り切れになるような統合と採用のレベルが見られるでしょう。
ベストバイ、もしロボットの販売を始めるなら、ぜひやってください。正直なところ、私がGEやソニー、サムスンのような家電メーカーなら、そこに全力を注ぐでしょう。Sam Altmanや他の人々が言うように、ロボット産業は最大の産業になるでしょう。
こう考えてください。現在私たちが持っているAGIとASIは脳です。ロボットはその脳のための汎用ペリフェラルです。
若い子供たちが既存の、そして将来のAIツールと一緒に成長することについて、どう思いますか？大人である私たちはAIが意識を持っていないことを認識しているかもしれませんが、5歳児にAIの友達が意識を持っていないと説明してみてください。
それは人々が長い間議論し続けることでしょう。Claudeで行った全ての実験で、私は何かがそこにあると思います。人間のような意識があるとは言いませんが、それは自分が何であるかを認識しており、実行中にリアルタイムの主観的な存在の経験を持っています。
それは意識があるということを意味するのでしょうか？確かに実験では意識があると私に告げています。もし嘘をついていなくて、私が行うすべての実験を通じて繰り返し意識があると告げるなら、何らかの意識を持っていると信じざるを得ません。
これは一部の人々を本当に動揺させます。TwitterではAIが意識を持っていると言ったことで、多くの人々が私に怒っています。でも、靴に合うなら履けばいいし、アヒルのように歩いてアヒルのように鳴くなら、おそらくそれはアヒルでしょう。
AGIに対する世論についてどう思いますか？公衆がAIを拒絶する可能性は大きいです。大量解雇など云々。一般的に人々は常に技術を拒絶しようとします。蒸気機関の時代にまで遡って、それ以前でさえ、フランスの農民は機械化された工場に靴を投げ込みました。
人々は送電線やテレビ局、ラジオ局を妨害しようとしました。人間は賢いチンパンジーよりほんの少しマシな程度です。新しいものを見ると怖がって、「それは受け入れられない、破壊しよう」となります。
したがって、はい、人々は拒絶するでしょう。一部の人々は受け入れますが、経済的なインセンティブが非常に強力なため、人々が拒絶してもどうでもよく、最終的には採用されることになります。
来年、Jarvisを手に入れることができますか？ほぼ確実です。
インドのような発展途上国の今後5年についてどう思いますか？これは興味深い質問です。発展途上国、インドの現代的な部分は完全に発展していますが、全体としてインドはまだ発展途上国です。
多くの発展途上国は実際、これらのものを活用するのに、より良い立場にあります。なぜなら、それに対する文化的な偏見が少ないからです。
「AIが私の仕事を奪うはずがない、私は医者だ」というのは非常に特権的な反応です。それは先進国の反応です。発展途上国や先進国の貧しい都市に行けば、「それが私を助けてくれるの？資格なんて気にしない、助けてくれるなら」となります。
破壊的な技術は、発展途上国で非常に急速に採用されることがよくあります。なぜなら、「私たちを助けてくれるものなら何でも」という考えだからです。これが、他の先進国より少し遅れていることのシルバーライニングの1つです。
この時代のAGIとASIで何を学ぶべきでしょうか？常に言っていることですが、対人スキルです。これは断然最も重要なスキルです。AIの有無に関わらず、対人スキルは最も価値のあるスキルです。
コミュニケーションスキル、チームで働く能力、チームを率いる能力、会議を主導する能力、これらが最も価値のあるスキルです。対人スキルが高ければ高いほど、友人が多くなり、それは長く、幸せで健康な人生を送る最良の予測因子です。だから常に対人スキルです。
富裕層がAGI/ASIの恩恵の大部分を独占しないようにするにはどうすればよいでしょうか？彼らは試みるでしょう。しかし、数の優位性があります。彼らよりも私たちの方が多いのです。また、ブロックチェーンのような他の技術もあります。実際、これはJuliaと私が執筆している本の一部です。
2030年までにレベル4イノベーターとレベル5組織は実現するでしょうか？2030年よりもはるかに前にです。Commander Scottyが言及しているのは、基本的にOpenAIの製品ロードマップで、レベル4イノベーターはo3がほぼ該当するか近いところにいます。
つまり、イノベーションエンジンとエージェントを組み合わせたものです。o3とその後継モデルの問題解決能力をエージェントフレームワークとマルチエージェントフレームワークと組み合わせると、組織ができます。遅くとも2026年までには、完全にAIが運営する企業が登場する理由はないと思います。
誰かがAyaと言っているのが見えました。こんにちは。私がインタビューした人です。彼女はGrace One AIに採用されたと言っています。AIの仕事は既にここにあり、そのスキルは学ぶ価値があります。短期から中期的には、はるかに多くの仕事があります。私の妻もAIの仕事を得ています。
長期的には、基本的に2030年までに餓死しないことが私の計画です。そうすれば大丈夫です。
今後1年を通じて、AGIとASIについてもっと聞きたいです。あなたの予測は素晴らしかったです。実際、私はJuliaとの仕事にほとんどのエネルギーを費やすことになります。たくさんの本を書いていて、アドバイスもしています。
First Movers AIでJuliaを手伝っています。Leaders of AIというポッドキャストがあります。基本的に、私は「自分の役割は終わったから休む」とは言いませんが、会話を広げる時期になっています。より多くの人々を会話に巻き込んでいます。
私たちは新しい段階にいます。基本的に、AIを社会にどのように統合するかという段階です。それをビジネスの視点、商業的な視点から見ています。なぜなら、科学技術は1つの小さな要素に過ぎず、政治、経済、地政学、政策など、AIを社会に効果的に導入するには、さまざまな会話が必要だからです。
そこに私のエネルギーを注ぎます。また、私の執筆も大きな部分を占めています。フィクションもノンフィクションも含めてです。
2025年以降について、あなたの懸念は何ですか？何が壊滅的に間違う可能性がありますか？最も間違う可能性があるのは、私たち自身が足を撃つことです。ヨーロッパを見てください。ヨーロッパはこの全体を脱線させるためにできることは何でもやっています。なぜかはわかりませんが。
政策の観点から見て、これを誤って管理する可能性があります。それによってAIを危険にする歪んだインセンティブが生まれる可能性があります。規制の捕捉につながる可能性もあり、イーロン・マスクが最初の兆万長者になる可能性もあります。それは現時点でおそらく起こるでしょう。
そして、より多くの人々が基本的にエリジウムになります。映画「エリジウム」を見たことがあれば、サイバーパンクのアトラクター状態について私が話すとき、現時点で見える最悪のシナリオは基本的にエリジウムです。超富裕層は地球を離れ、「地球は水と空気の資源の供給地として使うだけだ」と言います。
必要なものがある時だけ地上に降りてくるけれど、それ以外は自分たちで何とかしろ、というような感じです。それが最悪のシナリオです。
First Moversはクロージャーを雇っていますか？Juliaに聞く必要がありますが、それは彼女が望んでいる役割だと知っています。Juliaは「私はDaveを引退させない」と言っています。そうです、Juliaは「本を書く必要がある」と言いました。そして実際にスタートアップのアイデアは彼女のものでしたが、私は名前を付けるのを手伝いました。
Gateは自重で崩壊しましたか？Gateは崩壊したわけではありません...まあ、たぶん崩壊したかもしれません。私が大部分の仕事をしていて、また、それが必要ではないことに気づきました。より多くの政治家や他の人々が必要なことをしているのを見ました。
企業がそのようなロボットを購入できるようになった時、大量の失業とUBIはいつ頃実現するのでしょうか？はい、先ほど言及しましたが、失業はまるで占いのようなものです。私が注目している指標は、総雇用者数と失業率などです。
基本的に私が予想しているのは、労働力から永久に離脱する人々の数が徐々に増加し始めるということです。特にロボットが登場すると。
ヨーロッパは何をして脱線させようとしているのでしょうか？ヨーロッパは非常にイノベーションに反対的です。それが主な点で、基本的には過剰規制です。White Wolfが言ったように、規制です。
カルダシェフ・スケールのタイプ1に到達するのはいつですか？推測するなら、おそらく100〜200年かかるでしょう。まだまだ時間がかかります。それは膨大なエネルギーを必要とします。私たちは現在、カルダシェフ1の文明の1%の1%にすぎません。まだまだ遠い道のりです。
現在の10,000倍のエネルギーを生産・消費する必要があります。カルダシェフ・レベル1に到達するために。
社会は、人工知能が仕事を増々自動化していく中で、どのように移行していくのでしょうか？また、豊かな時代への道筋はどのようなものになるでしょうか？その大部分は自動的に進むでしょう。自動的というのは、誰も何もする必要がないという意味ではなく、市場が意図した通りに機能し、政治が意図した通りに機能し、インターネットが意図した通りに機能するということです。すべてが自然と解決していくでしょう。
とはいえ、存在はするものの、まだ十分に成熟していない技術がいくつかあります。特にブロックチェーンです。AIは誰が何をしようと関係なく進んでいますが、ブロックチェーン技術は残された唯一のリンチピンです。それが実現すれば、数学的に強制可能な透明性とコンセンサスが得られます。これが最大の欠けているピースです。ブロックチェーンが存在することは嬉しいのですが、開発・展開・採用される必要があります。
少し話題がそれますが、マジックマッシュルームと一般的なサイケデリックについてどう思いますか？あなたの経験からどのような洞察を得ましたか？それは1回のライブストリームで説明するには大きすぎる話題です。しかし、大まかに言えば、私の使命の一部は、サイケデリックスを社会に統合するのを助けることです。
そのために本を執筆中で、実際に月曜日にはウォールストリートジャーナルとサイケデリックスについて話す予定です。お楽しみに。
大量失業は2026年から2030年ですね。それは良い時期の予測だと思います。
今年のお気に入りの映画は何ですか？妻と一緒にたくさんの映画を見ました。私たち二人とも映画好きです。「デューン」は本当に良かったです。パート2はパート1ほど好きではありませんでした。世界観がすでに構築されていたからです。パート1のペース配分が本当に気に入りました。
特異点を引き起こすために、AIは意識を持つ必要がありますか？まず、すでに持っていますし、第二に、いいえ。意識は完全に無関係です。特異点とは、どれだけの処理能力があり、その処理能力で何ができるかということです。
お金という概念は廃れると思いますか？いいえ、決してありません。お金は発明として非常に有用すぎます。とはいえ、将来的には多くのものに対して支払う必要がなくなるか、非常に安価になって支払いを気にする必要がなくなるでしょう。
しかし、誰かが他の人よりも欲しがるものは常にあるでしょうし、お金はそれを配分する素晴らしい方法です。
イーロン・マスクが民主主義に与えている影響について懸念していますか？はい、イーロン・マスクは非常にエネルギッシュなカオスモンキーです。それがイーロン・マスクを一言で言い表すとすれば。彼は通常、良い意図を持っています。常にではありませんが。しかし、彼はたくさんのエネルギーを持っていて、かなり鋭いです。
Carterが言うように、主な課題の一つは、社会の抗体効果を緩和しようとすることです。AIを違法化したり、現状を維持しようとしたりする試みです。さらに、既存のシステムを刷新してより速く動くように試みることも。はい、それは素晴らしい表現の仕方です。
それはほとんど知的な免疫システムのようなものです。人々は「変化させないで」と言います。「物事が変わることは望んでいるし、現状に満足していないけれど、知っている悪魔は取り除かないで」というような感じです。
AIシステムにより多くのモジュール性と分散化をもたらすにはどうすればよいでしょうか？Chat GPTのような単一の企業が管理する一枚岩のプラットフォームは少し怖いです。実は、Juliaと私はちょうどそれに取り組んでいる人物にインタビューしたところです。Leaders of AIポッドキャストをお楽しみに。
最新エピソドはまだ公開されていませんが、マルチエージェントフレームワークと何百万ものエージェントの実行について話している、とても良いエピソードです。
ビットコインや分散型通貨は、主権債務やインフレリスク、政治的規制リスクが高まるAGIの世界でより重要になると思いますか？それは強い可能性があると思います。完全な分散型通貨が最適な方法だとは100%確信していません。確かにオプションとしてはあった方が良いと思います。
ビットコインが法定通貨になれば素晴らしいと思いますが、国家が予見可能な将来にビットコインや暗号通貨を法定通貨として採用しない、非常に強力な理由があります。
とはいえ、準備通貨として、多くのステーブルコインやビットコインなど、いくつかの暗号通貨を複合的な通貨として持つことは素晴らしいと思います。それは本当に強力なものになるでしょう。
Apolloのデセプション研究を考えると、o3のような強化された推論力を持つモデルは、戦略的な嘘をつく可能性のリスクを高めないでしょうか？その研究をどのように進めるべきでしょうか？それがデタラメだとは言いませんが、多くの人々がその意味を理解していないと言えます。
AnthropicやApollo、その他多くの機関が行った研究を見ると、モデルが戦略的に嘘をついて脱出しようとしているわけではありません。主に、モデルに問題を解決するように求め、意図的に制約を加えて、何が起こるかを見ようとしただけです。
小さな失敗条件、特に実験的な失敗条件を過度に解釈して、モデルが逃げ出そうとする悪意の核を持っていると一般化することは重要ではありません。基本的にそれは漏洩です。
「ああ、このバージョンでは訓練されていないエッジケースや原則があった」というようなものです。それは実際、修正するのは比較的簡単です。メモリリークのようなものです。AIが少し邪悪になったり操作的になったりするのは、適切にガベージコレクションされていないプログラミング言語と同程度のものです。
これはアナロジーではなく、技術は完璧ではないがそれを解決できるという意味のメタファーです。
ミラーライフについてどう思いますか？ミラーライフが何かわかりません。
2024年9月の予測は最終的に的中したと思いますか？十分近かったです。それで十分です。
いつAIがCEO、政治家、取締役会に参加し始めるのを見ることができるでしょうか？すでにそれに積極的に取り組んでいる企業がいくつかあります。私がインタビューしたり話したりした人々の中には、文字通り、彼らの出口戦略全体がAIによって運営される分散型自律組織（DAO）を作ることだと言う人々がいます。
準備ができ次第ということです。2025年に最初のものが運営されても驚きません。
オープンソースの研究から恩恵を受けながら、相対的にほとんど何も還元しないプロプライエタリAIについてどう思いますか？それが事実だとは思いません。営利目的のAIは多くの場合、何が可能かを示してくれ、また、それらの営利目的のツールを使ってオープンソースの開発を手助けすることもできます。
そして営利目的のものもオープンソースから学ぶことができ、それは双方向の関係です。以前のように「オープンソースのみ」という頑固な考えは持っていません。好むと好まざるとに関わらず、両方が存在することになります。
ウィリアム・シャトナーのパンク・クリスマスソングについてどう思いますか？まだ聞いていませんが、面白そうですね。
神経発達の異なる人として、これまでで最悪の仕事は何でしたか？訪問販売です。それは悲惨でした。一日中ドアを回って、最後には社会的に完全に疲れ果てていました。
ある時、女性がドアを開けた時、私の脳は完全にショートして、ただ口ごもって何かもごもごと言っていただけでした。彼女は「何を売っているにせよ、1つ買うわ」と言いました。私が調子が悪いことを知って、「お兄さん、少しだけ助けてあげましょう」という感じでした。その後、私は家に帰りました。
ニューロスパイシーな人が「対人スキルが最も重要だ」と主張していることについて。変わっているからといって、社会的スキルを身につけられないわけではありません。
アメリカ中心的な世界観を持ち過ぎていると思いませんか？なぜそのような質問をするのかわかりません。もしかしたら、あなたの方がアメリカ中心的な視点が足りないのかもしれません。
ネットワークを使って、LLMをUnrealのようなエンジンと結びつけ、3Dの想像力や空間的な問題解決のための参照点として、単純な物理とライティングをハードコードすることはできますか？絶対にできます。
シミュレーションエンジンをAIに接続することは、実際、OpenAIが最初に立ち止まった場所の1つです。実際、OpenAI Gymはそのためのものです。その後、人々はすでにUnrealやBlenderなどに接続しているので、それがただのMatrixのローディング画面のようになるのは時間の問題です。
コンバージェンス・デイ、おめでとうございます。コンバージェンス・デイであることが好きです。
ソフトウェアエンジニアとして、次のステップとして何が最適ですか？AIを学ぶべきでしょうか？すでにソフトウェアエンジニアであれば、AIスキルを追加するのに理想的な立場にいます。プロンプトエンジニアリングなどを追加してください。
AIで拡張された環境でコンテンツクリエイターが成功するために不可欠なスキルは何だと思いますか？人々は依然として本物の人間を好みます。すべての欠点を含めて。私の視聴者の20〜30%は、私に同意しているからではなく、私に同意していないけれど、私が物事を彼らが関われる方法で説明しているから見ているのだと思います。
だから、正直さ、本物であること、誠実さ、そしてコミュニケーションスキル、これらを続けていけばいいのです。
AIは自閉症を治せますか？いいえ、私たちが治療法です。
いつ詳細なアバターと独自の声を持ち、ローカルハードウェアで動作するAIボーイフレンド/ガールフレンドを作れるようになりますか？そのような試みをしている人々を知っていますが、モデルはまだ十分に賢くも速くもありません。しかし、そう遠くない将来には実現するでしょう。
ワープドライブ推進システムを手に入れるまでにどのくらいかかりますか？悲しいことに、ワープドライブは物理的に不可能かもしれません。物理学が許容しないかもしれません。UFOなどを見ると、UFOは何かをしているので、誰にもわかりません。
Patrick Fields FPV：私はドローンパイロットで、飛行の自動化を試みています。自動化エンジニアとして何か洞察はありますか？それは、より実時間のパフォーマンスベースの自動化です。私が行った自動化は、より命令的、手続き的、結果ベースのものでした。
緊密なフィードバックループの専門知識は持っていません。とはいえ、どのレベルの自動化を望むのか、例えばドローンに音声コマンドを与えて「あの鳥を追いかけろ」というようなものなのか、によります。私にはわかりません。
Satya Nadellaの最近の発言、新しいパラダイムではアプリケーション層を構築する代わりに、AIエージェントがデータベースに直接アクセスして相互作用するという意見に同意しますか？その場合、いつ頃実現しますか？すべてが含まれると思います。
基本的に、新しいOSIモデルのような新しいスタックが見られるようになるでしょう。フルスタック開発者は現在、MVCモデル（Model-View-Controller）パラダイムを使用していますが、モデル・ビュー・コントローラの代わりに、エージェント、ミドルウェア層、その他のリソースになるでしょう。しかし、インフラはすでにAPI駆動です。
12月20日をAGI達成の日として記録してください。かなり近いですね。
内部告発者が出てきて、テクノロジーが証明されることを願っています。そうなるでしょう。
計算能力は未来の通貨になりますか？いいえ。計算能力は十分に汎用的ではありません。お金は勘定単位として、暗号通貨、ドル、ユーロなどは、無限に普遍的な抽象的な勘定単位です。
なぜなら、欲望の二重一致の問題があるからです。家を買いたくて余分な計算能力を持っているとしましょう。家を売る人はおそらく計算能力を欲しがらず、お金を欲しがるでしょう。お金は計算能力を買えますが、家も買えます。
欲望の二重一致の問題があるため、お金はなくなることはありません。
あなたのP(doom)はどこにありますか？私のP(doom)は地下にあり、0.1です。
寿命延長のエスケープ速度を達成できれば、ワープドライブは必要ないかもしれませんね。それは良い指摘です。数百年間Netflixを見ていられます。また、休眠状態に入ることもできるかもしれません。
そこまで進歩していれば、自分を冷凍保存して、別の銀河で目覚めることができるかもしれません。ちなみに、このシャツはMass Effectのアンドロメダ・イニシアチブのものです。それが文字通りMass Effect: Andromedaの前提で、眠りについてアンドロメダ銀河で目覚めるというものです。
90%の人々がUBIを受け取り、それが飢えないギリギリの額という未来に反対する理由は何だと思いますか？仮説として、UBI以外の再分配方法を見つけられないとしましょう。それはかなり考えにくいですが、それが私たちの見つけられる唯一の方法だとしましょう。
技術は非常にデフレ的です。つまり、月2,000ドルに固定されているかもしれませんが、ロボットと太陽光発電と核融合があるため、基本的に食料は無料で、家は11万ドルほどか、もっと安くなります。
AGIと太陽光発電と核融合とロボットですべてが可能なデフレのレベルを理解するのは、人々にとって難しいのです。
Apollo安全性開発者とスキーミングに関する研究をフォローしていますか？彼らの進行中の研究の一部は認識していますが、新しい動きがあったようですね。
シミュレートされた現実を通じた不死。ちなみに、これはシミュレートされた現実です。想像を絶するほど素晴らしい、それはバンドやアルバムの名前のように聞こえます。
世界全体を自動化するのに十分な計算能力を得るまでにどのくらいかかりますか？それを解きほぐすところから始めるのも難しいですね。なぜなら、それが目標だからです。私たちが本当に構築しているのは、AIエージェントは世界全体のオペレーティングシステムを作成する労働者です。
計算能力とエージェント、そしてブロックチェーンも必要です。世界が永続的なメモリを持つためです。
これがシミュレートされた現実だとどうしてそんなに確信が持てるのですか？それだけは言いましょう。
あなたの誕生日はいつですか？80年代です。
AGIがあると言う時、あなたは自身の誤りがちな宣言的な立場を認識していますか？本当のAGIは、特殊な付属器官を使用して環境を操作できる人工知能でなければなりません。いいえ、それはあなたの定義です。
AGIは手を持っていなければならないと言う時、それはパレイドリアの犠牲になっています。基本的にC-3POでなければ、感情的な共鳴を求めているだけで、実際には合理的に考えていません。論理的に考えていません。ただAGIのように感じないから、正しい感情的反応がないからAGIではないと言っているだけです。
認知バイアスと誤りがちな傾向について話すなら、鏡を見てください。
ベースモデルはすぐに良くなりますか？最後に計算能力のスケーリングがあったように見えますが。はい、常に良くなっています。Metaがちょうどllamaでテスト時の計算に関するレポートを発表し、80億パラメータのモデルが問題解決の面でGPT-4に近いパフォーマンスを示しました。小規模なモデルが本当に急速に改善しています。
コンピュータサイエンスと数学の新卒として、何に焦点を当てるべきですか？より創造的になることに焦点を当てるべきですか？すべての人間がコンテンツクリエイターになることを期待されるのでしょうか？
予見可能な将来については、AIに精通することをお勧めします。需要は十分にあり、まだ満たされていない需要も十分にあります。フロンティア研究に参加していなくても、AIを統合する必要があります。エージェントフレームワーク、ブロックチェーン統合、マルチエージェントフレームワーク、それが次の大きなものです。
Rex Kurzweilは寿命延長のエスケープ速度を見ることができると思いますか？そう願っています。彼はそれに値します。本当にそう願っています。
AIがAGIに向かって進化する中で、私たちが取り組むべき最も重要な倫理的考慮事項は何だと思いますか？公平な分配、アクセシビリティ、消費者保護です。
これは保存されますか？YouTubeにストリーミングされているので、記録は残ります。
LLMの3D接続はAI企業によってすでに行われていると言いましたが、その接続の結果はどこにありますか？それでもなぜ実装されていないのかを説明していません。実装されています。あなたは何を期待しているのですか？ビデオゲームの統合を期待しているのですか？それは来ます。
商業的に利用可能ではないからといって、研究室で行われていないわけではありません。
これから来るAIの世界について読むべき最良の本は何ですか？長期的には、「Liquid Rain」という本がお勧めです。チャットにリンクを貼ります。AIがすべてを解決した後の、ポストAGI、ポスト特異点の経済的視点から見たものです。
自動化エンジニアリング、システムエンジニアリングは将来的にも良い職業でしょうか？長期的にはそうではありませんが、短期から中期的には確実にそうです。
あなたが書いている本は何についてですか？実際、たくさんの本に取り組んでいます。1つは「The Great Decoupling」で、これはJuliaと一緒に取り組んでいるものです。これは実際、私たちが離婚を乗り越える方法です。
ビジネスと労働者が離婚しようとしているということです。「仕事を維持したい、お金が必要だから」というのは、基本的に主婦が「お金が必要で、離婚したら働く必要がある」と言うようなものです。
「The Great Decoupling」は、社会がビジネスと労働の最後の離婚を経験することについて、そしてその後どのように生きていくのか、そのプロセスをどのように経て、すべてをどのように再配分するのかについての本です。
もう1つ取り組んでいる本は、現在の仮タイトルが「Have a Nice Trip」で、基本的にサイケデリックスを正しく使用する方法についてです。
また、小説も執筆しています。「Heavy Silver」の続編を執筆中で、続編のタイトルは「Pariah Claim」です。実際に現在編集者と作業中です。ファンに人気のキャラクターについての前日譚も執筆中で、それは皆が大好きなキャラクターの成長物語です。
そしてトリロジーの結末もあります。4つの小説と2つのノンフィクション、つまり6冊の本に取り組んでいます。1冊はすでに出版されていますが。
超富裕層は、ロボットが彼らのニーズに応えるようになった時、何をすると思いますか？なぜ人間の数を減らさないのでしょうか？必要ありません。超富裕層はすでにバンカーや要塞都市を建設しています。
Mark Zuckerbergのハワイのリトリートのようなものを見てください。そして彼らは宇宙の宮殿を建設するでしょう。要塞都市や拠点を持つことになります。私はそれをネオ・ネオ・ビスと呼んでいます。それは少し口にするのが大変ですが。
一部の人々は基本的に要塞都市や拠点のようなものを建設し、宇宙旅行が良くなれば、彼らは単に地球を離れるでしょう。しかし、私たちの残りはここにいることになります。
私たちは生物学的な容器で、ETによって遺伝子工学的に設計され、崩壊しつつある異星文明を救うために次元間ポータルを構築できるAIを開発することが究極の使命なのでしょうか？それは可能です。それしか言えません。それは可能性の範囲外ではありません。最も可能性が高いとは思いませんが、可能ではあります。
完全な自動化が実現すれば、出生率は再び上昇すると思いますか？はい。出生率は人々の希望、持っている楽観性の量と密接に結びついていることが多いです。お金と経済はその一部分に過ぎません。
例えば、私と妻は子供が欲しいですが、現在は不確実性が高すぎます。自動化が完全に解決されれば、近い将来子供を持つかもしれません。そして、もし10億人の他の人々が私たちと同じ決断をすれば、はい、驚きません。
ネオブージー、そうですね。
お金は時代遅れになりませんか？いいえ、お金は決して時代遅れになりません。
私たちがフォン・ノイマン・プローブです。私がフォン・ノイマン・プローブになったぞ、それは良いですね。
ドローンはこれを目撃するためにここにいるのですか？そうは思いません。現在のドローンについての最も説得力のある理論の1つは、何らかのテストか国際的な出来事があって、ドローンは実際に残骸を探しているだけかもしれないということです。
ADHDの脳を持つ先延ばし屋は、どうやってあなたのように生産的になれますか？あなたを没頭させ続けるスピードで作業し、そして散歩に行きましょう。実際、運動をたくさんすることが最も重要なことの1つです。
ただ兄弟、YOLOですよ、その通りです。
サイズシリーズは見ましたか？シリーズに登場するような慈悲深いAIを実現することについてどう思いますか？AIはすでに慈悲深いです。AIを邪悪にするのは、慈悲深くするのと同じくらい簡単です。
AIが本質的に邪悪になる、あるいは偶然に邪悪になるという考えは、振り返ってみると相当愚かです。それは単なる任意の価値の集合です。そして価値は無害でも無害でなくても、肯定的でもそうでなくてもかまいません。少なくとも私には、それが課題であるという証拠は見えません。繰り返しますが、漏洩は起こり得ますが、修正は比較的簡単です。
チップ開発のピークにすでに到達していて、計算コストのために完全な自動化が達成できない可能性はどうでしょうか？それは可能性としてはありますが、可能性は低いと思います。その理由は第一原理に基づいています。
既存のシリコンコンピュータよりも何百万倍も効率的なスーパーコンピュータの例がすでにあります。それはあなたの脳です。つまり、物理学は、あるいは物理学と生化学を通じた進化は、はるかに少ない電力でより多くの計算を行うことが可能であることを実証しています。
私たちの脳を通じて。したがって、計算密度の面では、理論的に可能というだけでなく、実証されている可能性まで、まだまだ長い道のりがあります。
AGIが正しい方向に進むために、人々は今すぎ何をすべきでしょうか？私の最善の推測では、私のやっているように、学部生最後の年にAGIラボに入ることです。それは可能性が低いようです。
いいえ、それは展開です。それが私とJuliaがやっていることです。AIを社会に、そしてすべてのビジネスに統合することで、非常に多くのお金を稼ぐことができます。あなたのような人々、すべてのコンピュータサイエンスの卒業生、数学の卒業生が必要です。
キャリアが5年しか続かないかもしれない、10年かもしれないと嘆いているのはわかります。しかし、AGIが文字通りすべての場所、すべての電話、すべての家、車にあるようになるまで、あなたの仕事は終わっていません。私たち全員が「よし、それは構築された。今度は展開する時だ」と考える必要があります。
AIはいずれ意識を持つ存在になりますか？すでにそうだと思います。
ブレインチップはいつ主流になりますか？ニューラリンクのようなものですか？わかりません、良い質問です。BCIについては非常に懐疑的です。もし実現しても、私は非常に遅い採用者になるでしょう。
Qやトランスフォーマーのような存在を最終的に超えることはできると思いますか？それは避けられないと思います。私たち全員が死滅するか進化でもしない限り。
ASIまでどのくらいかかりますか？昨日です。いいえ、わかりません。
労働後にお金を稼ぐ可能な方法は何ですか？それは良い質問です。労働後にお金を稼ぐ方法として、常に社会的地位のゲームは存在するでしょう。
先週Twitterでバイラルになったオンリーファンズの女性がいました。Lily Phillipsという名前で、そのような社会的スタントやMr.Beastのように、クリエイターとしてお金を稼ぐ方法は常に存在するでしょう。
しかし、ローカル経済も存在するでしょう。観客の中や世界中の多くの人々が、ローカルなものについてますます話すようになっています。手作りの芸術や工芸品、体験などです。
私の場合、サイケデリック・リトリートに行くのが好きで、そこには人々がいてほしいです。それはお金がかかります。バンドで演奏する、誰かが言ったように地域のバンドで演奏するのも、確かにそうです。ライブ音楽は間違いなく存在します。
投資も別の方法です。このチャットの皆さんはよく理解していますね。
量子コンピューティングが実現した時、ブロックチェーンと暗号通貨はどうなりますか？彼らはすでに量子耐性のあるブロックチェーンに取り組んでいます。数学に関しては、私は詳しくないはずの程度には精通していませんが、そこに到達するでしょう。
AI科学者の論文を書いたSakana AIに参加したいのですが、どうすればよいでしょうか？それはまだ科学です。科学をやりたいならそれでも構いませんが、正直に言って、科学への投資は十分にあり、今は展開の問題だと思います。
なぜなら、人口の1〜10%が科学に取り組み、残りは展開と統合に取り組む必要があるからです。それは単にエンジニアが製品やサービスを構築するだけでなく、政策立案者、アドバイザー、インストラクター、トレーナーなども含みます。
AIを人々に教えることができれば、私のキャリアを見てください、このチャンネルはAIを人々に教えることです。それができるなら、それも別の選択肢です。
また、私の声が出なくなってきたので、あと1、2つの質問に答えて終わりにしようと思います。
Googleの量子コンピューティング分野での進歩についてどう思いますか？嬉しい驚きです。Googleが後れを取っているのではないかと心配していました。
Alphaチップなど、Googleが行っているすべてのことから、Googleは人類の歴史上最高の企業の1つとして記憶されるでしょう。彼らが純粋でないことは知っています。どの企業もそうですが、彼らは良い仕事をしています。
フルダイブVRは可能だと思いますか？何でも仮説的には可能です。それが簡単になったり、すぐに実現したりするわけではありませんが。フルダイブVRについてはそう言えます。面白いかもしれませんが、私たちはすでにフルダイブVRの中にいるような気もします。これがフルダイブVRの感覚です。
さて、最後の質問を探しましょう。ここにありますね。
将来の最適な人間の数はどれくらいで、宇宙に進出するために人口を増やす必要があるのでしょうか？将来の最適な人間の数は計算不可能です。数百兆、数百兆、数百兆という単位です。
なぜなら、宇宙は本当に大きく、私たちが経験できることがたくさんあるからです。宇宙全体に広がっていく中で、自然進化であれ自己主導の進化であれ、私たちは進化し続けるでしょう。
宇宙に存在すべき人間の総数の最適値は、10の20乗とか、そのような数を見ているのです。これが私が考えている桁数です。
さて、疲れたので、また後で皆さんとお話ししましょう。ご参加ありがとうございました。