サム・アルトマンがついにASI（人工超知能）がどのようなものになるか明かす！

6,159 文字

最近、サム・アルトマンはフリープレスのインタビューを受け、それは非常に興味深いものでした。なぜなら、彼が初めて超知能について詳しく語ったからです。超知能というのは、あまり頻繁には語られることのないトピックです。基本的に、あまりにも遠い未来のことで、どのようなものになるかさえ想像できないと考えられているためです。しかし最近、業界内では数千日以内に超知能が実現する可能性があるという主張や噂が増えています。
このインタビュー記事は非常に興味深いものです。アルトマンの発言だけでなく、元OpenAIの研究者からも超知能に関する情報が得られているからです。記事のタイトルは「サム・アルトマン：AIは統合されつつあり、超知能が来る」となっています。そして彼は、インタビューで人工知能の全般的な状況について語っています。
アルトマンに質問されたことの1つは、9月のマニフェストについてでした。9月のマニフェストをご存じない方は、ぜひ読んでいただきたいと思います。AIの急速な進歩とともに、未来がどのようになるかを最もよく示したものだからです。詳細でありながら、非常に読みやすく理解しやすい形で、社会がどのように前進していくかを本当に理解できるようなブログ記事は、あまり目にすることがありません。
彼らが言及しているのは「インテリジェンス時代」と呼ばれるもので、これは最近公開されたものですが、未来を見据え、社会そして私たち全員がAI、AGI、そしてもちろんASIによってどのように形作られていくかを理解する上で、非常に洞察に富んだものだと感じました。
彼が述べたことの1つは、18ヶ月後、つまり2026年の夏が終わる頃にどのようになっているかを想像することについてです。超知能はどのように出現するのか？彼は科学の進歩の速度に注目する必要があると述べ、今後数年でどのように進展が積み重なっていくかについて説明しました。
これは非常に興味深いことです。なぜなら、超知能を考える時、超知能が最も大きな影響を与える主要分野の1つは、もちろん科学の進歩だからです。それは超知能が最も大きな影響を与える可能性が高い分野です。数学については、AIモデルがテストタイムコンピュートで急速に進歩していることがわかっています。モデルの第2世代にすぎないことを考えると、ベンチマークでのスコアは信じられないほどです。
科学的な質問についても、科学分野で働く人々にとって非常に興味深いものになるでしょう。なぜなら、このテストを実行してほしい、あるいはこれをやってほしいと言えるAIがあれば、それは生産性だけでなく、研究の拡張性においても驚くべき可能性を秘めているからです。
人々がAIについて見落としていることの1つは、AIが私たちの10倍賢くならなかったとしても、例えば1万の科学企業をクローン化して、全てに科学研究をさせることができれば、物事がどれほど早く進むかということです。もちろんサプライチェーンや物理的な制約による遅れはありますが、純粋なソフトウェア開発の観点では、実際のボトルネックがないため、それらの分野は光速で進むと思います。
彼は実際にこの短いスニペットでそのことについて語っています：「私が自分の精神的な枠組みとして使っているものの1つは、科学の進歩の速度です。世界全体で起きている科学の進歩の速度が3倍に、あるいは10倍になったとしたら...10年かかると予想していた発見や技術の進歩が毎年起こり、それが次々と積み重なっていくとしたら、それは私にとって超知能が到来したように感じるでしょう。そして多くの点で、社会や経済の仕組みを変えることになるでしょう。
しかし、多くのAI評論家が間違えているのは、人間の根本的な欲求は変わらないということです。その意味で、私たちはこれまで多くの技術革命を経験してきましたが、私たちが気にかけることや、私たち全員を動かすものは、その大部分の革命を通じてほとんど、あるいはまったく変わらないのです。ただし、私たちが存在する世界は大きく変わるでしょう。」
これについて驚くべきことは、まだAGIがいつ実現するのか疑問に思っている人々に対して、彼が9月のマニフェストやフォーブスが呼ぶブログ記事で実際に述べたことです。本質的に、数千日以内に超知能を持つ可能性があり、それには時間がかかるかもしれないが、必ず到達すると確信しているということです。
これは非常に興味深いことになるでしょう。なぜなら、数千日というのはとても具体的なタイムラインであり、多くの推測の余地を残していますが、実際のタイムラインについてより詳しく説明しているからです。日付を知りたい人のために、彼が行ったインタビューを覚えているかもしれませんが、そこで彼は3,500日後かもしれないと話しています。これは最初に予想していたよりも少し遅いかもしれません。
しかし、そのような技術がもたらす影響のレベルを考えると、3,500日というのは...コンピュータの発明が社会を変革し、そして今や社会がより接続され、他のことも進行しているということを考えると...未来がどのようになるかを本当に考えようとすると、非常に興味深いものです。
エッセイで実際に言った大きなことの1つは、「ASI、超知能は実際に数千日先かもしれません。それは私たちの希望であり、推測であり、何であれ...しかしそれは非常に大胆な発言です。」「そうですね、それは本当に大きいです。私たちがやっている仕事が積み重なり続け、過去3年間で達成した進歩の速度が次の3年、6年、9年、あるいはそれ以上続くような道筋が見えます。9年というと約3,500日ですが、この改善の速度を維持できる、あるいは増加させることができれば、そのシステムはかなり capable なものになるでしょう。」
サム・アルトマンを投機家だと呼んだり、より多くの人々に投資させるためにハイプを煽っているだと考える人々に対して、これはもはやサム・アルトマンだけが言っていること、あるいはより広いAIコミュニティに注目している人々にとってはイルヤ・サツコフが言っていることだけではありません。
より広いAIコミュニティにも目を向ける必要があります。なぜなら、Google AIのローガン・キルパトリックは、ASIへの直接的な道筋が月末までにますます可能性が高まっていると述べているからです。これはIIAが見たものであり、彼が言うには、IIAが初期の兆候を見たテストタイムコンピュートのスケーリングの成功は、この直接的な道筋が単にスケールアップを続けることで実際に機能するかもしれないという良い指標だということです。
これは本当に興味深いことです。なぜなら、イリヤ・サツコフの超知能に関する講演を見ると、彼は実際に次にどこに向かうかについての重要な詳細を示しているからです。この講演には驚かされます。非常に洞察に富んでおり、これらの主要な業界リーダーからこれほどの情報を得られることに驚いています。
もちろん、この会社は現在非常に秘密めいていますが、彼は物事がどこに向かうと考えているかについて最新の情報を提供しています：「信じられないような言語モデルがあり、驚くべきチャットボットがあり、さまざまなことができます。しかし、奇妙なほど信頼性に欠け、評価において劇的に超人的な性能を示す一方で混乱することもあります。これをどう調和させるかは本当に不明確ですが、遅かれ早かれ、以下のことが達成されるでしょう。
これらのシステムは実際に真の意味でエージェント性を持つようになります。現在のシステムは意味のある意味でエージェントではありません...それは言い過ぎかもしれません。非常に、非常にわずかにエージェント性を持ち始めているだけです。実際に推論するようになります。そして推論について言及したいことがあります。推論するシステムは、推論すればするほど予測不可能になります。
これまで慣れ親しんできたディープラーニングは非常に予測可能でした。なぜなら、基本的に人間の直感を複製することに取り組んできたからです。0.1秒の反応時間で、私たちの脳内でどのような処理を行うかというと、それは直感です。そのため、私たちはAIにその直感の一部を与えてきました。
しかし、推論...その初期の兆候が見え始めています。推論は予測不可能です。それを理解する1つの理由は、チェスAI、本当に優れたものは、最高の人間のチェスプレイヤーにとって予測不可能だということです。そのため、私たちは信じられないほど予測不可能なAIシステムに対処しなければならなくなります。
限られたデータから物事を理解し、混乱することはありません。これらは本当に大きな制限です。ちなみに、私はどのようにしてか、いつかということは言っていません。それは起こるということを言っているのです。そして、これらすべてのことが自己認識とともに起こるとき...なぜなら、自己認識は有用であり、私たち自身は私たちの世界モデルの一部だからです。
これらすべてのことが一緒になったとき、私たちは今日存在するものとは根本的に異なる性質と特性を持つシステムを手にすることになります。もちろん、それらは信じられないような素晴らしい能力を持つことになりますが、このようなシステムで生じる問題の種類は...それを想像する練習として残しておきますが...私たちが慣れているものとは非常に異なります。そして、未来を予測することは確実に不可能だと思います。あらゆる種類のことが可能なのです。」
これは20分の講演の一部ですが、そこで彼は基本的に、超知能はエージェント性を持ち、推論することができ、理解し、自己認識を持つようになると述べています。
超知能が到来したときにどのように見えるのか気になる方のために、この元OpenAIの研究者からの非常に興味深いスニペットを見つけました。これは次の3,500日がどのように見えるかについての洞察を与えてくれるもので、本当に興味深いものです。OpenAIの元従業員からの洞察はあまり得られませんが、これは本当に注目すべきものです：
「個人的には、より多くのコンピュートを持つより大きなモデルと、これらの種類の環境で動作するように特別に訓練されたモデルの組み合わせが成功すると考えています。問題は、成功するまでにどのくらい時間がかかるかということです。次の12ヶ月で完全に成功する可能性もありますが、おそらくそれよりもう数年かかるでしょう。なぜなら、すべてのことは常に予想よりも時間がかかるからです。これが私の見解を要約する1つの方法です。
これらの企業に行って楽観的なタイムラインを見ることができれば、それは12ヶ月以内にClaude 3.5 Sonnetのようなコンピュータを使用するエージェントを持つことになるでしょう。ただし、それは実際に非常にうまく機能し、タスクを委任して、バックグラウンドで自律的に実行し、私たちのためにあらゆる種類の有用なことを行うことができるものです。
私は、彼らが今年それを実現するためのロードマップを持っていると賭けますが、現実的には物事は予想よりも時間がかかり、予期せぬ困難が生じるでしょう。では、2027年という数字はどこから来ているのでしょうか？それは、さまざまなヒューリスティクス、さまざまなトレンド、推測などの組み合わせです。
1つ言えることは、明らかで非常に良いことをすれば、つまりさまざまなベンチマークを取り、それらのベンチマークでのパフォーマンスでの性能を外挿すると、いくつかは今年中に超人的な性能に到達し、いくつかは来年に超人的な性能に到達します。しかし、私の主観的な推測では、見てきたすべてのベンチマーク外挿に基づいて、2027年頃には現在のベンチマークがすべて飽和すると感じています。」
これを踏まえて、皆さんは超知能の未来についてどう考えますか？多くの信頼できる業界の人物がこれが現実となると語っているいま、より身近に感じられるようになったでしょうか？それとも、私たちは単にハイプバブルの中にいて、これは別の空想に過ぎないのでしょうか？
そしてここで、著名なAI批評家であるゲイリー・マーカスの意見を見ることができます。これは非常に興味深いことになるでしょう。なぜなら、彼はAI業界にとって非常に重要な人物だと思うからです。彼は誰もが現実的な視点を保つのを助けています。
彼は基本的にこう言っています：「2027年末までにAIは以下の8つのことができるようになるでしょうか？レビューを読まずに未見のメインストリーム映画を見て、プロットの展開を追い、いつ笑うべきかを知る...これはモデルの長期的な一貫性をテストするものです。」私は、すでにニードル・イン・ア・ヘイスタックのテストがあることを考えると、これは本当に簡単なことだと思います。なぜこれが挙げられているのかわかりません。
彼はさらに続けます：「上記と同様に、レビューを読まずに新しいメインストリームの小説を読み、プロット、キャラクター、対立、動機について確実に答えることができる」無限のメモリとコンテキストウィンドウが大きくなっていることを考えると、これは非常に簡単だと思います。
「明らかな幻覚なしで簡潔な伝記や死亡記事を書く」これはかなり簡単そうに見えます。しかし、これらを素早く見ていきましょう。なぜなら、少し退屈だからです。そして、ここで最後の、明らかに最も困難なものを見てみましょう：
「ほとんどまたはまったく人間の関与なしにピューリッツァー賞級の小説やノンフィクションを書く」これはかなり難しいと思います。
「ほとんどまたはまったく人間の関与なしにアカデミー賞級の脚本を書く」もし、例えば1万の脚本を生成し、2万人の観客がそれを見て、最も高い評価を受けたものを選ぶというような枠組みを持つモデルがあれば、そのためのテストタイムコンピュートを使えば、うまくいくかもしれません。
これは crazy な枠組みに聞こえるかもしれませんが、今日の観客と非常によく似たAIエージェントの観客がいて、観客が何を好むかをマッピングしたとすれば...それは起こりうることかもしれません。
そしてここにある「ほとんどまたはまったく人間の関与なしにパラダイムシフトを起こすようなノーベル賞級の科学的発見をする」これは非常に驚くべきことです。AIがそれをできるようになるには、驚異的な偉業が必要でしょう。
もちろん、「自然言語で書かれた数学文献からの証明を、記号的検証に適した記号形式に変換する」これが彼のニュースレターで述べていることです。
もちろん、ゲイリーは批評家なので、このようなことを述べるでしょう。2027年に戻ってきて、これらのことが実現されているかどうかを見るのは興味深いでしょう。しかし、最後に皆さんに質問を投げかけたいと思います。これらは実現すると思いますか？実現しないと思いますか？また次の動画でお会いしましょう。