AGIの夜明けに寄せて要約

2024年12月31日 07:41

「Thoughts on the eve of AGI」（AGIの夜明けに寄せて）の要約です。AGIとは、特定のタスクに特化した従来のAIとは異なり、人間のように幅広いタスクを柔軟にこなせる人工知能を指します。

内容を一行で要約すると「ChatGPT o3はすごいよ。2025年には大きな変化が起こるかもね。」です。

驚くべきは、これがたった2ヶ月で起こったことです。大学レベルのAIから博士レベルのAIになるまでの変化が、これほど速いとは。

補足：o3は、OpenAIの次世代AIモデルを指します。このモデルは、従来のAIに比べて大幅に性能が向上しており、特に数学やコーディングといったタスクでの最適化能力が非常に高いとされています。

o3は、報酬関数を定義できるものを最適化するのが非常に得意です。しかし、数学やコーディングは比較的簡単に報酬関数を設計できますが、小説の執筆などは難しいです。

短期的には（1年以内）、数学やコーディング、一般的な推論ではほぼAGIレベルになる一方で、創作は平凡なまま。長期的には（1～3年）、感情データや感覚データなど新しい領域を追加して盲点を修正し、誰の目にも明らかなAGIとなるでしょう。

補足：報酬関数とは、AIが「良い行動」と「悪い行動」を学ぶためのルールを示す仕組みです。AIは「行動を取るとどれだけ得をするか」を数値で教えられ、それを基に行動を学習していきます。

o3のようなモデルがブラウザやアプリをナビゲートし、行動を起こす能力を持たないわけがありません。これを実現する報酬モデルの設計は簡単で、市場規模も大きいです。

2025年12月までには、ウェブページやアプリを操作してデータを移動するようなワークフローをコンピュータに指示できるようになると予想します。

数学は記号的空間で行われる作業であり、物理的な世界にほとんど依存しません。そのため、記号的空間の王であるo3にとって非常に得意な領域です。

数学者が人類の知能の頂点でいられるのはあと700日程度と予測します。これが狂気のように聞こえるのは分かっていますが、それ以上に数学でAIが人間に勝てないという考えのほうが非現実的です。

補足：数学者が淘汰されると予測されるのは、AIが記号的（情報的）空間で非常に高い能力を発揮するためです。記号的空間とは、計算や証明のように、物理的な制約を受けず抽象的な操作が行われる領域のことです。

短期的には天国のような状況になります。すべてのソフトウェアエンジニアが「リードエンジニア」に昇格するようなものです。

2025年末までに、明確な仕様のプログラミングは、o4システム（o3の次のバージョン）がほぼエラーなしで処理できるようになるでしょう。ただし、組織のニーズや人間関係といった「文脈」を必要とする作業は、まだ人間の領域です。

長期的には、ソフトウェアエンジニアリングは完全に異なるものになるでしょう。

AIは物理労働にも影響を及ぼしますが、物理的な世界には重力や摩擦があるため進展は遅いです。ロボティクスの進展にはまだ数年かかるでしょう。ただし、ロボットがロボットを作り始め、AIがAI研究を行うようになれば、進展は加速するでしょう。

AI開発は計算能力に大きく依存しており、スーパーコンピューターの構築競争が激化しています。OpenAIのoクラスモデルは、演算能力を増やせば成果が確実に向上するため、大規模な投資を正当化する明確な理由を提供しています。

補足：計算能力とは、AIを動作させるためのコンピュータの処理能力を指します。AIの性能は計算能力の規模に強く依存しており、これを増強するための競争が激化しています。

これらはもはや空想科学ではなく、現実的な未来に見えます。

この未来が素晴らしいものになるか、悲惨なものになるかは、私たち次第です。AIラボの研究者たちは、すでに既定路線を進んでいるだけ。未来を形作るのは、私たちの公共の意識、政策、社会の安定、国際的な協力です。

それぞれができることを通じて、この激動の時代を乗り切り、素晴らしい未来を築く手助けをしていきましょう。

いいなと思ったら応援しよう！

いただいたチップは寄付に使わせていただきます。