OpenAIの進化の速さ。もうすぐ新しいLLM発表か？

今週のAI関連ニュースは数多く、ほとんど見逃してしまいそうなほどでしたが、しっかりと追いかけたいと思います。最も衝撃的なニュースの一つは、OpenAIのCPOであるケビン・ホエール氏のAIの未来に関するインタビューです。このインタビューを通じて、私は、OpenAIの進化の速さを改めて感じました。

彼の発言の中で特に印象的だったのは、O1推論モデルはまだGPT-2レベルに過ぎず、今後非常に速く進化していくだろうという点です。彼らは推論時間の計算パラダイムをスケーリングのごく初期段階にあり、競合がO1に追いつくころには、OpenAIはすでに3歩先を行っているだろうと述べていました。この話を聞いて、私自身も少し考えさせられました。実際に、私が別のLLMでは解けなかったある数学問題に取り組んだ際、ChatGPTの推論力のおかげで解決に至った経験があります。その時、私はAIの推論の深さとその能力に驚かされたのです。

例えば、GPT-4は1.8兆のパラメータを持っており、これが単なるスケールの大きさだけでなく、AIの可能性の広がりを意味しているのは明らかです。O1がGPT-2に相当するならば、次に出てくるO2はGPT-3に匹敵し、O4に到達した時点で何が起こるのかは想像を超えています。これにより、他の企業がOpenAIに追いつこうとするも、その速さについていけないだろうと確信できます。

ケビン氏は、競合がO1の構築方法を理解するまでには時間がかかるだろうと予想していますが、その頃にはOpenAIはさらに3歩先を進んでいるとのことです。特にO1に関しては、新しいスケーリングパラダイムに入っており、従来の大規模な事前トレーニングとは異なり、推論時間のスケーリングに焦点を当てていると感じています。

この新しいアプローチは、ただの技術的な進化ではなく、私自身が体感した実際の変革を通しても感じています。AIの推論力を実際に試してみた結果、その有用性を深く理解できましたし、それがもたらす未来には大きな期待を寄せています。

また、サム・アルトマンがTwitterで「来月はChatGPTの2周年だ。何をプレゼントするべき？」とほのめかしていることから、OpenAIのさらなるアップデートが期待されます。来年、エージェントシステムが主流になると言われていますが、この分野での競争も激化するでしょう。現時点では、最も優れた自律型AIエージェントシステムはまだ登場していないため、Anthropicや他の競合がどのような進展を見せるかが非常に楽しみです。