生成AI時代の3つの賭け
生成AI時代に目指すべき3つの方向性をお話しします。
生成AIの適用の3つの方向性
生成AIを利用する大きな方向性は次の3つです:
自分に最適化した基盤モデルを開発
基盤モデルを水平領域に展開(ロボットなど)
基盤モデルを開発する生成AIを開発
最近まで、大規模言語モデルには規模の法則、すなわち、より多くのデータでより多くの計算をして訓練すれば精度があがるという前提がありました。
GPT-5のリリースが遅れているため、最近では、規模の法則に疑問の声もあがっています。OpenAIのみならずGoogleのGeminiの精度向上も予定通りにはいっていないようです。OpenAIのo1の学習もまだ20%しか行われておらず、さらに高価な計算が必要なため、そのコストパフォーマンスを危ぶむ声もあります。
生成AIが出てきてから生成AIを何に適用するのが正しい戦略なのかというのはいつ問題になっています。
進化しているのはわかるがあまりにも未来が見通せないので、どうしていいのかビジネス的に逡巡します。
本筋の賭け
本当に知能が高い生成AIが得られたなら、生成AIで生成AIを開発する「知的爆発」を目指すのが企業としては本筋です。新興企業ではNEOなどがこのアプローチです ([aigrid])。日本ではsakana AIがあります ([sakanaai])。筋がいいと思います。
知的爆発を達成できるほど知的レベルがあがっているかどうかは今のところ自信がないです。
生成AIで自動的に基盤モデルの開発をするなら、データも自動合成するのが簡単です。自動合成の場合、バイアスがはいったり偏りによってモデル崩壊する懸念もあります。
自動生成データで自動開発するのが理想です。極限の生成AIはこのルートで開発されると思われます。いつになるかは誰にもわからないと思います。
むすび
OpenAIのSam Altmanは規模の法則の破綻を間接的に否定しています ([aiexplained]。何が本当なのかは年末年始に何が出てくるかで判断することになりそうです。
参考文献
[aiexplained] Leak: ‘GPT-5 exhibits diminishing returns’, Sam Altman: ‘lol’ https://www.youtube.com/watch?v=iybgycPk-N4 AI Explained 15m44s 2024年
[aigrid] NEOs New Automated AI Researcher Changes Everything (Autonomous Machine Learning Engineer) https://www.youtube.com/watch?v=_c5R4_HwAng TheAIGRID 10m21s 2024年
[sakanaai] 「AIサイエンティスト」: AIが自ら研究する時代へ https://sakana.ai/ai-scientist-jp/ 2024年