AIの進化は止まった？

こんにちは、すなっちゃんです。

この前イギリスに住んでいる友人に会って今の食生活を伝えたところ、「お前が1年後どれぐらい太ってるか見るのが楽しみすぎる」と言われました。食生活見直します。

さて、今日は「AIの進化が鈍化していることの影響」というテーマでお話しします。全て独断と偏見で書いています。

それではいきましょう。

────────────────

AIの進歩が鈍化している兆候がいくつか見られる

この2年間で最大の技術的変化は、生成AI、特にChatGPTやClaudeのようなLLMの登場であったと言って差し支えないでしょう。特に私の周りの人間では、多くの人々がこの進歩が今後も継続し、さらに加速するだろうと期待しています。

その予測の鍵となるのは、スケーリング仮説です。つまり、A) より大きなモデルをB) より多くのデータで、C) より多くのコンピューティングリソースを使ってトレーニングし続ければ、生成型AIは重要なすべての指標において、より優れたものになるという考え方です。

私は時折、AI関係者が「AGIへのスケーリング」という表現を使うのを耳にします。つまり、モデルパラメータ、データ、演算能力を十分に確保できれば、生成AIはあらゆる作業において人間に代わって遂行できる神のような超知能になるだろうという考え方です。AIエンジニアは、AGIへのスケーリングが今後数年のうちに実現すると考えています。一例として、AGIに焦点を当てた投資会社を設立したレオポルド・アッシェンブレンナーの「Situation Awarenss」をご覧ください。

Introduction - SITUATIONAL AWARENESS: The Decade Ahead

人々がスケーリング仮説を信じる理由は、簡単に言えば、これまでそれがうまくいっていたからです。何十年もの間、AI研究者は、思考能力があるように見える機械を創り出すためにさまざまなアプローチを試してきましたが、その進歩はわずかなものでした。そして2010年代初頭、エンジニアたちは、モデルの規模、データ、演算能力を大幅に拡大すれば、質的に優れた結果が得られることに気づきました。 それ以降は歴史が物語っています。

それでは、なぜ、それを続けるだけではいけないのでしょうか？