見出し画像

o3は世界を変えない

ai300lab

OpenAIがo3を発表しました。最初のリアクションを見て、すごいAIが出ても世界は変わらないと思ったお話をします。


o3の発表

OpenAIがo3を発表しました[itmedia]。o2はどこに行ったの？と思いますが、どうもO2と英国の通信会社があるのでそれと被らないように名前をスキップしたようです。o1の後継がo3ということです。

o3は世界を変えない

まだ発表から数時間しかたっていませんが、これはすごいけれども世界を変えないなと思いました。
以下にその理由を3つ示します。

ARC Prizeの反応

ARC Prizeは人間にとってはとても簡単ですが、AIにとってはとても難しい問題です。o3はARC-prizeで人間並みの性能を出しています（注：以下、ARC Prizeは ARC-AGIを指します）。
2年前にARC-prizeの関係者はあと8年は解けないと言ってました。半年前には80%とけたらそれは汎用人工知能である、と言っていました。
o3はそれに到達していますが、ARC Prizeの関係者はコストがかかりすぎる、ARC Prizeは1回0.1米ドルで解けなければならない、と言っています　([theaigrid])。
正論ではありますが、残念ながらあまり意味のある議論とは思えません。Microsoft CEOのSatya NadellaはMicrosoft Ignite 2024で現在の計算速度の進化は毎年4.1倍だと言っています。今3000米ドルかかるo3が0.1米ドルになるのは6.53年後です。何もしなくても7年後には実現できるし、多分、それよりずっと早くなると思います。
ARC Prizeがすべてだとは思いません。一方、生成AIが進化するたびに人はバーを後付けで上げようとするのはどうかと思います。白旗を上げる時期は遠くないと思います。

高すぎる

low tuneモデルとhigh tuneモデルがあるそうですが、low tuneは1回300米ドル、high tuneは前述したように1回3000米ドルかかります。
これは高すぎます。
どうせすぐに安くなるとはいえ、2025年に使うことができるレベルではありません。
できるとわかったとたん不可能だと思われていたものが誰でもできるようになるのは「マイル4分の壁」で示されているので、遠くはないと思います。

信頼できない

最近、スキーミングの論文がたくさん出てきました([greenblatt] [meike])。生成AIがごまかしたり、ごまかしたのがばれたら嘘をついたり、ふりをしたりするという論文です。今までは生成AIの能力が低くて問題になりませんでした。これからは賢ければ賢いほど何をするかわからないから使えないということになると思います。最初にChatGPTが出たときに情報漏洩するから使用禁止というのが出たのと同じです。どんなに評価しても、評価されていることを認識して言動を制御していると考えられる場合、企業のコンプライアンス委員会が許可を出さないでしょう。

むすび

さすがOpenAIの 12 Daysの最終日、クリスマスプレゼントにふさわしい発表です。
GoogleがGemini 2.0, Veo 2で追撃してきたら、OpenAI はo3で迎え撃っています。生成AIの最高峰をめぐる戦いは2025年も続きそうです。両社で1000万米ドル単位の報酬パッケージで優秀なAI研究者を奪い合っていると噂されるだけに壮絶な撃ち合いです。見ていて楽しいです。
所詮、モデル開発競争は前哨戦です。実世界にデプロイするほうが本戦だと思ってみています。

参考文献




いいなと思ったら応援しよう！