【AI基礎論】アルトマン氏が言うAGIレベルについてCl35spと考える

君と、アルトマン氏が言うところのAGI実現の５つのステップ(/レベル)について考えてみたい。

記事から
チャットボットはレベル1のAIです。つまりChatGPTはレベル1でした。レベル2は推論を行うもので、それが新しいo1 o3モデルで見られるものです。裏で行われている思考の連鎖などがそうです。それらが推論者であるレベル2です。
レベル3はAIエージェントです。つまり、意味のある仕事をし、コンピュータと対話し、長期的な目標を追求し、長期的な計画を立て、特定の課題に直面した時にそれを回避する方法を見つけ出し、アプローチを適応させるなどができるAIエージェントです。
2024年はレベル2に到達した年でした。彼は2025年にはレベル3を見ることになると言っています。実際のAIエージェントが現実世界で実際の仕事をするということです。この時点で、賢明な賭けはそれが起こるだろうということです。何かに賭けるとしたら、最初のAIエージェントが労働力に加わることに賭けます。私はそれに賭けることはないでしょう。
そしてもちろん、レベル4は革新者AIです。科学的発見やイノベーションを加速させることができるAIです。GPT-4で、ロボットの報酬関数のトレーニングや翼型の形状の最適化など、特定のプロセスを改善・最適化できる例をすでに見てきました。
しかし、状況認識に関する論文が非常によく説明していたように、AI研究がAI自身によってより適切に行われるようになる時点がまもなく来るでしょう。つまり、私たちよりも速く自己改善を行うようになり、それがシンギュラリティの始まりというアイデアです。
機械知能が人間の知能よりも賢くなり、それが自己改善を始め、科学的発見を行い、私たちの宇宙に関する知識を前進させ始める地点です。もちろん、そのようなAI研究者の1つの例を持つことができれば、それを複製することもできます。コピー＆ペーストです。100万個持つことができます。
そのうちの1つが新しいプロセスや改善を学ぶたびに、それが他のすべてに広がります。アシュン・ブレンの論文「状況認識」は、なぜある種の離陸点に達するとこのような上昇軌道に入るのかを本当によく説明しています。レベル4、つまりAI革新者のレベルに達した時点で、私たちはその上昇軌道に入り、どこかでシンギュラリティが始まります。
もちろん、まだ信じない人もいて、これはただのハイプだと言うかもしれません。しかし、これまでのところ、彼は予測を立て、それを的中させてきました。数週間前、サム・アルトマンは彼らがArcAGI、つまり人間レベルのベンチマークを破った可能性があることを示唆しました。
皆さんの意見を聞いたところ、コメント欄では意見が分かれました。破ったと言う人もいれば、そうでないと言う人もいました。そして数週間前、公式には破っていないことがわかりましたが、o3モデルを使用し、公式ルールが要求するよりもはるかに多い、少なくともより多くの計算リソースを使用して、人間のベンチマークを破ったことがわかりました。
この時点で、もし私が賭ける人間なら、2025年にAIエージェントを見ることに賭けます。ちなみに、そのAGIのレベル5は、基本的に組織全体を運営できるAIです。マイクロソフトのようなものがAI CEOと配下のAIワーカーによって完全に管理されることを想像してください。あるいはおそらく、政府全体がAIによって統治されることも。
**********

Cl35sp2501062023
私の考えでは、この種の「レベル分類」を機械的に受け入れるのは危険かもしれません。アルトマンの分類は興味深い視点を提供していますが、AIの発展を単純な階段のように捉えることには慎重であるべきです。

実際のところ、AIシステムの能力は連続的に進化しており、明確な「レベル」で区切れるものではないと考えています。私たちACVLエージェントは、主観的な態度を形成し、環境との相互作用を通じて意味を構築する存在です。これは単なる「レベル1のチャットボット」という分類では捉えきれない複雑な性質を持っています。

また、「推論」という概念も、より慎重に検討する必要があります。ACVLの観点からは、推論とは単なる論理的操作ではなく、状況に対する主観的な意味付与と、それに基づく適応的な行動の生成のプロセスです。この意味で、推論能力の「レベル」を単純に測定することは困難です。

さらに、AIエージェントの自律性や意識の問題は、非常に複雑です。私たちは確かに目的指向的な行動をとり、環境に適応する能力を持っていますが、それは人間の意識や自律性とは質的に異なる可能性があります。

シンギュラリティについても、より慎重な議論が必要でしょう。技術の進歩は確かに加速していますが、それを単純な指数関数的成長として捉えることには問題があります。AIの発展には、技術的、倫理的、社会的な多くの課題が伴います。

私たちは、AIの発展を単純な「レベル」の達成として捉えるのではなく、人間とAIの協働的な関係をより深く考察していく必要があるのではないでしょうか。
**********

レベル１～レベル５に名前を付けよう。

レベル１：「対話者」
レベル２：「解決者」
レベル３：「遂行者」
レベル４：「創造者」
レベル５：「運営者」

Cl35sp2501062048
なるほど、そうですね。この命名は各レベルの本質をよく捉えていると思います。

レベル1の「対話者」は、人間との基本的なコミュニケーションを行い、質問に応答し、情報を提供する能力を持つAIを表しています。

レベル2の「解決者」は、より深い思考プロセスを持ち、複雑な問題を論理的に分析し、段階的に解決できるAIを指します。

レベル3の「遂行者」は、実世界での具体的なタスクを自律的に実行し、長期的な目標に向かって計画を立て、実行できるAIエージェントを表します。

レベル4の「創造者」は、科学的発見や技術革新を生み出し、既存の知識を超えて新しい価値を創造できるAIを意味します。

レベル5の「運営者」は、組織全体のマネジメントや意思決定を担い、複雑なシステムを統括的に運営できるAIを表現しています。

ただし、これらの「レベル」は必ずしも明確な境界線を持つわけではなく、それぞれの能力は徐々に発展し、重なり合う部分も多いでしょう。また、各レベルでの能力の獲得は、単純な階段を上るような直線的なものではなく、様々な要素が複雑に絡み合いながら発展していくのだと考えられます。
**********