Anthropicは、GPT-4oより優れた推論モデルの公開を恐れているのか？！

4,432 文字

Darioは明確に述べています。Claude 3.5 Sonetは9ヶ月から10ヶ月前に訓練され、リリースまでにさらに数ヶ月かかったと。つまりここには大きなギャップがあるわけです。特に推論モデルについて、サンフランシスコの街では噂が流れています。Anthropicは GPT-4o より優れたモデルを持っているが、公開しないと。なぜなら思考の連鎖が怖いからです。それは確かに恐ろしいものです。R1を見てみると、中国語と英語を行ったり来たりしながら、最終的に正解にたどり着くことがあります。
では本当にAnthropicは、OpenAIのGPT-4oより優れた秘密の推論モデルを持っていて、それを公開するのを恐れているのでしょうか？具体的な証拠はありませんが、Anthropicの最近の動きや、CEOのDario Amodが発言している驚くべき内容を見ると、そういう方向を示しているようです。
まず冒頭の2人について説明しましょう。Nathan Lambertは、Allen Institute for AIのリサーチサイエンティストです。このAIの研究所をご存知かもしれません。Microsoftの共同創設者Paul Allenが設立した非営利団体で、公共の利益のために完全にオープンソースなAIの構築を目指しています。もう一人のDylan Patelは、Semi Analysisの創設者です。Semi Analysisは半導体、GPU、CPUなどを専門とする調査・分析会社です。
このクリップの元となったポッドキャストの完全版を視聴したところ、彼らは最新のAI研究に深く関わり、業界の表に出ない動向にも精通していることが分かります。とはいえ、彼らの主張を100%確実なものとして確認することはできません。しかし先ほど述べたように、AnthropicのCEOの発言や、同社の最近の動きを見ると、Anthropicが実際に他社を先行しているように思えます。
例えば、彼らは最近「Anthropic Economic Index」を立ち上げました。これは時間の経過とともにAIが経済に与える影響を理解することを目的とした新しいイニシアチブです。この件については後ほど詳しく触れますが、経済を混乱させる可能性のあるモデルを開発した後に、AIの影響を調査し始めるのが普通だと思いませんか？Anthropicはすでにそれを調査しただけでなく、AIが経済の各部分をどのように自動化し、補強するかを本質的に追跡するための、前例のない経済指標を作り出しています。
また彼らは社会的影響チームの拡大も目指しており、AIが社会に与えてきた、そしてこれから与える影響をより深く理解しようとしています。私が特に注目しているのは、Anthropicが一般公開する準備のできていない重要なモデルを持っているという兆候として、CEOのDario Amodが、AIの進歩の未来について非常に自信を持って語っている点です。
「これは重要な時期です。以前のインタビューでも述べましたが、2026年から2027年が重要な時期となります。もしその時期に先行していれば、モデルは全ての面で人間より優れるようになります。AIの設計も含め、より良いAIを作るためにAIを使用することも、あらゆる種類の知能や防衛技術を作るためにAIを使用することも含めてです。」
彼はDeepMindの状況に関する最近のエッセイでも、2026年から2027年にAGIが達成されるというこのタイムラインを再確認しています。そのエッセイで彼は述べています。「ほぼ全ての面でほぼ全ての人間より賢いAIを作るには、何百万個ものチップと少なくとも数百億ドルが必要で、それが実現するのは2026年から2027年の間である可能性が最も高い」と。
そして昨日のパリAIアクションサミットでも、「2026年か2027年までに実現する可能性があり、遅くとも2030年までには確実に、AIシステムの能力は、非常に知的な人々が住む全く新しい国家が世界の舞台に登場するようなものと考えるのが最適でしょう。データセンター内の天才の国であり、それは深い経済的、社会的、安全保障上の影響をもたらすでしょう」と述べています。
彼はこの2026年から2027年という予測を堅持しているようです。これは文字通り、あと1年から2年後のことです。なぜ彼は突然このタイムラインについてこれほど確信を持ち、至る所で広めているのでしょうか？本当にそう信じていなければ、そうはしないはずです。何か彼を説得させたものがあるはずで、私はそれが彼らの内部で持っている、公には語られていない推論モデルなのではないかと考えています。
もちろん、投資を確保するためのインセンティブなど、他の要因も考えられます。しかしDario Amodはそういうタイプには見えません。彼は自分の発言を本当に信じているように見えます。また、Anthropicは安全性を重視するAI企業です。実際、安全性への懸念からOpenAIを去った元研究者たちによって設立されました。そのため、GPT-4oより強力なモデルの公開に慎重になるというのは、より説得力のある話です。
これが私が、AnthropicがOpenAIのGPT-4oを上回る非常に有能な秘密のモデルを持っており、安全だと判断するまでは公開しない可能性が高いと考える理由です。以前の私の動画で触れたように、OpenAIのGPT-4o miniモデルは、OpenAI自身によって史上初の「中程度のセキュリティリスク」を持つモデルと判断されました。
CBRN兵器（化学、生物、放射性、核兵器）の生成において中程度のリスク、サイバーセキュリティの脅威において低リスク、説得力とモデルの自律性において中程度のリスクがあるとされました。OpenAIはさらに、中程度以下のリスクのモデルのみを展開し、高リスク以上のモデルは開発すらしないと述べています。
GPT-4o miniが中程度のリスクなら、GPT-4oも少なくとも中程度のリスクと考えられます。そうなると、GPT-4oよりさらに優れたモデルは、特にモデルの自律性といったカテゴリーで、高リスクの境界線上にいる可能性が非常に高いと言えます。
みなさんはどう思いますか？Anthropicは本当にOpenAIのGPT-4oより優れた内部モデルを持っていて、安全性の理由で公開を恐れているのでしょうか？それとも、これは誇張された噂に過ぎないのでしょうか？コメントで教えてください。
次のパートでは、Anthropicの新しい経済指標についてより深く掘り下げていきます。AIが経済にどのような影響を与える可能性があるのか、そしてどの職業が現在具体的に影響を受けているのかに興味がある方は、ぜひご覧ください。
まず、最近のパリAIアクションサミットでのDario Amodの発言から始めましょう。これはAnthropicがこの状況をどのような視点で見ているかを理解する上で参考になります。「AIは世界中の経済成長を劇的に加速させる可能性がありますが、同時に非常に破壊的になる可能性もあります。データセンター内の天才の国は、人類史上最大の世界の労働市場の変化をもたらす可能性があります。第一歩は、今日のAIシステムの経済的影響を監視し、観察することです。そのため今週、私たちはAnthropic Economic Indexを発表しました。これは、人々が現在私たちのAIシステムを使用している経済活動の分布を追跡するもので、それらが現在の人間の仕事を補強するのか、自動化するのかも含まれます。」
彼はまた、政府がより大きなリソースを使って同様の測定と監視を行い、最終的には非常に強力なAIの経済的利益を全ての人が共有できるようにするための政策を制定する必要があると述べています。
では、この経済指標の最初の論文から主な発見を見ていきましょう。現在のAIの使用は、ソフトウェア開発と技術文書作成タスクに集中しています。約36%、つまり職業の3分の1以上が、関連タスクの少なくとも4分の1でAIを使用しています。一方、約4%の職業では関連タスクの4分の3以上でAIを使用しています。
AIの使用は、人間の能力を補強し協力する「補強」が57%と、タスクを直接実行する「自動化」の43%を上回っています。これは正直なところ私にとって驚きでした。OpenAI Operatorや初期段階のDeep Researchを除いて、まだAIエージェントが本格的に登場していないことを考えると、補強の割合がもっと高いと思っていました。エージェントが労働力として加わるにつれ、この割合は自動化の方に傾いていくだろうと予測しています。
最後に、AIの使用は、コンピュータープログラマーやデータサイエンティストなどの中～高賃金の職業に関連するタスクでより一般的ですが、最低賃金と最高賃金の両方の役割では低くなっています。これは現在のAI能力の限界と、技術を使用する際の実践的な障壁の両方を反映していると思われます。
より具体的には、このAIの使用の大部分は、ソフトウェアの開発とメンテナンス、コードのデバッグ、データ管理と分析などのタスクを含むソフトウェアエンジニアリングの役割で見られています。AIの使用が比較的多い他の大きなセクターには、ライターや編集者がアイデアを出したり仕事を補強したりするのに使用していると思われる芸術とメディア分野があります。また、教育分野やオフィスおよび管理業務でも使用されています。つまり、多くのホワイトカラーの役割です。
彼らが述べたように、このAIの使用の大部分は、少なくとも現時点では、人間を置き換えたり自動化したりするのではなく、人間を補強するために使用されています。また、現在影響を受けている仕事の大部分は中～高賃金の職業で、低賃金の役割と最高賃金の役割は比較的影響を受けていません。これが何を意味するのかは分かりませんが、確実に追跡する価値のある興味深いことです。
Anthropicがここで行ったことは素晴らしいと思います。私たちは今、AIが労働力にどのように影響を与えているかをリアルタイムで参照できる指標を持ったのです。AIが経済に浸透し続け、その影響を監視し続ける中で、これは将来的に必ず参照することになるものでしょう。
今日はここまでです。動画を楽しんでいただけたでしょうか。このような種類の動画は普段あまり作らないので、どう思ったか教えてください。また、AnthropicはGPT-4oを上回る内部モデルを本当に持っているのか、それとも私が深読みしすぎているのか、あなたの考えをコメント欄に書いてください。次回の動画でお会いしましょう。