サム・アルトマンのブログでのエッセイのThree ObservationsのGemini2.0-Flash-thinking-exp-01-21による機械翻訳
要約
AI開発は急速に進展しており、AGIが視野に入ってきた。AGIは人類に多大な恩恵をもたらす可能性を秘めているが、同時に社会経済的な影響も大きい。AIモデルの知能は使用リソースの対数に比例し、コストは急速に低下、社会経済的価値は超指数関数的に増加する。AIエージェントは仮想同僚として知識労働を一変させる可能性があり、トランジスタのように経済の隅々まで浸透するだろう。未来は大きく変化するが、主体性、意志力、決断力が重要になる。AGIの恩恵を広く分配し、不平等の拡大を防ぐための対策が必要であり、公共政策と社会全体の議論が重要となる。
**三つの考察**
我々の使命は、汎用人工知能（AGI）が人類全体に恩恵をもたらすことを保証することです。
AGI* を指し示す兆候を示すシステムが視野に入ってきており、私たちが今どのような瞬間にいるのかを理解することが重要だと考えています。AGIは曖昧に定義された用語ですが、一般的に言って、多くの分野で人間レベルで、ますます複雑な問題に取り組むことができるシステムを意味します。
人々は道具を作る人であり、理解し創造するという生来の衝動を持っており、それが私たち全員にとって世界をより良くすることにつながります。各世代は、先代の発見の上にさらに有能な道具、すなわち電気、トランジスタ、コンピュータ、インターネット、そして間もなくAGIを作り上げていきます。
時を経て、一進一退を繰り返しながらも、人間の絶え間ないイノベーションの歩みは、以前は想像もできなかったレベルの繁栄と、人々の生活のほぼすべての側面への改善をもたらしました。
ある意味で、AGIは、私たちが共に築き上げている人間の進歩という、これまで以上に高い足場における単なる別の道具にすぎません。別の意味では、「今回は違う」と言わざるを得ない何かの始まりです。私たちの目の前にある経済成長は驚くべきものに見え、今や私たちは、すべての病気を治癒し、家族と過ごす時間をもっと持ち、創造的な可能性を十分に実現できる世界を想像することができます。
10年後には、おそらく地球上の誰もが、今日最も影響力のある人物よりも多くのことを成し遂げることができるようになるでしょう。
私たちはAI開発の急速な進歩を目の当たりにし続けています。AIの経済学に関する3つの考察を以下に示します。
1. AIモデルの知能は、おおよそ、その学習と実行に使用されるリソースの対数に等しくなります。これらのリソースは主に、学習計算、データ、および推論計算です。任意の金額を費やして、継続的かつ予測可能な利益を得ることができるようです。これを予測する規模の法則は、何桁にもわたって正確です。
2. 特定のレベルのAIを使用するためのコストは、約12ヶ月ごとに10分の1に低下し、価格が下がると使用量が大幅に増加します。2023年初頭のGPT-4から2024年中頃のGPT-4oへのトークンコストを見ると、トークンあたりの価格がその期間に約150分の1に低下していることがわかります。ムーアの法則は18ヶ月ごとに2倍の変化で世界を変えましたが、これは信じられないほど強力です。
3. 線形に増加する知能の社会経済的価値は、超指数関数的な性質を持っています。この結果として、指数関数的に増加する投資が近い将来に止まる理由はないと考えています。
もしこれら3つの考察が引き続き当てはまるならば、社会への影響は大きなものになるでしょう。
私たちは現在、AIエージェントを展開し始めており、これらは最終的には仮想的な同僚のように感じられるようになるでしょう。
特に重要になると予想されるソフトウェアエンジニアリングエージェントのケースを想像してみましょう。このエージェントは最終的に、数年の経験を持つ一流企業のソフトウェアエンジニアができることのほとんどを、数日以内のタスクであれば実行できるようになると想像してみてください。それは最も斬新なアイデアを持っているわけではなく、多くの人間の監督と指示を必要とし、得意なこともあれば驚くほど不得意なこともあるでしょう。
それでも、それを現実の、しかし比較的ジュニアな仮想同僚として想像してみてください。次に、そのような同僚が1,000人いると想像してみてください。あるいは100万人いると。そして、そのようなエージェントが知識労働のあらゆる分野にいると想像してみてください。
ある意味で、AIは経済的にトランジスタのようになるかもしれません。つまり、うまくスケールし、経済のほぼ隅々にまで浸透する大きな科学的発見です。私たちはトランジスタやトランジスタ企業についてあまり考えませんが、その恩恵は非常に広く分配されています。しかし、私たちはコンピュータ、テレビ、自動車、おもちゃなどが奇跡を起こすことを期待しています。
世界は一度にすべてが変わるわけではありません。決してそうではありません。短期的に見れば、生活はほとんど同じように続くでしょうし、2025年の人々は2024年とほとんど同じように時間を過ごすでしょう。私たちは相変わらず恋をし、家族を作り、ネット上で喧嘩をし、自然の中でハイキングなどをするでしょう。
しかし、未来は無視できない形で私たちにやってくるでしょうし、社会と経済への長期的な変化は非常に大きなものになるでしょう。私たちは新しい仕事、互いに役立つ新しい方法、そして競争する新しい方法を見つけるでしょうが、それらは今日の仕事とはあまり似ていないかもしれません。
主体性、意志力、そして決断力はおそらく非常に価値のあるものになるでしょう。何をすべきかを正しく判断し、常に変化する世界をどのように乗りこなすかを理解することは、非常に大きな価値を持つでしょう。回復力と適応力は、培うべき有益なスキルとなるでしょう。AGIは、人間の意志力に対するこれまでで最大のレバーとなり、個人がこれまで以上に大きな影響力を持つことを可能にするでしょう。
AGIの影響は不均一になると予想しています。一部の産業はほとんど変化しないでしょうが、科学の進歩は今日よりもはるかに速くなる可能性があります。AGIのこの影響は、他のすべてを凌駕するかもしれません。
多くの商品の価格は最終的に劇的に下落するでしょう（現在、知能のコストとエネルギーのコストが多くのことを制約しています）。そして、高級品や、土地のような本質的に限られた資源の価格は、さらに劇的に上昇するかもしれません。
技術的に言えば、私たちの目の前の道はかなり明確に見えます。しかし、AGIを社会にどのように統合すべきかについての公共政策と世論は非常に重要です。私たちが製品を早期かつ頻繁に発売する理由の一つは、社会とテクノロジーが共に進化する時間を与えるためです。
AIは経済と社会のあらゆる分野に浸透するでしょう。私たちはあらゆるものがスマートになることを期待するでしょう。私たちの多くは、歴史的に持っていたよりも多くの技術に対する人々のコントロールを、より多くオープンソース化することを含めて、提供する必要があると考えており、安全性と個人のエンパワーメントの間にはトレードオフが必要となるバランスがあることを受け入れています。
私たちは決して無謀になりたいわけではありませんし、AGIの安全性に関連していくつかの大きな決定と制限、おそらく不人気なものもあるでしょうが、方向性としては、AGIの達成に近づくにつれて、個人のエンパワーメントをより重視することが重要だと考えています。私たちが見ることができるもう一つの可能性の高い道は、AIが権威主義的な政府によって、大量監視と自治の喪失を通じて国民を支配するために使用されることです。
AGIの恩恵が広く分配されることを保証することは非常に重要です。技術進歩の歴史的な影響は、私たちが気にかけているほとんどの指標（健康状態、経済的繁栄など）が平均して、そして長期的には改善することを示唆していますが、平等の拡大は技術的に決定されるものではないようで、これを正しく行うには新しいアイデアが必要になるかもしれません。
特に、資本と労働の力のバランスが容易に混乱する可能性があるように思われ、これには早期の介入が必要になるかもしれません。私たちは、地球上の誰もが大量のAIを使用できるようにするために、何らかの「計算予算」を与えるといった突飛なアイデアにもオープンですが、知能のコストを可能な限り低く抑えることが望ましい効果をもたらす多くの方法も見出すことができます。
2035年の誰もが、2025年のすべての人に匹敵する知的キャパシティを自由に使えるようになるはずです。誰もが、想像できるあらゆる方法で活用できる無限の知性にアクセスできるはずです。現在、その能力を十分に発揮するためのリソースを持たない才能が非常に多く存在しており、もし私たちがそれを変えれば、世界が生み出す創造的なアウトプットは、私たち全員に多大な恩恵をもたらすでしょう。
特に、草稿のレビューにご協力いただいたJosh Achiam、Boaz Barak、Aleksander Madryに感謝いたします。
*ここでAGIという用語を使用することで、明確にコミュニケーションを図ることを目的としており、マイクロソフトとの関係を定義する定義やプロセスを変更または解釈する意図はありません。私たちは長期にわたりマイクロソフトと提携していくことを強く期待しています。この脚注は馬鹿げているように思えるかもしれませんが、一方で、一部のジャーナリストが馬鹿げた記事を書いてクリック数を稼ごうとすることを知っているので、ここで先手を打っているのです…。