Anthropic ダリオ・アモデイCEOのAIの未来に関するエッセイ「Machines of Loving Grace（愛しき恩寵の機械たち）」を読む

2024年10月13日 12:10

10月12日、ChatGPTに対抗するAIモデルのClaudeを開発・公開したことで有名なAnthropicの創設者及びCEOのダリオ・アモデイ氏がAIの未来に関するエッセイ「Machines of Loving Grace（愛しき恩寵の機械たち）」を公開しました。

今回の記事では、このダリオ・アモデイ氏のエッセイを日本語訳して紹介したいと思います。

なお、「Machines of Loving Grace」というフレーズは、アメリカの詩人リチャード・ブローディガンが1967年に書いた詩「All Watched Over by Machines of Loving Grace（愛しき恩寵の機械たちに見守られて）」から来ています。この詩は、テクノロジーと自然の調和的な共存というテーマを描いており、ブローティガンは技術の進化が自然との新しい関係を生み出し、人間を抑圧することなくむしろ解放するという理想的な未来像を示しています。

ダリオ・アモデイ

愛しき恩寵の機械たち

AIはいかにして世界をより良く変えるのか

2024年10月

私は強力なAIのリスクについて多く考え、話しています。私がCEOを務める会社Anthropicは、これらのリスクを減らすための研究をたくさん行っています。このため、人々はしばしば、私がAIに対して悲観的で、「AIは主に悪いもの、または危険なものだ」と考えている「終末論者」だと結論づけることがあります。しかし、私はまったくそうは思っていません。実際、私がリスクに焦点を当てている主な理由の一つは、リスクがなければ私が見ている根本的にポジティブな未来に到達できるからです。私は、多くの人がAIの可能性がどれほど大きいかを過小評価していると思いますし、同時に、リスクがどれほど大きいかも過小評価していると思います。

このエッセイでは、そうしたAIのポジティブな側面、つまりすべてがうまくいった場合の強力なAIによる世界がどのようなものになるかを描き出そうとしています。もちろん、未来を正確に予測することは誰にもできませんし、強力なAIの影響はこれまでの技術的変化よりもさらに予測不可能なものになる可能性が高いです。したがって、これらはどうしても推測に過ぎません。しかし、私は少なくとも教育された有用な推測を目指しており、詳細が間違っていても全体の方向性は正しく伝わることを期待しています。具体的なビジョンの方が、抽象的でぼかされたものよりも議論を進めるのに役立つと考えているため、多くの詳細を含めています。

ただし、最初に簡単に説明しておきたいのは、なぜ私やAnthropicが強力なAIのポジティブな側面についてあまり話していないのか、そして今後もリスクについて多く話すことになる理由です。特に、以下の理由からこの選択をしています。

影響力を最大化するため: AI技術の基本的な発展と、その多くの（すべてではない）利益は、リスクがすべてを頓挫させない限り、強力な市場の力によって必然的に進むように見えます。一方で、リスクはあらかじめ決まっているわけではなく、私たちの行動によってその確率を大きく変えることができます。
宣伝の印象を避けるため: AI企業がAIの驚くべき利益を語ることは、プロパガンダのように見えたり、欠点から目をそらす試みとして捉えられることがあります。さらに、原則として、自分の主張を過度に宣伝することは魂に良くないと思っています。
誇大表現を避けるため: 多くのAIリスクの専門家（AI企業のリーダーを含む）が、まるで自分たちが人々を救済に導く預言者であるかのように、ポストAGI（汎用人工知能）の世界について語ることには違和感を覚えます。企業が一方的に世界を形作るという見方や、技術的目標を宗教的な意味合いで捉えることは危険だと思います。
SF的な要素を避けるため: 私は多くの人が強力なAIの可能性を過小評価していると考えていますが、急進的なAI未来について議論するコミュニティは、過度にSF的なトーン（例：マインドアップロードや宇宙探査、サイバーパンク的な雰囲気）で話すことが多いように感じます。これにより、人々がこれらの主張を真剣に受け止めなくなり、ある種の現実感を失わせるのです。技術自体の可能性の有無ではなく、この「雰囲気」が、どのような未来が望ましいか、社会的な問題がどのように展開されるかなどについての無意識の前提を持ち込み、読者を限定的なサブカルチャー向けの空想に引き込んでしまうことが問題です。

それでも、これらの懸念があるにもかかわらず、私は強力なAIによる良い世界がどのようなものになるかを議論することが重要だと考えています。そして、それを行う際に、上記のような落とし穴を避ける努力をしなければなりません。最終的には、単に問題に対処するための計画だけでなく、みんながより良い未来を目指すためのインスピレーションを提供することが必要です。強力なAIの影響は敵対的または危険なものが多いですが、その先には、皆がより良い状況にあるという正の合計の結果が必要です。恐怖は一つの動機ですが、それだけでは不十分です。希望も必要です。

強力なAIのポジティブな応用のリストは非常に長く（ロボティクス、製造、エネルギーなどが含まれます）、私は特に人間の生活の質を直接的に向上させる可能性が最も高いと思われる少数の分野に焦点を当てます。私が最も期待しているのは次の5つのカテゴリーです。

生物学と身体の健康
神経科学と精神の健康
経済発展と貧困
平和とガバナンス
仕事と意味

これらの予測は、多くの基準で見れば急進的ですが、誠実に考えた結果です。もちろん、これらの予測がすべて間違っている可能性もありますが、少なくともさまざまな分野での進展がどの程度加速し、それが実際に何を意味するのかについて、半ば分析的な評価に基づいています。このエッセイを書いたことで気づいたのは、ここで提案したものをさらに良く、情報に基づいたものにするために、生物学、経済学、国際関係などの専門家を集める価値があるということです。この試みは、そのための出発点と見なすのが良いでしょう。

基本的な前提とフレームワーク

このエッセイ全体をより正確で現実的なものにするために、「強力なAI」とは何を意味するのか（つまり、5〜10年のカウントが始まる基準）を明確に定義し、そのAIが登場したときにその影響をどう考えるかのフレームワークを示すことが重要です。

「強力なAI」（私はAGIという用語があまり好きではありません）がどのような形になるか、そしていつ（またはそれが本当に）登場するのかは、それ自体で非常に大きなテーマです。これは私がこれまで公の場で議論してきたテーマであり、いずれは別のエッセイとして書く可能性もあります。多くの人は、強力なAIがすぐに構築されることに懐疑的であり、また一部の人々は、それが実際に構築されるかどうかも疑問視しています。私自身は早ければ2026年には登場する可能性があると考えていますが、もっと時間がかかる可能性もあります。しかし、このエッセイの目的では、そうした問題は脇に置き、比較的近い将来にそれが実現すると仮定し、その後の5〜10年に焦点を当てたいと思います。また、こうしたシステムがどのような形をしているか、その能力や相互作用についての定義も仮定したいと思いますが、これに関しては意見が分かれる余地があります。

強力なAIとは、現在のLLM（大規模言語モデル）に似た形で構築される可能性が高いものを指しますが、異なるアーキテクチャに基づいているかもしれませんし、複数のモデルが相互に作用するものや異なるトレーニング方法を採用している可能性もあります。具体的には以下のような特性を持つAIです：

純粋な知能の観点で、関連する多くの分野（生物学、プログラミング、数学、工学、執筆など）においてノーベル賞受賞者よりも賢い。未解決の数学的定理を証明したり、非常に優れた小説を書いたり、複雑なコードベースをゼロから作成したりできる能力を持つ。
単に「話すだけの賢いもの」ではなく、テキスト、音声、ビデオ、マウスやキーボードの操作、インターネットアクセスなど、人間が仮想環境で利用できるすべての「インターフェース」を持ち、そのインターフェースを介して、インターネットでの行動、指示の受け渡し、実験の指示、ビデオの作成など、さまざまなアクションやコミュニケーション、リモート操作を行うことができる。これらのタスクは、世界で最も有能な人間を上回るスキルで実行される。
単に受動的に質問に答えるだけではなく、数時間、数日、または数週間かかるタスクを与えられ、それを自律的に進行し、必要に応じて確認を求めながら進めることができる、スマートな社員のように振る舞う。
物理的な存在（実体）を持たないが、コンピュータを通じて既存の物理的なツールやロボット、実験機器を操作でき、理論的には自分用のロボットや機器を設計することもできる。
トレーニングに使用されたリソースは、そのモデルの数百万のインスタンスを実行するために再利用できる（これは2027年頃のクラスター規模の予測に合致する）。モデルは人間の約10倍から100倍の速度で情報を吸収し、行動を生成する。ただし、物理世界やソフトウェアの応答時間によって制限される可能性がある。
これらの数百万のコピーは、それぞれ独立して異なるタスクに取り組むことができるし、必要に応じて人間が協力するように同じタスクに取り組むこともできる。各コピーは、特定のタスクに特化するように微調整される可能性もある。

この概念を「データセンター内の天才たちの国」とまとめることができます。

このような存在は、非常に難しい問題を非常に早く解決する能力を持つでしょうが、そのスピードがどれくらいかを正確に把握するのは簡単ではありません。2つの「極端な」立場がありますが、どちらも私には間違っているように思えます。1つ目は、超越した知能が自身を強化し、すべての科学的、工学的、運用的な課題をほぼ即座に解決し、世界が瞬時に変わるという考え方です（「シンギュラリティ」）。この考え方には問題があります。ハードウェアの構築や生物学的な実験を行う際に、現実の物理的・実用的な限界があるからです。たとえ「天才たちの国」が新たに出現したとしても、これらの限界にぶつかるでしょう。知能は非常に強力ですが、魔法のような万能の力ではありません。

2つ目の立場は、技術進歩が現実世界のデータや社会的要因によって制限されており、人間を超える知能でもほとんど役に立たないというものです。これも同様に現実的ではないと考えます。私は、科学的あるいは社会的な問題が数百もあり、その中で本当に賢い人々の大集団が進展を飛躍的に加速できるケースを思い描けます。特に、それが単なる分析に留まらず、現実の世界で物事を進展させることができる場合です（私たちが想定している「天才たちの国」は、人間のチームを指導したり、支援したりすることができるのです）。

私が考える真実は、これら2つの極端な絵を混ぜ合わせたようなものであり、タスクや分野によって異なり、非常に微妙な点で変わってくるでしょう。私たちは、これらの詳細を生産的に考えるための新しいフレームワークを必要としていると思います。

経済学者はよく「生産要素」について話します。労働、土地、資本といったものです。「労働・土地・資本の限界利益」というフレーズは、ある状況で特定の要素が制約となるか否かを表しています。例えば、空軍は飛行機もパイロットも必要ですが、飛行機が足りなければパイロットを増やしてもあまり役立ちません。同様に、AIの時代においては「知能の限界利益」について考えるべきであり、知能に補完的な他の要素が何であり、それが知能が非常に高いときに制約となる要因を理解しようとする必要があります。私たちは「このタスクに対してより賢くなることでどれほど役立つか、そしてその時間スケールはどれほどか」といった問いを立てることに慣れていませんが、これは強力なAIが存在する世界を概念化する上で正しい方法のように思えます。

私が考える知能に対して制約となる、または補完的な要因のリストには以下が含まれます：

外界の速度：知的エージェントは、何かを成し遂げたり学んだりするために、世界の中で相互に作用する必要があります。しかし、世界は一定の速度でしか動きません。細胞や動物は一定の速度で動作し、それに基づく実験にはある程度の時間がかかり、これを削減することはできないかもしれません。ハードウェアや材料科学、人々とのコミュニケーション、さらには既存のソフトウェアインフラについても同様です。さらに、科学では多くの実験が順を追って行われ、それぞれが前の実験の成果を学び取ります。これにより、例えばがん治療の開発のような大規模プロジェクトが完了する速度には、ある程度の限界があり、知能が高くなってもこれを大幅に短縮することはできません。
データの必要性：時には生のデータが不足している場合があり、そうした状況では知能が高くても役に立たないことがあります。今日の素粒子物理学者は非常に創造的で、幅広い理論を展開していますが、素粒子加速器のデータが限られているため、それらの理論を選別するデータが不足しています。もし超知能があったとしても、より大きな加速器の建設を速める以外には、大きな進展は期待できないかもしれません。
本質的な複雑さ：一部の事柄は本質的に予測不可能またはカオス的であり、最も強力なAIであっても、今日の人間やコンピュータと比べてそれを大幅に解明することはできません。例えば、三体問題のようなカオス的なシステムでは、驚異的に強力なAIでも、現状の人間やコンピュータと比べてわずかにしか先を予測できません。
人間による制約：多くのことは、法律を破ったり人間に害を与えたり、社会を混乱させることなくは実現できません。倫理的に調整されたAIはこれらを行いたくないでしょう（もし調整されていないAIであれば、それはリスクの話に戻ります）。人間の社会構造は非効率的であることが多いですが、臨床試験における法的要件や人々の習慣の変化への抵抗、政府の行動などの制約を尊重しながら変更するのは難しいことです。技術的にはうまく機能するものの、規制や誤った恐怖によってその影響が大幅に減少してしまう進歩の例として、原子力、超音速飛行、エレベーターなどがあります。
物理法則：これは最初のポイントのさらに厳格なバージョンです。破ることができない物理法則が存在します。光速を超えて移動することはできませんし、かき混ぜたプリンは元に戻りません。チップには一定の限界があり、それ以上のトランジスタを詰め込むと信頼性が失われます。計算にはビットを消去するために一定の最小エネルギーが必要であり、世界の計算密度に限界をもたらします。

さらに、時間スケールに基づく区別があります。短期的には硬い制約であっても、長期的には知能によって柔軟性が増すかもしれません。例えば、知能を使って、新たな実験パラダイムを開発し、以前は生きた動物実験が必要だったものをインビトロで学べるようにしたり、新しいデータを収集するためのツールを構築したり（例：より大きな素粒子加速器）、人間に基づく制約を回避する方法を見つけたりすることができます（例：臨床試験システムの改善、官僚主義の少ない新たな法域の創設、または科学自体を改良して臨床試験をより必要なく、または安価にすること）。

したがって、私たちは、知能が最初は他の生産要素によって大きく制約されているが、時間とともに知能自体が他の要素を回避する能力を高めていくという図を想像するべきです。ただし、物理法則のようなものは完全には消えることはないでしょう。重要な問いは、これがどれだけ速く進行し、どの順番で起こるかです。

上記のフレームワークを念頭に置き、序論で述べた5つの分野についてこの問いに答えていきます。

1. 生物学と健康

生物学は、科学の進歩が人間の生活の質を直接的かつ明確に向上させる最も大きな可能性を持つ分野であると言えるでしょう。過去の世紀において、人類の最も古い病苦のいくつか（例：天然痘）はついに克服されましたが、依然として多くの病が残されており、それらを打ち負かすことは大きな人道的偉業となるでしょう。病気の治療を超えて、生物学的科学は、健康な人間の寿命を延ばしたり、自分自身の生物学的プロセスに対する制御と自由を増やしたり、現在は変えられないと思われている日常の問題に取り組んだりすることで、原則として人間の健康の基本的な質を向上させることができます。

前のセクションで使用した「制約要因」の言語を使うと、知能を生物学に直接応用する際の主な課題は、データ、物理的世界の速度、そして内在的な複雑さです（実際、これらの3つは互いに関連しています）。臨床試験が関わる段階では、人間の制約も役割を果たします。これらを一つずつ見ていきましょう。

細胞や動物、さらには化学プロセスに対する実験は、物理的世界の速度によって制約されています。多くの生物学的手順は、細菌や他の細胞を培養したり、化学反応が進行するのをただ待ったりすることを含んでおり、これは数日、場合によっては数週間かかることがあり、これを加速させる明白な方法がないこともあります。動物実験は数ヶ月（あるいはそれ以上）かかり、ヒトを対象とした実験は数年（長期的な結果を研究する場合は数十年）かかることがよくあります。これに関連して、データも不足していることが多いです。量的には不足していないかもしれませんが、質的には不十分であることが多いのです。生物学的な効果を他の1万もの混乱要因から明確に分離したデータや、特定のプロセスに因果的に介入するデータ、あるいはある効果を直接測定するデータ（その結果を間接的に推論するのではなく）が常に不足しています。私が質量分析技術で収集したプロテオミクスデータのように、大量の定量的分子データでさえ、ノイズが多く、見逃しが発生します（これらのタンパク質はどの種類の細胞にあったのか？細胞のどの部分にあったのか？細胞周期のどの段階だったのか？）。

これらのデータの問題の一部を引き起こしているのは、内在する複雑さです。人間の代謝の生化学を示す図を見たことがあれば、この複雑なシステムのどの部分の効果も分離するのが非常に難しく、さらにこのシステムに正確かつ予測可能な形で介入するのはさらに難しいことがわかるでしょう。そして最後に、人間に対する実験を実施するのに必要な時間に加えて、実際の臨床試験には多くの官僚的手続きや規制要件が関わっており、多くの人（私を含む）が不要な追加の時間をかけて進歩を遅らせていると考えています。

このような状況を考えると、多くの生物学者は、AIや「ビッグデータ」が生物学においてどれほど価値があるかについて、長い間懐疑的でした。歴史的に見て、数学者、コンピュータ科学者、物理学者が過去30年間に生物学にそのスキルを応用して成功を収めてきましたが、当初期待されていたほどの本当に変革的な影響は与えられませんでした。大きな革命的な突破口、例えばAlphaFold（その開発者が化学のノーベル賞を受賞したのも当然のことです）やAlphaProteo11などによって、この懐疑論は幾分か和らげられましたが、依然としてAIが限られた状況でしか役に立たないという認識が残っています。一般的な見解として「AIはデータの分析をよりよく行うことができるが、データを増やしたり、質を向上させたりはできない。ゴミデータを入れれば、ゴミしか出てこない」というものがあります。

しかし、私はこの悲観的な見方はAIについて誤った考え方だと思います。AIの進歩に関する我々の核心的な仮説が正しければ、AIをデータ分析の手法としてではなく、バーチャルな生物学者として考えるのが正しいアプローチです。AIは、実際の世界で実験をデザインし実行する（ラボのロボットを操作したり、人間にどの実験を行うべきか指示する、ちょうど主任研究者が大学院生に指示を出すように）ことを含め、すべての生物学者の仕事をこなすのです。新しい生物学的手法や測定技術を発明することも含まれます。AIは研究プロセス全体を加速することで、生物学を真に進化させることができるのです。これは、AIが生物学を変革する能力について話す際に最も一般的に誤解される点なので、繰り返しますが、私はAIを単にデータを分析するためのツールとして語っているのではありません。この記事の冒頭で定義した強力なAIの定義に沿って、私はAIを使って、生物学者が行うほぼすべてのことを実行し、指揮し、改善することを目指しています。

具体的にどこで加速が起こる可能性が高いかを説明すると、生物学の進歩の驚くほど大きな割合が、実は非常に少数の発見から生じており、これらの発見はしばしば、広範な測定ツールや技術に関連しています。それらは、生物学的システムに対して正確かつ汎用的、またはプログラム可能な介入を可能にします。こうした大きな発見は年に1件ほどで、これらが生物学の進歩の50％以上を推進していると言えるかもしれません。これらの発見が非常に強力であるのは、内在する複雑さやデータの限界を切り抜け、生物学的プロセスの理解と制御を直接的に向上させるからです。数十年にわたるいくつかの発見が、我々の生物学に関する基本的な科学的理解の大部分を可能にし、最も強力な医療処置の多くを推進してきました。

いくつかの例としては以下のものがあります。

CRISPR：生物体内で任意の遺伝子を編集できる技術（任意の遺伝子配列を他の任意の配列に置き換える）。この技術が開発されて以来、特定の細胞タイプを標的にする精度を高め、誤った遺伝子を編集しないようにするための改善が続いており、人間に安全に使用するために必要です。
様々な種類の顕微鏡：精密なレベルで起こっていることを観察するための技術。これには、先進的な蛍光技術を備えた光学顕微鏡、電子顕微鏡、原子間力顕微鏡などが含まれます。
ゲノムの配列解析と合成：過去数十年でコストが数桁下がった技術。
オプトジェネティクス技術：光を当てることでニューロンを発火させることができる技術。
mRNAワクチン：原則として、あらゆるものに対してワクチンを設計し、それを迅速に適応させることが可能な技術（COVID-19でmRNAワクチンが有名になりました）。
細胞治療（CAR-Tなど）：免疫細胞を体外に取り出し、再プログラムして、原則としてどんなターゲットにも攻撃させることができる技術。
概念的洞察：病原菌説や、免疫システムとがんとの関連性の発見など。

これらの技術をリストアップしたのは、これについて重要な主張をしたいからです。それは、これらの発見のペースは、もっと才能があり創造的な研究者が多ければ、10倍以上に増加する可能性があるということです。あるいは別の言い方をすれば、これらの発見に対する知能のリターンは非常に高く、生物学や医療の他のすべてのことは、主にこれらの発見から派生するということです。

なぜそう考えるのか？知能のリターンを評価する際に重要な質問に答えることが、これを裏付けています。まず、これらの発見は一般的にごく少数の研究者によってなされることが多く、しばしば同じ人々が繰り返し発見しているため、これはスキルによるものであり、ランダムな探索ではないことを示唆しています（後者であれば、長期間の実験が制約要因である可能性があります）。次に、これらの発見は多くの場合、数年前に「実現できたかもしれない」ものです。例えば、CRISPRは1980年代から知られていた細菌の免疫システムの自然成分でしたが、それが汎用的な遺伝子編集に利用できることがわかるまでには25年かかりました。また、多くの発見は、有望な方向性に対する科学界の支持が得られなかったために、何年も遅れてしまいました（mRNAワクチンの発明者に関するプロファイルを参照してください。同様の話は他にもたくさんあります）。さらに、成功したプロジェクトは、しばしばスクラップであったり、当初は有望ではないと考えられていたものが多く、巨額の資金を投じた取り組みではないことが多いのです。これは、発見を推進するのは単に資源の集中ではなく、創意工夫であることを示唆しています。

最後に、これらの発見の一部には「連鎖依存性」（発見Aを先に行う必要があり、それがなければ発見Bに必要なツールや知識が得られない）があり、これが実験の遅延を引き起こす可能性がありますが、多くの発見、あるいは大部分は独立しており、多くの発見が同時に並行して進められる可能性があります。これらの事実、そして私自身の生物学者としての経験から、多くの発見が待ち望んでいると強く感じています。もし科学者がより賢く、生物学に関する膨大な知識を結びつけるのが得意であれば（再びCRISPRの例を考えてください）、数百の発見が生まれる可能性があるでしょう。人間が数十年かけて慎重に設計した物理モデリングを遥かに超える成果を挙げたAlphaFold/AlphaProteoの成功は、（狭い分野ではあるが）原理的な証拠を示しており、今後の方向性を指し示しています。

したがって、私の推測では、強力なAIはこれらの発見のペースを少なくとも10倍に加速し、次の50～100年の生物学的進歩を5～10年で達成することができるでしょう。では、なぜ100倍ではないのでしょうか？それは可能かもしれませんが、ここで連鎖依存性や実験時間が重要になります。100年分の進歩を1年で達成するには、動物実験や顕微鏡の設計、あるいは高価な実験施設など、初回からすべてがうまくいく必要があります。私は5～10年で1000年分の進歩を達成するという（おそらく荒唐無稽に聞こえる）アイデアには開かれていますが、100年分を1年で達成することには懐疑的です。別の言い方をすれば、避けられない遅延が存在すると考えています。実験やハードウェア設計には一定の「レイテンシー」があり、論理的に推論できないことを学ぶためには、ある「不可避の」回数の試行が必要だからです。しかし、その上に大規模な並列処理が可能かもしれません。

臨床試験についてはどうでしょうか？多くの官僚主義と遅延が関連していますが、実際にはその遅さの多くは（すべてではありませんが）、効果がほとんどないか、あいまいにしか効果がない薬を厳密に評価する必要性から来ています。残念ながら、これは今日の多くの治療法に当てはまります。平均的な抗がん剤は生存期間を数ヶ月延ばすだけで、その間に重大な副作用が発生するため、それを慎重に測定する必要があります（アルツハイマー病の薬も同様の話です）。その結果、統計的な力を得るために巨大な研究が必要となり、規制機関はしばしば官僚主義や競合する利害関係の複雑さのため、難しい選択を上手に行えないことがあります。

しかし、何かが本当にうまくいくと、進展は非常に早くなります。効果の大きさが大きい場合、承認の容易さが増し、迅速承認プロセスが適用されます。COVID-19に対するmRNAワクチンは9ヶ月で承認され、通常のペースよりもはるかに早く進みました。とはいえ、このような状況下でも臨床試験は依然として遅すぎます。mRNAワクチンは約2ヶ月で承認されるべきだったと言えます。しかし、これらの遅延（薬剤に関しては全体で約1年）と、大規模な並列処理、および少数の反復の必要性が組み合わされれば、5～10年での急激な変革が十分に可能です。さらに楽観的に言えば、AIを利用した生物学の進歩が、臨床試験での反復の必要性を減らす可能性があります。動物や細胞の実験モデル（あるいはシミュレーション）が、人間で何が起こるかをより正確に予測できるようになれば、これは特に老化プロセスに対する薬の開発に重要です。このプロセスは何十年にもわたって進行し、より速い反復サイクルが必要です。

最後に、臨床試験と社会的な障壁について述べると、生物医学的な革新は、他の技術とは異なり、成功裏に展開されてきた実績があるという点は特筆に値します。序文で述べたように、多くの技術は技術的にはうまくいっていても、社会的な要因で妨げられています。これに基づくと、AIが成し遂げられることについて悲観的に見えるかもしれません。しかし、バイオメディカル分野は独特であり、薬の開発プロセスが過度に煩雑であっても、一旦開発されると、一般的に成功裏に展開され、利用されるという強力な実績があります。

上記をまとめると、私の基本的な予測は、AIを活用した生物学と医学により、人間の生物学者が今後50～100年かけて達成する進歩を、5～10年で達成できるようになるということです。これを「圧縮された21世紀」と呼び、強力なAIが開発された後、数年間で21世紀全体にわたる生物学と医学の進歩を遂げるという考えを指します。

強力なAIが数年後に何を成し遂げるかを予測することは本質的に難しく、推測の域を出ませんが、「人間が支援なしで次の100年で何を達成できるか」を問うことは、ある程度の具体性を持ちます。20世紀に私たちが成し遂げたことを振り返る、あるいは21世紀の最初の20年間の進展から外挿する、「10件のCRISPRや50件のCAR-T」がもたらすものを想像するなどの方法で、強力なAIから期待される進歩の全体像を現実的に見積もることができます。

ここで、期待される進展のリストを試みます。これは厳密な方法論に基づいているわけではなく、詳細についてはおそらく間違っている可能性が高いですが、一般的なレベルの急進的な変化について伝えたいと思います。

ほぼすべての自然発生的な感染症の信頼性のある予防と治療
20世紀の感染症に対する大きな進展を考えれば、21世紀に圧縮された期間で「仕事をほぼ完了する」ことができると考えるのは過激ではありません。mRNAワクチンや同様の技術は、すでに「すべての病気に対するワクチン」の道筋を示しています。感染症が世界全体から根絶されるか（特定の地域にとどまるか）は、貧困や不平等に関する問題に依存します（これについてはセクション3で論じます）。
ほとんどのがんの排除
過去数十年でがんの死亡率は年率約2％で減少しており、このペースで進めば、21世紀中にほとんどのがんを克服することが見込まれています。いくつかのサブタイプはすでにほぼ治癒されています（例えば、CAR-T療法を用いた白血病の一部）。AIによって個別化されたがんのゲノムに最適化された治療法も、費用や時間の大幅な削減を可能にし、95％以上の死亡率や発生率の低下が期待できます。ただし、がんは非常に多様で適応力があり、完全に根絶するのは最も難しい病気の一つであり、稀で難治性の悪性腫瘍が残る可能性があります。
遺伝性疾患の非常に効果的な予防と治療
胚のスクリーニングの改善により、ほとんどの遺伝性疾患を予防することが可能になるでしょう。また、CRISPRの進化版などが既存の人々の遺伝性疾患を治療するかもしれません。多くの細胞に影響を与える全身的な疾患は、最後に残る可能性があります。
アルツハイマー病の予防
アルツハイマー病の原因はまだ解明されていませんが（ベータアミロイドタンパク質に関連していますが、実際の詳細は非常に複雑です）、AIによる生物学的効果の特定が、この問題を解決する鍵となるでしょう。単純な介入で予防が可能になる可能性もありますが、既存のアルツハイマー病による損傷を逆転させるのは非常に難しいでしょう。
その他の疾患の治療の改善
これには、糖尿病、肥満、心臓病、自己免疫疾患などが含まれます。多くの疾患は、がんやアルツハイマー病よりも「解決が容易」とされており、実際に多くの疾患はすでに急速に減少しています。例えば、心臓病による死亡率はすでに50％以上減少しており、GLP-1作動薬のような簡単な介入は、肥満や糖尿病に対しても大きな進展をもたらしています。
生物学的自由
過去70年には、避妊や肥満管理などで大きな進展がありましたが、AIが加速する生物学はさらに可能性を広げるでしょう。体重や外見、生殖能力などの生物学的プロセスを人々が完全に制御できるようになるかもしれません。これを「生物学的自由」と呼びます。つまり、誰もが自分が望む姿を選び、最も魅力的な形で人生を送ることができるという考えです。当然、グローバルなアクセスの平等性について重要な問題が生じますが、これについてはセクション3で取り上げます。
人間の寿命の倍増
これは過激に聞こえるかもしれませんが、20世紀には平均寿命が約2倍に延びました（約40年から約75年）。したがって、「圧縮された21世紀」で寿命が再び倍増して150年になるというのは、過去の延長線上にあると考えられます。具体的には、ラットの最大寿命を25～50％延ばす薬がすでに存在しており、一部の動物（カメの一部など）はすでに200年生きるため、人間には理論上の上限があるわけではありません。最も重要なのは、人間の老化の信頼性の高いバイオマーカーを見つけることかもしれません。これにより、実験や臨床試験の反復が迅速化されるでしょう。人間の寿命が150年に達すれば、さらに長寿を望む人々がその目標を達成できるかもしれませんが、それが生物学的に可能である保証はありません。

このリストを見て、これらすべてが7～12年以内に達成された場合、世界がどれほど変わるかを考える価値があります（これはAIの急速な発展に沿ったスケジュールです）。言うまでもなく、これは人類が何千年も苦しんできた多くの災いを一気に取り除くという、想像を絶する人道的勝利となるでしょう。私の友人や同僚の多くは子育てをしており、その子供たちが成長したとき、病気の話がまるで壊血病や天然痘、黒死病のように聞こえることを願っています。その世代はまた、生物学的な自由や自己表現の向上の恩恵を受け、運が良ければ、望む限りの長寿を享受できるかもしれません。

これらの変化が、強力なAIを期待している少数の人々を除いて、いかに驚くべきものであるかは、過小評価することはできません。例えば、現在アメリカでは何千人もの経済学者や政策専門家が、社会保障やメディケアをどのように維持するか、また医療費（主に70歳以上の高齢者や末期疾患を抱える人々に消費される）をどのように抑制するかを議論しています。しかし、これらが実現すれば、労働人口と退職者人口の比率が劇的に変化し、こうしたプログラムに関する状況は劇的に改善される可能性があります。もちろん、これに代わる課題として、新しい技術への広範なアクセスをどのように確保するかという問題が出てくるでしょうが、生物学がAIによって急速に発展した場合、世界がどれほど変わるかを振り返る価値があります。

2. 神経科学と心

前のセクションでは身体的な病気や生物学全般に焦点を当て、神経科学やメンタルヘルスについては触れませんでした。しかし、神経科学は生物学の一分野であり、メンタルヘルスは身体の健康と同じくらい重要です。むしろ、メンタルヘルスは身体的健康以上に人間の幸福に直接影響を与えることさえあります。何百万人もの人々が、依存症、うつ病、統合失調症、低機能の自閉症、PTSD、サイコパシー、知的障害などの問題により非常に低い生活の質を強いられています。また、何十億もの人々が、これらの重度の臨床障害の軽度なバージョンとも解釈できる日常の問題に悩んでいます。そして、生物学と同様に、問題に対処するだけでなく、人間の経験の基本的な質を向上させることも可能かもしれません。

私が生物学について説明した基本的な枠組みは、神経科学にも同様に当てはまります。この分野は、しばしば測定や正確な介入のためのツールに関連する少数の発見によって進展しています。前述のリストの中で、オプトジェネティクスは神経科学の発見であり、最近ではCLARITYや拡張顕微鏡法なども同様の進展を遂げています。また、多くの細胞生物学の一般的な手法も神経科学に直接適用されています。AIによってこれらの進展が加速される可能性が高いため、神経科学にも「100年分の進歩を5～10年で達成する」という枠組みが適用されると考えています。生物学と同様に、20世紀の神経科学の進展は大きなもので、たとえば、1950年代まではニューロンがどのように発火するのか、なぜ発火するのかさえ理解していませんでした。したがって、AIによって加速される神経科学が、数年間で急速な進歩を遂げると予想するのは合理的です。

この基本的な見通しに加えて、ここ数年でAI自体について学んだこと（あるいは学びつつあること）が、神経科学の進展を助ける可能性があります。たとえそれが引き続き人間によって行われるとしてもです。分かりやすい例として「解釈可能性」が挙げられます。生物学的なニューロンは、人工的なニューロンとは表面的には全く異なる方法で動作しています（生物学的ニューロンはスパイクやスパイクレートを介してコミュニケーションを行い、そこには時間的な要素があり、細胞生理学や神経伝達物質に関する多くの詳細がその動作に影響を与えます）。しかし、「線形および非線形の操作を組み合わせて重要な計算を行う、シンプルなユニットで構成された分散型の訓練されたネットワークがどのように協力して機能するか」という基本的な問題は同じです。興味深い計算や回路に関する質問では、個々のニューロンの通信の詳細は抽象化される可能性が高いと強く感じています。具体例として、AIシステムにおいて解釈可能性の研究者が発見した計算メカニズムが、最近マウスの脳内でも再発見されました。

人工ニューラルネットワークでの実験は、実際のニューラルネットワークでの実験（動物の脳を切開する必要があることが多い）に比べてはるかに簡単です。そのため、解釈可能性は神経科学の理解を深めるツールになる可能性があります。さらに、強力なAI自体が、このツールを人間よりも効果的に開発・応用できるようになる可能性があります。

解釈可能性以外にも、AIから学んだ「知能システムがどのように訓練されるか」という知見は（まだそうなっていないかもしれませんが）神経科学に革命をもたらすはずです。私が神経科学の分野で働いていたとき、多くの人が、現在の私から見ると誤った学習に関する質問に焦点を当てていました。なぜなら、「スケーリング仮説」や「苦い教訓」の概念が当時は存在しなかったからです。シンプルな目的関数と大量のデータが極めて複雑な行動を生み出すという考え方は、目的関数やアーキテクチャ上のバイアスを理解することをより興味深いものにし、出現する計算の詳細を理解することの重要性を低くしています。私は最近の研究を密接に追っていませんが、計算神経科学者たちがこの教訓を完全に吸収しているとは思っていません。私自身はスケーリング仮説について、「ああ、これは知能がどのように機能し、進化したのかを高次のレベルで説明するものだ」と思っていましたが、神経科学者の平均的な見解はそうではないでしょう。AIの中でも、スケーリング仮説が「知能の秘密」であるということは完全には受け入れられていないからです。

神経科学者はこの基本的な洞察を人間の脳の特殊性（生物物理的な限界、進化の歴史、トポロジー、運動や感覚の入出力の詳細）と結びつけ、神経科学の主要な謎を解明しようとするべきだと思います。一部の人はそうしているでしょうが、まだ十分ではなく、AI神経科学者はこの視点をより効果的に活用して進展を加速できると考えています。

私は、AIが神経科学の進展を4つの異なるルートで加速させると期待しています。これらが協力して、精神疾患の治療や機能の向上を目指すことができるでしょう。

従来の分子生物学、化学、遺伝学
これはセクション1で述べた生物学全般の話と基本的に同じです。AIは同様のメカニズムでこれを加速させることができます。脳の機能を変えるために神経伝達物質を調整する多くの薬があり、AIはさらに多くの薬の発明を助けることができるでしょう。また、精神疾患の遺伝的基盤に関する研究もAIが加速できるでしょう。
精緻な神経の測定と介入
これは、多くの個々のニューロンや神経回路が何をしているかを測定し、その行動を変えるために介入する能力です。オプトジェネティクスや神経プローブは、生物における測定と介入の両方を可能にする技術であり、個々のニューロンの発火パターンを読み取る分子ティッカーテープのような非常に高度な方法も提案されており、原理的には可能です。
高度な計算神経科学
先述したように、現代のAIの特定の洞察や全体的な知見は、システム神経科学の問題に有効に応用される可能性があり、精神病や気分障害の実際の原因や動態の解明に役立つかもしれません。
行動介入
神経科学の生物学的側面に焦点を当てているため、これについてはあまり言及していませんが、20世紀に精神医学や心理学は幅広い行動介入のレパートリーを発展させました。AIは新しい方法の開発や、既存の方法に患者が従うのを助けることで、これを加速できると考えるのは当然です。より広く言えば、「常に自分のベストバージョンになる手助けをしてくれるAIコーチ」のアイデアも非常に有望です。

これらの4つの進展のルートが協力して進むことで、身体的な病気と同様に、AIが関与していなくても、今後100年以内にほとんどの精神疾患の治癒や予防が達成される可能性があり、AIが加速することで5～10年以内に完了するかもしれません。具体的に私が予想するのは以下のようなことです。

ほとんどの精神疾患は治療可能になる可能性が高い
私は精神疾患の専門家ではありません（神経科学の研究では少数のニューロン群を研究するプローブを構築していました）が、PTSD、うつ病、統合失調症、依存症などの疾患は、上記の4つの方向性の組み合わせによって解明され、非常に効果的に治療される可能性があると考えています。その答えは、おそらく「生化学的に何かがうまくいかなかった」（ただし非常に複雑かもしれません）と「高レベルで神経ネットワークが何かしら誤作動した」の組み合わせになるでしょう。これはシステム神経科学の問題ですが、行動療法の影響を否定するものではありません。特に生体内の人間での測定と介入のツールは、迅速な反復と進歩をもたらす可能性があります。
非常に「構造的」な状態は難しいかもしれませんが、不可能ではない
一部の証拠では、サイコパシーが顕著な神経解剖学的な違いと関連していることが示されています。サイコパスの一部の脳領域は単純に小さかったり、発達が不十分だったりします。また、サイコパスは幼少期から共感が欠如していると考えられています。つまり、彼らの脳に何かしらの違いがあるなら、それはおそらく常にそのようだったのです。同じことが一部の知的障害や他の状態にも当てはまるかもしれません。脳を再構築するのは難しそうですが、それは知能に高いリターンをもたらす課題のようにも思えます。成人の脳をより初期の、あるいは可塑性の高い状態に誘導して再構築する方法があるかもしれません。これがどの程度可能かは非常に不確かですが、AIがこの分野で何かを発明する可能性については楽観的です。
精神疾患の効果的な遺伝的予防が可能になりそうです
精神疾患の多くは部分的に遺伝的な要因があり、全ゲノム関連解析（GWAS）が関連する要因の特定に進展を見せ始めています。これらの要因は多くの場合、多数存在しますが、胚スクリーニングによって、身体的疾患と同様にこれらの病気を予防することが可能になるでしょう。違いとしては、精神疾患はより多遺伝子性（多くの遺伝子が寄与する）である可能性が高いため、複雑さのために病気と関連するポジティブな特性を無意識に排除するリスクが高まります。しかし最近、GWASの研究はこれらの関連が過大評価されていたかもしれないという結果も示唆しています。いずれにせよ、AIによって加速された神経科学がこれらの問題を解決する助けになるでしょう。もちろん、複雑な特性のための胚スクリーニングは社会的な問題を引き起こし、物議を醸すでしょうが、重度または衰弱性の精神疾患に対するスクリーニングは、多くの人が支持する可能性が高いと思います。
臨床疾患とされない日常の問題も解決されるでしょう
私たちの多くは、臨床疾患とみなされない日常的な心理的問題を抱えています。たとえば、怒りっぽい人、集中力が続かない人、常に眠い人、恐怖や不安を感じやすい人、変化に対して悪い反応を示す人がいます。今日でも、覚醒や集中力を助ける薬（カフェイン、モダフィニル、リタリンなど）は存在していますが、他の多くの分野と同様に、もっと多くの可能性があるでしょう。さらに多くの薬が存在している可能性があり、まだ発見されていないか、まったく新しい介入法（オプトジェネティクスのような光刺激や磁場の利用など）が開発されるかもしれません。20世紀に認知機能や感情状態を調整するために開発された多くの薬を考えると、AIが加速する21世紀に、誰もが自分の脳をより良い状態にして、日常生活をより充実したものにすることができるということに楽観的です。
人間の基本的な経験は大幅に向上する可能性があります
さらに一歩進んで、多くの人々は啓示的な瞬間や創造的なインスピレーション、共感、充足感、超越感、愛、美、瞑想的な平和を経験しています。これらの経験の特性や頻度は個人によって、あるいは同じ人であっても時期によって大きく異なり、さまざまな薬物で引き起こされることもありますが、副作用を伴うことが多いです。これらすべてからわかるように、「経験可能なことの範囲」は非常に広く、人々の生活の中でこれらの特別な瞬間が占める割合が増える可能性があります。また、さまざまな認知機能を全般的に向上させることも可能でしょう。これは神経科学版の「生物学的自由」や「延命」といった概念に当たるかもしれません。

AIをテーマにしたSF作品でよく取り上げられる話題ですが、ここでは意図的に触れなかったのが「心のアップロード」です。これは人間の脳のパターンや動態を捉え、それをソフトウェア上に再現するというアイデアです。この話題自体で一つのエッセイが書けるほどの内容ですが、簡潔に言えば、アップロードは原理的にはほぼ確実に可能だと思うものの、実際には技術的および社会的な課題が多く、強力なAIがあったとしても、これを5～10年のスパンで達成するのは難しいでしょう。

まとめると、AIが加速する神経科学は、ほとんどの精神疾患の治療法を大幅に改善し、さらには治癒する可能性が高いだけでなく、「認知的および精神的自由」や人間の認知的・感情的能力を大きく拡張するでしょう。それは前のセクションで述べた身体的健康の改善と同様に、急進的な変化をもたらします。表面的には世界は劇的に変わらないかもしれませんが、人間が経験する世界はより良く、より人道的な場所になり、自己実現のための機会が増えるでしょう。また、精神的健康の改善は、政治的や経済的に見える多くの社会問題も改善する可能性があると考えています。

3. 経済発展と貧困

前の2つのセクションでは、病気を治療し人々の生活の質を向上させるための新しい技術の開発について述べました。しかし、人道的な観点から明らかな疑問は、「これらの技術にすべての人がアクセスできるのか？」ということです。

病気の治療法を開発することと、病気を世界から根絶することは別問題です。さらに言えば、すでに存在する多くの医療介入が世界中のあらゆる場所に適用されているわけではなく、それは医療以外の技術的改善についても同様です。言い換えると、世界の多くの地域では依然として生活水準が非常に低く、サハラ以南のアフリカでは一人当たりGDPが約2,000ドルなのに対して、アメリカでは約75,000ドルです。もしAIが先進国の経済成長や生活の質をさらに向上させる一方で、発展途上国にはほとんど役立たない場合、それは大きな道徳的失敗であり、前述の人道的勝利に対する汚点となるべきです。理想的には、強力なAIは先進国を革新させると同時に、発展途上国が追いつく手助けをするべきです。

AIが基礎的な技術を発明できることに対して確信を持っているのに対し、不平等や経済成長に対してAIがどれほど効果を発揮できるかについては、やや自信がありません。なぜなら、技術には明らかに知能に対する高いリターンがある（複雑さやデータの欠如を回避する能力を含む）のに対し、経済には人間の制約や内在的な複雑性が多く含まれているからです。AIが有名な「社会主義計算問題」を解決できるかどうかには懐疑的ですし、仮にそれが可能であっても、政府が経済政策をAIに任せることはないだろうし、そうするべきではないとも思います。また、人々が効果的な治療法に対して不信感を抱く場合、どうやって説得するかといった問題もあります。

発展途上国が直面する課題は、公共・民間の両セクターにおける蔓延する汚職によってさらに複雑化されています。汚職は悪循環を生み出し、貧困を悪化させ、貧困はさらに汚職を生むからです。AI主導の経済発展計画は、汚職や弱い制度、その他の人間に特有の課題に対応しなければなりません。

それにもかかわらず、私は楽観的な理由があると考えています。病気は根絶され、貧しい国々が豊かになった事例もあります。そして、これらのタスクに関わる意思決定は、知能に対する高いリターンを示しています（人間の制約や複雑さがあったとしても）。したがって、AIは現在よりもこれらの課題に対して優れた解決策を見つける可能性があります。また、人間の制約を回避できるターゲットを絞った介入策もあるかもしれません。そして何より重要なのは、私たちが努力しなければならないということです。AI企業や先進国の政策立案者は、発展途上国が取り残されないように自らの役割を果たす必要があります。道徳的な責務があまりにも大きいのです。したがって、このセクションでは引き続き楽観的な主張を展開しますが、成功が保証されているわけではなく、私たち全員の努力にかかっていることを念頭に置いてください。

以下に、強力なAIが開発された後の5～10年で発展途上国がどのように変わるかについて、私が予測するいくつかの点を挙げます。

・健康介入の普及
私が最も楽観的に見ている分野は、健康介入の世界的な普及です。実際、病気はトップダウン型のキャンペーンによって根絶されてきました。1970年代には天然痘が完全に根絶され、ポリオやギニア虫も年間100件未満の症例にまで減少しています。数学的に洗練された疫学モデリングは、病気根絶キャンペーンで重要な役割を果たしており、AIシステムが人間よりも優れた成果を挙げる可能性が高いと考えられます。また、物流の最適化も大幅に進む可能性があります。私はGiveWellに初期段階で寄付者として参加しましたが、その時に学んだのは、一部の健康慈善団体が他の団体よりもはるかに効果的であるということです。AIによって加速された取り組みは、さらに効果的になることが期待されます。

さらに、生物学的な進歩が実際に物流を大幅に簡素化することもあります。例えば、マラリアの根絶が難しいのは、感染するたびに治療が必要なためです。しかし、1回の接種で済むワクチンが開発されれば、物流が大幅に簡素化されます（実際にマラリアワクチンは現在開発中です）。さらに簡単な方法としては、動物の媒介者をターゲットにすることで病気を根絶することが考えられます。例えば、病気を運ぶ能力を阻害する細菌に感染した蚊を放出し、他の蚊に感染させる方法や、遺伝子ドライブを使って蚊を絶滅させる方法などです。これは、何百万もの個々の治療が必要な協調的なキャンペーンではなく、1つまたは少数の集中した行動によって達成される可能性があります。

全体的に見て、AI主導の健康改善の恩恵が、世界の最貧国にまで広がるのに5～10年というタイムラインは妥当だと思います。良い目標としては、強力なAIが導入された5～10年後には、発展途上国が現在の先進国よりもはるかに健康になるということが挙げられるでしょう。この実現には、グローバルヘルスや慈善活動、政治的な提言、その他の多くの取り組みが必要であり、AI開発者や政策立案者もこの努力に貢献すべきです。

・経済成長
発展途上国が健康だけでなく、経済全般でも先進国に追いつくことができるでしょうか？これには前例があります。20世紀の最後の数十年に、東アジアのいくつかの経済は年間約10％の持続的な実質GDP成長率を達成し、先進国に追いつくことができました。人間の経済プランナーがこの成功に導く決定を行い、経済全体を直接管理するのではなく、輸出主導型の成長などのいくつかの重要なレバーを引きました。「AI財務大臣や中央銀行総裁」がこの10％の成果を再現、または上回ることができる可能性があります。重要な問題は、発展途上国の政府がこれを採用するかどうか、そして自決権の原則を尊重しながらそれを進める方法です。熱心に導入しようとする国もあれば、懐疑的な国もあるでしょう。

楽観的な見方をすれば、前述の健康介入の多くは経済成長を自然に加速させる可能性があります。AIDS、マラリア、寄生虫が根絶されれば、生産性に大きな影響を与え、開発途上国と先進国の両方で、気分や集中力を改善するような神経科学的介入の経済的利益も無視できません。

また、非医療分野でのAIによる技術の進歩（エネルギー技術、輸送ドローン、改良された建築資材、物流の改善など）が自然に世界中に浸透する可能性もあります。例えば、携帯電話は慈善活動の支援を必要とせず、市場メカニズムを通じてサハラ以南のアフリカに急速に普及しました。とはいえ、AIと自動化は多くの潜在的な利益をもたらす一方で、まだ工業化が進んでいない国々にとって経済発展には課題をもたらします。これらの国々が自動化が進む時代においても経済を発展させ、向上させるための方法を見つけることは、経済学者や政策立案者が解決すべき重要な課題です。

全体として、夢のシナリオ—おそらく目指すべき目標として—は、発展途上国が年間20％のGDP成長率を達成することです。そのうち10％はAIによる経済的意思決定から、もう10％は医療を含むAI加速技術の自然な普及からもたらされるというものです。これが実現すれば、サハラ以南のアフリカは5～10年で現在の中国の一人当たりGDPに達し、他の多くの発展途上国も現在の米国のGDPを超える水準に達するでしょう。しかし、これは夢のシナリオであり、デフォルトで起こることではありません。これは、私たち全員が協力して実現するために努力する必要があるものです。

・食糧安全保障
20世紀には、より良い肥料や農薬、さらなる自動化、より効率的な土地利用などによる作物技術の進歩が、作物収量を大幅に向上させ、何百万人もの人々を飢えから救いました。現在、遺伝子工学はさらに多くの作物を改良しています。これに加えて、農業の供給チェーンをさらに効率化する方法を見つけることができれば、AIによる第二の緑の革命が実現し、発展途上国と先進国のギャップを縮めることができるでしょう。

・気候変動の緩和
気候変動は発展途上国でより強く感じられ、発展を妨げます。AIは、大気中の炭素除去やクリーンエネルギー技術、炭素集約型の工場畜産への依存を減らす培養肉など、気候変動を遅らせたり防いだりする技術の改善をもたらすでしょう。もちろん、上記で議論したように、技術だけが気候変動に対する進展を制約しているわけではありません。ここで議論した他の問題と同様に、人間社会の要因が重要です。しかし、AI強化された研究によって、気候変動を緩和する手段がはるかに安価で影響が少なくなり、多くの反対意見が無意味になり、発展途上国がより経済的進歩を遂げる余地が広がるでしょう。

・国内の不平等
これまで私は不平等をグローバルな現象として話してきましたが（それが最も重要な形であると考えています）、もちろん不平等は国内にも存在します。高度な健康介入や特に寿命の劇的な延長、認知機能を向上させる薬が登場すれば、これらの技術が「金持ちだけのもの」になるという懸念は正当なものでしょう。しかし、特に先進国における国内の不平等については、2つの理由から私は楽観的です。第一に、先進国では市場がより効率的に機能しており、市場は通常、高価値技術のコストを時間とともに下げるのが得意です。第二に、先進国の政治機関は市民の声に応じやすく、普遍的なアクセスプログラムを実行する能力が高いため、市民が生活の質を劇的に向上させる技術へのアクセスを求めることが期待されます。もちろん、これらの要求が成功するかどうかは保証されていません。ここでも、私たちは公正な社会を実現するためにできる限りのことをしなければなりません。

・「オプトアウト」問題
先進国・発展途上国を問わず、AIがもたらす恩恵を拒否する人々が出てくるという懸念もあります（これは反ワクチン運動やラッダイト運動に似ています）。意思決定能力の低い人々が、意思決定を改善する技術を拒否することで、ますます大きな格差が生じ、ディストピア的な下層階級を生み出す悪循環が起こる可能性があります（研究者の中には、これが民主主義を損なうと主張する者もいます）。これはAIの進展に対する道徳的な汚点となるでしょう。私は人々を強制することが倫理的に正しいとは思いませんが、少なくとも人々の科学的理解を高めようとすることはできるでしょう。歴史的に見て、反技術運動が叫ぶほどの脅威ではなかったということは希望の兆しです。現代技術に反対する声は大きいですが、最終的にはほとんどの人が採用しています。少なくとも個人の選択に委ねられる場合、ほとんどの人は健康技術や消費者技術を採用し、真に阻害される技術（例えば原子力発電）は集団的な政治的決定によるものです。

全体として、AIによる生物学的進歩が発展途上国の人々に迅速に行き渡ることについては楽観的です。また、AIが前例のない経済成長率を可能にし、発展途上国が少なくとも現在の先進国の水準を超える可能性があることにも希望を持っています。一方で、先進国と発展途上国の両方における「オプトアウト」問題については懸念していますが、これが徐々に減少し、AIがこのプロセスを加速させると予想しています。完璧な世界にはならないでしょうし、遅れている国々が完全に追いつくことは、少なくとも最初の数年ではないかもしれません。しかし、私たちが協力して努力すれば、物事を正しい方向に向かわせ、しかも迅速に動かせる可能性があります。そうすれば、すべての人間に対して私たちが負う尊厳と平等の約束に対して、少なくとも一部の支払いを果たすことができるでしょう。

4. 平和と統治

これまでの3つのセクションで述べたことが全てうまくいき、病気や貧困、不平等が大幅に減少し、人間の生活水準が大きく向上したとします。しかし、それだけで人類の苦しみのすべての主要な原因が解決されるわけではありません。人間同士の脅威は依然として残っています。技術革新や経済発展が民主主義と平和をもたらす傾向があるとはいえ、それは非常に緩やかな傾向であり、頻繁に後退することがあります。20世紀の初頭には、人々は戦争を過去のものにしたと信じていましたが、その後に2度の世界大戦が起こりました。30年前、フランシス・フクヤマは「歴史の終わり」とリベラルな民主主義の最終的な勝利について書きましたが、それはまだ実現していません。20年前、米国の政策立案者たちは、中国との自由貿易が同国を豊かにするにつれてリベラル化させると信じていましたが、それは実現せず、今では再興する権威主義ブロックとの第二次冷戦の兆しさえ見えています。また、インターネット技術は当初信じられていたように民主主義を優位にするのではなく、実際には権威主義を強化する可能性があるという説もあります（例えば、「アラブの春」期に感じられた期待に反して）。これらの問題と、平和、民主主義、自由が強力なAIとどのように交差するかを理解しようとすることが重要です。

残念ながら、AIが民主主義と平和を優先的に、または構造的に進展させるという強い理由は見当たりません。AIが人間の健康を向上させ、貧困を軽減させるように、必然的にこれらの価値を進めるとは思えないのです。人間の紛争は敵対的なものであり、AIは原則として「善い側」でも「悪い側」でも手助けできるのです。むしろ、いくつかの構造的要因は懸念材料です。AIは、プロパガンダや監視を大幅に強化する可能性があり、これらは独裁者の主要なツールです。そのため、AIが民主主義や個人の権利を支持するようにするためには、私たち個々の行動が決定的に重要です。これを望むなら、その結果を勝ち取らなければならないでしょう。私はこの点について、国際的不平等以上に強く感じています。リベラル民主主義と政治的安定の勝利は保証されておらず、むしろそれは達成が難しく、過去に何度もそうであったように、大きな犠牲と努力が必要になるでしょう。

この問題は、国際的な対立と国内の統治構造の2つの部分に分けて考えることができます。国際的な側面では、強力なAIが生まれた時点で、世界の舞台で民主主義が優位に立っていることが非常に重要です。AIを利用した権威主義が広がるのは考えたくもないほど恐ろしいものであり、したがって民主主義国家は、権威主義勢力に圧倒されないようにするためにも、また権威主義国家内での人権侵害を防ぐためにも、強力なAIの導入に関する条件を設定できる立場にいなければなりません。

現在私が最良の方法だと考えているのは、「協商戦略」を採用することです。これは、民主主義国家の連合が、AIの供給チェーンを確保し、急速にスケールアップし、チップや半導体機器などの重要なリソースへのアクセスを対抗勢力から遮断または遅延させることで、強力なAIにおいて明確な優位（たとえ一時的であっても）を獲得するという戦略です。この連合は、一方ではAIを使って強力な軍事的優位性を確保しつつ（棒）、他方では強力なAIの利益を配布し、広範な国々にその恩恵を提供する（飴）ことで、連合の民主主義促進戦略を支持するよう働きかけます。これは「平和のための原子力」プログラムに少し似ています。連合は、世界のより多くの国々の支持を得ることを目指し、最悪の敵対国を孤立させ、最終的には彼らが民主主義国家との競争を放棄し、代わりに利益を受け取り、より優れた敵と戦わない選択肢を選ぶ状況に追い込むことが目標です。

これが実現すれば、世界の舞台で民主主義国家が主導権を握り、経済的および軍事的に強力であるため、独裁国家に揺さぶられたり、征服されたり、破壊されたりすることを防げるでしょう。そして、民主主義国家はそのAI優位性を持続的なアドバンテージに転換できるかもしれません。これは、楽観的には「永遠の1991年」―つまり、民主主義が優勢で、フクヤマの夢が実現した世界につながる可能性があります。とはいえ、これを達成するのは非常に難しく、特にAI企業と民主主義政府との密接な協力や、飴と棒のバランスに関する極めて賢明な判断が必要となるでしょう。

たとえそれが全てうまくいったとしても、各国国内での民主主義と独裁主義の戦いという問題が残ります。ここで何が起こるかを予測するのは難しいですが、もし民主主義国家が最強のAIを支配する世界環境が整えば、AIが実際には民主主義を有利にする構造的な効果をもたらすかもしれないと私は楽観的に考えています。特に、民主主義政府がその優れたAIを活用して情報戦に勝利することができる環境では、独裁国家による影響力やプロパガンダの操作を打ち消すことができるでしょう。また、技術的に独裁国家がブロックしたり監視したりできない形で、情報やAIサービスを提供し、グローバルな自由な情報環境を作り出すこともできるかもしれません。プロパガンダを行う必要はなく、悪意ある攻撃を打ち消し、情報の自由な流れを妨げないことが重要です。これは即効性があるわけではありませんが、このような公平な場が整えば、徐々にグローバルな統治が民主主義に向かう可能性は十分にあります。

まず第一に、セクション1-3で述べた生活の質の向上は、それだけで民主主義を促進するはずです。歴史的にも、少なくともある程度はそうであったからです。特に、精神的健康、福祉、教育の向上は民主主義を促進すると考えられます。これら3つは、すべて権威主義的リーダーへの支持と負の相関関係があります。一般的に、人々は他のニーズが満たされると自己表現を求めるようになり、民主主義はその一形態です。逆に、権威主義は恐怖や憎悪に依存します。

第二に、検閲されない限り、自由な情報は権威主義を弱体化させる可能性が高いです。また、検閲されないAIは、個人に抑圧的な政府を打倒するための強力なツールをもたらすことができます。抑圧的な政府は、ある種の「共通認識」を人々に否定することで存続し、人々が「皇帝に服がない」ことに気づかないようにしています。たとえば、セルビアのミロシェビッチ政権を倒すのに貢献したスルジャ・ポポヴィッチは、権威主義者の力を心理的に奪い、その呪縛を解き、独裁者に反対する支持を集めるための技術について詳しく書いています。ポポヴィッチのような超人的に効果的なAIバージョンが、世界中の人々のポケットに入っていて、独裁者がそれをブロックしたり検閲したりできないなら、世界中の反体制派や改革者にとって追い風となるでしょう。繰り返しになりますが、これは長く苦しい戦いであり、勝利が保証されているわけではありませんが、私たちがAIを正しい方法で設計・構築すれば、少なくとも自由の擁護者たちが有利に戦える状況を作り出せるかもしれません。

神経科学や生物学と同様に、専制政治を回避する方法だけでなく、民主主義を今日よりもさらに良いものにする方法についても考えることができます。民主主義の中でも、不正は日常的に起こっています。法治国家は、すべての市民が法の下で平等であり、基本的人権を享受する権利があるという約束をしていますが、実際にはすべての人がその権利を享受できているわけではありません。この約束が部分的にでも果たされていること自体は誇るべきことですが、AIがこの状況を改善する助けになるでしょうか？

たとえば、AIは法的および司法制度をより公平にし、決定やプロセスをより中立的にできるでしょうか？今日、人々は法的または司法的文脈においてAIが差別を引き起こすことを懸念しています。これらの懸念は重要であり、防御しなければなりません。しかし、民主主義の活力は、新技術をリスクへの対応だけでなく、民主主義制度の改善に活用することにかかっています。真に成熟し成功したAIの実装は、偏見を減らし、すべての人に対してより公平なシステムを提供する可能性があります。

何世紀にもわたり、法制度は法が公平であることを目指している一方で、本質的に主観的であり、偏った人間によって解釈されなければならないというジレンマに直面してきました。法を完全に機械的にする試みはうまくいきませんでした。なぜなら、現実の世界は混沌としており、常に数学的な公式で捉えられるわけではないからです。そのため、法制度は「残酷で異常な罰」や「全く償いの価値がない」といった非常に不正確な基準に依存しており、人々がそれを解釈し、その解釈がしばしば偏見やえこひいき、恣意的なものを含んでいます。暗号通貨の「スマートコントラクト」は、通常のコードがあまりにも「賢くない」ため、法制度を革命的に変えるには至っていません。しかし、AIはこれに十分対応できるかもしれません。AIは、広範で曖昧な判断を機械的かつ繰り返し行うことができる初めての技術です。

私は、裁判官を文字通りAIシステムに置き換えるべきだと言っているわけではありませんが、公平性と現実の混沌とした状況を理解し処理する能力を組み合わせることは、法と正義において大きな前向きな応用があると感じています。少なくとも、そのようなシステムは人間と協力して意思決定の支援を行うことができるでしょう。このようなシステムでは透明性が重要であり、AIが成熟した科学として提供できる可能性があります。これらのシステムの訓練プロセスは詳細に研究され、最終的なモデルの中を解析し、隠れたバイアスがないか評価するための高度な解釈技術が使用されるでしょう。これは人間には不可能なことです。このようなAIツールは、司法や警察の文脈で基本的権利の侵害を監視するためにも使用でき、憲法の自己執行性を高めることができます。

同様に、AIは市民の意見を集約し、合意形成を促進するためにも使用できるでしょう。これにより、紛争を解決し、共通の基盤を見つけ、妥協点を探ることができます。この方向性に向けた初期のアイデアとして、「コンピュテーショナル・デモクラシー・プロジェクト」があり、Anthropicとのコラボレーションも含まれています。より情報に基づいた思慮深い市民が増えれば、民主主義制度が強化されることは間違いありません。

さらに、AIは政府サービスの提供を支援するために活用できる明確な機会があります。例えば、健康保険や社会福祉サービスなど、本来はすべての人に利用可能であるはずのサービスが、実際にはしばしば不足しており、地域によって大きな差があります。健康サービス、運転免許センター（DMV）、税金、社会保障、建築基準の施行などが含まれます。政府の規則が混乱している中、AIが政府から受けるべき権利を理解しやすい形で提供し、規則を守るための支援をしてくれる存在になるのは非常に大きな意味があります。国家の能力を高めることは、法の下での平等を実現する助けとなり、民主主義に対する信頼を強化します。現在、サービスの不備は政府に対するシニシズムの主要な要因となっています。

これらの考えはやや曖昧なものであり、このセクションの冒頭で述べたように、生物学や神経科学、貧困削減の進歩に比べて実現可能性についての自信はあまりありません。これらは現実離れしたユートピア的な理想かもしれません。しかし、重要なのは、大きな夢を抱き、それを試すことを恐れずに挑戦することです。AIを自由、個人の権利、法の下の平等の保証者とするビジョンは、あまりにも強力で、戦わずにはいられないものです。AIを活用した21世紀の統治体制は、個人の自由をより強力に保護するだけでなく、リベラルな民主主義を世界全体が採用したいと思うような、希望の灯台となる可能性を秘めています。

5. 仕事と意味

前の4つのセクションで述べたことがすべてうまくいったとして、つまり、病気、貧困、不平等が緩和され、リベラルな民主主義が支配的な統治形態となり、既存のリベラルな民主主義国家もより良いものになったとしても、少なくとも1つ重要な疑問が残ります。「技術的に進んだ世界に住んでいて、公平で立派な社会なのは素晴らしい」と誰かが反論するかもしれません。「でも、AIがすべてを行うようになったとき、人間はどのようにして意味を見いだし、どうやって経済的に生きていくのか？」と。

この問いは他の問いよりも難しいと思います。それは、必ずしも他の問題よりも悲観的に見ているという意味ではありません（もちろん、挑戦はあると感じています）。むしろ、これは社会のあり方に関するマクロ的な問題であり、時間をかけて分散的にしか解決されないことが多いため、予測が難しいからです。たとえば、歴史的な狩猟採集社会では、狩猟やそれに関連する宗教的儀式がなくては人生に意味がないと考え、現代の十分に食料が供給されている技術社会は無意味だと感じたかもしれません。また、私たちの経済がどのようにしてすべての人を支えることができるのか、あるいは機械化された社会で人々がどのような役割を果たすのかも理解できなかったでしょう。

それでも、いくつかのことを述べる価値はあります。ただし、このセクションの簡潔さが、これらの問題を軽視していることを意味するわけではないことに注意してください。むしろ、明確な答えが見つからないということを示しているに過ぎません。

意味に関する問題について、AIがそのタスクをよりうまくこなせるからといって、そのタスクが無意味だと考えるのは大きな間違いだと思います。ほとんどの人は世界で何かの分野で最高であるわけではなく、それを特に気にしていないようです。もちろん、現在では人々は比較優位を通じて自分の貢献をすることができ、経済的な価値を生み出すことで意味を見出すこともありますが、経済的価値を生み出さない活動を大いに楽しむこともあります。私はビデオゲームをしたり、水泳をしたり、外を散歩したり、友達と話したりすることに多くの時間を費やしますが、これらは経済的な価値を一切生み出していません。たとえば、ビデオゲームがうまくなることや、自転車で山を速く登ることを目指して1日を過ごすことがありますが、それを誰かが私よりも上手にできたとしても、私にはあまり関係ありません。

いずれにせよ、意味は主に人間関係やつながりから生まれるものであり、経済的労働から生まれるものではないと思います。人々は達成感や競争心を求めますが、AI後の世界でも、非常に難しいタスクに複雑な戦略を駆使して何年も挑戦することは十分に可能です。これは、今日の人々が研究プロジェクトに取り組んだり、ハリウッド俳優を目指したり、会社を設立したりすることに似ています。(a) AIがどこかでそのタスクをよりうまくできるかもしれないという事実や、(b)そのタスクがもはや経済的に報われる要素ではないという事実は、私にとってそれほど重要ではないように思います。

経済の側面に関しては、意味の問題よりも難しいと感じます。このセクションで「経済的」というのは、多くの人間が高度に進化したAI主導の経済に対して、意味のある貢献をすることができなくなる可能性のある問題を指しています。これは、セクション3で議論した新しい技術へのアクセスの不平等という問題よりも、さらに大きなマクロな問題です。

まず短期的には、比較優位の論理が人間の役割を保ち続け、実際に生産性を高めるだろうという議論には同意します。AIがある仕事の90％を上手にこなせるとしても、残りの10％が人間を非常に価値ある存在にし、賃金を引き上げ、AIの得意分野を補完し強化する新しい人間の仕事を生み出すでしょう。その結果、残りの「10％」が拡大し、ほぼすべての人が引き続き雇用されるでしょう。実際、AIが人間よりも100％のことを上手にこなせたとしても、一部のタスクで非効率的であったりコストがかかる場合や、人間とAIが必要とするリソースが大きく異なる場合、比較優位の論理は引き続き適用されます。物理的な世界では、人間が相対的に（または絶対的に）優位性を持つ可能性の高い分野がまだ残っています。したがって、人間の経済は「データセンターの天才たちの国」に到達した後も、しばらくは成り立つと思います。

しかし、長期的にはAIが非常に広範囲にわたって効果的かつ低コストになるため、現行の経済システムはもはや通用しなくなるでしょう。その時点では、経済の組織化方法について、より広範な社会的議論が必要になるでしょう。

これは一見すると驚くべきことかもしれませんが、実際、文明はこれまでにも大きな経済的転換を成功裏に乗り越えてきました。狩猟採集から農業へ、農業から封建制度へ、封建制度から産業主義へと移行してきました。おそらく、私たちは新しくて奇妙な何かが必要であり、現時点では誰もそれをうまく想像できていないと考えています。それは、すべての人に大規模なベーシックインカムを提供するという単純なものかもしれませんが、それは解決策の一部に過ぎないと考えています。また、AIシステムによる資本主義経済が運営され、人間にリソースを分配する可能性もあります。経済の全体的なパイが巨大になるため、AIが人間のどの特性に報酬を与えるべきかを判断し、それに基づいてリソースを配るという考えです。あるいは、経済が「Whuffieポイント」のようなもので運営されるかもしれません。あるいは、通常の経済モデルで予想される方法とは違う形で、人間が経済的に価値を持ち続ける可能性もあります。

これらの解決策には多くの問題があり、十分な実験と試行を経なければ、それらが意味を成すかどうかを知ることはできません。そして、他の挑戦と同様に、ここでも良い結果を得るためには努力が必要になるでしょう。搾取的またはディストピア的な方向性も明らかに可能であり、それを防ぐために戦わなければなりません。これらの問題についてはさらに多くのことが書かれるべきであり、いずれまた取り上げたいと思っています。

まとめ

ここまでにさまざまなトピックを通じて、AIがすべてうまく機能した場合に実現可能な、そして今日の世界よりもはるかに良い世界のビジョンを描こうとしました。この世界が現実的かどうかはわかりませんし、仮に現実的であったとしても、それを実現するには多くの勇敢で献身的な人々の莫大な努力と闘いが必要です。すべての人（AI企業も含めて）が、リスクを防ぎ、利益を最大限に引き出すためにそれぞれの役割を果たす必要があるでしょう。

しかし、この世界は戦う価値があります。もし本当にこれらすべてが5～10年の間に実現するとすれば、つまりほとんどの病気が克服され、生物学的および認知的自由が拡大し、何十億もの人々が貧困から解放されて新しい技術を享受し、リベラルな民主主義と人権のルネサンスが到来するなら、その影響を目の当たりにする人々は自分に与える影響に驚くことでしょう。ここで言っているのは、新しい技術による個人的な恩恵を享受するという体験ではなく（もちろんそれも素晴らしいことですが）、長年抱いてきた理想が一度に現実となるのを見守るという体験です。多くの人が、その光景に感動して涙を流すことになるのではないでしょうか。

このエッセイを書く中で、興味深い緊張感に気づきました。一方では、ここで描かれたビジョンは極めて急進的です。多くの人が次の10年で起こることを予想していないことであり、多くの人には荒唐無稽な空想のように思えるでしょう。中にはこのビジョンが望ましいとは思わない人もいるかもしれません。このビジョンはすべての人が同意するわけではない価値観や政治的選択を含んでいます。しかし、同時にこのビジョンには非常に明白な何かがあります。つまり、多くの異なる試みが、良い世界を想像する過程で必然的にここにたどり着くかのような感覚です。

イアン・M・バンクスの小説『ゲームプレイヤー』では、主人公が「カルチャー」と呼ばれる社会の一員として、複雑な戦争ゲームによって指導者が決定される抑圧的な軍事帝国に旅をします。このゲームは非常に複雑であり、プレイヤーの戦略は彼ら自身の政治的・哲学的な見解を反映する傾向があります。主人公は、帝国の皇帝をゲームで打ち負かし、彼の価値観（カルチャーの価値観）が、残忍な競争と適者生存に基づいた社会でデザインされたゲームでさえ勝利する戦略であることを示します。スコット・アレクサンダーの有名な投稿も同様の主張をしています。競争は自滅的であり、最終的には思いやりと協力に基づく社会へと導かれるというものです。「道徳の弧」という概念もこれに似ています。

カルチャーの価値観は、多くの小さな決断が積み重なり、明確な道徳的力を持ち、最終的には全員を同じ側に引き寄せるため、勝利する戦略であると私は考えています。公平さ、協力、好奇心、自律性という基本的な人間の直感は反論しにくく、これらは破壊的な衝動よりも累積的に働きます。もし子どもたちが病気で死ぬことを防げるのであれば、それを防ぐべきだということは簡単に主張できますし、そこからすべての子どもたちが平等にその権利を持つべきだと主張することも難しくありません。そこからさらに、私たち全員が力を合わせてこの結果を達成するために知恵を絞るべきだという結論にたどり着くのも自然です。不要に他者を攻撃したり傷つけたりする人々を罰するべきだということに反対する人はほとんどおらず、そこから、罰はすべての人に一貫して公平に行われるべきだという考えも飛躍ではありません。同様に、人々が自分の人生と選択に対して自律性と責任を持つべきだというのも直感的です。これらのシンプルな直感を論理的に突き詰めると、最終的には法の支配、民主主義、啓蒙思想に行き着きます。これは必然ではないにしても、少なくとも統計的な傾向として、人類はすでにその方向に進んでいたのです。AIは、私たちをより迅速にそこに到達させ、論理を明確にし、目的地をはっきりさせるための機会を提供しているに過ぎません。

それにもかかわらず、それは崇高な美しさを持っています。私たちは、このビジョンを現実にするための小さな役割を果たす機会を持っているのです。

あとがき

このエッセイの草稿をレビューしてくれたケビン・エスヴェルト、パラグ・マリック、スチュアート・リッチー、マット・イグレシアス、エリック・ブリニョルフソン、ジム・マクレイヴ、アラン・ダフォー、そしてAnthropicの多くの人々に感謝します。

そして、2024年のノーベル化学賞を受賞した皆さん、私たちに道を示してくれてありがとう。

脚注

https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace
少数派の中には「これはかなり控えめだ」と反応する人もいるだろうと思います。そういう人たちは、Twitterでよく言われるように「外に出て現実に触れたほうがいい」かもしれません。しかしもっと重要なのは、社会的な視点から見れば控えめであることは良いことです。人々が一度に受け入れられる変化の量には限界があり、私が描写しているペースは、おそらく社会が極端な混乱を伴わずに吸収できる限界に近いと考えています。
AGI（汎用人工知能）という言葉は、SF的な過剰な期待を抱かせる不正確な用語だと感じます。私は「強力なAI」または「専門レベルの科学技術」という言葉の方が、誇大宣伝を避けながら私が言いたいことを伝えるのに適していると考えています。
このエッセイでは、「知能」をさまざまな領域で適用できる一般的な問題解決能力を指すものとして使用しています。これには、推論、学習、計画、創造性などの能力が含まれます。このエッセイ全体では「知能」を短縮形として使用していますが、知能の性質は複雑で議論の余地があるテーマであることを認めています。一部の研究者は、知能は単一の統一された概念ではなく、別々の認知能力の集合であると主張しています。他の研究者は、さまざまな認知スキルの背後に「一般知能因子」（g因子）が存在すると主張しています。この議論は、いずれ別の機会に取り上げるべきでしょう。
現在のAIシステムの速度はだいたいこの程度です。たとえば、AIは数秒で1ページのテキストを読み、約20秒で1ページのテキストを書くことができます。これは、人間が同じことをする速度の10〜100倍です。時間が経つにつれて、より大きなモデルがこれを遅くする傾向がありますが、一方でより強力なチップがこれを速める傾向もあります。これまでのところ、これら2つの効果はおおむね相殺されています。
これは極端な意見に思えるかもしれませんが、タイラー・コーエンやマット・イグレシアスのような慎重な思想家たちが真剣に懸念している問題です（彼ら自身は完全にはその見解を持っていないと思いますが）、私はそれが全く馬鹿げているとは思いません。
この質問に取り組むための最も近い経済学の研究は、「汎用技術」や「無形資産投資」に関する研究です。これらは汎用技術の補完物として機能します。
この学習には、一時的な文脈内学習や従来のトレーニングが含まれ、どちらも物理的世界によって速度が制限されます。
カオスシステムでは、時間が経つにつれて小さな誤差が指数関数的に蓄積するため、コンピュータの計算力がどれだけ増加しても、予測可能な時間範囲はわずかしか改善されません。実際には、測定誤差がこれをさらに悪化させる可能性があります。
もちろん、強力なAI自体が、さらに強力なAIを作り出すために使用される可能性があります。私の想定では、これが起こる可能性は高いですが、予想される効果はそれほど大きくないと考えています。これはまさにここで述べた「知能の限界収穫逓減」によるものです。つまり、AIは引き続き急速に賢くなりますが、その影響は最終的に知能以外の要因によって制限されるでしょう。したがって、AI以外の科学的進歩の速度にとって、重要なのはこれらの要因を分析することです。
これらの業績は私にとって大きなインスピレーションであり、AIが生物学を変革するために使われた最も強力な既存の例です。
「科学の進歩は、新しい技術、新しい発見、新しいアイデアに依存しており、おそらくこの順番で進む」 - シドニー・ブレナー
パラグ・マリックがこの点を提案してくれたことに感謝します。
本文を推測で埋め尽くしたくなかったため、AIを利用した科学が将来どのような発見をもたらすかについての具体的な予測を省略しましたが、以下はその可能性についてのブレインストーミングです：
- AlphaFoldやAlphaProteoのような優れた計算ツールの設計。つまり、一般的なAIシステムが、特化した計算生物学ツールの作成を加速させること。
- より効率的で選択的なCRISPR。
- より高度な細胞治療法。
- 材料科学やミニチュア化技術の突破口により、より良い埋め込み型デバイスの開発。
- 幹細胞や細胞の分化および脱分化の制御が進み、組織の再生や再形成が可能になること。
- 免疫システムのより良い制御。感染症やがんに対して選択的に免疫を活性化し、自己免疫疾患に対しては選択的に抑制すること。
AIはまた、どの実験を行うべきかについての賢明な選択を支援する可能性があります。実験デザインの改善や、初回の実験から多くを学び、次のラウンドで重要な質問に焦点を絞ることなどが考えられます。
マシュー・イグレシアスにこの点を提案してくれたことに感謝します。
急速に進化する病気、特に病院を進化の実験場として利用して薬剤耐性を向上させる多剤耐性菌株は、対処が特に困難であり、100％の達成を妨げる可能性があります。
人間の寿命が5〜10年で倍増するかどうかを知るのは難しいかもしれません。私たちはその時点では達成しているかもしれませんが、まだその研究期間内では証明できないかもしれません。
これは、生物学的な差異が明らかにあるにもかかわらず、病気の治癒と老化プロセスそのものの遅延を遠くから見て、統計的な傾向に目を向け「詳細は異なっていても、この傾向は続くはずだ」と考えるポイントです。複雑な事象のスムーズな傾向は、必然的に異質な要素が積み重なってできているものだからです。
たとえば、年間の生産性成長率が1％、あるいは0.5％増加するだけでも、これらのプログラムに関する予測には大きな変化がもたらされると聞いています。このエッセイで考察したアイデアが実現すれば、生産性の向上はこれをはるかに上回る可能性があります。↩
メディアは高い地位にあるサイコパスを描くのが好きですが、平均的なサイコパスは、おそらく経済的な展望が悪く、衝動を抑える能力が乏しく、かなりの時間を刑務所で過ごす人物でしょう。↩
現在解明されつつある多くの結果が、たとえ現在の人工ニューラルネットのアーキテクチャの詳細が変更されたとしても、依然として有効であり続けるだろうという点で、類似していると感じます。
私はこれを古典的なカオスシステムのようなものだと考えています。つまり、主に分散型の方法で管理されなければならない複雑さに直面しているのです。しかし、このセクションで後述するように、より控えめな介入が可能かもしれません。経済学者のエリック・ブリニョルフソンによる反論として、大企業（例えば、ウォルマートやウーバー）は、分散型プロセスよりも消費者を理解するための集中型知識を獲得しつつあり、おそらくハイエクの「地元の知識が最善である」という洞察を見直す必要があるかもしれません。
ケビン・エスヴェルトにこの点を提案してくれたことに感謝します。
たとえば、携帯電話は当初、富裕層向けの技術でしたが、年々の改良が非常に速く進んだため、「高級」携帯電話を購入するメリットがほぼなくなり、現在ではほとんどの人が同等の品質の電話を持つようになっています。
これはRANDの近日発表の論文のタイトルで、私がここで説明した戦略におおよそ一致しています。
一般の人が公共機関について考えるとき、おそらくDMV（車両登録局）やIRS（税務署）、メディケアなどの経験を思い浮かべるでしょう。これらの経験を現在よりもポジティブなものにすることは、過剰なシニシズムに対抗する強力な方法となるでしょう。
実際、AI主導の世界では、このような挑戦やプロジェクトの範囲は、現在よりもはるかに広がるでしょう。
サイエンスフィクションに関する話を避けるという自分のルールを破ってしまいますが、これに少しでも言及せずにはいられません。未来についての広範な思考実験の数少ない出典がサイエンスフィクションにあるというのは事実です。

感想と考察

なぜこの時期にエッセイを発表したのか

アモデイ氏がこの時期にエッセイを発表したのは、ヒントン教授やハサビス博士などのAI開発関係者が相次いでノーベル物理学賞や化学賞を受賞したことと関係があると考えられます。ヒントン教授の発言などでAIのリスクが大きな注目を浴びたために、同時にAIの大きなメリットを示すことで世論のバランスを取ろうとしたのではないかと筆者は思っています。

強力なAI実現の方法と時期

アモデイ氏は、早ければ2年後の2026年にも、多くの分野でノーベル賞受賞者よりも賢くなる「強力なAI」（超知能）が誕生すると述べています。アモデイ氏のような実際に最先端のAIを開発しているキーパーソンがこんなに早くAGIが実現すると考えていることは重要です。

彼は、超知能が自身を強化して、すべての課題を解決する万能な超知能となるというシンギュラリティ的な考えを否定していますが、計算規模の拡大（スケーリングロー）によって超知能の集団「データセンター内の天才たちの国」を作ることにより、多くの課題を解決することができると考えているようです。

OpenAIはo1-previewの発表によって、事前学習時のスケーリングローだけでなく、推論時間のスケーリングローによってAIの性能を改善できるという道を示しました。現在、OpenAIなどのAI開発会社は、計算資源の規模拡大に向けた取組を加速していますが、この推論時間のスケーリングローだけで超知能が実現するのでしょうか。トップクラスの人間の知能を超える超知能になるためには、まだほかのブレークスルーが必要なのか、また、2、3年という短期間で本当に超知能の実現が可能なのか、興味が尽きないところです。

強力なAIによる世界的な課題の解決

アモデイ氏は、強力なAIの出現によって、50年～100年の進歩を10倍の速度で、つまり5年～10年で実現できると述べています。そして、肉体的・精神的な病気の殆どを克服し、人間の寿命を倍増させることさえできると主張しています。

技術的には可能になったとしても、人間の社会や組織がこのような大きな変化に短期間で対応できるのかについては疑問も残ります。しかし、コロナワクチンの開発、普及のスピードを考えると、本当に必要な技術であれば、短期間に広まるものかも知れません。それにしても、5年～10年というのは、あまりに早すぎて驚きです。

強力なAI活用のボトルネック

エッセイの中で、アモデイ氏は、データ不足や物理世界の速度の制約が強力なAI活用のボトルネックになると述べています。データ不足に関しては、大規模なデータの収集、物理世界の速度の制約については、実験、臨床試験、法的手続きなどのスピードアップが必要です。

実験や臨床試験のスピードアップについては、シミュレーションが重要だと筆者は考えています。そして、強力なAIを活用することで、より正確で実用的なシミュレーションが可能になると期待しています。AIの進化によって、今後重要になってくるのは、製品のテストとシミュレーションに関する部分だと思っています。

自動運転車を仮想空間の中で一定期間走らせて安全性を確認する。
多種類の人体シミュレーションを作成して、新しい薬の効果と安全性を確認する治験を行う。
超知能AIをサンドボックス用の仮想世界モデルに一定期間放流して、リリース前に安全性を確認する。

科学的分野以外での強力なAIの活用

アモデイ氏の専門分野である生物学の発展など科学的分野でのAIの活用について書かれた第１章や第２章に比べて、経済、政治、人間の思想・哲学などの分野でのAIの活用について書かれた第3章から第5章は、内容が曖昧で具体性が欠けており、課題の分析が足りないように感じています。

AIの進化が政治、経済、社会、人間の思想や哲学にどのような影響を及ぼし、どのようにAIを活用していくかを論じるには、これらの分野に詳しい人達の議論を待つ必要があると思います。アモデイ氏は、資本主義による市場競争や民主主義を所与のものと考えていますが、AIが進化すれば、これらの基本的な思想や原理も自ずと変容していかざるを得ないはずです。