[翻訳]Most Technologies Aren't Races
supported by ChatGPT-4.0
[Disclaimer: I’m not an AI policy person, the people who are have thought about these scenarios in more depth, and if they disagree with this I’ll link to their rebuttals]
翻訳しつつ要約する
AI競争について、人々は異なる意見を持つ。
しかし、AIが電気、自動車、コンピュータと同じく、通常の変革技術であると仮定してみよう。
電気競争は誰が勝ったのか？エジソンかもしれないが、その結果、彼の子孫が世界を支配することはなく、メンローパークもローマにはならなかった。アメリカに利益はあったが、全体の力のバランスは変わらず、現在、先進国は皆電気を持っている。
自動車競争は誰が勝ったのか？カール・ベンツ？ヘンリー・フォード？最初の試作車と普及までには多くの段階があった。ベンツもフォードも個人的には富を得たが、力のバランスは変わらず、現在、先進国は皆自動車を持っている。
コンピュータ競争は誰が勝ったのか？チャールズ・バベッジ？アラン・チューリング？ジョン・フォン・ノイマン？スティーブ・ジョブズ？ビル・ゲイツ？これもまた、徐々に進化していった。ジョブズもゲイツも富を得たが、力のバランスは変わらず、現在、先進国は皆コンピュータを持っている。
最も重要な競争は戦争中の特定の軍事技術であり、特に米国は核兵器の競争に勝利した。敵国もすぐに核を持ったが、一時的な優位性で第二次世界大戦に勝利した。レーダーの競争に勝ったとも言えるが、それは敵国が競争していたわけではない。戦闘機や戦車、衛星などの競争もある。しかし、一般の人々はそうしたことには関心がない。米国の自動車政策は、中国との「車の競争」に勝つことを基にしていない。
トランスヒューマニストがAI競争について語るのは、以下の2つの理由からだ。
AIの発展が国家間の力のバランスを変える可能性があるため。
AIが人類に大きな影響を与える技術であるため、先に開発した国が利益を得ると考えられるからだ。
しかし、私たちはその前提に疑問を持ち、無意識に繰り返すべきではない。AI競争は重要であるが、それがすべてではない。技術の進歩は国家間の力のバランスを変えるかもしれないが、それは必ずしも勝者が全てを支配することを意味しない。技術の共有と協力が重要であり、それが世界に恩恵をもたらす。
まず、unaligned AIがいずれ人類を破滅させると信じるなら、その段階に達する前にAIをalignさせることが重要だ。alignを重視する企業は、alignを重視しない企業よりも先にその段階に達しようと競争するだろう。現時点では、誰もAIをalignさせる方法を知らないため、学問的な問題だ。しかし、それが解決されれば、その競争に勝つことが望ましい。
次に、AIが数年で数千年分の技術進歩を達成する技術的特異点を引き起こすと、一部のトランスヒューマニストが考えている。
技術的特異点が徐々に進む場合（「slow takeoff」とも呼ばれる）、競争のインセンティブがある。ポール・クリスチャノは、slow takeoffを、AIが成長を加速させてGDPが4年ごとに倍増するものと定義した。これは現実の国家が達成したことのない速さで、世代を超えて100倍の富が増える。現在、中国はAIで米国に2年遅れている。slow takeoffが起こった場合でも、2年遅れのままだと、米国はGDPで約40%の優位性がある。これは自動的に紛争に勝利するには十分ではないが、多極的な世界が続くだろう。slow takeoffの世界では競争があるが、決定的ではない。
AI競争に敗れることが致命的なのは、AIが数千年分の技術進歩を数か月、数週間、あるいは数日で達成する「fast takeoff」と呼ばれるケースだ。これは、AIが自己改善のフィードバックループを持つ場合にのみ起こる。現在のAIパラダイムでは計算が限界となるため、私はこれらのシナリオに懐疑的だが、他の人は異なる意見を持っている。fast takeoffでは、中国が米国を6か月上回り、翌朝には融合、ナノテク、宇宙船を持っている可能性がある。
核兵器の競争を覚えているのは、それが二元的な技術だからだ。持っているか持っていないかのどちらかだ。米国がステルス爆撃機を発明したとき、敵国はそれより劣る飛行機を持っていた。しかし、米国が核兵器を発明したとき、敵国は通常の爆弾しか持っていなかった。最も極端なトランスヒューマニストのシナリオを除いて、AIはステルス爆撃機のようなものだ。GPT-3やGPT-4、将来のGPT-5があるかもしれないが、2年のギャップがあっても、まったくAIがないわけではない。唯一の重要なポイントがあるのは、AIがある閾値で無限に再帰的に自己改善するハードtakeoffシナリオだ。誰かがあなたより先にこの閾値に達すると、競争に負けたことになる。
私が知っているfast takeoffを信じる人は皆悲観的だ。普通の、わずかに人間を超えるAIを持って寝て、目覚めるとAIが神のような力を持っているとは考えられない。AIをレベルNでデバッグし、レベルN+1に備えるチャンスはない。レベルNからレベルN + 1,000,000に飛び越える。AIは一晩で何度もコードを根本的に書き換える。かなり破滅的だ。
このような狂気のようなSFシナリオを信じないのであれば、結構だ。しかし、なぜAI競争に「勝つ」ことが重要だと確信しているのか？もしこのようなことが起こらないと確信しているのであれば、AIを電気、自動車、ステルス爆撃機のように扱うべきだ。タイミングの悪い戦争のバランスを崩すかもしれないが、それ以外は技術を盗んで追いつくだけだ。
この点を強調するのは、多くの人が両方を望んでいるからだ。AIはただの技術であり、alignを気にする必要はないと言う。しかし、AI競争に勝つためには、alignを気にすることは許されない遅れだとも言う。AIがただの技術であるなら、これを心配する必要はない。そして、競争に勝たなければならないシナリオでは、alignを真剣に考えたい。
みんなで解決策を実行しよう。できない場合、良い人が競争に勝つことが望ましい。
AIが特異点を引き起こしてもコントロールされた状況であれば、競争についてあまり心配する必要はない。特異点を超えた後の世界は想像しにくい。現代の権力者たちの力の相対性は気になるが、特異点後はどうだろう？
習近平は収容所を作るのでは？彼がウイグル人を収容所に入れたのは反乱を恐れたからだ。特異点の技術を持つ者に反乱はできない。ジョー・バイデンは中小企業を過剰規制するのでは？特異点後、AIがあらゆることを素早く解決できるようになるだろう。マーク・ザッカーバーグは人種差別を継続させるのでは？将来、人種や性別などが自由に変えられる時代が来るだろう。
特異点後はもっと奇妙な世界が待っている。特異点後の支配者は、分配問題が重要でなくなるほどの余剰があることに気づくだろう。彼らが人々を傷つけることを望まなければ、作られた楽園を人々が楽しむことができる。
特異点後の支配者は、未来を台無しにしない程度の品位を持ち、木星サイズの脳の助言を受け入れるべきだ。習近平、バイデン、ザッカーバーグはこの基準を満たしていると思われる。
未来には物議を醸す政治的問題があるだろう。人々はどの程度快楽を追求することが許されるのか？どんな状況で子供を持つことが許されるのか？どの恒星系が近くにあるべきか？これらの決定は、通常の意思決定手法で決められることに問題はない。それほど大きな問題ではないと思われる。
マインドマップにしてみる
感想
・・・🤔