元OpenAI社員がついに退職の理由を語る！

5,353 文字

マイルズ・ブランデージは、AIの分野で著名な研究者であり政策専門家でんねん。主にOpenAIでの仕事で知られとって、2018年に研究者として入社し、後に政策研究部門の責任者になったんや。
最近の10月に、ブランデージはOpenAIを退社して、非営利セクターでの独立研究に専念することを発表したんやけど、AGIを安全に管理する業界の準備態勢に関する懸念を示し、企業の制約なしに研究を公表したいという希望を表明したんや。
彼だけやなくて、OpenAIから多くの人材が懸念を示して退社してんねん。OpenAIの共同創設者のアンドレイ・カーパシー、安全性への懸念で退社したヤン・レクン、drama中に退社してSafe Superintelligence Inc.を設立したイリヤ・サツキーバ、最近製品責任者を務めていたピーター・デン、ChatGPTの初期開発者の一人やったジョン・シュルマンもおるんや。
そして最も最近では、多くの人々にとって驚きやったんやけど、CTOのミラ・ムラティが突然退社したんや。これは、大きな成功を収めようとしている会社のCTOが突然辞めるなんて、予想外やったんやね。
このインタビューで彼は、ニューヨークタイムズのメンバーとのポッドキャストで、なぜOpenAIを去ったのか、そして今何をしているのかについて、AI の未来に関する5つの重要なポイントを語ってんねん。
その中の一つが、退職の時期が近づいているということなんや。法律の学位とかは必要ないって言うてはるけど、完全に予測するのは不可能やと思うわ。でも、人々はお金を貯めるべきやと思うんや。
「個人的には、多くの人にとって退職の時期は予想よりも早く来ると思います。もちろん、みんながこうして退職について話せる状態であることを前提にしてますけどね。AGIが来たときに。技術的に可能で、政策立案者が仕事をちゃんとすれば、この巨大な経済的恩恵を受けて、人々は早期退職して高い生活水準を維持できると思うんです。
ただし、事前に貯金があれば、ロボット執事とかをより多く持てるかもしれませんね。人々が欲しがるものは常にあるし、人間のサービスへの需要も残ると思います。だから、お金は依然として重要やと思いますわ」
退職が近いという彼の発言は驚くべきことではないんや。Anthropicの幹部の一人が自身のブログで書いた内容は、まだ多くの人が見過ごしているんやけど、これは将来がどう変化するか、そしてその変化がどれだけ急激になるかを人々が理解し始めている証拠なんや。
彼女が書いたんは、「私は、もし実現すれば、私たちの知る雇用を終わらせる可能性が高い技術的発展の境界線に立っています」という、かなり深い意味を持つ発言なんや。
Anthropicは最先端のモデルを開発してて、次に何が来るか正確に知っているから、彼女は雇用の将来に関する予測をしっかりと組み込んでるんやろうね。多くの産業で雇用の将来は不確実やけど、最先端の研究所の多くの人々が、雇用が急速に変化すると明確に述べているんを見ると、これは間違いなく起こることやと認識することが重要やと思うわ。
私がTwitterで最近投稿した別の重要な点は、多くの人々が現実を直視することが時として不快なため、実際に何が起きているのかを無視しているということなんや。
これは「言語モデルに対するナレッジワーカーの一般的な反応は否定的なものです。彼らは、モデルがまだ苦手とする、どんどん少なくなっている分野にしがみつき、人間レベルに達しているか、それを超えている、増え続ける作業範囲に気づこうとしません」という発言に明確に表れているんや。
つまり、ほとんどの人はAIが多くの仕事を奪っているという事実を無視してしまう傾向があるんや。AIはまだこれができない、あれができないと主張するけど、実際には私たちの多くもそれらのことはできへんのやね。
マイルズ・ブランデージが言うてるように、退職は私たちが考えているよりも早く来る可能性があり、それは経済も変化することを意味するんや。
彼だけやなくて、以前私が作った動画でも話題にしたんやけど、OpenAIが特に正直ではないということと、エリック・ワインスタインが短いインタビューで語った内容についてや。
彼は、これらの企業が将来どうなるかについて正直になれないと言うてはんねん。これは本当に考えさせられる発言の一つやったんや。
「サムは多くの悪評を買っています。エドワード・テラーのように。私たちはエドワード・テラーを悪魔化し、サム・アルトマンも悪魔化するでしょう。でも、サムは直接これを見つめていて、私たちは耳を傾けていないんです。サムは何年も前からUBIについて話していました。『実験をしなければならない、人々の面倒を見なければならない、何が来るか分かっているから』と。」
エリック・ワインスタインが言うてることをまとめると、私たちが構築している技術の種類は信じられないほど凄いもので、サム・アルトマンは長い間これについて知っていたんや。
ほとんどの人が想像もできなかった頃からUBIについて語り、最近では実験を行って結果を見てきた。これは経済の仕組みを根本的に変える技術やからね。
ほとんどの政府でさえ考えていないようなことやけど、これはマイルズ・ブランデージも指摘してることなんや。経済がどのように変化するかを考えると、UBIや、多くの人が働かない職場、つまり政府から収入を得る形態を理解する必要があるかもしれへんね。
自由配当金とか呼ぶかもしれへんし、どんな用語を使うにしても、セクターや産業全体の自動化から生まれる可能性のある収入形態は、経済が機能するために避けられないものになるかもしれへんのや。
「AIが経済的価値のあるすべてのことをできる世界で、社会はどのように機能すると思いますか？人々のニーズはどのように満たされるのでしょうか？政府が提供するのか、ロボットがすべてをするのか？」
「おそらく起こることは、私たちが全員安全で健康でいられるように、AIによってGDPの成長が今後数年で大幅に増加する、より大きな経済になるということです。
適切な課税や堅固な社会保障網、それが基本的な収入であれ何であれ、人々はその恩恵を共有できるようになるでしょう。基本的な収入を受け取って、今日多くの人が長時間働いて得ているような快適な生活を送ることができるようになると思います。
どのように展開されるかは分かりませんが、技術的には可能だと思います。」
ここでマイルズ・ブランデージは、どのように展開されるかは分からないけど、一つのシナリオとして、人々は政府から何らかの収入を得る必要があるだろうと語ってるんや。
AIが将来できることを考えると、コンピュータでできることのほとんどをAIが担うようになり、経済は狂ったようになるやろうね。すでにその兆候は見えてるんや。
多くの企業は今、これに焦点を当ててへんのや。なぜなら、仕事を失う人々の面倒を見ることは彼らの仕事やないからや。彼らの仕事は単に最高の製品を作ることやからね。
その副産物として、現在市場に存在する多くの仕事が単純に消えるか、AIがより速く、安く、確実にできるため、雇用を得ることが increasingly難しくなるんや。
このインタビューで話題になった別の点は、AI安全性についてや。ほとんどの人はAGIが暴走するという考えはないかもしれへんけど、AIが異なる能力を持ち、完全に暴走する可能性のあるシナリオにもっと開かれている人々にとって、このポッドキャストで言及された一つの興味深い点は、サム・アルトマンが実際にAGIが暴走した場合に備えて終末用のバンカーを持っているという事実なんや。
完全に狂ってるように聞こえるかもしれへんけど、サム・アルトマンは核の放射性降下物や、AGI、ASI、またはAIが完全に暴走して全員を殺そうとするシナリオに備えていることを公にしてきたんや。
このBusiness Insiderの記事では、超富裕層が終末用バンカーに取り憑かれているけど、サム・アルトマンはAIの黙示録が起きた場合、バンカーは意味がないと冗談を言ったって書かれてるんや。
この記事によると、超富裕層は億万長者用バンカーに取り憑かれているように見えるけど、サム・アルトマンは構造物は持っているものの、バンカーではないと言い、AGIが間違った方向に進んだ場合、これらは何の役にも立たないと述べてるんや。
もちろん、サム・アルトマンの言うことは分かるよね。AGIが間違った方向に進んで、魔法のように思えるようなことができるスーパーインテリジェントなASIが現れた場合、バンカーで安全は確保できへんやろうね。そのようなシステムは、おそらくどうにかしてあなたを見つけ出すことができるやろうから。
でも面白いのは、サム・アルトマンがリスクに備えているということや。2023年の記事では、OpenAIのCEOであるアルトマンの死と黙示録への執着について書かれていて、この有名な終末論者は災害に対してよく準備していたって書かれてるんや。
2016年、彼はニューヨーカー誌に、銃、金、ヨウ化カリウム、抗生物質、電池、水、イスラエル国防軍のガスマスク、そして致命的な合成ウイルスや核戦争の場合に避難できるビッグサーの大きな土地を確保していると語ったんや。
コロナウイルスのパンデミックが発生した時、アルトマンは最初の数週間をロックダウン状態で過ごし、外部との接触を絶ち、野菜まで消毒していたらしいんや。
この記事では、この男が将来の技術について本当に心配していることが書かれているんや。記事によると、アルトマンは「もちろん、心配している。多くのことを心配している」と述べているんや。
多くのAI企業が次の産業革命か黙示録のどちらかに取り組んでいるという事実に私たちは向き合わなければならへんのや。
AnthropicやOpenAIだけやないことを覚えておく必要があるんや。グローバルな市場にいるということは、急速に能力のあるAIシステムを開発している他の国々のことも考える必要があるんやね。
中国、ロシア、おそらくヨーロッパの企業もあるやろうし、将来何が起こるかは本当にクレイジーに見えるんや。
でも、ブランデージが言うように、OpenAIだけの問題やないんや。AGIに備えている企業を見渡しても、そのような技術に対して誰も準備ができていないんや。
ブレークスルーを発見して物事が少し手に負えなくなった場合でも、彼らは開発している技術の種類に対して準備ができていないんや。
「OpenAIに特化した話ではないんです。もちろん、業界のギャップに対する私の見方はOpenAIでの経験に基づいていますが、他のどのラボも完全に状況を把握できていないと確信しています。
彼らが言っていることを読めば分かりますが、誰も状況を把握できていると言っていません。本当に速い進歩と、最も知識のある人々が『私たちは準備ができていない』と言っている、この狂ったような状況が私の懸念なんです。」
彼が基本的に言っているのは、誰も準備ができていないということや。OpenAIも準備ができていないので、もっと慎重になる必要があるんや。そうしないと、本当に悪いシナリオに陥ってしまう可能性があるんやね。
彼はまた、もしAGIが来て、最先端の研究所の一つで働いていたとしたら、今後3〜5年以内に異星知能が到来する可能性があることに、どのように個人の生活を適応させるかについても議論してるんや。
「AGIに備えるとはどういうことなのか、そしてもしあるとすれば、その質問に対するあなたの答えは過去数年でどのように変化しましたか？」
「今後数年間で、AGIと呼ぶかどうかは別として、人間ができることを基本的に何でもできるシステムが構築される可能性が高いと思います。
コンピュータでリモート操作したり、マウスやキーボードを操作したり、ビデオチャットで人間のように見えたりするシステムです。
人々は、それが何を意味するのか考える必要があります。政府は、どのセクターに課税し、どのような教育に投資するべきか、そしてAIができることのほとんどを行える世界で、教育の意味は何なのかを考える必要があります。
新しい仕事が生まれることは確かですが、すべての仕事が消えるわけではありません。しかし、破壊的な変化が起こることは間違いなく、人々は教育の目的について前もって考える必要があります。」
この最後の発言から明らかなように、社会全体がAGIに備える必要があるんや。政策について考え、教育について考え、AIが多くの産業に浸透するため、多くの異なる要因を考慮する必要があるんやね。
AGIが到来したとき、私たちが準備ができていることを確認しなければならへんのや。OpenAIで働いていた特定の個人が、もはやこれらの企業にいない今、AIと経済の未来がどのようになると本当に信じているのかについて、より自由にそして率直に語れるようになったのを見るのは、非常に興味深いことやね。