見出し画像

OpenAIのAGI開発、準備不足のまま進行中で担当者が退職

Zun-Beho

下記のポストは、OpenAIのAGI開発担当者が「まだOpenAIにはAGIを開発する準備ができていない」と言って退任したという記事を共有しています。このNoteではこの記事を解説していきます。


OpenAIのAGI担当責任者が辞任、同社は開発中のものに対して準備ができていないと主張

AGIの研究責任者が退職、その理由とは

OpenAIのAGI（汎用人工知能）開発を担当していた研究者マイルズ・ブランデージ氏が、同社を退職したというニュースが報じられました。彼は、世界がまだAGIに対する準備ができていないことを警告しています。彼の退職とその背後にある思いについて、深掘りしていきましょう。

「世界はまだ準備ができていない」

ブランデージ氏は、自身のSubstackで「夢のような仕事」だったAGI開発の責任者を辞める決断に至ったことを語っています。彼は、OpenAIが「人間レベルの人工知能」を現実のものにしようとしていることに対して、大きな責任を感じていると述べています。
「私はAIの発展に対して、業界の外から影響を与えたい」と彼は書いていますが、彼の心には強い危機感が漂っていました。

「OpenAIだけでなく、どの最前線のラボもAGIに対する準備ができていない」と彼は断言し、さらに「世界もまだその準備ができていない」と警告しています。

AGIは一足飛びではない？「レベル」が重要

ブランデージ氏は、AGIに関する理解についても指摘しています。「AGIという言葉は、二元的な考え方を示唆しすぎており、実際にはそんなに単純なものではない」と彼は語り、AGIが一夜にして登場するわけではなく、段階的に進化していくものだと強調しています。

実際、彼はOpenAIが作成した「AI/AGIの5段階スケール」に関わっていたことを明らかにしました。このスケールは、AIが最終的に「組織の業務を担える」レベルに達するまでのプロセスを示すもので、現在は「人間レベルの推論が可能になる」2段階目に差し掛かっていると言います。

しかし、ブランデージ氏はOpenAIや世界が次世代のAIシステムに対してまだ十分に準備できていないと強調しています。

AGIは人類全体に利益をもたらすのか？

ブランデージ氏は、AGIが理論上は人類全体に利益をもたらす可能性を信じていますが、それは自動的には実現しないとも述べています。AGIの開発や規制に携わる人々が、そのプロセスを慎重に進める必要があるとし、OpenAIがその責任を十分に果たしているかについては疑問を呈しています。

彼の退職に伴い、OpenAIのAGI readinessチームのメンバーは他の部門に再配置される予定です。このチームの解散は、AI安全性チームの解散に続くものであり、OpenAIのリーダーシップに大きな揺れをもたらしています。

年末までにリリース予定のOrionへの影響

サム・アルトマンの２つのポストから、次世代モデルであるOrionのリリースが11月30日ではないかと噂されています。

下記の9月14日のポストでは、実家に帰省した彼が「中西部の家に居るのが大好き。夜空は本当に美しい。もうすぐ冬の星座が昇るのが楽しみ。本当に素晴らしい。」とポストしています。もう直ぐ冬の星座（オリオン座）が上る事を本当に素晴らしいといっています。

つづいて、10月22日の投稿では、もう直ぐChatGPTの誕生日が来ることと、「誕生日に何をあげようかな？」と質問しています。

これらの投稿から、AIにまつわるハイプを流している界隈からは冬の星座、つまり11月下旬から12月にかけてみられるオリオン座の名前を冠したモデル、OrionがChatGPTの誕生日の11月30日にリリースされると噂されています。

マイルズ・ブランデージ氏退職のOrion開発への影響は？

Orionのリリースとマイルズ・ブランデージ氏の退職が直接的に関係しているかはわかりませんが、時期が近いこともあり、関連性を疑う声があるかもしれません。OrionはOpenAIが次に開発している大規模なAIモデルとして注目されており、AGIにさらに近づく可能性があると言われています。

ブランデージ氏が退職時に示した「世界はAGIに対して準備ができていない」という懸念は、Orionのような次世代AIがもたらす影響に対する警鐘とも捉えられるでしょう。Orionのリリースは、これまでにないAIの進化を象徴するものとなる可能性がありますが、その進展に伴う倫理的な問題や安全性の確保が十分でないことが問題視されているのかもしれません。

もしOrionが実際に11月30日にリリースされるとすれば、ブランデージ氏が警告しているような「準備不足」のまま、この新たなテクノロジーが世界に与える影響をコントロールできるかどうかが問われるでしょう。

いいなと思ったら応援しよう！