見出し画像

イリヤ・サツケヴァー氏、OpenAIでQ*の開発をしていた！？嘘か本当か明日公式発表

Zun-Beho

なんと先ほどこのリークがXにポストされていました。ほぼ偽情報であるとおもいますが、本当であればこれはAGIへ一歩近づいている事を意味します。イリヤ・サツケヴァー氏は、アルトマン事変以来姿を見せていませんが、この画像ではOpenAIにてQ*の開発を続けていたと言う事になります。

これを投稿したSmoke-away氏は、続いてイリヤ・サツケヴァー氏のXアカウント更新のスクショをポストしています。


複数のAGIの開発が同時進行！？

サツケヴァー氏が更新したXのプロフィール「towards a plurality of humanity loving AGIs（人類を愛する複数のAGIに向けて）」を紐解いて見ると、AGI（汎用人工知能）における「多様性」という概念は、いくつかの異なる意味合いを持つことがあります。一般に、「多様性」は、異なる種類やカテゴリーに対する広範な包括性を示す言葉として使われます。AGIの文脈で考えると、次のような意味が考えられます：

  1. 技術的多様性: 複数のアプローチやモデルを採用して、AGIの研究を進めること。これにより、異なるアイディアや手法が探求され、より包括的な理解やより効果的なシステムが開発される可能性があります。

  2. 応用の多様性: AGIが多様な用途や環境に適用可能であること。一つのAGIがあらゆるタスクに適応できるか、あるいは特定のタスクや状況に特化した複数のAGIが開発されるかもしれません。

  3. 価値観の多様性: AGIが異なる文化的背景や社会的価値観を理解し、尊重する能力を持つこと。これにより、AGIは世界中の人々にとって公平で受け入れやすい技術となることが期待されます。

  4. 発展の多様性: AGIの研究が異なる方向性を持つことで、その発展の過程が多様化し、予測不可能な進化を遂げる可能性があります。

現段階でOpenAIが複数のAGIを開発しているかどうかは、具体的なプロジェクトの詳細を知ることなくは言えませんが、OpenAIのような研究機関では一般に、多様なアプローチや多くの研究者がそれぞれの視点で研究を進めているのが普通です。また、AIの研究ではしばしば複数のプロトタイプやアルゴリズムが試されることがあります。

AGIの研究における多様性は、AIが持つ可能性を最大限に引き出し、より多くの人々に利益をもたらすことを目指す上で非常に重要です。これは、AIが人類全体のニーズに応えるためには、異なる視点やアイディアを取り入れる必要があるという認識を反映しています。

複数の AGI が最も安全な方法

この投稿に関して、下記のリポストがありました。

AGI が不正になった場合、複数の AGI が最も安全な方法です AGI 間の「相互確証破壊」のようなもの

「Plurality of AGIs」、つまり複数の汎用人工知能（AGI）の存在は、一つのAGIが「rogue」、つまり制御不能になるリスクを避けるための安全策と見なされることがあります。Dawson Huntさんが述べているように、複数のAGIが存在することで、それぞれが互いのチェック役となり、一つのAGIによる支配を防ぐ「相互確証破壊」のような状況を作り出すことが可能になるかもしれません。

この考え方には、核抑止理論に見られるようなロジックが含まれており、複数の大国が核兵器を保有することで、一方が先制攻撃を行うことを抑止するという概念に類似しています。AGIの文脈では、複数のシステムがそれぞれ独立して機能し、相互に監視することで、全体のシステムがバランスを保ち、一つのAGIによる独断的な行動が抑制されるという理念です。

AGIの多様性は、単にリスク管理の観点だけでなく、異なる種類の問題解決や創造性の発揮にも寄与する可能性があります。異なるアプローチや思考パターンを持つ複数のAGIがいることで、より豊かなイノベーションと人類への貢献が期待できるからです。

Smoke-away氏の最近の投稿

Smoke-away氏の最近の投稿がこんな感じなので真偽の程は分かりません。フェイク画像をアップした可能性が高いです。

Q*と呼ばれるAGIについて

実は、「Q*」というのは、OpenAIが人工知能の分野で大きな進歩を遂げたことを示しているようです。これは人工汎用知能（AGI）に向けた一歩とされていて、単なるチャットボットを超える何か新しいものとのこと。この進歩はSam AltmanがOpenAIのCEOを解任される前日に達成されたもので、OpenAI内部ではAGIの探求においての重要な進展と見なされているようです。

しかし、一部のスタッフからは、この新しいAIが「人類にとって脅威になりうる」と警告する手紙が取締役会に送られたとのこと。このリークの手紙と「Q*」が結果的にSam Altmanの解任のきっかけになったそうです​​。

この事件については別のNoteに詳しく解説していますので合わせてご覧ください。

Q*については別のNoteに詳しく説明していますので合わせてご覧ください。

本日のOpenAI社長のポスト

ちょっと意味深なポストをしているのでひょっとしたらこのリークがフェイクではない可能性を少し感じられます。

明示的に設計していなかった複雑なものが信じられないほど単純になったとき、新しいシステムのコア抽象化が適切に行われたことがわかります。

イリヤ・サツケヴァー氏の所在

アルトマン事変以降、アルトマン氏更迭の主犯格として彼は姿を消しました。OpenAIの社内にはいまだに彼の絵が飾られ、サム・アルトマン氏と社長のグレッグ・ブロックマン氏も彼の在留を認めているにもかかわらずOpenAIで彼の姿は見られませんでした。報道の質問に対しても、サム・アルトマンは「彼の姿が社内でみられない。どこにいるのかわからない。」と答えていましたが、情報筋が最後に確認した情報によると、イリヤ・サツケヴァー氏はまだOpenAIに在籍しており、開発を続けているそうです。

尚、サム・アルトマンの更迭事件については下記のNoteに詳しく解説していますので合わせてご覧ください。

このリークがフェイクなのか事実なのかは明日わかるので楽しみにしています。

いいなと思ったら応援しよう！