OpenAIクーデター！一連の出来事と内紛の顛末
ChatGPTで世界を驚かせたOpenAIのCEO Sam Altmanが急遽解任され、世界中の人々が再び驚きました。
多くの人がこれはApple社の元CEO Steve Jobsのような展開になると思っていましたが、実際のところ、これは科学者の純粋な魂を中心にした物語です。
OpenAIの魂の人物はCEOのSam Altmanではなく、創設者の一人であり首席科学者のIlya Sutskeverです。
クーデター前
OpenAIの取締役会は合計6人。そのうちの三人は企業の高官：
Sam Altman：OpenAIの元CEOであり、ユダヤ人で、かつてYCombinatorの孵化器の社長でした。
Greg Brockman：OpenAIの前取締役会議長兼社長であり、アメリカ版アリペイStripeの元CTOでした。Sam AltmanはかつてStripeに投資しており、そのためGreg BrockmanはSam Altmanの小弟であり、彼の手先の一部です。
Ilya Sutskever：OpenAIの共同創設者兼首席科学者です。
Adam D'Angelo：アメリカ版QuoraのCEOであり、現在はChatGPTのような大規模モデルのPoeを会社内で進行中です。
Tasha McCauley：女性起業家であり、かつてGeoSimのCEOで、ハリウッドのスター、ジョセフの妻です。
Helen Toner：ジョージタウン大学の研究センターの責任者です。
上記の6人がOpenAIの中枢を構成しており、この時点でMicrosoftはOpenAIの子会社の株主であり、OpenAIには実質的な統制権がありません。
内紛劇が表舞台に
11月中旬、首席科学者Ilya SutskeverはまずSam AltmanとGreg Brockman以外の取締役と会話し、彼らを説得し、四つの票を集めました。その後、Sam AltmanとGreg Brockmanが不在の状況で、取締役会を開催し、Sam Altmanを解雇するという決定がなされました。
11月16日の夜、Ilya SutskeverはSam Altmanにテキストメッセージを送り、翌日の昼に会話する約束をしました。金曜日の昼、双方はGoogleのオンラインビデオ会議に参加し、Ilya Sutskever側の四人が出席しました。彼らはSamに対し、取締役会の決定を簡潔に通知し、彼が解雇されたことを伝えました。その後、Ilya Sutskeverは再びGreg Brockmanにテキストメッセージを送り、quick callを求めました。両者はすぐにGoogleのビデオ会議に集まり、Ilya SutskeverはGregに董事長の職務解除とSam Altmanの解雇を通知しました。 そして、Ilya SutskeverはOpenAIで全従業員会議を開催し、取締役会の決定を発表し、CTOのMira Muratiが臨時のCEOになりました。
全従業員会議で誰かが「これはクーデターですか？」と尋ねました。
Ilya Sutskeverは「そう言えるでしょう。ただし、これは董事会が自らの責務を果たしているだけです」と答えたそうです。
しかし、まだ事態は収束していません。
24時間も経たないうちに、OpenAIの最大の投資家であるMicrosoft、Thrive Capital、Tiger Global Management、Sequoia Capitalなど、100億ドル以上を投資した主要な投資家が、Sam Altmanの復職を求めてOpenAIに大きな圧力をかけました。OpenAIの取締役会は膨大な圧力を受けました。
なぜこれらの投資家がSam Altmanの復帰を求めるのか？それは彼らがOpenAIに多額の賭けをしているからです。
Microsoftは100億ドルを投じており、自身が再びテクノロジー界の覇者になるかどうかはOpenAI次第です。Thrive Capital、Tiger Global Management、Sequoia Capitalは、OpenAIに投資しただけでなく、AI分野でのトリリオンドル規模の覇者になることを期待し、その結果として大きな利益を得るだけでなく、OpenAIのエコシステム内の多くのスタートアップにも投資しており、OpenAIのアプリケーション市場が開始されると、AIのユニコーン企業が一握り生まれることを期待しています。
これはまるでAppleのアプリストアが開かれると、モバイルアプリが一気に人気になるようなものです。過去6〜7年で、ほとんどの新興テクノロジー企業はモバイルアプリを作っていました。そのため、これらの投資家たちは狂喜し、待ちきれずに「もう一度来てくれ！もう一度来てくれ！」と叫んでいます。そのため、社交メディアでIlya Sutskeverを非難し、彼に早く去れと叫ぶ声も続出しており、まるで人を殺す親のような非難がなされています。
では、なぜこれらの人々がSam Altmanを支持しているのでしょうか？首席科学者Ilya Sutskeverが彼らの考えを実現できないのはなぜでしょうか？
始：師匠であるGeoffrey Hinton
これはIlya Sutskeverの師匠であるGeoffrey Hinton（以下、Hinton）にさかのぼります。
Geoffrey Hintonはイギリス出身で、1947年に生まれました。彼は幼少期から木工が好きでしたが、生計を立てるためにコンピュータサイエンスを学び、1978年にエディンバラ大学で人工知能の博士号を取得した後、アメリカに移り、後にはレーガン時代の政治的信念に絶望し、カナダに移住しました。その後、彼は長らくトロント大学のコンピュータサイエンスの教授を務めました。
人工知能の分野では、長期の研究の結果、彼は神経ネットワークの技術路線を選択しました。しかし、その技術路線は当時のコンピュータの計算能力が限られていたため、成果が非常に遅く、ランキングを見るのが好きでトレンドを追い求める博士課程の学生たちは、この方向を無視し、教授との関係を築こうとしませんでした。Hinton教授自身が言うには、1993年には46歳で完全に諦めたとのことです。研究の進展が遅く、お金もほとんどなく、生活も順調でなく、中年で二度も配偶者を失い、2人の子供を一人で育てていました。
彼は自分の博士生たちが神経ネットワークの方向を研修し続け、もしかしたら100年後には突破口があるかもしれないと望んでいました。しかし、歴史の進行は彼の予想よりもはるかに速かったです。10数年のうち、コンピュータの計算能力の急速に向上し、人間が利用できるデータ量の急速な増加により、神経ネットワークの研究が復活しました。
この時、Hinton教授は2人の博士生、Alex Krizhevskyとこの物語りの主人公であるIlya Sutskeverを迎え入れました。彼らは2012年に新しいタイプの神経ネットワーク、Convolutional Neural Network（畳み込みニューラルネットワーク）の開発を完成させ、それをAlexNetと名付けました。このAlexNetは重要なブレイクスルーを達成し、画像認識の能力が人工知能の他の技術路線を大きく超えました。
承：DeepMindとAlphaGo
その後、いくつかのアメリカ企業が訪れ、独占的な提携を希望しました。それに応じて、Hintonと彼の弟子たちはDNN Researchというスタートアップを立ち上げました。会社は3人だけで、ビジネスも製品も収益もありませんでした。
入札に参加する企業は4社あり、百度（Baidu）、Google、Microsoft、設立からわずか1年のイギリスの人工知能企業DeepMindでした。入札は最終的にGoogleとMicrosoftの対決となりました。両社とも勝ちたいと思っており、価格を続けて引き上げることもできました。
しかし、Hinton教授は「もう十分だ、君たちは狂っているよ」と言いました。3人だけの会社でありながら、なんと4,400万ドルまで値上げしてくれました。当時、Hintonと彼の弟子はGoogleがもっと道義的だと考え、何しろ「Don't be evil」がGoogleの憲章に明記されていたため、Googleを受け入れることにしました。
Hintonと彼の弟子たちはお金を手に入れると、3人で平等に分けることを考えていました。しかし、2人の博士課程の学生は断固として「Hinton先生、あなたは40%を取るべきです。私たちはそれぞれ30%で十分です」と主張しました。その後、3人は喜んでGoogleで働くことになり、Googleは新しい部門を設立しました：Google Brain（Googleブレイン）。GoogleとMicrosoftはお互いが人工知能の分野にこれほどの資金を投入しようとしていることを見て、この分野での軍拡競争を始めました。
その競り合いから1年後の2014年1月26日、GoogleはDeepMindを6.5億ドルで買収しました。当時のDeepMindの従業員数は50人で、平均価格を計算すると、Hintonと彼の弟子たちの88%でした。
GoogleはGoogle Brain、つまりHintonの師弟3人をDeepMindの手助けにお願いしました。しばらくすると、DeepMindは素晴らしい成果を収めました。2014年には、囲碁の人工知能ソフトウェア「AlphaGo」の開発を開始し、AlphaGoは人間の世界チャンピオンである李世ドルを打ち負かしました。
2019年には、StarCraftをプレイするために専門に開発されたAlphaStarが、人間のプロプレイヤーに対して10対1で勝利し、協力人工知能の分野で突破を達成しました。2018年には、タンパク質の折りたたみ構造を予測するためのAlphaFoldが突破し、この分野の科学的な問題が基本的に解決されました。
DeepMindの経営陣は、自社の技術が強力すぎて、私企業に独占させるべきではなく、全人類のものであるべきだと考えています。しかし、Googleに属していたこれらの年月、Googleのやり方はDeepMindを満足させることはできず、彼らはGoogleからの独立を求めはじめました。
Hintonの師弟3人も同じ考えを持っています。
Hinton教授は2023年にGoogleを引退しました。
博士生の一人であるAlex Krizhevskyは2017年にGoogleを引退し、以後は人工知能には関わっていません。彼がGoogleに加入する前に会社を売却して得た1,320万ドルだけでも、十分に生活できるでしょう。なぜなら、一般的なアメリカ人が一生で稼ぐ金額は100万ドルを超えることはないからです。
そして、もう一人の博士生であるIlya Sutskeverは唯一AI領域で活躍し続けられる人物でした。
Ilya Sutskever1985年にロシアで生まれ、5歳の時に家族と一緒にイスラエルに移住し、おそらくユダヤ人であると考えられます。成人後、再び家族とともにカナダに移住し、その後Hinton教授の元で学びました。
彼は非常にシンプルな生活をしており、Steve JobsやMark Zuckerbergと同様に、同じ服をまとめ買いして交互に着用し、飲食は可能な限りシンプルで速やかに行い、家にはできるだけ少ない家具を置き、マットレス一つで寝る生活を送っています。社交、晩餐、パーティ、ダンスへの招待は多いですが、基本的には参加しません。
転：OpenAIの設立
シリコンバレーの大物たちは、Googleが人工知能の才能を独占しているのを見て、何かを始めることを考えました。Googleが一人占めするのは良くない、我々も一杯いただこうと考えたのです。
その結果、2015年、シリコンバレーの大物たちはIlya Sutskeverを誘い出して食事に誘いました。これらの人々にはベンチャーキングのPeter Thiel、当時YCombinatorの会長であったSam Altman、LinkedInの創設者であるReid icman、このクーデターで登場するStripeのCTOであるGrey Brockmanも含まれていました。
この会食で、皆は合意しました。Ilya SutskeverはGoogleから離れ、彼を中心としたOpenAIという実験室を構築することになりました。AI技術を普及させ、Googleに独占されないようにし、全人類に利益をもたらすことを目指しました。
また、このOpenAIは非営利組織として設立されました。
なぜOpenAIを非営利組織にする必要があるのでしょうか？これはシリコンバレーの有名な悲劇ーーWikipediaの創設者Jimmy Walesの話に関係しています。
Wikipediaを設立する際、全人類のための百科事典は信頼性のある機関に属すべきだと考え、自分の企業を非営利組織に設立しました。しかし、これが悪化しました。非営利組織は寄付に頼って生存し、資金調達が難しく、上場も望めませんでした。
その結果、Wikipediaは急速に世界一の百科事典ウェブサイトになりましたが、創設者と幹部は依然として困窮していました。他の企業、ホテルやタクシーのオンライン予約サービスや、オンライン出会いサービスなどの創設者たちが大富豪になった一方、Jimmy Walesたちは非営利組織の構造に縛られていました。
Wikipediaの反面例が存在している以上、シリコンバレーの人々は非営利組織の構造を使用しないでしょう。なぜなら、儲からないからです。
しかし、2015年にOpenAIが非営利組織として設立された理由は、OpenAIを研究開発に専念させ、サービスを全人類に提供し、Googleのような独占を避けるという考えからでした。当時30歳になったIlya Sutskeverは、この使命を非常に評価し、それに懸命に取り組みました。
Elon Musk（テスラCEO）が1億ドルを寄付し、他のメンバーも3000万ドルを集め、総額1.3億ドルのスタートアップ資金が調達できました。
Elon MuskとSam AltmanはOpenAIの共同議長で、実質仕事をするのはIlya Sutskever一人で、彼はさらに人を募ってチームを結成しました。
当時の状況をいうと、10人が見守り、Ilya Sutskeverが一人で仕事をしている光景でした。仕方がないことです。その仕事のやり方を理解しているのはIlya Sutskeverだけでしたから。
当時の条件では、Ilya SutskeverのOpenAIでの報酬は年間190万ドルで、Google時代とほぼ同じでした。Googleを辞める際、GoogleはIlya Sutskeverを引き留めるために年俸400万ドルや500万ドルまで引き上げることを提案しました。
しかし、Ilya Sutskeverは断りました、「私は技術が民間企業に独占されない新しいプラットフォームを立ち上げるつもりだ」と。
Ilya Sutskeverにとって、2012年にGoogleが彼と彼の師の会社を買収したときから、生活がシンプルなIlya Sutskeverは十分なお金を手に入れたと考えていました。2015年にGoogleを離れ、未来が不確かな非営利の新興プラットフォームに移る決定は、金銭的な動機ではなく、より大きな目標を成し遂げたいからです。
実はHintonたちが選んだこの道は、とても長いものでした。他のメンバーはAlexNetアーキテクチャを理解した後、多くの改善の方向を提案しました。例えば、「人間のフィードバック強化学習（RLHF）」と呼ばれる手法です。例えをすると、現在の人工知能は1+1=2を計算できますが、54=20を計算することはできません。人間のフィードバック強化学習は、人工知能に54=20を覚えさせ、理解しなくても関係ない、とにかく後で尋ねられたら5*4は20と答えればよい、という形で人工知能を強制します。
この方法の短期的な効果が非常に良く、各評価項目においてHintonの技術より優れていました。しかし、Hintonたちはこれが人工的なホルモン太りのようなもので、不合理であると考えていました。さらに彼らは人工知能がゆっくり学び、理解することで本当の発展があると主張しました。
したがって、OpenAIは2015年に設立してから2019年まで進展が遅く、Elon Muskたちが寄付した1.3億ドルはすでに使い果たされました。
どうするか？OpenAIの両共同議長Elon MuskとSam Altmanは意見が対立しました。Elon Muskは引き続き非営利の方針を堅持しましたが、Sam Altmanは転換するべきだと主張し、研究を続けることは底なしの井戸であり、転換すれば従来の民間企業のモデルで融資を得て活動し、利益を上げ、上場し、AIの覇者になることができる、と主張しました。
最終的にElon MuskはSam Altmanの理念の不一致により、OpenAIから手を引き、Sam Altmanは会長に就任しました。
そして、OpenAIの下に通常の私企業子会社を設立し、その子会社が資金調達と収益を上げ、OpenAIは非営利の企業ガバナンス構造を維持します。
2019年、OpenAIは事実上の営利企業への転換を余儀なくされたあと、大規模な資金調達を始めました。同年7月から、Microsoftが10億ドルを出資し、他のベンチャーキャピタル企業であるKhosla Ventures、LinkedInの創業者であるReid Hoffman Foundation、Brown Companiesなどが次々に追随しました。2023年の第7回資金調達では、Microsoftが100億ドルを大々的に注ぎ込みました。
この数年、Microsoftは手に入るOpenAIの権利を全て取得し、2020年にはGPT-3の基本技術ライセンスおよび技術統合の優先ライセンスを購入し、さらに2021年には技術の商業化ライセンスを購入し、有料APIおよびAIツールの提供を許可しました。2023年には100億ドルを投じ、ChatGPTをBing検索エンジンに統合する権限を獲得しました。
そのため、Microsoftの考えはOpenAIを完全にMicrosoftに統合することであり、方法は交渉の余地があり、完全な買収、技術の完全なライセンス供与、その他の方法があります。基本的には、「あなたのものは私のもの」となります。
最近の数年間、Elon Muskは一貫してOpenAIの方針を批判し、理解できないと述べています。彼は初めに1億ドルを投資した非営利団体OpenAIが、なぜ営利組織に変わってしまったのかをいまだに納得していません。
しかし、Elon Muskのパワーも、取締役会内での票数も足りず、なにもできませんでした。彼は2023年に再び自身のAI会社xAIを設立したのも当時の意図が含まれたことでしょう。
Elon MuskはOpenAIの方向転換に反対する唯一の人物ではありませんでした。地味な存在のIlya Sutskeverもその一人です。彼の反乱はメディアには現れていませんが、OpenAIがMicrosoftに対して持つ権限に表れています。
OpenAIのライセンス契約には、異例の条項があります。OpenAIが実現する人類全体の利益に貢献することを前提に、Microsoftへの全てのライセンスと商業契約は、OpenAIがAGIを実現するまで有効です。一旦OpenAIがAGIを実現した場合、その技術はマイクロソフトには開示されず、以前の契約はAGIシステムおよびAGI技術（汎用人工知能）には無効となります。
AGIとは何か？
AGIの定義は、人類の能力を超えた高度に自律的なシステムで、作業中の能力が人間を上回るものです。では、AGIが達成されたかどうかはどうやって判断されるのでしょうか？これはOpenAIの取締役会が一方的に決定します。
言い換えれば、Ilya Sutskeverはこの条項を通じて外部の株主の喉元を掴み、技術的な突破があったり相手が異常行動を取った場合、即座にその喉を断つことを試みることができます。
この条項は秘密のものではありません。シリコンバレーの人たちならみんな知っています。2023年10月にシリコンバレーで公然と議論されるようになったことですから。
もしかしたら、Microsoftがこの条項から生じる不確実性を取り除くために動こうとしているかもしれません。自らが確実に人工知能分野の覇者になるためにOpenAIをスムーズに取り込むためです。Microsoftにとって、OpenAIを早急に完全に買収し、OpenAI取締役会を再編成して自分たちが投票を制御できるようにすること、Ilya Sutskeverを排除することが含まれているかもしれません。
Microsoftのほかに、投資ファンドがありました。彼らは大金を人工知能の分野に投資して、一攫千金を狙っています。さらに、第三の勢力はSam Altmanです。
通常、CEOが会社の10%の株を保有するのは妥当で、だとしたらSam Altmanは1000億ドルの利益を期待できます。Sam Altmanはこの1000億ドルの期待値を現金化する方法の一つとして、Sam Altmanが株主と交渉し、例えばMicrosoftと交渉し、Microsoftを通じて現金化することです。したがって、Sam Altmanにとっては、自分の利益を現金化することが非常に強力な動機です。
捉え方によって、Ilya Sutskeverは一人でこの三つの大きな勢力と戦っているといっても過言ではありません。
Elon MuskとHinton教授は彼の理念と一致していますが、現在は関与しておらず手を出せません。
Ilya Sutskeverにはもう一つ嫌われる要因があります。それは、Ilya SutskeverがAGI（汎用人工知能）のビジネス化をゆっくり進めたいと望んでいることです。これは、他の勢力が急いで展開し、急いで富を築く考えとは真っ向から逆です。
Ilya Sutskeverは、2016年に人工知能が既に人類の知能を超える兆候を示していたと考えています。当時、AlphaGoと李世ドルの対局の第2局で、第37手で非常に特殊な一手を打ちました。この手は、人間の評論家によって水平に非常に劣っていると見なされていましたが、その結果、この一手が盤面全体の核心となりました。これは人類の歴史でこれまでにない対局の思考法でした。
したがって、AGIは必然的にすぐに人類を超えるでしょう。他の人々がまだ人類の思考水準に追いつくAGIシステムを構築する方法を苦しんでいる間、Ilya Sutskeverはすでに一歩リードしています。彼は、AGIがすぐに人類を超えると考えており、それを考慮に入れて今から準備を始めるべきだと信じています。
彼はAGIと人類の最も適切な関係は親と赤ちゃんの関係だと考えています。AGIが親であり、人類が赤ちゃんであり、AGIの親は常に人類の赤ちゃんのために考え、彼らがより良く生きるようにします。
そして、現存するAGIを制御する方法は、人類よりも賢い人工知能には適用されません。現在のモデルは、人間が人工知能システムの作業を信頼できると仮定しています。人工知能システムの能力がますます強化されるにつれ、人間はそれらをどのように評価し、どのように改善または劣化しているかを知りません。これによりAGIは制御不能になります。
そのため、2023年7月にIlya Sutskeverは同僚のJan Leikeとともに、OpenAl内で不正な超知的AIの出現を防ぐことを目的とした専門チーム「Superalignment」を設立しました。
多くの人はIlya Sutskeverのこのアイデアに鼻で笑い、Ilya SutskeverがOpenAlの発展を妨げるだろうと考えています。
現時点では、Microsoftが最大の勝者です。Microsoftがこの事件を裏で操っているかどうかは分かりませんが、敗者はIlya Sutskever（および初期の様々な資金）だけです。彼以外にも、AGIに純粋な情熱を抱いている人々が黙ってため息をついているかもしれません。
結：Sam Altmanの復帰
本日（11月22日 水）午後、OpenAIは公式に発表し、先週金曜日に会社から解任された元CEOのSam Altmanと原則合意に達したと発表し、彼がOpenAIに復帰し、再び最高経営責任者（CEO）を務めることになるとしました。
同時に、企業の取締役会も変更され、Facebook、Twitter、Salesforceで幹部職を務めたことのあるBret Taylorが新しい取締役会議長に就任し、投資家たちによく知られた元アメリカ合衆国財務長官のサマーズもOpenAIの取締役会に加わり、元の取締役会メンバーでQuoraの共同創設者であるAdam D'Angeloは留任します。
そして、メディアがAltmanとの対立があると報じた独立取締役であるジョージタウン大学の安全および新興技術センターの戦略ディレクター、Helen Tonerと、もう一人の独立取締役であるTasha McCauleyは、新しいリストに含まれていませんでした。
この発表に対して、Sam Altmanは「私はOpenAIが好きで、過去数日間のすべては、このチームとその使命の完全性を維持するために行ったものです。日曜日の夜にMicrosoftに参加することを決定したとき、これが私とチームにとって最善の道であることは明らかでした。新しい取締役会とSatya（MicrosoftのCEO）のサポートがあることで、OpenAIに戻り、Microsoftとの強力な協力関係を築き続けることを楽しみにしています。」と述べました。
OpenAIの大きな支援者であり、「OpenAIのガバナンス構造を変えたい」と明確に述べていたMicrosoftのCEOであるSatya Nadellaも公にコメントし、MicrosoftはOpenAIの取締役会の変更に感銘を受けていると述べました。Microsoftはこれがより安定し、賢明で、効果的なガバナンスへの第一歩だと考えているそうです。
ちなみに、以前Sam Altmanと一緒に辞任したGreg Brockmanも、今夜OpenAIに戻り、コードを書き始めると発表しています（発表時点で既に現地時間の夜22時でした...）。
この人事の変更について、Elon Muskもすぐにコメントし、「なんという織り成す錯綜した網」と述べています。
賢明な投資家はすぐに気づくでしょう。このドラマの中心であるOpenAIの取締役会に関して、公式の言い回しは新しい「初期の取締役会」であり、Sam Altman本人が三人のリストにいないだけでなく、以前に会社から追放されたAdam D'Angeloもまだリストに載っているとのことです。
関係者によれば、声明で言及されている「初期の取締役会」の唯一の機能は、新しい正式な取締役会を選出し任命することです。新しい取締役会のメンバーは最大で9人になり、そして「OpenAIのガバナンスをリセット」をします。
最大の株主であるMicrosoftは、拡大する取締役会で席を確保する可能性があり、Sam Altmanも一席を得ることになります。
一見すると、OpenAIの内紛が終息したように見えます。しかし、これは単なる「OpenAIのリセット」の序章に過ぎません。知る人はすぐに気づくでしょう。