OpenAIの裏に隠された真実について語るべき時が来た...

14,197 文字

ほんまにな、そろそろOpenAIで実際に何が起こってるんか、話すべき時やと思うわ。この会社、最近めっちゃ荒れとってな、上級研究員やらリーダーらがいろんな理由でどんどん辞めてってもうてる。
この動画では、OpenAIで実際に起こってることについて、めっちゃ深掘りして話していくで。ほとんどの人は多少のことは知ってると思うけど、ここ数日でいくつか記事が出てきたし、ミーラ・モラティも辞めたし、そやからこの動画作ろうと思ったんや。OpenAIがこんな感じでバラバラになってもうた理由について、新しい詳細がめっちゃ明らかになってきたからな。
せやから時間無駄にせんと、OpenAIで実際に何が起こってるんか、さっそく深掘りしていこか。
最近、VoxとThe Wall Street JournalとThe Informationから記事が出てきてな。いろんなニュース機関が、OpenAIで何があったんかについて、独自の情報を発表してるわけや。正直、この3つの長い記事を読むんは驚きやったけど、ほとんどの人が既に知ってることをはっきり示しとる。OpenAIは予想外に爆発的に成長して、その爆発的な成長とともに、会社としてめっちゃ生みの苦しみを経験しとるんや。
そして、この会社がどこまで成功するんか、将来どうなるんかについて、疑問が生まれてきとるわな。
ここに「我々の知るOpenAIは死んだ」いうタイトルの記事があるけど、これはOpenAIの当初の約束、つまり安全にAGIを構築するという約束がもはや存在せえへんということを指しとるんや。
そして、ここにもう1つ記事があって、これも深掘りしていくけど、OpenAIのスタッフの離職、縄張り争い、燃え尽き症候群、報酬の要求など、いろんなことについて書かれとる。目から鱗が落ちるような内容やで。イリヤ・サツキーバが辞めた理由や、彼を引き戻そうとしたことについても書かれとる。実はこれ、The Wall Street Journalの記事からの情報なんやけど、後で話すわ。
この記事で語られとる1つのことは、サム・アルトマンの管理スタイルについてや。取締役会は、AIの共同設立者についての噂に十分うんざりしとったらしいわ。今年の初めやったと思うけど、アルトマンの運営方法について明らかになったことの1つは、他のリーダーたちを対立させる傾向があるいうことや。
これ、職場環境としてはあんまり良くないよな。なんでこんなことになったんかは正確には分からんけど、このことに注目しとった人なら覚えとると思うわ。去年か今年かは分からんけど、ヘレン・トーナーが出てきて、「サムはこれについて嘘ついとる、あれについても嘘ついとる」「これは本当やない、あれも本当やない」みたいなことを言うとった。OpenAIの取締役会の真相について、めっちゃ衝撃的な情報がいろいろあったんや。
ここに書かれとるけど、取締役会のメンバーは、もしこういう傾向が抑えられへんかったら、主要な研究者や幹部を引き留める能力に悪影響を与える可能性があると心配しとったんや。そして1年後、その懸念がまだ残っとるみたいやな。
これはめっちゃ驚きやで。1年経っても、アルトマンの管理スタイルが変わってへんかったんやろうか。もし変わっとったら、OpenAIからトップクラスの人材がこんなに大量に流出することはなかったはずやからな。
この状況がどれだけヤバいかを理解するのに苦労しとる人のために説明すると、過去12ヶ月間で、OpenAIの主要な幹部を含む何人ものリーダーが会社を辞めとるんや。正直、ミーラ・モラティが水曜日、つまり2日前に辞めたんは、めっちゃ驚きやった。
ボブ・マクルーとバレット・ズィーも辞めるって言うとる。彼らは新しいAIモデルをリリースするために準備するチーム、ポストトレーニングチームを運営しとった人らや。会社が表面上はうまくいっとるように見える中で、会社の主要な人物らが辞めていくのは、めっちゃヤバい状況やと思うわ。
ミーラの退職は予想外やったいうことを考慮せなあかんな。ほとんどの人は、我々は部外者やから会社内で実際に何が起こっとるか正確には分からへんと思うやろ。でも、サム・アルトマンも、ミーラ・モラティ、元CTOが辞めるいうことを朝に知ったいうことを公表しとるんや。
これはサムにとってもめっちゃ衝撃的な発表やったんやで。普通、会社のCTOやったら、少なくとも6週間前、できれば6ヶ月前には辞めることを言うもんや。だってCTOは会社の中で重要な役割を担っとるからな。ある日突然「辞めます」いうわけにはいかへんのよ。
面白いことに、ミーラ・モラティは辞めるときに「リークされたくないし、OpenAIが最近のリリースで上昇気流に乗っとるときに辞めたくない」いうようなことを言うとったんや。
これが全体的な状況や。別の動画でも話したけど、もう一度見せたいと思うわ。OpenAIでどれだけヤバい状況が起こっとるか、しっかり理解してもらいたいからな。
既に話したけど、9人が会社を辞めとる。多分10人か12人くらいやろうな。記事には実際には20人いうことが書かれとる。これはただの著名人やけどな。でも、OpenAIを辞めた人らを見ると、めっちゃ重要な人らやったんや。
例えば、レオポルド・アッシュナーが辞めたこと。彼はスーパーアラインメントチームにおったんや。グレッグ・ブロックマンがサバティカル休暇を取ったこと。これについては後で驚くべき事実を話すわ。イリヤ・サツキーバについても驚くべき事実があるんやけど、これも後で話すで。
ジョン・シュルマン、アンドレ・カーペイシー、アッシュ・ブレナー、開発者関係の責任者、イリヤ・サツキーバ、ミーラ・モラティ。他の会社やったら、これはめっちゃヤバい状況やいうことになるわ。
特に、アルトマンの性格、貪欲さ、権力欲、その他いろんな特徴について、ヤバいことを聞いとるからな。これらの特徴のせいで、彼を信頼できるかどうか分からへんいう感じになっとる。これは、人々が一緒に働きたいと思うようなCEOじゃないわな。
この会社は、やっとることではめっちゃ優れとるみたいやけど、管理スタイルや起こっとることを見ると、会社全体が近々崩壊しそうな感じやな。何か変化がなければ、の話やけどな。
これについて言いたいことがあるんやけど、OpenAIがどうやって今の姿になったかを考えると、めっちゃ驚くべきことやったんや。Chat GPTがどうやって生まれたかを見ると、めっちゃ驚きやで。会社のほとんどの人が、これがどれだけすごいものになるか分かってへんかったんや。
2021年か2022年、もしくは2022年後半の古い記事を見つけたんやけど、ここに書かれとることを見てみ。当時会社におった人らが「これはすごい」いうてるんや。
ヤン・レイキ、元スーパーアラインメントチームのメンバーが「正直、圧倒されとる」いうとる。ジョン・シュルマンは「リリース後の数日間、めっちゃTwitterをチェックしとった。Chat GPTのスクリーンショットでフィードがいっぱいになるクレイジーな期間があったんや」いうとる。でも「こんなにメインストリームで人気が出るとは思ってへんかった」とも言うとるな。
ここにも書かれとるけど、「みんながどれだけ使い始めるか、間違いなく驚きやった。汎用チャットボットの試みは今までにもめっちゃあったから、可能性は低いと思っとった」いうとるわ。
ヤン・レイキもここで「これを全部動かしとるものが何なんか、もっと理解したい。現実を動かしとるものが何なんか、我々には分からへん」いうとる。
これを理解するために、こんな感じで考えてみてほしいんや。安全なAIの開発に焦点を当てた小さな研究所があるとしよう。今までにもいくつかのことをやって、いくつかの研究成果を出しとる。AIエージェントゲームなんかを作って、それぞれの分野ではすごい成果を上げとる。
でも、ただのチャットボットを作ったとしよう。小さな研究プレビューとして公開したんや。めっちゃトラフィックが来るとは思ってへんかった、ただのウェブサイトやったんや。
そしたら、バーンって感じで、史上最速で成長するアプリになってもうた。2週間で1億人のユーザーがおったかどうかは分からんけど、めっちゃ短期間でそんなに多くの人がそのアプリを使うようになったんや。
これはほんまに考慮せなあかんことやと思うわ。めっちゃすごいことやからな。
2022年11月からそんなに時間経ってへんのに、この会社は時速10マイルでゆっくり走っとる状態から、時速1000マイルで走る状態になってもうた。何十億ドルもの価値がある会社になったんやで。
これは会社の、エートスいうか、会社の運営方法を完全に変えてしまうようなことやと思うわ。以前は、もし研究者としてそこで働いとったら、製品の締め切りなんてなかったやろ。自分の裁量で仕事ができたわけやないけど、主な焦点は「我々は非営利団体や。お金を稼ぐ会社やない。ただAGIの問題を解決して、それを皆と共有しようとしとるだけや」いう感じやったんや。
ここからが面白くなってくるで。サム・アルトマンの株式に関する最近の主張を見てみ。OpenAIの評価額が1500億ドルになったら、彼は約100億ドルを得ることになるいう予測があったんや。
一部の人はこれはめちゃくちゃやいうとるけど、彼自身はそんなことは全然ないって言うとる。本当かどうかは分からへんわ。株式をもらうっていう記事がたくさんあるけど、彼は株式はもらわへんって言うとる。
どっちにしても、もし彼が株式をもらうんやったら、めっちゃヤバく見えるわ。これ全部、OpenAIが最初に作られたときにさかのぼるからな。
例えば、ここに誰かが「100億ドルを稼ぐ方法：イーロン・マスクから5000万ドル集めて非営利団体を始める。そして皆に『これは人類のためや』って言って、何十億ドルも集める」って書いとるんや。
イーロン・マスクもここで「これはめちゃくちゃ間違っとる」って言うとる。もし裏話を知らんかったら説明するけど、イーロン・マスクは自分の5000万ドルでOpenAIを作るのを手伝ったんや。そして後になって、アルトマンと意見が合わんくなって締め出されてもうた。で、今アルトマンが、元々非営利団体やった会社から100億ドルもらうことになりそうなんや。
これがなんでこんなにヤバい問題なんか、前にも流したけどもう一回流すわ。15秒くらいやけど、この議会での公聴会で、彼はこう言うとるんや。「私は会社の株式を持っとらへん。健康保険を払えるだけの給料をもらっとるだけや。OpenAIの株式は一切持っとらへん」って。
ほんで、「私はこれが好きやからやっとるんです」いうて。
せやから、「ただ会社を成功させたいだけの天使みたいな人や」いうて人々が言うとるときに、その真下にロイターの記事があって、「サム・アルトマンが初めて株式を受け取ることになる」いうて書かれとったら、人々はびっくりするわな。
この人、去年「株式なんていらへん」言うとったのに。これはめっちゃヤバく見えるわ。サム・アルトマンは狡猾で、ずる賢くて、欺瞞的やいう噂がいくつもあったからな。
特に公の場でそう言うといて、後で株式をもらうことがリークされたら、もうめちゃくちゃ悪く見えるわ。AGIみたいな強力な技術を扱う会社としては、絶対に避けたいことやと思うわ。
サム・アルトマンだけやなくて、OpenAIの他の人らもこういう問題抱えとるんや。例えば、報酬の要求の問題もあるわ。
ここに書かれとるけど、「リーダーシップの交代のもう1つの見過ごされた要因は、主要な研究者らの持続的な報酬要求や。OpenAIの評価額が上がるにつれて、元従業員らは既に12億ドル以上を利益ユニットの売却で現金化しとる」
この報酬要求いうのは、より高い給料や、より良い金銭的報酬を求めることを指しとるんや。OpenAIの場合、会社の価値がどんどん上がって、評判も上がってきたから、主要な研究者や従業員らが、自分らの貢献に見合った報酬を求めるようになってきたんや。
多くの伝統的な会社が提供するような株式やエクイティとは違って、OpenAIには典型的なストックオプションがないんや。その代わりに、従業員らには利益ユニットいうものがあって、これはOpenAIが利益を出すようになったら、その利益の一部を受け取る権利を与えるものなんや。
この数年間、OpenAIの従業員や元従業員らは、その利益ユニットを他の投資家に売ることができたんや。つまり、将来の潜在的な利益と引き換えに、今すぐ現金をもらえるわけや。
OpenAIの価値がどんどん上がり続けるにつれて、従業員らはこの巨大な成長に見合った報酬を求めるようになってきたんや。
もちろん、こういう要求からのプレッシャーが、会社のリーダーシップの変更の要因になっとるわな。この金銭的な期待を管理して、皆が自分の報酬に満足するようにすることは、OpenAIみたいなまだ進化中で、典型的なビジネスみたいに安定した利益を出してへん会社にとっては、めっちゃ大きな挑戦なんや。
ここに書かれとるけど、お金やその他の懸念事項で辞めると脅す人らの対応に追われとるんやて。
問題は、これらの研究者らがオールスターNBA選手みたいなもんやいうことや。彼らはトップ中のトップの人材なんや。スポーツはあんまり見いひんけど、たまに1億ドルで移籍するサッカー選手のスクリーンショットを見ることがあるやろ。それと同じようなことが起こっとるんや。
移籍金がそこまで高いかどうかは分からんけど、要するに、これらの研究者らは会社にとってめっちゃ重要な存在なんや。OpenAIにおるこれらの人らは、製品の背後にある研究やイノベーションを推進しとる人らなんや。彼らがおらんかったら、会社は成り立たへんのよ。
そやから、彼らはめっちゃ強い力を持っとるんや。そして、その力と影響力を使って、自分らのためにもっと多くのものを得ようとしとるんや。これは理解できることやと思うわ。もし自分が会社の評価を裏で支えとる顔の見えない人間やったら、自分の時間に見合った価値を確実に得たいと思うやろ。
この状況で一番ヤバいのは、もちろんOpenAIが新しい人材を採用したことや。上場企業Nextdoorの元CEOのサラ・フライアーを採用して、会社の複雑な財務を管理する最初のCFOにしたんや。そして、TwitterやFacebookみたいな会社で長年製品リーダーをしとったケビン・クォークを採用して、消費者向けと企業向けの製品を監督させることにしたんや。
これはめっちゃええことや。だってOpenAIは、人がどんどん出て行っとる状況やからな。新しい人が入ってくることを確認したいわな。ずっと人が出て行くだけやったら、将来良くなる見込みがないように見えるからな。
ここで縄張り争いの話が出てくるんやけど、アルトマンと直接仕事をしとる何人かの人が言うには、彼には縄張り争いを放置する傾向があるらしいわ。そして、リーダーらがもっと人を雇うとか、リソースを増やすとか要求したときに、難しい決断を避ける傾向があるんやて。これが人々が辞める要因になっとるらしいわ。
ブロックマンやモラティみたいな他のリーダーらが、アルトマンが避けとった難しい決断をせなあかんことがあったみたいやな。
アルトマンが特定の決断をせんかったり、世界中を飛び回って講演したり、インタビューに応じたり、チップの取引をしたりしとる間に、ミーラ・モラティやグレッグ・ブロックマンが実際に会社におって仕事をしとったんやろうな。
アルトマンは世界ツアーを短縮せなあかんくなったみたいや。CTOが辞めて、グレッグ・ブロックマンがサバティカル休暇中やったら、「よし、この会社を素晴らしいものにすることに集中せなあかん」って思うやろ。
こういうことってよくあるんや。本で読んだことあるけど、成功した人によく起こることなんや。OpenAIで起こったことを例にすると、Chat GPTを作って大成功した。そしたら、その成功の後に起こることは、もちろんアルトマンはCEOやから、インタビューに呼ばれたり、ブログを書いたり、世界中でAIイベントがあったりして、旅行して取引したくなるわな。
でも問題は、取引したり、インタビューに応じたり、世界中を飛び回ったりすることに気を取られて、実際に会社に集中せんかったら、その素晴らしいライフスタイルをもたらした会社自体を失うことになるんや。
これは、スポーツ選手の例を使いすぎてもうてすまんけど、自分のスポーツで最高の選手になって有名になって、世界中を飛び回っとるけど、実際にプレイしとるスポーツに集中せんようになるみたいなもんや。
企業家にとって、サム・アルトマンみたいな人にとって、これはビジネスなんや。会社が崩壊したら、すべてが消えてまうんや。
ここで言いたいのは、アルトマンは会社に戻って、実際に素晴らしい製品と、人々が本当に欲しいと思うものを作ることに集中せなあかんようになったいうことや。
世界中を飛び回ってインタビューに応じるのはええけど、会社が完全にスムーズに運営されとることを確認するために、実際にその場におる必要があるんや。グレッグ・ブロックマンはおらへんし、イアー・タスクもおらへん。ミーラ・モラティみたいに、これらすべてのことができた人もおらへん。他の主要な人物らもおらへんのや。
この会社が非常に優れた成果を上げることを確認せなあかんのや。
もちろん、前に言うたように、モラティとブロックマンは会社のAI開発計画について衝突しとったんや。
ここに書かれとるけど、摩擦の理由の1つは、ブロックマンが高い地位にあったにもかかわらず、プロジェクトに個人的に貢献しとったことやったんや。
ブロックマンがどんな人かよう分からん人のために説明すると、彼はサム・アルトマンとは全然違う人なんや。彼は1日12時間も部屋にこもってコードを書くような人や。
実際、Twitterではブロックマンがどれだけ仕事に没頭しとるかがミームになっとるくらいや。没頭いうか、集中しとるいうか。彼は文字通り、コーディングのことばっかりツイートしとるんや。
彼はめっちゃ手を動かすタイプの人や。後で記事に出てくるけど、ほとんど働きすぎるくらいなんや。
ここに書かれとるように、摩擦の理由の1つは、ブロックマンが高い地位にあったにもかかわらず、プロジェクトに個人的に貢献しとったことやったんや。
例えば、初期のAI研究を取り上げて、たくさんの顧客を扱える実用的なプロトタイプや製品に変える取り組みがあったんや。これが時々、モラティみたいな技術リーダーと対立することがあったんや。モラティは、コアとなるAIモデルの開発に取り組んでる何十人もの研究者やソフトウェア開発者を管理しとったんや。
これらのスタッフは時々、研究を製品に変えるための独自の計画を持っとって、それがブロックマンと対立することがあったんや。
ここで問題になっとるのは、ブロックマンがめっちゃ手を動かすタイプで、技術的な面に強くて、自分の研究を顧客が扱える実用的なプロトタイプに変えたいと思っとるのに対して、会社の他のソフトウェア開発者らとの間で意見が合わへん、相性が悪いいう状況やったんや。
これが実際、ブロックマンが休暇を取った理由の1つなんや。彼と他のチームとの間にめっちゃ摩擦があって、集中するのがめっちゃ難しくなったからや。
こんなことがこんな大きな会社で起こっとるなんて、ほんまに信じられへんわ。でも、これが、前に言うたように、ブロックマンがめっちゃ手を動かすタイプで、技術的な面に強い理由なんや。そして、これが会社内でいろんな問題を引き起こしとったんや。
ブロックマンについて話しとる通り、問題は彼に直属の部下がおらんかったことなんやけど、彼は自分が興味のあるプロジェクトには何でも関わろうとしとったんや。これが関係者らをイライラさせとったらしいわ。現在と以前のOpenAIの従業員らによると、ブロックマンは長期間計画されとった取り組みに対して、最後の最後になって変更を要求することがあったんやて。そのせいで、モラティを含む他の幹部らが介入して、物事を円滑にせなあかんことがあったらしいわ。
ブロックマンが特定の従業員らと、特定のことや製品がどう展開されるか、何が提供されるかについて意見が合わへんくて、これが社内の対立を引き起こしとったんや。こんなん良くないわな。針を前に進めようとしとる会社で、社内の対立なんか起こってほしくないやろ。
これがめっちゃ問題になって、スタッフがアルトマンにブロックマンを抑えるよう求めたんや。ブロックマンの行動が従業員らの士気を下げとるいうことやった。そして、この懸念は今年まで続いとったんや。最終的に、アルトマンとブロックマンは、彼が休暇を取るべきやいうことで合意したんや。
つまり、グレッグ・ブロックマンは今、サバティカル休暇中なんや。会社内の特定のことに関わりたがる彼の一貫した姿勢が、うまくいかへんかったんやろうな。正確な詳細は分からへんけど、彼は休暇を取ることになったんや。
これからこの会社がどう管理されていくんか、どんなことをやっていくんか、めっちゃ興味深いわ。OpenAIは組織のスキルという面でほんまに頑張らなあかんと思うわ。今のところ、あんまり良く見えへんしな。
正直、グレッグ・ブロックマンが戻ってきてほしいわ。もし戻ってけえへんかったら、OpenAIは近い将来うまくいかへんと思うで。
辞めた人の話でいうと、OpenAIの主任研究員も辞めたんや。
モラティとマクルーの退職は、会社や、次のフラッグシップ言語モデル「オリオン」を開発するAIレースにおける会社の立場に、幅広い影響を与える可能性があるんやて。
ヤバいのは、これらのリーダーらがOpenAIの研究組織と応用組織の取り組みを調整する上で重要な役割を果たしとったことや。例えば、モラティはリリースの過程で、会社の安全チームと製品チームの間の意見の相違を解決することで知られとったんや。
マクルーは、研究者らからの追加の計算リソースの要求を承認しとったんやて。元従業員が言うとるで。両方のリーダーが、特定の研究ラインを優先したり、一部の研究製品を放棄したりする決定に関わっとったんや。
これ、めっちゃ重要な分野やで。計算能力は文字通り... そしてヤバいのは、研究者らからの追加の計算リソースの要求を承認することも、ヤン・レイキが会社を辞めた大きな理由の1つやったんや。彼は「承認されへんかった。ここで研究しようとしとるのに、それができへん」って言うとったんやで。
もちろん、計算リソースを承認したり、こういうことを管理したりする人がおらへんかったら、物事はほんまに崩壊し始めるわ。特に、リリース過程で安全チームと製品チームの間の意見の相違を解決する人がおらへんかったらな。
これは間違いなく最も重要なことの1つやわ。会社を加速させようとしとる人らがおる一方で、安全の人らは「ちょっと待って、このまま製品をリリースしたら、こんなにたくさんの被害が出るで。気をつけなあかん」って言うとるからな。
そのバランスを管理するのはめっちゃ難しいわ。会社を成功させたいけど、同時に製品を早すぎてリリースして、完全な大惨事になるのも避けたいからな。
これはほんまに重要なことやと思うわ。
もっと情報を見せるで。めっちゃたくさんのことが明らかになってきたからな。
それと、これも知らんかったんやけど、イリヤ・サツキーバが実際にOpenAIから従業員を引き抜いとったんやで。
イリヤの新しいスタートアップみたいなライバル企業がOpenAIの人材を引き抜こうとする試みが、この人材危機をさらに悪化させとるんやて。この採用の試みのせいで、OpenAIのリーダーらは研究者らを引き留めるために寛大な対抗オファーをせなあかんかったらしいわ。最近の交渉に直接関わった人が言うとるで。
つまり、前に言うたように、イリヤは自分の会社「セーフ・スーパーインテリジェンス」を始めるために辞めたんやけど、OpenAIで働いとる人らに寛大な報酬パッケージを提示して、セーフ・スーパーインテリジェンスで働かへんかって誘っとったんや。
OpenAIがいろんな面でどんな感じやったか考えたら、一部の人がその機会を掴んだのは驚くことやないと思うわ。セーフ・スーパーインテリジェンスは50億ドルの評価で10億ドル集めたと思うんやけど、小さな会社やから、その従業員らに年間100万ドルか200万ドル払って、新しい会社で働いてもらうのは難しくないと思うわ。残りの大部分のお金は計算リソースに使えるしな。
これはほんまに驚きやわ。この分野では弱肉強食みたいやな。イリヤ・サツキーバがOpenAIの従業員を狙っとるなんて。正直、こんなことが起こっとるなんて知らんかったわ。
ヤバいヤバいヤバいで。それと、非開示契約もあるんやけど... そのスライドが見つからへんわ。でも、OpenAIの腐敗的な性質について、何人かが話しとることに移るわ。
現金の注入と巨額の利益の見込みが、OpenAIの文化を腐敗させたと信じとる人らもおるんや。これは、動画の最初に話したことやけど、研究会社が営利会社に移行する状況があるわな。お金が関わってくると、必ず物事は悪い方向に行くんや。一部の人らは貪欲やし、一部の人らは腐敗しとるからな。問題は、お金が見え始めるまで、誰がそうなのか分からへんことや。
小さな研究非営利団体が、数十億ドル規模の、お金を稼ぐことと狂ったような締め切りに焦点を当てたテクノロジー企業になったらどうなるか、想像できるわ。これはほんまにすごいことやで。
そして、この狂ったような締め切りのせいで、GoogleとOpenAIの間でめっちゃヤバい軍拡競争が起こっとるんや。ここに書かれとるけど、OpenAIは驚くほど急いでリリースを進めとるんやて。
この春、GPT-4.0っていう新しいAIモデルの開発をめぐって社内で緊張が高まったんや。このモデルはChat GPTとビジネス製品の動力源になるもんやった。研究者らは当初の計画よりも包括的な安全性テストをするよう求められたんやけど、それをする時間は9日間しか与えられへんかったんやて。
9日間やで。普通、安全性テストには6ヶ月くらいかかるんや。だからGPT-5がまだ出てけえへんのやと思うわ。でも、GPT-4.0については完全に急いでリリースしたかったみたいやな。他の会社がモデルを用意しとるって知っとったからやろうな。だから、前に言うたように、開発のスピードがめっちゃ速くなっとるんや。
安全性テストをするよう頼まれたけど、9日間やで。多分16時間働いて、それを24時間7日間続けなあかんくらいやったんちゃうか。そんな短期間にすべてを圧縮するのは、ほぼ不可能に近いからな。
ここに書かれとるけど、経営陣はGoogleの年次開発者会議の前にGPT-4.0をデビューさせたかったんやて。ライバル企業から注目を奪うためにな。これは本当のことやで。Googleがイベントを開催するとき、OpenAIはいつも彼らを出し抜こうとしたり、上回ろうとしたりするんや。
Googleに対してそれをするのはめっちゃ難しいから、彼らは全力で頑張って、何が起こっとるか正確に把握して、すぐに何かをリリースしようとするんや。Googleも似たようなことをしたことがあって、Gemini 1.5 Proをリリースしたんや。
ここに書かれとるように、安全性のスタッフは20時間働かなあかんかったんやて。16時間やと思っとったけど、20時間も働かされたんや。自分らの仕事をダブルチェックする時間すらなかったんやて。
不完全なデータに基づく初期の結果では、GPT-4.0は展開するのに十分安全やって示されたんやけど... でもモデルをリリースした後、プロジェクトに詳しい人らが言うには、その後の分析で、このモデルはOpenAIの説得力に関する内部基準を超えとったことが分かったんやて。
これは、人々の信念を変えたり、潜在的に危険や違法な行動に関与させたりするようなコンテンツを作り出す能力のことやな。
ここに書かれとるように、これらの人らは20時間働いて、自分らの仕事をダブルチェックする時間もなかったんや。これは、安全なAIの未来に向かってる感じがせえへんな。
今のところ、GPT-4.0はただのチャットボットやから、かなり安全やと思うけど... でも将来的には... 将来、これを抑え込むような規制が出てくるかどうか分からへんわ。企業はAIを武器みたいに見とるから、あんまり規制したがらへんのよ。遅れを取りたくないからな。AIで1年遅れるのは10年遅れるみたいなもんやからな。一度遅れたら、かなり長い間遅れ続けることになるわ。
でも、これは行き過ぎやと思うわ。安全性のスタッフに20時間も働かせて、自分らの仕事をダブルチェックする時間もないような状況やったら、多分スピードが出過ぎとると思うわ。
ここに書かれとるように、GPT-4.0のこの急いだ展開は、モラティ（CTO）みたいな技術リーダーらに影響を与えたパターンの一部やったんやて。
これが、多くの人が「音声モードはどこや？音声モードはどこや？音声モードはどこや？」って言うとった理由なんや。
CEOは、検索や音声対話を含む製品の計画されたリリースを、何度も遅らせたんやて。彼女はそれらがまだ準備できてへんと思っとったからや。
ここで起こっとるのは、OpenAIに伝統的なやり方でやりたい人らもおれば、すべてを前に進めたい人らもおる状況やと思うわ。
ここに書かれとるように、これが、ミーラ・モラティが好きじゃなかった理由の1つやと思うわ。彼女は製品を遅らせたからな。もちろん、一部の人らは「これらのものはもう準備できとるで」って言うやろうな。
ここに書かれとるように、意見の相違があったんや。これはほんまにすごいことや。これらの製品をどれだけ早く動かそうとしとったかが信じられへんわ。
みんなに言い続けとるけど、多くの人が「なんでこの製品が何ヶ月も出てけえへんのか信じられへん」って言うとるけど、これは画期的なAI技術なんやで。新しい領域を切り開いとるんや。1年に複数の新しいモデルが出るのは、ほんまにすごいことなんや。
これらのものは、安全性テスト、ポストトレーニング、ポストトレーニングのデータ収集、SAテストなど、最終的なモデルを作るのに何ヶ月もかかるんや。これは簡単なことやないで。
ここにいるみんなに言いたいんやけど、我々の人生をいろんな面で助けてくれる、これらのAI製品に魅了されとる今、この空間にいられるのは本当に幸運やと思うわ。我々が実際に得とるものに比べたら、相対的に安い価格で、そしてこのスピードで得られとるのは、ほんまにすごいことやで。
正直言うて、この時代に生きとれて幸せやと感じるわ。一部の人らはそんなに気にせえへんかもしれんけど、これはほんまにすごいことやと思うで。
もちろん、他の上級スタッフらもこれにめっちゃ不満を感じ始めとったんやで。
ジョン・シュルマン、もう1人の共同設立者で上級科学者が、OpenAIの内部対立にイライラしとったって同僚らに言うとったんやて。そして、これ信じられへんけど忘れとったんやけど、イリヤ・サツキーバを引き戻そうとしたんやで。彼の家に行ったり、いろんなことをしたりしたんやて。
問題は、ジョン・シュルマンが、イリヤ・サツキーバを引き戻すのに失敗したことに失望しとって、元々のミッションの重要性が薄れていることを心配しとったんやて。つまり、ジョン・シュルマンは「うん、我々はうまくいっとるけど...」みたいな感じやったんやろうけど、問題は、もうイリヤ・サツキーバがおらへんし、少なくとも彼を引き戻すためにもっと頑張るべきやったっていう考えやったんや。
そして、それができへんかったから、OpenAIが続けていく能力に対する信頼を失いつつあったんやて。
これはほんまにヤバいで。こんな情報が出てきとるなんて。もちろん、この共同設立者で上級科学者は8月にOpenAIを去ったんや。
これはヤバいで、ほんまにヤバい。ここで起こっとる状況は、自分の仕事に献身的な人ら、トップクラスの研究科学者ら、トップクラスの幹部らがおって、彼らは「うん、私はOpenAIで働いとって、高給をもらっとるか、何であれうまくいっとる。でもストレスがめっちゃ溜まっとる。締め切りがめっちゃ早いし、怪しい経営判断もあるし、会社の成長が早すぎるし、人がどんどん辞めていっとるし...」
「じゃあ、なんで私の株式や利益シェアを売って、アンスロピックみたいな会社に移らんのや？そこなら実際に効果的な研究に集中できるし、20時間働いて準備できてへん製品を出荷せんでも、長期的なことに集中できるやん。」
「タイタニック号から逃げ出そう」って感じやと思うわ。OpenAIを去った人らは、多分そう考えとると思うで。もし会社が将来うまくいくと思うなら、今この時期にトップクラスの人らが辞めるとは思えへんからな。
安全性の研究者らが辞めるのは完全に理解できるけど、トップクラスの幹部らが突然辞めるのは、めっちゃヤバい兆候やと思うわ。特に突然辞めるのは、会社がうまくいくかどうかの兆候としては、めっちゃヤバい赤信号やと思う。
特に、サム・アルトマンがこの決定に不意打ちを食らったことを考えたらな。
全体的に、この動画についてどう思うか教えてほしいわ。この動画はほんまに必要やったと思う。OpenAIでめっちゃたくさんのことが起こっとるからな。
この動画が長くなってしもうてすまんな。正直、できるだけ早く話そうと思ったんやけど。もっと大きな声で話したかったけど、今喉が痛くて、コンテンツを作ろうとしとるときにこれはめっちゃイライラするわ。
でも、この動画を楽しんでもらえたんやったら、OpenAIの将来についてどう思うか教えてほしいわ。私は将来はあんまり明るくないと思うわ。
彼らは板挟みの状態にあると思う。リードを維持しつつ、研究者らにストレスをかけずに引き留めようとしとる。でも、物事が正しい方向に進んでるようには見えへんわ。
OpenAIには、彼らのモデルみたいな独自技術があるし、ブランドイメージもあるから、かなりの間は存在し続けると思う。でも、これから数年の間に継続的にミスを犯して、主要な研究者らが辞め続けたら、状況はめっちゃ早く悪くなる可能性があるわ。
以上や。この動画を楽しんでもらえたんやったら、次の動画でまた会おうな。