グレッグ・ブロックマン | OpenAIは次の時代のイノベーションエンジンを作るために狂ったようにイノベーションを起こしている

実際のところ、多くはイテレーションの速さに帰着します。私を本当に動機づけているのは、物事を作ることです。例えば数学を考えてみましょう。問題について深く考え、理解し、証明という非常に難解な形で書き下します。しかし、これは人類の図書館に永遠に残るのです。発見された真理であり、たとえあなたの分野のたった5人しか読まなくても、何らかの形で人類を前進させたことになります。
実は私はもともと数学者になるつもりでした。そして、化学の教科書を書き始めたのですが、友人に「博士号がないから出版できないよ」と言われました。そこで、ウェブサイトを作って自分のアイデアを広めようと決心しました。そしてプログラミングを発見しました。プログラミングでは、問題について深く考え、理解し、プログラムという非常に難解な形で書き下します。しかし、再び人類の図書館に入り、誰もがそれから利益を得ることができ、スケーラビリティは膨大です。
デジタル世界の魅力は、このような途方もないレバレッジを持てることだと思います。アイデアを持った一個人が、地球全体に影響を与えることができるのです。これは、物理的な原子を動かす場合には非常に難しいことです。
しかし、あなたは数学と言いましたね。ここにある湿ったもの、つまり私たちの心を、最終的には単なる数学、単なる情報処理として見ているのでしょうか。それとも、生物学や化学などを通して見てきたように、何か他の魔法があるのでしょうか。
人間を単なる情報処理システムとして考えるのは非常に興味深いと思います。それは実際、世界がどのように機能しているか、あるいは私たちが何をできるかを説明する上で、かなり良い方法だと思います。時間の経過とともに技術革新を見てみると、ある意味で最も変革的なイノベーションはコンピュータだったと言えるでしょう。インターネットも同様です。インターネットは物理的なケーブルのことではなく、私が突然地球上の他のどの人間とも瞬時にコミュニケーションできるようになったこと、人類が今まで持っていたあらゆる知識を取り出すことができるようになったことです。これらは途方もない変革です。
社会全体、つまり集団を、人間の知性の別の拡張として見ていますか。人間を情報処理システムとして見て、インターネットやネットワーキングについて言及しましたが、文明全体を一種の知的システムとして見ていますか。
はい、これは実際に非常に興味深い視点だと思います。社会全体の集合知として考えることができます。経済自体が何かを最適化している超人的な機械です。ある意味で、会社には独自の意志があります。全ての個人が自分自身の目標を追求し、一生懸命考え、正しいことを考えていますが、何らかの形で会社は創発的なことをします。これは非常に有用な抽象化です。
ある意味で、私たちは自分たちを地球上で最も知的で強力なものだと考えていますが、私たちよりも大きなものがあります。私たち全員が貢献しているこれらのシステムがあるのです。アイザック・アシモフの『ファウンデーション』を読んだことがありますか。そこには心理歴史学という概念があり、基本的には数兆や数京の生命体がいれば、その巨大なマクロ生命体が何をするかを、個人が何を望むかにほと�ど関係なく予測できるかもしれないというものです。
これについて、私には別の興味深い視点があります。それは技術決定論について考えることです。OpenAIで私が多く考えていることの一つは、私たちが汎用知能という非常に変革的な技術に近づきつつあるということです。これはいつか実現するでしょう。そして、それをより良い方向に導くためにどのような行動を取ることができるかという疑問があります。
科学者として、発明家として、創造者として、一般的にどのような影響を与えることができるでしょうか。電話が同じ日に2人の人によって発明されたことを考えてみてください。これは何を意味するのでしょうか。イノベーションの形について何を意味するのでしょうか。私が思うに、起こっていることは、皆が同じ巨人の肩の上に立っているということです。誰も他の誰もが思いつかないようなものを作ることは望めません。アインシュタインが生まれていなくても、誰かが相対性理論を思いついたでしょう。タイムラインを少し変えただけです。おそらくもう20年かかったかもしれませんが、人類がこれらの根本的な真理を発見しないということはなかったでしょう。
そう、目に見えないモメンタムがあって、アインシュタインやOpenAIのような人々がそれに接続し、他の誰もが接続できるということですね。そして最終的に、その波が私たちをある方向に導くということですね。
その通りです。これはさまざまな形で現れています。何らかの指数関数的なものに乗っていて、その指数関数自体が変化しているのです。ムーアの法則を考えてみてください。全産業が50年間それに時計を合わせていました。どうしてそんなことが可能なのでしょうか。しかし、何らかの形でそれは起こったのです。
誰も思いつかないようなものを発明することは望めません。おそらくタイムラインを少し変えることはできるでしょう。しかし、本当に違いを作りたいのであれば、本当にしなければならないこと、唯一の本当の自由度は、技術が生まれる初期条件を設定することです。
インターネットについて考えてみてください。同様のものを構築しようとしていた多くの競合他社がいましたが、インターネットが勝利しました。初期条件は、誰でも接続できること、非常にアカデミックなマインドセットでオープンで接続されていることを重視するグループによって作られたということでした。そして、私はインターネットが次の40年間、本当にそのように展開したと思います。おそらく今日、物事は少し別の方向にシフトし始めていますが、その初期条件が次の40年間の進歩を決定する上で本当に重要だったと思います。
非常に美しく表現されていますね。そのもう一つの例として、私は最近ウィキペディアの形成について考えました。ウィキペディアに広告がなかったら、インターネットはどうなっていただろうかと。ウィキペディアに広告を載せないという選択には興味深い議論があります。ウィキペディアは、インターネット上で私たちが持つ最大のリソースの一つだと思います。それがどれほどうまく機能し、どれほどうまくこれらの良質な情報を集約できたかは非常に驚くべきことです。基本的に、ウィキペディアの創設者が初期条件を設定し、それが自ら前進していったのです。
それは非常に興味深いですね。つまり、AGIや人工知能について考える際、あなたは進歩の初期条件を設定することに焦点を当てているということですね。それは強力です。
では、未来を見据えてみましょう。もしあなたがAGIシステム、つまりチューリングテストに合格するような自然言語システムを作ったとしたら、それとどのような対話をすると思いますか。どのような質問をすると思いますか。最初にどのような質問をしますか。
その時点で、本当に強力なシステムを構築し、人類の未来を形作る能力を持っているのであれば、最初に問うべき質問は、これをどうすれば良い方向に進められるかということです。そして、それが私が強力なAGIシステムに最初に問う質問です。
同僚のイリヤに聞くのではなく、AGIシステムに聞くのですね。
イリヤや他の皆とはすでに会話をしているのです。この質問に答えるために、できるだけ多くの視点と知恵の断片が欲しいのです。必ずしも強力なシステムが教えてくれることに従う必要はありませんが、それを一つの入力として、何をすべきかを理解しようとするのです。
基本的に、本当に重要なのは、もし本当に強力なものを作ったのなら、例えば核兵器の創造直後のことを考えてみてください。世界で最も重要な質問は、世界秩序がどのようなものになるか、私たちが種として生き残れるような場所にどのように自分たちを置くかということでした。
AGIの場合、質問は少し異なります。悪影響を避ける方法を考える必要がありますが、同時に前向きな側面もあります。AGIはどのようなものになるのか、何ができるのかを想像してみてください。AGIが強力で変革的である核心的な理由の一つは、実際には技術開発によるものだと思います。人間と同じくらい有能で、はるかにスケーラブルなものがあれば、絶対にそれに全ての科学文献を読ませ、全ての病気の治療法を考えさせたいと思うでしょう。材料の豊かさを生み出すための技術を構築する方法を考えさせ、環境をどのようにクリーンアップするかなど、私たちが苦労している社会問題を解決する方法を考えさせたいと思うでしょう。
おそらく、この小さなロボットを発明して、外に出て生分解性で、海のデブリを無害な分子に変えるようなことをさせたいと思うかもしれません。AGIがどのようなものになるかを考える際に、人々が見逃すことがある前向きな側面だと思います。
そのため、そのようなことが全てできるシステムがあれば、絶対にそのアドバイスを聞きたいと思うでしょう。あなたの能力をどのように人類にとって前向きな方法で使うべきかについてです。
AGIシステムの可能な軌道を全て見て、その多くがおそらく大多数が前向きであるにもかかわらず、否定的な軌道に焦点を当てる心理について、どう思いますか。サム・ハリスなどの人々と交流し、自分自身の中でもこのことについて考えていると思いますが、申し訳ありませんが、否定的な可能性について考えることの方が楽しいように見えます。これは私たちの心理の奥深くにあるものですが、これについてどう思いますか。そして、AIに私たちを助けてもらいたいと思っているのに、どのように対処すべきでしょうか。
その質問には二つの問題が含まれていると思います。一つ目は、新しい技術のある世界がどのようなものになるかを想像することさえ、どのようにできるかという問題です。1950年にいて、Uberについて誰かに説明しようとしているところを想像してみてください。アプリやインターネットについて説明する必要があります。
それは非常に複雑ですが、想像可能です。
しかし、1950年にいてUberを予測することを想像してみてください。インターネットについて説明する必要があり、GPSについて説明する必要があり、誰もがポケットにこの電話を持っているという事実について説明する必要があります。最初の真実は、変革的な技術が世界でどのように展開するかを想像することが難しいということです。AGIよりもはるかに変革的でない技術でもそれを見てきましたし、AGIはそれ以上に変革的でしょう。そのため、その一つは、想像することさえ難しく、本当にその前向きなビジョンがどのようなものになるかを予測できる世界に自分を置くことが難しいということです。
二つ目は、常に肯定的な側面よりも否定的な側面を支持する方が簡単だということです。破壊することは常に創造することよりも簡単です。物理的な意味ではなく、知的な意味でそうです。何かを作るには、多くのことを正しく行う必要がありますが、破壊するには一つのことを間違えるだけで十分です。
そのため、多くの人々が否定的なストーリーを見るとすぐに行き詰まると思いますが、それでも私には希望があります。前向きなビジョンは、私たちが話し合うことができるものだと思います。単にこの事実を述べること、つまり肯定的な面と否定的な面があり、人々は否定的な面に執着しがちだということを言うだけで、人々は実際にそのメッセージに反応し、「そうだね、私たちが話していない、考えていない部分があるんだ」と気づくのです。これは実際、OpenAIでAGIについて考える上で重要な部分になっています。OpenAIがリスクについて話しながらも、このシステムを構築しようとしているという、一見相反する二つの事実をどう調和させるかということです。
AGIの開発を進める中で、存在論的脅威や否定的な方向に陥らないようにすることが難しいという直感を、サム・ハリスやイーロン・マスク自身を含む一部の人々が持っていることについて、あなたはその直感を共有していますか。AIの開発を前向きな軌道に保つことがどれほど難しいかについて、あなたの直感はどうですか。
その質問に答えるには、OpenAIの構造を見ればよいでしょう。私たちには主に3つの部門があります。一つは能力開発部門で、技術的な作業を実際に行い、これらのシステムができることを前進させています。二つ目は安全性部門で、私たちが構築するシステムが人間の価値観に沿ったものであることを保証する技術的メカニズムに取り組んでいます。そして三つ目は政策部門で、ガバナンスメカニズムを確保し、「誰の価値観か」という問いに答えようとしています。
技術的安全性の問題は、人々が最も多く話題にするものです。全ての悪夢のようなAI映画を考えてみてください。その多くは、適切な技術的安全性が確保されていないことについてです。私たちが発見しているのは、多くの人々が技術的安全性の問題を見て、それは解決不可能だと考えてしまうことです。「人間が望むことをどうやって書き下せばいいのか、自分が望むことさえ書き下せないのに」と考えて、そこで止まってしまうのです。
しかし、私たちはすでに人間が特定できないことを学習できるシステムを構築しています。例えば、画像にネコかイヌがいるかを認識するルールを書き下すことは不可能だとわかりましたが、それでも学習することができました。OpenAIで構築しているシステムで見ているのは、人間の嗜好を学習できること、人間が望むことをデータから学習できることです。これらはまだ初期の概念実証段階ですが、これが私たちの技術的安全性チームの中心的な焦点です。実際、私たちが機能させることができたことについて、かなり励みになる更新がありました。
つまり、あなたはデータから、価値整合性の問題を解決できるシステムを構築できるという直感と希望を持っているのですね。人間の本性のより良い部分、つまり人間の倫理観や道徳観に沿ったシステムを構築できるということですね。
別の言い方をすれば、人間をどのように整合させるかを考えてみてください。人間の赤ちゃんは悪人にも偉大な人物にもなる可能性があり、その多くはデータからの学習によるものです。子供が成長する過程でフィードバックを受け、良い例を見ることができます。そのため、私たちが持っている唯一の汎用知能の例である人間が、データから学習して人間の価値観に沿い、価値観を学ぶことができるのであれば、AGIの価値整合性を解決するために同様の技術が最終的に使われることに驚くべきではないと思います。
もっと高い視点から考えてみましょう。『サピエンス』という本を読んだことがありますか。そこには、集団として、つまり一緒に発展してきた私たち人間が持つアイデアとして、その文脈では客観的な真理はなく、私たちはただ特定のアイデアに同意し、集団として保持しているという考えがあります。善悪の世界に、一次近似として善いものがあるという感覚はありますか。そして、システムにそのように振る舞うように教えることができると思いますか。
これは実際に私たちの3つ目のチーム、つまり政策チームにつながると思います。これは人々が本当に話すべきなのに、ほとんど話していない側面だと思います。なぜなら、非常に強力なシステムを構築し、これらのシステムが操作者が望むことを何でもできるようにするメカニズムを全て解決したとしても、最も重要な質問は、誰が操作者なのか、彼らは何を望むのか、そしてそれが他の全ての人にどのような影響を与えるかということになるからです。
善とは何か、それらの価値観とは何かという問いは、これらの非常に大きな存在論的な場所に行く必要さえないと思います。世界中のさまざまな国や文化を見るだけで、世界がどのように機能するかについて、そして社会がどのように運営されたいかについて、非常に異なる概念があることがわかります。
そのため、本当に核心的な質問は実際には非常に具体的なものだと思います。そして、私たちには簡単な答えがないと思います。アメリカ合衆国、中国、ロシア、そして他の何百もの国々が、単に彼らが適切だと考える方法で運営し続けるだけでなく、これらの非常に強力なシステムが人間と並んで運営される世界で生まれる世界が、人間をより強化し、人間の存在をより意味のあるものにし、人々がより幸せで豊かで、より充実した人生を送ることができるようなものになるような世界をどのように持つことができるかということです。そのような世界を設計する方法は明白ではありません。
少し戻って考えてみましょう。私たちは非常に興味深い会話をしています。OpenAIは多くの面で世界のテクノロジーリーダーであり、それにもかかわらず、これらの大きな存在論的な問題について考えているのは魅力的で非常に重要だと思います。私はあなたがその分野のリーダーだと思います。そして、それはAIが社会に大きな影響を与えるかについて考えるという非常に重要な分野です。
オスカー・ワイルドは「私たちは皆溝の中にいるが、星を見ている者もいる」と言いました。OpenAIは星を見るチャーターを持っていると思います。知性を創造し、汎用知性を創造し、それを有益で安全で協力的なものにするという使命ですね。OpenAIが設立された際に、そのような使命とそのような使命を作る道筋がどのようにして生まれたのか教えていただけますか。
ある意味で、それは本当に景色を見渡すことに帰着します。AIの歴史を考えてみると、基本的に過去60年か70年間、人々は人間の知的労働を自動化できたらどうなるかという目標について考えてきました。そのようなコンピュータシステムを構築できたら何が可能になるかを想像してください。さまざまなディストピアを描いたSF作品がたくさんありますし、最近では『her』のような映画で、少し理想郷的なビジョンを描いたものもあります。
私たちの心のための自転車を持つことができるようになった影響、そしてコンピュータの影響を考えてみてください。コンピュータとインターネットの影響は、誰もが本当に予測できたものをはるかに超えています。AGIを構築できれば、それは人類が今まで作り出した中で最も変革的な技術になることは明らかです。
そこで問題になるのは、そのようなシステムを構築する道筋はあるのか、希望はあるのか、方法はあるのかということです。60年か70年の間、人々は興奮し、人々が寄せた希望を実現できませんでした。その後、2回のAI開発の冬を経て、人々はほとんど夢を見ることをやめてしまったと思います。AGIについて話したり考えたりすることが、コミュニティ内でほとんどタブーになってしまったのです。
しかし、実際には人々はAIの歴史から間違った教訓を学んだと思います。1959年に遡ると、パーセプトロンがリリースされました。これは基本的に最も初期のニューラルネットワークの一つです。これは大きな過大評価と認識されてリリースされました。1959年のニューヨーク・タイムズには、「パーセプトロンはいつか人々を認識し、その名前を即座に呼び出し、言語間で発話を翻訳するだろう」という記事がありました。当時の人々はこれを見て、「あなたのシステムはそのどれもできない」と言い、基本的に10年間かけてパーセプトロンの方向性全体を否定しようとし、成功しました。全ての資金が枯渇し、人々は他の方向に向かいました。
80年代には復活がありましたが、私はいつも80年代の復活はバックプロパゲーションの発明とこれらのアルゴリズムのおかげだと聞いていました。しかし、実際の因果関係は、人々がより大きなコンピュータを構築したことによるものでした。80年代の記事を見つけることができます。コンピューティングパワーの民主化により、突然これらの大きなニューラルネットワークを実行できるようになったと述べています。そして人々は素晴らしいことをし始め、バックプロパゲーションアルゴリズムが発明されました。
当時実行していたニューラルネットは、これらの小さな20ニューロンのニューラルネットでした。20ニューロンで何を学習できるでしょうか。もちろん、素晴らしい結果は得られませんでした。本当に2012年になって初めて、50年代に人々が考え出した最もシンプルで自然なアプローチ、ある意味では40年代にコンピュータがある前に考え出されたアプローチが、突然問題を解決する最良の方法になったのです。
ディープラーニングには、非常に注目に値する3つの核心的な特性があると思います。一つ目は汎用性です。私たちは非常に少数のディープラーニングツール、SGD、深層ニューラルネット、おそらくいくつかのRLを持っています。これらが音声認識、機械翻訳、ゲームプレイなど、膨大な種類の問題を解決します。小さなツールセットで汎用性があります。
二つ目は能力です。これらの問題のいずれかを解決したい場合、40年分の通常のコンピュータビジョン研究を深層ニューラルネットに置き換えれば、より良く機能します。
三つ目はスケーラビリティです。何度も示されてきたのは、より大きなニューラルネットワークを持ち、より多くの計算能力とデータを投入すれば、より良く機能するということです。
これらの3つの特性を合わせると、汎用知能を構築する上で不可欠な部分のように感じます。今持っているものをスケールアップすれば、AGIができるということではありません。明らかに欠けている部分があります。推論に対する答えが必要な欠けているアイデアがあります。しかし、ここでの核心は、初めて汎用知能が達成可能だという希望を与えるパラダイムを持っているように感じるということです。
そして、それが可能だと信じたとたん、他の全てのことが焦点を合わせてきます。私たちの生涯の中で、そしておそらく人々が期待するよりもはるかに短い期間で、これまで存在した中で最も変革的な技術を本当に構築できるかもしれないと想像すると、自分自身のことをそれほど考えなくなります。ただ、これがうまくいく世界をどのように持つかを考え始めます。
そして、組織を構築し、多くの人々とリソースを集め、人々がやる気を感じ、準備ができていると感じるようにする実用的な方法を考える必要があります。しかし、その後、もし私たちが成功したらどうなるかを考え始めます。そして、成功したときに、世界が本当に私たち自身が存在したいと思う場所になるようにするにはどうすればよいかを考えます。ほとんどリアンベールの言葉の意味で。
これが大まかな状況であり、OpenAIは本当に2015年に、AGIが人々が思うよりも早く可能になるかもしれないという高レベルの考えで形成されました。そして、私たちはそれがうまくいくようにベストを尽くす必要があります。その後、私たちは次の数年間を費やして、それが何を意味するのか、どのようにそれを行うのかを本当に理解しようとしました。
典型的な会社では、非常に小さく始まり、共同創業者と一緒に製品を作り、ユーザーを獲得し、製品市場フィットを得ます。そして、ある時点で資金を調達し、人を雇い、スケールアップします。そして、道の先で大企業があなたの存在に気付き、あなたを倒そうとします。
OpenAIの場合、基本的に全てが正反対の順序でした。少し立ち止まって、OpenAIが象徴するものの衝撃的な側面を称賛させてください。あなたが言ったように、夢を見る勇気を持つということです。それは非常に強力です。可能性について夢を見る勇気、そして前向きで安全な方法で知性を創造する可能性について夢を見る勇気は、AI コミュニティにとって非常に必要で新鮮な触媒です。それが出発点です。
では、OpenAIの形成について、最高の人々と一緒にラボを始めるのは遅すぎるのかという質問が最初にありましたね。それは実際の質問だったのですか。
はい、それが本当に核心的な質問でした。2015年7月の夕食会で、私たちが本当に時間を費やしたのはそのことでした。AIがどこにあったかを考えると、それは学術的な追求から産業的な追求へと移行していました。そのため、最高の人々の多くはこれらの大きな研究所にいました。私たちは自分たちの研究所を始めたいと思っていましたが、どれだけリソースを蓄積しても、大手テクノロジー企業と比べれば取るに足らないものでした。私たちはそのことを知っていました。そして、この事業を本当に軌道に乗せることができるのかという疑問がありました。クリティカルマスが必要で、あなたと共同創業者だけで製品を作ることはできません。本当に5〜10人のグループが必要です。そして、私たちは明らかに不可能ではないと結論付けました。だから、試してみる価値があると思いました。
あなたも夢見る人ですからね。誰にわかるでしょうか。
その通りです。では、大手プレイヤーとの競争について話しましょう。この成長のプロセスを考える中で、いくつかの難しい点があります。これらのシステムを規模を競う形で開発する方法を見出すことについてです。最近、OpenAI LPを設立し、OpenAIという名前を引き継ぐ営利企業を作りましたね。元の非営利企業はまだ存在し、OpenAI非営利という名前を引き継いでいます。この会社が何であるか、この創設の目的は何か、そしてどのようにしてこの決定に至ったのか説明してもらえますか。
はい、OpenAI全体とOpenAI LPは、人工知能がみんなの利益になることを確実にするという使命を達成しようとしています。それを達成しようとしている主な方法は、実際に自分たちで汎用知能を構築し、その利益が世界に分配されることを確実にすることです。これが主な方法です。他の誰かがこれを行うのも問題ありません。必ずしも私たちである必要はありません。他の誰かがAGIを構築し、その利益が1つの会社や1組の人々に独占されないようにすれば、私たちは実際にそれでも構いません。
これらのアイデアは、私たちの価値観とどのように運営するかを説明する基本的な文書である私たちの憲章に組み込まれています。しかし、それはOpenAI LPの構造にも組み込まれています。OpenAI LPの設定方法は、私たちが成功した場合、つまり私たちが構築しようとしているものを実際に構築した場合、投資家は利益を得ることができますが、その利益は上限があります。
AGIを考えると、本当に作り出せる価値の観点から、これまでに作られた中で最も変革的な技術について話しているのです。既存の企業よりも桁違いに多くの価値を生み出すでしょう。そして、その全ての価値は世界のものになります。法的には、その使命を果たすために非営利組織に帰属します。これが構造です。
その使命は強力なもので、ほとんどの人が同意するものだと思います。それはAIが進化していくことを私たちが望む方法です。では、どのようにしてその使命に自分自身を縛り付けるのですか。利益主導の他のインセンティブが使命を妨げないようにするにはどうすればよいのですか。
これは実際、過去数年間私たちにとって本当に核心的な質問でした。私たちの歴史を振り返ると、最初の1年は軌道に乗るのに費やしました。高レベルの絵は持っていましたが、それをどのように達成したいかは正確にはわかっていませんでした。本当に2年前に、AGIを構築するためには、非営利組織として調達できる以上の資金を調達する必要があることに気づき始めました。何十億ドルもの話です。
そこで最初の質問は、それをどのように行い、この使命に忠実であり続けるかということでした。私たちはあらゆる法的構造を調べましたが、私たちがやりたいことには全く適していないと結論付けました。このようなクレイジーな前例のない技術を行おうとしているのであれば、それを行うためにクレイジーな前例のない構造を考え出さなければならないのは、あまり驚くべきことではないでしょう。
私たちの多くの会話は、OpenAIの人々、つまりこの使命を本当に信じているからここに加わった人々との間で行われました。どのようにして実際にそれを行うためのリソースを調達し、同時に私たちが支持するものに忠実であり続けるかについて考えました。始めなければならないのは、私たちが本当に何を支持しているのか、それらの価値観は何か、私たちにとって本当に重要なものは何かについて本当に合意することです。
私たちは約1年間、OpenAIの憲章を編集することに費やしました。その中の最初の項目を見ると、「私たちは莫大なリソースを動員しなければならないと予想しているが、使命との利益相反を最小限に抑えるようにする」と書かれています。これらの全ての部分について合意することが、私たちがやる必要があることを行うためのリソースを実際に調達できる会社をどのように構築するかを理解する上で最も重要なステップでした。
OpenAI LPを作る決定は非常に難しいものだったと想像します。あなたが言及したように、1年間多くの議論があり、OpenAI内でも反対意見や、取り得る別の道筋があったのではないでしょうか。それらの懸念は何で、検討された別の道筋は何で、その決定を下すプロセスはどのようなものでしたか。
はい、実際にOpenAIの憲章を見ると、そこには2つの道筋が組み込まれています。一つは、私たち自身でAGIを構築しようとしていることです。しかし、他の誰かがそれを行っても構わないということもあります。これは会社にとっては奇妙なことですね。
実際に非常に興味深いです。競争の要素があり、自分たちがそれを行いたいと思う一方で、他の誰かがそれを行っても構わないということですね。その兼ね合い、そのダンスについて少し話しましょう。それは本当に興味深いです。
私はこれがOpenAI LPを設計する際の、そしてOpenAIの戦略の核心的な緊張だったと思います。主要なプレイヤーになるチャンスを確保すること、これは本当に組織を構築し、莫大なリソースを調達し、本当に難しいビジョンを実行する意志を持つことを必要とします。長期間にわたって多くの痛みとリスクを引き受けることに本当にサインアップする必要があります。
通常、そのためには単にスタートアップの考え方を取り入れます。どうやって全ての人を出し抜くかを考えます。非常に競争的な角度を持ちます。しかし、もう一つの角度もあります。真の使命はOpenAIがAGIを構築することではなく、AGIが人類にとってうまくいくことだと言うことです。
そして、これらの全ての最初の行動をどのように取り、実際に前向きで使命を果たすような結果への扉を閉ざさないようにするかということです。これは非常に繊細なバランスだと思います。100%一方向または他方向に行くことは、明らかに正しい答えではありません。
OpenAIについて話したり考えたりする方法についても、常に私の心の中にあるのは、単にOpenAIの目標はAGIを構築することだと言わないようにすることです。実際にはそれよりもはるかに広いのです。まず第一に、AGIだけではありません。AGIは非常に重要ですが、第二に、私たちの目標はそれを構築することではありません。私たちの目標は、それが世界にとってうまくいくようにすることです。
全てのバランスをどのように取り、人々に本当にテーブルに来てもらい、それら全てを包含する単一の文書を編集してもらうかを理解することは簡単ではありませんでした。
ここでの課題の一部は、あなたの使命が、私が言うところの美しく、力強く、研究コミュニティや単にAIについて考えている人々にとって希望の光だということです。そのため、あなたの決定は、通常の利益主導の会社よりもはるかに精査されます。憲章の作成や、単に運営の仕方において、この重荷を感じますか。
はい。なぜそのような重荷を負うような憲章を作ることを選んだのですか。なぜ静かにしておかなかったのですか。
それは本当に使命に帰着します。私がここにいる理由、そして他の全ての人がここにいる理由は、これが最も重要な使命だと考えているからです。夢を見る勇気があるからです。
営利企業であっても、世界にとって良いものを作ることができると思いますか。AGIシステムを作ることができると思いますか。私の観点からは、利益が社会への前向きな影響を妨げるとは理解できません。Googleが広告から大半の収益を得ていても、世界のために良いことができないとは理解できません。他の会社、FacebookやAmazonなども同様です。これらが干渉しなければならないとは理解できません。
私の見解では、利益は会社の影響力に影響を与えるものではありません。会社の影響力に影響を与えるのは、憲章であり、文化であり、内部の人々です。利益は単にそれらの人々に燃料を提供するものです。これについてのあなたの見解はどうですか。
はい、それは本当に良い質問です。そこには人間社会の中で長年続いている本当の議論がいくつか含まれています。私の考え方は、世界で最も影響力のある非営利組織と、最も影響力のある営利企業を考えてみることです。営利企業の方がリストアップするのははるかに簡単です。
そこには本当の真実があると思います。私たちが設定したシステム、今日の世界がどのように組織されているかのシステムは、巨大な影響を可能にするものです。その一部は、営利企業が自立し、自身のモメンタムに基づいて構築できるということです。それは本当に強力なことだと思います。
ガードレールを正しく設定していないことが判明した場合、問題を引き起こすものです。熱帯雨林を森林伐採する伐採会社のことを考えてみてください。それは本当に悪いことです。私たちはそれを望みません。
私にとって非常に興味深いのは、営利企業から前向きな利益を得る方法についての質問が、AGIから前向きな利益を得る方法についての質問と非常に似ているということです。非常に強力なシステムがあり、それは人間よりも強力で、ある意味で自律的です。多くの軸で超人的であり、何らかの形でガードレールを設定して良いことが起こるようにしなければなりません。しかし、それを行えば利益は莫大です。
非営利と営利について考えるとき、非営利では十分なことが起こらないと思います。非常に純粋ですが、単に物事を行うのが難しいのです。営利企業では、ある意味で多すぎることが起こります。しかし、適切な形で形作られれば、実際に非常に前向きになる可能性があります。
そのため、OpenAI LPでは、その中間の道を選んでいます。私たちがOpenAI LPについて考える重要なことは、AGIが実際に起こる世界、つまり私たちが成功し、これまでで最も変革的な技術を構築する世界では、私たちが生み出す価値は天文学的なものになるということです。その場合、私たちが設定した上限は、私たちが生み出す価値のごく一部になります。投資家と従業員に還元される価値の量は、かなり成功したスタートアップで起こることと似たようなものになります。
これが私たちが最適化しているケースです。成功した場合に、私たちが生み出す価値が独占されないようにすることを考えています。他の営利企業でも同様のことは可能だと思いますが、それをどのように行うかは明白ではありません。営利企業としては、株主に対する受託者責任が多くあり、単純に下すことができない決定がいくつかあります。
私たちの構造では、憲章に対する受託者責任を持つように設定しています。常に憲章にとって正しい決定を下すことができます。たとえそれが自社の利害関係者の犠牲になったとしてもです。
そのため、非営利対営利について考えるとき、本当に重要なのは非営利か営利かではなく、AGIを構築し、人類が新しい時代に入ったとき、誰が利益を得るのか、誰の生活がより良くなるのかという問題だと思います。本当に重要なのは、その答えが「全ての人」であることだと思います。
これはあなたの憲章の核心的な側面の一つですね。OpenAIだけでなく、Google、Facebook、Amazon、あるいは大規模な影響を与えている他の企業についても、人々が懸念していることの一つは、あなたの憲章が述べているように、AIやAGIの使用によって不当に力を集中させることをどのように避けるかということです。なぜOpenAIのような会社がAIシステムの全ての力を自社に保持しないのでしょうか。
憲章はどのように日々の活動に反映されるのでしょうか。
まず、大局的に見ると、私たちが会社を構築する方法は、OpenAIが取る行動を指示する力が最終的に理事会にあるようになっています。非営利組織の理事会です。理事会は特定の制限を持って設定されており、その詳細はOpenAI LPのブログ投稿で読むことができます。基本的に、理事会がOpenAI LPの統治機関となっています。そして、理事会は非営利組織の使命を果たす義務があります。これが、これらの全てのものをどのようにつなぎ合わせるかということです。
では、日々の活動ではどうでしょうか。ある意味で最も権限を与えられている個人、つまり理事会が高レベルで判断を下すことができますが、実際に実行しているのは従業員です。ここで日々技術の王国の鍵を握っている人々です。
ここでの答えは、他の会社の価値観がどのように実現されるかということとよく似ていると思います。多くはその使命を本当に信じている人々がここにいるということに帰着します。彼らは憲章を信じており、自分たちにとっては悪いかもしれないが憲章にとっては良い行動を取る意志があります。これは文化に深く根付いていることであり、正直なところ、時間が経つにつれて保持し続けなければならないものの一つだと思います。これは、人々を雇用し、OpenAIに迎え入れる方法を考える上で非常に重要な部分です。