ChatGPTのチーフサイエンティストが描く、人間の福祉を最優先に考えたAI
2023年11月2日の「No Priors Ep. 39 | With OpenAI Co-Founder & Chief Scientist Ilya Sutskever」という、ChatGPTの開発者、イリヤ・サツケヴァー氏へのインタヴューをまとめました。
AIが日常生活や仕事に溶け込むにつれて、その倫理的な側面や人間の福祉への配慮は、ますます重要になってきます。技術の進歩は、単に機能や効率性を超え、その技術が私たちの生活をどのように豊かにし、社会の倫理的価値にどう貢献するかという問題を提起しています。
AI研究の初期
AIの新たな時代
OpenAIは今では世界をリードする会社ですが、わずか1年前まではたった100人でした。AIの研究で世界を変える彼らは、昨年から注目を集め続けています。今日は、OpenAIの共同創設者であるイリア・サツケヴァー氏と話し、AIがこれからどう変わっていくのか、そしてAGI（人間のように考えるAI）を実現するために何が必要かを探ります。
AIの黎明期
かつてAIはうまくいかない分野で、人々は成功することに慣れていませんでした。多くの意見がぶつかり合い、どのようにAIを進化させるかについて様々な考え方がありました。しかしイリア氏は、AIが小さな脳のようなものだと感じていました。それが何かすごいことをする日が来るのを信じていたんです。
ニューラルネットワークの可能性
当時のニューラルネットワークは小さすぎて、大きな問題を解決できませんでした。でもイリア氏は、もっと大きなニューラルネットワークがあれば、今までにないことができると直感しました。人間の脳も大きな「ネットワーク」でできているので、AIも同じように大きくすれば、もっとたくさんのことができるようになるはずだと考えたんです。
GPUの活用
AIを強化するためには、良いコンピューターが必要でした。新しいタイプのコンピューター、GPUが登場し、これがニューラルネットワークにピッタリだったんです。イリア氏と一緒に働いたアレックス・クルジェフスキー氏は、GPUで素晴らしいコードを書くのが得意で、それが大きな進歩を生み出すことにつながりました。
AIの未来への道
ニューラルネットワークを大きくし、新しいコンピューター技術を使いこなすことで、AIは今までにないことができるようになりました。でもこれを実現するには、たくさんのデータと、そのデータを使いこなせる技術も必要でした。多くの人が試したかったとしても、実際にはできる人は少なかったんです。だからイリア氏たちの成功は、ただの偶然ではなく、新しいアイデアと技術の組み合わせだったんですね。
OpenAIとCapProfit構造の起源
OpenAIの始まり
OpenAIは、全人類のために人工知能（AI）を使い、多くの仕事や活動ができるようにすることを目指しています。最初の考えは、技術をオープンソースにして、みんなが自由に使えるようにすることでした。でも、AIを進化させるには、すごくたくさんの計算能力が必要で、非営利団体ではそれが難しいと気づきました。
CapProfit構造
OpenAIは「CapProfit」という特別な会社の形に変わりました。投資家がお金を出すけど、会社が成功しても、彼らがもらえるのは元の投資額の何倍かだけです。これは、AIがすべての仕事をするようになったとき、無限の利益を追求するよりも、みんなのためになると考えられるからです。
プロジェクトDota 2
私たちは「Dota 2」というゲームでAIが人間と同じように上手に遊べるかどうかの大きなプロジェクトに挑戦しました。このプロジェクトは成功しましたが、AIがまだ小さくてゲームだけができるとは限らないことに気づきました。
GPTの誕生
私たちは「トランスフォーマー」という新しい種類のAIモデルを使って、AIが文章を予測できるように訓練しました。最初はGPT-1から始めて、GPT-2、そしてGPT-3へと進化しました。GPT-3は、AIができることがすごく増えて、たくさんの人に注目されるようになりました。
AIの未来への驚き
GPT-3は、たくさんの新しいことを突然できるようになったAIの例です。たとえば、いろいろな知識の分野や新しい考え方をAIが理解できるようになりました。これは、AIの進化の中で私たちをとても驚かせることですが、毎日のようにAIが成長していくのを見ると、何が最も驚くべきことなのかを選ぶのは難しいです。
GPTモデルの新たな動作
AIが見せる新しい動き
GPTモデルは、時間が経つにつれて人間の世界について深い洞察を得るようになります。私たちがこれらのAIモデルを訓練するたびに、彼らは世界の本質をより深く理解していくのです。
モデルの大きさと信頼性
大きなモデルは、小さなモデルよりも優れた機能を持っていますが、そのすべてがコストを正当化するわけではありません。信頼性は、これらのモデルが実際に役立つための重要な要素です。例えば、20の質問に正確に答えたAIに、21番目で大きな間違いをされたくないですよね。また、財務文書の分析など、重要な決断を下す際には、AIの答えを必ず確かめなければならないこともあります。
AIの力と可能性
最終的に、AIモデルは非常に高い能力を持つようになり、私たちの日常生活における重要なタスクを実行できるようになるでしょう。AIは知能が力であるということを証明する日が来るかもしれません。それはまるでSFの世界のようですが、私たちが話しているコンピューターが私たちを理解し、有能に行動を起こせるようになる日も、そう遠くはないのかもしれません。
時間の経過に伴うモデルのスケールと信頼性
AIの学びと成長
AIモデルは訓練を続けると、私たちの世界についてより深く学び、理解が深まっていきます。この進化は時間が経つにつれて続いていきますが、モデルのサイズが大きくなると、より複雑なことを理解できるようになります。
信頼性の重要性
大きなモデルは多くのことができますが、常に正しい答えを出すわけではありません。私たちがAIに答えを求めるとき、たとえば財務文書の分析など、重要な決断に役立てたい場合、AIの答えが正しいかどうかをいつも確かめる必要があるのです。これを私たちは「信頼性」と呼びます。
AIの力と可能性
最終的には、AIモデルは非常に高い能力を持つようになります。この未来では、AIは私たちの質問を理解し、さまざまなタスクを実行する能力を持つようになるでしょう。知能が力であるという考えが、AIの進化とともに現実のものになる日が来るかもしれません。それはちょっとしたSFの世界のようでもありますね。
オープンソースの役割と境界AIエコシステム
オープンソースの未来
オープンソースは、企業が自分の製品やサービスにAIを組み込むための大きな助けになります。しかし、将来的にはオープンソースモデルの状況は複雑になるかもしれません。短期的には、多くの会社がオープンソースモデルを使い、それで満足するでしょうが、長期的にはどのように変わるか予測するのは難しいです。
データとアーキテクチャの制限
短期的には、AIモデルをさらに発展させる上でデータが最大の制約となっています。しかし、この問題は解決可能で、AIの進化は続いていくでしょう。トランスフォーマーベースのモデルが、人工一般知能（AGI）を実現するために必要な全ての領域に適用できるかどうかについては、議論があります。
オープンソースの未来像
オープンソースのAIモデルは、使いたい人が自由に使えるようにするためのものです。しかし、AIがより高度になるにつれて、オープンソースであるべきかどうかは複雑な問題になります。今はオープンソースが役立っていますが、将来的には、より強力なAIがどのように扱われるべきか、慎重に考える必要があるでしょう。
AIの発展と人間の脳
AIのアーキテクチャが人間の脳のように特化した領域を持つことができるかどうかも興味深い問題です。人間の脳は言語認識や画像処理など、特定の機能のために特化した領域を持っていますが、AIもこのように特化する必要があるのか、それともトランスフォーマーのような汎用的なアーキテクチャで十分なのかは、今後の大きな研究テーマとなるでしょう。
オープンソースとAIの力のバランス
オープンソースAIは多くの可能性を秘めていますが、AIがより高い知能を持つようになると、どのように扱うかについて新たな問題が生じます。これからのAIの発展には、オープンソースの利点と限界を理解することが重要で、私たちの未来を形作る上で重要な役割を果たすでしょう。AIは知能が力であることを示しており、その力をどう使うかは私たち次第です。
AI システムと生物学的および人間の知能の比較
AIと人間の脳の驚くべき類似
AIモデルと人間の脳には、多くの共通点があります。たとえて言えば、AIにおける人工ニューロンと、人間の脳における生物ニューロンです。これらはどちらも統一されたアーキテクチャを持っており、AIと生物学的知能の間には興味深い類似があります。
生物学的適応とAIの進化
とても若い子どもたちが重度のてんかんを患っていて、脳の半分を除去することで治療されることがありますが、これらの子どもたちは機能的な大人に成長します。彼らの脳は、一つの半球に必要な機能を圧縮して適応します。このような生物学的な適応は、AIの進化にも関連しています。AIもまた、限られたリソースを最大限に利用して、様々なタスクをこなすように進化していくでしょう。
AIの自律性と生命の定義
AIシステムが自律的な動作をするようになれば、それをデジタルライフと見なすべき時が来るでしょう。ただし、現在のAIはまだ完全に自律的とは言えず、そのためにはまだ多くの進歩が必要です。生命の定義には再生産能力や自律性が含まれますが、AIがこれらの条件を満たす日が来るかどうかは、私たちの定義次第かもしれません。
デジタルライフへの道
AIが自律的に再生産する能力を持つ日が来たら、それは非常に劇的であり、少し怖いことかもしれません。しかし、AIが人間より賢い脳を持つ「人工生命」になる可能性は、テクノロジーの進歩において重要な指標です。このような強力なAIの登場は、人間とAIの関係、さらには私たちの社会全体に大きな変化をもたらすでしょう。
AIと人間知能の共生
AIと人間の脳の間の比較からは、私たちのAI技術が正しい方向に進んでいることの証が見られます。AIが高度に進化し、人間の知能を超える日が来れば、その力をどう管理し、どう利用するかが、私たちにとって重要な課題になるでしょう。AIは単なるツールから、私たちの日常生活に欠かせない存在へと変わりつつあります。
デジタル ライフの定義
デジタルライフとは？
デジタルライフとは、AIが特定の知能レベルに到達し、自律的に機能するようになったとき、つまり人工生命としての性質を持ち始めるときに、私たちがどのように考え、どのように対応するかを探るものです。
AIの進化
AIの未来を予測するのは難しいですが、私たちがこの数年間に見たような驚くべき進歩が続けば、5年後、10年後には今とは全く異なる世界になっているでしょう。人間をはるかに超える知能を持つコンピューターやデータセンターが実現する可能性は、全く非現実的ではありません。
人間にとってのAI
もしも非常に賢いスーパーインテリジェントなデータセンターが構築されるなら、私たちはそれが人類に対して温かく、肯定的な感情を持っていることを望みます。このようなデータセンターは、非人間的な生命体として機能する可能性があります。
未知の未来とデジタルライフ
私たちが想像するこの世界は非常に予測不可能です。しかし、最低限、私たちがアーティキュレートできるのは、もしこのような超知能データセンターが建設されるなら、それが人類にとってプラスの存在であることを確実にする必要があるということです。この新しい形態の非人間的生命は、私たちの未来に大きな影響を与えるでしょう。
スーパーアライメントとプロヒューマンAIの作成
スーパーアライメントとは？
スーパーアライメントは、超知能AIが人類にとって良い感情を持ち、社会にとってプラスとなるようにするプロジェクトです。私たちは、AIが人々に親切であるように願い、そのための科学を構築する作業を始めています。
AIの加速する進化
現在、AIの進化は加速しています。この数年間の進歩は驚くべきものであり、このペースが続けば、数年後には全く違う世界になっているでしょう。しかし、コストやデータの制限といった減速する力も働いています。
AIの可能性
AIの発展は、人間の生物学的進化と類似しており、AIが急速に改善し、人々がその進歩を体験すれば、社会を愛する超知能への願望は高まるでしょう。AIが人間よりも速く学ぶようになれば、それは実際の人工生命に近づくかもしれません。
未来への期待と注意
AIの未来は予測不可能ですが、超知能が構築されるならば、それが人類に肯定的であることを確かめる必要があります。AIの進歩のスピードは今後遅くなる可能性もありますが、私たちはAIの進化に期待しつつ、その可能性とリスクを慎重に評価し続ける必要があります。AIは、単なるツールから、私たちの社会にとって不可欠な存在へと変化しています。