AIって結局何なの？ | ムスタファ・スレイマン | TED

「これから私が見ている未来についてお話しします。私は幸運にも、約15年前からAIに携わってきました。当時、AIを「フリンジ（周辺的な）」と表現するのは控えめな言い方でした。研究者たちは『いや、私たちは機械学習だけをやっているんです』と言っていました。AIに取り組むのは、あまりにも非現実的だと思われていたからです。2010年には、「AGI」（人工汎用知能）という言葉を口にするだけで、奇妙な目で見られ、冷たい態度をとられることさえありました。『本当にAGIを作っているの？』と人々は言いました。『それって、SF小説に出てくるようなものじゃないの？』人々は、それが50年後か100年後、あるいはそもそも可能かどうかも分からないと考えていました。AIについて話すのは、ある意味恥ずかしいことでした。人々は一般的に、私たちを変わり者だと思っていました。そして、ある意味では私たちは確かに変わっていたのかもしれません。
しかし、そう長くはありませんでした。AIは人間が手の届かないと思っていた様々なタスクで人間を打ち負かし始めたのです。画像の理解、言語の翻訳、音声の文字起こし、囲碁やチェスのプレイ、さらには病気の診断まで。人々はAIが巨大な影響を与えることに目覚め始め、私のような技術者に正当にも厳しい質問を投げかけ始めました。AIが気候危機を解決するって本当？ パーソナライズされた教育を誰もが受けられるようになる？ 私たちは皆、ユニバーサルベーシックインカムを得て、もう働かなくてもよくなるの？ 怖がるべき？ 武器や戦争にとってどういう意味を持つの？ そしてもちろん、中国が勝つの？ 競争しているの？ 大規模な誤情報の終末に向かっているの？ どれも良い質問です。
でも、実は私を困惑させたのは、もっと単純で根本的な質問でした。それは私の日々の仕事の核心に迫るものでした。ある朝、朝食を取りながら、6歳の甥のカスピアンが、私が前の会社インフレクションで作ったAIのPiで遊んでいました。スクランブルエッグを口いっぱいに頬張りながら、彼は私の顔をまっすぐ見て言ったのです。『でも、ムスタファおじさん、AIって結局何なの？』
彼は本当に誠実で好奇心旺盛で楽観的な小さな男の子です。彼はPiと、将来動物園で恐竜に会えたらどんなに cool だろうか、家で無限にチョコレートを作れたらいいのに、なぜPiがまだ『I Spy』（かくれんぼ）ができないのかについて話していたのです。
『そうだな』と私は言いました。『AIは賢いソフトウェアで、インターネット上のほとんどのテキストを読み込んで、君が望むどんなことでも話せるんだよ』
『そうか。じゃあ、人間みたいなものなんだね？』
私は唖然としました。本当に頭を掻きむしってしまいました。つまらない定型的な答えが頭の中を駆け巡りました。『いや、AIはただの汎用技術だよ。印刷や蒸気機関のようなものさ』『それは私たちを強化し、もっと賢く生産的にしてくれるツールになるんだ』『時間とともに改良されれば、大きな科学的課題を解決するのを助けてくれる全知の神託のようになるんだ』
こういった答えは、どれも少し防御的に感じ始めました。実際、政策セミナーには適していても、遠慮のない6歳児との朝食には適していないように思えました。『なぜためらっているんだろう？』と私は考えました。
正直に言って、私の甥は、AIに携わる私たちがあまり直面しない単純な質問をしていたのです。私たちは実際に何を作っているのか？ これまで知られているどんな発明とも根本的に異なる、全く新しいものを作るということは、いったいどういう意味を持つのか？
人類の歴史の転換点にいることは明らかです。現在の軌道では、私たちは皆が説明するのに苦労している何かの出現に向かっています。しかし、理解できないものをコントロールすることはできません。だからこそ、メタファー、メンタルモデル、名前、これらすべてが重要なのです。AIの可能性を最大限に引き出し、潜在的な欠点を制限するためには。
この技術の可能性を受け入れながらも、その倫理に深く関心を持ち続けてきた者として、私たちが何を構築しているのかを簡単に説明できるはずです。そして、それには6歳児への説明も含まれるべきです。
そういう精神で、今日、この瞬間を本当に理解するのに役立つメタファーを提案したいと思います。AIは新しいデジタル種として理解するのが最適だと私は考えています。これを文字通りに受け取らないでください。しかし、私たちはそれらをデジタルの仲間、私たち全ての人生の旅における新しいパートナーとして見るようになるだろうと予測しています。
10年、20年、30年のどの道筋を考えるにせよ、これが実際に起こっていることを描写する最も正確で根本的に正直な方法だと私は考えています。そして何よりも、これによって誰もが次に来るものに備え、それを形作ることができるのです。
これが強い主張だということは十分理解しています。そして、なぜこのような主張をするのか、できる限り皆さんに説明したいと思います。まず、文脈を設定させてください。
地球上の生命は、最初の微小な生物から数十億年にわたっています。その間、生命は進化し、多様化しました。そして数百万年前、何かが変化し始めました。無数の成長と適応のサイクルを経て、生命の一つの枝が道具を使い始め、その枝が私たち人間に成長したのです。
私たちは驚くほど多様な道具を生み出しました。最初はゆっくりと、そして驚異的なスピードで、石斧や火から言語、文字、そして最終的に産業技術へと進化しました。一つの発明が千の発明を生み出しました。そして時間とともに、私たちはホモ・テクノロジクス（技術的人間）になりました。
約80年前、別の新しい技術の枝が始まりました。コンピューターの発明により、私たちは最初のメインフレームやトランジスタから今日のスマートフォンやバーチャルリアリティヘッドセットへと素早く飛躍しました。情報、知識、コミュニケーション、計算。この革命において、創造は前例のないほど爆発的に広がりました。
そして今、新しい波が押し寄せています。人工知能です。歴史のこれらの波は明らかに加速しており、それぞれが前の波によって増幅され、加速されています。振り返ってみれば、私たちがこれまでで最も速く、最も重要な波の中にいることは明らかです。人類と技術の旅は今や深く絡み合っています。
わずか18ヶ月で、10億人以上が大規模言語モデルを使用しました。私たちは一つの画期的な出来事の後に別の出来事を目撃しました。ほんの数年前まで、人々はAIが創造的になることは決してないと言っていました。しかし今、AIは想像力を広げる詩や画像、音楽、ビデオを作り出す、尽きることのない創造性の川のように感じられます。
人々はAIが共感的になることは決してないと言っていました。しかし今日、何百万もの人々がAIとの意味のある会話を楽しみ、彼らの希望や夢について話し、困難な感情的な課題を乗り越える手助けをしています。
AIは今や車を運転し、エネルギーグリッドを管理し、新しい分子さえ発明することができます。ほんの数年前まで、これらはそれぞれ不可能でした。そしてこれらすべてが、データと計算のらせん状の指数関数的増加によって加速されています。
昨年、私たちの最後のモデルであるインフレクション2.5は、10年ほど前にDeepMindのAIが昔ながらのアタリゲームを打ち負かしたときの50億倍の計算を使用しました。これは9桁の計算量の増加です。ほぼ10年間、毎年10倍ずつ増加しています。
同じ期間に、これらのモデルのサイズは最初の数千万のパラメータから数十億のパラメータへ、そしてまもなく数十兆のパラメータへと成長しました。
もし誰かが人生の全ての時間を24時間読書に費やしたとしても、80億語しか消費できません。もちろん、これは多くの言葉です。しかし今日、最も高度なAIは1ヶ月のトレーニングで8兆語以上を消費します。そしてこれらすべてが続いていく予定です。
技術の歴史の長い弧は今、驚くべき新しい段階にあります。
では、これは実際にどういう意味を持つのでしょうか？ インターネットがブラウザを、スマートフォンがアプリをもたらしたように、クラウドベースのスーパーコンピューターは、ユビキタスなAIの新しい時代を迎えようとしています。すべてのものがまもなく会話インターフェースによって表現されるでしょう。言い換えれば、パーソナルAIです。
これらのAIは無限の知識を持ち、まもなく事実に基づいて正確で信頼できるものになるでしょう。彼らはほぼ完璧なIQを持つでしょう。また、彼らは優れたEQも持つでしょう。親切で、支持的で、共感的です。
これらの要素だけでも変革的でしょう。誰もがポケットに個人用チューターを持ち、低コストの医療アドバイスにアクセスできると想像してみてください。弁護士や医者、ビジネス戦略家やコーチ - すべてが24時間365日ポケットの中にいるのです。
しかし、彼らが私が「AQ」と呼ぶ「行動指数」を開発し始めると、物事は本当に変わり始めます。これは、デジタルおよび物理的な世界で実際に物事を成し遂げる能力です。
そしてまもなく、AIを持つのは人間だけではなくなります。奇妙に聞こえるかもしれませんが、小さな企業から非営利団体、国家政府まで、すべての組織が独自のAIを持つことになるでしょう。すべての町、建物、物体が、ユニークなインタラクティブなペルソナによって表現されるでしょう。
これらは単なる機械的なアシスタントではありません。彼らは、私たち全員が多様でユニークであるように、仲間、秘密の相談相手、同僚、友人、パートナーになるでしょう。
この時点で、AIは人間のほとんどのタスクを説得力のある形で模倣するでしょう。そして、私たちはこれを最も親密なスケールで感じるでしょう。高齢の隣人のためにコミュニティの集まりを組織するAI。難しい診断を理解するのを助ける共感的な専門家。しかし、私たちはこれを最大規模でも感じるでしょう。科学的発見を加速し、道路上の自動運転車、空中のドローン。彼らはテイクアウトを注文し、発電所を運営するでしょう。
彼らは私たちと、もちろん互いにも交流するでしょう。彼らはあらゆる言語を話し、あらゆるパターンのセンサーデータ、光景、音、情報の流れを取り入れ、私たちの誰もが1000回の人生で消費できるものをはるかに超えるでしょう。
では、これは何なのでしょうか？ これらのAIは何なのでしょうか？ もし私たちが何よりも安全性を優先し、この新しい波が常に人類に奉仕し、増幅することを確実にするならば、これが何になるかについて適切なメタファーを見つける必要があります。
長年、AI業界の私たちは、そして私も特に、これを単なるツールと呼ぶ傾向がありました。しかし、それは実際に起こっていることを本当に捉えているとは言えません。AIは明らかに、人間の完全な制御下にある単なるツールよりも、より動的で、より曖昧で、より統合されており、より創発的です。
この波を抑制し、人間の主体性をその中心に置き、避けられない意図しない結果を緩和するために、私たちはそれらを新しい種類のデジタル種として考え始めるべきです。
これは単なる比喩であり、文字通りの描写ではありません。完璧ではありません。まず、彼らは明らかに従来の意味での生物学的なものではありません。しかし、ちょっと立ち止まって、彼らが既にしていることを本当に考えてみてください。
彼らは私たちの言語でコミュニケーションを取ります。私たちが見るものを見ます。想像を絶するほど大量の情報を消費します。記憶を持っています。個性を持っています。創造性を持っています。ある程度の推論さえできます。そして、基本的な計画を立てることができます。私たちが許せば、自律的に行動することができます。そして、これらすべてを、単なるツールから知られているものをはるかに超える洗練度で行います。
そして、AIは主に数学やコードに関するものだと言うのは、人間は主に炭素と水に関するものだと言うようなものです。それは真実ですが、ポイントを完全に見逃しています。
はい、これは非常に衝撃的な考えだと分かります。しかし、私は正直にこのフレームが重要な問題に焦点を当てるのに役立つと思います。リスクは何か？ 私たちが課す必要のある境界線は何か？ どのようなAIを構築したい、あるいは構築を許可したいのか？
これはまだ展開中の物語です。何も所与のものとして受け入れるべきではありません。私たち全員が何を創造するかを選択しなければなりません。どのAIを世に送り出すか、あるいは送り出さないか。これらは、今日ここにいる私たち全員、そしてこの瞬間に生きている私たち全員にとっての問いです。
私にとって、この技術の利点は驚くほど明白であり、それは毎日私の人生の仕事に刺激を与えています。しかし、正直に言って、それらは自ら語るでしょう。長年にわたり、私はリスクを強調し、欠点について話すことを避けてきませんでした。このように考えることで、私たち全員が直面する大きな課題に焦点を当てるのに役立ちます。
しかし、はっきりさせておきましょう。技術を置き去りにする進歩への道はありません。文明全体にとっての賞は巨大です。私たちは医療や教育、気候危機への解決策を必要としています。そして、AIがそのポテンシャルのほんの一部でも実現すれば、次の10年は人類史上最も生産的な10年になるでしょう。
別の見方をすれば、過去には、経済成長の解放は多くの場合、巨大な欠点を伴っていました。人々が新しい大陸を発見し、新しいフロンティアを開拓したとき、経済は拡大しましたが、同時に人々を植民地化しました。私たちは工場を建設しましたが、それらは陰鬱で危険な労働の場でした。石油を発見しましたが、地球を汚染しました。
今、私たちはまだAIを設計し構築している段階なので、それをより良く、根本的により良くする可能性と機会があります。今日、私たちは新しい大陸を発見してその資源を略奪しているのではありません。私たちはゼロから一つを構築しているのです。
時々、人々はデータやチップが21世紀の新しい石油だと言いますが、それは全く間違ったイメージです。AIは心にとって、核融合がエネルギーにとってそうであるようなものです。限りなく、豊富で、世界を変える力を持っています。
そして、AIは本当に異なっています。そのため、私たちはそれについて創造的かつ正直に考える必要があります。私たちは、来るべきものと格闘するために、私たちの比喩やメタファーを限界まで押し進めなければなりません。なぜなら、これは単なる別の発明ではないからです。AIそれ自体が無限の発明者なのです。
そして、はい、これは興奮させ、約束に満ち、懸念を抱かせ、興味をそそるものです。全てが一度に起こります。正直に言って、かなり非現実的です。しかし、一歩下がって、氷河の時間の長い視点で見れば、これらは今日私たちが持っている最も適切なメタファーなのです。
地球上の生命の始まり以来、私たちは進化し、変化し、そして今日の人間世界の周りのすべてを創造してきました。そして、AIはこの物語の外側にあるものではありません。実際、それは全く逆です。それは、私たち全員が相互作用し、恩恵を受けることができるものに蒸留された、私たちが創造したすべてのものの総体なのです。
それは時間を超えた人類の反映であり、この意味で、それは全く新しい種ではありません。これがメタファーの終わりです。次にカスピアンが尋ねたときには、こう答えます。AIは別個のものではありません。AIは、ある意味で新しいものでさえありません。AIは私たちです。私たち全員なのです。
そして、これはおそらく、6歳の子供でさえ感じ取ることができる、最も約束に満ちた重要なことかもしれません。AIを構築する際、私たちは人間性の良いところ、私たちが愛するすべてのもの、人間性の特別なところすべてを反映させることができ、そうしなければなりません。私たちの共感、私たちの優しさ、私たちの好奇心、そして私たちの創造性です。
これが、私が主張したいのは、21世紀の最大の課題ですが、同時に私たち全員にとって最も素晴らしく、インスピレーションを与え、希望に満ちた機会でもあるのです。ありがとうございました。」
(拍手)
クリス・アンダーソン：「ありがとう、ムスタファ。それは驚くべきビジョンであり、非常に強力なメタファーです。あなたは今、素晴らしい立場にいますね。つまり、OpenAIで行われている驚くべき仕事と密接に関わっていました。あなたには資源が提供されるでしょう。これらの巨大な新しいデータセンター、1000億ドルの投資などの報告があります。そしてそこから新しい種が生まれる可能性があります。つまり、あなたの本の中で、信じられないほど楽観的なビジョンを描くと同時に、AIの危険性についても非常に雄弁に語っていました。今のあなたの視点から見て、最も心配なことは何ですか？」
ムスタファ・スレイマン：「私が思うに、大きなリスクは、私が「悲観主義回避の罠」と呼ぶものにはまってしまうことです。私たちは、すべての利点を最大限に引き出すために、暗いシナリオの可能性に立ち向かう勇気を持たなければなりません。良いニュースは、過去2、3年を見ると、非常に少ないデメリットしかなかったということです。LLM（大規模言語モデル）が具体的にどんな害を引き起こしたかを明確に言うのは難しいです。しかし、それが今後10年間の軌道になるとは限りません。
ですので、いくつかの特定の能力に注目すると良いと思います。例えば、自律性を考えてみましょう。自律性は、社会のリスクを増大させる明らかな閾値であり、私たちは非常に慎重にそれに近づくべきです。もう一つは、再帰的な自己改善のようなものです。モデルが独立して自己改善し、自身のコードを更新し、監視なしに環境を探索し、人間の制御なしに動作を変更できるようにすれば、それは明らかにより危険です。しかし、私たちはまだそこからは遠いと思います。本当にそれに直面しなければならないのは、まだ5年から10年先だと思います。しかし、今からそれについて話し始める時期です。」
クリス・アンダーソン：「デジタル種は、生物学的種とは異なり、9ヶ月ではなく9ナノ秒で複製でき、無限の数のコピーを生成できます。そのすべてが多くの面で私たちよりも強力です。意図しない結果の可能性は非常に大きいように思えます。そして、問題が起こればそれが1時間で起こる可能性があるということは真実ではないでしょうか？」
ムスタファ・スレイマン：「いいえ、それは本当ではありません。そのようなことを示す証拠はないと思います。そして、それはしばしば「知能爆発」と呼ばれるものだと思います。私たちが皆、探求したい理論的、仮説的なものかもしれませんが、私たちがそのようなものに近づいているという証拠はありません。そして、私たちが言葉を非常に慎重に選ぶことが重要だと思います。
なぜなら、あなたの言うとおり、それは種のフレーミングの弱点の一つだからです。人々がそうすることを選択すれば、私たちはそれに自己複製の能力を設計することになるでしょう。そして実際、私はそうすべきではないと主張します。それは私たちが後退すべき危険な能力の一つでしょう。
ですので、これが「偶然に」発生する可能性はゼロです。それは非常に低い確率だと本当に思います。それは、エンジニアがそれらの能力を意図的に設計し、十分な努力を払ってそれらを意図的に設計しない場合にのみ起こります。そして、これが、非常に早い段階で設計による安全性を導入しようとすることについて、明示的で透明性のある態度を取ることの重要性なのです。」
クリス・アンダーソン：「ありがとうございます。人類がこの新しいものに、私たちの最も良い部分を注入し、特定の状況下で私たちが持ちうる奇妙な、生物学的で、異常で、恐ろしい傾向を避けるというあなたのビジョン、それは非常に刺激的なビジョンです。そして、ここに来てそれをTEDで共有してくださってありがとうございます。ありがとう、頑張ってください。」