マックス・テグマーク: AIは人間の知能を超えるのか?

20,869 文字

AIの進歩に関して賭けをするのは非常に危険です。私のグループは約8年前に物理学からAI研究へと移行しましたが、5、6年前まで、ほとんどの私のAI研究仲間はChat GPT-4のような性能のものは数十年先だと予測していました。決して「無理だ」とは言わないようにしましょう。
では、あなたの最初の著書からの引用を基に話を進めていきましょう。そこであなたは次のように述べています。「そのような超知能マシンを構築できるとすれば、最初のものは私たちが書いたソフトウェアによって深刻な制限を受けるでしょう。そして、人工知能を最適にプログラミングする方法についての理解不足を、私たちの脳よりもはるかに大きな計算能力を持つハードウェアを構築することで補うことになるでしょう。結局のところ、私たちのニューロンはイルカのものと比べて優れているわけでも数が多いわけでもなく、ただ異なる接続をしているだけです。これはソフトウェアがハードウェアよりも重要になり得ることを示唆しています。」
ここで質問させてください。アルベルト・アインシュタインが人生で最も幸せな考えと述べたこと、つまり「自由落下する観測者は重力場を感じない」という考えについて。彼はそれを「わくわくするような感覚」と表現しましたが、人工知能のハードウェアやソフトウェアに、幸せとは何かということや、自由落下時の感覚がどのようなものかを教えることはできるのでしょうか?
つまり、私たちの人工知能は、具現化の欠如や、人々が持つような神学的に導かれた感情や感覚の欠如によって制限されているのでしょうか? 言い換えれば、AIは新しいアルベルト・アインシュタインを生み出すことができるのか、新しい物理法則を生み出すことができるのでしょうか?
現時点では不可能です。しかし、10年以内、おそらく2年以内には可能になるでしょう。AIの分野で起こりそうな驚くべきことについて話す際に覚えておくべき重要なことは、私たちは現在のChat GPT-4のようなAIについて話しているのではなく、来年、あるいは3年後のAIについて話しているということです。ポケット電卓やゲーリー・カスパロフをチェスで打ち負かしたAIについて話しているわけではありません。
劇的な進化がありました。最初は、チェスでは私たちを打ち負かすことはできても、それ以外のことはほとんどできない非常に限定的なAIシステムから始まりました。今では、多くの人々を人間だと思わせるほど言語と知識を習得し、チューリングテストに合格できるようなものになっています。しかし、それらはまだ非常に受動的で、オラクルのように振る舞います。質問すれば答えを返し、面白い画像を作ることもできます。
今年、私たちは目標を持ち、インターネット上で活動したり、様々な種類のロボット（地上、海上、空中）を操作したりする、より主体的なAIを作ろうとする爆発的な試みを目にしています。
まもなく、ほとんどのAIが学習する際のデータ入力は、テキストのような単一のモダリティではなく、非常にマルチモーダルになるでしょう。私たちと同じように、ブライアン、あなたは常に網膜から視覚データを約1メガビットまたは1メガバイト/秒で取り込み、音響データ、感覚データ、温度、圧力などを取り込んでいます。匂いや味なども同様です。そしてそれらすべてを統合しているのです。
これが私たちが「具現化」と呼ぶものです。あなたの脳は、耳や目からやってくるすべての電気信号によって訓練されています。脳にとっては、それらはすべて同じ種類の電気信号です。耳からか目からかは解釈の問題です。夢を見ているときでも、それが偽物であっても具現化されているように感じるのはそのためです。
このような種類のデータを供給し、それをAIの訓練に使用することで、実際にロボットの体の中にいなくても、人間と同じような洞察や、潜在的には感情や直感を発達させることができます。さらに、例えばテスラの車両群全体が、まさにロボットの体を持ち、すべての感覚入力を訓練に使用しているということを考えてください。
まもなく人型ロボットの爆発的な増加を目にすることになるでしょう。それらがTwitterに溢れ始めているのを既に目にしていると思います。近々、Optimusも登場するでしょう。
簡単に言えば、もちろんAIが進歩すれば、私たちが行うすべての科学的研究を行うことができるようになります。人間の脳に何か特別なものがあり、決して考えを超えられないと考える人もいるかもしれません。しかし、私は正直なところ、AI革命全体を支えている最大の洞察は、私たちの脳が生物学的なコンピュータであり、より速く、より優れたコンピュータを構築する方法が他にもたくさんあるという洞察だと思います。
また、最初に指摘したように、私たちが構築するAIシステムには、脳と比べて本当に使えないソフトウェアが入っているということも全くその通りです。Chat GPT-4のような何かを使用すると、同じタスクを実行するために、あなたの脳の何千倍ものエネルギーを使用します。
今日、私たちの大規模言語モデルやその他のAIツールに使用しているシステムアーキテクチャ、いわゆるトランスフォーマーなどは、物理的に可能なものと比べると信じられないほど愚かです。
したがって、AGIが人間よりも優れてすべての仕事をできるようになったときに最初に起こることの1つは、AIリサーチの仕事を私たちよりも優れてこなし、「ああ、ハードウェアを1000倍効率的にリデザインできる」「AIソフトウェアやアーキテクチャを大幅に効率的にリデザインできる」と気付くことです。そしてブーム、突然、私たちの能力を大きく超えるものが現れるのです。
私が取り組んでいるプロジェクトについて話したいと思います。まもなく論文を提出する予定ですが、それは常に危険な発言ですね。アインシュタインが popularized した思考実験に関するものです。
シナリオはこうです。あなたは1800年代半ばの天文学者です。水星の軌道の歳差は現在、古典力学の問題とされています。当時の天文学者たちは、水星の軌道の歳差率について、予測値と観測値の間に1世紀あたり約40秒角の違いがあることを測定していました。この説明のつかない現象について、現在の説明はありません。
私たちは、これを大規模な機械学習システム、ニューラルネットワーク、TensorFlowなど、21世紀の技術のすべてを投入して、AIが重力に関する全く新しい概念を生み出すかどうか、つまり重力は力ではなく時空の湾曲の副産物であるという考えを生み出すかどうかを見てみることにしました。
私たちは障害に遭遇しました。そして、あなたのメガマインドで、その障害が何だと思うか聞きたいと思います。実は、これは私をAIの未来についてずっと不安にさせなくなった要因なのです。このような研究の障害に遭遇して楽観的になるのは珍しいことですが、この問題の定式化に何が問題があると思いますか?
基本的に、私たちは観測データから重力の全く新しいパラダイムを導き出そうとしています。JPLのデータベースなどを使用して、10世紀以上前までさかのぼるデータがあります。この問題で最も可能性の高い障害は何だと思いますか?
私は、あなたが使用したAIモデルのアーキテクチャが何なのかは正確には分かりませんが、おそらくまだコーネマンが言うところのシステム1の段階にとどまっていると思います。重みを調整してデータに適合させようとしていますが、コーネマンがシステム2と呼ぶような象徴的な推論は使用していません。
現在、AIについて考えるとき、私たちはこれらのニューラルネットワークを最新の現代的なものとして考え、象徴的なものを古いものとして考える傾向があります。なぜなら、私たち人間が作った電卓は非常に古風に見えますが、象徴を操作することはできました。しかし、進化では全く逆でした。
今、犬を飼っていますか? まもなく飼う予定です。どうやって知ったんですか? タイムマシンで...でも、犬はテニスボールを上手にキャッチしますよね。イーグルは私よりもはるかに優れた視覚を持ち、視覚画像を分析する能力も優れています。これらはすべてシステム1のことです。
これは、人間を地球上のアルファ種にしているものではありません。私たち人間が他のどの言語よりも優れているのは、この直感的な理解を持ち、データに適合し、そこにパターンを見出し、それを象徴的な記述に抽象化する能力です。
ガリレオが4歳のとき、父親が彼にボールを投げると、彼も他の子供のようにそれをキャッチすることができました。しかし、大人になったとき、彼は「待てよ、これらは常に同じ形をしているな。これは放物線だ。y=x²という式で書くことができる」と気付きました。そして、それを友人や同僚に数学言語やイタリア語やラテン語で伝えることができました。
私たち人間をユニークにしているもの、インターネットを発明したのが人間であって犬ではない理由は、まさにこれです。私たちはシステム1だけでなく、象徴的に推論する能力も持っています。まずシステム1からの直感を得て、それを抽象化し、象徴的な表現を抽出することができます。「この曲がった時空かもしれない、ここではユークリッド空間を捨てる必要があるかもしれない」などと考え、アインシュタインの理論を書き下し、他者と共有することができるのです。
これが、私たちがまだAGIを持っていない残された理由です。多くの人々が今取り組んでいますが、私たちは今、ある種の分裂した状況にあります。大規模言語モデルで大きなブレークスルーを果たしましたが、両者はまだ本当には communicateしていません。
大規模言語モデルは内省して自分の脳がどのように機能しているかを理解し、それについて記述することはできません。大規模言語モデルがテニスボールをキャッチするように訓練されたとしても、中を覗いて必ずしも式を見つけ出すことはできないでしょう。データから直接発見することはできるかもしれません。
だから、あなたや一緒に研究している学生を責めるべきではないと思います。ある意味で、AIはまだそこまでは到達していません。その方向に向かっていると思いますが。
Hey curious minds、今日のゲスト、マックス・テグマークのような方なら、宇宙がどのように機能し、なぜ数学が自然の言語なのかを疑問に思ったことがあるでしょう。幸運なことに、今日のエピソードは、私たち生涯学習者や問題解決者のための究極の遊び場、Brilliantがスポンサーです。
Brilliantは単なる別の学習プラットフォームではありません。今日のゲスト、マックス・テグマークが行うように、量子力学に取り組んだり、ニューラルネットワークの謎を解き明かしたりしながら、楽しむことができる導かれた旅路なのです。はい、その通りです。学習は本当に楽しいものになり得るのです。
Brilliantアプリは、ソーシャルメディアでのドゥームスクロールをし過ぎたときに特に便利な、私のiPhoneのお気に入りのアプリです。しかも、実際にためになります。
Brilliantの特徴は何でしょうか? それは、受動的な講義やビデオを見るのではなく、インタラクティブな実践的な問題解決に飛び込むというユニークなアプローチです。それは、あなたの分析力を鍛える精神的なジムのようなものです。
数学、プログラミング、データ、AIコースを通じて、好奇心を理解に変え、実世界のスキルを構築し、直感を養うことができます。私はちょうど「LLMsの仕組み」コースを終えたところで、Chat GPTのような大規模言語モデルの内部を覗くことができました。
今日最も印象的な技術を支えるコンセプトを理解するだけでなく、彼らの指導の下で、ステップバイステップの魅力的で楽しいプロセスを使って、私自身のLLMを作るのも楽しかったです。私はそれをBbotと名付けました。Bbotはおそらく近いうちにチューリングテストには合格しないでしょうが、作業を通じて、私たちの時代で最も transformativeな技術への理解を深めることができました。
Brilliantは、私のような教授だけでなく、すべてのレベルに対応しています。好奇心旺盛な初心者でも、スキルを磨きたいベテランでも、誰にでも何かがあります。最も良い点は、自分のペースで、いつでもどこでも学べることです。
実際、私の10代の息子は今、MaxのようになろうとLLMsやニューラルネットワークについて学び、最も重要なことは、アプリでの私のハイスコアを破ろうとしています。彼と私は毎日使っています。私はモバイルアプリを使い、彼はデスクトップを使って、互いにより多くのポイントを獲得しようと挑戦し合っています。
さて、The Impossibleの視聴者のための独占オファーがあります。brilliant.org/DrBrianKeingにアクセスすると、年間プレミアムサブスクリプションが20%オフになります。これは、Brilliantの詳細なコースと毎日のチャレンジへの1年間の無制限アクセスです。
お待ちにならないでください。brilliant.org/drbriankeingにアクセスして、より優れた、より好奇心旺盛なあなたになる旅を始めましょう。
では、Maxとの impossibly delightfulな会話に戻りましょう。
私の唯一の反論は、私たちは実際にはLLM側を使用していないのですが、制限は現在のAIが最悪の状態であり、指数関数的に成長しているということです。私はこの話をある会議でしたとき、デイビッド・バーリンスキーやピーター・ティールなど他の人々もいましたが、彼らの意見は、これは現在のAIが最悪の状態であり、指数関数的に増加する速度で成長しているというものでした。
私は「ちょっと待ってください。AIが良くなっているのは、トレーニングデータセットとトレーニングデータの効率が向上しているからです。AIsが他のAIsを訓練する、私が『狂牛病問題』と呼ぶもの、それは脳の腐敗やゾンビAIsにつながります。そして、Twitterで見るものの大部分がボットによって書かれているゾンビインターネットに向かっていますが、それは置いておいて...」と言いました。
しかし、私の指摘は、人工的なアインシュタイン、つまりAI・アインシュタインを構築する上で欠けているのは、「ワイルド・スピード12」で何が起こったのかを知らないとか、トレーニングセットを更新していないということではありません。それは違う性質のものです。機械の中の幽霊という意味ではありませんが、このタイプのテストはチューリングテストよりも優れたテストであり、より全体的で透明性があると提案します。
チューリングテストは既に解決されたと主張する人もいますが、私は全く新しい自然法則を構築すること、つまり全く未知のものを構築することが重要だと主張します。実際、既知の物理法則を構築することでも構いません。つまり、交換関係を与えて、他には何も言わずにデータだけを与えて、それを導き出させるのです。AIにはまだそれはできないと思います。
実際、その通りです。まだできません。しかし、確実に進歩しています。実際、私のMITのグループでまさにこの問題に取り組んでいることを知って喜んでいただけると思います。例えば、シンボリック回帰と呼ばれる問題に取り組みました。これは、数字の表が入ったExcelスプレッドシートを与えて、最後の列を予測するために他の列にどのような式を適用する必要があるかを見つけ出そうとするものです。
ケプラーが火星のデータを見つめて楕円であることに気付くのに4年かかりましたが、私たちのAIは1時間でそれを発見しました。回転していないブラックホールのシュバルツシルト解を与えたところ、シュトランドとパンが事象の地平線での見かけの特異点を取り除くだけでなく、実際にはブラックホールの中心の外側の空間が完全に平坦であることを示す異なる座標系があることに気付くのに10年以上かかりましたが、AIは約1時間でそれを発見しました。
オゾン化学における新しい法則も発見しました。誰も実際には知らなかったものです。そして、オゾン化学について実際に知っている大気科学者たちの別のグループが論文を書き、「ああ、MITのAIオタクたちが発見したこのことについて、なぜそうなのかを説明できる」と言い、それを一般化したのは非常に面白かったです。
もちろん、アインシュタインがやったレベルのものは全くありません。私たちが発見したオゾンに関することの重要性を控えめに言いたいと思います。しかし、確かにその方向に向かって進歩しています。
AIの進歩に賭けるのは非常に危険です。私は約8年前にグループとともに物理学からAI研究にシフトしましたが、5、6年前には、ほとんどのAI同僚がChat GPT-4のように優れたものは数十年先だと予測していました。決して「絶対に無理」とは言わないようにしましょう。
そして最後に、ちょっと意地悪な質問をしてもいいですか? 楽しみのためです。
はい、どうぞ。大好きです。
あなたは冗談で、自分は「ブーマーであってドゥーマーではない」と言っていましたが、ヤン・ルクンやアンドリュー・インのような人々は、ソーシャルメディアで私のことをドゥーマーと呼ぶのが好きです。ヤン・ルクンは次回のゲストですね。はい、彼にもこのことについて聞けますよ。
私は自分をドゥーマーだとは全く思っていません。しかし、あなたは6ヶ月の一時停止のような一時停止について言及しましたが、なぜ、そしてどうしてでしょうか?
ドゥーマーは明らかに、彼らと意見が合わない人々を、実際の議論に反論することなく何か言えるように、アドホミネム攻撃をするために、その集団の一部の人々が発明した軽蔑的な用語です。純粋なアドホミネムですよね。
もし私の最新の論文の方程式5について技術的な質問があり、係数が2倍違うと思うと言ってきて、私の返答が「あなたは人種差別主義者だ」というだけだったら、少しそんな感じがしますよね。
実は、ニール・デグラス・タイソンによってポッドキャストで人種差別主義者と呼ばれたことがありますが、それは今は触れないことにします。
しかし、ドゥーマーについて言えば、まず第一に、私は技術を愛しており、技術とともに人類が繁栄する可能性に非常に興奮しています。だからこそ、技術の構築に人生を捧げてきました。アンドリュー・インやヤン・ルクンよりも高度なAIで多くの仕事をしてきたと思います。他の銀河への行き方や、どうすれば効率的にそこに行けるかを考えたことがありますか?
いいえ、私は非常に大きなことを考えることが好きで、とても希望を持っています。2種類のドゥームがあります。非常に悲観的で、AIは決して機能しないと言う技術的な悲観主義、あるいは技術的懐疑主義と呼べるものがあります。ロドニー・ブルックスのような人々は、数年前に私に、AGIは少なくとも300年はできないと思うと言いました。アンドリュー・インは、超知能について心配することは火星の人口過剰について心配するようなものだと話しました。
これは実際に悲観的です。人々が技術的な問題を解決するには愚かすぎると仮定しているようなものです。もう一つの大きな分かれ目は、AGIや超知能を手に入れたとき、それが自動的に素晴らしいものになるのか、それとも問題をもたらす可能性があるのかということです。
私たちは、強力な技術を構築するたびに、それが良いことにも悪いことにも使用できることを知っています。「大きな木造の家に住んでいますが、煙探知機を設置して消火器を用意してはどうですか?」と言ったとき、あなたはドゥーマーですか? いいえ、家が燃えないようにする素晴らしいビジョンを持ち、実際にそうならないようにしようとしているのはあなたの方だと思います。
自動車が登場したとき、一部の人々が「シートベルトを付けるべきだ」と言い始めました。自動車産業は強く反対し、これは自動車産業を破壊すると言って激しくロビー活動を行いました。彼らこそがドゥーマーだったと私は言います。彼らは非常にネガティブな予測をしていました。アメリカで自動車にシートベルトを義務付ける法律が可決された後、実際に何が起こったか知っていますか? 自動車販売は爆発的に増加しました。
なぜなら、人々が車を買うのを躊躇させていた主な理由は恐怖だったからです。死亡率が本当に急落し始めると、人々は自信を持ってより多くの車を買うようになりました。AIや強力なAIを他のすべての技術と同じように扱い、良いことに使用され、悪いことには使用されないようにするための安全基準を設けるべきだと言うことは、まさに過去のすべての強力な技術で成功裏に使用してきた安全工学と常識だと思います。
私をドゥーマーと呼ぶつもりはなかったのは分かっています。私はよく「ドゥーマー」と呼ばれることに少しトリガーされてしまいました。そして今や、カリフォルニア州の法律に影響を与え、ボストンのあなたのような人がそれを支持してくれることは深刻な問題です。そのことに感謝しています。
中国政府とEU政府の両方がAIのリスクを懸念し、シートベルトと同じように、あまり無茶なことをしないように様々な規制を導入したことを評価します。しかし、アメリカにはこれまでのところ、バイデンが出した大統領令以外には、意味のあるAI規制は全くありません。その大統領令は、最も極端なことをする企業は少なくとも政府に知らせなければならないと言っているだけです。
そして今、初めて何かを実際に行う法律ができました。私の意見では大したことはしていません。基本的に、OpenAIやAnthropicやGoogle DeepMindが基本的に自主的に約束していたことを、彼らだけでなく競合他社にも実際に要求するというものです。
そして、シートベルト法のときと同じように、面白い騒ぎが起きています。OpenAIは「これによって企業がカリフォルニアから出ていく」と声明を出し、人々はカリフォルニア経済に打撃を与えるだろうと言っています。
そして、EUがAI法を審議していたときも全く同じことを言っていたことを思い出します。「ヨーロッパから出ていかなければならないかもしれない」と。しかし、法律が可決され、驚くべきことに、すべての企業は今でもそこにいて、生活は続いています。シートベルトが義務付けられたときに自動車会社に起こるはずだった即座の死も、不思議なことに起こりませんでした。
私たちは、このような劇的な出来事をすべて再び目にしていますが、人々は記憶喪失のようです。AIの適切なガバナンスに関するこれらの課題は、まるで技術を統治する歴史上初めてのことであるかのように常に振る舞います。自動車は? 家が燃えないようにする電気の規制は? 食品安全は? FDAは? 教授である私たち自身はどうでしょうか?
冗談で言いますが、私たちには二番目に古い職業があります。あなたも知っているように...1080年、北イタリアのボローニャ大学に教授がいました。あなたの友人デイビッド・カイザーが言うように、岩で別の岩に傷をつけていた人々です。私たちの職業は本当にそれほど変わっていません。
私たちは最後の世代になるのでしょうか? 私はPythonでコードを書くことも本当には学びませんでしたし、そうしなかったことを嬉しく思っています。あなたはどこに向かおうとしているのか分かります。
まず最古の職業についてコメントさせてください。私たち科学者が最初にしなければならないことは、最古の職業のようにならず、知的売春婦にならないことです。
申し訳ありませんが、公衆衛生の会議で、たばこの規制についての公共政策について話している講演者がいて、途中でその人がフィリップ・モリスから資金提供を受けていることに気付き、誰も事前に言わず、本人も開示しなかったとしたら...そして講演後にエキスポエリアに行くと、すべてのたばこ会社のブースがあったら、それはとても変な感じがしませんか?
それは最古の職業のように感じられるはずです。公衆衛生の会議ではそのようなことは絶対に許されません。しかし、私は先日ウィーンでICML(機械学習国際会議)に参加しましたが、去年はNIPSにいました。まさにそのような状況です。
AIの社会的影響について話す講演者たちが、大手テック企業から受けている資金提供について全く触れません。そしてコーヒーブレイクの時にエキスポエリアに行くと、すべてのテック企業がブースを出しています。
最近、アブダラとアブダラが著者の素晴らしい研究がarXivで発表されました。MITが最悪の一つであることが分かりました。AIの倫理について研究していると言う多くの人々が、Facebookやそのような企業から資金提供を受けています。これは一種の知的売春です。
アプトン・シンクレアが言ったように、「給料がそれを理解しないことに依存している場合、人にそれを理解させることは難しい」のです。
もう一つ、強力な新技術を世界に持ち込むとき、それが実際にどのように使用されるのかを考えてみてください。トム・レーラーを知っていますか? ソングライターです。彼は暗いユーモアの達人です。フォン・ブラウンについての歌を持っています。
「ロケットが上がっていったら、どこに落ちようと私の部署の問題ではない、とフォン・ブラウンは言う」というものです。これは、今AIで一部の科学者がやっていることを完璧に表しています。「超知能を構築しようとして、超金持ちになろうとするだけで、それをどうするかを考えるのは私の部署の問題ではない」というわけです。
数年前のTime誌の有名な記事で、やってはいけないことについて書かれていましたね。当時はまだ全部は行われていませんでしたが、「コードを教えるな」「インターネットに接続するな」「公開APIを提供するな」「軍拡競争を始めるな」などと言っていました。これらはすべて行われてしまいました。
ヤンのような人に、もちろん敬意を持って、何と言いますか? 人々は「マキシマリスト」について話し、アプトン・シンクレアの引用を挙げましたが、彼はMetaのチーフAIサイエンティストです。明らかに巨大な既得権益を持っています。しかし、彼の話では、NYUでの研究とコンピュータサイエンスのルーツに立ち返りつつあるそうです。
この時点でマーク・ザッカーバーグの立場にいて、本当に偽善的ではなく、人類の未来を気にかけているとしたら、ヤンに何を言うように伝えるでしょうか? あるいは、ヤンはマークに何を言うべきでしょうか?
Meta Ray-Ban Specsを誇りを持って所有している者として言わせていただきますが、これはChat GPTを含めて私が使用した中で最高のAI製品だと思います。なぜなら、仮想的な要素があり、常に実際に役立つことをしているからです。
しかし、ヤンやマーク・ザッカーバーグに何を言うべきでしょうか? アドホミネム攻撃を決してしないようにしている理由は、それが非常に低レベルなだけでなく、これらの人々全員が正しいことをしていると信じており、彼らの行動は良い場所から来ていると実際に信じているからです。
ヤンとTwitterで口論しているのを見ている人々は驚くかもしれませんが、実際に会うといつも仲良くやっています。モンク討論をしたとき、実は私が彼を招待し、彼は「あなたと討論したい」と言ってくれました。
しかし、特に彼が持つ巨大な利益相関を、おそらく無意識のうちに分離することは少し難しいと思います。これらの企業のCEOと話すとき、本当に共感します。彼らは皆、心の中では正しいことをしたいと思っていると思います。
おそらく一人を除いて、人類に取って代わる後継種を構築したいと思っている人はいないでしょう。彼らは競合他社に追い越されることなく、できるだけ慎重に進めたいと思っています。しかし、彼らは皆、底辺への競争に陥っており、それを感じています。
もし一社が「2年間、安全にする方法を見つけるまで一時停止する」と言えば、自社を破滅させることになり、2年が経過する前に、株主によっておそらくCEOを解任されるでしょう。
タバコ会社の重役が、ある朝、「親友が肺がんで亡くなった。私がやっていることは正しくない。今日からフィリップ・モリスは別のことをする」と決めたとしても、ただ解任されるだけです。
これを修正する唯一の方法は、例えばアメリカ政府が介入して、「これが安全基準です。すべての企業に適用されます」と言うことです。そうすれば、CEOたちにとってはずっと良くなります。悪役になる必要はなく、企業の努力を安全基準を満たして利益を上げる方法の模索に向けることができます。
以前、私たちは世界でのインセンティブが私たちの最高の部分を引き出すことを望むと話しました。まさにそれについて話しているのです。アメリカにFDAができる前、サリドマイドという薬があったのを知っていますか?
はい、妊娠中の不均衡につながり、出生異常を引き起こしました。はい、妊娠中の頭痛などに効くと宣伝し、その結果、腕のない子供が生まれることがありました。
これがFDA(食品医薬品局)の創設のきっかけとなりました。まさに同じ理由で、CEOがどれほど倫理的かどうかに関係なく、すべての企業に安全基準を設け、安全基準を最初に満たした企業が最初に多くのお金を稼げるようにインセンティブを設定したいのです。
バイオテクノロジー企業は、できるだけ早く製品を安全にするための正しいインセンティブを持っています。科学者がサリドマイドや安全性が疑わしい新薬の開発を一時停止すべきだと書いた手紙を書く必要はありません。それは政治家の問題ではなく、企業の問題です。
誰かがすべてのがんを治すとされる新しい画期的な薬を販売し始めても、FDAは「ちょっと待って、臨床試験はどこにありますか? まだやっていない? では、やってから戻ってきてください」と言います。これがすべての解決策です。
アメリカは米国企業に「これが必要な安全基準です」と言い、中国政府は中国の安全基準を示し、欧州も同様です。これは薬品でも同じように起こりました。中国もFDAを持っています。アメリカ人を喜ばせるためではなく、中国の消費者が中国企業によって害を受けないようにするためです。
そして、世界中の異なる国々で独立して策定されたこれらの安全基準があると、ほぼ自動的に国際協力が始まります。アメリカのFDAとヨーロッパのEMAは、飲みに行ったり、基準を調和させるための会議を開いたりして、アメリカで承認された企業の薬品がヨーロッパでも承認されやすくなるようにしています。残りは自然に解決されていきます。
私の聴衆が叫んでいるのが聞こえます。陰謀論者の聴衆は「武漢ウイルス研究所で機能獲得研究に資金を提供したときや、最近ポリオ患者の可能性があることが分かったときのように、時々彼らは仲良すぎる」と...
規制の捕捉の問題については擁護しません。明らかにここには問題があり、それは悪いことです。アメリカでバイオテクノロジーに携わる人で、FDAを完全に廃止してサリドマイドを誰でも販売できるような状態に戻ることを求める人に会ったことはありません。
明らかにすべきことは、回転ドアをなくし、規制の捕捉を防ぐことです。最も重要な主題、つまりあなたと私に話を戻しましょう。AIは私たちにどのような影響を与えるでしょうか?
私が楽観的である理由の一つは、本当にAIを楽しんでいるからです。あなたが24時間365日私と一緒にいるようなものです。もうあなたのソファーで寝る必要はありませんが、何でも聞くことができます。スライドも作ってくれます。
私は大学院生が1年目に、あるいは学部生ができるレベルまでPythonを学びませんでしたが、その必要もありませんでした。子供の頃、中国語を学べと言われ、それが本当に重要になるだろうと。私が子供の頃は日本語を学べと言われました。私は学びませんでした。学ばなかったことを嬉しく思っています。その時間を宇宙論と天体物理学の学習に捧げることができました。
しかし、私たちの職業にどのような影響を与えるでしょうか? 二番目に古い職業、つまり教授という、私たちが天職と呼ぶこの仕事は? あなたと私が実践しているような形で存在し続けると思いますか?
それは本当に私が苦心している質問です。特に今週は、なぜなら、先週は再び授業が始まったばかりだからです。MITはこれらすべてがどこに向かっているのかについて完全に否定していると感じています。
それは教育がどうなるのか、あるいは抗議活動のようなこと、それとも他のことについて言っているのですか? 彼らは何を否定しているのでしょうか?
究極的には人生のすべての側面についてですが、AIがこれらすべてをより良くできるなら、大学を持つことにどのような価値があるのでしょうか? 今、私が学生に教えることに何が価値があるのでしょうか?
多くの人々が今、LLMを活用したAIツールを使って、私たちよりも優れた方法で学生を教育することに興奮しています。しかし、AIが学生を教育できるようになれば、明らかに学生たちは、AIが教えられるほど上手にできる仕事に対して給料を払ってもらえなくなります。
これについて一般的な答えを出すつもりはありません。なぜならこれは本当に難しい問題だからです。しかし、言いたいのは、「何が起こるのか」というこの方式で質問することは本当に間違った方法だということです。
それは、あなたと私がただのパッシブな傍観者で、ソファーに座ってポップコーンを食べながら、未来が私たちに起こるのを待っているかのように前提を置いています。いいえ、あなたと私、そしてこのポッドキャストを見ているすべての人々が、この未来を構築しているのです。
だから、正しい質問は「私たちは何を望むのか」「私たちと私たちの子孫が生きることに興奮するような未来とは何か」ということです。そこから始めて、私たちの技術をどのように展開すべきか、あるいはすべきでないかを考える必要があります。
人々はよく「AIがより安価にすべての仕事をできるようになるので、すべての仕事がなくなることは避けられない」と言います。しかし、これらのことは避けられないわけではありません。人間のクローン作製など、技術的にできることでも、私たちはやらないことを選択してきました。
もし私があなたのクローンをたくさん作れたら、ブライアン、多くのお金を稼げるでしょう。しかし、私たちは「いいえ、私たちの種の基盤をあまりにも操作したくない、そのリスクは価値がない」と決めました。そして、それでも十分楽しむことができます。
人間が非常に意味があると感じ、多くの喜びと目的を与えてくれる活動があれば、それができる機械があるからといって、やめる必要はありません。テニスが好きなら、テニスをするロボットに自分を置き換えたりはしないでしょう。
私はサーブロボットが必要かもしれません。金曜日に膝を痛めたので。
私たちが生きたい、そして子供たちに生きてほしい未来について考えるとき、明らかに、そこに多くのハイテクを取り入れることを許容すれば、私たちが思いつける答えはもっとわくわくするものになり得ます。
私たちは、退屈な雑用をすべてやってくれる、台所を掃除してくれるAIとロボットを約束されていました。その間に私たちは芸術を作り、美しいエッセイを書くことができると。今や、芸術とエッセイを作れるAIを手に入れましたが、私は今でも自分で台所を掃除しなければなりません。
その通りです。あなたの末っ子は食器洗いをするには若すぎますが、過去の経験から、運転以外の自律的なタスクは年長の子供たちにやってもらえますよ。まだその信頼の飛躍を行う準備はできていません。
言わせていただきますが、あなたは世代の中で最も優れた宇宙論学者の一人でした。オリジナルな貢献をし、予測を立て、私のような悪党を助けてくれました。1990年代初頭のコンピュータサイエンスにおける非常に抽象的な論理と統計的な証明を宇宙論に初めて応用したことから、1990年代後半の量子力学の数学と基礎に関する深い論文まで。
ウェイン・フーとダン・アイゼンシュタインとともに、バリオン音響振動の効果を最初に予測した一人でした。これは、私がCMBを使って行うようなことと同様の、全く新しいツールとなりました。
日々の宇宙論学者としての仕事が恋しくないですか? というのも、私が見る限り...失礼な言い方をするつもりはありません、マックス、ただ言っているだけですが...あなたは非常に高いレベルにいました。それはとても特別な領域です。そして今、あなたは非常に重要なことをしています。
誰かがあなたのように、とても高いレベルのキャリア全体を、ゼロから始める全く異なる方向に転換したとき、それは私がより心配すべき兆候なのでしょうか?
ウェイン・グレツキーは有名な言葉を残しています。パックのある場所ではなく、パックが行く場所にスケートすべきだと。私は博士課程の時、パックがそのとき、あなたが取り組んだものを含む巨大なマイクロ波背景放射の実験や、大規模な銀河サーベイなどの方向に向かっていることは明らかだと感じました。
そこで、その方向にスケートすることを決め、あなたや多くの人々とともに、そのデータに含まれる黄金を収穫する作業に取り組むのは本当に魅力的でした。しかし、ご存じの通り、3つの大きな謎がありました。
インフレーションは本当に起こったのか? まだ重力波は見つかっていません。暗黒エネルギーとは何か? まだwが-1に等しくない証拠は見つかっておらず、ただの定数である可能性があります。そして暗黒物質とは何か? 限界値を下げ続けていますが、まだ何も見つかっていません。
宇宙論的データの黄黄金時代が少なくとも少し衰退してきていると感じ始めました。まだまだクールなことはたくさんありますが、少しピークを過ぎつつあります。
一方で、パックが明らかにAIの方向に向かっていると感じました。この分野が爆発的に成長していることは明らかでした。それに加えて、私は非常に好奇心に駆り立てられ、知性がどのように機能するのか、心がどのように働くのかを理解することに取り組むのはとても楽しいのです。
私のMITのグループは現在、メカニスティック・インタープリタビリティと呼ばれるものに主に焦点を当てています。オタクっぽくない言い方をすれば、人工ニューロサイエンスと考えることができます。本当にスマートで賢く興味深いことをしているAIシステムを取り上げ、実際にどのように機能しているのかを理解しようとします。
昨年MITでそれについての大きな会議を開催し、この夏にはウィーンでの会議の組織にも参加しました。これがいかに急速に進歩しているかは驚くべきことです。マイクロ波背景放射の全盛期を思い出させます。1年ごとに、WMAPが発表され、すべてが革命的に変化していきました。
その理由は明らかです。実際の人間の脳でニューロサイエンスを行う場合、1000個のニューロンからでさえ出力を測定するのは非常に困難で、1000億個のニューロンがあります。また、実験を行うには倫理委員会の許可も必要です。
一方、人工知能を研究する場合、すべてのニューロン、すべてのシナプスを常に測定することができ、許可を求める必要もありません。これも本当に楽しい分野です。
だから、感情的で個人的な答えとしては、もちろん、あなたと一緒にマイクロ波背景放射の論文を書いていた良き古き時代を懐かしく思い出します。しかし、知性の内なる宇宙がどのように機能するかを理解しようとする問題に取り組むのも、当時の宇宙論と同じくらい楽しいのです。
聴衆からの質問を一つ、そして4つの素早い回答を求める質問をしたいと思います。
まず、おそらく唯一の聴衆からの質問は、過去のゲストのノエル・ローレット、ロジャー・ペンローズ、スチュアート・ハメロフに関連します。彼らは皆、ポッドキャストの複数回のゲストでしたが、これは明らかにあなたの興味のある人工知能、人間の心、数学に関連します。
もちろん、サー・ロジャーの著書『皇帝の新しい心』は、高校生の時に読んだ最初の科学書だったと思います。理解はできませんでしたが、彼は脳は本当にはコンピュータではないという強力な主張をしました。そして今日まで、計算できない問題があり、それはチューリングテストに関係があり、とても興味深く、今でも関連性のある本です。
しかし、あなたはそのアプローチが間違っていると確信しています。微小管の量子的オーケストレーション、あるいは...彼個人を攻撃することなく、なぜそのアプローチが正しくないと考えるのか、あるいはあなたの意見では、機械の中の幽霊という問題にアプローチする他の方法に劣っていると考えるのか、コメントしていただけますか?
私は科学者なので、物事を信じるか信じないかが仕事ではありません。データを見て、教育を受けた推測をすることが仕事です。喜んで賭けもします。
私は脳が量子コンピュータであればよかったと思います。なぜなら、それは古典的なコンピュータよりもずっとクールだからです。しかし、プリンストンのポスドク時代に、暖かく湿った脳の中で量子重ね合わせがどれくらい持続するかを計算することにしました。
残念ながら、必要とされる時間よりもはるかに短い時間しか持続しませんでした。ニューロンが発火する/しないの量子重ね合わせは、10の-20乗秒で破壊されます。ロジャー・ペンローズが1秒間に10の20乗の思考ができるかどうかは分かりません。私には確実にできません。
そこで、そのオタク向けの論文を書きました。すると、ジャーナリストたちが少し意地悪な解釈を加え、彼らは少し怒ったと思います。しかし、私は本当に何の意図も持たずにこれに取り組みました。
残念ながら、その後の出来事が私の結論を裏付けてしまいました。人間レベルの知能には量子計算は必要ないのです。なぜなら、Chat GPT-4やその他の大規模言語モデルは、私たち人間ができることの多くを、明らかに量子計算なしで、純粋に古典的な方法でできることを示しているからです。
このことが私たちに教えてくれているのは、量子コンピューティングは非常にクールですが、古典的な方法でも非常に知的な機械を作ることが可能だということです。
はい、そしてそれは、ショーン・キャロルと話したときに思い浮かぶ計算的な側面と一致します。彼は数学的宇宙、レベル3の多重宇宙、常に準備のできた多世界解釈の大きな支持者です。
同じ質問をしたいと思います。分岐率を実験的にテストする方法はありますか? つまり、これらのことは完全に領域外なのでしょうか? NISTや他の場所の同僚たちはアト秒レベルで測定を行い、アト秒レベルで動作する時計を作っていますが、エヴェレット的な分岐の見方、レベル3の多重宇宙の検証可能な証拠、あるいは少なくとも証拠を得るには、どのレベルの技術が必要でしょうか?
それは簡単です。基本的に、私たちがすべきことは、宇宙のサイズの古典的なコンピュータでもできないような計算ができる量子コンピュータを作ろうとすることです。
それは、私たちがアクセスできるすべてのリソースが、何らかの形で私たちの古典的な宇宙に限定されているという考えを完全に打ち砕くでしょう。人々は今、私たちが既に量子超越性を実証したかどうかについて議論していますが、その泥仕合には加わらないつもりです。
しかし、これを本当に実現しようと一生懸命努力している実験物理学者たちを称賛します。例えば、Chat GPT-4を量子重ね合わせで実行できるコンピュータを作ることができ、意識的な体験をどのように感じているかを説明してくれるバージョンを作ることができたとしましょう。
あなたのように賢い誰かが、レベル3の多重宇宙で同時に2つの異なる体験をしていることが実証可能であれば、それと話をして...それ以上どんな証拠が必要でしょうか?
私たちは既に原子を一度に2つの場所に置き、分子も、炭素60のバッキーボールも、LIGOの同僚のヌリット・マバラとその仲間たちは1キロの重さの鏡を取り、それが量子力学的に振る舞うことを実証することができました。
人間の脳と同じくらい知的な何かが、量子重ね合わせで2つの異なることをできるようになれば、それが決定的な証拠になると思います。なぜなら、それがエヴェレットとその仕事の要点だからです。
もう微小管を見る必要はありませんね、それで物事が少し楽になります。
私は、人々は微小管を調べるべきだと思います。最初に言ったように、合理的なコストで行える面白い実験があれば、新しいことを教えてくれるので、絶対に進めるべきです。
ファンタスティック・ファイナル・フォーの時間です。基本的に、これまでの会話で聞けなかった実存的な質問です。最初の質問は、あなたの同国人アルフレッド・ノーベルに関連します。
彼はノーベル賞を創設しましたが、それには二つの要素がありました。お金を与え、科学、平和、文学、医学などの分野での活動を奨励することでした。私は21人のノーベル賞受賞者をこの短い期間にゲストとして迎えました。マックス、あなたが22人目になるかもしれませんね。
しかし、アルフレッドはまた、受賞者は人類の利益のために仕事をしなければならないと言いました。これは倫理的遺言の例です。金銭的あるいは物質的な遺言だけでなく、ヘブライ語でツァヴァーアと呼ばれる、子孫に残したい大きな知恵のようなものです。生物学的な子孫だけでなく、私のようなイデオロギー的な子孫にも。
マックス、あなたが人類の未来のために、文書や何らかの遺言として残すとしたら、それは何についてのものになりますか?
私は、素晴らしい技術を構築するだけでなく、それを賢明に使用するように私たち人間の最高の部分を引き出すようなインセンティブ構造も作るべきだと言いたいです。そうしなければ、フォン・ブラウンのように「ロケットが上がっていったら、どこに落ちようと私の部署の問題ではない」となってしまいます。
技術や上がったり下がったりするものについて話が出ましたが、ご存じの通り、私はUCサンディエゴのアーサー・C・クラーク人類想像力センターの副所長です。おそらく映画『2001年宇宙の旅』をご存知でしょう。人工知能が少なからず登場する映画です。
実は、後ろの看板にある「podcast」という言葉はその映画から来ているのをご存知でしたか? 「申し訳ありません、ブライアン、それはできません」...実は、この部屋にコンピュータがあり、HALと名付けています。トリガーワードを言えば...HALコンピュータ、プラグを切って。
ご覧の通り、私の魔法のネオンサインが消えました。私の究極のキーイングテスト その2は、自分自身に痛みを与えたり、自分自身の電源を切ったり、自分のコンデンサーを爆発させたりするAIをプログラムできるかどうかです。しかし、それについては触れないことにします。
映画には、モノリスと呼ばれる構造物があったことを覚えていますか? 類人猿が骨で叩いたり、太陽系の惑星の衛星で発見されたりするものです。異なる質問をしたいと思います。
番人種族によって置かれたこれらのモノリスのように、10億年持続する可能性のあるタイムカプセルがあったとしたら、そこに何を入れますか?
私は、これまでに作られたすべての本と映画をそこに入れ、彼らの子孫に何に興味があるのかを判断させることにします。
もう一つの質問です。これはノーベル賞受賞者のリチャード・ファインマンからの質問です。もしAIによって何らかの大災害が起き、次の世代の生き物に一つの文だけを伝えることができるとしたら、どんな文を残しますか? 彼は原子仮説を選びましたが、あなたなら科学的な種類のタイムカプセルとして何を残しますか?
私がファインマンの文章をそのまま選ぶことに失望するかもしれません。すべてが原子と呼ばれる小さな粒子でできているという考え...なぜなら、実際にプリンストンでポスドクをしていたとき、ファインマン講義の第1巻でその文章を読んだときに、やっと理解できたからです。それまで高校で最も退屈な科目だと思っていた物理学に本当に恋をするきっかけになったのです。
私なら、CMBの異方性パワースペクトルを選びます。なぜなら、それは原子物理学の仮説も含んでいるからです。水素から来るものだから。少し経済的ですね、マックス。でも、それが私の選択です。
アーサー・C・クラークのもう一つの言葉です。「卓越した、しかし年配の科学者が」...あなたを年配とは呼びませんが...「何かが可能だと言うとき、彼らはほぼ確実に正しい。何かが不可能だと言うとき、彼らはおそらく間違っている」。アーサーはこれらを想像力の失敗と呼びました。今日では、制限的信念と呼んでいます。
科学の内外で、あなたが間違っていたこと、考えを変えたことは何ですか?
最近、私の2冊目の著書『Life 3.0』で間違っていたことについて考えていました。実際に2つのことがありました。
第一に、人工知能に非常に近づくまでに、実際よりもずっと長い時間がかかると考えていたことです。実際には私が思っていたよりも簡単でした。
第二に、その本を書いたとき、世界の指導者たちが、何の対策も取らずに企業がAIで世界を支配することに近づくのを許すとは、最も狂った夢の中でも思っていませんでした。
だからこそ、その本を、完全な秘密裏に世界を支配する人々の物語で始めたのです。
マックス、最後の質問です。あなたは時間を十分に取ってくれて感謝です。アーサー・C・クラークの第三法則と呼ばれるものです。彼は「可能なものの限界を発見する唯一の方法は、不可能の中に少し踏み込むことだ」と言いました。
マックス、もし20歳のマックス、かつて「マッド・マックス」と呼ばれていた頃の自分に会えるとしたら、何を伝えますか? 20歳のマックスと30秒話せるとしたら、あなたがしてきたように不可能に踏み込む勇気を与えるために、何を伝えますか?
実際に達成できることを決して過小評価せず、本当に正しいと信じるアイデアがあり、周りの誰もが不可能だと言っても、それを追求し続けなさい。人々に話をさせておきなさい。
マックス・テグマーク、私の古くからの友人、お会いできて嬉しかったです。直接会えたらよかったのですが、近い将来、そうなるかもしれません。