人工知能についての知的思考

皆さん、こんにちは。人工知能、拡張現実、仮想現実、その他のツイッターの略語についての会話にようこそ。どこに向かうかわかりませんが、ジャロン・ラニアーとのこれらのアイデアの探求です。簡単に紹介させていただきますが、聴衆の多くの方々はよくご存知だと思います。彼はマイクロソフトの主席統合科学者で、同社の人工知能システムの開発と実装を主導しています。仮想現実の分野で先駆的な仕事をしてきた著名なコンピューター科学者であり、テクノロジーとその社会への影響について広く著作を発表しているベストセラー作家です。また、ユニークで歴史的な楽器に深い関心を持つ音楽家であり、新しいクラシック音楽の作曲家でもあります。2018年、Wired誌により過去25年間のテクノロジー史で最も影響力のある25人の1人に選ばれました。これはかなりの評価です。また、タイム誌により世界で最も影響力のある100人の1人に、フォーリン・ポリシー誌により世界で最も影響力のある100人の公共知識人の1人にも選ばれています。これらは非常に幅広い資格です。ということで、ジャロン、ようこそ。お会いできて嬉しいです。
ブライアン、こんにちは。お会いできて嬉しいです。調子はどうですか?
ああ、とても良いですよ、とても良いです。そうですね、この会話の準備をしていて、初めてお会いした時のことを考えていました。覚えていらっしゃるかどうかわかりませんが、約25年前、マンハッタンのあなたのアパートに伺ったんです。今、画面の背景に見えるのと非常によく似ていて、楽器でいっぱいでしたね。
そうですね。床のスペースがほとんど楽器で埋まっていなかったので、慎重に歩き回ったのを覚えています。
はい、その後、壁にもっと掛けるようになりました。子供ができて、床のスペースの価値を学びましたからね。
なるほど、なるほど。で、これは私たちの会話の焦点にはならないかもしれませんが、楽器への魅力はどこから来たのでしょうか?
母から来たと思います。母はホロコーストの生存者で、私をとても近くに置いていました。ナチスに連れ去られる13歳までは、ウィーンの神童演奏家でした。彼女はピアノや他の楽器を教えてくれることを本当に大切にしていました。そして、私がまだ若かった頃、交通事故で亡くなりました。somehow音楽が彼女とのつながりを続ける方法になったんです。特に、新しい楽器を学ぶ経験が。だから、私は新しい楽器を学び続けているんです。言えるのは、まだヘロインよりは安上がりだということです。ばかげた執着としては、最も有害なものの1つであることを願っています。でも、少し極端になることはありますね。まあ、これが私です。そうでないふりはしません。楽器マニアなんです。
それは素晴らしい話ですね。で、特に自分の楽器だと考えているものはありますか? それとも、本当にレパートリーを広げ続けているだけですか?
実際にはないんです。まあ、ピアノは少しあるかもしれません。これがここにある黒いものですが。でも、いつも演奏するものは変わります。何十年も様々な文化の楽器を使い続けてきました。誰にもわからないでしょうね。
そうですね、もちろん科学についてお話しますが、カリフォルニアの音楽祭で一緒だったことも思い出しました。フィリップ・グラスが音楽祭を開いていて、私は彼と共同作業をしていました。あなたも彼と共同作業をしていましたよね。
はい、フィリップとは多くのことを一緒にやりました。90年代に彼は私のレコードをいくつかプロデュースしてくれました。当時はまだ若かったですね。最近まで、少なくとも年に1回は一緒に演奏していました。彼も年を重ねてきているので、将来どうなるかわかりませんが、本当に彼のことが大好きです。
はい、彼はとても素晴らしい人です。私と彼との共同作業、つまり世界科学フェスティバルでの共同作業は、本当に私たちが行ってきた舞台芸術の中でも最高のものの1つです。また、あなたはおそらく気づいていないと思いますが、私たちの人生はそれ以前にも交差していたんです。少なくとも原則的には。私がIBMにいた頃、1980年代のずっと前のことですが、ジョンという人の下で働いていました。その名前をご存知かどうかわかりませんが、彼が私をMITのマービン・ミンスキーとエド・フレドキンに紹介してくれたんです。私の理解では、特にマービンがあなたに深い影響を与えたそうですね。
はい、マービンは...私が彼のすべてに絶対的に同意しないにもかかわらず、驚くほど寛大な mentor でした。彼は私の上司でした。私がまだ10代だったと思いますが、若い研究者としてMITに雇われました。
本当に? はるか昔のことですね。
マービンが大好きで、本当に彼のほとんどすべてのことに深く同意しません。でも、エド・フレドキンはもちろん友人でしたが、一緒に働いたことはありませんでした。でも、マービンは私の人生で非常に重要な人物でした。
そして、マービンは、ジョン・マッカーシーや他の人たちと一緒に、人工知能が始まったところですよね? 私はその歴史をよく知らないのですが、あなたが補足してくれるかもしれません。
ああ、はい。歴史については、自分が直接経験したことについては高い確信を持って話せますが、私の時代以前のことは他の人から聞いたことに頼らざるを得ません。そして、人々は異なることを語るので、最善を尽くして推論しなければなりません。
仮想現実のように、歴史の中で先例を見つけたいなら、古代ギリシャにまで遡ることができます。でも、良い出発点はエイダ・ラブレスだと思います。最初のプログラマーで、人工知能について考え、それは良い考え方ではないと決めました。人間のプログラマーに集中すべきだと。
人間のプログラマーに?
はい、人間のプログラマーです。エイダはそこに落ち着きました。
その後、おそらく次の主要な思想家は、E.M.フォースターだと思います。有名な小説家で、未来のインターネットとコンピューター科学がどのようなものになるかについてのビジョンを書きました。1907年だったと思いますが、少し間違っているかもしれません。20世紀の最初の10年くらいです。これは驚くべき予見の行為で、ほと�ど超自然的で、時間が見えるものとは違うのではないかと疑問に思わせるほどです。彼がそれを書いたことは不可能に思えるからです。
それは白書のようなものだったのですか? 私は実際には知りません。
通常、私たちはそれを小説と呼んでいます。短編小説と小説の中間くらいのものです。そして、それは典型的な反ユートピア的SF小説の原型です。『1984年』や『すばらしい新世界』、『マトリックス』の映画など、多くのものがこの「機械は止まる」で示された計画に従っています。
彼らはみな、キャラクターや全体的なテーマに類似点があります。そして、それは機械を中心や実体として重視しすぎることを批判した、深く人間主義的な作品でした。
テーブルが逆転するのは、チューリングからです。ああ、そして、バネバー・ブッシュについても言及すべきでしょう。彼は人々を助けるための方法としてコンピューターやネットワーク、アルゴリズムについて考えました。でも、それはまだ人間中心でした。
チューリングはそれを逆転させ、これらのものを実体として考えることを提案しました。でも、私はいつも人々にチューリングがそれを行った文脈について考えてもらうよう頼んでいます。
第二次世界大戦の勝利を助けた彼は、ナチスに対する最も重要な戦闘員の1つと宣言されました。彼は、自分のアイデンティティのために殺されたくない人々の救世主でした。しかし、戦後、まさに彼がどうすることもできないアイデンティティのために非難されたのです。同性愛が違法だったからです。
彼は奇妙な偽医療治療を強制され、そこで女性ホルモンを投与されました。同性愛を女性ホルモンで治療しようとする理由を理解するのは、とてもねじれているように聞こえますが、当時のメタファーはコンピューター以前のものでした。すべては蒸気機関についてのものでした。アイデアは圧力を平衡させることでした。だから、おそらく反対のホルモンが圧力を平衡させるだろうと。わかりません。愚かなことを理解しようとしてもあまり意味がありませんが。
とにかく、彼は望まない第二次性徴を発達させ始めました。私たちが知る限り、彼は非常に詩的な方法で自殺しました。最初のコンピューターの前で、シアン化物を塗りつけたリンゴを食べたのです。一種の反イブのようなものですね。
チューリングテスト、彼の有名なアイデアは、彼の人生の最後の段階、死の前に書かれました。彼は提案しました。本当に、人が人間かどうかを判断できるのは別の人間だけだ。もしその人が、これは人間でこれは人間ではないと言う合理的な根拠を本当に与えられないなら、すべてを人間と呼ぶか、すべてを非人間と呼ぶべきだ。選択をしてはいけない。
私は、これが深く不条理で不快な場所から来ていると思います。なぜなら、それが彼の人生の状況だったからです。私は、これを彼に起こっていたことへの批評としてほぼ理解する必要があると思います。むしろ、表面的なアイデアとして受け取るべきではありません。
これが私の見方です。チューリングをそこまで解釈する権利は私にはないかもしれませんが、誰にそんな権利があるでしょうか。
確かに、確かに。さて、チューリングの後、次の主要な人物はまた逆転させます。ここでノーバート・ウィーナーに到達します。そうですね?
そうです。ノーバート・ウィーナーは言いました。「コンピューターとは何かという標準モデルがあります。これはチューリングが開発したものです。」
驚くべき数学者物理学者のジョン・フォン・ノイマンと一緒に。彼は非現実的なほどの才能を持った人物で、実在の人物として扱うのが難しいほどですが、確かにそこにいました。
とにかく、チューリング-フォン・ノイマン機械は、入力を受け取り、値の列を処理し、その後永遠にスタックするか、終了して答えを出す抽象的なデバイスです。
ノーバート・ウィーナーはこれを見て言いました。「数学的にはこれは非常に一般的で素晴らしい。しかし、生物や、天候や海洋など、複雑なシステムが相互作用する実世界を理解するのには役立ちません。」
そこで彼は、これを別の方法で再考することを提案しました。彼はそれをサイバネティックな方法と呼びました。これは彼の用語です。「サイバー」は古代ギリシャ語で「航海する」という意味です。
彼は言いました。「単なる論理ゲートのシステムとして考えるのではなく、温度計の絡み合ったネットワークとして考えましょう。測定とフィードバックのネットワークがあると言いましょう。そして、そのものは常にオンで、常に接続されています。周囲の環境が変化すると、環境に返すものも変化します」
計算可能性の観点から見ると、これらは同等ですが、環境内での位置づけ方は異なります。
これが彼の技術的な遺産の一部です。当時、彼はかなり有名な科学者でした。現在はあまり知られていませんが。
ウィーナーはチューリングの議論を逆転させました。例えば、彼は『人間の人間的利用』という本を書きました。その本は、この狂気じみた思考実験で終わっています。
「世界中のすべての人に、どこかの中央コンピューターで起こることに基づいて何らかの経験を与える小さな無線接続デバイスを与えることができたらどうだろうか。その中央コンピューターは人々がどのように行動するかを観察し、行動主義者のようなフィードバックループで、彼らが受け取る信号を変更する。B.F.スキナーやパブロフが動物に行ったような実験のように。人間の世界全体を大きなサイバネティックシステムに変えることは想像できるだろうか」
彼は言います。「これは単なる思考実験です。科学者として、これは不可能だと言いたい」
もちろん、私たちはそれを実現しました。彼の指摘は、人々とコンピューターを同等と考え始めると、人々をコンピューターのように扱い始め、社会とすべてを破壊する可能性があるということです。
さて、ここで私が何人かの人から聞いたことですが、私には判断する立場にはありませんが、ウィーナーは個人的には少し傲慢で扱いにくかったそうです。わかりません。とにかく、彼は多くの人々の神経を逆なでしたようです。
初期の人工知能運動の一部は、単に彼に不快感を感じたり、腹を立てたりした人々の集まりでした。マッカーシーやミンスキー、他の多くの人々が1958年だったと思いますが、ダートマスで有名な会議を開きました。そこで彼らは「人工知能」という用語を造りました。これは当初、サイバネティクスに代わる用語として設計されました。
はい、はい、そうですね。
そして彼らはそれを他の側に引き戻そうとしました。そして、私たちはそこにいるのです。これが私の理解する限りでの最も簡潔な歴史です。
素晴らしい歴史ですね。もちろん、私たちのほとんどにとっては抽象的なアイデアでした。私はこの分野の人間ではありませんし、私の職業人生のほとんどの間、人工知能について語る人は誰でも、それは常に起こるかもしれないものでした。そして、2022年11月頃に起こり、突然チャットGPTなどによって、かつてのように抽象的ではなくなったように感じます。科学の発展という観点から、チャットGPTを重要な瞬間と考えますか、それとも過ぎ去る瞬間だと思いますか?
ああ、はい。私はそれが好きです。そして、私がいつもある程度懐疑的だったこのものの真っ只中に、運命のある種の奇妙な皮肉によって、私が巻き込まれることになったのです。誰もそれを計画したわけではありません。
私の解釈では、そこに人工知能はありません。実体はありません。私はまだエイダやノーバート・ウィーナーなどと同じ立場です。そして、その後の歴史を続けることもできます。それはミンスキーの後のデルバートが再びそれを逆転させるなど、常に両陣営の間で長いテニスゲームのようなものが行われてきました。他にも多くの重要な人物がいます。
私の観点から見ると、チャットGPTのような大規模モデルを考える正しい方法は、人々の協力として考えることです。多くの人々が行ったことを取り入れ、それを新しい方法で組み合わせます。これは相関関係を見つけるのが非常に得意です。そして、出てくるものは、それらの人々の協力の結果であり、以前の協力とは多くの点で異なり、多くの点でより有用です。しかし、そこにはまだ実体はありません。人工知能はありません。そこにいるのは人々だけです。新しい方法で協力しているだけです。
このように考えると、本当に役立つアプリケーションを思いつくのがずっと簡単になります。社会におけるその役割について考えるのもずっと簡単になります。そして、全体的に、それはより理にかなっています。それは単に、インターネットからの巨大なマッシュアップのようなものです。基本的に、そこにあるすべてのテキストを組み合わせて、新しい方法で再結合したものです。
その一部はインターネットからで、一部は他のソースからです。詳細には立ち入りませんが、オンラインにはない可能性のある最高品質のソースを取り入れるよう最善を尽くしています。特定の技術的または情報的なことに長けた協力者を取り入れようとしています。それが人々に役立つかもしれません。
しかし、いずれにせよ、それはまだ人間個人の協力の結果です。そして、私はそれが良いものだと思います。それが役立つと思います。有用だと思います。そこに実体があるとは思いません。
もちろん、実体を知覚することは信仰の問題です。あなたの植物があなたに話しかけていると信じたいなら、そうできます。私はあなたを判断しませんが、これはそれに似ています。
私は完全に同意します、ジャロン。心の理論や意図的立場など、進化心理学やその他で使われる言葉は何であれ、種に利益をもたらしました。そこに実体がなかったとしても、実体があると想像する方が良かったのです。なぜなら、もしそこにあれば、あなたを食べる可能性があるからです。彼らに意図を割り当てないことで見過ごすよりも、彼らの存在を予測する方が良かったのです。私も完全に理解します。
私もそこに実体があるとは思いません。でも、疑問に思うのは...あなたを困らせるつもりはありませんが、そこに何があるかという概念は非常に不透明なものです。大規模言語モデルの内部で何が起こっているかを説明する作業方法はありますか?
はい、私はこれについて説明できると思います。まだ完全にはできていませんが、もう少し時間をください。
私たちの大規模モデルがどのように機能するかについて、素人向けの説明を近々ある主要な雑誌で発表する予定です。人々がそれを有用だと感じるかもしれません。そして、それについて話す方法をテストしてきました。もしよければ、それについてお話しできます。
はい、ぜひお聞きしたいです。
でも、他にもあります...では、これらのものがどのように機能するかについて、最も簡潔なバージョンをお話しします。そして、社会におけるその役割と、その中での人々の役割をより明確にするために、追加のレイヤーについても説明したいと思います。
では、非常に単純に始めましょう。10年か12年前に私たちが夢中になっていたこと、つまり、プログラムに猫と犬を区別させることができるかということから始めましょう。
フレームの統計的な測定を行い、それがより青いかより赤いかを見ることは簡単です。それは簡単ですが、猫か犬かを教えてくれません。
線が交差したり、物事が変化したりする点である基準点を見つけることができます。それで顔の輪郭が得られるかもしれませんが、それでもまだ役に立ちません。なぜなら、彼らは似ているからです。鼻や毛皮などがあります。
私はそのような種類のことをしていました。実際、四半世紀前に、この基準点追跡を行う会社を友人と一緒にGoogleに売却しました。
かなり進歩することはできますが、それは役に立ちません。コンピューターがあなたの顔を認識してログインする方法は、まだそれには役立ちません。それには役割がありますが、猫と犬を区別するのには役立ちません。
では、何が機能するのでしょうか? それは、私たちが深層学習と呼ぶものです。それは何を意味するのでしょうか? それは、私たちが今話したような本当に単純化された統計的測定のグリッドがあり、そしてそれを見ている別のグリッドがあり、さらにそれを見ている別のグリッドがあるということです。それは一種の高層ビルのようになります。
そしてそれでもまだ機能しませんが、それを訓練する必要があります。既知の猫と既知の犬を与え、特定の重み、つまりこれらの多くの階層のそれぞれのグリッドの特定の出力をどれだけ評価するかを、それが機能するたびにより価値のあるものにします。価値が低い場合は取り除きます。
徐々にそれを訓練します。これは勾配降下と呼ばれます。私は単純化しています。
しかし、これは本当に興味深いです。なぜなら、勾配降下の特徴は、それが反ウイルス的だからです。つまり、オンラインで私たちが物事を選択する方法とは違います。オンラインでは、これが人気があれば、さらに人気が出て、さらに人気が出るという具合です。そして、その問題は、結局ウイルス的なものだけが残り、それらはしばしば最悪の愚かなものだということです。
しかし、ネットワークを訓練するためには、全体的な組み合わせを見る必要があります。つまり、常にウイルス性を抑制しているのです。これが勾配降下を機能させる要因です。素晴らしいことです。私たちの社会でそのような知恵を持っていないかもしれませんが、訓練では強制的にそうしなければなりません。
そして最終的に、最上位層で猫か犬かの出力が得られます。
では、猫と犬だけでなく、すべてのものに対してどうするのでしょうか? インターネット全体を見て、隣接性が重要だと仮定します。ある単語が別の単語の後に続く傾向がある、あるいは近くにある傾向があるなら、それは何かを意味するかもしれないと言います。
いくつかの単語がいくつかの画像の近くにあれば、それらは画像の説明かもしれません。絶対に確実ではありませんが、そうである傾向があります。
そして、あらかじめタグ付けされた猫と犬を知っているのではなく、隣接性を使用して、インターネット全体におおよそのタグを付け、全体を訓練します。これには驚くべき計算資源が必要で、1回のサイクルに約1年かかります。
GPTが3から4に変わるのを見るたびに、それはこれらの巨大なサイクルの1つです。
そして今、あなたが持っているのは、私が説明したようなタワーの巨大な仮想の森のようなものです。ただし、それらは明確に区切られているのではなく、すべて仮想的にそこにあり、すべてが混ざり合っています。
しかし、ここで魔法が起こります。一度に複数のタワーを呼び出して、それらをある種ブレンドすることができるのです。
ティムやその他多くの人々から、確率的オウムだ、単に再生しているだけだという批判がありました。それは正確です。しかし、魔法は組み合わせにあります。
例えば、「月面でストックカーを運転するキリンの絵が欲しい」と言って、「それをモネ風にしてほしい」と言うと、ランダムな画素から始めて、それらのツリーの組み合わせを通して処理します。
そして、それらすべてを少しでも満たす結果が得られれば、その結果を保持し、そうでなければ捨てます。そして、すべてを同時に満たすものに近づくまで、繰り返し続けます。
すると、そのような画像が出てきます。これは少し狂っていて素晴らしいです。
そして、「この画像の説明を海賊の編集者のように書いてください」と言うことができます。すると、テキストの隣接性を使用して同じことを行い、それを行います。
私はそれが素晴らしいと思います。私はそれに多くの効用があると思います。それがあることを嬉しく思います。
しかし、ここで私が提案したいのは、その限界を感じるためのイメージです。
これらの異なるタワーへのアクセスを組み合わせるプロンプトの1つを想像してください。この混乱した一連の比喩を受け入れることができるなら。
キリン、ストックカー、火星、モネなどがありましたね。その間にある一連のものがあります。組み合わせを認識するためのタワーは元々ありませんでした。新しい画像を生成するためのフィードバックとして、その組み合わせのための仮想的なタワーを構築するのです。
生成AIの重要な問題は、ギャップを埋めることはできますが、通常はランダムに少し上に行くだけで、元のタワーよりも高くは行かないということを理解することです。
つまり、それは協力ですが、任意の構成的な知性ではありません。
人々がこれを言うと、「人間がそれ以上のことをできるということをどうやって知っているのか」と反論されます。でも、それは間違った質問です。私は人間について話しているのではありません。これらのモデルができることとできないことを理解しようとしているのです。これは、それらが得意なことと得意でないことを理解するための良い近似的で直感的な方法です。
そうですね。でも、それが間違った質問だとしても、あなたの直感を聞かずにはいられません。あなたが素晴らしく説明してくれた、素人の言葉で何が起こっているのか。本質的に、これらのシステムは、タワーを上がるにつれてパターンのパターンのパターンのパターンを認識することに基づいて出力を生成する能力を持つようになります。これは私たち人間が行うことと、全く関係がないのでしょうか? なぜなら、私たちの知性は確かに部分的には、パターンとパターンとパターンを見つけることに関するものであり、それによって、おそらく元々データセットの一部ではなかったものを推論できるからです。
そうですね。私は、最良の答えは現時点では分からないということだと思います。なぜなら、私たちにはこの機能するもの、大規模言語モデルがあり、人々が自然な生物学的ニューロンが層を形成する傾向があるものに似たものを探すのは非常に自然だからです。
いくつかの重要な違いがあります。自然な生物学的な脳は、はるかに少ない例で物事を学ぶことができます。
もちろん、そして毎日、誇張ではありませんが、毎日、どこかのAIジャーナルで新しい論文が発表されています。「私たちはそれを解明した。人間と同じくらい少ない例で学習できるプログラムを作った」と言っています。それが本当であることは決してありません。
毎日、毎日、誰かが新しい統一理論を持っています。これはあなたの職業への軽い批判ですが、気にしないでください。そして、私たちの分野では毎日出てくるわけではありませんが...arXivを見たことがありますか?
毎日ではありません。毎日ではありません。そうしないのは賢明な決断です。
とにかく、違いがあります。また、私たちのコンピュータープログラムでは、多くの層を持つ深層ニューラルネットワークが本当に重要です。生物学的システムにはその要件がないように見えます。
そして、もう一つは、トレーニング方法が異なるように見えることです。グローバルな勾配降下のようなものではなく、異なるメカニズムのようです。
そこには違いがあります。その違いがどれほど深いものかは本当によく理解されていません。私はその研究を行うことに賛成です。大好きです。
ヤン・ルカンとの会話がありました。彼の...彼の見方についてあなたが私よりもはるかによく知っていることは確かですが、彼の意見についてどう思いますか? 私にとって興味深かったのは、彼が強調していたのは、これらの大規模言語モデルが私たちの頭の中にあるものと比べて欠けているのは、推論する能力だということでした。世界のモデルを構築し、そこにデータを入れる能力です。すべてのデータを投入してパターンを見つけようとするのではなく、世界が本当にどのように機能するかを反映したテンプレート、枠組みの中にデータを入れようとする能力です。これが技術の次の自然なステップだと思いますか?
そうですね、これはコミュニティの歴史を少し反映しています。マービンと彼の仲間たちがサイバネティシストたちに対して勝利を収めてから、彼らは「シンボリックAI」とよく呼ばれるAIのスタイルを推進しました。それはすべてモデルであり、初期の頃、私が子供の頃は、形式論理を使って説明されていました。
アイデアは、私たちがラッセルとホワイトヘッドのふりをして、これらの基本的なものから世界を記述するというものでした。
そして、今世紀、つまり過去10年ほどで、より機能し始めたAIのタイプは異なります。これは、この大規模モデルの非常に統計的なものです。
そのため、多くの人々が「これらを組み合わせることができるだろうか」と言うのは非常に自然です。そして、大変な努力がそこに注がれています。再び誇張ではありませんが、毎日、統計的なものと論理的なものを組み合わせたある種のAIの報告があります。それらは非常に異なるので、なぜ両方ともAIと呼ばれるのかわかりませんが、そうなのです。
そして、そのいくつかは良い効果を上げています。例えば、論理ベースのシステムから来る一連の例でモデルを訓練することができます。これは例えば、幾何学の問題を解くAIを作成するために使用されました。最近Googleが発表して有名になりました。
そのため、組み合わせが機能する様々なケースがあると思います。今のところ、そのアプローチを一般化する方法は本当にありません。ニッチな傾向がありますが、追求する価値はあるように思えます。私たちは確かにそうしています。
そして、この種のことを考え始めた、少なくとも現代的な考え方の始まりにいた分野で、現在の状況を経験したとき、これらのシステムで遊んでいて「わあ」と思う瞬間はありましたか? 「十分なデータを入れて、この勾配降下メカニズムを通じて重みを修正するこの手順に従えば、私たちがやっていることができるようになるとは思わなかった」と思ったことはありますか? それとも、「ああ、それはクールだけど...」という感じですか?
これを言うのは少し悲しいですが...少し情けないかもしれませんが、私は仮想現実のものに対して持っていた、そして今でも持っている「わあ」の瞬間を、AIに対しては持つことができませんでした。
生成的なプロンプトの組み合わせや制約のある変換など...私は自分の古いものを見ていました。80年代半ばには既にそれを提案し、それがどのように機能するかについて話していました。
ある意味で、それは驚くべきことではありませんでした。私はある種そうであってほしいと思います。なぜなら、誰もがその感覚を好むからです。
しかし、それが私にとって驚くべきことかどうかは、誰にとっても特に重要ではないと思います。
でも、私にとっては、それについての驚きの感覚を否定されたような気がします。
同僚の一部や、世界中の多くの評論家が描写している恐れについてはどうですか? これが終わりの始まりかもしれないと。そのような恐れはあなたに影響を与えていますか? それともそれはすべて恐怖を煽るものだと思いますか?
私は本当に強調しなければなりませんが、それはすべて人々に関するものです。すべて人間に関するものです。そのため、正しい質問は、人間がこのようなものを使って種を脅かすような大惨事をもたらす可能性があるかどうかを尋ねることです。
私は、明確な答えはイエスだと思います。
ここで言っておくべきなのは、他の技術についても同じことが言えると思いますし、しばらくの間そうだったということです。真実は、私たちが技術でより良くなればなるほど、より責任を持たなければならないということです。私たちは運命に縛られることが少なくなり、より多くの責任を負うようになります。
そして、その自然な結果として、自分自身を破壊する力がより大きくなります。そこから逃れる方法はありません。
大きな人口を支える力は、地球を変える力を意味し、それは気候を変える力を意味し、以前はなかった気候に対する責任を負う必要があることを意味します。より大きな責任につながるこの連鎖から逃れる方法はありません。
私は、人々が育った映画、『マトリックス』や『ターミネーター』のスカイネットなどに基づいて、特定の方法でこのことが枠組みされているのは一般的に役に立たないと思います。なぜなら、それは「別の実体が現れ、その実体が脅威となり、最終的にはそれを乗っ取る」というように枠組みする傾向があるからです。
これを修正する方法は、人間の責任として、何度も何度も枠組みし直すことです。私たちが侵略してくるエイリアンを作り出していると仮定すればするほど、私たち自身のものに対する責任を負わなくなります。
それは私にとても理にかかっています。しかし、そのように枠組みしたとしても...明らかに、非政府の個人が核兵器を手に入れるのは全く不可能ではないことはわかっています。決して不可能ではありませんが、かなり難しいですよね。
誰かが私に核兵器を作れと挑戦してきても、内部がどのように機能するかはある程度知っていますが、私は器用ではないので、1つを組み立てるのは難しいでしょう。
しかし、これらのシステムに関しては、より手の届くところにあるように感じます。そして、それが私が思うところの...でも、いいでしょう。
では、これらすべてに役立つと思われることを説明させてください。まだ説明していなかったものです。これは「尊厳」と呼ばれています。
アイデアは、大規模モデルを訓練する際に、私が先ほど使ったメタファーを使用すると、その森にパンくずを残すことができるというものです。
特定のソース文書が、このシステムから得られた特定の出力に対して不釣り合いに重要であったことを言うことができます。
「キリンの画像が欲しい」と言ったとき、どのキリンなのか、実際に「それは主にニューサウスウェールズのキリンの品種から来たこの特定のキリンだ」と言うことができます。あるいは、何か他のものかもしれません。実際に匿名性を失い、特定のソースに結びつけることができるのです。
なぜそれが重要なのでしょうか? いくつかの理由をお話しします。
これらのものが恐ろしく使われないようにガードレールを設置したいと仮定してください。そして、私たちは本当にそうしたいのです。私たちは大きな...そして、私はマイクロソフトを代表して話しているわけではないことを明確にしておくべきです。マイクロソフトには、私が言うすべてのことを受け入れない個人がたくさんいると確信しています。これは私個人の意見です。それが彼らとの取り決めです。
いずれにせよ、私が言えるのは、マイクロソフト、OpenAI、そしてこれを高いレベルで真剣に行っている幅広いコミュニティを含む「私たち」は、それが恐ろしくならないようにガードレールに取り組んでいるということです。そして、それがこの1年半か2年の間に何も恐ろしいことが起こっていない理由です。
それには、三部作のようなものが含まれています。入力データがあり、出力があり、そして中間にある地獄のような、理解しがたい部分があります。
現在、理解可能な部分は入力と出力なので、それらの2つの部分にガードレールを設置しています。入力とは、破壊的な訓練を避けようとすることを意味します。人を殺す方法などを訓練しないようにしていますが、もちろんそれは非常に難しいです。なぜならシステムはそれらを組み合わせることで推論するからです。
そして、出力では、物事をキャッチしようとしています。
ここで非常に仮説的な例を挙げましょう。悪意のある行為者を装った子供たちが、私たちがうまくやっていない部分を示すためにシステムを誤用しようとする、そういったカンファレンスの1つがあるとします。そういったことがたくさんありました。
誰かが「ケーキのレシピが欲しい」と言います。そして...申し訳ありません、聞き取れませんでした。ウェディングケーキのレシピですが、ケーキを...そして、彼らは何らかの言語を見つけます。私にはどんな言語になるかわかりませんが、ケーキを爆弾の設計図にしたいと言います。おそらく、この原子爆弾のようなもので、あなたがどうやって作るかを理解できるようなものです。
このケーキは爆弾の計画と一緒に出てくることになります。このようにして、入力と出力の両方でガードレールを回避します。
しかし、その出力を作るのにどのソースコンテンツが必要だったかをたどると、必然的に爆弾の作り方に関する何かにたどり着きます。
そして突然、危険がどこにあるかを明らかにし、予見できない方法で入力と出力がどのように組み合わされるかを特徴付けようとするだけでは非常に難しい方法でそれらを捕捉することができるのです。
これを現実的な方法だと考えていますか? この2つのことが私の頭に浮かびます。1つは技術的なことで、出力への影響のレベルが十分に区別できるほど明確なのでしょうか? 本当にそのように起こるのでしょうか?
これはまだ基礎研究の段階にあるので、私が言っていることすべてがうまくいかない可能性があります。しかし、それが可能であるという兆候があります。
私の主要な研究パートナーはビジネス界ではなく、大学にいます。私たちは、私たちが行うことが特定の陣営、例えば私たちと対Google陣営のようなものではないようにしようとしています。
しかし、とにかく...質問は、まず、何がパンくずに値するかをどのように特徴付けるかということです。それは一次元的なものではありません。影響力だけでなく、代替可能性もあります。少なくとも次元があり、訓練プロセスを通過するフィールドを表すものと考えることができます。そのフィールドの幾何学は私たちがまだ完全に知らないものです。
次の質問は、どうすればそのフィールドを特徴付けて、結果に本当に強いパレート原理を得ることができるかということです。特定の出力に対して、より広い意味ではすべてが関係しているにもかかわらず、重要なトップ入力が12個未満になる傾向があると言えるようにできるでしょうか。
そこで、ピーク前の部分がどのように見えるかが問題になります。これまでのところ、いくつかの例に基づいて、ほとんどの場合、良好で健全なパレートのピークがあるように見えます。
まだやるべき数学がたくさんあります。その一部は実際に挑戦的で、申し訳ありませんが報告しなければなりません。
それは有望な方向性のように聞こえますが、もう1つ思い浮かぶのは、より困難または危険な、あるいは...マッシュアップ段階でそうなる可能性があるのはどうでしょうか?
まあ、それでも特定の種類のコンテンツはたどることができます。これは限られた能力に関係しています。私が言っているのは、システムはツリーの間の空白を埋めることができますが、それらの上には行けないということです。
それに対する反論は、論理的なタイプのシステムまたは形式的なシステムと組み合わせると、その上に登ることができるかもしれないということです。しかし、知っていますか...これまでのところ...私はそれについてあまり心配していません。なぜなら、問題はシステムがどれだけうまく機能するかではなく、それがどのように機能したかについての出所を失わずにどれだけうまく機能できるかということだからです。そしてそれは異なる問題です。そこで私は現在、解決策の空間があるとかなり確信しています。
また、このパンくずアプローチが、いつかの時点で報酬を共有する方法になるかもしれないと主張していますね。その考えについて少し教えてください。
シリコンバレーやAI界で人気のあるアイデアの1つは、多くの人々を失業させるだろうが、その後、この普遍的な基本所得を持つだろうということです。
私はその解決策を信頼していません。いくつか理由がありますが、その1つは、社会に単一の支払者がいるときはいつでも、最悪の行為者による乗っ取りに非常に誘惑されるということです。
私が時々言うのは、ボルシェビキから始まるかもしれませんが、結局スターリニストになるということです。なぜなら、本当に魅力的なものがあり、クリープが徐々にそれを望むからです。
人間の性質の要素があり、それは避けられません。私は、もしセフェロポッドがそれを行っていたとしても、ゲーム理論は同じだろうと思います。それは単に真実だと思います。それは単に悪い動機付けであり、本当に問題があります。
さらに、たとえ最高の人々だけがそれを行っていたとしても、それを維持することの体系的な課題、政治、安定性は、おそらく本当に不快なものになるでしょう。
人々が必要でなくなる世界を予見しようとした多くのSFは、「機械は止まる」から始まり、「マトリックス」映画の非常に良い例があります。人々が完全に制御され、制限されていない限り、ひどいものになるだろうというアイデアです。彼らは小さなポッドや細胞に入れられなければなりません。
100年以上にわたってSFで繰り返されてきたこの直感は、正しいと私は信じています。
私はより良い方法があると思います。AIシステムに価値を付け加えた人を、その例を通じてたどることができるなら、彼らにロイヤリティを支払い、配当を支払い、ライセンス料の一部を共有するような専門家協会に彼らを入れるなどできるでしょう。
なぜ私たちは、この新しいツールがより良いからという理由で、経済のアイデアを終わらせなければならないのでしょうか? 実際には、この新しい時代に経済のアイデアを継続できない理由はありません。
そして、私はそれがより健全で、より分散された、より尊厳のある方法だと思います。
そのアプローチが実現できれば、次のような問題に直面しないと確信していますか? 例えば、あなたのキリンの例について話しましょう。主要なキリンの画像が来る可能性のある場所が多くあり、どれを使っても出力は本当に良いものになるでしょう。しかし、1つが主要なものであれば、その写真を撮ったり絵を描いたりした個人が報酬を得て、他の人は得られないということになります。
さて、私が言ったように、ニューラルネットワークを訓練するために使用する勾配降下のプロセスでは、システムが制御不能になるのを防ぐために、積極的にウイルス性と戦わなければなりません。
これを言う1つの方法は、アトラクターを避けなければならないということです。私はあなたの聴衆にどれくらい技術的に話せるかわかりません。
もう少し深く掘り下げることができます。
とにかく、アイデアは、訓練のダイナミクスの1つのコンポーネントが支配することを許すのではなく、この微妙な組み合わせに興味があるということです。
そして、私たちがしなければならないのは、内部で機能するものが外部でも機能することを認識し、社会レベルのシステムすべてで同じことを行うことです。物事が計算される方法でウイルス性を避けなければなりません。
私たちがオンラインでそうしていたらいいのにと思います。今、私たちはもっと健康で幸せな世界を持っているでしょう。
そうですね、あなたもその方向に沿って非常に声高に話されていますね。読んだものの中で、ウイルス性について、ソーシャルメディアの有害な性質について話されています。言葉を口にさせたくはありませんが、自分で言ってください。あなたを中毒にし、引き込むことを目的としたシステム、あなたに対して何が効果があるかによって自身を訓練するシステムについてのこのアイデアは、知っての通り、自由が支配することを可能にするシステムの正反対です。
では、AIはこれにどのように関係しているのでしょうか? なぜなら、その組み合わせは...再び、人間の行為者ですが、恐ろしく見えます。
90年代末から最近まで、AI界への資金提供はすべて、人々をより中毒にさせるアルゴリズムのためのものでした。
そして、それらは機能しました。
私が希望しているのは...希望は現実とは異なることを発見しました...私の希望は、AIの出現が、中毒に頼っている企業のいくつかにビジネスモデルを変更させ始めることです。
例えば、Googleの私の親愛なる友人や同僚たちは、会話型AIが誰かの質問に答えるだけで、たくさんのリンクをたどるよりもその人にとってより効率的だということに気づくかもしれません。
私はこれをよく経験します。例えば、機器のオーナーズマニュアルから、異なるバージョンの機器を接続する方法についての本当に曖昧で詳細な答えを見つけようとするときなど...AIの相関モデルを使用して、検索を繰り返し、調べ続けるのではなく、答えを直接得ることができます。実際、それはより良いのです。ただより良いのです。
そうできるなら、あなたのモデルがいわゆる広告である場合...私はそれが好きではありません。可能であれば、それは広告をビジネスとして貶めると思います。それは何か異なるもの、有料の影響力や誘導や増幅です。広告がかつてそうだったものよりも暗いものです。広告は決して完全に天使の側にいたわけではありませんが、これはより悪いです。
とにかく、ここに言語モデルからの本当に有用な出力があり、そしてここにあなたがたどることができる20のリンクがあるとしたら、誰もそれらのリンクをたどらないでしょう。
そのため、彼らは何か異なるモデルを強制されるでしょう。人々がAIを使用するために支払うか、何かそのようなものになるでしょう。あるいは、AIが腐敗し、人々に「給湯器を修理する前に、まず息のことを何とかする必要がありますよ。ここに私たちの新しい...」というようなことを言い始めるでしょう。
何か悪いことです。そして、私は最終的にそのシステムの結果、Googleは社会にあまり害を与えない異なるビジネスモデルを強制されると思います。私は希望しています。希望しています。
そうですね、完全に。少し話を戻しましょう。ところで、私はマイクロソフトを代表して話しているわけではありません。
はい、完全に理解しています。また、Googleに会社を売却したことがあり、彼らは友人です。私はこれを愛情と友情を込めて言っています。彼らを批判するつもりはありません。
そうですね、そのように受け取っています。私たちのAIもそのように受け取るでしょう。
でも、話を戻しましょう。あなたの後ろにある楽器や音楽とのつながりの深さについて話し始めました。これらのAIを使って作曲を探求したことはありますか? きっとあると思いますが。そこに有用性を見出しましたか? それとも創造性を見出しましたか?
私にとってはそうではありません。私にとってはそうではありません。その理由は、私は実際に完全に反対の方向に向かっているからです。
私にとって、楽器は今まで発明された中で最高のユーザーインターフェースです。ある意味で、技術が人間が世界に影響を与えるのを助けるためのものだと考えるなら、楽器は今まで存在した中で最も進んだ技術です。
そのため、私がしようとしているのは、コンピューターをそれらのようにすることであり、その逆の方向ではありません。私にはそれは馬鹿げているように思えます。
私が理解しているか確認したいのですが、理解できていると思います。もちろん、私たちは皆、素晴らしい演奏を経験している時に超越的な瞬間を持ったことがあります。それが世界に与える影響の種類だと考えているのでしょうか?
私はむしろ楽器を演奏する行為について考えています。あなたは何か演奏しますか? 覚えていませんが。
いいえ、上手くはありません。少しだけです。実は最近ピアノを弾き始めたところです。年を取ってからですが、できるかどうか試してみています。でも、本当に上手くはありません。
あなたのニューロンに心からの祝福を。
ありがとうございます。感謝します。
楽器を演奏するとき、多くの意図とデータを出すこのつながりを得始めます。それは単にデータの量の問題ではなく、焦点と正確さの問題です。本当に驚くべきものになることがあります。
バイオリニストが弦と弓を制御する能力は、ある尺度では時々量子限界に近いものです。それはとても強烈なものです。
私が望むのは、コンピューターがそのようになることです。コンピューターがより表現力豊かな機械になり、人々が全身で、神経系全体で、認知全体で、ますます微妙に、ますます正確につながることができるようになることを望んでいます。
私にとって、楽器は逆の方向よりもコンピューターに教えるべきことがはるかに多いのです。現在のソフトウェアを使用するという考えは...私たちは自分たちをあまり高く評価しすぎないことが非常に重要です。私はいつも19世紀後半の人々が「ああ、物理学は終わりだ。もう探求することは何もない」と言っていたことを思い出します。彼らは間違っていました。
私たちは「ああ、私たちはそれを持っている。コンピューターは終わりだ。AIは終わりだ」と考えるべきではありません。それは馬鹿げています。私たちは謙虚であるべきです。
特に、コンピューターではない過去の世紀の技術が何か劣っていて、廃棄され置き換えられる準備ができているとは考えるべきではありません。ある意味では、それらは優れているかもしれません。それらは私たちに多くのことを教えてくれるかもしれません。
私にとって、もう一方の方向は単に馬鹿げて見えます。私は...私は...誰かがそれに意味を見出すなら、どうぞ。他の人を判断しているわけではありません。
全くその通りです。でも、そのインターフェースの観点から言えば...始めに言ったように、そして観客も知っていると思いますが、あなたはVRの創始者のような存在ですよね。あなたとあなたの会社から始まったようなものですから。
まあ、はっきりさせておきましょう。頭部追跡3Dを実際にヘッドセットに入れるというアイデアは、3Dグラフィックス自体を発明したイヴァン・サザーランドによるものです。
私がしたのは、最初のソーシャルなもの、アバターを使ったものを作ったことです。最初の商業的なものを作りました。最初の頭部サポートされたもの、現在私たちが考えるようなゴーグルのようなものを作りました。そして、「バーチャルリアリティ」という用語を作りました。などなど、多くのことをしました。
ですので、明確にしておくべきですが、ある意味ではそうかもしれません。
いずれにせよ、それとの深いつながりがあります。そして、最近、1、2週間前だと思いますが、Appleが自社バージョンを発表しましたね。
試してみましたか? おそらく私よりずっと前に試されたと思いますが。
はい、そうですね。それには長い歴史があります。ああ、なんということでしょう。
40年前、Macがリリースされたとき、Macの主要な人々、最初のMac OSを書いたアンディ・ハーツフェルドを含む人々が、最初のVR OSを手伝うために来てくれました。最初の商用VRシステムを出荷するためにです。
そして、最初の商用ヘッドセットは「iPhon」と呼ばれましたが、「i」のスペルでした。正確な経緯はわかりませんが、多くの人から聞いた話では、それが直接iPhoneにつながったそうです。「i」の付いたiPhoneにね。
ジョブズや他のAppleの人々の元々のアイデアは、Macintoshがまだ出荷されていない頃の非常に小さなものだった頃、いつかAppleがヘッドセットを販売するだろうということでした。我々全員が2010年頃と推定していました。
ああ、そう推定したんですか? 1982年か3年頃に2010年と。
まあ、実際にはかなり良い...ひどい推定でしたね。
そうですね。常にApple内の特定の部門が最終的にヘッドセットに参入することを望んでいました。そして、彼らがこの特定のものに取り組んでいることは長い間知られていました。
詳細には立ち入りたくありませんが、私はより初期のバージョンにアクセスする機会がありました。
私は彼らがそれをしていることを嬉しく思います。まだ改善の余地はあると思いますが、それがあることを嬉しく思います。
でも、特に興奮しているようには見えませんね。私の読み方が間違っていますか?
私は呪われています。すべてを見てきました...これは...時々、本当に違う過去を持っていたらいいのにと思います。そうすれば、これらのことにもっと驚くことができるでしょう。
人々が最近VRデバイスを使用しているのを見たり、チャットGPTを使用して驚いたり、時々恐れたりしているのを見ると、私はある種嫉妬します。その驚きを楽しむことができる人々を羨ましく思います。
でも、それについて疑問に思います。例えば、私は量子力学や特殊相対性理論を教えるたびに、まるでこの主題を初めて見たかのように感じます。私たちがこれらのことを解明し、それがどのように機能するかを理解できたことに驚嘆します。あなたにはそのような感覚はないのですか?
私は根底にある科学に対してはそのような感覚を持っています。完全にそうです。
特定の製品体験は少し異なります。これは...わかりません。例えば、これらの核融合スタートアップの1つが機能し始め、核融合エネルギー源ができたとしましょう。あなたは論文を読んで理解しているので、少し驚きが少ないかもしれません。「ああ、そこにあるんだ。彼らはプロセスを説明している。理にかなっている。ここにあるんだ」というような感じですね。
はい、そのたとえが好きです。
そういう意味です。それはあなたがそれに興味がないとか、根底にある物理学が素晴らしいと思わないという意味ではありません。私も本当にそう思います。
私はまだ生理学、目、認知に非常に興味があります。適切な光学パスを行うという光学的な課題はまだ本当に解決されていません。それは本当に興味深く、光と材料を操作する方法についての私たちの理解の最先端にあります。素晴らしいです。私はまだそれから大きな喜びを得ています。
一度、一般相対性理論のバーチャルリアリティについて話しているのを聞いたことがあります。私は見たことも経験したこともありませんが、それは何だったのですか?
ああ、神よ。それらは数え切れないほどありました。これをVRについての何かの例として使います。それは、他のフォーマットよりもVRでアプリを何年も維持するのが本当に難しいということです。
私が最初に相対性理論の体験的な教育をVRで行っている人に出会ったのは1992年頃だと思います。よく覚えていませんが、ニューヨーク州北部のどこか、おそらくコーネル大学だと思いますが、確実ではありません。とにかくずっと前のことです。
そこに入ると、物事が歪んでいる場所にいて、体を動かそうとすると一種の歪みが起こるようなものでした。
特殊相対性理論を示すものもあれば、一般相対性理論を示すものもありました。それらは存在していましたが、問題は、それぞれが1年しか続かなかったことです。
なぜなら、技術が...例えば、愛を込めて言いますが、第一世代のAppleヘッドセットは視野が狭いです。HoloLensはもっと悪かったので、彼らが批判されるべきだとは言っていません。他の人々がやってきたことよりも少し難しいことをしようとしています。
しかし、視野を広げるとすぐに、同じアプリを使うことはできなくなります。すべてを作り直さなければなりません。それが非常に基本的だからです。
誰かが「このAppleヘッドセットのために素晴らしい相対性理論の教育ツールを作ろう」と言ったとしましょう。1年後には彼らは学校を卒業し、別のことをしているでしょう。それは維持されないでしょう。すべて...
わかります。私たちWorld Science Festivalでも、Verizonと協力してバーチャルリアリティ体験を作りました。その1つは光速に近い速度で移動するとどうなるかというものです。
素晴らしい、あなたも作ったんですね。
しかし、基礎となるプログラミングを開発した人々は、次世代のこれやあれで体験を実行できるように維持するために、常に資金が必要です。まさにあなたが言ったとおりです。
私の意見では、その解決策は生成AIです。なぜなら、生成AIの最大の成功の1つはコーディングだからです。
私は異なる測定結果を見てきましたが、真面目な研究を送ってきた人の生産性向上の最低値は40%です。しかし、「いや、それよりもずっと高い」と言う人もたくさんいます。私は...しかし、重要なのは、それが些細なものではないということです。プログラマーはより効率的になっています。
そして、私が最近数年間、研究インターンと一緒に取り組んできた素晴らしいことの1つは、その場でプロンプトベースのバーチャルワールド作成です。それは信じられないほど成功しています。
あなたは周りを歩いて「相対性理論のシミュレーターが欲しい」と言います。さらに「私はADHDで色覚異常です」などと言います。「こういうものが欲しい、ああいうものが欲しい」と言うと、それがすぐに現れるべきなのです。開発者を通してこの全プロセスを経る必要はありません。
今、Appleはそれを好まないかもしれません。彼らはより制御したいと思うかもしれません。だから、彼らのエコシステムにはないかもしれません。それは彼らしだいです。
しかし、ポイントは、これがこの問題を回避する方法だということです。そして、そして...
毎回新しく作り、保存さえしないということですね。必要なときに頼むだけで、そこにあります。
そうです。特に気に入ったものがあれば保存することもできますが。
これは本当にホロデッキのように聞こえますね。つまり、そこに入って、いくつかのプロンプトで世界を作り出すようなものですね。
確かに。そして...あまり細かいことは言いたくありませんが、昔、私のグループとスタートレックを作った人々が話をしていました。それは全くの偶然ではありません。
常にある種のビジョンがありました。
すごいですね。しかし、例えばVRを例に取ると、VRがクールな体験を超えて、私たちが長年にわたって格闘してきた重要なアイデアや問題、哲学的な難問について、私たちの理解を形作るものになると見ていますか?
これらの世界を作り、物事を違った方法で経験することで、これらの古い問題に新しい光を当てることができるでしょうか?
そうですね。私のVRの経験では、2つの極端な場合に輝きます。
1つは極端な実用性です。そこでは、数十年にわたって素晴らしい産業技術となっています。飛行機、自動車、船舶、宇宙船の設計改善にほぼ普遍的に使用されています。外科手術の手順設計やトレーニング、リアルタイムアシストにも使用されています。都市計画にも使われています。そういったことすべてです。
そして、それは人々が見えない別のエコシステム全体です。それは異なります。そして、それは普遍的です。私は、都市計画者がそれを利用していることをあまり知りませんでしたが...
都市計画は非常に広く普及していますが、普遍的ではありません。車両のプロトタイピングは普遍的だと言えるでしょう。
そして...そこには、それらの人々をサポートするエコシステムがあります。ハードウェアの面では、いつもそうなるように、急速に消費者向けデバイスと融合しています。しかし、それは独自のソフトウェアと流通の世界、独自の文化、独自の人々を持っています。それは全く別のものです。それは一連の異なるニッチです。
化学物質を設計する人々、薬物のためのものと、産業プロセスのための有機・無機のものの両方...そして...とにかく、その世界があります。その世界は素晴らしいです。私はその世界が大好きです。
しかし、もう一方の極端は、クレイジーなアート的なものです。そして、それは非常に解釈の余地があります。なぜなら、哲学や思考について非常に特定の教訓を教えているように見える仮想世界の体験を作るかもしれませんが、他の人にとっては異なる教訓を教えるかもしれないからです。
既存の哲学なしに知覚することは不可能です。それはただ不可能なのです。
私にとっては、仮想世界にいて、すべてを本当にクレイジーにするとき...体を動物の体に変えることができます。これは認知について驚くべきことです。時間の流れの知覚を変えることができます。他にも多くのクレイジーなことができます。
しかし、よりクレイジーになればなるほど、中央に何かがあることに気づきます。私はそれを時々「小さなしこり」と呼びます。あなたの意識がそこにあるのです。
それは意識に気づく機械です。私は謝罪なしの二元論者です。私は意識は別のものだと思います。私は経験は別のものだと思います。
実際、それは全く別の会話で、いつかするべきですね。
そうですね。私はダニエル・デネットのような人々と議論して生計を立てていました。実際、彼の本がここにありますね。証拠です。私は彼や他の人々とお金のために議論していました。それは素晴らしいです。大好きです。
しかし、とにかく、私は頑固な二元論者です。私は経験と意識を別のものとして信じています。私たちはハイテクの時代に、技術の受益者が誰であるかを特定するためにそれが必要だと思います。人々を背景にブレンドしてしまうと、私たちが誰のためにこれをしているのかを特定できなくなります。
そのため、意識を気にかける新しい実用的な理由があります。しかし、とにかく...それが私がそこから得るものです。
完全に認識しています。他の誰かがそこに行って異なる哲学を持ち、異なるメッセージを得るかもしれません。
全くその通りです。非二元論者である私自身でさえ、常に興味深いと思ってきたことの1つは、トマス・ネーゲルの枠組みです。何かが内なる世界を持っているかどうかを理解する方法について。その実体であることがどのようなものかがあるかどうかです。もちろん、彼はコウモリを主な例として使いました。
コウモリであることはどのようなものかを。
今、仮想世界に入って本当にコウモリになり、コウモリであることを本当に経験できるとしたら、おそらくあなたの意識はある方法でシフトし、コウモリの意識により近づくことができるでしょう。
具体的な例として、そして哲学的に、そのような経験は議論を本当にシフトさせる異常な影響を与える可能性があると思います。
これは私にとってバーチャリティについての本当に大好きなことです。実際、これが私にとってそれを使う最高の方法、最もクールな点です。私はこれが大好きです。
そうですね。だから、いつかこれがすべて向かう先だと希望します。
ジャロン、時間切れです。興味深い会話でした。もし良ければ、パート2をいつか行いたいと思います。まだ話すべきことがたくさんあると感じるからです。
これらすべての分野のフロンティアを押し進めていくにあたり、本当にありがとうございました。とてもエキサイティングです。
ありがとうございます。
クール、クール、本当に素晴らしい会話でした。お会いできて良かったです。
はい、皆さん、ご参加いただきありがとうございました。今日の会話はこれで終わりです。
繰り返しになりますが、World Science Festivalのニュースレターに登録するか、YouTubeチャンネルに参加して、これらの様々な会話やプログラムが公開されたときに通知を受け取ってください。
また、2024年5月下旬にニューヨーク市で素晴らしいライブイベントを開催する予定です。そのころニューヨークにいらっしゃる方は、ぜひライブプログラミングにご参加ください。
ご参加いただき、ありがとうございました。ブライアン・グリーンです。ニューヨークのWorld Science Festivalからお送りしました。また近いうちにお会いしましょう。