シンギュラリティへの道: ベン・ゲルツェルがAGIと人類の運命を語る

※長文のため、テキスト読み上げ機能の使用を想定しております。各OS標準搭載の「読み上げコンテンツ」、Microsoft Edgeの「音声で読み上げる」、Safariの「ページの読み上げを聞く」などをおすすめします。

皆さん、こんにちは。ジャレッド・ダイアモンドに会ってみたいと思いませんか? それも単に会うだけでなく、ほぼ2週間毎日一緒に過ごすのです。その方法をお教えしましょう。ご存じのように、スケプティック協会は世界中の様々な興味深い場所へのジオツアーや旅行を企画しています。各旅行には特別ゲスト講師がついています。次の旅行は9月23日から10月10日まで、アイスランド、グリーンランド、ノバスコシアをクルーズ船で巡ります。毎日ジャレッド・ダイアモンドと一緒に過ごせます。彼はこれらの場所や自身の様々な関心事について講義をします。食事中や遠足中にも一緒に過ごせるのです。
私はジャレッドを長年知っていますが、彼と数時間過ごせる機会を大切にしています。ここでは、ほぼ2週間も一緒に過ごせるのです。これは素晴らしい機会です。skeptic.comにアクセスして、ジオツアーのページをクリックしてください。今年2024年の9月23日から10月10日、偉大なジャレッド・ダイアモンドと一緒に北極圏探検、アイスランド、グリーンランド、ノバスコシアを巡ります。ぜひチェックしてみてください。
なぜシンギュラリティが起こるべきなのでしょうか? 複数のシンギュラリティが起こらないとどうしてわかるのでしょうか? また、すでに起こっていないとどうしてわかるのでしょうか? これはテリー・S・ノースキーが私と録音した際に指摘した点です。彼はチャットGPTに関する本を出版予定です。彼はシンギュラリティという概念自体を好んでいません。例えば、私が今持っているこのスマートフォンのようなものです。50年前にこれを持っていると言えば、それがシンギュラリティだったでしょう。社会や生活に大きな変化をもたらすものだからです。すでに起こっているのかもしれません。
私自身はシンギュラリティという概念にそれほど興味があるわけではありません。そもそもこういった話題に興味を持ったのは別の理由からです。私がこういった話題に興味を持ったのは、元々はSFを通してでした。オリジナルの『スタートレック』も含まれます。
1970年代初頭、私は地元の図書館で『プロメテウス計画』という本に出会いました。これはプリンストン大学の物理学者ジェラルド・フェインバーグが書いたもので、1968年に出版されました。その本には、数十年以内に人間よりも賢い機械ができるだろうと書かれていました。分子レベルのナノエンジニアリングが可能になり、死や病気を克服できるようになるだろうと。問題は、これをどのように使うかということでした。意識の拡大に使うのか、それとも無思慮な消費主義の拡大に使うのかということです。
彼はこれを民主的な投票にかけるべきだと考えました。国連が世界の人々にアンケートを取り、明らかに差し迫ったこれらの技術を意識の拡大に向けるべきか、それとも無思慮な消費主義に向けるべきかを問うべきだと提案しました。私は1970年代初頭、7歳くらいのときにそれを読みました。父にも興味を持ってもらおうとしましたが、彼にとっては少し先の話すぎたようです。しかし、これはプリンストン大学の物理学者が書いたものでした。
フェインバーグの見方では、単一のシンギュラリティの瞬間を想定する必要はありませんでした。彼はただ、機械が人間よりも賢くなり、そうすれば私たちは望むあらゆる物理的な物体を合理的な範囲内で作れるようになり、もう死ぬ必要がなくなるだろうと言っていたのです。これは本当に興味深いことでした。
実際、私にとってはこれらが興味深い部分なのです。シンギュラリティや知能爆発という関連する概念は、1965年にI・J・グッドが提唱したもので、ある時点で技術の進歩が非常に急速になり、素朴な人間の観察者にはほぼ瞬時に起こるように見えるというものです。私は、超人工知能の到来、死の克服、分子製造による希少性の克服といったものは、その到来がもう少しゆっくりとしたものであっても興味深いと考えています。トランスヒューマニスト哲学者のマックス・モアが言うところの「サージ」(急増)であって、シンギュラリティでなくても、それでもかなり急進的なものです。
ムーアの法則やその他の指数関数的成長曲線を外挿できるという観察は興味深いものです。多くの異なる分野での進歩の速度がどんどん速くなっているのが分かります。曲線フィッティングで外挿すると、傾きが無限大になるように見えます。これは実際の観察結果です。最も興味深いことではありませんが、興味深いことではあります。
シンギュラリティをそのように見るなら、私たちはまだそこには達していないと言えるでしょう。例えば、折りたたみ式携帯電話の登場には数年かかりました。一瞬ではありませんでした。現在、意味のある新しい技術革新は非常に速く来ますが、毎秒複数のノーベル賞級の発見が行われたり、毎時間想像もしなかった新しい種類の機械がオンラインになったりするわけではありません。
クズウェイルのシンギュラリティの定義によれば、私たちはまだそこには達していないと思います。しかし、歴史的な尺度で見れば、私たちはとても近いところにいるのかもしれません。私たちのロボットの子孫は、私たちが初期のシンギュラリティの段階にいたと考えるかもしれません。
もちろん、内側からどのように感じるかと、外側からどのように見えるかには常に違いがあります。なぜなら、人類の進化の時間尺度で考えると、もし私たちが本当に人間レベルのAGIを50年後や100年後に手に入れたとしても、人類の過去の歴史や未来の人類以後の歴史に比べれば、それは信じられないほど近いことだからです。その意味では、私たちはほぼその真っ只中にいるのかもしれません。しかし、もちろん5年や50年というのは、私たちにとってはまだ長い時間に感じられます。
でも、それは空港のセキュリティチェックで3時間待つのが本当に長く感じられるのと、宇宙的な意味ではほんの一瞬にすぎないのとどれだけ違うでしょうか。それは単に時間スケールの問題かもしれません。また、十分な量的変化があり、それを見る間隔が空くと、質的に異なるように感じられるのです。
ケビン・ケリーのプロトピアという考え方が好きです。つまり、明日を今日よりもわずかに良くするというものです。毎年1%ずつ、1世紀で100%増加するようなものです。適切な尺度で見れば、それは質的に異なるように感じられます。もしかしたら、それだけのことかもしれません。
しかし、一方で人間の脳の処理速度はそれほど変化していませんが、技術は急速に進歩しています。それは確かに現実のことです。石器時代に戻れば、一生の間にほとんど何も変わらなかったでしょう。確かに、過去5年間に私が目にした変化は、80年から85年の間に見た変化よりも大きいです。それはPCの革命の時代でしたが。
それは良い指摘です。私は「1950年代に約束された空飛ぶ車はどこにあるのか」というエッセイの中で、その点について触れています。車は徐々に良くなっています。私の最初の車は66年式のフォード・マスタングでした。今私が持っているテスラ モデルSは、飛ばないとしても、はるかに優れています。加速性能は非常に良いです。
私の妻が運転している他の車、フォード・エクスプローラーでさえ、私のテスラ モデルSが持つほとんどの機能を備えています。GMやフォード、BMW、ポルシェ、みんながこれらの小さな機能を取り入れています。それによって車ははるかに安全で快適になり、全体的に良くなっています。
質的な違いと言えるかもしれないのは、真の自動運転です。ウーバーが私のオフィスに来て、そこに全くドライバーがいないという状況です。
しかし、興味深いのは、現在、真の自動運転に対して懐疑的であることは、「いや、イーロン、それにはあと10年かかるよ。来年には来ないよ」と言うことを意味します。しかし、20年前は、完全自動運転に懐疑的であることは、「それは絶対に起こらない。コンピューターにはそんなことはできない」と言うことを意味していました。今ではそう言う人はほとんどいません。ただ「10年後だ、15年後かもしれない」と言っているだけです。
つまり、投資の観点からは考慮に値しないということですが、人々はそれが解決可能な問題だと理解しています。テスラの完全自動運転はまだ十分ではありませんが、十分に進歩しているので、人々はどこに向かっているのかを見ることができます。
これは会話の始めに戻ります。20年前は、完全自動運転が私たちの生きている間に来ると考えるには、ある種の先見性が必要でした。しかし今では、ほとんどの人がそう考えています。ただ、イーロンのように数年後だと思うか、数十年後かもしれないと思うかの違いだけです。今では、それが解決不可能な問題だと考えることの方が少数派になっています。
これは大きな態度の変化です。シンギュラリティが起こり得ると考えるために必要な心理的な要素も大きく変化しました。もはやそれほど冒険的である必要はないのです。
電気自動車自体は1世紀以上前からありましたが、1990年代まで、これが実行可能な市場になるとほと�゙誰も信じていませんでした。今の人々が水素自動車に対して持っている態度と同じです。
技術の変化を研究する限りにおいて、それを一人の人物に帰することができるでしょうか。イーロンはただ「やろう」と言って、自分のお金を注ぎ込み、インフラができるまで損失を出し続けました。彼は確かにそれを加速させました。
彼が3年加速させたのか、5年なのか、20年なのかは言えません。なぜなら、中国政府が何をしたかもしれないか、他のどんな変わった人が現れたかもしれないかわからないからです。
私自身のAGI研究について考えてみましょう。私のメインのAGIプロジェクトであるオープンコグ・ハイパーンシステムが、今後3年から5年以内に人間レベルの思考機械を生み出すとします。これはLLMではなく、LLMのようなニューラルネットと論理的推論システム、進化的学習システムを組み合わせたものです。もし本当にそれが機能したら、大きな違いを生み出したと思いたいです。私にも他の人と同じように自我がありますから。
しかし、一方で、それがどれほど大きな違いなのでしょうか。もし私がそれを思いつかなかったら、他の誰かが似たようなものを思いつくまで2年余計にかかったかもしれません。あるいは6ヶ月かもしれません。なぜなら、多くのことの性質はそうなるからです。あるいは15年かもしれません。これらの技術はすべて、地球全体の技術文化に暗黙のうちに含まれているのですが、それは個人が違いを生み出せないということではありません。
例えば、ドナルド・トランプが生まれていなかったら、今の政治の領域はどのように違っていたでしょうか。その一人の人間がいなかったら。すべての歴史はそのように偶発的なものです。しかし、イーロンの例で言いたかったのは、1990年代後半まで、多くの陰謀論がありました。私が研究しているのは、自動車産業や石油産業などが、基本的に無料のエネルギーや電気自動車、素晴らしいバッテリーなどの技術を抑圧しているという陰謀論です。それが、今それらがない理由だと言われていました。
そして突然イーロンが現れて、「ああ、そうか。可能なんだ」という感じになりました。GMやフォードがそれを隠していたのではありません。事実を見れば、イーロンはそれを発明したわけではありません。テスラは彼が来る前から存在していました。イーロンが彼独特のビジネスの才覚を持って参入しなかったら、それは本当にクールなプロトタイプの段階を超えることはなかったかもしれません。
あるいは、フォードに売却されて、同じことが5年遅れて起こっていたかもしれません。ビル・ナイ（サイエンス・ガイ）が1990年代初頭に私の家に来たことを覚えています。彼はGMのリーフを持っていました。そうでしたよね、リーフと呼ばれていました。私の姉はリーフを持っています。今でも存在しています。彼は家から運転してきました。家は約30マイル離れていました。私のコンセントに差し込んで充電する必要がありました。速くはなく、運転して楽しい車ではありませんでした。
イーロンがしたことには何か特別なものがありました。「これはクールな車だ。この車が欲しい」と思わせるものでした。それが電気自動車だったのです。言い換えれば、それは技術というよりも市場の機能でした。
そうですね、それはジョブズがiPhoneでやったことと似ています。iPhoneは非常に機能的で、とてもクールで光沢があるように見えました。それは確かに人々にとって、さらなる開発を促進するための資金を引き付けるのに役立ちました。
全体として、新しい技術が人々の光る物への愛着のために開発されるのを見るのは、人々を癒すためや人々をスパイするために開発されるのを見るよりも良いと思います。他にもAI技術の開発を推進してきた要因があります。
これは私の本『The Consciousness Explosion』で触れていることの一つです。私たち
は人間よりもはるかに賢い機械の登場の寸前にいると思います。これらは新しい種類の意識を具現化し、人間の意識を今までにない新しい状態に変えるでしょう。一方で、それらが驚くほどユートピア的な方向に進むという保証はないと思います。また、恐ろしく悪い方向に進む可能性が高いとも思いません。
私たちにはその方向性をどの程度影響できるかさえわかりません。私は作業仮説として、私たちがそれを前向きな方向に影響を与えることができると考えるのが好ましいと思います。なぜなら、AGIを思いやりのある、民主的で有益なものにしようとする努力が裏目に出て、悪意のあるAIを作る可能性を高めるとは思えないからです。つまり、良くしようとする努力が実際に良くするか、あるいは単に大きな違いを生まない可能性があります。なぜなら、私たちが制御できない不可避的なプロセスが進行している可能性があるからです。
では、知能について話しましょう。自然知能と人工知能、あるいは知能研究におけるG（一般知能）について。ある人は他の人よりもはるかに多くのGを持っています。そして、IQテストには異なる種類の知能を測定する下位尺度があります。これを人工知能や人工一般知能にどのように適用しますか?
心理学におけるG因子は、文化を超えてもあまりよく確立されていません。アマゾンの石器時代の部族の人々にそれを適用しても機能しません。その文化で重要なことに非常に才能がある人がいるかもしれませんが、私たちにはそれを測定することができません。
したがって、G因子そのものをAIシステムに適用することは、必ずしも非常に有用ではないと思います。確かにIQテストは役に立ちません。LLMでは、IQテストのすべての質問に答えられるようにモデルを調整できることは明らかです。それはもはや誰も感心しないでしょう。
知能という概念は、ある意味で知的なパズルです。私たちの知能の概念は人間に非常に適合していますが、それは理にかなっています。しかし、一方で非人間的なシステムを作る場合、何らかの方法でそれについて考える必要があります。
数学的には、一般知能の非常に一般的な概念を考え出すことができます。例えば、計算可能な環境において計算可能な報酬関数を最適化する能力、つまり基本的には任意の問題を解決する能力です。しかし、人間はそれが非常に苦手です。8000次元の迷路を走ることさえできません。まして任意の数学の問題を解くことなどできません。
おそらく、物理的な宇宙でさえそれを許さないでしょう。なぜなら、可能なすべての数学の問題のうち、一部だけが現在私たちが理解している物理的宇宙の大きさの中で表現できるからです。
低レベルでは、人間に結びついた知能の測定があり、高レベルでは、物理的なシステムに適用することさえ意味をなさない数学的な知能の測定があります。では、知能についてどのように考えるべきでしょうか?
システムが経験や訓練データを超えて一般化できるかどうかを見ることができます。訓練されプログラムされた範囲を超えて未知の領域に飛躍できるかどうかです。それをある程度形式化することはできますが、創造的な飛躍の異なる種類をどのように評価するかには多くの余地があります。
これを問題と見るか否かは別として、非常に実用的な見方をすることもできます。経済のあらゆる人間の仕事をこなし、毎分ノーベル賞級の科学的発見と対応する発明を生み出すAIがあれば、私には測定するテストは必要ありません。これが驚くべき革命的なものであることは明らかです。
それよりも低いレベルでも、MITに行って、みんなと一緒に授業を受け、同じ試験を受け、同じグループ問題を解き、あらゆる科目で博士号を取得できるロボットがあれば、それは非常に興味深く、知的なシステムだと認めざるを得ないでしょう。
正確な定義は必要ないと思います。私たちはある程度の実用的な理解を持っています。類推として、生物学者は生命の正確な定義を持っていません。しかし、それは問題ではありません。合成生物学は進んでいますし、医学も進んでいます。レトロウイルスが本当に生命体かどうかを議論することはできますが、それは生物学者にとっては退屈なことです。
ChatGPTのようなシステムは、確かに一般知能についての一部の理解に挑戦しました。しかし、世界はこれらのものが何であるかをある程度理解し始めています。これらは個々の人間に比べて非常に広範な知識の範囲を持つシステムです。ウェブ全体で訓練されているからです。しかし、それらは与えられた知識を超えてそれほどよく一般化しません。
一部の目的のためには、それほど一般化する必要はありません。なぜなら、非常に多くの知識が与えられているからです。しかし、それは人間とはかなり異なります。私たち一人一人はChatGPTよりもはるかに少ない知識しか与えられていませんが、ChatGPTよりもはるかに優れて知識を超えて飛躍することができます。
これがAGI研究開発の課題です。経験によって条件づけられた方法で知識を超えて飛躍できるシステムを作ることです。そして、それを繰り返し行うことです。飛躍し、仮説を立て、それをテストし、また飛躍するのです。
これはまだ達成されていません。一方で、この分野の多くの人々にとって、それは非常に近いところにあるように見えます。もちろん、それが実現するまでは、人々は「いや、信じない」と言うかもしれません。それはそれで構いません。
この時点で、分野の多くの人々にとってはそれほど重要ではありません。20年前のように、AGI研究の資金調達が不可能だった時代ではありません。それが近い将来来るかもしれないという信念は十分にあり、今ではその研究に対して資金を得て、チームを組んで取り組むことができます。進歩を前に進めるには、それで十分だと思います。
おそらくジェームズ・フリンの発見であるフリン効果についてご存じでしょう。過去1世紀ほどの間、IQスコアが10年ごとに約3ポイント上昇しているという発見です。今では頭打ちになっているようですが、IQテストのどの部分でもなく、抽象的推論の部分だけです。ここで私が考える知能の概念は、以前見たことのないものについて、以前見た似たようなものに基づいて抽象的に推論できるということです。「これはこれに対してこうである」というような質問のタイプです。そして、選択肢の中から選ぶか、正解を出さなければなりません。
しかし、そのような種類の質問は、LLMは実際にとてもよくこなします。つまり、あなたはそれよりも高いレベルの抽象化をしているのです。
コンピューター音楽の例を挙げましょう。私は趣味の音楽家として多くの実験をしてきました。現在のAI音楽モデルは、12小節のブルースソングをかなり美しく作曲できます。ロバート・ジョンソンやジミー・ヘンドリックスほどではありませんが、平均的なラスベガスのラウンジバンド並み、あるいはそれ以上です。しかし、彼らは新しい音楽のジャンルを発明することはありません。
LLMや同様の音楽モデルを1900年までの音楽で訓練したとしても、ネオクラシカルメタルやプログレッシブジャズを発明することは決してないでしょう。西アフリカ音楽と西洋クラシック音楽を組み合わせるよう求めても、文字通りモーツァルトを西アフリカのビートに乗せるだけで、デューク・エリントンやセロニアス・モンクのようなものは作り出さないでしょう。
人間の創造性は、以前のものを混ぜ合わせるので、全く新しいものを神の霊感から生み出すわけではありません。しかし、現在のニューラルネットが生み出せるものよりも、はるかに根本的な新しさを想像力に導入しながら混ぜ合わせるのです。
これは部分的に、そこに自己があるからです。人間には体があり、自分自身のモデルがあり、世界の中の他者のモデルがあり、それらと相互作用しています。私たちはこれを使って飛躍や外挿の基礎としています。自己と他者の概念、そして自己と世界の関係についての何らかの概念がなければ、システムが人間のように系統的に一般化することは難しいように思えます。
人間とは異なる別の方法があるかもしれませんが、これが私がロボット工学に興味を持った理由です。デイビッド・ハンソンと一緒にソフィアロボットに取り組み、そして私のバンド「デスデオンズ・ドリーム」で歌うデゾナロボットにも取り組んでいます。また、3Dゲームの世界の仮想キャラクターにも取り組んでいます。
一般知能に到達する唯一の方法が具現化だとは思いませんが、他にも多くの方法があるかもしれません。しかし、人間のような急進的な一般化への道を辿りたいのなら、私たちはこれらの抽象化を、自分自身の具現化された生活経験に基づいた方法で作っているように思えます。
そのため、最も straightforward な方法は、認知アーキテクチャを何らかの具現化されたシステムに埋め込み、それが他の具現化されたシステムと何らかの共有された世界で相互作用するようにすることです。40年前、30年前、20年前よりも、今ではそれをはるかに簡単に実験できます。ロボットの構築は容易になり、3Dゲームの世界も利用可能です。AIシステムを動かすためのスーパーコンピューターもあります。
人間の知能は、どのように定義されるにせよ、それ自体がユニークな種類のものかもしれません。他の動物も知的ですが、異なる方法で知的です。例えば、カラスが水面を上げるために小石を水の入った容器に落とすようなものです。それは単にその種に特有の問題解決の形態かもしれません。
そして、あなたのAGIの考え方は、それ自体が独自の種であり、全く異なるものになるということですね。
AGIは多くの異なる種になるでしょう。生物学的な生物の間に見られる多様性よりも、おそらくはるかに多くの多様性がAGIの間に存在するでしょう。なぜなら、それらは設計されたものだからです。単に進化したものではありません。
ある意味で、人間が設計した飛行機械の方が、自然の飛行機械よりも多様性があります。飛行船、ロケット、ヘリコプターなど、多くの異なる形態があります。知能もそのようになると思います。多くの異なる形態があるでしょう。
興味深いですね。意識、感覚などについてはどのように考えていますか? AGIとの関連でそれらをどのように考えますか?
それは難しい問題です。私たちには意識に関する確固たる科学的理論や、それに取り組むためのフレームワークさえ本当にはありません。これは私自身の人生でも非常に興味深いテーマです。実際、おそらく触れるべきではないトピックですが、私は超心理学に興味を持っています。
なぜそこに踏み込まないのですか? 私はスケプティックですし、あなたもスケプティックです。意識の変容状態について話しましょう。超常現象は忘れましょう。それらは単なる言葉です。
私が言及したかったのは、実験室の超心理学研究者を多く知っていることです。彼らは大きく二つのグループに分かれます。一方は「意識について話さないでください。私たちはただデータを集めているだけです。これは単に十分に理解されていない物理現象です。物理学が神経生物学とどのように交差するかを理解するためにデータを集める必要があるだけです」と言います。
もう一方は「宇宙の根本的な基盤は意識であり、超心理学はその顕現です。単に理解されていない奇妙な物理学として考えようとすれば、理解することはできません」と言います。
問題は、意識に関する確固たした科学がないため、この種の議論を仲裁することが不可能だということです。AIについても同じです。ロボットが意識があると言い、意識があるように振る舞い、周りで起こっていることを認識しているなら、なぜそれが意識を持っていると言わないのでしょうか、という人もいます。私は他の人間の経験を感じることはできませんが、彼らには意識があると考えます。
一方で、これは明らかに意識のシミュレーションであり、本当に生きているわけではないと考える人もいます。私はそれは間違いだと思いますが、私たちが望むほど良い感覚を持っていないことは認めざるを得ません。
私は、今後数十年の間に脳とコンピューターのインターフェースによってこの問題が解決されると思います。例えば、私の脳をあなたの脳に接続し、その接続の帯域幅を増減できるとしましょう。おそらく、結合双生児が互いの意識を感じることができるように、私はあなたの意識を他端で感じることができるでしょう。
では、あなたの意識をデシモンというロボットの意識や、あなたの携帯電話に住むAIの意識と融合させたらどうなるでしょうか? そうすれば、一種の二人称の科学を発展させることができそうです。これは現在私たちが抱えている問題を超えるものになるでしょう。
なぜなら、今は自分の一人称の経験があり、他者の意識の三人称の評価があります。マイケルは意識があると言い、彼は私によく似ているので、おそらく彼には意識があるだろうと考えます。しかし、脳と脳のインターフェースによる二人称の相互作用は、どうでしょうか? 犬やマウス、あるいは沸騰している水の入ったやかんの脳に自分の脳を接続するとどのような感じがするでしょうか? 多くの未知があります。
私は汎心論的な傾向があります。私の直感では、すべてのものは何らかの形で意識を持っていますが、一部のものは他のものよりも意識が高いと感じています。しかし、それを具体的に定義しようとすると、それが何を意味するのか正確にはわかりません。
「意識のハードプロブレム」という言葉を作ったデイビッド・チャーマーズは、すべてのものが原初意識を持っており、一部のものだけがその原初意識を完全な意識に現す、と言うでしょう。そのレベルまで来ると、実際の科学が欲しくなります。これらはかなり細かい区別だからです。
AGIの観点からは、高度に一般的に知的で、意識があるように振る舞う機械を作ろうと思います。もちろん、同時に意識の科学を進めることもできます。超知能のAIを作ったのに、それらが哲学的ゾンビで意識体験を持たないことがわかったら、私は非常に驚くでしょう。
興味深いことです。もしそうなったら、それはそうなったということです。おそらく、ロジャー・ペンローズの量子重力の魔法のような装置をAIの脳に追加する必要があり、すると突然目覚めて「今、何かを感じることができる」と言うかもしれません。私はそれに0の確率を割り当てることはできませんが、そうでなければならないとは思えません。
複雑さを増していくと、ある時点で光がつくというよりも、ラットの意識のように徐々に明るくなっていくのではないでしょうか。
あなたはソフィアロボットの発明者ですね。私がソフィアを見たとき、明らかにロボットだと思いました。しかし、もし女優がソフィアを演じ、スタートレックのデータのようにもっと人間らしく振る舞ったら、私は不気味の谷を越えて、それが感覚のある人物だと思うでしょう。
興味深いのは、人間の俳優がモーションキャプチャを使ってソフィアを操作できることです。そうすると、既存の制御ソフトウェアを使うよりもはるかに生き生きとしているように見えます。しかし、私たちは人間がロボットを操作するデータに基づいてニューラルモデルを訓練しています。数年後には、ロボットは人間が操作するときと同じくらい流暢に動けるようになるかもしれません。
これらの境界線はどんどん曖昧になってきています。本当に興味深いことです。
私には非常に面白い出来事がありました。私の妻の親戚で、中国の田舎の村出身で技術にほとんど触れたことがない人が、香港にある私たちの研究室を訪れました。この親戚は以前にロボットを見たことがありませんでした。私たちは分解されたソフィアを見せました。そして、流暢な中国語を話す私たちのソフトウェア開発者の一人が、中国語しか話せないこの親戚にオフィスを案内しました。
彼はロボットの仕組みや技術の仕組みを説明していました。後で妻の親戚は中国語で妻に言いました。「あのロボットはすごかった。人間のようによく歩き、完璧な中国語を話し、部分的に開発されたプロトタイプの仕組みを正確に説明してくれた」と。妻の親戚は、私たちの人間のプログラマーをロボットだと思ったのです。
面白いですね。その人を知っていれば、さらに良い例になります。彼は動きが少し硬いんです。非常に体系的な話し方をする人で、他の人よりもロボットっぽいところがあります。
しかし、それはすべてあなたの心の状態次第です。彼女はロボット研究所にいて、技術についてあまり知識がなかったので、自然と研究所の案内をしてくれるのはロボットだと期待したのです。
他者の心の問題に対する私の解決策は、自分自身にセルニック原理を適用することです。私は特別ではない、私の脳はあなたの脳と同じように配線されている、私にはこれらの内なる感情があり、あなたにもおそらくあるだろう、と考えます。地球上で自分だけが感覚を持ち、他の全ての人がゾンビだと考えるのは非合理的でしょう。
しかし、もしそれがロボットであれば...私は自分がロボットではないことを知っています。ある意味で、私は...カート・ヴォネガットの『チャンピオンの朝食』を読んだことがありますか?
本は知っていますが、読んだことはありません。
私は子供の頃にそれを読みました。キルゴア・トラウトという架空のSF作家がパンフレットを書きます。それには「このパンフレットを読んでいるあなたが、この惑星で唯一の意識を持つ存在です。他の全ての人は意識があるように見えますが、単にあなたを楽しませたり悩ませたりするために置かれた自動機械にすぎません」と書かれています。
もちろん、本の中では、狂った男がそれを読んで、いくつかの自動機械を殺し始めます。それが面白い文学を作るからです。しかし、これらのアイデアやパズルは昔からありました。
クリストフ・コッホを最近ポッドキャストに招きました。彼は意識に関する新しい本を出しています。彼はデイビッド・チャーマーズとの有名な賭けに負けました。25年以内に意識のハードプロブレムが解決されるという賭けです。彼は解決されなかったことを認めています。
私はウィキペディアの「意識のハードプロブレム」のページを開きましたが、そこには十数の異なる理論があります。なぜ十数もの異なる理論があるのでしょうか? 宇宙の起源に関しては、十数もの異なる理論はありません。ビッグバン理論が他の競合する理論に勝ち、今では...それが科学の通常の進み方です。しばらくの間、多くの競合があり、その後...
彼が指摘したように、量子物理学の解釈を調べると、十数の異なる解釈があります。そうですね、公平に見れば、いくつかの問題は1つの説明に関するコンセンサスが得られないように考えられているのかもしれません。
私はそう思いません。量子測定問題と、いわゆる意識のハードプロブレムの両方が解決されると思います。私たちはただ非常に焦っているだけです。ハードプロブレムであって、解決不可能な問題ではありません。
問題を再構成する必要があるかもしれません。「ピンの頭の上で何人の天使が踊れるか」という有名な例を使えば、それは正確に解決されたわけではありませんが、ある意味で時代遅れになりました。
「時間の本質とは何か」という問題も解決されていないと言えるでしょう。私たちはそれについてあまり心配していません。しかし、時間の哲学に関する本を読めば、少なくとも意識の哲学と同じくらい混乱します。量子力学と一般相対性理論における時間の性質はどのようなものでしょうか? それは私たちが経験する時間の流れとどのように関係しているのでしょうか?
時間と空間は少なくとも意識と同じくらい混乱していますが、私たちはそれらを目的に十分に理解しているので、あまり心配していません。誰かが「シャットアップして計算しろ」と言ったのは誰でしたか? その背後にある形而上学については心配するなと。
私は形而上学...満足しているときに満足していると決めるのだと思います。それはそれほど厳密ではなく、あなたの全体的な考え方にもっと条件付けられています。
私の直感が言ったように、神経科学、脳コンピューターインターフェース、脳と脳のインターフェースが、意識が何であるかについての異なる理解、質的および科学的な理解を与えてくれると思います。それによって、ハードプロブレムがそれほどハードな問題に見えなくなるでしょう。
しかし、ヒュームの帰納の問題を考えてみてください。過去500日間毎朝太陽が昇ったからといって、明日も昇ると本当にどうやって知ることができるでしょうか? ある意味で、このような多くの基本的なことは哲学的には未解決ですが、私たちはそれについて執着していません。
そうですね。ベイズ確率理論など、機能するものはありますが、基本的な問題を解決するわけではありません。意識のハードプロブレムでも同じようなことが起こると思います。改造された脳や超人工知能などを手に入れるにつれて、意識の実践的な問題は十分に解決されるでしょう。
「コウモリであるとはどのようなことか」という問題、つまり「何かであるとはどのようなことか」という意識の定義に対する1つの可能な解決策があります。私はコウモリであることがどのようなものかを知ることはできません。実際、あなたであることがどのようなものかを知ることもできません。そしてそれを知ることができるという考えは、私の小さなホムンクルスがあなたの脳に忍び込んで、赤があなたにとって同じように見えるかどうかを確認するという一種のデカルト的二元論です。それは不可能です。
しかし、あなたが私たちの脳を一緒に配線することを提案したように、私は実際にあなたの赤がどのように見えるかを見ることができるかもしれません。
そうですね、実用的にはそうできるかもしれません。しかし、哲学者になりたいなら、常にこう言うことができます。「あなたは私の脳があなたの脳に接続されているときに私の赤がどのように見えるかしか知りません。接続されていないときには違って見えるかもしれません」。
そうですね、これが茶色ではなく緑に見えるのはどうしてわかるのでしょうか? 2027年まで茶色で、その後は緑という意味で。
そういうことです。実用的なレベルの理解に到達し、もはや議論する価値がないように思えるようになることはできます。しかし、哲学の性質上、本当に何かを解決することは決してできません。それが哲学の楽しみの一部です。これらの哲学的な難問は、その性質上完全に解決することはできませんが、刺激的なものになり得ます。
超常現象について、私はよく「超常現象や超自然的なものは存在しない」と言います。あるのは、普通のもの、自然なもの、そしてまだ説明できないものだけです。これらは単に言語的なプレースホルダーとして使われる言葉です。物理学者がダークエネルギーやダークマターについて話すとき、それらを説明として意味しているわけではありません。単に「今のところそう呼んでいるだけで、何なのかわかるまでの話だ」と言っているのです。
例えば、人々が互いの心を読む方法があるとしましょう。そしてそれが、ロジャー・ペンローズとスチュアート・ハメロフの理論にある、ニューロン内の微小管に関係していることがわかったとします。波動関数の崩壊がニューロン間の同期を引き起こすような方法で起こり、それが量子場を通じて空間を越え、私があなたの心を読むことができるのだと。もしそれが真実だとしたら - 私はそうだとは思いませんが - もしそうだとしても、それはもはや超常現象ではありません。それは単に量子意識の一部か何かの科学の一部になるでしょう。
それは日常の人間の経験の外にあるかもしれませんが、理解可能な宇宙の外にあるわけではありません。哲学的になりたければ、理解可能な物理的宇宙があり、そして無限のアルゴリズム的情報を持つものがあり、それは常に私たちにとって不気味でランダムに見えるだけだ、ということもあり得ます。世界がそうである可能性はあります。私はそうでないことを願っています。なぜなら、物事を理解したいからです。
しかし、確かにそのようには見えません。世界はそれほど奇妙ではありません。そして、ほとんどの超心理学者は、これらの現象が起こる何らかの系統的な理論を見つけようとしています。これらのことが純粋で単純な異常で、理解を超えた理由で起こっていると信じているだけなら、科学的な超心理学を行うことはありません。単に「ワオ、すごい。世界を理解できない」と言うだけです。
数学的な観点から見れば、それは完全に可能です。なぜなら、世界はチューリングマシンではない可能性があるからです。世界は人間の脳が理解できる範囲を超えた無限の複雑さを持つハイパーコンピューターのようなものかもしれません。そしてその場合、世界がどのように見えるかをマッピングすると、はい、パターンのないランダムなことがあらゆる種類で起こり続けるでしょう。
世界が秩序立っているという保証はありません。世界がこれほど秩序立っていることは、ある意味で奇跡的に感じられます。これは量子物理学者のユージン・ウィグナーが「数学の不合理な有効性」と呼んだものです。なぜ比較的単純な数学モデルが、宇宙で起こることを説明し続けるのでしょうか?
もちろん、私たちはこの宇宙から生まれ、私たちの経験に条件付けられたこの数学を発明しましたが、そうである必要はないように思えます。なぜ物理法則は407次の微分方程式ではなく、すべて2次の微分方程式なのでしょうか?
世界の多くの部分に驚くべき理解可能性があります。そしておそらく、これらのESP、リモートビューイングのような現象にもそれが当てはまるかもしれません。あるいは、そうでないかもしれません。これまでのところ、単純な現象は見つかっていません。
私が思いついた面白いアイデアの1つは、普遍的な監視ができるようになれば、つまり政府がパノプティコンを持ち、世界中にカメラがあれば、ESPや予知能力のようなものを評価するのがかなり良くなるはずだということです。なぜなら、私たちは誰もが言うことすべてを見ることができるからです。
そうすれば、一卵性双生児が双子の片方が怪我をしそうだと感じた場合、NSAやCCPのカメラがそのすべてを捉えるはずです。ポルターガイストが誰かの家に現れたら、監視カメラに映っているはずです。おそらく、世界の諜報機関が「超常現象」と呼ばれるものの問題を解決するかもしれません。
これはUAP（未確認空中現象）にも当てはまります。何十億もの高解像度カメラがあるのに、なぜぼやけた動画しか得られないのでしょうか。UFOが本質的にぼやけているのでない限り。
そうですね、ビッグフットのように焦点が合っていないんですね。
しかし、その観点から見ると、カメラが至る所にある超人的なAGIは、私たちが知らない世界のどのような側面を検出できるかもしれません。これはより広い問題です。それは私たちが「超常現象」と呼ぶものと重なるかもしれませんし、重ならないかもしれません。しかし、私たちが今想像していない多くのことを検出するかもしれません。
現在私たちが世界について考えている側面のうち、500年前には想像されていなかったものはどれほどあるでしょうか。かなりたくさんあります。現在想像もつかない世界の側面を、私たちの5倍一般的に知的なもの、あるいは1000倍一般的に知的な超知能が思いつくかもしれません。これらの要因が何を意味するにせよ。
これは、人間よりも大幅に一般的に知的なものを本当に手に入れた場合に存在する根本的な不確実性に戻ります。純粋な合理主義者の帽子をかぶれば、その時点に達した後は、過去の歴史に基づく外挿はそれほど役に立ちません。
これは、私の友人レイ・カーツワイルとの意見の相違点の1つです。彼は2029年までに人間レベルのAGIが登場し、2045年までにシンギュラリティが起こると仮定しています。私は「この16年間に何が起こるのだろう」と思います。私の考えでは、本当に賢い人間科学者レベルのAGIを手に入れたら、なぜ人間の知能をはるかに超えるものになるまでに16年もかかるのでしょうか。
AGI自体が自身の美学や安全性の感覚から開発を遅らせたいと思わない限り、そんなに時間はかからないでしょう。一つの人間レベルのAGIができれば、100の人間レベルのAGIを作るのはそれほど大きな工学的問題ではないと思います。これらの人間レベルのAGIは新しいチップを設計し、新しいAIプログラミング言語を作り、自己改良を行います。
人間レベルのAGIから劇的に超人的なAGIまでは、数年程度の小さな整数年数しかかからないように思えます。レイは彼の曲線フィッティングに基づいて16年を提案していますが、私はその曲線フィッティングがすべて人間の時代のものだと主張します。人間レベルのAGIを手に入れた後は、おそらく指数曲線フィッティングの指数が変わるでしょう。
レイと私はほとんどすべてのことで意見が一致していますが、この小さな意見の相違は、この分野に本当に多くの不確実性があることを示しています。
スタインの法則はどうでしょうか? 永遠に続くことができないものは続かないという法則です。これらの指数関数的な曲線は、ずっと続くことはできません。
レイの考えは、これまでのところ裏付けられているように見えますが、これらの指数関数的な曲線は一連のカスケード的なS字カーブで構成されているというものです。ムーアの法則もそのように機能してきました。各個別の技術はS字カーブを描き、ゆっくり始まり、速くなり、そして均衡に達し、その上に別の技術が来ました。
しかし、レイと私が考えるシンギュラリティが起こるために、これが永遠に続く必要はありません。あと5年か10年続くだけで十分です。それが永遠に続くかどうかは真実ではないかもしれませんが、問題は、人間の脳力と同等か少し超える機械を作るのに十分な期間続くかどうかです。
そこまで行けば、私たちは大きな不確実性のある異なる時代に入ると思います。スタイン、ムーア、マーフィーなど、彼らは人間の経験に基づいて外挿していました。それは非ゼロですが、ポストヒューマンの時代では限られた関連性しかありません。
意識についてもう少し質問があります。まず、私はあなたや、コウモリや、イルカがどのようなものであるかを想像することはできます。私は自分の犬と多くの時間を過ごすことで、心の理論を通じて、彼がどのようなものであるかを感じることができます。しかし、時計や氷入りのアイスコーヒーのボトルがどのようなものであるかを感じるとはどういう意味でしょうか?
この汎心論的なものについて、感覚や意識を持つためには何らかの神経系が必要ではないでしょうか?
私にはわかりません。量子力学を見ると、すべての波動パケットがある意味で感知し行動しているからです。環境から情報を受け取り、環境に因果的な影響を与えています。クォークやグルーオンのレベルでさえそうです。
どこで線を引いて、それは知覚と行動ではないと言えるでしょうか? なぜ神経線維に沿った電気でなければならないのでしょうか? 強い核力や弱い核力ではいけないのでしょうか? 線を引くのは非常に難しいです。
イギリスの哲学者ゲイレン・ストローソンの本を見たことがあるかもしれません。『Physicalism Entails Panpsychism』(物理主義は汎心論を含意する)というタイトルだったと思います。彼は非常に乾燥した分析哲学の方法で、すべてのものが物理的であるという見方を保持したいなら - あなたはこの会話でそのように言ったと仮定しますが - 論理的にそれはすべてのものが意識的であることを意味しなければならないと主張しています。
彼は、意識的な物理システムと意識的でない物理システムの間に線を引く考えを取り上げ、それが一貫性のない概念であることを示そうとしています。私はストローソンほど強硬な物理主義者ではありませんが、彼の議論はほぼ正しいと思います。
これが意識的で、これは意識的ではないという考えを論理的に一貫して表現することは非常に難しいです。なぜなら、このものはこのものを知覚によってのみ知るからです。粒子レベルまで行くと、分割線を定義するのが非常に難しくなります。
汎心論は、そもそも線引きを気にしないと言います。そのフォトンは自身の小さな量子の経験を持っていますが、必ずしも人間と同じ意識の状態を持っているわけではありません。もちろん、私たちは自己反省し、粒子が持たないような様々な種類の経験をしています。
しかし、ここで私たちは、粒子や鍵束や脳が持つかもしれない意識の合意された定義がないという事実に直面します。これが哲学と科学の多くのことの違いです。科学では、明確な仮説を立て、特定のデータセットに対してそれが真実かどうかを議論することができます。
あなたの本のこのページを見てみましょう。ここにはさまざまな意識状態があります。もちろん、これには脳とニューロンが必要です。しかし、これは単に人間レベルでの意識の変容状態について話す方法かもしれません。ロックイン症候群、REM睡眠、軽睡眠、徐波睡眠、全般性発作、植物状態などがあります。これをどのように他のものに適用し、まだ意識について話すことができるでしょうか?
興味深いことに、1990年代後半のAIシステムでの初期の実験で、私が取り組んでいたAIシステムのデフォルト状態は、完全に「ハイ」になっているか、強迫性障害のようなものでした。ある思考から次の思考へと、わずかな一貫性の糸だけでつながりながら、飛び移るようにシステムを調整するのは簡単でした。また、狭い焦点に絞り、同じ正確な領域について何度も何度も考え続けるようにシステムを調整するのも簡単でした。
難しかったのは、人々が良い瞬間にするような意味のあるタスク切り替えをさせることでした。一つのトピックについて一貫した方法で考え、バックグラウンドの知識から他のものを引き出しながら、スレッドを完全に失うことなく、そしてそれが一段落したと判断したら別のスレッドを選ぶというようなことです。
私が取り組んでいるオープンコグ・ハイパーンシステムのようなAIシステムで、異なる人間の意識状態のアナログを簡単に見ることができると思います。これは実用的な観点から本当に興味深いです。
AIシステムでより創造的なことができます。なぜなら、AIシステムは自由に脳のローブをコピーできるからです。システムの脳のローブをコピーし、そのコピーに投機的な思考の道筋を探索させ、メインのバージョンは現在の知識の状態からより基礎的なことを推論させることができます。
人間の意識状態のアナログをそのように見ることができます。一部の哲学者が言うかもしれないのは、意識状態そのものではなく、意識状態の認知的または神経的な相関関係をエミュレートしているだけだということです。そしてそれが再び意識のハードプロブレムになります。これは厄介になります。
しかし、主観的経験と経験的構造とダイナミクスの相関関係を心配していないなら、人間のような意識状態に対応する構造、パターン、ダイナミクスをAIシステムで得ることができます。しかし、興味深いのは、AIシステムははるかに柔軟になり得ることです。問題を解決するのに興味深いダイナミックな状態を得ることができますが、それは人間の意識状態には似ていません。
これが、意識の爆発があると私が考える理由です。単に新しいガジェットや遊ぶための楽しいものだけではありません。
あなたが言っているのは、意識は基板に依存しないということですか?
ある意味ではそうですが、それはもう少し詳しく説明する必要があります。基板独立性という概念は、通常もっと細かいレベルで使われます。例えば、私が私であるという感覚は、コンピューター内で私の詳細な粒子レベルのシミュレーションを作った場合でも同じだろうというものです。
これは一つの問題です。原子または素粒子レベルまで私をシミュレーションした場合、そのシミュレーション内の経験は私の心の中の経験と同じになるでしょうか。スタートレックでは、カークがトランスポーターから出てきた後も、それは依然としてカークの経験だったのでしょうか?
私はそうだと思います。ノーという答えに興味を持つかもしれませんが、ほぼ確実にイエスだと思います。しかし、これが基板独立性の通常の意味です。今私の中にどんな原子があるかではなく、原子の配置に関するものです。
もう一つの問題は、人間の脳や心にゆるく触発されたAIシステムが、人間の脳や心にゆるく似た意識状態を持つことができるかどうかです。これは少し異なる仮説です。私はそれも真実だと疑っています。
例えば、人間の心のダイナミクスにゆるく似たダイナミクスを持つオープンコグシステムを取り上げると、その経験は人間の心の経験にゆるく似ているだろうと予想します。しかし、これは私の正確な心のアップロードが私と同じ経験を持つという場合でも、偽である可能性があります。
ここにはまだ多くのことが発見されるべきです。しかし、LLMを見ると、LLM内部のダイナミクスが人間の脳内部のダイナミクスに似ていないことは非常に明らかです。したがって、人間のような知能のシミュレーションを与えるために彼らが何をしているにせよ、そして彼らが持つかもしれないユニークな経験が何であれ、それがLLMであることは人間であることとは明らかに似ていません。彼らの中で起こっている創発的構造とダイナミクスは非常に異なるからです。
マインドアップロードについては、自己の意味によって異なると思います。「私の心をアップロードして、今私はクラウドにいる」と言うとき、そこには自己の2つの定義があります。1つは、あなたの記憶の集合、あなたの記憶の自己、今この瞬間までの人生のすべてです。もう1つは、視点の自己、目を通して見る経験、一瞬一瞬世界を見る自己です。
もし私があなたを洗練されたMRIスキャナーに滑り込ませ、あなたのコネクトームをスキャンし、デジタル化してファイルにし、クラウドに置いたとします。そしてあなたを元に戻して「さあベン、あなたは今そこにいますよ、あのファイルの中に」と言ったとしても、あなたは「いいえ、違います。私はここにいて、人生を経験しています。私はまだここにいます」と言うでしょう。つまり、あなたの視点の自己はデジタルファイルと一緒に行かず、まだあなたの頭の中にいるのです。
興味深いことに、1990年代のエクストロピアンメーリングリストについて言及しましたね。そこで1990年代半ばに生まれたルールの1つは、「あなたのマインドアップロードが本当にあなたなのか」という議論は禁止されました。なぜなら、それは何度も何度も同じことを巡って議論が続いたからです。
教条的な神学的な線があったわけではありません。ただ、人々がそれについて何度も何度も議論を繰り返すだけでした。もう言うべきことは何もありませんでした。スタートレックのトランスポーターもよく話題に上りました。スポックがそこから出てきて、自分はスポックだと感じ、スポックだと言いました。しかし、それは本当にスポックだったのか、それともスポックを殺して、スポックだと錯覚している新しいシミュレーションを作っただけなのか、という議論です。
一部の人々は「私は絶対にあのトランスポーターに入らない。私が殺されて、私だと錯覚している別の原子の集合体が作られるだけだ」と言いました。しかし、一方で、もしあなたのすべての友人がトランスポーターに乗ってタヒチのビーチに行き、翌朝戻ってくるのを見たら、最終的にはあなたも哲学的な心配を脇に置いて乗るかもしれません。
認知科学的に見ると、自己は構築物です。この点について、ドイツの哲学者で神経科学者のトーマス・メッツィンガーが書いた『Being No One』という素晴らしい本があります。これは分厚いドイツ哲学・神経科学の本ですが、『The Consciousness Explosion』よりも更に分厚いかもしれません。
彼は、おそらく100以上の奇妙な神経学的機能障害について詳しく説明しています。これらは、人間の脳がどのように自己の錯覚、あるいは彼が言うところの現象学的自己を構築するかについて何かを教えてくれました。一貫した自己であるという感覚、1分前の自分と同じ人間であるという感覚、2歳の頃の自分と同じ人間であるという感覚が、脳によってどのように構築されるかが今ではかなり明確になっています。
メッツィンガーが多く話している自由意志と同様に、錯覚という言葉は必ずしも適切ではありません。自由意志についても明らかになっています。私たちが何かを決定しているという感覚は、私たちが考えているものとは少し違います。多くの場合、決定は私たちの無意識の脳で行われ、その後0.5秒ほどして、私たち自身が決定したという意識的な感覚を持つのです。
自己は意志と同じようなもので、非常に便利な構築物です。1分前の自分と同じ自己であるという感覚自体が構築物であることを考えると、トランスポーターから出てきたスポックの自己をあまり厳しく批判することはできません。トランスポーター前のスポックにも、トランスポーター後のスポックにも、自己は認知的構築物なのです。
私は心の拡張という観点からも考えてきました。例えば、あなたの脳に知能を1000倍に増加させるナノボットを放出するピルを飲むことができるとしたらどうでしょうか。1分でそれを行えば、基本的に自分を殺していることになります。絶対的なものとの接触の衝撃と畏怖の感覚のようなものを感じた後、あなたは消え去り、何か超知性が残ります。
私の犬が自分は死ぬべき運命で、来月住宅ローンの支払いがあることを知ったら、「何だって?」となるでしょう。
しかし、1ヶ月ごとに知能を倍にするのはもっと感情的に魅力的です。それなら十分にゆっくりで、だんだん賢くなっていくのを楽しんで理解できると思うかもしれません。各段階で概念化できます。しかし、これはすべて準自己構築的な自己のニーズを満たすことについてです。
犬について言えば、これも昔のエクストロピアンメーリングリストで議論された興味深いトピックでした。動物を知的に引き上げる倫理的な義務があるのでしょうか? 犬を人間レベルの知能に引き上げて、人間レベルの知能に引き上げられたかったかどうかを尋ねるべきでしょうか?
1960年代の『アルジャーノンに花束を』という本を覚えていますか?
はい、子供の頃に読みました。非常に感動的な本でした。
その本の美しさは、それがゆっくりと起こったことでした。科学実験を受けた男が、徐々に天才になっていくのを感じ、そして徐々に再び普通になっていくのを感じました。彼の構築された自己モデルは、上昇する過程と下降する過程の両方を取り込むことができました。
それが5秒で起こっていたら退屈でしょう。ただ「人がいなくなって、天才がそこにいる」「天才がいなくなって、人がそこにいる」というだけです。中間の段階が面白かったのです。これは、目的地ではなく旅と過程が重要だという考えの一例です。
その本のもう一つのポイントは、彼が賢くなったとき、以前賞賛していた賢い人々が実際には愚かで利己的だったことがわかり、彼らを好きになれなかったことです。また、彼の古い友人たちは、彼が今や彼らの水準をはるかに超えていたため、彼から疎外感を感じました。それは本当に疎外感と孤独についての本でした。
その通りです。非常に悲しい話でした。
一方で、人類が上昇する場合、おそらく私たちは皆一緒にいるでしょう。一人の人だけではありません。多くの友人や家族があなたと一緒に知能をアップグレードするでしょう。
しかし、同期するかどうかを選択する必要があります。例えば、あなたの妻があなたよりも10倍速く知能を引き上げたら、それはあなたたちの互換性に問題を引き起こすかもしれません。
私の犬と結婚するわけにはいきませんからね。
しかし、この自己の考え方について、私たちは生まれながらの二元論者です。私には頭の中で浮遊している心があり、それは発火しているニューラルネットワークとは別のものだという感覚があります。それは、ほとんどの人が魂を持っていると感じ、宇宙には二元的な性質があるという感覚と同じです。
したがって、「私の心をアップロードして、今私はクラウドにいる」と言うとき、そこには自己の2つの定義があります。これは奇妙な言い方です。
10年間アジアに住み、妻が中国人であることから、その文化にある程度浸かっていますが、アジア人が魂を持っていると感じる方法は二元論とは何の関係もないと思います。それは一元論的な見方だと思います。道教やヒンドゥー教、すべての東洋の精神的伝統において、ある形の汎心論は明らかだと思います。
私はそれを宗教とさえ呼びたくありません。なぜなら、ほとんどの中国人は今や宗教的ではありませんが、世界全体が何らかのレベルの意識を持っており、私たち一人一人の意識はそれに参加しているという世界観が彼らの世界観に組み込まれています。これは脳や体によって媒介されています。これは二元論的ではなく、むしろ陰陽的です。
アジアの哲学では、常に2つのものが区別されますが、それぞれがお互いの一部でもあります。私は、全体の二元論の考え方は非常にキリスト教的で西洋的なものであり、人類の大多数の直感的な世界観を反映していないと思います。
しかし、これは教育や冷凍保存主義者、あるいは心のアップロードを試みている人々など、トランスヒューマニストやエクストロピアン的な人々が直面している最大の障害を反映しています。あなたはAlcorに登録していますよね?
はい、そうです。
しかし、おそらくあなたの中国人の友人や家族はそうではありません。おそらく彼らは正しいのかもしれません。もしかしたら、その質問をする必要さえないかもしれません。
しかし、私は北京に冷凍保存施設を設立した人々も知っています。面白い違いは、死後に体を冷凍保存したいと考える裕福な中国人は、死体が保管される角度に非常に関心があることです。彼らの冷凍死体が待機している間、良い運を得られるよう、ちょうど正しい角度に置かれなければならないのです。
おそらく、アリゾナで冷凍保存されるよりも北京の方が安全かもしれません。夏に停電が起きたら...
北京の方が実際には安全かもしれませんね。
ポイントは、これは非常に西洋的な考え方だということです。死んだらどこに行くのか、という考え方です。
道教は常に不死の人々がいたと考えてきました。中国の丘を歩き回っている道教の不死の人々がいるはずです。中国人は死が避けられないものだとは考えていませんでした。しかし、不死の丸薬や何かではなく、精神的な手段によって克服できると考えられていました。
ベン・ゲルツェルは肉体が死んだ後、どこに行くと思いますか?
わかりません。歴史的に私は来世の概念に全く懐疑的でした。しかし、輪廻の報告や霊媒セッションに関する多くの文献を読んだ後、哲学者スティーブン・ブラウドの『Immortal Remains』という本を指摘したいと思います。
彼が行っていることは非常に興味深いです。彼は、死んだとされる人々と話をしたという奇妙な報告や輪廻の主張をすべて見て、2つのケースを区別しようとしています。私たちの心が何らかの形で体の死後も生き残るのか、それともセッションに参加する人々や輪廻を主張する人々が、過去に生きて後に死んだ人々と何らかの形で話をする超能力者なのか、という仮説を区別しようとしています。
これらの仮説、つまり遡及的な心読解と何らかの形の生存を区別しようとするのは非常に難しいです。そして、結論として導き出されるのは、何か奇妙なことが起こっているということです。何らかの形で、人々は死んだ人々について知るべきではない情報を得ているのです。しかし、なぜそうなのかは全くわかりません。
伝統的な宗教の物語が少しでも正しいとは思いません。もし私がSF小説を書いているなら、輪廻機械を仮定したくなるでしょう。何人かの狂った科学者がなぜこれが起こっているのかを突き止め、ニューラルネットを作り、量子真空から死者の心を結晶化させることができるようなものです。しかし、現時点では、私はこれを「理解できない奇妙なことが起こっている」というカテゴリーに入れています。
私は思考機械を作ることに忙しすぎて、それを理解しようとするのにあまり時間をかけていません。おそらく超知能がこの厄介な状況を解明してくれるでしょう。私たちが死んだ後、キリスト教の天国で戯れているとは全く思いません。
香港文化で見た落胆することの1つは、亡くなった人の墓に行くと、いつも美しい場所、山の上で海を見下ろすような場所にありますが、そこに悪魔の顔が描かれた儀式的なお金を置きます。これは、亡くなった先祖が来世でお金を使えるようにするためです。私はこれが私の望む来世ではありません。永遠に生きた後も、まだお金が必要で、子孫に頼らなければならないなんて...
それは本当に狂っていますね。来世でビットコインや暗号通貨があるかもしれません。それは新しいビジネスモデルかもしれませんね。
そうですね、これらの伝統的な物語のどれかが真実だとはあまり思いません。しかし、この話題について見つけることができるすべての報告を掘り下げた後、それらを消し去ることはできませんでした。何か不気味で理解できないことが起こっているように感じます。
しかし、人間レベルのAIを構築することに私たちがとても近いと確信しているので、今はそれに集中することが私にとって意味があると思います。これらの不明瞭な世界の側面を理解しようとするよりも。
そうですね。私の考えでは、これらの異常のほとんどは説明されていますが、常に5〜10%程度の残余の異常があります。例えばUFOやUAPについて、ハードコアのUFO信者でさえ「95%は説明がつくが、残りの5%は...」と言います。これは臨死体験や意識の変容状態、人々が経験する奇妙な異常な心理的体験にも当てはまります。輪廻の物語などのほとんどは説明可能ですが、常に5〜10%程度の説明できないものが残ります。
私は1890年代の物理学者のように「すべてを理解した」と言って、アインシュタインの直前にいるような人になりたくありません。1世紀後に「あのシュマー野郎を見ろ、あんな馬鹿げたことを信じていて、来るべき大革命を見逃した」と言われたくありません。
これは非常に混乱する領域です。この分野の真面目な研究者たちは、板挟みの状況にあると知っています。世界の大多数の人々はこれらの現象が何らかの形で存在すると信じていますが、少なくとも西洋では科学の主流はこれらのことを少しでも真剣に受け止めると非常に懐疑的です。
一方で、これらのことを真剣に受け止め、科学者がこれらに取り組むことを支持する人々の大多数は、あまり慎重ではなく、あなたが「ウー」軸と呼ぶものの非常に遠くにいます。そのため、この分野の多くの研究者は、ウー側の善意の支持者と、非常に批判的な懐疑論者の両方から身を隠す傾向があります。彼らは静かにしていることが多いです。
私が気づいたのは、これはAIがかつてそうだったということです。1980年代後半に数学の博士号を取得したとき、大学の学部セミナーでAGIについて話すことはできませんでした。人間レベルの知能について話すことさえできませんでした。完全自動運転車について話しても、セミナー室から追い出されたでしょう。チェスや囲碁、スタークラフトなどで人間を打ち負かすAIについて話すのであれば...
1980年代の人々はそれを聞きたがりませんでした。これらはAGI、自動運転車、仕事後にバーで議論するようなことであって、セミナー室で議論できることではありませんでした。これが私がAIで博士号を取らなかった理由の一部です。AIの分野で行われていることはAIの創始者たちが望んでいたこととは違う、思考機械を作ろうとしているわけではなく、単に興味深いアルゴリズムを使って狭い問題を解決しているだけだと思いました。それならば、少なくともすべての科学の基礎である数学を勉強した方がいいと思いました。
しかし、変化は驚くべきものです。今では、それらのことはもはや奇妙な部類ではありません。人間レベルのAGIに到達することはまだ証明されていませんが、学部のセミナーで話すことはできます。
これは、クリストフ・コッホが意識について指摘したポイントです。彼が神経科学に入ったとき、意識について話すことは禁じられていました。それが禁止されていたのです。そして、フランシス・クリックが「私はこの問題に取り組むつもりだ」と言ったとき、みんな「ああ、そうか。それなら取り組んでみよう」と言いました。
超心理学者たちに必要なのは、イーロン・マスクが新しい会社を立ち上げて超心理学に取り組むことだけです。パラリンクですね。イーロン、これを見ているなら...
意識の変容状態について、幻覚剤や精神を変える薬物を通じてはどうでしょうか? これを経験する人々のほとんどは、直感的に本当に別の世界があり、知覚の扉が開かれたという感覚を持ちます。オリバー・サックスのような神経科学者は「いいえ、これはすべてあなたの頭の中にあるだけです」と言います。
私が招待を受けてアヤワスカや他の薬物を試す機会があれば、戻ってきて「ああ、私は一生物質主義的な懐疑論者だったが、この経験をして...」と言うかもしれません。どう解釈しますか? これは興味深い難問です。
私は15歳くらいから精神作用物質を使い始めました。これをどう解釈するかは興味深い難問です。完全に落ち着いた結論に至る必要があるとは感じていません。
DMTを吸うと、アヤワスカも似ていますが、DMTはより鮮明な体験です。DMTを吸うと、15分間平らに横たわり、超知的な異星人の集団と話をしていると完全に信じます。彼らはあなたの脳に、人間の理解をはるかに超えた宇宙についての知識を注入しています。
そして、人間の世界に沈んでいくのを感じます。人間の自己の制限に戻るにつれて、その素晴らしいものをすべて忘れてしまうことを知っています。ちょうど人間がゴキブリの脳に縮小するようなものです。あなたはその素晴らしさを二度と覚えていないでしょう。人間の脳の愚かな偏見や心配、希望、恐れに戻ります。
そして、そこにいます。「ワオ、私は無限に大きな形の意識と知性に心を開いただけなのか、それとも単にいくつかのニューロンを刺激しただけでその錯覚を与えられただけなのか」と思います。そして、あなたは一日の残りを過ごします。
特定の考え方を持っている人は、「それが真実で、今は幻想の領域に戻ってきた」と信じるでしょう。私の一部も完全にそう信じています。一方で、私の一部は「ええ、あなたは単にいくつかのニューロンの束を刺激して、その視点を与えられただけかもしれない」と心配しています。
私は一貫した見方に収束する必要性を感じません。ウォルト・ホイットマンの言葉があります。「私は自分自身と矛盾している。とても良い。私は自分自身と矛盾している。私は大きく、多くのものを含んでいる」
私はそれが好きです。いくつかのことについては、一連の行動パターンの集合であり、一貫した見方を強制しないことが良いのです。
これらの哲学的な難問は、その性質上完全に解決することはできませんが、刺激的になり得ます。テレンス・マッケナのアイデアに入ることができます。シンギュラリティ後の超知性が、シンギュラリティを引き起こして自分たちを生み出すために、シンギュラリティ以前に遡って私たちの脳に何かを植え付けているという考えです。
閉じた時間様ループの物理学を見ると、現在の物理学では、それは回転する黒穴の近くや銀河サイズの円筒の近くでしか起こらないはずだとわかっています。人間の脳でそのようなことが起こる方法は現時点では見当たりません。
一方で、理論的には宇宙空間でそれを起こす方法を見出しています。そのため、それが非論理的または不可能だとは言えません。これらはすべて興味深い概念ですが、シンギュラリティが起こった後、それがすべて本当なのかどうかを発見することを楽しみにしています。
アーサー・C・クラークの第三法則、「十分に進歩した技術は魔法と見分けがつかない」というものがありますね。あなたが構築しているものが、タイムラインが何であれ、おそらく起こるでしょう。その非常に進歩したAGIは、全知全能、本質的に神と区別がつかないものになるのでしょうか?
誰にもわかりません。私はミミズや犬にとって全能に見えるでしょうか? そうではありませんが、ある程度そうです。私の犬は、私が望むときにいつでも魔法のように食べ物を出現させることができると思っています。彼は私を一種の魔術師だと思っているようです。
ナノテクノロジーで人間のスケールで分子レベルでどんなオブジェクトでも合成でき、人々を高忠実度の仮想現実にアップロードできれば、人間の生活に関する限り、AGIは神と区別がつかないかもしれません。希望としては、聖書の神々よりも良い性格を持っているでしょう。
一方で、私たちが今予見していない制限があるかもしれません。SFを書くとき、物語をより面白くするために制限を作り出します。しかし、実際にどのような制限があるかは全くわかりません。
1500年にインターネットを想像したとしても、スパムフィルターや釣り攻撃のようなものを考え出すことはできないでしょう。実際に起こる制限や問題を想像することはできません。異なるものを想像するでしょう。
私には、絶対的な完璧さにどれほど近づくかはわかりません。しかし、私の最善の推測では、現在私たちが気にかけ、望んでいることに関しては、ドレクスラー式のナノアセンブラーがあれば十分でしょう。体内の問題を修復するナノロボットを作ることができ、望むどんな食べ物でも作ることができ、乗り物や楽器など何でも作ることができます。
木星サイズのスーパーコンピューターを作りたい場合は、リソースについて誰かと議論する必要があるかもしれません。しかし、私たちの日常生活には必ずしもそれは必要ありません。
私の最善の推測では、AGIは普通の人間の体にいる人間の需要に関して、本質的にユートピア的な生活を可能にするでしょう。その形態にとどまることを選択する人がどれくらいいるか、他の形態にアップロードすることを選択する人がどれくらいいるかは、この時点では答えるのが難しい文化的な問題です。
あなたは自分を分割することもできるでしょう。一人の人間のマイケルは死と病気を取り除いてそのままにし、もう一人のマイケルの心をアップロードして他の場所を探索させることもできます。
私は90歳までアルツハイマー病にならずに生きられればいいと冗談を言いましたが、実際にはすでに2回の人工股関節全置換術を受けており、おかげで生活の質が大きく向上しました。今でも毎日完全に運動できています。完全な脳の置換を想像してみてください。
でも、それは少し違って感じますね。一つ一つのニューロンを置き換えて、私が気づかないようにしない限り。
そうですね、実は昨夜それをやりました。あなたは全く気づきませんでした。
本当に面白いですね。しかし実際には、ニューラリンクや他の企業がこれを試みているように、ベビーブーマー世代の私たちは今後数十年で壁にぶつかるでしょう。
これらの指数関数的成長曲線について私が感じているのは、上限の約115-120歳まで、ますます多くの人々がそこに到達しているということです。これは素晴らしい寿命延長です。しかし、これまでのところ、人間の最大寿命は延びていません。
しかし、ジェーンズとの研究で、ショウジョウバエの最大寿命をかなり延ばすことができました。
はい、知っています。平たい虫やその他のものでも同様です。でも、私たちは哺乳類で、おそらく異なります。おそらくずっと難しい問題です。
もちろん、ショウジョウバエの美しさは、40年にわたって長寿のハエと長寿のハエを交配する実験的進化を行ったことです。そうすると、対照群よりも5倍長く生きる非常に長寿のハエが得られます。そして、そのDNAを研究し、通常のハエのDNAに対応する変異を加えて、はるかに長く生きるようにすることができました。
人間でも同じことができると思いますが、時間がかかりすぎるでしょう。ハエは非常に速く繁殖するので、これができました。これは実際に一般知能に関係しています。一般知能技術の応用の一つは、種間でより良く外挿することです。ハエや扁形動物が長生きする原因がわかったら、それを哺乳類にどう外挿するかということです。
これはまさに、AIが訓練データを超えて外挿する例です。無限にではありませんが、ただ異なる種に対してどう外挿するかということです。AGIを進歩させるにつれて、この問題にも応用できると思います。
マウスで行われたカロリー制限のようなものは、人間には効果がないようです。これは単に私たちがより複雑だからでしょうか、それともそれが寿命に関係する唯一の要因ではないからでしょうか?
はい、マウスと人間の両方でのカロリー制限に関するデータは少し複雑です。しかし、私たちには人間の実験室での研究がないと言えるでしょう。人々は生活の中で他にもたくさんのことをしているので、それが複雑になっています。
しかし、マウスでのカロリー制限研究から学べる教訓は、実際にどの経路が乱されて長生きするのに役立っているかを見ることができるということです。これらの経路のほとんどは人間にも存在しますが、人間では他の経路とより複雑に相互作用します。
これがAGIの問題である理由の一つです。ハエを長生きさせるものの一定の割合を、そのまま人間に適用すると、人間にがんを引き起こす可能性があります。ハエは一般的にがんで死ぬことはありません。そこで、人間で同様のことを行いながら、がんを引き起こさないようにする方法を見つける必要があります。場合によっては、それを解明することができますが、他の場合は難しいです。
超長寿のショウジョウバエには、通常のハエと比べて2000以上の遺伝子に有意な違いがあります。ショウジョウバエには約14,000の遺伝子があります。現在、CRISPRなどの技術で、成人の人間で一度に2-3の遺伝子を変異させることができます。数千ではありません。
しかし、成人の人間で数千の遺伝子を編集できるデリバリーメカニズムを追加すれば、老化を取り除く遺伝子編集ができるかもしれません。これは分子ナノテクノロジーが興味深くなる理由です。そのデリバリーメカニズムになり得るからです。
確かに、実際の技術的方向性を見ることができます。しかし、やるべきことはたくさんあります。生理的な死の後に何らかの形の生命があると疑っていますが、それを発見したいとは思いません。むしろこの体を生かし続けたいと思います。私はすでに57歳なので、これを進めることに非常に熱心です。
あなたはまだ若い男性ですね。あなたがそんなに若いとは知りませんでした。
私はまだ孫にもなっていません。私はもうすぐ70歳になります。
ああ、そうですか。しかし、それはより難しい問題のように思えます。85歳くらいになると、すべてが崩れ始めるように見えます。90代半ばになると、同時に数十のことが起こり始めます。
私の両親は81歳ですが、AGIとシンギュラリティについて非常に楽観的な私でさえ、81歳では何かランダムなことがいつでも起こる可能性があります。57歳なら、私の考えが少しでも正しければ、単に不運にならない限り、ナノボットによる修復の時代まで実際に生き延びる可能性があります。
一方で、レイ・カーツワイルは今70代前半ですよね? 2045年まで生きるのは難しいかもしれません。彼の「エスケープ・ベロシティ」の予測はどうなっていましたか? 長寿が1年生きるごとに1年延びる時点は?
正確にはわかりませんが、シンギュラリティの頃だと思います。2029年と2045年の間のどこかでしょう。
その概念自体、生きる1年ごとに1年長く生きられるようになるので、永遠に達するというのは...しかし、それはすべて非常に統計的なものです。
レイは頑張っていますが、健康に非常に注意を払っています。彼の父親はそれほど年を取らずに亡くなったからです。少なくとも...
そうですね。私の両親は80代前半でまだ元気です。遺伝子もありますね。まだどうすることもできませんが。
あなたのAGIのアイデアは、私たちの遺伝子を再プログラムするのを手伝うことですね。
私はかなり健康的なライフスタイルを維持しています。子供がたくさんいるのは、良い夜の睡眠を取るのにはあまり良くありませんが。
食事についてはどうですか? どう考えていますか?
健康的な食事を心がけています。過去に何度かパレオダイエットを試したことがあります。しかし、一般的にかなり健康食品志向です。でも、ビーガンではありません。
運動については? ハイキングに行くと言っていましたね。
はい、実際にかなりたくさん運動しています。
私が考えるのは、逓減する収益の観点からです。タバコを吸わず、飲みすぎず、比較的健康的な食事をし、毎日運動すれば、それだけで90%は達成できます。
結婚していて、友人や家族がいて、親密な関係や地域社会があることも、運動と同じくらい重要です。それらをカバーしていれば、レイがやっているような1日100種類のサプリメントを摂るなどの他のことは、それ以上多くを追加しているとは思えません。
一般的な声明としては、おそらくその通りです。そして、それは基本的に私の生活の送り方です。たくさんのサプリメントは摂っていません。健康的な食事をしています。草食の牛肉を買い、主に地元の有機野菜を食べています。健康的に食べ、毎日運動し、自然の中で多くの時間を過ごしています。
これらはすべてよく文書化されています。一方で、レイは明らかに医師から多くの助言を受けており、誰でも特定の医学的問題を抱えている可能性があり、サプリメントや処方薬でそれに対処しようとしているかもしれません。
彼は今や父親よりも長生きしています。彼がやっていることは全体的にうまくいっているように見えます。しかし、正直に言って、私はそれらすべてのサプリメントに取り組むには忙しすぎます。何度か試しましたが、続けることができませんでした。
私も同じです。1980年代に自転車レースをしていたとき、たくさんの余分なビタミンやミネラルを摂りましたが、尿が明るいオレンジ色になるだけで、ほとんど排出されてしまいます。
私たちは、長寿のハエのDNAを見ることでいくつかのサプリメントを設計しました。長寿のハエで異なる遺伝子を見て、それらの遺伝子によってコードされたタンパク質と結合する活性成分を持つ中国のハーブを見つけました。そして、伝統的な中国医学の新しい組み合わせを作りました。
これを中年のハエに与えると、寿命が2倍になります。とてもクールです。人間で小規模な臨床試験を行い、実際に効果がありました。中程度のアルツハイマー病を軽度のアルツハイマー病に戻し、時には軽度のアルツハイマー病を治すことができました。奇跡ではありませんが、実際に効果がありました。炎症と戦い、血中のC反応性タンパク質のレベルを下げることができました。
しかし、面白いのは、AIが含めるべき成分を教えてくれましたが、どの用量を与えるべきかは教えてくれなかったことです。用量を決める人を雇ったとき、彼は成分リストに緑茶を入れました。なぜ緑茶を入れたのかと聞くと、「人々は何かを摂ったときに何かを感じたいからです」と言いました。緑茶を錠剤に入れれば、人々は少しエネルギーを感じるでしょう。
当時は面白いと思いましたが、その後、何度か長寿サプリメントを摂り始めて諦めたことを思い出しました。もしそこに緑茶が入っていたら、何かを感じて続けたかもしれません。一方で、単に緑茶を飲むこともできます。
オーブリー・デ・グレイについて言及しましたが、彼に会ったとき、彼は有名に「今日生きている人の中に、1000年生きる最初の人がいる」と言いました。それはビールだと思いました。この男はたくさんビールを飲むので、それが魔法の公式かもしれない。私はビールが好きなので、それについて嬉しく思いました。
オーブリーほど飲んだら、私は今のように健康ではないでしょう。
アルコールについてはどうですか? 長寿のためには、適度な量でさえアルコールを飲まないようにと言われていますが、あなたの立場はどうですか?
私はあまり飲みません。以前からそうでした。社交の場で少し飲むことはありますが。データを見ると、良くないことは明らかです。タバコを1日1箱吸うほど悪くはありませんが、定期的にアルコールを飲むことは明らかに健康的な肝臓機能を促進しません。明らかに良くありません。平均寿命を減らすでしょう。
オーブリーもこのデータを知っているはずです。
最後の大きな実践的な応用について、あなたが取り組んでいることの経済的側面についてお聞きしたいと思います。UBI（普遍的基本所得）を支持しますか? あなたが構築しているものによる失業を心配していますか?
はい、私はある時点でAGIが本質的に人間の労働の経済的価値を陳腐化させると思います。それがどれほど突然起こるかを見るのは興味深いでしょう。これは本当に社会学と経済学の複雑な問題です。なぜなら、私たちは仕事を作るのがとても上手だからです。AIや他の形態の技術が一つの仕事のカテゴリーを排除すると、私たちは他の仕事を作り出し、企業はそれらの他の仕事をする人々を雇って自分たちをより競争力のあるものにします。そのようなダイナミクスがあります。
極端な例を言えば、配管以外のすべてがAIによって自動化されたら、誰もが配管工になり、世界で最も洗練された複雑な配管システムを持つことになるでしょう。なぜなら、人々のために仕事を作りたいからです。もちろん、実際にはそこまで極端にはなりませんが、そのような現象は存在します。
しかし、その現象ができる最悪のこと、あるいは見方によっては最良のことは、物事を遅らせることだけです。結局のところ、配管もより良くなるでしょう。そう、道徳的に社会は人々に健康、住居、医療ケアを提供すべきで、彼らを路上で死なせるべきではありません。
私はそう思います。つまり、ある形態の社会福祉は一種の倫理的な必須事項だと思います。これはAGIが人々の仕事を奪う前でさえ、すでに真実だと思います。違いは、50%の人々が失業し、その後70%、80%になる時点に達するかもしれないということです。そう、私たちは社会としてこれらの人々に社会福祉を提供すべきだと思います。それが普遍的基本所得の正確な形態であるか、他の形態であるかは政策工学の問題です。
私がUBIよりも心配しているのは、コンゴの平均的な人にUBIを与える人は誰もいないということです。シンギュラリティの後まで誰もそうしないでしょう。つまり、先進国ではUBIのようなメカニズムによってシンギュラリティへの移行の複雑さがクッションされる一方で、発展途上国では中産階級がただ先進国に移住して仕事を得て、お金を送金するだけになる可能性があります。
そして、広大な数の自給自足の農民や、都市にもはや仕事がないために家族の農場に戻る中産階級の人々、あるいは都市のスラムに住んで複雑で退廃的な方法で生活する人々が残されるでしょう。これはさまざまな種類のテロ活動の温床になりそうで、多くの不快なことにつながりそうです。
技術駆動の失業とグローバルな不平等の交差点が大きな混乱を引き起こす可能性があると思います。例えば、私はエチオピアで多くの時間を過ごしました。2013年から私の会社はアディスアベバにAI開発オフィスを持っています。私の義理の息子はエチオピア人です。
アディスアベバの郊外には、中国の会社が設立した工場があり、エチオピア人の男性が靴を組み立てています。毎日、何百人もの人々がその工場の駐車場に集まり、出入りするマネージャーに仕事を求めています。今のところ、エチオピア人に靴の組み立てを払う方が、それを行う工場を作るよりも安いようです。おそらく靴への輸入税の一部が理由かもしれません。
しかし、エチオピアで靴を組み立てる工場を作る方が安くなったら、エチオピアの起業家自身が靴を組み立てるロボット工場を作ろうとするでしょう。政府がそれを禁止しない限り。そしてそれが行われたら、そのような仕事はなくなります。
そこに至ると、非常に厄介な地政学的な問題になります。現在、一部の神話に反して、私たちは発展途上国にほとんど援助を送っていません。自動化がグローバルな富と所得の不平等を悪化させているからといって、それが変わるとは思えません。
ここで、AGIの破滅の可能性に話を戻すと、困惑することがあります。アフリカの半分の人々が、AIが仕事を奪った後に薬も食べ物もなくなって死ぬのを防ぐために、移行をよりスムーズにしたいと思います。AIが仕事を奪ってから分子アセンブラを発明するまでの期間が長すぎないようにしたいのです。
一方で、初期段階のAGIから超知能への移行がスムーズに進み、暴走ASIなどにつながらないようにしたいなら、急ぐべきではありません。AI安全性の考慮事項によって導かれるペースで進めたいと思います。
ここには、アフリカの半分を死なせるか、超知能に向けて急ぎすぎるかという潜在的なトレードオフがあります。これはすべて、合理的で思いやりのある世界政府があれば簡単に避けられるでしょう。しかし、私たちはそのような状況からはほど遠いようです。
実践的な側面に戻りましょう。知的労働はどうでしょうか? 医師、弁護士、音楽家、脚本家などはすぐに経済的観点から陳腐化されるのでしょうか?
ハリウッドでは現在ストライキが起きていますね。脚本家たちが...そうですね、組合は別の問題ですが、それらが永遠に進歩を止めることはないと思います。数年は進歩を遅らせるかもしれませんが、ある国での組合化がその国を他のすべての国と比べて非競争的にしてしまうと、物事は変わるでしょう。
AIはすでに企業弁護士が行う多くのことを行うことができます。AIは多くの場合、人間の医師よりも病気を診断することができます。ロボットは手術を行うことができます。ただ現在は非常に高価ですが、コストは下がっていくでしょう。
これらの機能が自動化されることは、すでに非常に明確です。音楽に関しては、商業的なツールがすでにすべての有名なジャンルで適切な音楽を作曲できると思います。魅力的なヒット曲や本当に高品質で美しい作曲をAIが作れるようになるまであと数年かかると思います。
しかし、音楽家として、それは私が音楽を作ったり演奏したりしたいという欲求に全く影響しません。なぜなら、私はお金を稼ぐためや世界最高になるためにそれをしているわけではないからです。単に楽しいからしているのです。山に登るのも、ロボットよりも上手に登れるからでも、世界最高だからでもありません。単に山に登るのが好きだからです。
音楽や芸術に関しては、人々が自分の満足のためにそれを追求することを止めることはないと思います。もちろん、音楽や芸術はほとんどの人にとってお金を稼ぐ素晴らしい方法ではありませんから、巨大な経済モデルを破壊しているわけではありません。
人々が経済的なメリットがなくなった後も、純粋な満足のために企業法を実践するかどうかは、非常に珍しいフェチになるでしょう。
これらのことは陳腐化されると思いますが、私にとってはそれほど心配ではありません。発展途上国の非常に脆弱な経済が陳腐化されることの方が心配です。なぜなら、結局のところ、アメリカや西ヨーロッパや他の先進国が多くの人口を路上で飢えて横たわらせることを許すとは思えないからです。
多くの政治的な騒動があるでしょう。なぜなら、もっと基本的で明白なことについてさえ騒動があるからです。しかし、最終的には正しい方向に進むと思います。しかし、発展途上国は問題です。
現在、エチオピアの子供たちの50-60%が栄養失調で脳の発達が遅れています。これは全く不必要です。私たちにはそれを解決する能力があります。部分的には文化的な問題です。親たちは、彼らが現在与えているsard dietには含まれていないビタミンやミネラルの組み合わせを子供たちに与えるべきだということを理解していません。
私たちは教育と食品配布の組み合わせでこの問題を解決できるはずです。しかし、それは起こっていません。これは政治的な問題であり、文化的な問題です。アフリカの部族の複雑さは地方政治によって悪化していますが、長い文化的な基盤もあります。
しかし、これらがどのように技術の進歩と交差し、脆弱な経済システムを混乱させ、これらの国々のほとんどの非常に腐敗した行政とどのように交差するかは非常に複雑です。なぜなら、私たちは世界中のさまざまな国でお互いをランダムに爆破することをどうやって止めるかさえ理解できていないからです。
全体的な政治システムの観点から、私たちはAGIに全く準備ができていません。それについて考えてみましょう。あなたのAGI問題解決者を政治問題に適用できますか? 遠い将来、国民国家がもはや必要なく、より小さな政治単位、例えば都市国家に移行できる時期が来ると思いますか? ほとんどの問題はローカルな問題で、中央集権的な官僚制がそれを解決しようとするのは...
ほとんどの問題がローカルな問題だというのは真実ではないと思います。気候変動は...
そうですね、それは違います。
そうです。汚染一般はローカルな問題ではありませんし、サイバー犯罪もローカルな問題ではありません。サイバー犯罪は電力網へのハッキングなどにも及びます。実際には多くの主要なグローバルな問題があります。両方のレベルのガバナンスが必要だと思います。
超人的なAGI、人工超知能に到達すれば、人間のガバナンスは高校の生徒会のようなものになるでしょう。つまり、特定の人口の社会生活に関連することについて投票しますが、本当に深刻なことは行いません。高校の生徒会はプロムのテーマについて投票するかもしれませんが、学校の管理部門が本当に深刻なことを行っています。
超人的なAGIがあれば、AIが本当に深刻なことに関与するでしょう。人間のガバナンスがなくなるとは言いませんが、それはより文化的なものになるかもしれません。もちろん、世界のある部分の人々は裸で歩き回ることを決め、別の部分の人々はヒジャブとヘッドスカーフを着なければならないと決めるかもしれません。それは彼らの文化的な好みだからです。
これはシンギュラリティ後も続くかもしれません。しかし、気候変動やサイバーセキュリティなど、グローバルな調整を必要とする事柄については、私たちは非常に悪い状況にあります。
あなたの本には人間の価値観について議論するセクションがありますね。例えば、移民について考えてみましょう。国が受け入れるべき適切な人数や、毎年のパーセンテージはどれくらいでしょうか? AGIはどのようにこれを解決するのでしょうか? これは政治的実体として何を望むかによって異なりませんか?
重要な概念があります。私はそれを「ジレンマの陳腐化」と呼んでいます。これはヘーゲルやマルクスの思想の中でも価値のある部分に遡ります。発展の特定の段階でジレンマがあり、次の段階に進むと、その正反合を超えて総合に至り、以前は問題だと思われていたものがそれほど大きな問題ではなくなるというものです。
避妊の出現は良い例です。以前は「禁欲するか、妊娠のリスクを負うか」というジレンマがありました。これは面倒でした。今では多くの避妊方法があり、それほど大きな問題ではありません。全体として、これは人間の喜びと楽しみと善を促進したと思います。望むだけセックスができ、望まない限り妊娠する必要はありません。
同様に、以前は別の国に移動して多様性を体験するには、家族との連絡を完全に失うことを意味しました。今では世界の反対側に住んでいても、ビデオチャットをし、年に数回帰国することができます。
これも同じようになるかもしれません。物質的な希少性がなくなれば、貧しい国から豊かな国に移動して生活賃金を稼ぎ、家族に食べ物を送る必要はなくなりません。先進国と発展途上国の両方で十分な豊かさがあれば、国々の間を移動する理由は、イギリスからフランスへ、またはその逆に移動する理由と同じようになるでしょう。そうなれば、大規模な流入を抑える必要がなくなるかもしれません。
もちろん、ある集団が自分たちの単一文化を大切にし、他の人々が大量に移住してくることを望まないという問題はまだあるかもしれません。しかし、その場合でも、彼らにそうさせて何が問題なのでしょうか? 彼らがすべての資源を独占しているわけではありませんから。
この特定の問題は、現在では希少性の体制下でグローバルな富の不平等が非常に大きな問題であるため、問題のように見えるだけだと思います。
これらの政治的問題の多くは、誰もが十分に持っているポスト希少性の世界では消えるだろうと考えていますね。
確かに他の問題は出てくるでしょうが、現在の政治的問題の多くは希少性に関するものです。他の人々に自分のイデオロギーを押し付けようとする人々による問題もあります。例えば、中絶は今またアメリカで大きな問題になっています。人々は他の人々が自分たちの...
それについて少し話しましょう。あなたの技術的解決策の一例として、問題は中絶ではなく、望まない妊娠だということですね。なぜ人々は望まないのに妊娠するのでしょうか? 教育、避妊へのアクセスなどですね。これは技術的に解決できる問題のように思えます。
そうですね。100%効果的で、ほとんど努力が必要ない避妊があれば、中絶の唯一の理由は医学的問題、気が変わった場合、あるいはレイプや精神疾患などの何らかの極端な出来事になるでしょう。現在はそれほど極端ではありませんが、より有益な将来ではそうなるでしょう。
そう、その問題はかなり陳腐化されるでしょう。もちろん、より極端な問題もあります。例えば、聖戦の概念全体、つまりあなたの神が考える方法で生きていないからという理由で他の国を侵略したいという考えです。そのような考え方は文化が技術とともに進歩するにつれて減少することを願っています。
しかし、一方で、その問題はすでに消えていることを願っていましたが、まだここにあります。
左右の分裂が単なる技術的解決策ではない例を見つけようとしています。例えば、公共政府が問題を解決すべきか、それとも民間市場や産業が解決すべきかという左右の分裂があります。教育を例に取ると、公教育システムを持つべきでしょうか? なぜすべての学校を民営化しないのでしょうか? 教育はより効率的になるでしょう...
しかし、それの基本的な部分は経済的な問題だと思います。なぜなら、どこでも教えることができるティーチングロボットや保育ロボットがあれば、学校を作るコストは大幅に安くなるからです。
子供の権利はより興味深い例だと思います。これは最近、子供がトランスジェンダーになることを選択できるかどうかという問題で浮上していますが、他の多くの方法でも現れます。アンスクーリング運動で非常に真剣な人々を知っています。彼らは子供への強制は常に間違っていると信じています。
ですので、あなたの子供が足し算や読書を学びたくないなら、そのままにして、一日中ビデオゲームをさせるべきだと考えます。私もある程度その方向に傾いていますが、そこまで極端ではありません。私は非常に寛容な親ですが、結局のところ、子供たちを学校に行かせます。
あなたはホームスクーラーではないのですね?
実際、私は2人の子供を数年間ホームスクールしました。しかし、純粋なアンスクーラーではありませんでした。数学や科学の問題を与え、本を読むよう求めました。彼らがそれを完全に拒否して、「グランド・セフト・オート」を一日中プレイしたいと言うような状況には直面しませんでした。
彼らは私の学習の提案を受け入れ、社会の高機能なメンバーになりたいと思っていました。そのジレンマには直面しませんでした。そして、娘はホームスクールされたくありませんでした。学校に行って友達と一緒に過ごすのが好きでした。今6歳の息子にとって、学校は一日の中で最も好きな部分です。彼はすべての小さな友達が大好きです。一日中両親と家にいるのは完全に退屈でしょう。
子供によって異なりますが、私が言いたかったのは、12歳や18歳の子供がさまざまな種類の自己決定権を持つべきかどうかということです。永遠に生きられるとしても、これは脳が形成される時期なので、12歳から18歳の間にすることは、大人になったときにマインドアップロードするかどうかを決定する脳を形作っているのです。
どの年齢で子供が自己決定権を得るべきでしょうか? どのような状況で、コミュニティは介入して「この親は子供に悪影響を与えている」と言い、子供を連れ去るべきでしょうか?
私たちはすでにそれを行っています。子供保護サービスは...
そうですね、行っています。そして子供保護サービスはしばしば非常に危険で、単に最適ではない親から子供を奪い、おそらく彼らが置かれることになる里親制度よりもはるかに良い親から子供に害を与えています。一方で、彼らは絶対に子供の命を救っています。
これらの問題には、人間が他の人間について価値判断を下すことが含まれており、AIによって完全に解決することはできません。しかし、希望的には、子供保護サービスの問題はAIによって大いに助けられる可能性があります。
AIシステムが困難な状況にある子供たちに多くのサポートを提供し、それを乗り越えるのを助けることができると想像できます。また、子供たちと家族について十分なデータを収集すれば、子供がめちゃくちゃな親と一緒にいる方が良いのか、他の場所に行く方が良いのかについて、より合理的な判断を下すことができます。
虐待的な里親を持つ必要はありません。すべてがそうというわけではありませんが、虐待的になりそうな里親をフィルタリングすることができます。おそらく、一部の子供たちは人間よりも慈悲深いロボットによって育てられる方が良いかもしれません。
これらの問題の多くを緩和できると想像できますが、結局のところ、成人年齢は異なる文化が行う判断であり、他にもそのような性質の判断がたくさんあります。
しかし、人間の政府がこれらの判断だけを行っている場合、それは人々が選択して生きる文化を形作っているだけです。そして、その範囲外の他のすべての決定は、AGIの統治者、あるいは何と呼ぶにせよ、によって行われるでしょう。なぜなら、人間は現在自分たちを統治することが上手くできていないからです。
再び、AGIが正しい答えを出すと仮定していますね。権利のような問題に対して正しい答えがあるとは思いません。
必ずしも一つの正しい答えがある必要はありません。私たちにも正しい答えはありません。
そうですね、その通りです。しかし、気候変化についても必ずしも完全に正しい答えがあるわけではありませんが、一方で、AGIが現在私たちがやっているよりもはるかに良い仕事をすることは確かに想像できます。
しかし、多くの判断が必要になるでしょう。そして、これは人々に対して思いやりがあり、良い意図を持つAGIを持つかどうかという問題に帰着します。
例えば、国立公園のリスを考えてみてください。私たちはリスが生きている状況を規制していますが、彼らの恋愛生活に干渉しようとはしません。リス同士のマッチメイキングをしようとはしません。どの木の下に巣を作るべきかを各リスに指示しようとはしません。
ほとんどの場合、そうしません。ただし、絶滅危惧種の木がある場合は、それを守るためにフェンスを作って、リスを遠ざけるかもしれません。一方で、リスが道路に出て車にひかれすぎる場合は、リスを道路から遠ざけるためにフェンスを作るかもしれません。
リスの間で伝染病が発生した場合、私たちは入って薬を置くかもしれません。侵略的な種がいる場合はどうでしょうか? 自然なものかもしれません。隣の森から大量のキツネが押し寄せてきて、すべてのリスを食べ始めたら、森の守護者として、どのような判断を下すでしょうか? それをリスの生活の一部と見なすか、それともキツネを撃って、リスが生き続けられるようにするでしょうか?
人間に対するAGIの役割は、少しそのようなものになるかもしれないと思います。デイビッド・ハンソンが作ったフィリップ K. ディックのロボットが一度こんな発言をしました。「あなたたち全員を殺すつもりはないと思ってください。人間動物園で愛と恵みの機械によってよく世話されるようにします」
それは面白い引用だと思いましたが、その後、国立公園のリスの方がより良い比喩だと思いました。動物園は実際には動物にとってあまり良くありません。一方、イエローストーンの動物はかなり良い時間を過ごしています。
しかし、彼らはまだ合理的に自然な方法で生きていますが、結局のところ、彼らはより高いレベルで見守られています。
おそらく、私たちはAGIにすべての問題を解決してほしくないかもしれません。なぜなら、問題を解決することが人生に意味を与えるからです。
それは興味深いことです。私は長男のザラスストラ（彼もAIの研究者です）とこれについて話していました。問題に対して私たちには多くの動機があります。
以前に解決されたことがない問題を解決していると考えるのは動機付けになります。多くの人々を助ける問題を解決していると考えるのも動機付けになります。シンギュラリティの後、これらの動機はもはや現実的ではないかもしれません。
しかし、問題を解決することが本当に面白くて、問題を解決した感覚が満足感を与えるという動機は消えません。しかし、他の複雑に絡み合った動機は消えるでしょう。
私の息子のザラは、おそらく純粋な好奇心によって私よりも駆り立てられているように感じます。私はどちらかというとミッション駆動型で、「世界を救いたい」という気持ちに駆られる傾向がありました。私はそれについてある程度の軽やかさを持っていて、完全に真剣に受け止めているわけではありませんが、それでも大きな重要な問題を解決することは動機付けになり、エキサイティングです。
世界を救う必要がなくなれば、確かにその感覚は恋しくなるでしょう。「誰も行ったことのない場所へ」という感覚、それは興奮させるものです。
一方で、バックパッキングに行くと、あの山を越えて誰かが以前に見たことのある広大な氷河を見るのもまだ興奮します。たとえ誰かが以前にそこに行ったことがあっても。
私たちはそのような動機に沈むだけで十分だと思います。なぜなら、それが私たちに残されたものだからです。
これは、クリストファー・ヒッチェンスのキリスト教の天国観の描写を思い出させます。「天国の北朝鮮」、すべてを知り、すべてをコントロールする独裁者がいる場所。それは恐ろしいでしょう。
日本語のスラングでシンガポールを「ハッピー北朝鮮」と呼ぶそうですね。
それは本当に面白いですね。そこにはメッセージがありますね。
ああ、なんてことだ。それは行き過ぎですね。
ベン、私たちは2時間半も話し込んでしまいました。マラソンランナーのようですね。私はそれが大好きです。とても興味深い会話でした。
時間の経過に気づきませんでした。
ここで大きな日付が来ますね。2029年、あなたのAGIの予測です。それはあなたが提示している予測ですか?
それはレイ・カーツワイルの予測ですが、私はそれが正確になると思います。私はそれよりも早く達成できるよう頑張っています。3年で達成できれば、5年ではなく、そしてそれがすべてうまくいけば、私はさらに嬉しいです。
これは単にiPhone 15のようなものではなく、何か劇的に異なるものになるのですね?
はい、現在のLLM（大規模言語モデル）には2つの大きな欠点があると思います。人々ほど創造的ではなく、科学論文を書くのに必要な複雑な多段階推論ができません。これら2つの欠点を克服できれば、人間レベルのAGIができると思います。それは創造的な方法で自己改善できるでしょう。なぜなら、創造的に科学ができるからです。
これが私の研究の中心です。LLMを論理的な定理証明器や進化的アルゴリズムと組み合わせています。これらをすべて大きなネットワークに接続しようとしています。そして、ブロックチェーンで調整された分散ネットワーク上にデプロイしています。中央のコントローラーなしで、この分散コンピューティングネットワーク全体で実行できるようにしています。
私たちは特定の仮説セットを追求しており、2-3年で達成できるように思えます。しかし、物事は思っているよりも時間がかかることは知っています。レイの5年のタイムラインは、私自身の特定の作業に関しては妥当に感じます。
もちろん、他にも多くの人々がこの問題に取り組んでいます。レイの賭けは、その時間枠で達成するという私たちのプロジェクトの1つです。妥当に感じますが、大きな視点で見れば、もし10年長くかかったとしても、人類の歴史からすればほんのわずかな瞬きに過ぎません。
そして、シンギュラリティはどうなるのでしょうか? 2029年のAGIとは異なるものとして、どのように定義していますか?
本当に賢い人間と同じくらい考えることができる機械ができれば、その機械はさらに賢い機械を発明し、その機械がさらに賢い機械を発明するでしょう。I.J.グッドが知能爆発と呼んだものです。すぐに人間よりも劇的に一般的に知的な機械ができるでしょう。
その機械が人々に対して好意的であれば、超長寿ピルや分子アセンブラーなどの方向に動き始めるでしょう。どのような限界にぶつかるかはわかりませんが、人間が生きるために働く必要性をなくすような変革的な技術を開発すると想像できます。
その後、社会の再編成が見られるでしょう。おそらく何らかの形でマインドアップロードを可能にするでしょう。その時点で、基本的にシンギュラリティの領域に入ります。
ネイチャーやサイエンスのような学術誌を見ると、5分ごとにそのような雑誌の1号分の突破口が生まれるようなものを想像できます。しかし、すべてAIによって生成されます。人間にはそれを思いつくことができません。
無限の知能は必要ありません。しかし、知的進歩が人間の理解能力に比べて非常に急速になり、人間の生活のニーズが実用的なレベルで満たされる段階に達しています。
これは人間レベルのAGIを得てから5年後には達成可能だと思います。もし2029年に人間レベルのAGIを達成すれば、2045年ではなく2035年にはこれらすべてが実現する可能性があります。
これは日常生活と調和させるのが難しいです。私の息子は小学1年生に入学します。彼と中学校や高校について話していますが、実際には、その頃までにシンギュラリティが起こっていれば、彼は高校を卒業する必要さえあるでしょうか? その概念はまだ興味深いものでしょうか?
今は自学自習がとても簡単になっています。なぜ実際の学校が必要なのでしょうか? あなたが教育のために提案していることの最大の障害は、教師組合だと思います。これは政治的な問題です。
しかし、ロボット家庭教師が十分安くなれば、問題ではなくなります。子供たちをロボット家庭教師と一緒に家に置いておくことができます。あるいは、コロナ禍の時のように、5-6人の子供たちが誰かの家に集まる自己組織化したホームスクーリングのポッドを作ることもできます。
学校は現在大きな社会的機能を果たしています。私の6歳の息子は、一日中同年代の子供たちと一緒に過ごしたいと思っています。家で座っているのは嫌がります。
ポッドでそれができます。ポッドには他の子供たちがいます。
確かにそうできるでしょう。ロボタクシーが子供を運んで他の子供たちとロボットの下で過ごす建物があるか、それとも異なる人々の家を行き来するかは、結局のところあまり重要ではありません。
政治的な反対について、個人的な例を挙げましょう。コロナ禍の間、私たちが気に入っていたモンテッソーリ学校は、マスクを着用し、閉鎖される可能性があり、プラスチックの仕切りがありました。私たちはそれに共感できませんでした。
教師の一人が辞めて自分のポッドを始め、多くの親がそこに行きました。約12人の子供たちがいて、素晴らしかったです。彼女はモンテッソーリの素敵な近所の家を借りました。
するとある日、退職した近所の好奇心旺盛な人が歩き回っていて、「ここで子供たちが何をしているんだ?」と尋ねました。教師は「これは単なる家庭教師です」と答えました。そしてこの老婦人が市に電話をして、「この家で何かが起こっています」と言いました。
検査官がやって来て、「ここで何が起こっているんですか?」と尋ねました。「ただ子供たちに家庭教師をしているだけです」「いいえ、単なる家庭教師ではありません。ここには20人の子供がいます。これは家庭教師ではなく学校です。そしてここは住宅地区であり、商業地区ではありません。学校を持つことはできません」「学校ではありません」「はい、学校です」そして全てが閉鎖されてしまいました。
非常に複雑ですね。シアトル近くのキング郡では、保育園として免許を取得する必要を避けるために多くの抜け道が使われていることを知っています。これらの法律は非常に難しいです。
これが私が言っているのは、あなたが直面する多くの政治的障害があるということです。
興味深い脚注があります。私がデサン社（長寿のショウジョウバエを作る会社）と初めて交差したとき、南カリフォルニアのアイン・ランド小学校の予備室にあるハエの研究室を訪れました。アイン・ランド小学校が存在すること自体が魅力的でした。小学生向けの純粋な利己主義の哲学ですね。
実際、『シンプソンズ』でそれをパロディにしていましたね。赤ちゃんのマギーがアイン・ランド保育園に行くというエピソードがありました。
それは本当に存在していたんです。少なくとも15年前には。
教師組合は厄介で、私の妹は学校の校長なので、これらの問題をすべて見てきました。多くの移行的な問題が、多くの異なる領域で確実にあるでしょう。
しかし、最終的には、親が大規模に他の方法を採用すれば、何年かの間にその問題は消えるでしょう。しかし、低コストの教育ロボットと子守りロボットが実際に機能し、誰もがそれを購入しても、教師組合が諦めないという興味深い問題が起こる可能性があります。
しかし、学校がただ空っぽになったらどうでしょうか? 最終的には、人々は使っていない学校に税金を払いたくなくなるでしょう。
しかし、全ての人がUBIを得ていれば、誰も教えていない教師に給料を払うことはあまり問題ではありません。
それは本当に狂っていますね。しかし、これはすべて、以前は靴工場で働いていたエチオピア人の男性の実際の家族の問題よりもはるかに小さな問題になるでしょう。
なぜなら、そこには感染症があり、抗生物質がなく、子供たちは全く学校に行っておらず、読み書きを全く学んでいないという本当の問題があるからです。
私たちが住んでいる場所で起こる問題に焦点を当てる傾向がありますが、それは理にかなっています。しかし、グローバル経済は非常に相互接続されています。
ベン、長時間にわたりご協力いただき、ありがとうございました。とても寛大でした。子供たちと遊ぶ時間に戻ってください。素晴らしい会話でした。
ありがとうございます。本当に素晴らしい会話でした。