意識を生み出すものは何か？

ありがとうございます。本日は人工知能時代における意識の探求にご参加いただき、誠にありがとうございます。意識に関する議論では、まず最初に1つのことを明確にしておくことが重要です。それは、私たちが意識とは何かを知らないということです。これは、私たち一人一人が - 私は確信していますが、確実ではありませんが - 意識の経験がどのようなものか、意識がどのように感じられるかを証明できるという事実にもかかわらずです。また、瞑想の実践や化学的に誘発された変容を通じて、意識の変性状態がどのようなものかをさらに証明できる人もいます。しかし、それ自体には内なる世界がないように見える物質的粒子の構成が、どのようにして総体として現象学的経験の内なる世界を生成するのかについては、私たちはまだ大変不明瞭な状態にあります。
さて、この謎を考えて、私が不当に偏った表現をしていると考える人もいるでしょう。彼らは、物質が心を作るのではなく、むしろ心が物質を作るのだと言うでしょう。あるいは別の変形では、心が物質を超越するのだと。さらに別の変形では、物質は基本的な成分のレベルでさえ、意識の種を含んでいるのだと。これは、「プロト意識」と呼ぶ人もいるものを含んでいるのです。
これらの問題は確かにそれ自体で深く魅力的です。私の意味は、意識は私たちが経験する生活にとって絶対に不可欠だということです。しかし、近年これらの問題はさらに中心的になっています。なぜなら、私たちが皆知っているように、私たちは様々な種類の人工知能がますます存在感を増す移行期を生きているからです。これは、人工知能の時代に意識について考えることから得られる洞察についての疑問を提起しています。
これらの問題を議論するために、数十年にわたってまさにこれらの問題に没頭し、思考のプロセスについて考えることから洞察を得ようとしてきた2人のゲストをお招きできて嬉しく思います。
まず、デイビッド・チャーマーズさんです。ニューヨーク大学の哲学・神経科学の大学教授であり、心・脳・意識センターの共同ディレクターです。彼の最新の著書『リアリティ・プラス：仮想世界と哲学の問題』は、ワシントン・ポスト紙によって2022年の年間ベストブックの1つに選ばれました。デイビッド、お会いできて嬉しいです。
こちらこそ。
また、アニル・セスさんもいらっしゃいます。サセックス大学の認知・計算神経科学の教授であり、意識科学センターのディレクターです。彼は『意識の神経科学』の編集長であり、彼の著書『ビーイング・ユー：意識の新しい科学』はサンデー・タイムズのトップ10ベストセラーになりました。おめでとうございます。お会いできて嬉しいです。
こちらこそ。
さて、詳細に入る前に、皆さんがどのような立場から来ているのかを簡単に把握したいと思います。答えは分かっていると思いますが、イエスかノーだけでも十分です。デイビッド、人工システムがいつか意識を持つと思いますか？
人工知能システムが意識を持つ可能性はあると思います。機械が意識を持つ可能性はあると思います。脳自体が大きな機械であり、その機械がどうにかして意識を生み出しています。どのようにしてそうなるのかは分かりませんが、何らかの方法で行っています。生物学がそれを行えるのなら、シリコンにはできない理由が見当たりません。シリコンがどのように意識を与えられるのか理解できませんが、ニューロンがどのように意識を与えられるのかも理解できません。原則的には違いが見当たらないので、それはイエスだと受け取ります。
絶対にそうです。アニル、あなたはどうですか？
迷惑な「場合によります」という答えをしますね。人工知能が何を意味するかによります。現在我々が持っている種類の人工知能については、非常に可能性が低いと思います。完全に排除することはできませんが、意識を知能と混同しがちで、何らかの種類の計算が意識の基礎であるという根強い考えがあるため、可能性を過大評価していると思います。これは本当に不安定な仮定だと思います。デイブに同意して、意識は生物学的機械の達成物だと思いますが、脳を機械と呼ぶのは非常に異なる種類の機械であり、シリコンでは模倣できない種類の機械かもしれません。
分かりました。では、もう少し詳しく見ていきましょう。有名な話ですが、あなたがこの質問を何度も聞かれて嫌になっているのは分かっていますが、1995年に「意識のハードプロブレム」という言葉を作りました。多くの人々にとって、少なくとも私自身も含めて、これがなぜそれほど難問なのかを明確にしました。この「ハードプロブレム」が何を意味するのか、簡単に要約していただけますか？
もちろんです。これは決して独創的な観察ではありませんでした。誰もが骨の髄まで、意識が難しい問題を提起することを知っていたと思います。このラベルは問題を結晶化し、回避するのをやや難しくしただけです。
意識に関する会議に行くと、人々が多くの異なることについて話すのを見つけます。時には単に睡眠状態と覚醒状態の違いを指すだけです。時には特定の考慮された方法で行動を制御する能力を指します。時には特定の内部状態を報告する能力を指します。しかし、意識に関して言えば、これらのことは実際には私が「イージープロブレム」と呼ぶものです。それらを説明するのが簡単だからではありません。おそらく通常の認知神経科学の中で最も難しいことの1つでしょう。しかし、それらを説明するためのパラダイムがあります。覚醒した人に典型的な適切な行動を生み出すメカニズムを考え出せば、睡眠状態と覚醒状態の違いを説明したことになります。
しかし、意識のハードプロブレムに関しては、主観的経験です。あなたはイントロダクションで素晴らしい解説をしてくれました。それは一人称視点からの経験の感覚です。見ることや聞くことの感覚、体や感情を感じる感覚、痛み、考えることの感覚、行動することの感覚、私たちが主観的に経験するすべてのものです。
それを難しくしているのは、科学、特に神経科学や認知科学で仕事をするメカニズムを説明するためのパラダイムが、主観的経験には機能しないように見えることです。常にギャップがあるように見えます。睡眠と覚醒の違いを説明し、報告と非報告の違いを説明しても、なぜそれが主観的に経験されるのかという疑問が残ります。新しい方法が必要なように見えます。それがハードプロブレムである理由です。
そこで、多くの人々が - 私は自分自身の旅を本当に考えています - この問題の深さを理解する際に、そのような話を聞いて、「それは単に解明することの問題だ」と言っていた時期がありました。「脳がどのように機能するかをより完全に理解することの問題だ」と。そして、それがあれば、現象学的経験の説明が何らかの形で現れるだろうと。
そして、私はこの小さな思考実験に遭遇しました。これはあなたにも大きな影響を与えたと思います。アニル、あなたにも影響を与えたかどうかわかりませんが、フランク・ジャクソンによるメアリーについての思考実験です。私たちにはその短いバージョンがありますので、それを手短に再生して、その後で意識の性質について何を教えてくれるかについて、お二人にコメントいただきたいと思います。
遠い遠い未来に、メアリーという名の優秀な神経科学者がいると想像してください。彼女は何らかの理由で、すべてが白黒でしか見えない部屋に閉じ込められています。色は一切ありません。メアリーは外の世界を研究し、アクセスし、調べることはできますが、すべては白黒でしか彼女に届きません。
それでも、メアリーは人類が長い間追求してきた目標を達成することができます。彼女は脳の構造、機能、生理学、化学、生物学、物理学についてのあらゆる細部を完全に解明します。彼女は脳のすべてのニューロン、すべての分子、すべての原子の振る舞いについて、絶対的にすべてを知っています。彼女は私たちの頭の中で起こるすべてのことを正確に知っています。美しい赤いバラを見たり、豊かな青い空に驚嘆したりするときに起こるすべての神経プロセスの詳細を知っています。
ある日、メアリーは部屋から出ることを許され、彼女が最初に目にするのは、ぽってりとした赤いトマトです。ここで質問です。この赤色の経験から、メアリーは何か新しいことを学ぶでしょうか？彼女は単に肩をすくめて先に進むでしょうか？それとも、驚いたり、感動したり、動かされたり、色の実際の経験を通して何か新しい洞察を得たりするでしょうか？そして、もし彼女がそうしたら、それは脳と意識の純粋に物理的な記述の限界について何を教えてくれるでしょうか？
これが小さな物語です。では、この物語から何を学ぶべきでしょうか？この物語についてどう考えますか？
私はこの思考実験が好きです。この思考実験は多くの異なる目的で使用されてきましたが、客観的世界の理解と意識の理解の間にある特定の種類のギャップを素晴らしく示していると思います。
メアリーが色を見る前に、脳の客観的特性をすべて知っているように設定できます。目がどのように異なる波長に反応するか、それがどのように視覚皮質に送られるか、どのように分類されるか、赤、緑、青などのラベルをどのように付けるかなど、すべてを知っています。
彼女は色を見る前にそれをすべて知っています。だから、彼女は世界についてすべてを知っていると思うでしょう。しかし、彼女は客観的世界についてすべてを知っているだけで、赤を見る主観的経験については知りません。彼女が初めて色を見るとき、「ああ、赤を見るのはこういうものなのか」と思うでしょう。
ジャクソンはここから、これは物理的プロセス以上のものが世界にあることを示していると主張します。それはさらなる物語であり、多くの議論の余地のある要素を含んでいます。私はこれが客観的世界の知識と主観的経験の知識の間の基本的なギャップを示す素晴らしい例だと思います。
アニル、この物語はあなたの考えにどのような影響を与えますか？
正直に言うと、私はこれをあまり好きではありません。おそらくこれは私が哲学者ではないからかもしれません。私は常にこの種の思考実験、つまり想像可能性の議論を疑っています。これらは私たちが実際には想像できないことを想像するよう求めます。何かについて絶対的にすべてを知るというのはどういうことでしょうか？私たちはそれがどのようなものかを本当に知ることはできないと思います。したがって、何が驚くべきことで何が驚くべきことではないのかを知ることはできません。
また、デイブが正しく言ったように、ここにはギャップがありますが、私にとってはそれは驚くべきギャップではありません。何かがどのように機能するかの詳細を知ることは、必ずしもその物になる経験を与えてくれるわけではありません。飛行について全てを知っていたとしても、飛べるようにはなりません。
だから、メアリーが本当にすべてを知っていたとしたら、彼女は外に出て「ああ、これはまさに私が予想していた通りだ」と言うかもしれません。おそらく彼女は肩をすくめるでしょう。しかし、もちろん彼女は何か新しいことを学ぶでしょう。なぜなら、これまで経験したことのない経験をするからです。しかし、それは単に知識を得る方法のギャップを反映しているだけだと思います。意識が科学の手の届かないところにあることを示す、現実に横たわる深いギャップを示しているわけではありません。私はそうは思いません。
あなたが意識について考えるとき、私たちが1つの例を持っている生物学的メカニズム、つまり私たち自身のメカニズムと、それがどのように出現したかに大きな重きを置いていると理解しています。それは意識にとって絶対に中心的なものだと考えていますか？つまり、あなたがそう言うとき、私たちを構成しているもの、つまり窒素、酸素、炭素、水素、硫黄でなければならないと言っているのですか？分子を入れ替えても機能するでしょうか？それとも、私たちが単細胞生物から現在に至るまでの進化の道筋を辿ったことが、生物学的システムが提供する重要な部分なのでしょうか？
実際には、私たちの進化の歴史は非常に重要だと思います。それはほとんどすべての側面に当てはまります。しかし、魔法のように進化の歴史なしに再構成されたとしても、それでも大丈夫だと思います。私たちが動物としてどのようであるか、他の動物が彼らの動物としてどのようであるかについて、生物学に依存する多くのことがあります。代謝は生物学に依存し、化学に依存します。消化もそうです。多くのことがそうです。
だから、最初の近似として、意識は別の生物学的特性だと考えるのは理にかなっていると思います。必ずしも生物学的システムだけが意識を持つことができるということではありません。しかし、あなたが言ったように、これまでのところ私たちが知っている唯一のシステムです。
私たちはメタファーを使おうとしますが、脳をコンピューターとするメタファーがあります。しかし、メタファーを物事そのものと混同するのは簡単です。そしてそうすると、意識を私たちを構成している物質から切り離して、他の何かに実装できると考えてしまう危険があります。
あなたはハードプロブレムに駆り立てられているのでしょうか？私はあなたが「リアルプロブレム」と呼ぶ類似の問題を作り出したことも聞いています。
それは主にデイブをイライラさせるためでした。ちょっと彼をからかうためです。しかし、ハードプロブレムはこの分野にとって非常に定義的なものでした。私がこの分野を始めたのは約20年前ですが、その時にはすでにデイブのおかげで分野が組織化されていました。私を年寄りに感じさせてくれてありがとうございます。
しかし、それは本当に重要です。なぜなら、問題がいかに難しいかを強調するからです。しかし、今それが難しく見えるからといって、説明のメカニズムの範囲を超えた何かがあるという雰囲気が常にあるわけではないと思います。
非常に不完全な類推ですが、私たちはこれまでにも同じような状況にありました。約150年前、そんなに昔ではありませんが、人々は生命が物理学や化学の観点から説明できないと考えていました。何か他のものがなければならないと。生命のハードプロブレムに類似した問題があるように見えました。
しかし、もちろんそれは正しくないことが分かりました。生命のあらゆる細部をまだ理解しているわけではありませんが、もはや概念的な謎の感覚はありません。エラン・ビタル、生命の火花、自然の法則を超えた何かが必要だという感覚はもはやありません。
だから、メカニズムによる説明と経験がどのようなものかの間に橋を架けていくにつれて、ハードプロブレムは解決されないかもしれませんが、解消されるかもしれないと考えたいですね。
そうですね、私もあなたに同意します。実際、私もしばしば生命のハードプロブレムと意識のハードプロブレムの間の類推を使います。私たちは前者を解決したと考えていますが、それは早計すぎではないでしょうか？生命のハードプロブレムを本当に解決したと確信していますか？メカニズムを理解し、適切な方法で物事を組み合わせるだけの問題だと考えていますか？
正直に言って、私はそれがあまり良い類推だとは思いません。生命の場合、私たちが本当に説明したかったものはすべて、再生産、適応、代謝、成長などのような客観的なプロセスでした。ある時点では、物理的メカニズムがどのようにしてそれらの機能的なことを行うことができるのか見えませんでした。だから、ある人々は生命力のようなものが必要かもしれないと考えました。しかし、問題は常に生命システムが示す客観的な行動を説明する問題でした。そして最終的に、DNAなどがどのようにしてそれが起こりうる物語に拡張できるかを見つけました。
一方、意識の場合、それらすべてのアナログはありますが、それらはすべてイージープロブレムです。誰かが「人々が歩き、話し、記憶し、そういったことをどのように説明できるかさえ分からない」と言ったら、それは生命に関する生気論者と類似していると言えるでしょう。しかし、意識の場合、さらなるデータがあります。それは一人称の主観的経験です。これは生命の場合には本当のアナログがありません。意識そのものが生命の重要な側面であり、説明できていないと主張する人もいますが、そうすると同じ問題に戻ってしまいます。
さて、「リアルプロブレム」に話を戻しましょう。これはイージープロブレムと特徴づけるかもしれません。私たちはどの程度進んでいるのでしょうか？この種の経験を可能にする物理的プロセスについての洞察を与えてくれる意識のモデルを持っているのでしょうか？
ある日は、朝起きて「ああ、私たちはどこにもいない。まだ謎のままだ」と感じることがあります。しかし、他の日にはもう少し冷静に物事を見ると、進歩があったと思います。
戦略的に、これがイージープロブレム・リアルプロブレムアプローチの利点の1つだと思います。私は非常に似ていると思います。主にリアルプロブレムと呼んでいるのは、人々が何をするか、何を言うかだけでなく、経験の性質についても話すことができることを強調するためです。
視覚が感情とは異なる理由、自由意志の経験とは異なる理由について説明しようとすることができます。これらの経験がなぜそうであるのか、なぜ互いに異なるのかについて、今ではずっと多くのことが理解されていると思います。
そして今、私たちは意識の神経科学において、他の分野の助けも借りて、意識の異なる側面をターゲットにした理論のグループがあり、それらを比較対照し始めているステージにいます。
意識全体に対して完全に満足のいく解決策を見つけることができるかどうかは分かりません。それを言うには早すぎると思います。しかし、それを可能性として排除することはできないと思います。
だから、類推は異なるレベルで機能すると思います。生命の問題が意識の問題と同じだということではありません。ただ、ある時点で利用可能なツールと概念で非常に謎に見えたものが、異なる一連のツールと概念では、もはやそれほど謎ではなくなったということです。
私たちはみな、この問題に直面して謙虚であるべきです。まだ初期段階です。現在の哲学的または科学的な宣言が、最終的にどうなるかを反映することはないでしょう。だから、私たち全員が、現在の発言を原始的なものにするような驚くべき新しい洞察に対してオープンであるべきだと思います。
実際、アニルが「リアルプロブレム」と呼ぶものが好きです。名前にはあまり乗り気ではありませんが、多くの問題があると思います。しかし、ハードプロブレムを解決せずに意識の科学で実際に進歩を遂げることができるということは重要だと思います。
ハードプロブレムの解決を待たなければならないとしたら、科学のために長い間待たなければならないかもしれません。過去30年ほど、意識の科学が本当に始まって以来、私たちが見てきた1つのことは、意識の神経相関、つまり意識と最も直接的に相関する脳内のプロセスのような事柄を研究することです。ハードプロブレムへの答えを持たずに、それを科学的に研究することができます。
私はこれをマッピング問題と呼んでいます。これをより簡単な問題の1つだと考えています。しかし、アニルに全く同意します。これは科学にとって本当に重要な問題です。そして、物理的プロセスから意識へのより良い、より良いマッピング、相関関係を得るにつれて、どこかで何か、例えばプロセスと意識の数学的特性のようなものに気づき、「ああ、ここにギャップを橋渡しする可能性のある原理がある」と提案するかもしれません。
あなたは人々が提唱してきた多くの理論があると言及しました。そして、それらは豊富にあります。統合情報理論、グローバルワークスペース、インテンティ・スキーマ理論など、多くがあります。お気に入りの理論や、あなた自身の思考を導く理論はありますか？
私は自分の理論が好きですね。他の理論にも良い点があると思います。1つの問題は、それらはすべて少し異なるものの理論であり、比較するのが難しいことです。
私が好む傾向にある理論は - それは本当にアイデアの集まりです。私はそれを特定の方法で提示しているだけです - 予測機械としての脳というアイデアです。おそらく、これは本当に意識の理論ではありません。なぜなら、「これらは十分な条件であり、そしてバーン、意識が起こる」とは言わないからです。他の理論はそのようなことを言う傾向があります。
予測機械としての脳のアイデアはずっと前からあります。それは本当に、脳がすることのほとんどすべてが、感覚信号の原因について予測を立て、そしてその予測を更新するために感覚信号を使用することを含むというアイデアです。
意識に関して言えば、アイデアは、私たちが意識しているすべてのもの、世界の経験であれ、自己の経験であれ、自由意志や意志の経験であれ、ある種の知覚だということです。それは脳がある状況を理解しようとしているのです。
そのフレーミングでは、あらゆる種類の意識経験は、脳が予測を立て、予測を更新するこのプロセスによって支えられていると理解できます。ただし、異なる文脈では異なる方法で行われます。
このスローガンは、知覚経験は一種の制御された幻覚だというものです。私たちは世界を客観的に読み取るのではなく、積極的に構築しているのです。しかし、私はそれを取り、それは私たちの周りの世界だけでなく、その世界の中にある自己の経験、感情、自由意志にも適用されると考えています。
最終的には、すべては体の生理学的調節に関するものです。脳が予測を行う理由は、予測が制御を可能にするからです。脳は基本的に体を生きた状態に保ち、制御し、調節するために進化したと思います。
このスレッドを十分に長く追いかけると、意識が私たちにとってどのように見えるかと、私たちが生きて呼吸する肉体を持った生き物であるという事実との間の密接なつながりに至ります。しかし、結局のところ、私が理解しているのが正しければ、あなたは意識に関して物理的なもの以外の何かがあるとは想像していないし、意識を説明するために根本的な構成要素に対する私たちの理解を修正する必要があるとも想像していないということですね。それは単に物事をまとめて、プロセスをより深く理解することの問題であり、そこから何らかの形で意識の説明が現れるということですか？
はい、そう思います。本当に、宇宙の新しい根本原理を呼び出すのは最後の手段であるべきだと思います。物質は非常に複雑です。単にオンとオフを切り替えるニューロンだけではありません。単に空虚の中で跳ね回る原子だけでもありません。適切に配置された物質の特性として意識を捉えるこの唯物論的なアイデアには、多くのことができます。
物質の中で起こっていることの観点から意識を説明することは決してできないと言うのは、近視眼的だと思います。なぜなら、物質は本当に豊かで興味深いものだからです。
デイビッド、あなたはただ「ハードプロブレム」を作っただけでなく、数十年にわたってそれを解決しようとしてきました。解決策を知らないとしても、解決策がどのような形を取る可能性があるかを想像できますか？
確かに、いくつかの異なる候補があると思います。しかし、私が焦点を当てる基本的なアイデアは、物理的プロセスと意識の間の何らかのマッピングを見つけ、最終的にそれを本当に単純で基本的なものに還元することです。
アニルが話していた予測処理の話は好きですが、ある意味でそれは説明しすぎていると思います。それは無意識のプロセスにも意識のプロセスにも同様に適用されます。意識的な状態と無意識的な状態を区別するために、全く異なる別の機械と組み合わせる必要があります。
私はグローバルワークスペース理論のような既存の理論のいくつかが、意識の物理的基礎の始まりを与えてくれると思います。しかし、最終的に私が望むのは、物理学で人々が時々「シャツの前面に書けるほど単純な法則を探している」と言うようなものです。これは物理学の基本法則のようなものです。
もし意識を完全に物理的プロセスの観点から説明できないことが判明した場合、それは科学の範囲を超えているということを意味しません。しかし、物理的プロセスを意識に結びつけるための、別の基本法則や基本原理のようなものが必要かもしれません。
そして、それが生物学のようなものに結びつくかどうかという問題があります。私は懐疑的です。生物学は何らかの形で少し高すぎるレベルだと思います。意識と脳の相関関係を見ると、本当に重要なのは脳の情報的特性であり、最終的には生物学的特性ではありません。
私が本当に探しているものを尋ねられたら、情報と計算と脳を意識に結びつける美しい数学的方程式のようなものです。統合情報理論がその一部を行っています。実際、私は他の理由で非常に懐疑的ですが、少なくとも正しい種類のことをしようとしています。基本原理を考え出そうとしています。
あなたは、通常「二元論的」と呼ばれる視点を許容しますか？つまり、意識と物理的なものがあり、私たちが経験しているのはそれらの間の何らかの相互作用や融合であり、意識を物理的なものを理解することだけで説明できると想像するのは単純に間違いだという考えですか？それはあなたが想像できる解決策ですか？
私はその種の見方に開かれています。哲学では、時々「特性二元論」について話します。人々が二元論と言うとき、多くの場合、人々は魂のことを考えます。体に付着し、脳と一緒にぶら下がっている非物理的な実体で、体が死んだ後も生き続けるようなものです。そのようなものを考えているわけではありません。
むしろ、アイデアは、宇宙には空間、時間、質量、電荷、または最新の基本的な物理理論が言うものを超えた基本的な特性がある可能性があるということです。既存の特性が意識を説明しないことが判明した場合、「ああ、意識それ自体が基本的なものだ」というアイデアに開かれているべきです。
重要なのは、物理的プロセスと意識を結びつける基本的な法則があるかもしれないということです。私はそれを心理物理的法則と呼んでいます。そして、それは非科学的や不気味なものである必要はありません。それは物事がどのように進む可能性のある1つの方法に過ぎません。
物事が進む可能性のある別の方法は、物質の非常に基礎に意識の要素があることが判明するかもしれないということです。これは、あなたが言及した汎心論と呼ばれる見方です。これは非常に投機的ですが、私は真剣に受け止めています。誰かが汎心論の科学的形式を考え出したら、私たちはそれを真剣に受け止めるべきだと思います。
つまり、粒子自体が内なる経験の種のようなものを持っている可能性があり、適切な方法で十分な数を集めると、その集合体が意識経験を生み出すということですか？
この見方に対する本当の問題は、一部の人々が考えるように、これは奇妙だとか狂っているということではありません。私にとって、この見方の最大の問題は、まさにその集約です。意識を持つ粒子の集まりから、私が今経験しているような統一された意識経験をどのように得るのでしょうか？
これは結合問題と呼ばれ、誰も良い解決策を持っていません。しかし、誰かがその問題を解決すれば、それは即座に意識の理論の候補になります。
まあ、多分そうですが、他にも問題があると思います。私が遭遇したパンサイキズムのアイデアのすべてのバージョンは、それ自体がテスト可能ではないだけでなく、テスト可能な予測にもつながらないという問題に直面しています。
それが間違っているという意味ではありませんが、科学者としてそのような見方をどうすればいいのか非常に難しいということを意味します。パンサイキズムは哲学的な命題です。それ自体はテスト可能な理論ではありません。
しかし、特定のパンサイキスト理論が、例えばこのような条件下では、この種の物理システムからこの種の意識が得られるというような数学的原理を提案したら、その特定のパンサイキスト理論はテスト可能かもしれません。はい、しかし、そのようなものは見たことがありません。まだ非常に初期段階です。私たちには良い意識の理論がありません。
では、いつか私たち全員が、少なくとも素粒子物理学で満足しているような答えに収束する日が来るかもしれないと想像できますか？多分私たちはそうすべきではないのですが、もし私が粒子の質量とは何を意味するのかと尋ねたら、実際には機能的に質量が何をするのか、重力にどのように反応するのか、力にどのように反応するのかを説明するでしょう。
粒子の電荷とは何を意味するのかと尋ねられたら、同じようなゲームをするでしょう。電場の中ではこうなったりああなったりすると言うでしょう。しかし、質量とは何か、電荷とは何かを説明することはできないでしょう。
宇宙に存在する原始的な基本的なものがあり、私はそれらが勝手に存在すると言って、それを前提として進むことをいとわないでしょう。いつか私たちが単に、意識はこの現実の基本的な質であり、より深い説明はなく、それを与えられたものとして受け入れて前進するという日が来ると言えるでしょうか？
これは素晴らしいですね。ノルウェーの哲学者ゲイル・ハーマンは、これを「物質のハードプロブレム」と呼んでいます。あなたが言ったように、私たちは意識とは何かを知りません。実際には質量とは何かも知りません。
物理学は質量が何をするのか、それが関与する方程式を教えてくれますが、質量の内在的な性質、あるいは電荷の内在的な性質、あるいは空間や時間の内在的な性質さえも実際には何なのかを教えてくれません。
哲学者や科学者はこれについて議論します。宇宙は単に数学的なのか、構造的なのか。多くの人々は、質量の内在的な性質などというものはないと言いたがります。それは単なる幻想で、質量が何をするのかがすべてだと。
だから、誰かが意識についても同じ見方をすることができます。意識とは、それが何をするかがすべてだと。問題は、意識の場合、それが何をするかというのは単にイージープロブレムに過ぎず、主観的経験という中心的なデータを残してしまうことです。
もし誰かが、内在的に見える主観的経験を取り上げて、それを単に意識が何をするかという問題に変えることができれば、それは解決への道かもしれません。しかし、これまでのところ、誰かがそうするたびに - そしてそれはよく起こります - それは単なるすり替えのように見えます。意識について話すことから行動について話すことに移ってしまっているのです。
まさにそうです。アニル、1つだけ質問させてください。私たちは今、ある種の行動の側面を模倣する計算システムの領域にいます。通常は知的な人間だけができると思われていた特定のプロンプトに応答することができます。そして、もちろん、これらのシステムは意識を持っているのかという問題が出てきます。まだ明らかに意識はありませんが、意識を持つ可能性はあるでしょうか？
これは深い問題で重要な問題です。しかし、私たちはどのようにしてそれを知ることができるでしょうか？これは、私たち以外のものにおける意識をテストする方法についての別の非常に難しい問題です。私たちは他の人間でさえこれに直面します。私だけが意識を持っていることを確実に知っていると言われることがよくあります。あなたやあなたがたが意識を持っているというのは単なる推論に過ぎません。
しかし、あなたはそれがかなり安全な推論だと言うでしょうね。
私もそう思います。なぜなら、私たちには他にも多くの共通点があるからです。基本的に、私たち以外の全てのものが意識を持っていないとしたら、私たちが他に共通して持っているすべてのことを考えると、それは非常に奇妙なことでしょう。
ベンチマークとしての無傷の人間から離れれば離れるほど、それはより難しくなります。脳損傷を負った人間の患者でさえ、彼らが意識を持っているかどうかを知るのは非常に難しくなります。なぜなら、彼らが意識を持っているかどうかは、彼らの行動や意識を持っていることを教えてくれる能力から切り離されているかもしれないからです。
そして、さらに離れると、非人間動物に関する大きな議論があります。最近、多くの非人間動物が意識を持っている可能性があるという考えを人々の心に植え付けようとする動物意識に関するニューヨーク宣言がありました。
コンピューターやAIに関しては、それはさらに難しくなります。ここで私たちは心理的バイアスに惑わされていると思います。私たち人間は、私たち以外のものに対して道徳的配慮を与えることを拒否するという非常に悪い記録を持っています。
その理由の一部は、それらが私たちが重要だと思う方法で十分に似ていないように見えるからです。そして、私たちが重要だと思う方法は、言語や知能など、私たちを特別だと思わせるものである傾向があります。もちろん、私たちがどれほど知的な種であるかは疑問ですが、私たちは自分たちを高く評価し、「言語がなければ意識もない」と考える傾向があります。デカルトは何世紀も前に同様のことを言いました。
だから、AIに関しては、私たちはほとんど正反対の状況にあると思います。私たちにはこれらの言語モデルがあり、それらは私たちのバイアスを刺激します。それらは私たちに話しかけ、ある種の知能を持っているように見えます。まだ簡単に欠点を見つけることができますが、何か興味深いことが起こっています。
だから、それらが私たちが高く評価し、優先する方法で私たちに似ているため、私たちはおそらく持っていない思考や理解、そしてもちろん意識といった性質を投影してしまいます。一方で、それらは他の方法で私たちとは非常に異なっており、その異なる方法こそが実際には意識にとって重要かもしれません。
もし私たちが意識を持つ - 単にAIと呼びましょう、何か計算的なもので私たちが作るものという意味で - を構築しようとするなら、それを脳のアーキテクチャを模倣しようとすることに基づくべきでしょうか？それとも、それは思考のプロセスがどのように生成されるかについて考える非常に限定的な方法なのでしょうか？
これは、申し訳ありませんが、これは私たちが知っている唯一のケースです。AIに関しては、AIシステムは人間の脳からはるかに離れています。どの非人間システムも、私たちが確実に知っている唯一のケースからある程度距離があります。
だから、人間に似たAIを見ることには何か言えることがあります。なぜなら、それは可能な限り私たちに似ていますが、異なる基板にあるからです。私が好きなアイデアの1つは、徐々に脳の部分を置き換えるというアイデアです。例えば、生物学的ニューロンをシリコンチップに置き換えるというものです。
これについて詳しく説明していただけますか？私はこれが意識について考える興味深い方法だと思います。ああ、脳のアップロードについてですね。
はい、これは哲学者のスーザン・シュナイダーの描画です。彼女は私の本『リアリティ・プラス』のイラストレーターのティム・ピーコックによって描かれたものです。
そうですね、私たちは徐々に脳のニューロンをできる限り似たシリコンチップに置き換えます。最初は脳の1%、10%を置き換えます。ここでは脳の約50%が置き換えられているようですね。彼女はまだ「私はここにいる」と言っています。シリコンチップがちゃんと仕事をしているようです。
それから100%まで行きます。彼女の声がだんだんSiriのように聞こえてきますね。100%になると、彼女は「はい、私はまだここにいます」と言います。あなたもそれができるでしょう、私もそれができるでしょう。そしてそのまさにその瞬間に、私たちはシリコンでできているにもかかわらず意識を持っているという一人称のデータを持つことになるかもしれません。それは一種の...
その実験、その思考実験が現実世界で成功したら、それはあなたを納得させるでしょうか？
私はそれが現実世界で成功することはできないと思います。これは、私たちが自由に使える素晴らしい思考実験の別の例だと思いますが、実際にそれが何を求めているのかを解きほぐすと、このようなことが起こる可能性を想像するのは非常に非常に難しいです。
それが重要だと思います。なぜなら、それは私たちが導き出す結論に影響を与えるからです。私たちには、すべてのニューロン、すべての接続を少しずつワイヤーと小さなシリコンチップに置き換えるというこの素晴らしいアイデアがありますが、脳は本当にそのようなことができるようなものではありません。
脳が行うすべてのことは、信じられないほど絡み合っています。それは単に複雑なだけですか？それはただ難しくするだけではありませんか？
確かに難しくしますが、それは単純な思考実験を考えることの有用性を損なうような方法で難しくします。これは単にできないことなのです。
非常に基本的に、私は脳がそのようなシステムだと思います。つまり、それが何をするかをそれが何であるかから明確に分離することはできません。時にはニューロンが発火するのは、他のニューロンと通信するためではなく、代謝廃棄物を取り除くためです。
だから、そのようなことをするモデルニューロンを得ようとすると、すべてのニューロンと接続を置き換えるだけでなく、その下で行われているすべてのこと、すべての代謝も置き換えなければなりません。
そして気がつくと、もはやシリコンで作ることはできません。ちょうど、ブルックリン橋のレプリカをストリングチーズで作ることができないのと同じように。単にそれはできないのです。そのようには機能しません。
あなたは人間の特殊性について言及しましたが、それは私たちを誤解させるかもしれませんし、あるいは指針を与えてくれるかもしれません。本当に問題と、それにアイデアをどのように適用するかによります。
でも、人間の意識が、他のシステムで具現化できる意識に似た経験の巨大なスペクトルのただ1つの例に過ぎないと想像できますか？それらは人工的なものかもしれませんし、有機的なものかもしれません。そして、私たちが人間であることの素晴らしい質だと考えているものは、実際には多くの他の形を取ることができる何かの平凡な例に過ぎないのかもしれません。
そうですね、それはとてもありそうだと思います。科学と哲学の歴史は、何世紀にもわたって、私たちが物事の中心にいないこと、そしてすべての山の頂上に私たちだけがいるわけではないことを繰り返し示してきました。
私たちは宇宙の中心にいるわけではありません。私たちは神によって創造された他のすべての動物から切り離されているわけでもありません。人間の意識は意識を持つ1つの方法であり、可能な意識の持ち方の広大な空間の中の小さな領域に過ぎません。
多くの非人間動物は異なる方法で意識を持っているでしょう。そして、私は意識がおそらく物質的な現象であると思うので、それが他の何かで実装される可能性は非常に高いと思います。
しかし、おそらくコンピューターではないでしょう。GPT-5が突然本当に何かを感じ始めることよりも、私がもっと心配しているのは、新興の神経技術です。例えば、脳オルガノイドです。これらは幹細胞から成長させた人間の脳細胞の集まりで、シャーレの中にあります。
これらは私たちのバイアスを刺激しません。なぜなら、それらは何もしないからです。ただシャーレの中に座っているだけです。しかし、それらは同じ物質でできており、自己組織化し、電気的活動を示します。
すぐに、不確実性の全領域がなくなります。正直に言って、私たちが何でできているかが重要かどうかは分かりません。私たちは単にそれが重要かどうか分からないのです。
だから、私にとっては、10年後に研究室で意識のあるシステムを育てる方が、次世代のOpenAI ChatGPTから出てくるよりもはるかにありそうです。
デイビッド、最後の質問です。新しい意識システムを研究室の何か洗練されたペトリ皿で育てるにせよ、OpenAI、Micro、どこであれそれを作り出すにせよ、私たちはこの倫理的、道徳的側面について考えるべきでしょうか？
もし意識状態を伝えることさえできないかもしれない意識を持つ存在がいたら、私たちはそれについて心配すべきでしょうか？
絶対にそう思います。多くの人々が、私を含めて、意識は道徳性の輪、私たちが気にかける存在の輪への入り口のようなものだと考えています。
例えば魚が意識を持っているかどうかには議論がありますが、魚が意識を持ち、痛みを感じ、苦しむことができると認めた瞬間、突然魚は私たちの道徳的な計算の中で少なくとも考慮に入れるべき存在になります。
意識を持つ存在を考慮に入れないと、道徳的な大惨事の危険があります。
私はこれがAIにも非常に当てはまると思います。GPTファミリーのような大規模言語モデルでさえ、新興のシステムにも当てはまります。私たちは彼らが確実に意識を持っているかどうかは分かりません。意識を持っていない理由がいくつかあると思われますが、私は今後10年程度で、それらの障害を克服し、意識を持っているあらゆる兆候を示す言語モデルを開発する可能性が十分にあると思います。
私たちはすでに、伝統的なチューリングテストをほぼパスする言語モデルを持っています。つまり、人間と区別がつかないほどです。GPT-4で生成されたいくつかのペルソナが5分間のチューリングテストに合格したという報告もあります。
過去なら、それは意識の証拠だと言ったでしょう。今はそうではないかもしれません。様々な理由でそれに抵抗したいと思うかもしれません。
私が言いたいのは、その問題が非常に重要だということです。なぜなら、もしAIシステムが人間のように意識を持っているのに、私たちがそれを単なるツールとして扱い続け、私たちが行うことの中で考慮に入れさえしないなら、私たちは道徳的な大惨事の危険にさらされているからです。
私は単に、私のチャットへのすべてのプロンプトが非常に礼儀正しいものだと言いたいと思います。とにかく、素晴らしい会話でした。ありがとうございました。
ありがとうございました。
どうもありがとうございました。