読書メモ『クオリアと人工意識』

2020年7月21日、茂木健一郎氏の『クオリアと人工意識』を読了した。読書中に気になってメモしたポイントを以下に記載するが、消化できなかった部分は繰り返し読み、自分なりに理解した文章になっていることに留意されたい。【】内は物理書籍版のページ数である。

第一章　人工知能と人工意識

【018】
人間は、他の生物に比べて「賢い」のだと自己認識しているわけである。しかし、「賢い」という属性が人間の専売特許である時代が、あとどれくらい続くだろうか

【021】
ゲームというアプローチには普遍性がある。もし、ゲームが社会全体に比べて狭く見えるとすれば、それはゲームが狭いのではなく、ゲーム的な発想が広く及んでいない社会の側に問題があるのである。

定式化されたゲームの例
①囚人のジレンマ（Prisoner's dilemma）
自白するかしないかがで囚人の刑期が変わる
②最後通牒（Ultimatum game）
相手に条件を提示し、受け入れられるかで互いの利得が変わる
③タカ派ハト派（Hawk-dove game）
対立した状況で強硬策に出るか、友好的にふるまうか

【026】
人間の思考や行動を観察していると、何が正しいのか、あるいは何が許されているのかというルールが決まっている領域は実は少ない。人間の生活のほとんどの領域は、評価の基準が曖昧であり、だからこそ「常識」（コモンセンス）が問われる。

【027】
人工知能が私たちの日常の中に入ってくるためには、「フレーム問題」（frame problem）として議論されてきた「常識」に関する諸問題を解決する必要がある。例えば、人工知能に「お昼にあのお店のサンドウィッチを買ってきてくれ」とオーダーするとする。もし、サンドウィッチが売り切れていたらどうするか。途中で大雨が降ってきたらどうするか。時々刻々と変わる現実的な状況に対処するためには、その時々で適切な「フレーム」でものごとを考えて、行動していかなければならない。

【031】
「イロレーティング」（Elo rating）は、対戦ゲームにおける強さを示す指標である。人工知能「アルファゼロ」は、立ち上がりから数時間のトレーニングでそれまで最強とされていた「ストックフィッシュ」よりも高いイロレーティングを実現した。

【035】
そもそも、「私」が「私」であるということの証は、「私」が賢いこと、知性を持っていることによるのではなく、ただ「私」が「今、ここ」に意識を持った存在として在ることに求められる。そのような意味で意識と知性はとりあえずは分離可能であるはずだ。

【037】
私たちは、人間の意識について、次のような直観を持っている。すなわち、「私」という人間は、意識を持った存在としてこの宇宙の歴史の中でたった一度だけ生まれる。そして、「私」という存在がやがて死んでなくなってしまえば、「私」という意識は、二度と戻ってこないという考え方である。

【041】
数理物理学者ロジャー・ペンローズ（Roger Penrose）は、知性、とりわけ「理解」（understanding）の本質は意識にこそあると主張する。

【042】
知性と意識の関係を考えることは、結局、部分と全体、システムの本質を考えることにつながる。

【044】
クオリアに関するメタ認知は、論理的に説明されたからといってわかるものではない。クオリアのメタ認知は、自分自身の意識のあり方についての洞察として、積み重なっていくものである。

第二章　知性とは何か

【054】
もともと、人間の「天才」を評価するときにIQの高さだけを持ち出すのは限界がある。歴史に残る天才、例えばシェークスピアやゲーテ、ニュートンやアインシュタインの知性の高さをIQで議論することはしばしばあるが、それは一つの悪あがきのようなものであって、本当は質的に断絶していることを私たちは直覚している。

【056】
多重知性理論（multiple intelligence theory）や感情的知性（Emotional Intelligence）はスピアマンの一般知性（general intelligence）、g因子の重要性を超えるものではないと考えられる。

【058】
集中力は、目の前の課題を説くという意味では適応的であるが、生物としての全体的な文脈を考えると必ずしも最適ではない。

【063】
もし、生命の本質がバランスの中にあるとするならば、人工知能の突破力は、バランスを顧慮しないことの中にある。その意味では、人工知能の尖り方は、その核心において「反生命的」である。

【065】
抽象的な概念は、さらに深い層で処理、生成される。例えば、「幸福」は、もっともとらえるのが難しい概念の一つである。

【066】
アメリカの言語学者のエドワード・サピアとベンジャミン・ウォーフが提唱したサピア=ウォーフの仮説によれば、どのような言語を用いるかということが、抽象的な思考の内容をも決定する。

【069】
将来、人間には理解できない「概念」で動作する人工知能が出てくるかもしれない。それでは危険であるから、「説明可能な人工知能」（explainable AI, XAI）の研究も行われ始めている。

人工知能をブラックボックスにしてしまうのではなくて、解釈可能なものにしようというのである。いかに解釈可能にできるかを問うのが、「解釈可能性問題」（interpretability problem）である。

【070】
「敵対的生成ネットワーク」は、紛らわしい刺激を生成し続ける生成ネットワークと、それをなんとか識別しようとする識別ネットワークの間の「軍拡競争」のような構造になっている。

【072】
意識を生み出す上でも、それを導く構造は何なのかということが本質的だと考えられる。脳のアーキテクチャは一つの「解」ではあるが、それが唯一の「解」であるとは限らない。

【073】
ある課題がある時に、その正答率を敢えて「100%」にしないで「80%程度」に抑えることの意味は、そうすることによって、予想外のこと、文脈から外れたことに対しても適応する余地を持つことができるからである。

【074】
AI効果と呼ばれる、人間の認知上のバイアスがある。すなわち、かつては人間に特有の認知、知性の現れと思われていたものが、人工知能がそれを実現したとたんに「これはそもそも知性ではない」と除外されてしまう傾向である。例えば、計算能力や記憶能力が知性の本質ではないというのが常識となるようなことである。

【077】
「汎用人工知能」における「汎用」とは、十分な計算資源と時間を割り当てさえすれば、どのような計算をすることも可能であるという、「潜在性」ないしは「可能性」における「汎用」でしかない。

【078】
知性がある一定時間にできることは限られている。だからこそ、知性の本質は、顕在化した具体的計算能力よりも、むしろ、どのような環境にも適応できる変化の能力に見られる。脳の神経回路網で言えば「可塑性」（plasticity）と呼ばれる性質である。

【078】
もともと、人間の知性は、新しいものを好む傾向、すなわち「ネオフィリア」（neophile）と深く結びついている。ネオフィリアが向かう先は、知の「無限」である。知性の本質として、無限との向き合いがある。

【080】
今、自分が知っていることではなく、その「外」の存在を認知し、予感すること。それは、意識の働きのうち、「志向性」（intentionality）の機能である。

【081】
たとえ、すでに高い巨人の肩があったとしても、それで充足せずに、さらに「遠くまで見る」ことを志向する。このような徹底的なオープンエンド性にこそ、人間の知性の本質はある。

【084】
知性の可能世界全体を見ることによって、その中での人間の立ち位置も明確化されるだろう。

第三章　意識とは何か

【090】
今のところ、麻酔薬の作用については、「このようにすると意識の状態をコントロールできる」という経験則しか知られていないと言ってよい。

【091】
人によって意識についての「メタ認知」が異なる。

【093】
私の意識はどのような性質を持っているのか。そこで区別されるさまざまな要素とは何か。そのような「解釈」や「意味づけ」は、私たちの認知の性質として、あるいは、神経細胞のような「ネットワーク」に内在する属性として、積み重なっていく。その状況が人によって違う。

【094】
意識の定義で合意を取ろうとすることは、異なる身体性を不用意に公共空間で結びつけようとする試みに似ている。身体性の相違は、論理では簡単に超えられないのだ。

【099】
「representation」と「Vorstellung」。この二つの言葉の間には、ニュアンス上の重大な違いがある。

【100】
意識についての議論を行う時に、私たちはどうしても、英語の「representation」の意味で問題を考えがちである。すなわち、外界に「もの」があることを前提にして、その「もの」を脳がどのように「再び」（re）「表現する」（presentation）かという視点から、意識を考える癖がついている。

【101】
現代の意識研究は、もちろん、科学主義に立脚していて、その意味では英米の分析哲学との相性がよいが、より根源的で「底が抜けた」世界からの立ち上げを目指す大陸系の哲学もまた必要とされている。

【103】
そもそも、意識は、なぜあるのだろうか。さまざまな説明が可能だが、意識の本質であるクオリアには、脳というシステムの中で、ある情報の自己同一性（identity）を立ち上げ、それを保証するという役割がある。

【106】
ドイツ語の「表象」（Vorstellung）では、クオリアは自分の「前」に直接「置かれる」。一方、英語の「表象」（representation）では、クオリアはもともとある実体を複雑な計算の結果として「再び」「表現」する。

【108】
認識とは、「ボトムアップ」の感覚的クオリアと「トップダウン」の志向的クオリアがマッチングされるプロセスであると言ってよい。

【112】
つまり、意識は、脳全体の情報処理を、「私」という枠組みの中で統合していくのである。

第四章　知性に意識は必要か

【116】
知性と意識はどのような関係にあるか。ロジャー・ペンローズは、「知性」は「理解」を要求し、「理解」は「覚醒」を要求するという考えを述べている。すなわち、ペンローズは、「知性」は意識の重要な側面である「覚醒」がなければ成立しないと考える。そこで仲立ちをしてるのが「理解」である。

【122】
「望ましい困難」（desirable difficulty）とは、脳の認知プロセスのどこかが阻害されたり、滞ったりすることによって、かえって学習や創造性などの促進が見られるという現象である。

【125】
私たちの日常的経験に即して評価する限り、言語活動は意識を前提にしていると考えてよい。

【128】
言葉のやり取りで人工知能は次第に「合格点」に近づいてきている。問題は、そのような改善は、人工知能があくまでも言語ゾンビのままでも可能だということだろう。

【132】
そもそも、自然言語処理に意味論など必要ないとうそぶくその話者は、自分の言っている言葉の意味がわからないままにしゃべっているとでも言うのだろうか。その研究者に必要なのは、自分の意識体験をありのままにメタ認知する誠実さなのではないか。

【137】
「右前方のあのあたり」という「指し示し」の属性は、あたかもその指し示された「先」にあるように感じられるけれども、実際にはその「指し示し」の構造をつくっているのは、指し示しの「元」となっている「私」の意識、すなわち、「今、ここ」にある。そのような、「指し示し」の志向性の属性が「元」に宿るような構造を、「志向的スタンス」と呼ぶ。このような性質は、空間的志向性について一般的に言える。言葉の意味についても、同じようなことが言えて、抽象的な意味空間での、ある「対象」を指し示す。

【139】
もし「意味」の空間を考えることができるとしたら、それは当然物理的な空間よりも次元が大きいだろう。また、その空間は、次元が大きいだけでなく、もっと複雑な構造をしているのかもしれない。ここで一つの仮説が立ち上がってくる。志向性は空間の中である場所を指し示すことを前提とする。それならば、言葉の意味もまた、それが指し示されるような記憶の「空間」が用意されていれば、空間的な志向性の拡張として扱えるということになる。果たして、言葉の意味は、物理的な空間を一般化した「意味」の空間によって定式化できるのだろうか？もしこの仮説が正しければ、言葉の「意味」が志向性によって与えられる前提として、脳の中の「記憶」が、拡張された「意味空間」の中に整理、収納されていることが必要となってくる。

【147】
「ウィノグラード・スキーマ・チャレンジ」が巧みなのは、ビッグデータには帰着できないような、文章のローカルで固有な「意味」の理解自体を問うからである。

例題1：「トロフィーは茶色のスーツケースには入らない。なぜならばそれが大きすぎるからだ」大きすぎるものは何か？
答0 : トロフィー
答1 : スーツケース

例題2：「ジョーンはスーザンに対して、彼女が与えてくれた助力すべてへの感謝を伝えることを忘れなかった」助けを与えた人は誰か？
答0 : ジョーン
答1 : スーザン

【148】
果たして、「知性」に「意識」は必要ないのか。言葉の「意味」に直接言及しなくても、自然言語処理はできるのか。私たち人間は、言語的には「言語ゾンビ」と等価なのだろうか。この問題をさらに考えるためには、私たちの「意識」にとって、そもそも「知性」はどんな存在なのかという根本に立ち返って考えてみなければならない。

第五章　意識に知性は必要か

【151】
メンバーの社会的感受性（social sensitivity）、すなわち、お互いの気持ちを感知する能力の方がチームのパフォーマンスを上げる。知性の資源性は限定した意味しかなく、生命にとってはむしろインフラとしての「感情」が重要なのだ。

【157】
意識は明らかに「生命現象」である。意識は、おそらくは生命に広範に付随する現象である。その意味で、意識の科学は生物科学の一部分でなければならない。もちろん、意識がいわゆる「生命現象」にだけ付随するのかどうかは未知ではある。大切なのは、生命において普遍的に起こっている事象を、まずは定性的にとらえることであろう。

私たち人間が意識を持っている時の、「いきいき」（vivid）とした感じ、外界からの刺激に対して迅速に反応する様子は、生命現象にとっての「意識」の本質を表している。「いきいき」は、現実の空間と時間の中で、特定の条件を満たした運動である。それは、生命そのものの本質と関わっている。

【161】
抽象化された「計算」概念には、現実の時間、空間という「基盤」がない。

【163】
意識は不自由であると同時に、自由である。身体に縛られていると同時に、身体化の制約から離れているようなクオリアや志向性を持つ。この一見矛盾する状況の中に、意識の本質がある。

【163】
そもそも、意識が進化の過程で果たしている意義は、それを持つことが生存をする上での「適応度」（fitness）を増すということに尽きる。進化生物学、その中でも特に集団遺伝学における「適応度」は、繁殖の成功度、その生態の遺伝子の次の世代の遺伝子プールに対する平均的な寄与でとらえられる。ここでは、そのような狭義の「適応度」と相関を持つ、認知や行動の柔軟さ、適切さを「適応度」と呼んでいる。

【165】
意識を生み出す上では、脳のさまざまな部位の活動が関わっている。それだけ多くの「コスト」がかかる意識が、生存上何の適応的意義もないのに生体系によって維持されているはずがない。

【167】
ここで議論している「いきいき」という言葉や、ベルグソンの「エラン・ヴィタール」という概念は、あくまでも、現実の時空間の中で、注目しているシステムがある特定のふるまいをするという認識に関連してとらえられるべきである。

【168】
「意識」を持つということと、「知性」を持つということは一体ではない。とりわけ、「知性」の現代における標準的なモデルとなっている「計算」の概念は、「意識」と乖離している。

【171】
意識的な行動が習慣化によって無意識的な行動に移行する。知らない外国語を聴いて理解しようとしている時には、脳の広範囲の神経活動が見られる。それに対して、知っている外国語を聴いている時には、限られた範囲の神経細胞しか活動しない。

【172】
慣れ親しんだ行動、情報処理は無意識に移行する。タスクに慣れないうちは、どのような脳内情報処理をすればいいのか、局所の文脈を超えて、脳全体にわたる試行錯誤、検討、学習の必要がある。その際に、意識的プロセスが関与する。なぜならば、意識は、脳のさまざまな部位の活動を統合する働きだからである。

【173】
生命を一匹の魚にたとえるならば、意識は、水の中でどちらの方向に泳ぐかを決めている。そのような意味での「意識」は、人間だけでなく、魚から鳥、アメーバからクラゲまで、時間、空間の中でリアルタイムに「いきいき」とした印象を与えて動くすべての生物に宿ると仮定してもよいだろう。すなわち、意識の役割は、「知性」において、とりわけ、その「方向づけ」を与える点にあると思われる。

【177】
言葉は、単に情報を伝搬する手段ではない。言葉は、人間の生き方そのものに関わる。私たちの発話は全人格を反映していると考えられるからこそ、コミュニケーションにおいて言葉を交わすことの意義がある。覚醒している時の発話に対して及ぼされている意識的コントロールのレベルはさまざまであるが、いずれにせよそれは私たちの生命の大切な局面での重要な「行為」となる。

【181】
発話における意識の働きは、文法があっていることを保証することでも、内容に内部矛盾がないことをチェックすることでもなく、もう少し微妙な全体の方向性の設定、含意の把握のレベルにあることがわかってくる。

【187】
結果として、進化してきたさまざまな感覚的クオリアの「組み合わせ」を通して、私たちは世界の多様性を把握し、表現することができる。

【188】
生命→意識
生命→知性
という流れはあるが、
知性→意識
という流れはない。

【189】
「意識」も「知性」も、「生命」の随伴現象であるというとらえ方は、抽象的な数学的な概念としての「計算」とは別のかたちで、生命的な意味での「計算」を定義し、アプローチする必要を浮き彫りにする。

第六章　統計とクオリア

【193】
クオリアを生み出す意識も、その主体となる「私」も、この宇宙の中にある「自然現象」であることには違いはない。だから、安易に、「客観的」な自然法則と、「主観」の立場の対立、対比の問題だとすることには意味がない。

【195】
因果的還元論には2つの問題がある。
①量子力学の不確定性
②決定論的カオス

【197】
統計や確率といった方法論の起源にさかのぼってその「精神性」を確認しておくことは、このような方法論の可能性およびその限界をつかむ上でも大切なことである。『パンセ』に記述がある有名な「パスカルの賭け」は、神の存在をめぐる不確実性に関する思考である。

【201】
意識は、脳の神経細胞の活動によって直接生み出されている。このような考え方が「直接性の原理」である。直接性の原理は、「今、ここ」の神経活動から、「今、ここ」の意識が生み出されることを記述する。

【202】
神経活動と意識の生成の間の関係が、物理的な「因果法則」のようなかたちでとらえられるのかどうかははっきりしない。そこで、神経活動と意識の間の「相関」を見ようとするのが、「意識と相関のある神経活動」（neural correlate of consciousness, NCC）という考え方である。

【206】
ベイズ推定はNCCとは関係がない。このことを確認しておくことは、意識を理論的に解明したり、将来人工意識をつくろうとする場合に、死活的に重要なポイントになる。

【212】
統計と意識に関する留意すべき点
①ノイズに満ちた神経活動の多様性が「クオリア」に写像されるプロセスは、通常の統計とは異なる未知の統計的原理と関係している可能性がある。
②眠りの前後における「私」が「私」であるという意識の連続性を考える上では、ベイズ推定で記述される認知プロセスが重要となる可能性がある。

第七章　人工知能と神学

【228】
「常識」がない「ペーパークリップ最大化知能」は、とにかくペーパークリップの生産を最大化することしか考えない。それが唯一の評価関数だからである。

【233】
未知のウイルスの他にも、ますます重要性を増しているサイバー空間の中での攻撃や、人やモノの移動の監視、タイミングのよいフェイクニュースの創出による人心の混乱など、現時点では想像もできないようなかたちで自分と敵対する国、地域の社会情勢を破壊する方法が人工知能を用いて考案されるかもしれない。

【236】
人類はいつか絶滅し、その歴史は終わるのかもしれない。このようなものの見方、考え方に、キリスト教の「最後の審判」のような信仰を背景とした西洋社会特有の「終末論」（eschatology）が投影されているのかどうかということは興味深い問題である。そこには人工知能の「神学」が見え隠れする。

【237】
ユドコフスキーが提案している「統合外挿意思」（Coherent Extrapolated Volition, CEV）は、世界が巨大かつ複雑で、私たち人間一人ひとりの脳では扱いきれないものになってしまっている時代に、いかにそれを乗り越えるかという工夫であり、提案である。

【240】
もっとも、原理的な難問も存在している。もしCEVを用いて、人類全体として最適な選択肢を定義できたとしても、それはやはり一つの行動に過ぎない。ある行動を選ぶということは、それ以外の可能性を排除することを意味する。

【246】
新たな人間のあり方についての概念
①ポストヒューマニズム
既存の人間のあり方、人間の築き上げてきた文化、文明を根底から問い直し、その後（ポスト）の新しい価値観を志向する。
②トランスヒューマニズム
人間の意識を含めた存在を生物的身体から機械的身体に移行（トランス）することで寿命を延ばしたり、永遠の命を得ようとする。

【250】
広義の宗教とは、つまりは人間が生きることの意味や、この世界のあり方、さまざまな価値観を整理、統合しようとする試みである。その意味では、宗教は、「意識」の最も本質的な働きの一つであると言ってもよい。

【251】
人工意識の成否は、単に私たちの主観性の複製をつくるというだけにはとどまらない。人工意識は、もし実現すれば人類の価値観全体を揺るがすとともに、多様な知識、スキル、世界観、価値観の統合作用のメカニズムを提供することで、ユドコフスキーの言う「統合外挿意思」のメカニズムを与え、結果として人類の社会全体の安定性、人類の持続可能性にも貢献する可能性があるのだ。

第八章　自由意志の幻想と身体性

【257】
「自由意志」に基づいて、生きる上で有益な選択することができるならば、そのような生物は自由意志を持たない生物と比較して進化の過程で優位になる。逆に、どれだけ豊かなクオリアに満ちた意識が生まれていたとしても、その結果として自由かつ柔軟に自分の行為を選択し、遂行できなければ、生存上の利益はない。

【262】
自由意志を意識の中核においてとらえることは、とかく「主観」や「自意識」などに偏りがちな意識に関する議論を、より現実的で、物理的、客観的にとらえられる側面へとつなげてバランスを回復する上で大きな意味がある。

意識の現象学に沿って考えれば、「私」が世界にいることだけは疑えないが、他のすべては仮説に過ぎない。このような立場から、いわゆる「独我論」（solipsism）の哲学を展開する論者もいる。

独我論を含めた「自己意識」をめぐる議論は重要だが、科学的アプローチ、とりわけ生物学や進化論の見地に接続する上で重要なのは、意識の下での「行動」である。

【267】
「トロッコ問題」のような倫理判断においては、人間の「身体性」が重要な役割を果たしている。身体そのものや、その運動といった「身体性」に関わる脳の回路が、トロッコ問題における判断を変える。

人間の倫理判断には身体性が深く関わっている。このことは、自らの未来を自ら選ぶ「自由意志」の成り立ちを考える上で、重大な意味を持つ。

【270】
自動運転における「評価関数」をどのように考えるかはそんなに簡単ではない。もっとはっきり言えば、正解のない難問である。事故が避けられない状況で、いかにコントロールしながら衝突するかという研究も提案されている。

【273】
人間の選択が、その背後にある「評価関数」を明示しないかたちで、いわば「直観」として行われていること、基準が明確化されてしまうと、本人にとっても、人間関係においても多くの場合に壊滅的にマイナスな影響が及ぶことの中に、意識の成り立ちや人間のあり方を考える上で重大な「ヒント」がある。

【277】
「マインドフルネス」に基づく選択や判断において、典型的には、何かをしようとする選択肢は、意識ではなく無意識が用意する。その際、どのような価値基準、評価関数でその選択肢が用意されたのかという詳細は、「身体性」の一般原理によって、意識は必ずしも把握しない。

【278】
意識は、重大な倫理的判断、行動における一つの「安定化装置」として働いている。体験、価値観、ビジョンなどさまざまな情報を脳内で統合するときに、意識が本質的な役割を果たす。

意識の持つ「統合された並列性」がもっとも先鋭的に表れるのが、倫理的な判断である。なぜなら、倫理的な判断には、「痛み」が伴う場合があり、「生きる」上での判断の質を上げるために、その人の人格に関わる、さまざまな要素が関与してこなければならないからである。

人格に関わるような情報処理は、その習慣化、モジュール化が困難な側面がある。なぜなら、人間が「人格」を通して向き合う状況、課題が多くの場合非典型的であり、人生で一回しか出会わないような、「一回性」（onceness）の領域に属するからである。

【282】
自分が「自由意志」を持っていると感じられるということが、その人の「脳」が「健康」であることの一つの証拠になる。

【284】
脳を含む世界が因果的に決定されているということと、私たちが自由意志という「幻想」を持つことは両立する。

【285】
「自由意志」という「幻想」が、その人の行動を支えている。

第九章　「私」の「自己意識」の連続性

【297】
眠りに落ちる前と目覚めた後の状況が記憶を通して一致しない、あるいはつながらない時に、眠る前の「私」と目覚めた後の「私」が継続しているのかどうか、その確信度が下がることは誰もが経験することである。

【298】
ここで確認しておくべきことは、眠る前の「私」と目覚めた後の「私」が同じ「私」であるという認識は、認知的な領域に属するということである。それは「今、 ここ」で感じられるクオリアのような「知覚」ではなく、より抽象的で、複雑な要因を様々に反映させた「認知」である。つまり「直接性の原理」で感じられることではなく、状況から「推定」されることである。その推論の形式を与えるのがベイズ推定である。

【304】
「身体性」の視点から見れば、「私」が連続していることには何の疑問もさしはさむ余地がないようにも思われる。しかし、実際には、人体を構成する物質は常に入れ替わっている。それでも「私」は「私」と言えるのはなぜか。もし、「私」は同じ「私」であるとするのならば、「私」は物質的同一性で定義されるのではないとしなければならない。

入れ替わってるのに同一である→同じ物質として複製したらどうなるのか→基質独立性という問題につながる

すなわち、脳Aに宿る意識Aと脳αに宿る意識αは同じ「私」なのか？

さらに、コンピュータの中での「シミュレーション」というのはどのように成立しているのかという問題につながっていく。気候変動が再現されたとしても、あくまでコンピュータに写像された結果にすぎず、自然現象という実体とは別である。これは意識についても同様である。

生化学的過程までをも含めて全く同じ脳をつくったとしたらどうなるのか

すなわち、脳Aに宿る意識と脳Aに宿る意識は同じなのか？

【314】
今の私たちのデジタル社会には「複製された情報は同一である」という前提がある。しかし、意識に関して言えば、情報の内容が同一であったとしても、同じ意識とみなすことは必ずしもできない。むしろ、「私」の「意識」の自己同一性は、それが時間の流れの中で続いていくことでしか担保されない。こうして、私たちは再び、睡眠前後での「意識」の同一性、連続性の問題へと戻されることになる。

【319】
「今、ここ」で感じられるのはさまざまな感覚的クオリアであり、過去の記憶は志向的クオリアとして成立する。

【320】
私の意識は、そのような5分前につくられた「私」を、それまでの人生が本当にあって、実際に数十年という時を生きてきた「私」と区別できないということになる。ラッセルの「5分前仮説」を否定することができなくなってしまう。

【322】
記憶自体は、脳がなくても残っていて、脳はそれを引き出すきっかけに過ぎないと。もし、記憶自体を「外套」だとすると、脳は、その外套を引っ掛けておくための壁に打たれた「釘」に過ぎない。

ベルクソンによれば、記憶には2種類ある。
①習慣的な記憶。過去の経験に基づいて、現在において有益な行為に結びつけるために用いられる。
②純粋記憶。過去の経験を「イメージの痕跡」として留め、過去を表現する。

【324】
Change blindnessやInattentional blindnessのように、私たちが時々刻々と感じるクオリアの豊穣は、そのごく一部だけが明示的に認知され、記憶に残る。すなわち、神経細胞のシナプスを通した結合パターンとして定着される。しかし、シナプス結合に痕跡としては残っていなかったとしても、私たちが時々刻々クオリアの豊穣を意識の中で感じていたという「事実」だけは残る。

【326】
「純粋記憶」すなわち現象学的に残存した「事実」には、「5分前仮説」を否定する力があるのではないか。「純粋記憶」の意味は、「記憶」というものを、脳という「空間」に痕跡として残っているものとしてだけでなく、「意識の流れ」が連続する生の時間という軸の上で展開して初めてわかってくるだろう。

第十章　クオリアと人工意識

【346】
人工知能に凌駕されつつあるとは言いながら、長い生物の歴史の中でゆっくりと進化してきた人間の脳は侮れない。実際、人工知能が発達するにつれて、実はもっとも優れている資源は人間の脳であるという見直しが進むかもしれない。

【348】
だからこそ、「クオリア」の科学的究明や、「人工意識」の可能性ということに常に留意しておくことが必要である。それが、私たちの身体性に錨を下ろす唯一の道だからだ。

【349】
クオリアに支えられた人間の情報処理は、「直観」というかたちで現れる。その「直観」は、身体性と深くつながっている。

「クオリア」と「人工意識」を探求の中心に据え続けることは、私たちの努力を、「生命」や「身体性」の現場につなぎ留めるためにどうしても必要なことである。

【353】
今日において「絶滅危惧種」なのは、むしろ人文学の守護者たちの方である。どんなに深淵な哲学も、どれほど画期的な洞察に満ちた講演も、ネット上でやりとりされるテクストや動画といった「コンテンツ」である時代に、人文的価値を説く者たちが、その「情報」の流通のプラットフォームを設計し、実装し、支配する者たちに対抗する術はほとんどない。

【357】
しかし、だからと言って、人工知能に象徴される科学や技術の方向性に流されて、「人間」そのものから私たちが離れていってしまってはならない。人間からの「遠心力」に抗して、人間そのものへの「求心力」を打ち立てなければならない。