クオリアと人工意識 （茂木 健一郎）
（注：本稿は、2021年に初投稿したものの再録です。）
以前、茂木健一郎さんの著作はかなり集中して読んだことがあるのですが、このところちょっと離れていました。
本書は昨今話題の「AI」がテーマになっているとのことなので、久しぶりに手に取ってみました。
人工知能／人工意識についての入門書的な本とのことですが、茂木さんの考察・立論の中から押さえておきたい説明や指摘を覚えとして書き留めておきます。
まずは、「人工知能の最適化」におけるポイントについて。
（p73より引用） 生物では、ハチからチンパンジーまで、ある課題についてトレーニングを受けても、「正答率」は100%には至らず、80%程度にとどまることが多い。・・・
人工知能の研究の過程でも、似たような報告がなされている。・・・
ある課題がある時に、その正答率を敢えて「100%」にしないで、「80%程度」に抑えることの意味は、そうすることによって、予想外のこと、文脈から外れたことに対しても適応する余地を持つことができるからである。 ・・・
もし、正答率を100%にしてしまうと、環境の変化に適応できなかったり、予期せぬ 偶然の幸運に出会う「セレンディビティ」（Serendipity)を逃すことにつながってしまうかもしれない。
ある特定の文脈で100%の正答率を達成するシステムは、かえって「過剰適応」になって、柔軟に多様な状況に適応する「遊び」のようなものを持てなくなる。これは、生命活動全般に普遍的に成り立つ原理であるが、人工知能研究からも似たような結論が出てくるのが興味深い。
次に「意識」について。
本書のタイトルは「人工知能」ではなく「人工意識」です。“意識”が中核テーマなので、議論を始める基本として「意識の定義」を明確にすることは最初に取り掛かることだと思うのですが、その点について茂木さんはこう語ります。
（p90より引用） そもそも、意識 (consciousness)とは何か。 意識について議論をする際に、その「定義」をして欲しいというような要求を受けることがある。しかし、そのような問い、それに基づくやりとりは多くの場合、無益である。「クオリア」(qualia)についても同様である。「クオリアとは、赤の赤らしさ、水の冷たさなど、私たちの意識的感覚を特徴づける質感である」と言えば、それに尽きている。それではわからないという人に言葉をあれこれ変えて言っても無駄である。無益な時間が流れるだけだ。
とのことですが、少々「入門書」の書き方としては乱暴な印象を受けました。
もちろん、
（p107より引用） クオリアと志向性は、それぞれ、意識の持つもっとも基本的な性質である。クオリアが、外界の事物をさまざまな質感を通して表象するのに対して、志向性は、自分の意識が何ものかに向けられている状態を指す。
（p112より引用） 意識は、脳内の情報を「私」という主体の枠組みの中で共有するメカニズムをつくっていると考えられる。
つまり、 意識は、脳全体の情報処理を、「私」という枠組みの中で統合していくのである。
（p279より引用） 意識は、ある選択をする際にそれぞれの選択肢を導いた「評価関数」の詳細を参照せず、むしろそのような個々の「事情」や「理屈」を超えた、「全体」を見渡して最終的な判断をする。そのことによって、選択が安定する。このような「統合された並列性」に基づく安定化メカニズムが、意識の重要な役割の一つである。
といったように、このあとあれこれと「意識の性質」や「意識の機能」については解説していますが、これもなかなか難解で私の頭では追いついていけません。
事程左様に、本書で展開されている議論は、正直なところかなり理解しづらいものでした。当然その最大の原因は私自身の基礎的な知識や理解力の欠如にあるのですが、それでも部分的にはすっと腹に落ちる解説もありました。
代表的なものが「自動運転と倫理」に関する説明です。
（p270より引用） 人工知能は、何をどれくらい優先するかという「評価関数」が与えられなければその運転制御ができない。・・・
将来、自動運転技術が進み、人間の手を介さない完全自動運転が実現したとしても、その人工知能が何を優先させるべきかというアルゴリズムの具体的な内容が開示されるべきか否かという問題もある。
自動運転車が、どのようなアルゴリズムで運行されているのかが明らかにならないままに、都市の中の通りを走り、自動運転車に私たちの安全と命を委ねることになるのは受け入れにくい。しかし、だからと言って、自動運転車がどのようなアルゴリズムで、何を優先させて走っているのかが明らかになってしまうことも、人間には耐え難いだろう。
このくだりの前後には具体的な事象例がいくつも示されていたこともあり、この説明ぐらいですね、何とか茂木さんのロジックについて行けたのは。
本書で展開されている議論を辿っていくためには、「意識」という概念の理解が不可欠なのですが、私の場合、そこに至っていないのが致命的です。以前の茂木さんの本に登場していた「クオリア」はともかく、本書で頻出する「志向性」「身体性」の意味するところがどうもきちんと頭に入ってきませんでした。
そういった今後に続く “理解すべき課題” を明らかにしてくれるという点で、本書はまさに優れた「入門書」だったということですね。