テッド・チャン／アニル・セス「SF作家テッド・チャンと神経科学者アニル・セスの対話：GHOST IN THE MACHINE #2 意識は身体がなければ生じないのか？
☆mediopos3694(2024.12.30.）
mediopos3690(2024.12.26.）でとりあげた
SF作家テッド・チャンと神経科学者アニル・セスの対話
「機械に意識はやどるのか」から
その第２回「意識は身体がなければ生じないのか？」
前回の議論の内容を簡単にまとめておくと
「意識という対象への理解を深めるのが難しいのは、
意識が非物質的なもの、または
プロセスであるかのように感じられるから」（アニル）であり
「意識と脳の関係といった問題を、ソフトウェアとハードウェア、
もしくは魂と肉体という
宗教的な概念に頼らずに語ることはほぼ不可能」であり
「意識はたまたま生じるようなものではない」（テッド）
ということだった
さて今回は「意識と身体」について
私たちは生成AIのように言葉のやりとりができれば
そこに意識が存在していると考えがちだが
「背後にある仕組みは全然別物」であって
「間違った考え方」であるといえる
「意識は生命と非常に密接に結びついている」
という考え方が正しいとすれば
「大規模言語モデルに意識は宿っていないし、
他のAIもすべて意識を持っていない」といえるが
「ヒト胚性幹細胞から作られる大脳オルガノイドは、
実際にニューロンを備えているため、
いままで判断を保留するしかなかった問題の多くが解消され」
「人間との材質の違いを考慮する必要がなくなる」（アニル）
「意識はたまたま生じるようなものではない」が
それは「ソフトウェアを念頭に置いた話」であり
「オルガノイドということなら、
意識が生じたとしてもおかしくない」（テッド）
「身体や脳のすべての細胞をモデル化することができたとすれば、
そこには意識と言いうるものが生まれているのだろう」が
それは「細胞の仕組みがすべて備わった、精巧な細胞モデル」
においてであり「現状ではあくまで思考実験」にすぎない（テッド）
「重要なのは原子なのか、分子なのか、神経伝達物質なのか、
ニューロンなのかと考えていくと、現代の標準的なコンピュータでは
ハードウェアとソフトウェアがはっきり分かれて」いるが
「脳や肉体におけるマインドウェアとウェットウェアの関係は
そういうものではないとわかってくる」
「率直に言えば、意識をソフトウェアで
表すことができるかどうかは結局わからない」（アニル）
「意識がなんらかのソフトウェアや情報処理の産物であるはずがない
とまで言うつもりは」ないが
「必然的に意識が生まれてくるはずだというような主張には疑問がある」
（アニル）
「意識が物質的基質に依存していると考えることには積極的な理由」がある
「肉体を制御し、調整するために存在している器官」としての脳の働きは
「生命活動の基礎となる、個々の細胞にまでも及んでいる」からである
（アニル）
しかしそれは「意識は基質なしには成立し得ない」ということとは別の話で
「意識が基質に依存していないとは言い切れないという立場」を
支持しているという（アニル）
今回の議論は
意識が生じるためには生きた身体的なものが必要で
そのためには「身体や脳のすべての細胞をモデル化すること」や
「「ヒト胚性幹細胞から作られる大脳オルガノイド」といった
いわば身体的なものが前提となるのではないか
ということだが
結局のところ「意識」が生まれるためには
たんなる「物質」だけではなく
そこに宿る「生命」が必要とされるということだろう
「物質」だけを組み合わせても「生命」を生み出すことはできない
「意識はたまたま生じるようなものではない」のは
「意識は生命ゆえに生じる」ということ
つまり「意識」を宿らせようとするならば
そこには生命の要素が不可欠だということではないだろうか
■テッド・チャン／アニル・セス／スーザン・ステップニー
「SF作家テッド・チャンと神経科学者アニル・セスの対話：
GHOST IN THE MACHINE #2 意識は身体がなければ生じないのか？
（F3-6-2 distance.media「ALIFE 生命とAIのあいだ」27 Dec. 2024）
監修・監訳：
飯塚博幸（ALIFE2023実行委員長；北海道大学）
宇野良子（ALIFE2023 実行委員、対談企画担当；東京農工大学）
田中太一（対談監訳担当；東京農工大学）
写真：ALIFE2023実行委員会
2023.7.28 北海道大学 クラーク会館にて
＊＊「「ChatGPTに意識はない！」で意見が一致した前回を受け、今回は「意識に身体は必要か？」という問題を中心に、さらに論議が進む」
・Contents
＊「意識のある機械を構築するために何が必要なのかはわからないし、何が必要でないかもわかりません――アニル・セス
身体や脳のすべての細胞をモデル化することができたとすれば、そこには意識と言いうるものが生まれているのだろうと思います――テッド・チャン
意識をソフトウェアで表すことができるかどうかは結局わからない――アニル・セス」
＊「アニル／
人間がさまざまな活動をする際、そこには意識が働いているわけですが、人工的なシステムが同じような挙動を示す場合、私たちはどうしてもそこに意識を見出してしまいがちです。私たちにはこのように、人間を特別視する強い傾向があります。意識の存在を、知能や言語といった人間特有の性質と結びつけて考えたくなるのです。ですから、淀みなく応答してくれるシステムと接すると、このようなやりとりが成り立っているのだから相手にも意識があるのだろうと、いとも簡単に信じ込んでしまいます。そして実際、そのようなやりとりはすでに成立していますから、言語モデルにも意識があるということになってしまうわけです。しかし、言うまでもないことですが、これは間違った考え方です。背後にある仕組みは全然別物なのですから。
このようにして言語モデルに意識があると考えてしまった例は枚挙に暇がありません。意識のような対象は、どうも人間に引きつけて捉えがちなので、十分に用心する必要があるというわけです。
先ほど、私たちが知らないうちに意識を作り出すなんてありえないというお話がありましたが、少し怪しいのではないかと思います。お考えの通りだと言い切れれば良いのですが、どうも根っこのところで、もやもやしたものが残ってしまうのです。というのも、意識を生み出す必要かつ十分な仕組みについて、まだコンセンサスが得られていないからです。
私は意識は生命と非常に密接に結びついていると考えています。こうした考えが正しければ、大規模言語モデルに意識は宿っていないし、他のAIもすべて意識を持っていないことになります。これが本当に正しいかどうかはまだわかりません。私が間違っている可能性も十分あると思います。誰が正しいかなんて誰にもわからないでしょう。このような状況では、意識を持つ機械を作り上げるためにどのようなものが必要で、どのようなものが不要なのか、誰にも正確な判断はできません。ですから、偶然意識が生まれているなんてことも、ありえないとは言い切れないのです。
近年ではさまざまな領域で技術革新が進んでおり、たとえば、ヒト胚性幹細胞から作られる大脳オルガノイドは、実際にニューロンを備えているため、いままで判断を保留するしかなかった問題の多くが解消されます。人間との材質の違いを考慮する必要がなくなるということです。テッドさんの発言に完全には同意できなかったのは、つまり、オルガノイド技術がディープラーニングと同じように加速していけば、そのまま意識が生まれてしまうということもあるのではないかと思うからです。さらにその場合、私たちは自分が何を成し遂げたのか全然気づかないかもしれません。オルガノイドがシャーレの中で大きくなっても、ChatGPTとは違って、私たちに話しかけてきたり、おすすめの映画を教えてくれたりすることはありませんからね。
テッド／
その点については私もそう思います。「意識はたまたま生じるようなものではない」というのは、ソフトウェアを念頭に置いた話でした。オルガノイドということなら、意識が生じたとしてもおかしくないと思います。
・身体や脳のすべての細胞をモデル化することができたとすれば、そこには意識と言いうるものが生まれているのだろうと思います――テッド・チャン
＊「スーザン／
いまのやりとりを伺っていて、少し別の問題についても考えてみたくなりました。ここにいる三人は大規模言語モデルには意識がないと考えているわけですが、それは、意識はソフトウェアをただ組み上げるだけで生み出せるものではないからでしょうか。別の言い方をすると、意識には実際の生物のように肉体が必要なのでしょうか。この点について掘り下げると、いろいろと面白いお話が出てくるのではないかと思います。いかがでしょう。意識は具体的な肉体がなければ生じないとお考えですか？
テッド／
おそらくそうではないと思います。ソフトウェアに意識を持たせることも不可能ではないでしょう。どういうことかというと、現状ではまだ不可能ですが、炭素分子、酸素分子、水素分子など、分子についての非常に詳細な物理モデルを作り出すことができたとすれば、細胞の仕組みがすべて備わった、精巧な細胞モデルを手に入れられることになります。そして、すべての原子を同じようにモデル化していくとすれば……これはもちろん途方もない課題です。なので、現状ではあくまで思考実験ということですね。
もし、細胞内のすべての原子をモデル化し、それを土台にして、身体や脳のすべての細胞をモデル化することができたとすれば、そこには意識と言いうるものが生まれているのだろうと思います。このように考えられるのは、実際、私たちは隅々まで原子だけで構成されているわけですが、不思議なことに、そこには意識が生じてもいるからです。そうすると、原子のレベルまでモデル化できたとして、ソフトウェアだから意識は生じていないと考えるのは無理があるのではないでしょうか。
このようなモデル化にはもちろん、法外な計算コストが必要だという問題があります。何か良い抜け道を考えなければなりません。一つひとつの細胞を水素原子のレベルまでモデル化していく必要が本当にあるのでしょうか。そこまで精巧なモデルでなくても十分かもしれません。同じように、生体組織を端からすべて細胞レベルまでモデル化しなければならないでしょうか。そこまでの必要はないかもしれません。とはいえ一方で、何でもかんでも単純化してしまうことはできません。やりすぎると、結局は従来のソフトウェアとあまり変わらないものになってしまいますから。なので、単純化をどこまで推し進めて良いかはよくわかりませんし、そもそもまったく不可能だということになるかもしれません。
ソフトウェアに意識を持たせるためには結局、原子のレベルまでモデル化しないといけないという可能性もあります。その場合には、単純に原子の数が多すぎて、どうやっても不可能でしょうね。とはいえ理屈の上では、そのようなものであれば意識が宿っていても良いと思います。
・意識をソフトウェアで表すことができるかどうかは結局わからない――アニル・セス
＊「アニル／
意識にとってどの水準が重要なのかは確かに難しい問題ですね。ここでもやはり先程の問題がついて回るということを考えなければいけません。どうしても、ハードウェアとソフトウェアの区別という枠組みで考えたくなってしまうという問題です。
重要なのは原子なのか、分子なのか、神経伝達物質なのか、ニューロンなのかと考えていくと、現代の標準的なコンピュータではハードウェアとソフトウェアがはっきり分かれていますが、脳や肉体におけるマインドウェアとウェットウェアの関係はそういうものではないとわかってくるかと思います。人工生命コミュニティは近年も進歩を続けていますが、真に本質的なのは、この点に気づいたことではないでしょうか。それぞれの水準はよく見れば繋がっているかもしれないのです。
しかしこだわるようですが、それで問題が解決したわけではありません。率直に言えば、意識をソフトウェアで表すことができるかどうかは結局わからないというところです。必要な基盤が何なのか、完全にわかっているわけではありませんから。テッドさんのお話のとおりなのかもしれませんが、反論の余地も残されているかと思います。そちらが正しかった場合、話はある意味単純です。適切な詳細度でシミュレーションすれば良いということであれば、問題はどこまで細かく再現するかということだけですからね。
しかし、こういうのはどうですか。気象現象、たとえば台風の完全に詳細なシミュレーションが可能だと仮定しましょう。気流の全体像をシミュレートすることもできますし、台風の分子一つひとつをシミュレートすることだって可能です。では、風が生じたのはこの点だというように、どこかの水準をはっきり指摘できるものだと思いますか。
テッド／
これは、かなり昔からある議論で、おそらくはホフスタッターまで遡れるものだと思うのですが、気象シミュレーションがどんなに詳細になったとしても、コンピュータの内側が湿ってくることはありません。コンピュータ内で雨粒が落下しているのを見ることはできないのです。ですので、ご質問に対する私なりの答えは、どれだけ詳細に気象をシミュレートした場合であっても、シミュレーションの外から見て雨が降っているかどうかを考えるのは的はずれだというものになります。
重要なのは、シミュレーションの中で雨が降っているかどうかでしょう。つまり、木造家屋を原子レベルでシミュレートしたとして、風雨によって屋根板が反り返り、やがて屋根から滑り落ちるようなことがあれば、その家屋にとっては、その天候は現実だということです。この暴風雨の影響を受ける家屋はいったいどこに存在するものでしょうか。暴風雨がソフトウェアで作ったものなのですから、答えは明らかでしょう。重要なのは物理的対象としての家屋ではなく、シミュレーションにおける家屋です。この点についてどうお考えですか。
アニル／どうなのでしょう。ちょっと違うのではないかと思います。お答えは常識的なものではありますが、この場合には成り立っていないのではないでしょうか。ソフトウェア上の家が風で吹き飛ばされた場合に、風はその家にとっては実在するという話を意識の存在に当てはめるためには、詳細なモデル化によって意識を生み出すことが可能だということを前提にする必要があります。これでは循環論法になってしまいそうです。
自分でもはっきりしていない部分もあるのですが、ともあれ、意識がなんらかのソフトウェアや情報処理の産物であるはずがないとまで言うつもりはありません。ただ、必然的に意識が生まれてくるはずだというような主張には疑問があるということです。すべての原子をシミュレートするというお話がありましたが、そのあたりが特に気になります。正直なところ、どう考えたら良いものかわからない部分もありますが、やはり循環してしまっているのではないでしょうか。
話は少し変わりますが、意識が物質的基質に依存していると考えることには積極的な理由もあります。私たち人間の脳が行っている仕事の本質は何なのでしょうか。脳は肉体を制御し、調整するために存在している器官だと言えます。そしてこの制御と調節が必要となるのは、脳の各領域やニューロン、臓器のレベルにとどまりません。それは、生命活動の基礎となる、個々の細胞にまでも及んでいるのです。
このような問題については、ウンベルト・マトゥラーナとフランシスコ・バレラが昔から議論を重ねてきています。人間の意識が基質に依存していると考える理由は他にも挙げられそうですが、それは「意識は基質なしには成立し得ない」ということとはあくまで別の話です。とはいえ、私はここまでお話ししてきたことを踏まえて、意識が基質に依存していないとは言い切れないという立場を支持しています。」
○テッド・チャン
Ted Chiang
SF作家。1967年、米国ニューヨーク州ポート・ジェファーソン生まれ。ブラウン大学でコンピュータ科学を専攻。AIと生命の未来、自由意志、量子論など科学とテクノロジーの最新知見を取り入れた未来を描きながら、人間と知性の本質を問いかける作品で高い評価を得る現代を代表する作家のひとり。1990年にデビュー作「バビロンの塔」でネビュラ賞を受賞、「地獄とは神の不在なり」「商人と錬金術師の門」「息吹」「ソフトウェア・オブジェクトのライフサイクル」でSF界で最も権威あるヒューゴー賞を４度受賞。2016年に「あなたの人生の物語」を原作とする映画『メッセージ』（監督ドゥニ・ヴィルヌーヴ）が話題となり世界的に広く知られる作家となった。「あなたの人生の物語」は『SFマガジン』（早川書房）の「オールタイム・ベストSF」海外短編部門の第1位に選出されるなど、日本にも多くの読者がいる。邦訳は『あなたの人生の物語』（2003）『息吹』（2019、2023、ハヤカワ文庫SF）（ともに大森望訳、早川書房）
○アニル・セス
Anil Seth
神経科学者・作家。サセックス大学認知・計算神経科学教授、カナダ先端研究機構脳・精神・意識プログラム共同ディレクター、ヨーロッパ研究評議会アドバンストインベスティゲーター、『Neuroscience of Consciousness』編集長、アート・サイエンスプログラム「ドリーマシーン」リードサイエンティスト。2019年以来、クラリベイト・アナリティクス社が発表する「高被引用論文著者」に選ばれている。意識の脳基盤に関する先端的研究を20年以上行ってきた。研究の関心事は、計算神経現象学、創発の測定、知覚経験の多様性のマッピング、ストロボスコピックに誘発される視覚幻覚の調査など。TEDトークは1300万回以上視聴され、著書『Being You』2021（邦題『なぜ私は私であるのか』青土社、2022）は『サンデー・タイムズ』のベストセラーリストにランクインし、『エコノミスト』、『ザ・ニュー・ステーツマン』、『ブルームバーグ・ビジネス』、『ザ・ガーディアン』、『ザ・フィナンシャル・タイムズ』の年間書籍にも選ばれた。