「SF作家テッド・チャンと神経科学者アニル・セスの対話：GHOST IN THE MACHINE #1 機械に意識はやどるのか」 （distance.media「ALIFE 生命とAIのあいだ」20 Dec. 2024）
☆mediopos3690(2024.12.26.）
SF作家テッド・チャンと神経科学者アニル・セスの対話
「機械に意識はやどるのか」から
（司会：ヨーク大学教授スーザン・ステップニー／
人工生命に関する問題を研究）
この対話は2023年夏開催された
「人工生命学会（ALIFE2023）」において
学会最終日に行われた「生命と意識をめぐる対話」であり
distance.media（F3-6-1）に掲載されている
（全4回のうち今回はその第1回目）
アニル・セスは
人工生命や人工進化といった分野に携わってきたが
「意識とは何か。それはどうやって生じるのか」という
科学における革新的な問題に関心を持つようになった
「意識には「機械の中の幽霊」的な性質があるように
感じられるという点では頷ける部分」があるが
それが実態をうまく反映しているとはいえない
「機械の中の幽霊」とは
「感覚信号の原因について脳が行う
予測の集積を裏返したことで現れる現象学的な側面であり、
それは結局のところ、身体を調整し、生かし続けるという
脳の役割に根差し」ている
つまり「意識と心と生命は密接につながっている」のだという
テッド・チャンは
「現代では、意識とか意識と脳の関係といったような問題を、
ソフトウェアとハードウェアというモデル、
もしくは魂と肉体という宗教的な概念の
どちらにも頼らずに語ることはほぼ不可能」だが
「これらが本当に的確な用語法なのか」を問いなおすことで
「新しい言葉」で表すことが必要」ではないかという
現在ChatGPTのような生成ＡＩが注目を集めているが
アニル・セスは
「現行の大規模言語モデルに意識が存在する」
と考える根拠はまったくないと考え
テッド・チャンはそれに同意し
「意識はたまたま生じるようなものではない」という
「私たちがChatGPTにだまされるのは、
とても流暢に文字列を操っているからであり、
私たちはその印象に引きずられやす」いだけで
「実際に意識があるというのとはまったく違う」
というのである
さて個人的には現在のところ
ChatGPTといった生成ＡＩを使おうとは思っていない
使うとしてもあくまでもある種の検索ツールとしてであって
少なくとも「考えてもらう」ためには使わない
むしろ現在関心があるとすれば
「思考」の働きのなかで
既にあるものをうまく編集するような
機械的なありようではとらえれらないものが
いかに可能になるかということである
検索は調べものの際にはそれなりに役立つが
それで新たな考えや生きた表現が生まれてくるわけではない
たとえば文章を書く際の「起承転結」においても
「起承」やそれらしい見せかけの「結」は
ＡＩでも編集可能かもしれないが
「転」を生み出すことはできないだろう
「守破離」ということでいえば
言語編集的な「守」はすばやくアウトプットできるだろうが
まず「破」は上記の「転」と同様可能ではないだろうし
ましてや「離」というと
編集すべきデータベースのないところなので
ＡＩには不可能である
気をつけなければならないのは
たとえじぶんで書いた文章だとしても
それがＡＩによる文章作成にすぎないような
さらにいえばその条件さえ満たせないような
死んだ文章作成にならないようにするということだろう
ここ数十年「文章のお稽古」を日々試みているが
ＡＩのような文章を書こうなどとは露ほども思っていない
どんなに稚拙だとしても
「転」や「破」や「離」へと向かうものでありたいからだ
■テッド・チャン／アニル・セス／スーザン・ステップニー
「SF作家テッド・チャンと神経科学者アニル・セスの対話：
GHOST IN THE MACHINE #1 機械に意識はやどるのか」
（F3-6-1 distance.media
「ALIFE 生命とAIのあいだ」20 Dec. 2024）
監修・監訳：
飯塚博幸（ALIFE2023実行委員長；北海道大学）
宇野良子（ALIFE2023 実行委員、対談企画担当；東京農工大学）
田中太一（対談監訳担当；東京農工大学）
写真：ALIFE2023実行委員会
＊「あなたの人生の物語」などで知られるSF作家テッド・チャンと、世界的な脳神経科学者で意識研究の第一人者であるアニル・セスの対談。機械が意識を持つ未来の倫理的問題を警告するテッドと、意識を現象学的に捉えるアニル。第1回のテーマは「機械に意識はやどるのか」。生成AIに意識は「ある」といえるのか。そもそも意識とは何なのか――2023年に札幌で開催された人工生命学会での「生命と意識をめぐる対話」全4回でお送りします。」
＊＊（「監修・監訳者まえがき」より）
＊「2023年夏、北海道大学を会場に、世界中の人工生命（Artificial LifeまたはALife）の研究者が集まる、人工生命学会（ALIFE2023）が開催されました。基調講演者として招待されていたSF作家のテッド・チャンと脳神経科学者のアニル・セス。その二人が、学会最終日に対談をしました。
人工生命は、存在していないものも含め、あらゆる可能な生命について研究する分野です。人工生命の科学者たちは常に新しい哲学、考え方、技術を取り入れようとし、学問に対してもオープンエンドな進化をめざしています。この対談の企画は、幅広い層の方々に少しでも人工生命に興味を持っていただけるように、オンラインで一般に公開するかたちで行いました。
ALIFE2023の大会テーマは「機械の中の幽霊」でした。深層学習の技術の急速な発展により、ChatGPTのような生成AIに意識はあるのか、知能を持った機械がわれわれ人間を侵略するのか、などの議論が盛んに行われています。そんななか、人工生命科学者が考える意識、心、言語とは何であるのかをみんなで論じるために本テーマが選ばれました。そして、これをより広い文脈とつなげるために企画したのが、本対談「生命と意識、人工と自然」となります。
この対談は、何か正解を導くためのものではありません。そうではなく、聴衆が、「生命と意識、人工と自然」を巡るさまざまな問題の深度や複雑さを味わい、それに対する自分自身の態度を発見することができるようなものとなっています。さらには、定義を聞いてもなかなか理解するのが難しい人工生命という分野の手触りを感じていただけるものになっているのではないでしょうか。」
＊＊（「Contents」より）
＊「人工生命学とはありうる生命を研究する学問です――スーザン・ステップニー
意識という対象への理解を深めるのが難しいのは、意識が非物質的なもの、またはプロセスであるかのように感じられるからです――アニル・セス
意識と脳の関係といった問題を、ソフトウェアとハードウェア、もしくは魂と肉体という宗教的な概念に頼らずに語ることはほぼ不可能です――テッド・チャン
意識はたまたま生じるようなものではないと思います――テッド・チャン」
＊＊（「GHOST IN THE MACHINE #1 機械に意識はやどるのか」より）
・人工生命学とはありうる生命を研究する学問です――スーザン・ステップニー
＊「スーザン・ステップニー／
みなさん、ようこそお越しくださいました。私はイギリスのヨーク大学教授のスーザン・ステップニーです。コンピュータ・サイエンスが専門で、人工生命に関するさまざまな問題を研究しています。ついでに、熱心なSFファンでもあります。
さっそく本題に入りましょう。みなさんの中には、人工生命とは何なのか知りたいと思っている方もいるかもしれません。生物学とは、地球上に存在する生命、いわば「天然」の生命を研究する学問であり、人工生命学とはありうる生命、つまり、地球上の進化はさまざまな偶然の歴史を辿ってきたわけですが、そのような流れから自由になって生命を研究する学問であると言えます。別の惑星にいる違ったかたちの生命かもしれません。あるいは、研究所で生化学的に合成された生命の可能性もあります。ロボット生命体だってありえます。コンピュータ内で実装された生命体というのも考えられますね。さらに、まったく別の何かだって良いわけです。
研究者が人工生命を研究する理由はさまざまです。たとえば、生命という概念や生命の特徴、進化全体をより良く理解することなどです。ですので、人工知能に対するアプローチとして、周囲から隔絶した高度な知性を作り上げることをめざすのは得策とは言えません。代わりに、もっと控えめな対象、身体を持って生きているシステムから始めて、どうすれば良いかはまだわかりませんが、そこになんらかの知性が生まれるような方針を採りましょう。
さて、知性について考えていくと、たいていは、意識について考えることになります。講演者のお二人は意識について興味深い考えをお持ちのようです。一人目の講演者はイギリス、サセックス大学の認知・コンピュータ神経科学教授のアニル・セスです。アニル氏は『なぜ私は私であるのか』（岸本寛史訳、青土社、2022年）という素晴らしい本を書かれています。日本語版もありますし、英語版もありますし、他にもたくさんの言語に訳されています。アニルさんが意識をどのように理解してモデル化しているのか、研究しているのかがわかる素晴らしい本で、意識とは、知的であることよりも、生きていることの結果だという見通しが示されています。アニル氏がこの分野の科学者に苦言を呈しているのは――哲学者も例外ではありませんが、証拠として持ち出されている事柄が、実のところ想像力の欠如によって支えられているにすぎないということです。他の説明を想像することができないから証拠に見えてしまうのですね。
二人目の講演者、テッド・チャンについてはもちろん、想像力が欠けているなんてありえません。テッドさんは有名なSF作家で、何冊も本を出しています。たとえば作品集に『息吹』（大森望訳、ハヤカワ文庫SF、2023年）があります。別の本に収録された中編小説『あなたの人生の物語』（浅倉久志訳、早川書房、2012年）は、『メッセージ』（ドゥニ・ヴィルヌーヴ監督、2017年公開）という大ヒット映画になりました。この映画は、私たちとはまったく異なる意識のあり方をした異星人との意思疎通手段を見つけ出していく過程を描き出しています。
先ほど挙げた『息吹』には、『ソフトウェア・オブジェクトのライフサイクル』という――読んだことのある方もいらっしゃるかもしれませんが、今日の対談にとりわけ関連が深い中編が収録されています。
人工生命学会は、毎年異なるテーマで開催されています。今年のテーマは「GHOST IN THE MACHINE 機械の中の幽霊」です。まずは登壇者に、もう少し詳しく自己紹介をしていただき、「機械の中の幽霊」というテーマに関するお考えを説明してもらいましょう。」
・意識という対象への理解を深めるのが難しいのは、意識が非物質的なもの、またはプロセスであるかのように感じられるからです――アニル・セス
＊「アニル・セス／
スーザンさん、ご紹介ありがとうございます。会場のみなさん、オンライン参加のみなさん、ようこそお集まりいただきました。「機械の中の幽霊」という言葉は、もちろん哲学者のギルバート・ライルから来ています。この言葉が捉えようとしているのは、心は身体や脳とはまったく無関係な、非物質的な対象であるという考え方に潜んでいるある種の奇妙さです。ライルが標的にしている観念は、デカルトはもちろん、はるかそれ以前から存在するものです。ですから、「機械の中の幽霊」というのは、今年（2023）の人工生命学会のテーマとしてまさにふさわしいものだと言えます。私に声がかかったのも、このようなテーマだからだと思います。
私が研究を始めたのは、もう何年も前のことですが、サセックス大学で人工生命や人工進化といった分野に携わっていました。しかしながらその後、科学におけるある核心的問題へと関心が移っていきました。これは科学的問題であるとともに哲学的問題でもありますし、おそらくは文学的問題でもあります。それは次のようなものです。意識とは何か。それはどうやって生じるのか。この世界には多くの自己やさまざまな対象が存在します。その中で、一つの自己であるというのはどういうことなのでしょうか。
意識という対象への理解を深めるのが難しいのは、実際に意識がほとんど非物質的なもの、またはプロセスであるかのように感じられるからです。意識が脳や肉体で起きていることから生まれるなどと想像することはとても難しいのです。意識については、科学的に解明する方法がわかっていないというだけでなく、それがどのようなものとなるのか見当すらついていない、とよく言われます。
自分自身の経験を振り返ってみても、たいていの場合、意識には「機械の中の幽霊」的な性質があるように感じられるという点では頷ける部分もあります。ですが、それが実態をうまく反映しているとは思えません。私の長年の研究テーマの一つは物事の見え方を超えて、その背後に潜む実際のあり方を明らかにすることだと言えます。意識の科学では、これはとても実りのある戦略です。
例を挙げましょう。この現実世界には、色というものが存在するように見えます。もちろん、実際には存在しないこともわかっていますよね。ご存知のように実在するのはさまざまな波長の電磁波だけです。同じように、自己が「私の本質」であり、それが頭の中で知覚を行っているように感じられます。しかし、ひょっとすると、実態はまったく別なのかもしれません。
私の見立てでは「機械の中の幽霊」とはまさに、感覚信号の原因について脳が行う予測の集積を裏返したことで現れる現象学的な側面であり、それは結局のところ、身体を調整し、生かし続けるという脳の役割に根差しています。したがって、意識と心と生命は密接につながっているのです。
最後になりますが、誰もがその名を聞いたことのある哲学者、ルートヴィヒ・ウィトゲンシュタインもこの認識と実態の区別について浩瀚な議論を行っていることを申し添えておきます。もし私たちの意識経験が、いろいろな物事について脳が予測したことを寄せ集めただけのものだとしたら、物事はどのように見えるだろうかと自問してみましょう。物事の経験はまったく別のものになるかもしれませんし、現状とそっくり同じかもしれません。両方の可能性があると思います。」
・意識と脳の関係といった問題を、ソフトウェアとハードウェア、もしくは魂と肉体という宗教的な概念に頼らずに語ることはほぼ不可能です――テッド・チャン
＊「テッド・チャン／
みなさん、お集まりいただきありがとうございます。ご紹介いただいたように、私はSF作家です。ちなみにコンピュータ科学についても、ある程度専門的に勉強したことがあります。とはいえ私がお話しするのは、何よりもSF作家としての見解です。
私は思考する機械という長い伝統を持つ主題を探求することを通じて、意識という問題にたどり着きました。この伝統はSFの世界に留まらず、より以前から、それこそ何世紀も続いてきたものです。思考能力を持つ機械というアイデアは、これまで何度も現れてきました。人々が長きにわたって格闘してきた問題だと言えます。多くのSF作品のテーマにもなっています。
思考は魂という宗教的な概念、特に、肉体からはっきりと切り離された魂と結びつけられており、おおむね似たようなものだと考えられてきました。しかし、魂は肉体から切り離されたものだというこの古い考えは、コンピュータの出現によって、新しい形を取るようになりました。というのもいまでは別の考え方もできるようになったからです。「たしかに、魂は単なるソフトウェアで、肉体はハードウェアなのかもしれないね」と、いまではごく普通に言っています。そうなると、ハードウェアとソフトウェアの区別はすっかりお馴染みですから、これこそが魂と肉体の関係なのだと考えたくなるのももっともな話です。そう考えたくなる気持ちはよくわかるのですが、だからといって、正しい考え方だという保証はありません。ですが、私たちが生きるこの時代では隅々まで科学技術が行き渡っているために、このような問題について考える際にも慣れ親しんだ科学技術の枠組みから逃れることができないのです。
こうして現代では、意識とか意識と脳の関係といったような問題を、ソフトウェアとハードウェアというモデル、もしくは魂と肉体という宗教的な概念のどちらにも頼らずに語ることはほぼ不可能だと言えます。どちらの言葉づかいも私たちに深く染みついているものですが、問題は――課題と言ってもよいですが、これらが本当に的確な用語法なのかということです。私たちには新しい言葉が必要なのではないかと思います。しかし、どうすればよいのでしょうか。ソフトウェアとハードウェアの区別は、考えてみれば、魂と肉体という区別の装いを変えただけのものでした。このように、すでにある言葉と置き換えることはできない新しい言葉が必要なのです。」
・意識はたまたま生じるようなものではないと思います――テッド・チャン
＊「スーザン／
ソフトウェアというのは良い切り口ですね。近頃はChatGPTのような大規模言語モデル（LLM）がよくニュースになっています。ChatGPTに意識はあるのでしょうか。
テッドとアニル／
ありません（笑）
アニル／
ニュースでもよく取り上げられていますし、さまざまな意味で大きな衝撃を与えていると思うので、この話はもう少し掘り下げたほうが良さそうですね。GPT-4をはじめとした大規模言語モデルには、本当に多くの人々が驚きました。大規模言語モデルを専門としている人たちでさえですね。それ自体がたいへんな驚きです。そして、言語モデルが物事を理解しているのかどうか、しばしば言語モデルに見出されるもろもろの心的性質、メタ認知や心の理論のようなものが本当に存在しているかどうかについては、とても興味深い議論が行われています。
現状の言語モデルはこうしたものを備えていると言ってよいのでしょうか、それとも実際には、肉体を得て周囲の環境との関わりを積み重ねていく必要があるのでしょうか。私自身は後者が正解に近いと思っています。そうなった場合に、どういうことが起こるかを考えてみることもできるでしょう。物事と関わり続けることを通じて、理解を獲得したと言えるようなモデルを作り出すことだって不可能とは言えません。
しかしですね、そのようなことは全部、言語モデルに何らかの経験が生じているかどうかという論点とは噛み合わないというか、全然別のことなのです。心の理論や理解といった特性に経験は必ずしも必要ないのだと思います。大規模言語モデルがより賢くなれば、意識もそれに付随して生じてくるなどということにはなりません。いずれにしても、現行の大規模言語モデルに意識が存在すると考える根拠はまったくないと思います。
テッド／
ほぼ同意見です。意識はたまたま生じるようなものではないと思います。何かの副産物として意識が生まれるなんてほとんど考えられませんし、まして、何テラバイトものテキストを統計分析したらついでに意識が生じるなんてありえません。
生物をお手本とした枠組みを採用して、生命活動を再現するソフトウェアをめざしていけば、意識が生まれることもあるかもしれません。ChatGPTにはそのような性質はまったく備わっていませんね。私たちがChatGPTにだまされるのは、とても流暢に文字列を操っているからであり、私たちはその印象に引きずられやすいのです。ChatGPTが携帯電話の予測変換機能の強化版にすぎないというのはかなり大ざっぱな言い方ですが、予測変換が本当に良い候補を出すことがあっても、実際に意識があるというのとはまったく違うということには気をつけておかないといけません。」
○テッド・チャン
Ted Chiang
SF作家。1967年、米国ニューヨーク州ポート・ジェファーソン生まれ。ブラウン大学でコンピュータ科学を専攻。AIと生命の未来、自由意志、量子論など科学とテクノロジーの最新知見を取り入れた未来を描きながら、人間と知性の本質を問いかける作品で高い評価を得る現代を代表する作家のひとり。1990年にデビュー作「バビロンの塔」でネビュラ賞を受賞、「地獄とは神の不在なり」「商人と錬金術師の門」「息吹」「ソフトウェア・オブジェクトのライフサイクル」でSF界で最も権威あるヒューゴー賞を４度受賞。2016年に「あなたの人生の物語」を原作とする映画『メッセージ』（監督ドゥニ・ヴィルヌーヴ）が話題となり世界的に広く知られる作家となった。「あなたの人生の物語」は『SFマガジン』（早川書房）の「オールタイム・ベストSF」海外短編部門の第1位に選出されるなど、日本にも多くの読者がいる。邦訳は『あなたの人生の物語』（2003）『息吹』（2019、2023、ハヤカワ文庫SF）（ともに大森望訳、早川書房）
○アニル・セス
Anil Seth
神経科学者・作家。サセックス大学認知・計算神経科学教授、カナダ先端研究機構脳・精神・意識プログラム共同ディレクター、ヨーロッパ研究評議会アドバンストインベスティゲーター、『Neuroscience of Consciousness』編集長、アート・サイエンスプログラム「ドリーマシーン」リードサイエンティスト。2019年以来、クラリベイト・アナリティクス社が発表する「高被引用論文著者」に選ばれている。意識の脳基盤に関する先端的研究を20年以上行ってきた。研究の関心事は、計算神経現象学、創発の測定、知覚経験の多様性のマッピング、ストロボスコピックに誘発される視覚幻覚の調査など。TEDトークは1300万回以上視聴され、著書『Being You』2021（邦題『なぜ私は私であるのか』青土社、2022）は『サンデー・タイムズ』のベストセラーリストにランクインし、『エコノミスト』、『ザ・ニュー・ステーツマン』、『ブルームバーグ・ビジネス』、『ザ・ガーディアン』、『ザ・フィナンシャル・タイムズ』の年間書籍にも選ばれた。