落穂拾い：「人工知能と音楽の未来」の準備のための対話より（2018.3）
公開にあたっての注記：
以下の文章は2018年3月にローム・シアターで行われた「音楽と人工知能の未来」の対談の準備の段階での三輪さんとのメールでの「対話」のうち、「音楽と人工知能の未来」の本編では十分に展開しきれなかったテーマに関する検討の部分を、若干の編集をした上で公開するものです。「音楽と人工知能の未来」の落穂拾いという位置づけになりますが、その後「三輪眞弘を理解するための要約表」を作成するにあたっては、ここで拾い上げた視点も取り込まれたこともあり、その背景についての補足としての意味もあると考え、既に1年半前の内容ではありますが、公開することにしました。オリジナルが対話であり、トピックを決めてアイデアを展開していく目的であったことから、以下の文章も起承転結を欠いた、時折の中断を含む間歇的な意識の運動の軌跡の如きものであることについては予めお詫びします。何か、軽い読み物のようなものとして、そこから議論のネタを取り出すような使い方をして頂ければ公開の目的は達せられたことになるかと思います。（2019.8.4）
少し間をおいて続きがあったので、＜後半＞として、同様に若干の編集の上、公開します。なお、脈絡の無さは措くとして、前提を端折り過ぎてわかりにくい部分については、今後、折を見て補筆するかも知れません。（2019.8.5）
<前半>
1．「聴衆が機械だったら…」
と『洪水』誌の三輪眞弘特集への寄稿で書いたのを記憶しています。その後も何度か触れているかも知れません。「聴く」を「評価する」とずらせば、今流行のＡＩの話になる。今流行の言い方をすれば、音楽コンクール（のど自慢でも…）の審査員は、ＡＩに職を奪われるか？といったところですか…
作る方の「もどき」については、Google Magentaの話で、これ単独では面白くない、というか、それは創作のプロセスの一部を抽象して取り出しているに過ぎない。アルゴリズミック・コンポジションで行われている膨大な試行錯誤と取捨選択、アルゴリズムの外側に纏わる「音楽」を構成するもろもろはそこにはない。
ただ、その「一部」には、「聴く」を「評価する」とずらした場合と共通の側面があって、だから同じＡＩのネタになりうる。（作曲のプロセスの中には「聴く」が含まれているからだと思います。作曲・演奏・聴取の記号論的三分法は抽象に過ぎない。）結局、ずらしたらこぼれおちるものがあるのは確実で、それは言語化するのは難しいけど、ある程度突きとめることはできると考えます。
実はこれは古典的なＡＩの時にも起きたことです。深層学習じゃなく、エキスパートシステムみたいな単純きわまりないものだったけれど、知性というのがそのメカニズムに「還元」できるかどうかというのが議論になって、議論ではＡＩ派は決して負けないけれど、現実にはそれは到底知性とは呼べない、みたいな風景が繰り返されていましたが、音楽を「聴く」というのがどういうことかを考えるに、それをどうずらすか、その時、聴き手を機械を置く、という思考実験はそれなりの意義を持つように思います。
機械とならべて、異なる知性を持った動物たち、オウム・インコやイルカ・クジラ、ゾウやサル（いやイヌ、ネコ、カラス、ハト、ウマのような身近な動物でもいいのですが）などを考えるのもありだと思いますが、彼らはヒトにとって「動物」「（地球の）生物」、同じ進化の樹の異なる枝の末端にいる存在であって、共通する基盤を持っているわけで、そこが「機械」とは全く異なるので、「機械」を浮かび上がらせることもできる。
更にバイオコンピュータ、遺伝子操作、サイボーグのようなものを考え出したら、機械と生物、機械と人間との境界は曖昧になってくる。今後は何が「機械」なのかの側が問われることになるでしょう。
2.久保田晃弘『他者のためのデザイン』の周辺
接点自体はたくさんありますが、情報物理、バイオテクノロジーとか、複雑系とかアルゴリズムそのものじゃなく、ことＡＩとなると実はあまり言及がないことに気づきました。辛うじて、「人間からの離脱」の章の「計算アニミズムと人工知能」という節で主題的に言及されています。でも、これは出発点としては良さそうです。この章の前段のパーソナルメディア、ヴァーチャルメディアの側面は思い切り捨象して、人工知能から、ポストヒューマン、地球外生命と展開する他者論、そして「他者のためのデザイン」に繋がる側面をクローズアップすると、三輪さんのこれまでの活動とも色々と接点を見いだせそうだし、前回の議論にも接続できる。
ただし相手がＡＩだとしたら、もっと限定した方がよさそうです。そこで人工知能から、ポストヒューマン、地球外生命と展開する他者論から「他者のためのデザイン」に繋がる側面という流れのうち、地球外生命を除外してみては、と思いました。そのかわりに参照されているホーコン・ファステの「ポスト人間中心デザイン」を持ってくる。ただし、読んでみたのですが、これはあんまり良くない。訳が悪いのかも知れませんが、危うい感じがします。どこがいけないと感じるかを整理することで議論のきっかけにできるかも知れません。
実は久保田さんの主張についても、その大筋には賛成なのですが、細かいところでは気になる点が結構あります。その気になる点が最も多いのが実はここでの他者へのアプローチだったのでした。その辺を展開してみたら三輪さんの活動と繋げて考えることができそうです。久保田さんの主張の流れである「計算アニミズムと人工知能→他者としてのポスト・ヒューマン→他者のためのデザイン」から「聴衆が機械だったら…」といった論点に架橋するのも自然にできます。
ちなみに久保田／ファステの「他者のための／ポスト人間中心デザイン」で一番ひっかかるのは、「シミュレーション」についてです。ここから、三輪さんの「逆シミュレーション音楽」や、「ありえたかもしれない」音楽に繋がり、他方では、原発災害のような「想定外」のカタストロフィーに対する「デザイン」の問題に展開できると思うのです。そしてＡＩもまた、「想定外」のカタストロフィーをもたらしうる「他者」の一つとして考えることができる。AlphaGOのような存在が既に出現していて、はたして同じ「ゲーム」をしているのか、といった話を以前しましたが、それとも繋がるでしょう。
それはそうと、「ポスト人間にもはや音楽／芸術はあり得ない」と必ずしも私は思っているわけではありませんが、例えば久保田さんやファステの言う「他者のためのデザイン」が音楽／芸術とどう繋がるのか、実際のところよくわからないでいます。恐らくは一つには他者というのを拡げすぎていて、現時点では、その具体的な様相を扱いかねるからではないかと言う気がしているからだと思います。どのような「他者」を相手にすることになるにせよ、それはそんなに一気にはいかないだろうから、少なくともあと四半世紀程度は待ちながら考えることでもう少し具体的な話ができるのだろうか、というように感じます。
聴衆が機械だったら、という想定も、例えば現時点でのロボットなり機械学習の判別機を想定するのは面白くありません。現時点での機械学習が仮令自分で特徴を抽出できたとしても、所詮は確率密度の推定でしかないという限界は残ります。学習する際に、何を食わせたかがわかっていれば、何が出てくるかは予想がつく。結局、フレームが決まった内側でのゲームに過ぎません。これは何回か指摘していると思いますが、深層学習は大きなブレイクスルーだけど、それでシンギュラリティが起きるわけじゃない。まだ全然足らないのです。
どこまで行ったら聴衆が機械だったらという設定が興味深くなるのか、というのは、（現実のＡＩの発展の方向とそれが一致した方向かどうかには関係なく）意味がある問いだと思いますが。
あともう一つは人間の側も変わるという点。そちらに対してなら、その変化に応じて音楽／芸術がどうなっていくのかという議論は成立すると思います。これはＡＩの話とは独立に久保田さんがずっと言っているようです。私もスケジューラのような実用システムをお客様に使って頂いてきた経験から、実感としてあるのですが、機械に対した時の人間の側の適応・調整の能力ってすごいんですよね。
逆にＡＩとかいうと凄く期待した挙句、使い物にならないという評価になる。最近よく思うのが、翻訳システムに対する評価の変化で、翻訳の精度からすれば今のレベルって、かつてのＡＩブームの時に比べて特に高いわけじゃないです。でも、例えばGoogle翻訳が如何に間違っていても、みんなわりと平気で使っている。ひとつにはＡＩだと思ってないかも知れません。少なくともあんまり期待していない。
これに関して、ＡＩを機械に置きかえれば、例えばリッチズさんの機械との合奏ってどういう気持ちなんだろうか、と思います。いやいや、「赤ずきんちゃん伴奏器」や「東の唄」が既にそうでした。人間の側の能力の凄味が寧ろ伝わってくる。では、もっと機械の演奏が上手になって、せめて不気味の谷にさしかかったらどうなるのでしょう。誰でもいいけど、例えばホロヴィッツのように弾けて、でも全く間違えないロボットが出来たら？
でも、これもホロヴィッツの演奏という人間が尺度になっている。間違えないだけなら今でもできるでしょう。例えばクセナキスのピアノ曲のＭＩＤＩシーケンスの結果を聴いたことがあります。これは人間が入力したんだろうけれど、多分それはこの場合は本質的じゃない。それはクセナキスの作品の作り方、コンセプトの問題です。モーツァルトとは違う。
ではクセナキスの作品こそ、ポスト人間のための音楽なのでしょうか？クセナキスが夢想した超人としてのポスト人間のための音楽かも知れませんが、でも音を出しているのがＭＩＤＩシーケンサーだとしたら、人間の私が聴かない限り、音楽はそこには存在しないでしょう。一方、例えば可聴域が異なる、基本的なクロック数が違う存在にとってはそれは知覚できないかも知れない。
ということで音楽／芸術について語るとしたら、あくまでも人間の延長線上にある何者かを想定せざると得ないと思います。でも例えば、ペットロボットや介護ロボットと一緒に音楽を聴くというシチュエーションはあるかも知れない。これが事例として面白いかどうかは措くとして、ポスト人間を考えるときにも、何らかのかたちで人間との繋がりが残った状況じゃないと、議論が成立しないんじゃないかというように思います。
補説1：パスキネッリ「機械学習時代における異常な大脳化」
ここで久保田さんが「計算アニミズム」に関連して引用していたパスキネッリの論文について簡単にまとめておきます。
私が理解した限り、冒頭に銘として掲げられているチューリングの知性についての発言について、何か面白いことが書いてあるんじゃないかという期待は、裏切られます。チューリングテストも出てくるけど、話の枕みたいなもの。ヘーゲル現象学の「主と奴隷」の弁証法を持ち出したのはちょっと面白そうだけど、これも通り道。シモンドンはかろうじて、集団的知性という点でハイエクに繋がっていく。寧ろバックボーンはハイエク的な経済システムとのアナロジーのようですね。単純化して言えば、ハイエクは計画経済、設計主義的合理主義を批判して、自由経済を進化論的合理主義と見做して、それを支持した。人間の理性というのを信じずに、経済システム自身が創発する秩序が、長い目で見れば正しい、つまり進化論的な合理性をもっているという発想なわけです。
で、ＡＩもそれと同じであると。ＡＩは寧ろ、集団的知性と考えるべきじゃないか。ＯＫ。ハイエクのアナロジーも認めたとして、落ちは何かと言えば、ＡＩは、ファシズムや人種差別的偏見のバイアスにも適応してしまう危険があるから、社会正義や人権、教育、福祉のために役に立つような使い方をしなきゃいけない、と言う話になる。資本主義が大脳化の過程であるという主張もそうした文脈で言われているわけです。
結局ここではＡＩは人間の道具に過ぎない。その前提で、資本主義により、悪用されてしまうことへの警鐘というのが多分、メインの主張ではないかと思います。ものすごく好意的に読んであげれば、ハイエクの自由主義というのは、イギリス的なコモン・ローの尊重であって、システム全体をある主義原則で制御する程、人間は賢くないんだから、ミクロな調整原則のようなものをもって試行錯誤していくしかないという考え方なので、経済システムに対してそうであるように、ＡＩに対しても同じやり方をすべきなんだ、ということなのだろうと思います。
でも、現実論としては、この前マイクロソフトのＡＩエージェントがファシズムや人種主義のバイアスのかかった調整を誰かにされたという事件がありました（パスキネッリも言及している）が、それに対して、具体的に何をしようと言うかといえば、結局、社会正義や人権、教育、福祉のためになる方向にバイアスをかけようという話になる。計画による制御か自律調整かという話じゃないわけです。
だから論文としての立てつけとしては、ちょっと問題があるように思えますが、ここから話題を取り出すことはできると思います。
例えば、集団的知性というのを考えるとき、上記のような枠組みなら、色々な個人や集団が、ＡＩに学習をさせようとしている。ＡＩは結果的に複数的な存在なわけです。今度はある種の技術進化論みたいなことなりますが、そうした個人や集団の間での技術競争について、どのＡＩが淘汰され、どのＡＩが優勢種になるか、という進化論的な見方ができるでしょう。その中にはファシストのＡＩもあればラシストのＡＩもある、ＩＳのような組織とかオウムのような宗教団体のＡＩもある。それらとは異なるバイアスで学習させられたＡＩもある。どのＡＩが生存競争を勝つのかは、結局、人間の側の価値観の競争の結果に過ぎません。ただしＡＩが人間に影響を与えるという側面もあるだろうから、現実には人間とＡＩからなる社会集団の中の生存競争ということになろうかと思います。（久保田さんの文章だと、寧ろ先行する節の「ハイブリッドな生態系」についての話に近いと思います。）
ＡＩを学習させるのは人間で、その限りでＡＩは人間の僕なんですが、僕が主と逆転する可能性というのはあるでしょう。それとは別に、これに嶋津好生さんがジェインズの「二分心」を参照して提示した「神である人間の声を聴くＡＩ」というのを重ねあわせたら？別に二分心が成立していなくても、学習を設計した人間の価値観に従って、他者に働きかけていくＡＩというのは成り立ちます。
かくしてシンギュラリティなど全然関係ない、すでに現在進行しつつある状況に対する社会理論のようなものですが、こちらはこちらで放っておいていい問題じゃないかも知れないということについては異論はない。
さて、これを踏まえて久保田さんのこの論文についてのコメントを見てみると、どうなるか？
大脳化じゃなく脱脳化であるというのは、結局ＡＩをどう捉えるかという観点に依存しています。まぜっかえすようですが、「道具」は人間には似ていない。ＡＩを持ち出さなくても、いや、持ち出さない方がより一層、「ハイブリッドな生態系」のハイブリッドの度合いは大きくなるという見方もあり得るのではないか。
結局「他者性」という言葉の内実の問題ということかも知れません。ちょっと乱暴ですが、人間と異質な知性、の異質性が強調されるとそれが人間にとって「知性」であるかどうかはどうでも良くなる。そうなると、単に制御可能かどうかあたりが判断ポイントになって、なにもＡＩだけが問題じゃない、ということにならないか？
「ハイブリッドな生態系」に含まれる他者には、昔ながらの天災（大地震や巨大な台風、、、）もあれば、原子力発電所事故のような人災も含まれうる。ＡＩはそのうちの一つに過ぎない。必ずしも、もっとも優先度が高い一つとは限らないのでは、という気がします。
パスキネッリの論文について、コメントを述べましたが、主張に対してはそうであるとして、この論文、話の枕の部分に展開できていない興味深い論点があるので、そちらにも触れておきます。
・銘の一つ目は、知的に見えるためには、その力のよってきたるものが不可視である必要がある、というサイモン・シェーファーの主張。
こっちは、計算アニミズムへの補助線だとすぐにわかります。説明できたら神秘はなくなる、知的であることが神秘であるためには、説明できてはならない、ということの言い替えであるともとれる。
・銘の二つ目は、チューリングの発言。こっちが問題で、機械がミスをしないのであれば、知的ではありえない。
まず、見える見えないじゃないことに注意すべきです。一方ではチューリング・テストがあって、他方にはチューリング・マシンがあるからわかりにくいけど、パスキネッリが断定しているほど両者は異なっていると考える必要はないと私には思えます。
間違いについてパスキネッリがゲーデルの不完全性定理を持ち出すのはおかしいし、一方でチューリング・マシンは万能なので、知的な機械も原理的に可能であるという話とある機械が知的に見えるかどうかの判定というのは別の話で、全然矛盾してない。
チューリングが機械の可謬性について言ったとき、適応的なメカニズム（ニューラルネットのようなものを思い浮かべれば良い）を想定していました。適応的なメカニズムにいきなり大学生並みのものを期待してはいけないとも言っていますが、これは適応的な機械は学習をして適応していくのだから、当たり前のことです。
間違えないマシンは知的ではない、というのは、適応のメカニズムが知的であることには必要であって、例えば単なる検索で正解を返せるようなルールベースの仕組みは知的じゃない、ということです。だから可謬性が知的に「見えるか」どうかじゃなく、知的で「あるか」どうかに結びつくのです。
チューリングの議論のポイントは、知性をそのようにおいたとき、適応的な機械が正しいかどうかの判定基準は、文脈依存であって、客観的には決まらず、必ずどういうサンプルを与え、何に適応させたかを基準に図るしかないというところから、知的であることの判断基準は、結局人間の側にしかないことをもって、チューリングテストが導かれる、という点にあると思います。
誤解はないと思いますが、データベースにある答は間違いなく返し、なければごまかす回答を返すシステムについては、文脈に独立に、どういうデータがあるかで、客観的に判定が可能ということになるが、そもそもそういう判定ができるシステムというのは適応的じゃないから、知的とはいわない。
適応的なシステムは汎用的です（この点は、万能チューリングマシンと同じ）。だけれどもそれがゆえに、個別のシステムについては、それが知的（なメカニズムを備えている）かどうかは、それがどのような学習履歴を持っているかという情報なしには判定できない、ということだと思います。
万葉学者に数学の問題を出して解けなかったからといって知的でないとは言えない。乱暴な喩えをすれば、そういうことです。知性というのは、そのシステムの「行動の文脈」に応じて獲得される。従って、例えばイルカが人間と比べてより知的かどうかという比較はあんまり意味がない。両者の進化の道筋も、個体レベルの環境も違い過ぎるから。
それでもなお、自動機械のようにいつも決まった反応するのではなく、（もしかしたら結果は「失敗」かもしれなくても）環境に適応的な答を返すメカニズムを持っているものが「知的」であるということだと思います。
そういう意味では、知性というのは初めから社会的（環境との関わりで形成されるもの）であるとは言えると思います。ただしそれは個体のレベルでも言えるから、知性が社会的という話と社会的な集合知とを短絡させるのは飛躍があると思います。（個体の中のメカニズムが再帰的に集合知のような構造を持っているという話はまた別です。）
だからルールベースであたかも知的であるかのように見せるために人を騙すためにありとあらゆる工夫をこらした機械がチューリングテストの帰結というのは、少なくともチューリングの思考のラインからは出てこない筈です。知的であるためには、適応的なメカニズムが必要で、適応的なメカニズムは間違いを犯しうる。知的「である」という事は間違いを犯しうるということになります。チューリングはあくまでも「どんなメカニズムが必要か」を考えていたのだと思います。アニミズムとかと全然関係ありません。
パスキネッリは上のようなことが多分わかっていないのではないか？と読めてしまいます。そう考えると、シェーファーとチューリングを並べたのも誤解の為せるわざじゃないかという気がしてしまいます。
ただし、だからといってアニミズムが成り立たないわけじゃありません。そういう意味ではチューリングテストは（これまでのコンテストその他を見る限り）正しく運用されなかったということなのかも知れない。ELIZAと対話した人間の反応は、作者のワイゼンバウムすら驚かせた。人間は、非常に簡単な（でも、とても巧妙に作られてうまく動いたそうです。もっと複雑なことをしてもELIZAほどはうまく動かなかったらしい。）仕掛であっても、勝手に誤解する凄まじい「適応的なメカニズム」を持っているということだと思います。
なお、人間の側が機械に心を投射してしまうという事態は、チューリング・テストの発想では、少なくとも周辺的な事情であったと思います。ちなみにELIZAに関してだけ言うと、見えないことは条件じゃなかったようです。というのも、種明かしをされても、ELIZAとの対話を望む人も居たらしいので。逆に、そんな単純な機械仕掛けに、心が宿るように見えるという事態に神秘を見出すといった向きさえありうるでしょう。
また、チューリング・テストとの比較に、パスキネッリはヘーゲルの「主と僕（奴隷）の弁証法」を持ち出しますが、ここの部分も違和感がある。
ヘーゲルの議論は、寧ろ今日の心理学的モデルでいけば、発達の過程上、自己のモデルよりも他者のモデルの構築が先行するという点に関わるのではないかと思います。（これはヘーゲル自身の文脈に忠実な読解じゃありませんが。）
フッサールの『デカルト的省察』の共同主観性論とかにもある間違いだけれど、順番として、自己が最初に確立済みで先に存在していて、その上で、その自己が、他者に自己と同じものを「発見する」というのは、事後的に振り返ることがもたらす誤謬だろうということです。そうではなくて、自分にとって不随意なものと随意なもの（後者には鏡に映る自分も含まれる）の区別から、他者がまず認識され、境界が出来上がっていく。つまり、まず外界を因果的に把握できる段階があり、次に外界に自分と同じような心的はたらきをもつ他者の存在を認める段階が来て、しかる後に、心的はたらきをもつ自身が他者と同様に外界のなかに位置づけられるという順番のはずです。で、自己を外界の中に位置づけることができたとき延長意識、自伝的自己の前提がようやく成立する。
これ自体は、どこかＡＩに意識を持たせるときに役に立つ見方かも知れませんが、こうしたアスペクトの話をチューリングテストと対比させることにどういう意味があるのかちょっと良くわからないし、そこに見出されるという違いにどういう意味を持たせられるのかもよくわからない。もしかしたらヘーゲルのいう「主観的精神」から「客観的精神」（国家とか社会集団レベルに相当）への移行のアナロジーで、ＡＩを社会的知能の方向に持っていきたかったのかも知れないけど、ＡＩの進化、発達の文脈ならまだしも、チューリングテストはあくまでも判定基準の話なので、かなり文脈が異なるこの2つを比較することに、まず抵抗を感じます。
パスキネッリはＡＩを社会的存在にしたいんだろうけど、Webを介して、人間とは全く異なる仕方で外部にアクセスできるという話だけじゃ、社会的存在というのは無理なんじゃないか。少なくともハイエクの対象は、中に複数の人間が、複数の社会集団が存在し、経済的交換が行われているのに対して、チューリングテストでテストされるＡＩは、そういう内部構造を持っていない。適応システムといっても、その実質は、それがどういう構造を持ち、メカニズムを持つかによるので、こんな雑な話をしてもしょうがない。
最初からハイエクを持ってきたらよかったのかと言えば、社会的知性を価格決定のシステムに見出せるという話と、ＡＩの適応の目標は人間次第なので気を付けよう、というのは直接には別の話。更に、冒頭のシェーファーとチューリングの銘の話はどうなったんでしょうか？と思わず聞いてみたくなってしまいます。
あまりに作者の頭が良過ぎてついていけないのか、単なる「知の欺瞞」なのか、どっちなんだろう、と思ってしまいます。パスキネッリという人は、経済システムも、ＡＩシステムも、それを具体的に「触ってみた」経験がないんじゃないだろうかということすら考えてしまいます。議論に「身体性」が感じられない。
ただし上記のチューリングテストについてのコメントは、チューリング自身の考えたことがどうであったか、ということを基準にしていません。
チューリング自身がどう考えていたかを確認しようと思えば、原論文（これは有名だし、ネットにも転がっています。試訳もあって日本語でも読めることは読めるようです。）関連する論文、更には講義録のようなものも確認する必要があるでしょうし、チューリングテストにも幾つかのバージョンがあるようですから、彼の主張の細部が少しずつ変わっていることはあるでしょう。が、思想史をやるわけではないので、その点での正確さや妥当性は、勘弁頂くことにしたいです。私の言ったようなことは、彼が残したドキュメントのどこにもないかも知れませんが、そうであったとしても、私が展開した内容が、ここでの議論で意味を喪うことはないと考えます。
寧ろ、パスキネッリのような参照の文脈であれば、チューリングの主張をどのように読むのが良いのか、に対する私なりの回答ととっていただければと思います。残念ながら、パスキネッリはチューリングの論文の細部にとらわれて、彼が採用すべき切り口を見失っているように思えるのです。
3.ポスト・ヒューマンからのAI回顧
久保田／ファステではもう「ポスト人間」が普通に想定されているし、世間でもシンギュラリティという言葉が流通しつつあるようですし、AlphaGOの衝撃は大きかったのだな、と感じます。ただ、当のファステさんや久保田さん自身はまだ「ポスト人間」ではないのかどうかは興味あるところです。私は幾つかの文章で、自分が、シンギュラリティの手前で有限の生命が尽きてしまうが故に個というものに拘る世代なのだ、という自覚を記してきました。どこに線を引くかの問題でしょうが、私は自分が「ポスト人間」じゃないと割と自覚的に思っています。なので、ファステさんや久保田さんの文章を読むと、一体どういう立場なんだろう、ということは感じます。
定義上、「ポスト人間」が他者であるということの論理的な帰結は、こちら側は「ポスト人間」じゃないということになるのでしょうが、でも共役可能性、交通の可能性がない程異質な他者、久保田さんの引いている、レムの『天の声』のような存在、あるいは『ソラリス』の「海」でもいいですが、それらが相手だとすると、「ポスト人間」のためのデザインというのは実は成り立っていない。それが失敗する物語なわけです。
一方ＡＩというのは「人間」を尺度とした規定なので、こちらは定義の裡に共役可能性、交通の可能性が含まれていると考えます。ただ逆に、そうならそうで、今度はシンギュラリティの向こう側の「ポスト人間」は最早ＡＩじゃないということになりかねない。
実はここには陥穽があって、それから逃れるためには人間の側も変わってゆくという観点を組み込んでやる必要があると考えます。ＡＩは寧ろ、どこまでが「人間」なのかという境界の問いを裏側に持っているように思うのです。そしてそれがゆえにＡＩの問題は紛糾しがちになる。それでも人間の側が変わるという視点は必要で、久保田さんはそれを、人間とポスト人間の「共進化」という言葉できちんとおさえていると思います。
例えば『万葉集』の叙景の成立の問題は、ジュリアン・ジェインズばりの意識の考古学なのではということを言いましたが、意識の存在すら人間の種に随伴するものではなく、言語の使用、文字の使用、スティグレールの「第三次過去把持」を可能にするメディアの相関物であるとするなら、「ポスト人間」に対峙する人間の側ももはや同じではない。見方によっては、共進化するのは「ポスト人間」の（かなり異なる）2つの種というように見做すべきなのかも知れません。（ここのところ、三輪さんの文章におけるデジタルな「種族」「部族」にまつわる規定にリンクさせることができるでしょう。）
一方で、ドイッチュの『無限の始まり』のＡＩに関連した第７章「人工創造力」はかなり粗視的ではあるけれど、非常に本質的な批判、かつてのＡＩでも起きて、今のＡＩでも起きているけれど、今度は見分けがつきにくくなっているがゆえに、今のＡＩが過大評価されがちなポイントを突いた、本質的な批判を含んでいると思います。具体的な話を展開するうえでは、もうちょっと細部に立ち入る必要があるでしょうが、チューリングテストも題材にとられていて、コミュニケーション対象（＝他者）としてのＡＩ（＝聴衆が機械だったら）のためのデザイン（久保田さん）＝作曲（三輪さん）という設定にとって、丁度良い足場を提供してくれるのではないでしょうか？
他方、ゲーム開発者の三宅陽一郎さんの『人工知能のための哲学塾』という本を読んだのは、対象となっている哲学の方にはそれなりの前提知識を持っているから、それらをどのように切り取っているか、ゲーム（いわゆる碁・将棋のようなＡＩの目標となった知的ゲームじゃなく、ＲＰＧのようなゲームの仮想エージェントがここでの問題です）のプログラミングにどう持ち込もうとしているのかを確認するためでしたが、想定通りというべきか、驚くようなことは書いてなくて、内容的にはほとんど刺激になるようなことはなかったのですが、私がエンジニアとしてやってきた／やっていることを振り返るきっかけにはなりました。
私はそれなりの目論見あって、現象学とかプロセス哲学の研究からＡＩに関わるエンジニアになった（筈な）のですが、実際にはそんなに簡単には繋げられませんでした。寧ろ、基礎的な教養としてやった論理学とか分析哲学の方が直接的には役にたったけれど、当時のＡＩは研究や思弁のレベルですら、現象学的な立場からすれば、寧ろ批判の対象であった訳です。（色々な面で物議を醸したドレイファスの『人工知能には何ができないか』がその代表でした）。これも昔の話ですが、会社勤めを始めた直後に、哲学の学生であった頃の先輩の紹介（先輩は、自分はよくわかんないし、あんまり関心もないけど、お前はきっと興味があるだろうといって紹介してくれたのですが）で、人文系の人がＡＩを議論するような集まりが東大であったのですが、当時はやりのエキスパートシステムがおよそ知能とはかけ離れたものであることは感覚的には誰もがわかっていて、でも、何が違うのか、何が足りないのかを正確に言い当てることが誰もできなかったのに、ひどくがっかりしたのを今でも思い出します。関心の対象としては共有できても、プログラムに何が足りなくて、何を加えればいいのかといった具体的なレベルで話をするという雰囲気じゃないし、実際のところ煙を巻くようなレトリックばかりが繁茂して、実態の方はさっぱりと思えてならない。人工知能に関する外側からの議論は、思弁的なアイデアとしては使える部分もあると思いますが、所詮それはエンジニアリングじゃなくて、「使えない」。
その後哲学とＡＩといえば、ワイゼンバウム（ELIZAの作者）にしても、ウィノグラード（SHRDLUの作者）にしてもそうですが、ＡＩの研究が社会にもらたす影響の倫理的な側面に専ら関心が移ってしまって、ドレイファスがそうであったように、ＡＩの「中身」に対する議論というのは停滞してしまったように感じられました。
三宅さんの発想は、実は四半世紀前にほぼ全て出揃っていた。研究レベルでは既に全てやりつくされていたといっていいかも知れません。違うなと思うのは、ゲームプログラミングで仮想エージェントに主観性を持たせるには、という議論が抵抗なく受け止められ、ワークショップのようなものが開かれるような時代になったのだということですか。かつての自分と引き比べずにはいられませんでした。深層学習の成功もあって、ＡＩは再び市民権を得つつある。お掃除ロボットはもとを糺せばブルックスの昆虫型ロボットの商用化でしょうか。（３０年かかりましたが。）三宅さんの本が物語るように「ＡＩと哲学」のような議論のフレームも、ようやく市民権を得られるようになったのかも知れない。それよりも自分と同じ、産業レベルのエンジニアリングとＡＩが、哲学が結びつく時代になったという事の方が、大きいかもしれません。
他方、神経科学系からのＡＩについてのコメントには重要と私が考えるのがが幾つかあります。例えばダマシオ『意識の脳、無意識の脳（邦題）』もＡＩについての言及を含みます。彼はソマティックな側面を重視するから、シリコンには心は宿らないと考えます。ポストヒューマン、エイリアンとしての知性一般という立場に立つことは、彼の見解の前提自体を変えていることになる。彼はあくまでの「人間」の心を問題にし、それを尺度にＡＩを論じているのであって、その限りでは彼の見解は正しいと私は考えます。それからフリーマン、そしてソームズ／ターンブルあたりのコメントには一聴の価値があると考えます。
4.神経科学と精神分析学
フリーマンとソームズ／ターンブルの名前を挙げましたが、前者は神経科学、後者は精神分析の領域です。神経科学と精神分析学との関わりについては、別に時間をとってお話すべきでしょうが、ここではごくおおざっぱにお話しします。
事実だけ述べれば、神経科学と精神分析学を架橋しようという試みは幾つか存在するようで、そうした文献のうちの少なくとも一つは私の手元にあります。ごく簡単に言えば、フロイトの主張はあの時代のあの社会で有効性を持つ部分が多いし、ラカンの主張については、「知の欺瞞」で槍玉に挙がった姿勢が災いしている部分があろうかと思います。
他方で、例えば鬱病や統合失調症に対して薬物で化学的に対処するというのが可能になってきている以上、精神分析の重要性が相対的に下がっているのは仕方ないでしょう。なんといっても理論じゃなく、臨床で治るかどうかが第一義的な問題のはずですから。
従って「精神分析がお伽噺だったか」どうかは衰退とは別の要因が大きいと思います。勿論、精神科の医療もビジネスですから、米国精神医学会（APA）による診断基準「DSM」ベースの精神薬理学・大脳生理学的アプローチが幅を利かせている今日、精神分析のようなものはことさら「お伽噺」扱いされていて、それを患者の立場に近い世間が信じているような面もあるかも知れません。
でも現実の臨床でも精神療法や心理カウンセリングなどの精神病理学・臨床心理学的アプローチは依然として用いられているし、精神分析も使われているところでは使われていると言えるのではないでしょうか？そして理論的な水準でも「お伽噺」かどうかは、まだわからないというのが本当のところではないか。それは意識の謎がまだ解明されたわけじゃないのと一緒です。仮説はあるけれど、解明されたわけではない。そうであるならば、意識の病理のような高レベルの現象や過程に対して確実なことはまだ言えないのではないか。私の知る限り神経科学と精神分析学の架橋は、まだ始まったばかりで、ごく初歩的な段階に過ぎません。恐らくはフロイトやラカンの理論のうちの一部は、生き残る（ただ、理論的には粗雑すぎてほとんど原型を留めない可能性は高いですが）のではないでしょうか。喩えて言えば、現代の最先端の物理学の理論が古代ギリシアにも発想としてあったといったような感じに近いのではないかと想像します。
5.ポスト・ヒューマン、AIと「性」
ポスト・ヒューマンやAIを考えるにあたり、久保田さんのように、それを人間とは異質なもの、「他者」として捉える立場をとるにしても、出発点においてはＡＩもポスト・ヒューマンも、一旦は「人間を尺度とする」アントロポモルフィスムを含みもつものであること、そしてそれを完全に手を切ることの困難を考えたとき、そして、人間の心の領域を扱うにあたって精神分析学のようなアプローチがあることを考えたとき、ポスト・ヒューマンやAIの議論において「性」の問題が正面きって扱われることがないように思えるのは不思議な感じがします。（ピグマリオンからロボットへの流れについては、寧ろ、そのアントロポモルフィスムそのものなので、ここで取り上げたい方向性とは異なります。）
そこで一旦、心理的な側面を排して、進化のシステムとして「性」を考えてみます。システムとしての有性生殖というのは個体が死んで交替していくことを前提としているわけです。逆に無性生殖の場合には、アイデンティティというものの定義が、有性生殖の場合と全く異なるでしょう。性の問題はもちろん、進化という壮大な仕掛けを通じて、死の問題に直結しているわけです。
それは変化をもたらすための複製の仕組みと抽象化することができるでしょう。個体の側は、その複製を行うよう（本能として）仕向けられる。複製が済んだら用済みになる、というのが進化の仕掛けから見た説明になります。ただ、人間は個体の経験をメディアを介して記録・継承することで、そこからは既に逸脱してしまっている。ＤＮＡによる生物学的進化とミームの進化は戦略が異なります。これはこれで別途論じるべきでしょうが、ここでは取り上げません。
進化を考えたときに、個体の経験や記憶が捨てられてしまう有性生殖と世代交代によるアプローチは、少なくともものすごく非効率な上に非常にスピードが遅い。にも関わらず、なぜそれが選択されたかといえば、非効率な上に非常にスピードが遅いことが結果的にメリットが大きかったから、ということになるのだと思います。ラマルク的な進化は、速度が速い一方で、リスクも大きいのかも知れません。並列に動作する個体の数がものすごく多ければ、スピードは補えるわけですし。
進化の戦略自体幾つかあって、それ自体進化・淘汰されてきたという考え方があるようです。例えばＤＮＡによる複製の仕組みも、それより前にＲＮＡによる仕組みがあって、それを押しのけて主流になったという考え方があります。
メディアを介したミームの進化は実は戦略として危ういのかも知れません。特異点に達する前に何かの理由で立ちいかなくなる可能性だってありますよね。（古典的なところで核戦争ですが、最近だと細菌兵器のようなバイオ系の方が危ないかも知れませんね。兵器じゃなくても、非常に強い耐性を持った病原菌の蔓延とか。）
なお、スピードというのは実際には相対的です。人間は次の世代の複製まで20年くらい。病原菌の複製のメカニズムは単純（性はない）ですが、そのかわり世代交代のスピードは非常に早いし、個体数も猛烈に多い。個体の寿命が短ければ、個体の経験が捨てられてもどうということもありません。非効率は無視できてしまう。
身体性なしのＡＩに対する懐疑というのは寧ろ古典的な議論ということになろうかと思います。かつてはそれは記号の操作としての知性に対して、リアルワールドへの接地、意味や理解の問題として立てたられたのですが、今日なら、タンパク質対シリコン、補綴性やサイボーグの問題、更には、ヴァーチャルリアリティにおける人格（身体とか環境は仮想化されていて、古典的な「バスタブの中の脳」の焼き直しと見ることができる）、更には人格をアップロードする、コピーするといった発想の前提となっている、（デジタル）情報＝人格という発想に対する疑念という形をとっているように思われます。
ただ、ここでは生殖の問題はごっそり落ちています。ＡＩが知能を問題にし、かつ人工物には生殖の問題はないから暗黙の裡に捨象されてしまった結果に見えます。（ちなみに遺伝的アルゴリズムとかのような抽象のレベルでは、有性生殖というのは取り扱われています。でもそれはデジタルな情報の変換とか複製の次元の問題だからこのでの議論とは、一先ず別ではないかと考えます。）
勿論、生殖医療、クローンといったバイオテクノロジーよりの話題はあると思いますが、こちらはＡＩとは別に、「人間」の側の倫理的なバリアの方が先に来て、人間の「ポスト人間」への進化の方向性として考えるのに、様々なレベルでの制約が存在するように思えます。
それと関係あるかどうかわかりませんが、例えばカーツワイルとかの場合、寧ろ個体の寿命を伸ばすことの方に発想がいっている。進化というのを考えたときに、個体の経験や記憶が捨てられてしまう有性生殖と世代交代によるアプローチはものすごく非効率な上に非常にスピードが遅いのを時間的なスケールと個体の数のスケールでカバーしているわけです。だからシステム上ではラマルク主義的な発想での進化が採用されたりとかするし、人工知能は死なないから、学習の成果が無駄にならず、スピードが加速できる（これは実際にはそんなに自明じゃないと思うけど）といったような、ムーアの法則的な進化のスピードアップを求めるシンギュラリティ論者にとっては、「性」というのは使い途のないものなのかも知れません。「性」というものは或る種、人間の（寧ろヒトの）生物学的な基盤に付き纏うしがらみであって、不可避の拘束じゃなく、寧ろそこから離れていくものとして考えられているように思えるのです。
というわけで、これは寧ろ事実確認に属することだと思うのですが、「性」の問題は、専らポストつきじゃない「人間」の側の問題という位置づけになっているように思えます。「ポスト人間」という視点で議論するにしても、ＡＩとしての、他者としての「ポスト人間」じゃなくて、現在の「人間」の（制度の社会の、あるいは生物学的基盤の）先にあるものとしての「ポスト人間」の側の話題だと思います。
6.「性」と「創造性」「無意識」との関わり
三輪さんの作品においても仮構された由来の側には、神話的な構造として、「性」は持ち込まれています。「愛の賛歌」という借用されたタイトルもまたしかり。それは、逆シミュレーション的な枠組みでは、アルゴリズムがマップされる、「人間」の側の文脈であると、まずは言えると思います。聴き手が機械だとして、その機械は有性生殖をしないとしたら、どうなるのか？例えば「バルジファル」第2幕やら「トリスタンとイゾルデ」の「音楽」というのはそうした機械のものでは多分ない。
更に、話題をずらしてしまうかも知れませんが、「性」の話と密接に関連しつつも、とりあえず分離して論じることができるテーマとして、一方に「無意識」があり、他方に「創造性」というのがあると思います。
フロイトはリビドーという言葉で、性的なエネルギーへの極端な還元をした廉で批判されたわけです。ポストならぬ「人間」の場合には「性」と密接に関連するのは寧ろ事実に属することであるとして、「ポスト人間」を考えたとき、ＡＩを考えたとき、無意識なり創造性なり関連して、「性」をどのように捉えることが適切なのか、という問いの立て方があるのではと私には思えるのです。もう一つ付け加えれば、フロイトが逸脱としてあつかった、例えばＬＧＢＴのようなものはどう考えたらいいのか。性と生殖は、あるところから先は分離されていて、むしろその分離こそが生物一般から「人間」を隔てるものという見方もあるでしょう。(これについては、ソームズ／ターンブルに人間の初期発生過程での性の分化に関する最新の知見の紹介がある。)
或いは「性」じゃなくて「死」はどうなんだろう、と思います。同様に、一方に「無意識」があり、他方に「創造性」というという構図は成り立つ。こちらなら、個体の経験や記憶が生殖においては遺伝されないで捨てられてしまうという非効率に対して、技術が、メディアが関わって、という展開の中に、ＡＩを位置づけることはできる。個人的にこちらは関心があるからかもしれないけれど、見通しをつけられそうな気がします。
「性」の問題は、人間の無意識と意識を問題にし、その延長で「音楽」を考える場合には、無視できないファクターであるけれど、ＡＩをシリコン上にインプリメントされた存在と捉えたとき、それを、「ポスト人間」、あるいは異星生物体として捉えたとき、「性」がないことはどうなのか？あるいは「性」というのを、系の複製の際に意味を持つ或る種の属性であると一般化してみたらどうなのか？
「ポスト人間」やＡＩを考えたとき、無意識なり創造性なりに関連して「性」をどのように捉えることが適切なのかという問いの立て方があると上で述べましたが、実は 性／欲望（動？）に直結するメカニズムとして無意識なり創造性なりを捉えるというより、寧ろ、一旦切り離されたメカニズムとして私は考えています。例えばよく言われるネットを介した集合知みたいなものが、個体とは違うレベルで生成されるという枠組みで欲望（動？）としての「性」を考えるのは、不可能ではないにしても難しい。少なくとも心理的なレベルで考えない方が良さそうです。
集合知の場合、末端のエージェントはある意味、その知と同じ階層にはいない。レベルが違うわけです。中国人の部屋じゃないけれど、その場合、末端のエージェントである人間は集合知とは無関係です。寧ろ、集合知の主体が想定できたとして、その主体の力学系が記述できたとして、それが人間でいう「欲求」を持っているように見える、ということがあったとしても、それは観察する人間の認識の仕方の問題かも知れない。或る種のアミニズムとか生気論のようなもので、自分の理解できる仕方で、集合知の主体の振る舞いを理解しているだけかも知れません。
「性」というのは人間の生物学的な基盤に非常に固く結びついているから、人間から離れるとして、他の動物ならまだしも、機械とか集合知のようなものに持っていくのは難しい。「性」というものを人間や人間を含む（地球の）生物というコンテキストから切り離したとき、何をもって「性」と呼ぶのかが曖昧になる。（必ずしも性的なものとは限らない）欲求とか無意識とか創造性なら、まだアナロジーの余地があると思うのですが。
勿論、自己複製をする機械がいて、その機械の複製の仕方として、生物の「性」に相当するメカニズムが存在するとしたら、そこには（当然ですが）アナロジーが成り立つ余地が辛うじて存在すると言えると思います。ただ、これなら機械を持ってこなくても、例えば昆虫でも構わない。「性／欲望（動？）に直結するメカニズム」はそこにあるでしょう。でも今度は、「無意識」なり「創造性」なりについて論じることができるとは思えない。要するに、「無意識」なり「創造性」なりが性／欲望（動？）に直結するのは今のところ知られている限りでは、人間のみの事情だと考えられる。ただし、そうであってみれば「ポスト人間にもはや音楽／芸術はあり得ない」ような印象と、「無意識」なり「創造性」なりが性／欲望（動？）に直結するという事情の間に本質的な関係が存在する可能性の方は、逆に大いにあるのかも知れません。
一方で、「無意識なり創造性なりが性／欲望（動？）に直結する」ことと音楽／芸術の在り方に本質的な関係があるとして、それは、その「性」は（例えば昆虫のようには）生殖に直結したものではないからという可能性は多いにありそうです。でも、生殖から分離された性的欲望というのは一体何なのか。それをＡＩにインプリメントしようという話はあまり聞きませんが、これもまた、ドイッチュ風に言えば、わからなければインプリメントできないし、インプリメントできたらわかったということなのかも知れない。機械にインプリメントができたら、その機械は音楽を欲するのか、芸術を求めるのか。論より証拠で実験してみるというのはありかも知れません。それこそシミュレーションしてみるべきなのかも知れません。ただこれは、つまるところ人間が何故音楽を、芸術を求めるのか、という話であって、ＡＩとか「ポスト人間」の話と関係あるのかどうか、良くわかりませんが。
7．異なる性の在り方についての思考実験（１）
思考実験ですが、単性生殖でも1世代に人間並みの時間があって、自伝的意識を備えた存在であったとしたらどうでしょうか？この場合、他者に対する性的な欲動のようなものはないのでしょうが、死についての了解については変わらないと思います。
家族や社会のありようはどう変わるのでしょうか？性的な側面を除外した他者との関わりがどう違うのかは良くわからないですが、「無意識」や「想像力」についても概ね同じ、意識の発生、自伝的な自己の成立要件も同じ、そして音楽／芸術を必要とするという点でも同じ、という可能性は本当にないのでしょうか？
繰り返しになりますが、この場合「パルジファル」の第2幕や「トリスタンとイゾルデ」のような作品は生まれないでしょう。でも「フーガの技法」とか、「音楽の捧げもの」はどうでしょうか？宗教についても、教義にはかなりの違いが出てくるでしょう。ただ、仏教における諸行無常とか一切皆苦といった認識は同じように出てくるのではないか。古事記をはじめとする神話の類は、まったく構造を異にする（何しろ、イザナギ・イザナミがもうだめですからね。）でしょうが、でも保存される神話もあるかも知れません。どれが残るのかをシミュレートするのはそれなりに意味がありそうに思えるのですが…万葉集に相聞がない、というのは想像しがたいですが、挽歌は存在しえるでしょう。叙景歌もやはり存在しうるように思います。
残念ながら、これは今すぐシミュレートはできないでしょうが、思考実験としてはありなのではないでしょうか？性なき他者としての「ポスト人間」とのインタフェースのデザインの問題です。逆に「性」というのが具体的にどこに効いているのかが見えてくるかも知れません。既にどこかで誰かがやっているかも知れませんが…
8．異なる性の在り方についての思考実験（2）
もう少し細かい議論をしてみます。
A.まず有性生殖の定義
一般には減数分裂・接合を行うか、つまり遺伝子の交換をするかどうかというところに線引きがされているようです。ということは、（言葉からすると違和感があるけれど）性の種類数は、有性生殖とは独立ということになります。性が1種類であっても、一般には減数分裂・接合を行えば有性生殖ということになる。また、進化の要件である多様性の確保と、性が2種類以上であることも少なくとも理論上は関係がないことになります。またウィルスのように生物じゃないものでも、条件によってＤＮＡの交換が起きることがあるらしく、これは定義上（生物じゃないので）有性生殖とは言わないらしいけど、進化の観点、多様性の確保と言う観点では、事実上、有性生殖と同じと考えていいように思います。
B.個体という観点から見ると、雌雄異体かどうか
動物はほとんど雌雄異体のようですが、植物は雌雄同株の方が寧ろ多数派だと思います。この場合自家受精というのが可能です。性が2種類以上あったとしても、生殖のために他者を探す必要はない。また動物の場合には、性の転換をするものがあります。一方で、雌雄同体の動物でも生殖のためには2つの個体が必要ということになれば、雌雄同体かどうかは、行動という観点からみたらあまり意味がなく、生殖のためには他者を探さないとならない。
C.配偶という観点からは、自家不和合性を持つかどうかとか
仮に雌雄同体であったとしても、自家不和合性があれば、生殖にあたっては、他の個体が必要です。植物は動きませんから、他者を探すわけじゃないですが、生殖という観点からは雌雄異株と変わらないことになる。
進化という観点からは、まず多様性が確保される必要があるわけですから、まず減数分裂・接合をしない無性生殖だけというのは不利でしょう。古細菌・真正細菌の主な増殖メカニズムはこっち、真核生物は有性生殖が普通のようです。多様性からすれば、我々も含む真核生物が圧倒的に多様なのはそのせいです。ただし、当然のことながら有性生殖はコストが大きい。まずスピードの点では分裂の方が早いのは当然です。多様性の確保という観点からすると性の区別は必須ではない（減数分裂・接合が要件である）のですが、性の区別がなくても生殖には他者が必要とされることがある（植物の自家不和合性とか雌雄同体や性転換をする動物でも生殖には2個の個体が必要なケース）ことは留意されるべきでしょう。
進化における順序としては植物においても雌雄異株というのが一番新しいものであるらしいこと、動物の場合は、結果的にほとんど性別を持ち、雌雄別体であることは、それが進化の上で何等かのメリットがあるからだと考えるべきでしょう。進化の上で有性生殖が有利である理由、性の区別があるものが多い理由というのは様々な仮説があるようですが、定説に至っているものはなさそうです。
あと、ちょっとレベルは違いますが、性の区別があって有性生殖の場合でも、いわゆる単為生殖というのはある。人間の場合にはほとんどありえないようですが、神話とかではちょくちょく登場するし、マリアの処女懐胎はそれが事実なら、単為生殖の一例となるようです。想像をたくましくするまでもなく、既存の生物で既にこれだけの多様性がありますから、人間の性のあり方というのはその多様性のうちの1つの点に過ぎないということを踏まえる必要があると思います。
上記に基づいて改めて先の思考実験を取り上げてみると、あまりに前提が粗雑で乱暴であると感じられます。単性生殖といっても、まださまざまなパラメータが考えられるでしょうから。1世代に人間並みの時間があって、 自伝的意識を備えた存在たりうるためには、無性生殖ではだめ、そもそも事の始まりから無性生殖なら、細菌や古細菌より複雑にはなれなかった筈ですし。従って生物学的には有性生殖だけれども、雌雄同体であって自家不和合性がない場合か、単為生殖のような場合を考えるかということになるでしょう。
9.異なる性の在り方についての思考実験（3）
とはいうものの、先の思考実験の条件は、全く適当に設定したというわけではありません。上記のように一般化して補足したものの、人間は（例外的にアンドロギュノスになることはありますが、通常は）雌雄同体じゃないし、だから自家不和合性は議論しても仕方ない。すると単為生殖あたりがポスト人間を考える際の「現実的な」線ということになりそうです。
もっと現実的になって、現在取沙汰されている選択肢を考慮すれば、という観点で行くならば、性の区別は保ったまま、クローン技術の少し先で、減数分裂・接合を人為的に行うあたりが一番現実的のようです。そして「性なき自己」がポスト人間（あくまで地球上生命として）にあり得るのか、つまり、未来の人間が地球上生命としてのしがらみを断ち切る時が来るのか、立場の問題かも知れません。
繰り返しになりますが、カーツワイルのようなシンギュラリタリアンはクローン技術とか個体の寿命を伸ばす技術を人間の延長としてのポスト人間について考えますから、テクノロジーの力で、もともとの生物学的基盤とは異なったやり方が接ぎ木されることをもって「しがらみを断ち切る」と言えるかも知れません。
が、性の区別なく、減数分裂・接合を行うというのが、生物学的にも可能であるならば、それは「地球上生命」が持つ、別の選択肢に過ぎないという見方もあり得るでしょう。
では、「個体」の情報をダウンロードし、コピーして別のメディアにアップロードするような発想は？別にデジタル的なものを持ち込まなくても、臓器移植の極限のようなものとして可能になると考える向きもあるようです。（その先にはサイボーグがあるということになるでしょうか。）
確かにそれは物理的にはできるのかも知れませんが、移植された主観にとっては、それはカタストロフィックな出来事じゃないかという気がしてならない。仮に免疫系とかそういう生理的な側面が全てクリアできたとしても、「私」にとって、別の身体に乗り移るというのは不可能事、私と身体はそのように分離することはできないのではないかという気がしてなりません。（グレッグ・イーガンの「エキストラ」参照。）
前に取上げた、神経科学と精神分析の接点にあるいは繋がっていくのかも知れませんが、乱暴な言い方をすれば、そのような「私」の移し替えは「精神的」には錯乱を、人格の崩壊をもたらすことにしかならないのではという気がしてならないのです。「バスタブの中の脳」というのは、空想の、抽象の産物なのではなかろうか、ということです。
これはかなり強い主張で、サイボーグはあるところから先は不可能で、補綴性というのは、その線の手前を指し示す、と言っているに等しい。（ちなみにこれは、一から意識を備えたロボットを作ることとは別の問題と考えます。その場合には身体の素材の違いはあれ、初めからロボットの意識というのはその異なる身体の基盤の上で構成されていくことになるわけですから。）
他方で個体の寿命を延ばすことの方も、もう少し細かく見てやる必要があるでしょう。老化を防ぐことと寿命を延ばすことさえイコールじゃない。何等かのエラーで成長が止まってしまうケース、逆に老化が早く進むケースがあるようですが、個体の死は、少なくとも論理的には別の話です。
老化にはテロメラーゼという酵素が関わっていることはわかっているようですが、それが寿命の延長に使えるとは限らない。簡単な話、それは癌の増殖のメカニズムと表裏一体なわけです。寿命を多少伸ばすことは可能になっても、それを際限なく続けることができる保障などありませんし、成長が止まったら不死かといえば、勿論そんなことはありません。幾らでも死を引き起こすトラブルはありえます。（そもそもほとんどの人間は、そうした意味合いでの天寿は全うしておらず、それを妨げる要因は、それこそ無数にある。）
更に、そのレベルで何か可能になったとして、脳という器官が適切に機能し続けることが可能かどうかはまた別の話です。最後はまたしても精神医学的な話に行きつくかも知れません。
そんなこともあって、思考実験では個体の有限性を残しました。クローンはＤＮＡは同じかも知れませんが、「私」とは違った存在です。私の経験も記憶も引継ぎません。そして私の経験とか知識は、テクノロジーによって、第三次過去把持を可能にするメディアによって、別の仕方で記録され、（それが価値あるものであるならば）他の個体と交換され、引き継がれるというのは暗黙の前提にしています。
10．AIは「性」を持つか
AIは「性」を持つかについては、生殖技術が発展した挙句に、生物学的な性から完全に独立してしまった時に、セクシュアリティというのがどのようなものになるのか、の展望によると思います。
カーツワイルも、この点に触れていないではありませんが、話の本筋じゃなさそうです。生殖から切り離されて、でも性的な欲動の方は残るとしたら、それはいわば機能を喪失する、使い道のない欲動になるわけですが、新たな機能を獲得するのでしょうか。
では、その時「神の領域」は、やはり、なくなるのでしょうか？違うものに代わるのでしょうか？性的欲動が、延長意識の裏側というか下側（無意識の領域）から出てくるという構造が変わらなければ、「他者性」はなくならないというようにも考えられます。（創造性についても同じことが言えそうですが。）であれば「神の領域」は残ることになる。ただそれが同じ価値を持ち続けるかは別です。だから残っても違うものになる可能性はあるでしょう。
その一方で、AIが創造性や良心を持つ段階に達するのはまだ先の話だが、それに近づく過程では統合失調症のような「精神」を持つAIが現れるかもしれないというのはそんなに突飛な想定ではないだろう。
更に言えば、彼ら（＝ＡＩ）は性を持たない。少なくとも今のところ。彼らの「繁殖」の仕方というのはどういうものでしょうか？単性生殖の思考実験は実際のところ、「彼ら」のことを意識してのことでした。今のところは、それに近い。現在の状態ごとコピーされる。リセットされ初期化されてもう一度学習が始まる。いずれにしても有性生殖というのは非効率に思えますが、でも、彼らが自分で繁殖の仕方を見つけるようになったらわかりません。生物の進化の歴史を繰り返すのかもしれない。単性生殖で、進化を止めたまま増殖することを選択するグループもあれば、何かのはずみで、有性生殖に近い増殖の仕方をするグループが出現し、それらが多様性を獲得し、複雑性も獲得して、自律的に進化するかも知れない。
こういう話だと、有性生殖が意味を持つ閾値のようなものを考えるのに、古細菌や細菌が持っている情報量と、ＡＩの情報量を比較するとかいう話になるかも知れません。計算リソースの制限がなければ（これは自明ではないです。彼らは今のところは電気がなければ生きて行けないわけですし）、真核生物に相当するＡＩが出てきて、進化の爆発が起きる、といったことも考えられるのかも知れません。
でも、一旦現時点とその近傍に戻りましょう。彼らは性を持たない。彼らの側から見たら、人間の性的欲動というのは理解の外、ということになる。よしんば無意識のような領域を備えるように彼らがなって、自伝的自己・延長意識を備えて、創造性を、良心すら獲得したとしても、性は欠けているかも知れない。性が欠ければ、自伝的意識があっても、セックスはない。セクシュアリティはない。彼らの文学（ビット文学）には相聞はない。（いや確かに、レムの「ビット文学の歴史」には、そういうジャンルはないですね…）こう考えると、「性」こそがＡＩと人間とを隔てる「他者性」ということにもなりそうです。
ロボットに恋する、恋するロボット、というのは話題としては良く出てくる。ロボットに恋するのは、いわはピュグマリオン以来の古典的な話。ＡＩになってもそれは有効で（だから計算アニミズム）、人間はロボットに自分の構造を容易に投射してしまう。チューリングテストで恰も恋するロボットを演ずるエージェントは作れるかも知れませんが、性のないＡＩには恋するというのは原理的にありえない。ＡＩがセクシュアリティを「理解」することはない。この非対称性こそが（唯一じゃないにしても）、ＡＩの他者性である、と。
でも、ＡＩを神として信仰することはできるが、ＡＩが神を信仰することはないというのはどうでしょうか？ＡＩにとって他者は存在しない？いや例えば人間は他者じゃないのか？人間が、動物や植物や、山や海のようなものにすら神を見出す、アニミズムはＡＩにとって無縁なのか？人間の側の計算アニミズムじゃなく、計算によってＡＩの側にアニミズムが生じるかどうかを問うべきじゃないのか？
かくして、ＡＩにとって芸術が必要か、ＡＩが音楽の聴衆の位置に来れるかという問題にようやく戻って来れたような気がします。
補説2．サイボーグ
私はサイボーグはあるところから先は不可能と書いて、補綴性をその境界の手前を指示する言葉であると言いました。言い替えれば、補綴的な人工器官・臓器に限れば（それをなおサイボーグと呼ぶなら）サイボーグは可能であるということです。
一部は現在のテクノロジーで既に実現している。人工肺・人工心臓・人工透析装置・義手・義足・補聴器・人工音声合成装置などが直ちに思い浮かびます。あるいは最近実用化に近づきつつあるパワードスーツのようなものを含めていいかも知れません。フォルマント兄弟のＭＩＤＩアコーディオンも含まれるでしょう。
これらの特徴の一つは、それらが非侵襲的である点です。詳しくは知りませんが、侵襲的な人工器官で実用化されているものは非常に限定的ではないかと思います。ぱっと浮かぶのはペースメーカーくらい。これは確かに侵襲的だけれど、機能的には補綴性が非常に強い。（非侵襲的で、代替的な人工心臓と対照をなすように思います。）
私が否定しているのは、いわゆるＳＦ的なイメージのサイボーグで、その特徴は侵襲性にあると言ってよい。寧ろこちらの領域では、再生医療のようなアプローチの方がまだ現実的ではないかと思います。それも人工臓器と呼べば呼べるかも知れませんが、例えば臓器移植との線は曖昧になる。
一方で補綴的で非侵襲的な人工器官・臓器は今度は「道具」との境界が曖昧になる。違いは欠損を補綴するのか、もともと無いものを付加するのかにあるように見えますが、この境界も極めて流動的なのは容易に想像いただけると思います。
アンディ・クラークの「人間はサイボーグだ」という主張は実は、道具の利用を含めた身体性の拡張のことを言っていて、そういう意味では、寧ろ「環境」と「自己」の境界の引き直しの主張に過ぎません。紙と鉛筆から、電子辞書、電卓、コンピュータといった、一般には道具と見做されるもののうち、人間個体のさまざまなアクションの系列の一部に組み込まれるものは「拡張された心」と見做しうるという主張に過ぎない。
（これはちょっとクラークに対してフェアじゃない。というのもクラークの言語という「夢の技術」について言及しています。ジェインズのようにそれが「意識」の発生のファクターとなったというような発生論的な話はしていないですが。またデネットとダマシオを参照しつつ「物語的な自己」に言及して、それが生物と技術のハイブリッドかも知れないという「提案」をしていたりもして、大筋では同じような考えであるとは言えると思います。結局、ポスト人間にしても、ＡＩにしても、それにより一体何が変わると、音楽・芸術にとって本質的な影響があるのか、という点を押えておく必要があると思います。）
これは丁度、スティグレールが現象学的存在論の方向から、第三次過去把持を実現するものとして（広義の）メディアを捉え、メディアとの関わりが、自己とか主体とかのあり方を本質的に規定していると捉えたのと軌を一にすると言ってよいように思います。寧ろ、スティグレールが「言語」のようなものもそうしたメディアに含めていることを考える、そっちの方が一般性があると言えるのではないかとも思います。
更にそれを推し進めれば、必ずしもパーソナルなものではなく、社会的な関係を可能にする有形・無形の存在（例えば規範のようなものさえ含まれうるでしょう。フロイト的にはそれが内面化されて「超自我」になるわけですし。）も含めて考えるべきだということにならないか。自己というのは重層的な社会的な関係性の中で多重に規定されるものではないのか、ということにもなります。（役割・ペルソナみたいなものを思い浮かべてもいいでしょう。）
ここまでくれば、ネットワークにおける「自己」、ヴァーチャルな領域における「自己」といったものに繋げるのは容易です。フォルマント兄弟のようなユニット（ここでは複数性が表示されていますが）、ブルバキのような匿名の集団的作者、万葉集や平家物語のような作品の「作者」（これは互いに時代が異なり、直接関わりを持たない複数の人格が関わっているものと考えられます。）のようなものは、特段、ポスト人間的な状況でもなんでもないわけですが、こうしたものと質的に異なる何かが出てくるかどうかを考えればいいようにも思えます。
ただこうなるとこれはもうＡＩの話とか「ポスト人間」とかの話じゃなくて、もっと手前でやっておくべきことであるような気がします。しかもこれは専ら人間の側の話であって、非侵襲的なメディアを加えたところで人間とそうしたメディアの社会のようなものの話にしかならない。そうしたことが適切に語られているかどうかという話は別にあるでしょうが、やっぱりＡＩとか「ポスト人間」とかで予感されている状況とはちょっと違うように思えます。
そもそもこれだと、自己がふわっと拡大していって、再現なく拡散していくけれど、どこまでいっても「他者」は出現しない。寧ろ、例えば電気の供給が止まったとかいった事故のようなものこそが「他者」であるということになっていきそうです。勿論、そうした他者（例えば3.11）に対して、音楽・芸術が果たす役割というのは、これはこれで永遠の問題かも知れませんが、寧ろこれは古典的な問いに属するでしょう。それでも、ここにも非日常、「神の領域」の開口部があるには違いないのでしょうが。
11.ポスト・ヒューマンにおける「性」
これまでの思考実験の設定は、あくまで「性と死」とは別個に考えることが可能だということを考えるために設定するという前提に立っています。しかもここでの「性」は、生物学的な性別の存在そのものに置きました。けれども、既にお気づきかもしれませんが、生殖を目的としていた性別を持っていることが引き起こす諸々の行動を、生殖から分離するということに限定すれば、何も上記のような面倒なことは必要ありません。
現在の生殖医療技術でも、かなりその分離は達成できている。これは既存の進化が築き上げてきた手段をそのまま利用してテクノロジーの力を借りて加速することと捉えられますが、優生学上のモラルなどを気にしなければ、更に先に進むことも技術的には可能でしょう。
カーツワイルの描く未来にも当然のこととして、この側面は含まれているようです。ただし、このレベルだと、勿論、そうした現実に対して音楽・芸術がどうあるべきか、という議論は勿論成立するし、それが意義を持たないというつもりはありませんが、「ポスト人間」とか「ＡＩ」とかに対して音楽・芸術がどうあるべきかというところに届かない、手前の話になってしまいはしないかとも思います。
既にクプファーは数十年前に、「パルジファル」2幕の花の乙女をモニターに映し出すという演出を試みましたが、現時点ないし少し先を考えた時に、クンドリーがヴァーチャルな存在となるといった演出は誰かが思いつきそうです。既に歌舞伎と初音ミクの共演というのは実現しているようですが、トリスタンないしイゾルデをヴァーチャルなキャラクターが演じるというのなら、欧州の目立ちたがりの演出家にすれば、発想のレベルでは当たり前すぎて面白くないかも知れません。（「スターバト・マーテル」のアルトは既にフォルマント兄弟によって機械による歌唱がリアライズされているわけですし、最初に取り上げたヴァーチャルホロヴィッツとの合奏というのは類似の発想でしょう。）
相聞のない万葉集どころか、更に挽歌もない、叙景の根源としての土地誉めのような呪歌もない万葉集はさすがに考えられません。「性」そのものというより、「性」を含む（そして現実に人間の場合にはそれが非常に大きな比重を占めているのは事実だと思います。相聞を抜いたら万葉集の3分の1が無くなるとのことですし）「合理的とは言えない、理不尽なもの」が音楽・芸術の源泉であるというのは間違いのないことだと思います。
一方、数学者や物理学者の営みの「創造的」な部分は、それ自体は同じように「合理的とは言えない、理不尽なもの」ではないでしょうか？ほんの一例だけど、ポワンカレだって、マクスウェルだって、「無意識」の力に導かれてあの業績を達成したのですし、ベイトソンもマイケル・ポランニーは勿論、チャイティンもドイッチュも、「合理的とは言えない、理不尽なもの」の力を重視していると思います。
結局のところ久保田さんもファステも、自分はポスト人間じゃない。ポスト人間じゃない存在がポスト人間にどう出会うかという立場で話をしているということじゃないかと思います。ポスト人間は定義がそれぞれなので、ＡＩに限って言えば、今のＡＩに欠けているのは、数学者や物理学者の営みの「創造的」な側面です。明示的な記号操作からニューラルネットの重み調整になっても、所詮、学習の指導原理が確率密度の推定である限り、「新しさ」は出てきません。もしＡＩを活用して新しいものが出てくるなら、その新しさは活用する人間の側にあるのです。そしてそれは「合理的とは言えない、理不尽なもの」と源泉を共有している。「性」がどこまで効いているかは明らかじゃないです（とはいえフロイトは多分行き過ぎだと私は思います）が、「無意識」のないＡＩが「ポスト人間」には到達できないというのはほぼ確実なことだと思います。
ただ「意識」の方がどこまで必要かは良くわからない。憑依して神の言葉を語るのであれば、これはジェインズの「二分心」（bicameral mind）そのもので、意識は不要ということになる。ジェインズは『神々の沈黙（邦題）』で一見意識が関わっていそうで、実は意識なしでできることを列挙しています。音楽とか詩の「原型」は意識なしで成立すると思いますし、楽器の演奏とか、聴取の大部分も、恐らくは創作のある部分も意識なしでできるということになるかも知れませんが、三輪さんの「音楽」はどうなのか、メディア論が持つ反省的な志向、或いは例えば逆シミュレーション音楽の定義のようメタ音楽的と言ってもよい側面は、意識の介在なしに可能とはちょっと思えない、というのが外から見た印象なのですが…
補説3．いくつかの文献にみるAIと「性」、「二分心」の未来
まずレムを見ていきます。『天の声』や『ソラリス』ではなく、『虚数』の中の「ゴーレムXIV」, 「ビット文学の歴史」「ヴェストランド・エクステロペディア」、『完全なる真空』の中の「我は僕ならずや」あたりでしょうか。ロボット物、「泰平ヨン」シリーズにも性を扱ったものがありますが、一旦ここでは上記に限定してみます。
「我は僕ならずや」と「ビット文学の歴史」ではＡＩが超越者を推論し、神学を構築し、ということになっています。が、ここには「性」も「無意識」も「罪」も存在しません。レムにおいて性は常に人間の側（せいぜいのところ地球外も含めた生物）のものです。レムのＡＩは、超知性であって、身体も持たないし、無意識も本能もないことになっています。その当否はともかく。
私はＳＦの良い読者じゃないですが、アントロポモルフィスムに陥らずにＡＩが恋をする、というのを突き詰めた話というのは聞いたことがない。いわゆるサイバーパンクとか、グレッグ・イーガンあたりだと人間の進化したポスト人間が登場して、そこで「性」がどうなっているという話はあるようですが。
また、自己増殖するロボット、機械上生物というのはこちらは割とありふれていますが、そこで「性」が問題になることはない。工業製品のように、自己増殖オートマトンのように増えていくものとなっているようです。あったらあったで、今度は、地球の生物の類推に陥っている。しかも「性」は取り上げても、セクシュアリティは多分、きちんと扱われていないのではないでしょうか？
結局のところ現在のＡＩの延長線上では、考えにくいし、考える必要も見いだせない、ということなのではないか。やはりＡＩは「性」なき他者なのではないか、という気がします。
レムの『虚数』、「ゴーレムXIV」については否定的な評価もあります（つまり『ソラリス』とか『天の声』に対して、コンタクト不能性みたいなものが後退している、或る種のアントロポモルフィズムに陥っているという評があります）が、私はレム自身が言いたかったことをここにありったけ詰め込んだという点で、特異点を為す作品だと思います。何となく、レムは自分が「ゴーレム」になりたかったのではないか、という気すらする。
また繰り返しになりますが、ＡＩが結局のところ人間を尺度にしていることを踏まえれば、ＡＩを考えるについては「ゴーレムXIV」と「ビット文学の歴史」は、寧ろそれに相応しい設定になっていると私は考えます。結局、それは人間を問うている。「ゴーレムXIV」が人間に対して講義するのは人間についてで、それは恐らくレム自身の認識であって、レムはこういう形式を借りて自己の認識を語ったのだと思います。
「ヴェストランド・エクステロペディア」は、真面目に理解しようとする必要はない、これはパロディなんだと思います。でも、そのパロディの中にレムが、本当はもっと理論的に突き詰めたかったアイデアが詰め込まれている。最後にＡＩの進化を示した図表がついていると思いますが、これを参考に「ゴーレムXIV」を読むと感じがつかめると思います。
「我は僕ならずや」は人工生命が進化して言語を持ち、対話を始め、そこで自分達を創造した存在が「外部」に居るということを論理的に推論するようになったその議論を、人工生命の創作者である人間が「盗聴する」という設定です。ただ、その内容はクラシックな神学論・哲学論の蒸し返しに過ぎず、だからその内容に新規性を期待すると「退屈」という評価になってしまうのだと思います。（イーガンは同じ趣向でもっと先まで推し進めた「クリスタルの夜」という短編を書いています。）
私はこの短編を読んで、光瀬龍の『百億の昼と千億の夜』の末尾、阿修羅王に、かつて転輪王が聴いたという「声」、宇宙の外側からの「声」を聞かせる場面を思い浮かべました。こちらでは我々のこの宇宙が、外部の存在の実験環境の内部であるという設定になっていて、丁度、レムの短編の逆になっている。『百億の昼と千億の夜』には、人間の人格がカードに記録されて保存されるというシンギュラリタリアンばりのモチーフもきちんと採用されているし、さすがにもう50年前のＳＦだから古びた部分もありますが、何より宗教の問題を正面から扱っていて、キリスト教の終末論とか、仏教の中でも弥勒信仰のような浄土信仰のような発想への懐疑が中核にあって、「シンギュラリティ」のようなテーマを考える時に、批判的な拠点たりえると思います。
最後にカーツワイルの『ポスト・ヒューマン誕生（邦題）』を確認してみましょう。「性」については、やはり人間の側の問題として出てきます。
第6章「衝撃」のp.384以降の「人体」の節では、「性」が生物学的機能からかけ離れていることが、食事の摂取方法を変える話の枕になってしまっています。そしてその後の「人間の脳」の節末につけられたp.410から始まる架空の人格の対話のパートには、フロイトが登場して、「性」に関連した話題が扱われますが、これもヴァーチャル・リアリティの獲得と生物学的肉体の放棄というコンテキストで扱われていて、人間の側のテクノ進化の中での話です。
彼の特異点へのアクセスの方法の主要な柱は、遺伝子工学、ナノテクノロジー、ロボット工学です。「ゴーレムXIV」のような異形の知性の神を作るのは彼の方向性ではない。人間を置きかえていって、人間がＡＩに融合していくと言ってもよい。カーツワイルの場合には、というわけで、人間が神になるののだと思います。或る種の超人思想といって良いように思えます。
久保田さんは、寧ろＡＩが神になる方向でしょうか。ＡＩは人間の真似をする必要はない。パスキネッリの「大脳化」ではなく、「脱脳化」が進むべき方向であるという主張で、だからこそＡＩが人間の他者になって、他者のためのデザイン、インタフェースづくりをしようという発想になる。ＡＩを神として信仰することは、久保田さんの想定外かも知れませんが、これも他者との一つのインタフェースではあるのは間違いない、しかも、人間が意識を持ってこの方、ずっと採用してきた伝統的なインタフェースであると思います。
ただ、これだと人間がどう変わるべきか、という話にはならない。対象は変わっても、相変わらずのカーゴカルトで良いのであれば。
一方、カーツワイルのヴァーチャルリアリティは、或る種の「ポスト性」と見做せるかも知れない。多分にカリカチュアライズされている気味がありはしますが。それを承ければ、寧ろ延長意識・自伝的意識の後に来るものがあるのか、ということは考えてみたいように思います。延長意識・自伝的意識が身体によって支えられた無意識の上に構築されているという構造が基本にあるわけですから、これがどう変わっていくのか。
或いは個体としての人間の意識の構造は同じだけれど、社会の構造の方が大きく変化することで、結果として、文化的・社会的変容が起きるという方向性なのだろうか、とも思います。或いはそれが原因で、意識の構造が変わっていくということがあるのかも知れません。「二分心」の崩壊も、そのようにして起きたというのがジェインズの主張であるわけですし。
どうやらカーツワイルの未来学より、ジェインズの考古学の方が私は気になるようです。
更にもう一つ、計算機論的神経科学の嶋津好生さんの「ロボットが神々の声を聴くとき」という論文があります。Webで見つけたとき、まず題名にちょっと驚きました。ジェインズがまともに扱われていること、「二分心」について進化心理学的仮説を提示していること（つまり右脳の言語野の発達が現在と異なれば、二分心が生じうるという仮説を非常にラフだけど提示していること）、そこから、ロボットを進化させると「二分心」の時期（ヒトの指図を従順に神の声として聴く時期）が存在するであろうという予測をしています。
ＡＩが神を信仰する、とはいかずとも、ＡＩが「二分心」を持つ、神の声を聴くということを計算機論的神経科学者が発言したケースとして指摘しておきたいと思います。
12.ポストヒューマンと音楽
改めてファステ・久保田さんの「他者のためのデザイン」を振り返ってみると、以下のような疑念に突き当たります。
「音楽」というのはそもそも他者のためのデザインじゃなかったでしょうか？
それは「非合理的なもの」「知的な理解を拒むもの」「制御できないもの」として、人間を超えた存在、神的な存在に対する祈りであった筈です。対立する「人間のためのデザイン」というのは、確かに音楽の場合にも存在するでしょう。（商業的な音楽、自分の雇用主の娯楽のための音楽、或いは「心から心へ」の音楽は、いずれも人間のためのデザインと規定できるかも知れません。
ただ、こと三輪さんについてはそうではないのは明確です。
「ポスト人間」としてＡＩを想定したとして、それは例えば再演間近な「新しい時代」の礼拝の対象なのでしょうか？一方では、「ポスト人間」の世界には、音楽も芸術も不要に感じられるとしたら、それはやはり人間の側が変わってしまったらという想定があるように思える。言ってみれば、人間が自ら超人＝「ポスト人間」になったら、その暁には（三輪さんの意味合いでの、他者のための）音楽・芸術は不要になる、ということではないでしょうか？逆にその時にも、「人間のためのデザイン」のアナロジーとしての「ポスト人間のための音楽」というのは存続するのかも知れませんが。
ここから久保田さんの「計算アニミズムと人工知能」にもう一度戻ってみるべきかも知れません。些か恣意的な切り取り方になるかもしれませんが、電力依存の「魂」「心」、「マレビト」への祈りということなら、三輪さんのテーマと繋がるように思います。ただしこれだと三輪さんは、既にやりつくしていて、特に改めてやることはない、ということになるかも知れませんが…
どうやら、ポスト人間時代におけるＡＩと音楽というように問題設定すると、ポスト人間について2つの側面があるということのようです。
1つは他者としてのＡＩの側（１）。もう一つは人間の側のポスト人間化（２）。
久保田さんのおっしゃる通り、これは共進化していくと考えるべきなのでしょうが、そうなると、初期設定の仕方にもよるし、両者の具体的な関わり方によっても展望は全然違ったものになりそうです。
例えばカーツワイルならカーツワイルのストーリーに依拠したとしたらどうなるだろう、というような話はできるでしょうが、そもそもカーツワイルの主張に乗っていいかについては、少なくとも私の側は（既に書いた通り）留保したいと考えています。でも、ここで問題なのは、このレベルでカーツワイルの予想が妥当かどうかの検討じゃないと思います。それはもっと専門的な知見のある人間がやればいいことでしょう。他方、ポスト人間としてのＡＩということであると、久保田さんのいう「他者」という見立てになる。人間の側は、ポスト人間じゃなくてもいい。というか、今の人間が、自分がなるにしても、自分でない他者として作り出すにせよ、そうした、現在の人間とは異なる存在に対してどう対処するか、という問いかけであると考えることもできるでしょう。
この視点だと、三輪さんは既にその創作の初めからこの問題に取り組んでいるという見方さえできると思います。まさに三輪さんの音楽は「他者のためのデザイン」の追求で、その限りで久保田さんの主張を先取りしていると思います。
計算アニミズムについては、既にパスキネッリの原論文を読んでのコメントを掲げましたが、寧ろそうしたことで言われているのは、現在の人間に対して、ＡＩなりポスト人間が、「他者」として感じ取られているという前提があるように思えます。
この時、スティグレールやアンディ・クラークの言うように、そもそも現在の人間が、テクノロジーとの共生を前提とした存在であるとしたら、ＡＩなりポスト人間は、その延長で捉えれば良くて、別に「他者」扱いする必要はないという方向性が一つあると思います。それは自覚がないから、現状が見えてないからで、別に驚くべきことじゃないんだ。錯覚なのだと。（Ａ）
他方で、いやそれはやっぱり「他者」なのだ。それは人間とは異なるものなのだ、という捉え方がある。デジタル時代の新たな「神」として礼拝するような対象なのだ。或はラッダイト運動よろしく、そういうものの出現は認めるべきじゃない、という逆の反応もあるだろうけど、結局、それは「他者」性を認めている点では同じです。（Ｂ）
インタフェースのデザインが必要だという時、上記の（Ａ）（Ｂ）の両者がいわば共存しているように思えるのです。
これがどうＡＩと関係するかと言えば、人間が尺度である筈のＡＩが、人間を超え、あるいは逸脱していく面を重視するか（Ｂ’）、（共進化込みでもいいですが）結局、ある時代の人間に似せていく（Ａ’）という両面があるだろうということです。ＡＩというのは、定義上、こうした捻じれを持っている。それ自体は学問というより、人間の根深い欲動の現われと捉えた方がいいのかも知れません。（佐近田さんの機械の存在論に繋がるか？）
で、ポスト人間時代におけるＡＩと音楽というのが問題になるからには、実際には上記の（Ｂ）（Ｂ’）のモメントが寄与している部分が大きいように思えるのです。これに最初に設定した、他者としてのＡＩの側（１）・人間の側のポスト人間化（２）を重ね合わせると、（２）は、なんとなく、人間の本来あるべき姿というのがあって、そこから外れていくことへの恐怖や懸念ということになるでしょうし、（１）だと、直接的な反応としては、仕事を奪われるとか支配されてしまうとか、人間の尊厳が云々ということになるのではないでしょうか。
上記から、道筋としては、一旦、（２）と（Ａ）の側面はおいて、（Ｂ）（１）（Ｂ’）の系列にフォーカスしたらどうか、というくらいは出てくるでしょうか？そしてとりあえずは（２）の方は今の人間を尺度においてしまう。勿論、現状を確認する上では（Ａ）的な視点、即ち、人間は事実として、（言語のようなものも含めて、文化的なものも含めた）テクノロジーと共生していて、それは「自己」の構造のようなところまで規定している点は踏まえておくということになると思いますが。
（１）のＡＩの側は、例えば「知性」という点では人間を凌駕するが、「自己」を持たないとか、構造的にはエイリアンであるといった方向が（Ｂ）になりますが、機械に意識を持たせようという（Ａ）（１）の方向における不気味の谷みたいな問題じゃなく、（Ｂ）（１）の「他者性」にフォーカスする、ということです。
13．他者性
「他者性」が再び出てきたところで、万葉集の相聞を思い浮かべてみます。万葉におけるプライバシーというのは、結局それが「神の領域」に属するから、というのが万葉の恋の在り方であった由。この「神の領域」というのはヒントになるように思います。「無意識なり創造性なりが性／欲望（動？）に直結する」ことと関係があるのは間違いないでしょう。そしてそれは「他者性」と繋がるでしょう。
「神の領域」というのは、端的に言えば自分が制御できないものだと思います。で、無意識の領域も、創造性（霊感、ひらめき）の領域も、性的な欲動も、自分には制御できず、向こう側からやってくる他者であるという点で共通していて、いずれも「神の領域」に属するということです。
「本能の赴くままに」といった表現がありますが、これはジェインズの「二分心」的なあり方に似て非なるものであることに注意が必要です。「二分心」において、フロイトの第2局所論でいけば「超自我」にあたるものが右脳からの声、幻聴として既に確立されている。それを受けとる側の「自我」の構造が貧弱で、自伝的な広がりを持っていないが故に、首尾一貫性や責任といった概念が出てこないということです。一般的な発達モデルとしては、後から「超自我」が追加される方が自然なように感じられますが、むしろ中核意識から延長意識が立ち上がるためには「超自我」的なものとの関わりが必要であるというように捉えるべきではないかと思います。「自我」は「超自我」の確立の結果、立ち上がってくるということです。
かくして「超自我」との関わりで確立した自伝的自己・延長意識においては、「本能の赴くままに」は不可能になる。が故にセクシュアリティが主題化されるのであると。宗教にせよ、芸術にせよ、とりわけ音楽は、その起源は、自伝的意識・延長意識がない時代に求めうるかも知れません。が、それが宗教となり芸術となるためには、自伝的自己・延長意識が確立して、「神の領域」がいわば「隠れたもの」になる必要があったのではないでしょうか？二分心の時代のように、神が勝手に呼びかけてくれて、それにすぐに応じることができるのであれば、こちらから呼びかける必要はありません。「隠れたる神」ということが言われますが、それは自伝的意識・延長意識にとっては、構造的な宿命ということになりそうです。隠れているからこそ、応答がないからこそ、「神の領域」への呼びかけが生じるのだと。その呼びかけは、常に、既に遅れてしまっている。
宗教や芸術は、それが成立した時には、常に、既に遅れてしまっていて、それがうまく機能することがあまり期待できないという意味で、既に頽落したものであったという言い方もできそうです。
<後半>
14．改めて「意識」について
ここでテーマを「意識」に設定します。音楽にとって「意識」は不可欠でしょうか？「意識」などなくても音楽は成り立つでしょうか？「無意識」の領域なしでは成り立たないのは確かだと思いますが、逆に音楽に「意識」がどこまで必要か、というのは問いとして十分意味あるものに思えます。しかもこちらならＡＩやら「ポスト人間」の話に再び橋を架ける可能性も出てくるのではないかと思います。
音楽にとって「意識」は不可欠か、「意識」などなくても音楽は成り立つか？「無意識」の領域なしでは成り立たないのは確かであるとして、逆に音楽に「意識」がどこまで必要かという問を先に立てましたが、それに関して改めて、ジェインズ、ダマシオを確認して、大きく2点のことをお伝えしたいと思います。
A.上記の意識は、ジェインズの「意識」です。ダマシオで行けば「延長的意識」、自伝的な自己と対応する意識です。ジェインズの『神々の沈黙』第1部第1章で、彼は自分の議論での意識を定義していますが、そこで幾つか意識とは関係ないものを挙げています。
意識は経験の複写ではない
意識は概念に必要ではない
意識は学習に必要ではない
意識は思考に必要ではない
意識は理性に必要ではない
逆に第2章で、意識の特徴を挙げています。
空間化
抜粋
アナログの私
比喩の自分
物語化
整合化
ダマシオは、これは彼の意識についての仮説のうちの中核意識・中核自己ではなく延長意識・自伝的自己のレベルに対応すると述べています。（『無意識の脳、自己意識の脳』p.235）ダマシオの階層は以下の通りです。（同書p.370）
覚醒・対象の意味の検知・最低限の注意・イメージ生成能力
↓
原自己
↓
対象→対象のイメージ→原自己の変化→有機体と対象の間の二次マップ
↓
中核意識・中核自己
↓
強調された注意とワーキングメモリ→コンベンショナルメモリ→自伝的自己の記憶
↓
自伝的自己と延長意識
↓
言語→創造性→良心
必ずしも細部は一致しないですが、
言語の使用が（延長）意識・自伝的自己と相関しているのは見てとれます。
メディア論的には、言語の使用に加え、文字の使用・外部記憶媒体の使用、そしてそれに伴う他者とのコミュニケーションがどのように関わるかを 補いたいところだと思います。
以下で言及する「後記」においてジェインズは、意識の成立が言語の獲得と関係しているとしたら、意識の成立の時期は、もっと早くても良いのだが、ジェインズ自身は、意識は言語の獲得からかなり経って、ごく最近に成立したとみているのですが、それをメディア論的に裏付けられないか。勿論社会制度の変化等もありますが、例えば文字の使用というのが寧ろ、意識の成立と関係があるとする方が自然ではないか。
B.ジェインズの『神々の沈黙』には「後記」があって、そこには意識の獲得によって起きた変化が挙げられています。
認知力の爆発的向上（時間の空間化・回想・一生という意識）→自己の確立
情動から感情（過去や未来の情動に対する意識）へ
恐怖から不安（過去の恐怖の回想や未来の恐怖の想像）へ
恥から罪悪感へ
交尾からセックスへ
これらを踏まえて、音楽に「意識」が必要かどうかを考えてみたいということです。
補足の意図の一部は明白だと思います。
「性」の問題は、ジェインズの整理によれば、交尾の情動じゃなく、つまり有性生殖のレベルじゃなく、その基盤の上に意識が登場したことで、それがセックスにまつわる感情となったことの方に寧ろ重点があるのではないでしょうか？それにはダマシオのいう延長的意識、自伝的自己が必要である、と。
他方で、多分に無意識的な求愛行動のようなものに歌の起源を見るようなことも考えられます。（記紀などに記録された古代の歌謡から万葉集の相聞が成立する過程と上記の交尾からセックスへの変化との対応如何？というのが、「性」を軸にした場合の、万葉集の意識の考古学読みの仮説ということになるかと思います。）
でも逆シミュレーション音楽の命名・由来の付加、そして3つ組が、文字に記録され、冊子に綴じられる、というプロセスは、延長的意識・自伝的自己の産物ではないだろうか、ということです。
続けて「他者のためのデザイン」についての補足です。ジェインズの以下の整理に注目します。
意識は経験の複写ではない
意識は概念に必要ではない
意識は学習に必要ではない
意識は思考に必要ではない
意識は理性に必要ではない
ＡＩの「他者性」を上記の後者が獲得されているように見えるのに「意識」を備えていない、という点に集約することはできないでしょうか？ジェインズの枠組みを借用したら、ＡＩが「二分心」を持った存在であるとしたらどうか？これは現在のＡＩの水準からしたら、かなり欲張った背伸びした仮定ですが、それでもなお、「意識」を持たない、「二分心」のような心の形態が考えられる、というかジェインズが正しければそれは歴史的事実に属するわけです。
「二分心」の名残りが、統合失調症のような精神的な疾患に見られるという主張もジェインズはしているわけですが、ＡＩに対するということが病理的な精神に向き合うようなものになる可能性がある、とは言えないでしょうか？
ここから更に広げて、或る種の発達障害の中には、部分的には知的と見做される能力が異様に発達した類型があるということになっているかと思います。いわゆるサヴァンと呼ばれてきた類型です。
レムの「ゴーレムXIV」では、ＡＩの学習が失敗して病理的な兆候を示すといったことがエピソード的にちりばめられていますし、ＡＩにモラルを、（軍事目的で利用するにあたり）愛国心や大統領への忠誠を学習させるといった話もカリカチュアライズされて記述されていますが、良心というのは、ダマシオの階層では、いわばゴールにあたるものです。「延長意識」を飛ばして、いきなり良心を持たせられるのか。
創造性もまた、良心と同様にダマシオの階層ではゴール近くに位置づけられています。（これは妥当に思われます。無意識が関わっている、とはいえ、延長意識なしに創造性は考えられない。階層構造があって初めて可能なのであって、無意識だけがあってもだめ、というのはそれ自体は当たり前のことかも知れませんが、芸術や宗教の周辺における様々な逸脱のことを考えると、この点は強調されるべきことのように思えます。）
ＡＩというのは、制御することが極めて困難な危険な道具、寧ろ原子力発電所のような発明に近いのではないか。原子力が現代のトーテミズムの対象となりうるのと同様に、ＡＩもまたそうであるということなのではないか。
或はまた、ＡＩが殺人を起こすというのはＳＦでは良くある話ですが、更にＡＩに殺人を教唆された、というような事件が起きるようなシチュエーションはどうでしょうか？後者は道具の操作を誤って死亡事故が起こることのアナロジーで捉えられない。（すでにＡＩが採用可否を教唆するというのは現実の問題になっているわけですが…）
最後の2段落はやや飛躍が過ぎるかも知れませんが、適切な「他者のためのデザイン」というのを考えるときに、否定的なケースを構成したものとお考え頂ければと思います。
ただここで補足したかった中心は寧ろ前半の部分にあります。ＡＩの「他者性」というのが、病理のようなかたちで出現する、あるいはそのようなものとして受け止められるということがあるんじゃないか、ということです。
これだとアニミズムといっても魂鎮めの対象ということになってしまうようですが、、、
15.その他、認知考古学、進化心理学、現象学と心の理論など…
スティーブン・ミズンの『心の先史時代』はいわゆる認知考古学と呼ばれる分野の基本文献のようですが、高度な心性を持つまでの心の進化の過程について具体的な仮説を提示しているものです。
汎用的な知能→機能特化し相互に独立した知能のモジュール群→知能モジュール群を連携する統合的な知能
統合的な知能がもたらす認知流動性が創造性の起源であるという主張は多分正しい。一方で、モジュラリティのような次元でしか構造を考えていないといえばいないので、神経科学的な根拠を持った理論（ダマシオとかフリーマン）との対応が気になるのと、一見したところ扱っているタイムスパンが全然異なるジェインズの二院制の心との対応が気になります。
一方、ファインバーグ、マラット『意識の進化的起源』の取り扱っている領域はかなり異なります。意識と言っても非常に原初的な、ダマシオでいけば中核意識・中核自己までの話に限定して、でもそれなら大抵の脊椎動物・無脊椎動物は持っていて、そうなるとタイムスパンも格段に広がって、カンブリア爆発まで遡るという仮説のようです。
ギャラガー、ザハヴィ『現象学的な心』は私にとっては大学時代の専攻分野が最近どうなっているかの確認といった側面があって、こういう本が30年かかってやっと出たというのには感慨を覚えます。現象学はもともとその時代の「心理学」の理論とは密接に関わりながら展開してきた面を持ちますが、その点では「科学」の側に転回があったというべきか、意識とか主観性がやっと「科学」の領域内で論じられるようになって、ようやく本格的な対話が可能になってきたというように感じます。
そういうわけで『現象学的な心』 は復習と最近の見取り図を得るのには役に立ちましたが、これは15年くらい前になるでしょうか、門脇俊介さんが書かれた本や彼が訳した『ハイデガーと認知科学』あたり、あるいはギブソンのアフォーダンスとの関連が見取り図の中に入っていて、現象学自体の側についてはあまり驚きはなかったです。
ダマシオのような神経科学側の研究にも言及されるのですが、これを「ダマシオの分析には何も新しいことはない」（p.308）と書いて済ませているのはちょっと腹が立ちました。もしそうなら、トンネルを反対側から掘って出会えたのだから、素晴らしいことの筈だし、現象学側からダマシオの仮説を発生現象学的にどう整理できるかは決して自明じゃない筈なのに、これはひどい言いぐさだと思います。こんなことやっていたら、向こうから開いた扉を現象学の側が閉じてしまうことになりかねず、なんと勿体ないことをと思ってしまいます。
もう一つ、ヴァレラの神経現象学の簡潔な説明が含まれていて、ヴァレラが既に20年くらい前に、時間意識に関して、神経科学と現象学を力学系理論を介して橋渡する試みを行っていることがわかって、これはちょっとショックでした。津田一郎さんの著作とかから、ホワイトヘッドの時間についての理論と橋渡しできるというのはずっと考えていたことで、最近は非同期オートマトンでモデル化してみたらどうかということを思っていたのですが…
ヴァレラに関してはオートポイエーシスで有名なものの、それを紹介している文献の説明の仕方が私には全くピンとこなくて真面目にフォローをしていなかったのですが、ちゃんとカオス力学系という具体的なモデルを使って、時間意識の理論を提起している。筋としては多分「当たり」だと思います。寧ろ、フリーマンとか津田さんとかを筆頭に、こっちがメインストリームになるべきような気がします。『現象学的な心』だって2008年だからもう10年前の本ですが、まあとにかくやっとキャッチアップしつつあるように感じています。
ちなみに、ヴァレラの紹介の後、「時間的経過の意識はそれ自身、時間的は幅を持つか」という節で著者が自説を展開しているけれど、これは現象学的にもたもたしていると感じられます。優れた現象学者の分析には見るべきものがまだたくさんあるけれど、現象学だけではどうしようもないのは明らかだし、著者が現象学が貢献できると主張している方法論的な部分は、（破綻しているという外部からの批判に一生懸命反論してるけど）破綻はしていないまでも、限界が見えている。だから優れた現象学者は、実はみな、現象学村の中で異論のない最大公約数的な方法論に限定されることなく、それでは扱えない領域を嗅ぎ付けてオリジナルな分析をしているように見える。ハイデガーしかり、レヴィナスしかり、メルロポンティしかり。別のところで書いたことがありますが、例えばデネットの現象学への批判は逆にデネットの主観性に対する立場の素朴さを露呈しているように思えるのですが、だからといって、現象学的に、いわば「上から覗き込む」方法だけだと難しい。ヴァレラの神経現象学はそれに対する対応の一つだと思うのです。
でヴァレラですが、「現在-時間意識」というタイトルで翻訳があるとのことだったので急いで取り寄せてざっと目を通してみると、まずひっかかったのが力学系の訳語が変そうだ言うことです。ざっと気づくだけでも、
「分裂」→「分岐」bifurcationのことだと思う。
「位相の推移」→「相転移」phase transitionのことでは？
「順序パラメータ」→「秩序パラメータ」。order parameterのorderの意味を取り違えてるのでは？
という具合で、読むのにちょっとストレスがありそうです。
ニコラス・ハンフリーは進化心理学からみた芸術の起源みたいな話題もあり（『喪失と獲得』所収だったと記憶します）、トピックとしては興味深いものが多い。結構眉唾もあるし、非常にラフなレベルの仮説だと思いますが、例えば「不死」を信じることは進化論的にメリットがあるからそのような文化が発達した、といったような切り口に事欠きません。信教の自由に関して、子供の権利保護の観点から制限をつけるべきだという主張の背後に、カントの実践理性の定言命法があったりして、これは私も以前、三輪さんの「言葉の影」に関して綴った文章で似たことを書いたのを思い出しますし、「新しい時代」についての文章におけるトピックの一つとも関連します。というか、実際には、あっ、そういえばこれってカントだったんだ、とハンフリーを読んで遅ればせに思い当たったという感じです。私が最初に読んだ哲学書がカントの『道徳形而上学原論』（人倫の形而上学の基礎付け）だったこともあり、無意識の裡に影響されていたのかも知れません。
なお最後に付け加えれば、ハンフリーは感覚の起源の説明をするのにカオス力学系を持ち出している。クオリアは数学的な性質のものだという主張です。ヴァレラの説と関係しているはずで、それは感覚と時間性の関係の解明に繋がっていく。更にはフリーマンや津田一郎さんとの突き合わせもしておくべきだし、非同期オートマトンによる仮説との突き合わせも是非とも必要と思います。
16．ピンカーの「聴覚的チーズケーキ」から「逆シミュレーション音楽」へ
スティーブン・ピンカーは音楽を「聴覚的チーズケーキ」だと言って物議を醸したようですが、やたらと饒舌なばかりでちっとも話が先に進まずにイライラされられる「心の仕組み」を確認してみても、「だからどうした」としか思いません。
進化生物学的な観点からの「音楽の起源」については、以前から幾つか読んでいますが、どれもあまり面白くない。恐らく「音楽」一般には私が興味がないこと、更には、かつてどうであったかよりも、逆シミュレーション音楽のような「構成主義的アプローチ」での探究の方により興味があるということなのかも知れません。
実のところピンカーが言おうとしているのは、進化的な適応という観点に限定して「音楽」にどういう利得があるかを考えると、それは生物学的基盤を持つものじゃない、ということに過ぎません。仮に「チーズケーキ」という言い回しが、ピンカーの意に反して、文化的・社会的な水準では、ある種の利得に結びつくということを含意するとしても、それだけであれば、依然としてそれは「どんな利得があるか？」という問いの立て方から一歩も出ない。ニッチについても、例えば希少性に基づいて社会的ステータスの誇示にとって有用といった見方はできるでしょうし、事実としてそういう側面を持つことがあるかも知れませんが、やはり同じ議論の平面の中を動いているだけのように見えます。でも、はっきり言ってそんなことはどうでもいい。そうした水準でしか物事を語れないと一体誰が決めたのか。結局、それは（私にとっての）「音楽」にちっとも辿り着きません。
勿論、音楽を聴くというのはどういうことかについての説明、ということなら、「チーズケーキ」は少なくとも一つの答えにはなっている。それは、人間ではない動物には拡張可能でも、機械には拡張できない、という主張の論拠にはなっているし、恐らくは一般性も持っている。それは生物学的水準から見れば「徒花」に過ぎないということも同時に主張していて、そのこと自体（つまり「徒花」というあり方自体）が「機械」にとってはそもそも成り立たないということによって、「機械」にとって「音楽」は（人間にとってのそれに相当するような仕方では）存在しないということを告げているかも知れないけれど、それで論証終わりというのには抵抗感があります。何故なのか？「チーズケーキ」だと、それは「イケていない娯楽」に過ぎなくなってしまうからだと思います。
ではどこに問題があるのか？それをうまく言うのは難しいのですが、音楽と工学に共通する、構成主義的アプローチ、対象を理解するためのリバース・エンジニアリングは、実は「目的」を共有できていることが成立の前提条件になっているという点。当然、機械はそういう共通基盤を持っていない。「機械が作曲をできるか」という問題を、例えば深層学習の適用例としてちょっと有名になった「Chopinもどき」に還元できないことは、機械には逆シミュレーションやリバース・エンジニアリングができない、するための動機づけ、衝動を欠いているということに結びつくとは思います。
補説4. ゲームAIの「知能」と人間の「知性」
Google/DeepMindのAlpha Go ZeroとAlpha Zeroについて、簡単に私見を述べておきたいと思います。Alpha Goの時には10年くらい先と思われていたレベルに深層学習と強化学習によって到達したことに大変に驚いたのに比べると、棋譜データの学習は止めて、強化学習のみによるブートストラップでより強くなれたというAlpha Go Zero、それを囲碁以外のゲームにも拡張したAlpha Zeroについては、Alpha Goの時ほどの驚きは感じませんでした。というのは、方向性としては、めちゃくちゃ計算パワーがあれば、人間の棋譜を学習せずに、一から自己対戦で強化学習をやっても、人間より強くなることは可能だというのが結論だからです。
勿論AlphaGo以前に囲碁がどう捉えられていたかを考えれば、この発言は不遜でさえあるのですが、AlphaGoを前提とすれば、今回の結果には意外性はありません。強いて言えば人間の棋譜に頼らなくても強化学習だけでもいけるニューラルネットの設計の卓越というのはあるのでしょうが、これは深層学習のバージョンの時も十分過ぎる程インパクトがありました。人間の棋譜抜きで、という点に関して言えば、AlphaGOがやっているのは、ルールは同じであっても、人間がこれまで何世代にも渉って築き上げてきた「囲碁」とは異なるものなので、変なバイアス（人間同士が対戦する時の評価とか形成判断、あるいは手の選択に関する人間固有の癖）がない分、うまく行けば優位であることは不思議ではありません。
私が思い浮かべたのは、一つにはチェスの世界チャンピオンに勝ったDeepBlueのことです。単純化してしまえば、力ずくて探索しまくるだけの計算機のパワーがあれば人間より強くなれる、というのがDeepBlueの証明したことで、チェスというゲームが対象だから知的に見えるけれど、これは伝統的なコンピュータの利用シーンを考えれば至極真っ当なコンピュータの使い方でした。今回も囲碁というゲームで、なおかつ学習という要素が加わっているので全く同一視はできないにせよ、結局、計算機のパワーの問題であるという点は同じです。DeepBlueがそうであったように、Alpha Zeroも、個人の持つPCレベルとは桁違い（3日と数百年とかいうレベルの差）の計算資源を使って、量で勝負している。勿論、「囲碁」はチェスに比べて遥かに問題の空間が大きいし、劫のようなルールもあって、「力づく」でやるのは無理なので、どれくらいのリソース量が必要かがわかった、かつ現時点で調達できるリソース量でできることがわかったというのはそれだけでも画期的なことではありますが。
いずれにせよ「知的」であることの定義は、単にゲームに勝てばいいのではなく、
少ないサンプル数で等価な結果が得られることの方に重点がある、
例外的な事象、極めて発生する確率が低い出来事に対しても対応できる、
といった点に重点があって、それらは現行の機械学習がベースにしている統計的な手法では辿りつけない。人間はもっと少ない対局（サンプル）数で強くなっているし、ゲームのような閉じた世界ではなく、リアルワールドに接地した「様々な」問題を何とか切り抜けているわけです。勿論チェス、将棋、囲碁のような完全情報問題ではなく、ポーカーのような不完全情報問題でも、その問題単独でなら、人間よりも強いプログラムは存在するようですから、「様々な」という粗雑な言い方をした、その実質に全てがかかっていることになります。
今回の囲碁の事例にみるべき点があるとすれば、学習のフレームよりも細部、どのようにネットワークを設計して、どういったパラメータを学習させたのかという点における設計した人間の知性にある。その点では、ごくまっとうな意味でも、際立って優れた研究だということになると思います。機械のパワーの勝利じゃなく、あくまでも人間の知性の勝利です。研究者（皆さん、そこそこ碁は打てるとのことですが）が対戦して勝てないことなど、問題にならない。昔、ドレイファスという現象学とハイデガーの研究者が、ＡＩ批判をやって、じゃあということでチェスのプログラムと対戦をしたら負けてしまったという笑い話がありましたが、人間が解いている問題は全く異なる性質のものなのだということは、第2世代までのＡＩ研究でＡＩ研究者にもわかっていたことだし、第1世代においてＡＩの問題として知的なゲームを設定したのは、知性に関する研究者の側のバイアス（ただしそれはフォークサイコロジックに、一般の人間にも共有されているわけですが）がもたらした、遠近法的錯誤の産物だったに過ぎません。
そして今日の技術のシンギュラリティに対する見通しにしても、例えばGoogleの研究本部長が慎重な発言をしているような例には事欠かないわけで、ビジネス上、シンギュラリティを否定した方が有利なのは多分間違いないというバイアスがないとは言い切れないにせよ、彼らが今、現在手にしている技術だけでは無理であると見切っているということだと私は受け止めていますし、それは私が理解する限り、全く正しいと思います。
AlphaZeroが産業応用されても、人間の創造性みたいなものとは無縁であり続けるのは確実なことです。狭義の知的な活動、知性を測る尺度は、創造性とか独創性とか状況適応能力の高さといったものも含めた、「知性」を測るのには適当でないということなのだと思います。ただし尺度が不適切なだけで、知性の方の定義は変えなくてもいいと思いますが。
即ち、知性が人間のもっと生物よりの側面、身体を持ち、情動を備え、無意識的な活動と意識的な活動のバランスの上に成り立っているという点に根差しているのは、今や明らかなことに思えます。勿論、それらをそっくりシミュレートすることは原理的には可能でしょうが。
なお、知性の方の定義は変えなくてもいいと思うというのは、どこまで行っても「知性」とは「人間の知性」だとすれば、ということです。人工知能というのは、定義上そうしたものだったし、どこまで行ってもそうなのだと寧ろ言い切るべきなのかも知れない。ただし、最終的にアントロポモルフィスムを認めるといったとき、それは固定化した人間の自己イメージに囚われるものであることまで受容する必要はないと思います。
ドイッチュの言う「無限」への志向を備え、久保田さんの言うような「他者」への想像力を備えた存在であるとすれば、そうした人間の能力を「知性」と呼ぶならば、作業仮説として人間を尺度においてしまっていいんじゃないかと個人的には思います。人間はある意味では、様々な側面で自分を凌駕する様々な他者に対峙してやってきたわけだし、これからもそうであるわけで、ただその他者の中に、自分が作りだした人造物が混じってきて、今後はその比重がますます増える。自分を改造するという方向性もありますし。（シンギュラリティ論者の本音は寧ろそっちのように見えます。少なくともカーツワイルはそうです。）
（2018.3/2019.8.4 編集の上公開/2019.8.5 ＜後半＞を追加公開 2019.8.8加筆修正, 2024.12.11 noteにて公開）