AIと意識

今は昔、とある大学に「裕司（ゆうじ）」という男子学生と「理華（りか）」という女子学生と居たそうな。
名は体を表すとはよく言ったもので、裕司はおおざっぱな丈夫であった。また、理華は理屈っぽいビューティであった。このように両者は異質であったが、周囲から何となく浮いていたという意味では同質だった。
浮き者ではあったが浮いた話のない両者は、本日も大学内で偶発的に邂逅したんだとか。

起

裕司）本日、ニンゲンノ個体デアル「理華」ト「裕司」ガ、大学デ邂逅スル事象ノ生起確率ハ、40カラ60%デアルト予想。
理華）既に出会っているわ。確定事象の記述に確率概念はそぐわないように思うけど。・・・一体何してるの？
裕司）自分がAIになったつもりで生活してた。いろんな人にこれで話しかけたら変人扱いされたけど、「確定事象の記述に確率概念はそぐわない」という反応は後にも先にも理華さんだけだろうね。
理華）あら、「先」はわからないわよ。それにしても随分古典的なイメージの人工知能ね。どうしてそんな怪しげなことを？
裕司）いや、この前「情報認知科学特論」って講義に物見遊山でダイブしてみたんだけど、講師が「ニューラルネットワーク技術が発展すれば、AIにも人間と同じような意識が生じるに違いない！」と熱っぽく話をしてたんだよね。
理華）講師の脳神経が興奮気味ね。
裕司）そうそう。で、僕なりに「人間と同じような意識」の理解を深めようと思ったんだ。人間の意識には発達段階があるから、AIの意識にも発達段階があるに違いない。そこで、その発達をシミュレートしてみたわけ。
理華）何かわかった？
裕司）わからないことがわかった。だって人間だもの。
理華）深淵ね。
裕司）AIも人間と同じような意識を持ち始めるのかな。

人間の意識

理華）まず「人間の意識」って何かしら。それがはっきりしないと、AIが人間と同じような意識を持つか確かめようがないと思うけど。
裕司）人間の意識といったら、それはあれだよ。僕が持っているこんな感じの意識だよ。こーんな感じ。
理華）どんな感じの意識なの？
裕司）まず、目の前に理華さんが見えるね。それとプロレタリアート革命を訴える学生の声が聞こえるかな。あと、今日はラーメンを食べたいと思ってる。いや、今日もラーメンだと代わり映えがないから、ラーメンライスにしようかな。ざっと、こんな感じ。
理華）散漫な意識ね。でも、ある意味模範解答かしら。知覚、想起、思惟、反省の要素が揃っているわ。
裕司）僕は模範が服を着て歩いているようなものだからね。
理華）その割には変人扱いされてなかったかしら。
裕司）じゃあ模範的変人かな。ところで、要素が揃っているって何？
理華）私の姿が見えることや「立ち上がれ、全世界のプロレタリアートたちよ！」という声が聞こえることは「知覚」ね。声を聴いて学生だと思ったみたいだけど直接確認しているわけではないから、学生は「想起」されたものよ。「今日はラーメンを食べたい」というのは知覚の脈絡を超えた「思惟」ね。「今日もラーメンだと代わり映えがないからラーメンライスにしよう」というのは「思惟」に対する「反省」ね。
裕司）なるほど。つまり「人間の意識」には知覚、想起、思惟、反省の４要素があるわけだ。そうすると、これに当てはまるかどうかを調べれば、AIの意識の問題も解決するかもしれないことになるね。
理華）ある意味では「解決」するけど、事態はもっと複雑よ。

意識があることは確かめられるのか

理華）裕司君。私に意識があると思う？
裕司）人間だしあるんじゃないの。早速、さっきの４要素に当てはまるかどうかチェックしてみようか。
理華）そうね。まず目の前に裕司君が見えるわ。ちょっとブラックコーヒーいただくわね。深入り豆が感じられてとても美味しい。そうそう。私、絶対なことはないと思ってるの。そうすると「絶対なことはない」が暗に絶対化することになるのよね。
裕司）なんか高尚だね。僕の姿やブラックコーヒーの味は「知覚」、深入り豆は「想起」、「絶対なことはない」は「思惟」、「『絶対なことはない』が暗に絶対化する」が「思惟」に対する「反省」だね。４要素を満たしたから、晴れて理華さんには意識があるということかな。
理華）・・・ところで裕司君。ブラックコーヒー淹れてあげるから飲んでみて。
裕司）そいつはありがたい、って苦！これはカオスを超えている。
理華）感じ方、全然違うでしょ。
裕司）美味しいということには首是しかねますな。
理華）さっき裕司君は、意識は「自分が持っているこんな感じの意識」と言ったけど、知覚、想起、思惟、反省の４要素だと取りこぼしていることがあるのよね。それは「自分が持っている」という意識の固有性。私は私固有の意識の経験しかできないわ。裕司君はカオスを超えた味と言っているけど、私がわかるのは裕司君の振る舞いや言葉での表現でしかないから、その味自体は直接わからないわ。つまり裕司君が言うところの「自分が持っているこんな感じの意識」が、裕司君に本当にあるのかは私には確かめられないことよ。
裕司）色々ビターすぎて話に追いつけなかった。つまり、各人が固有の意識を持っていて、しかもそれは交換できないから、自分の意識に相当するものが他者に存在するかは、自分は直接確かめられないと言っているの？
理華）そういうことになるわ。さて、私に意識があると思う？
裕司）それはわからないね。
理華）じゃあ、AIに人間と同じような意識があると思う？
裕司）人間であっても他者の意識があるかはわからないとすると、ましてAIに人間と同じような意識があるかはわからないということ？
理華）ご明察よ。
裕司）妙に饒舌だなと思ったけど、やっぱり追い込み漁だったか。逃げるのが「人魚」だとしたら、その反対、追い込まれるのは「魚人」だね。
理華）頭部が魚で足が生えてる生命体ね。追い込み漁、やめておけばよかったわ。

AIに「意識」を生むのは基準や定義

裕司）ところで、この問題は「意識」をどう理解するかに本質があるんじゃやないかな。話をしていて、「意識」には「深いもの」と「浅いもの」があると思ったんだよね。
理華）深いものと浅いもの？
裕司）うん。各人に固有という意味での意識は「深い意識」だと思う。これはさっきの話のとおり、自分以外の意識の存在が確かめられないタイプのものだね。一方、知覚、想起、思惟、反省のような基準を置いて、その基準を満たしたものは「意識あり」とみなすこともできると思ったんだ。これは「みなし意識」だから「浅い意識」だと思う。
理華）・・・いい切り分けね。「深い意識」の場合、自分以外に「意識がある／ない」という言葉遣い自体がナンセンスだわ。でも、私たちは「意識がある／ない」という言葉を普通に使っているから、実際には「浅い意識」のレベルで意識を理解しているはずなのよね。ありがちなのは「意識があることの基準は人間であること。」といったところかしら。
裕司）それは、人間以外にはあらかじめ意識がないことになるね。
理華）そうね。その一方で「浅い意識」のレベルであれば、その基準を変更することで、いろんなものに対して意識があると語れるようになるはずよ。
裕司）そうすると、「AIが人間と同じような意識を持つ」ようになるのは、技術革新以前に「浅い意識」としての基準や定義が重要なわけだね。まさに「意識」に対する意識改革が必要になるわけか。

結

裕司）それにしても自分がAIになったつもりで生活してたけど、骨折り損のくたびれもうけだったな。「人間だもの」を基準にすると、AIの意識の議論からは遠のいてしまうことがよくわかったよ。
理華）それはよかったわね。
裕司）ただ、悔やむべきは変人という風評だね。
理華）それは事実だから大丈夫。