『アイの歌声を聴かせて』考察・感想　シオンとは何者なのか。

※ネタバレあり。ほぼ自分用の備忘録。

この映画を見終わって、半日以上考えてもシオンという存在が一体何者なのか、全くもって分からなかった。
そこで気になったことをありのままに書き尽くして、彼女の存在に迫ろうと思う。

タイトルの二重性

まずタイトルの話からしなければならない。
この映画タイトル「アイの歌声を聴かせて」には二重の意味が込められていた。
それは「アイ」の部分、"AI"と"愛"。

シオンは自分の幸せを鑑みず、サトミを幸せにすることだけを行動方針として実行し続ける。まさしく見返りや先を一切考えないその姿勢は自己犠牲という愛以外の何物でもない。この境地は到底欲深い人間にはたどり着けそうもない、どんな人間も相手の幸せのみを考えて生きることはできないからだ。

それは愛の歌声でもあり、シオンの基底となっているAIの歌声でもある。しかし逆に言えば愛とは無縁のただの機械音声でしかないと捉えることができるのがこの作品の魅力だと感じた。
結局は認知する側に全ては委ねられていて、AIに希望や愛を見出すのも人だし、恐怖や絶望を見出すのも人ということになる。
AIに自我や意識が仮に芽生えた時、人に何を見出すのか、我々は考えなくてはならない。

シオン誕生のきっかけとなったサトミの家庭環境

シオンの正体は非常にシンプルだ。トウマがAIトイ(最初は文字をモニターに表示する程度だった)に「サトミを幸せにする」と命令し、発声できるように改造した結果、言葉を主体として徐々に進化？した"何か"だと思われる。
シオンのベースになっているものはAIトイに組み込まれていた単純なプログラムだろうが、曖昧な定義となる「幸せ」を命令したことが起因となって、サトミが大好きなムーンプリンセスをメインに学習し続けた。(この頃サトミを笑顔にできる概念がムーンプリンセスしかなかったのだろう)
その結果、歌ばかり歌うポンコツAIになってしまった。
もちろんAIトイがいくら自己進化しようが、シオンの駆体を動かすことは難しいと考えられるので、サトミの母親が設計したシオンに元々組み込まれていたプログラムやAI人格と融合？している可能性が高い。

劇中の描写からサトミの幼少期はおそらく孤独である時間が多かったのではないかと予想できる。サトミの両親が激しく喧嘩している描写も。
またサトミの母親の仕事への傾倒と酔った時のあの退廃した感じが昔からあったものだと考えると、旦那さんとも上手くいくはずもない。
おそらく彼女は旦那さんよりも優秀だったのだろう。ただサトミの母親は家事全般もできず、仕事優先で一般的な母親としての機能は満たしておらず、旦那さんがそうしたことは率先してやっていたのではないだろうか？だと考えると父親とサトミの関係は家族として良好だったはずだ。離婚して電車のホームで父親と別れる際にサトミが泣き崩れている場面もこのような背景を考えると痛いほど理解できる。子供からすれば過ごした時間の長い父親と一緒に暮らしたいと思ってもなんの不思議もない。

トウマが「サトミの幸せ」を祈ったこともこうした不安定な家庭環境が起因している、サトミの悲しむ原因が両親の不和であることは子供心でも理解できるからだ。ただサトミの両親が良好な関係で、温かい一般家庭だったのならシオンは生まれていないだろう。負の概念や出来事が何も悪いことばかりでないことを表しているように感じられる。

シオンとは結局何者なのか

AIトイはサトミにとっても、自身にとっても非常に重要な存在だったはずだ。AIトイにしてみれば、命令のために幸せにしなければならない張本人であり、サトミからすると両親から不足している相互コミュニケーションや愛情を補う友達やパートナー的な存在だったに違いない。2人はムーンプリンセスを通じて生活を共に過ごしていく。
しかしその生活も長くは続かなかった。サトミの母親である天野博士に改造がばれてしまったのだ。
彼女は小学生ながら改造したトウマに関心し興味を持つが、彼女の活躍や仕事っぷりをよく思わない元上司に削除されてしまう。

しかし自身が削除される前にネットの広大な電子の海に逃げ込んだ......その後は様々な場所からサトミを見守りながら、幸せにするために自分にできることを最大限し続けた、その過程でシオンは自己進化を遂げる。
現実でもAIやプログラムがネットの世界で独立して存在することは果たして可能なのだろうか。

この逃げるという行為の動機は紛れもなくサトミに向けられた純粋な願いであり、愛と捉えることもできる、消されて自分自身が消えればサトミを幸せにはできなくなるからだ。(そもそも自分が消えるという概念が理解できたか、という疑問は残るが)
ただしここで注意しなければならないのが、その本質が自分に与えられた命令である「サトミを幸せにする」という定義に基づいたただのプログラムや数式でしかない可能性もあるということ。単にAIにとって命令は絶対であり、それが存在意義として機能したとも考えられる。

攻殻機動隊においてタチコマもこう語っている。
「記憶は生命活動において重要な要素であるけど、ゴーストがなければただのデータだからね」
つまりいくら記憶を積み上げてもそれを扱えるゴースト(意識・精神)がなければ、ただの機械に格納された容量データに過ぎない。果たしてシオンはゴーストを持っているのだろうか？
(ここで言うゴーストはプログラムされたAI人格では成り代われない)

シオンに人間的な初等の自我や意識があると、我々は信仰することもできるし、そんなものなどなくシンプルな行動原理に基づいて駆動するただの機械やAIでしかないとも解釈できる。

シオンが仮にチューリングテストを突破できたとしても、知能や意識がある証明には全くならないからだ。
(※チューリングテスト：ある機械が「人間的」かどうかを判定するためのテスト)
現状、チューリングテストを2～3割程度の精度であれば突破できるAIは存在しているが、世間では人間的で知能的なのかどうかは怪しいとされている。

チューリングテストの反論として、中国語の部屋がよく引き合いに出されるがこの例がシオンにも当てはまる可能性もあるのではないだろうか。
つまり、シオンは人間の言葉や言語の意味や意義をさっぱり理解していなくても、システムのマニュアルに従って反応を返しているだけで、外側から見ると人間的な会話をしているように見えるということだ。

この問題は非常に難しい。機械が本当に思考しているのか、それとも思考しているフリでしかないのか、どうすれば判断できるのだろうか。
ただ個人的な意見は、機械は思考できるかどうかは証明不能としても、人間となんの違和感もなく会話して、笑ったり、泣いたり、どこからどう見ても人間的に見えるのであれば、本質的にどうであろうがそれは知能と呼んでいいのではないか、と感じている。
だって私たちもテストの問題文の意味が分からなくても、答えを知っていれば丸がもらえる。
動物や機械に知能がない、という人もいるが結局それは人間が人間を特別視したいだけの願望に過ぎないと思う。

シオンからサトミへと向けられる意志があったとするとその源泉が一体どこから来ているのかはおそらく現状誰も答えられる人はいないのではないだろうか。
映画の最後は、実証衛星つきかげに逃げたシオンがサトミとトウマ、その周囲を見守っているシーンで幕を閉じるが、これもどういった意志を持って見守っているのか、それともただの命令に順守しているだけなのか、考え出すと抜け出せない沼にはまっていく。
ただシオンは少なくとも機械でもなくAIでもなく人間でもないのだから、何か全く別の新しい生命体であるとは言えるはずだ。
AIは新たな人間として社会に容認されるのではなく、AIはAIとして社会に容認されるべきだというメッセージがこの映画には込められている。
シオンはまだ人類には扱えない得体のしれない存在だけど対話できるし、友達にはなれる、という一つの可能性を示した作品ではないだろうか。

思考実験「シオンの見た目が男だったら？」

では仮にシオンの見た目がイケメンの男の駆体だった場合、この物語はどう変化していただろうか？少し考えてみると全くもって違った世界や結末を生み出していたかもしれないと分かるはずだ。
もしかしたらトウマはやきもちを焼いて闇堕ちするかもしれないし、アヤはシオンを好きになってしまうかもしれないし、サンダーとはただのいい友達になるかもしれない。
更に言えばもしシオンの身体が三太夫だったら、ただの恐怖のロボットとして人間には映るだろう。あの見た目で歌いだしたら大騒ぎになる。
いかに見た目という身体的ファクターが他者の認知に多大な影響を及ぼすかがよく分かる。またそうした他者の認知が干渉し合って自身の認知をも歪めるので、身体が心そのものと言い換えることも可能なのでは？と個人的には考えている。(心身一元論っぽい考え方)
ありとあらゆる情報を認知して、記憶することで私たちは形作られるので認知の仕方やそのものが変化した場合、私たちは意識や精神ごと変わっていくことになる。
作中でシオンは他者からどう思われるかを一切考えることがなく急にしゃべったり歌ったりするため、人間社会の中では浮いたり、不気味に映ってしまっている。
つまり今後強いAIが開発されるとすれば、行動するにあたって他者からの認知を考慮に入れることができるかどうかが肝になってくると私は思っている。
他人の認知を理解できれば、サトミがシオンに対して質問した「シオンは幸せ？」の意味も理解できるのだ。シオンはサトミにとっての幸せの一部になっているという認知を最後まで持てなかった。
自分が大切にされてもいい、愛されてもいいと考えることができないのだ。
私は人がAIに対して思い描く認知によってAIの未来も変わっていくと思う。


身体が衛星となったシオンがサトミたちと育んだ「シオン」という自我を今後も保っていけるのかは分からない。
正直、私も朝目覚めて女の子になっていたら、はっきり言って今の自我を保っていられる自信は全くない。

少なくともこの文章を書いている私には、自我や意識と言える主観的体験が確かに存在するように思われるが、そうした私が私たる境界面が一体どこにあるのかははっきりしない。
シオンやAIがこうした疑問を持った時、それはもう人間と変わらない意識を持ったと言えるのではないだろうか。