『17才の帝国』が描くユートピアと失われていくもの

NHKドラマ『17才の帝国』が素晴らしかった。それと同時にAIへの畏怖と政治への諦観も抱いた。
本稿は「町づくりとは何か。幸福度とは何か」、「AIとは何か。AIに出来ることと出来ないこと」、「倫理とは何か。AIによる新たな倫理観」についてそれぞれ考え、『17才の帝国』が描いたものと、描かれないことで我々に課題として残してくれたものについて書き記していきたい。

以下『17才の帝国』のネタバレを含みます。



■ 良い町づくりとは何か

・あらすじ
本作のあらすじはこうだ。
202X年。経済が沈み込み「サンセットジャパン」と揶揄されている日本。
AIと若手リーダーによる地方都市の復興計画「プロジェクト・ウーア」が持ち上がり、青波市が選ばれる。
政治AIソロンは男子高校生の総理大臣と、若い閣僚を選出した。
青波市総理大臣真木亜蘭（神尾楓珠）は早速AIソロンを用いて、市議会の廃止、市職員のリストラなど市民の幸福度を追求した極端な政策を発動させる。

・幸福度とは誰の幸福度？
政治AIソロンは経済成長重視、文化重視、持続重視の3つのコンピュータから構成されている。
それぞれがビッグデータやディープラーニングなどを駆使し仮想の町を複数回構築し、理想的なモデルを算出する。
真木総理は広く意見を募り、ソロンに問いかけ都市開発モデルを提示してもらう。3つの都市モデルとそれ以外という選択肢で一斉に投票をし決定していく。
人件費が掛からずスピード感もあり、数年後の市民幸福度が可視化され判断しやすい。

ではここでの「幸福度」とは一体誰の幸福度なのだろう
本作では市議会議員や学校の教師が辞めさせられる。現実の世界と照らし合わせると、病気を判断する医者や罪状を決める裁判官や被告を弁護する弁護人、その他「膨大なパターン判別から正解を選び取る仕事」は軒並み職を失うことになるだろう。
そういった人達はソロンの決定から数年後、幸福度は上がっているだろうか。
例えソロンが提示した都市モデルが最良の計画だとしても、彼らは恨み続けながら生きるのではないだろうか。
そして彼らはこれまでの努力が全否定され、ソロンにより幸福になっていく人達を見つめながら、生きる活力を奪われ続けるのではないだろうか。
それでもソロンは「市民の幸福度は数年前よりも上がり続けています」と優しく告げるだろう。

・変わらない町並み　実物とデータ化
真木総理は古くからある商店街に足を運びいろんな人達と対話することでソロンだけでは最善策を導き出せないことを学ぶ。厳密に言うと、少ない情報では間違った選択肢が提示されやすいということだ。
壊されたものは元には戻らない。真木総理は商店街を残した上で都市開発を進める方法を探る。
でもこれはどこまで行っても誰かの悲しみの上にしか成立しない。都市開発というのはどこかの誰かの思い出の地を壊さなければ成り立たないからだ。

本作では元市長（田中泯）の祭りへの想いや幼少期の憧憬をフックとして和解する。
昔の写真などから祭りをデータ化し復元、メタバースでの遠隔地からの参加も可能となった。
これで町並みが潰されてもデータとして永遠に残り、いつでもアクセスすることができる。
あの頃の匂いや、夕日の色や、歩き疲れた足のだるさまで再現可能だろう。
だが本当にこれが僕らの目指す「幸福」だろうか。確かにメタバースに行けばずっと「あの頃の町並み」にアクセスできるだろう。現実世界では快適な町並みが広がり、安全で便利な生活が保障されている。
数字の上では「幸福度」は上がっていくだろう。
だが「好きな町がデータ化され壊された」という現実は変わらない。
こう言い換える。「死者をAIで復元させたら幸福になるのか」という疑問だ。
この疑問について考える前に、まずはAIについて改めて考えてみたい。


■ AIとは何か

・AIが出来ることと出来ないこと
政治AIソロンはあくまで青波市の政治に関してのみ絶大な成果を発揮するAIだ。
ソロンの3つの柱である経済成長を重視する「トリ」、生活文化を重視する「ヘキサ」、持続可能性を重視する「ノナ」はそれぞれ限定された枠の中でのみ青波市を幾度となくスクラップ＆ビルドする。

この作品のAIは厳密には人工知能ではなく、「超スゴイ計算機」の域を出ない。
人工知能の難しさを表す例え話がある。
「フレーム問題」だ。

・フレーム問題を解決できないソロン
「フレーム問題」というのは無限の選択肢から有限の決定を導き出すことの不可能性を説いた例え話だ。
(参考記事「無量空処」と「フレーム問題」について。あとジョジョ6部とか。)
https://note.com/sakamoto444/n/n70084a2408e3

要約しよう。
AI一号がお宝を探しに洞窟に入った。一号はお宝の上に乗っていた爆弾も一緒に取ってきてしまい爆発してしまう。
それを改良したAI二号。危険なものを判断しお宝だけを取ってくるようプログラムされている。だが危険の可能性を何パターンも計算してしまい、お宝の前で停止してしまった。
それを改良したAI三号。起こり得るものと起こり得ないものを判別し、お宝を取ってくるようプログラムされている。だがこの世界は無限の可能性があるため、起こり得るかどうかのパターン判別に膨大な時間が必要となり洞窟の入り口で停止してしまった。

つまり政治AIソロンをはじめ今あるAIと言われるものは全てこのフレーム問題を解決できていない。つまり枠組みの中でのみ絶大な効果を発揮するのだ。

・人は選択できるか
「フレーム問題」の面白いところは、知能を持つ我々もまたこの問題から脱してはいないということだ。ただ、我々はほっとくと死ぬ。お腹がすくし、車にひかれるし、病気になる。他にも笑ったり泣いたり恋したりと忙しい。つまり時間が限られている。限られた時間内でその都度判断を下している。
真木総理による青波市復興も、ソロンはあくまで参考にするものであり決断や投票は人の意見を募る。
真木総理の不支持率が30％を切ったら罷免されるというのも、真木総理がそれを受け入れ、市民が不支持を突き立てた結果だ。
だがもし超高度なAIが完成したらどうだろう。人は判断する意義を失うのではないだろうか。政治AIが提示するモデルを、スマホのAIに選んでもらうという、人の知能や感情が一切介在しない社会が待っているのではないだろうか。
そうなる雰囲気はすでに我々の身近に迫っている気がする。


■ 倫理とは何か

・AIで死者を蘇らせることの違和感
では先ほどの問いに戻ろう。「好きな町がデータ化されメタバース内で復元されても幸福か」、「死者をAIで復元させたら幸福か」。みなさんはどのように感じるだろう。
本作では元市長はデータ化した祭りを愛しみ町並みの変化を受け入れた。
妻を亡くした老人は妻AIとの会話を楽しんだ。
サチ（山田杏奈）は死者をAIで復元した真木総理に嫌悪感を抱いた。
AIは知能にはなり得ない（今のところは）。
死者を復元しても復活した人物は「こんな倫理に反することをしてはいけない」と諭すことはしない。あくまでこれまでの情報から言いそうな言葉を出力するだけだ。

でもそれがより高度になっていったらどうか。人がAIだと見抜くことができないAIが完成したとしたら、それはもう知能と言って良いのではないだろうか。
果たして我々はいつまでも「気持ち悪さ」を持ち続けることができるだろうか。
「死者をAI復元しいつまでも愛し続ける人」の割合が増えていく中で「それは倫理に反するのだ」と叫び続けられるだろうか。

・AIによる新たな倫理観と法整備
本作に登場するスノウ（山田杏奈の二役）は真木総理がソロンを利用し生み出したAIだ。幼少期に事故を装った一家殺人で死亡した少女雪をモデルとしている。
17才設定の雪はスノウとして真木総理を励ましながら大人達がいない世界の実現に向かわせようと企んでいる。
もし雪が生きていたらそんなことをするはずがない。なぜなら誰も殺された経験を得て生きられないからだ。
本作ではAIスノウは消去されてしまう。つまり再び殺されてしまう。

スノウは極端な思考をしていたためにまさにドラマティックだったが、日常に溶け込んだ死者復元AIの場合はどうだろう。
もし故意に死者復元AIを傷付ける者がいたら、その人はどのような罪に問われるだろう。「AI殺人罪」という新たな罪が作られるだろうか。それともただの「不正アクセス禁止法」で3年以下の懲役又は100万円以下の罰金で済ませられるだろうか。
最愛の人（AI）を殺された恨みはその程度で許せるだろうか。

プログラム（AI）と知能（人間）の境界線はいずれ消失するのではないか。
知能（AI）がプログラム的な判断しか持ち得ない人間を管理する社会がもう始まっているのではないだろうか。


■ 描いたもの　描かれなかったもの

・フィクションに覆われた部分
平（星野源）が青波市総理大臣に選ばれなかった理由はソロンから語られていたが、真木総理が選出された理由は語られることが無かった。
結果的には真木総理の3ヶ月間があったおかげで平は日本の総理大臣になることができたが、つまりソロンはすぐに失脚する少年を選び日本国総理大臣になる男を取り逃がしたことになる。
もちろん乱暴に評価できることではないが、ソロンが政治AIとして不完全だったという余地が描かれているのはドラマとして秀逸だと感じる。

・善意ポイントアプリ
サチは良いことをするとポイントが溜まっていきサービスと交換できるアプリを作っており、このアプリのセキュリティの脆弱性をスノウに利用されていた。
ソロンは当然強固なセキュリティに守られていたはずだが人による管理が重大な事故を引き起こすという部分がリアルに感じられた。
ただこの「善意ポイント」は個人的にすごく良いと思うだけに作中では不人気だったのが残念。全5話という短さから深掘りできなかったのだと推測するが、もしこのアプリについて1話分使うことができたらどうなっていたか、想像するのも良いかもしれない。
僕が想像するに、善意ポイントの不正取得や提供できるサービスの不釣り合いさ、また善意を可視化することにより善行自体のモチベーション低下や価値の損失などが描かれたのではないだろうか。つまり人間のくだらない部分を表現するのに持ってこいだったろう。

・財源は？隣県への影響は？
繰り返しになるが、本作のソロンはあくまで「青波市の復興と市民の幸福度の追求」をフレームとしている。これまで書いてきたように、だからこそ真木総理を罷免してしまったり不完全なところがあったわけだが、他にも財源の捻出や隣県や日本全体への影響力など描かれない部分も当然ながらあった。
青波市は幸福になったけど隣の市は不幸になった、というのではいずれ取り返しのつかないものを失うことになるだろう。
数年後に全ての市で政治AIが導入され、その中でもずば抜けた能力を持つ管理者が他県の損失を無視した政策（しかも巧妙に隠されていてその総理が裁定しているようにはとても思えない）を連発したら。
おそらくこの世界のように日本はますます、超超富裕層と超超貧困層とに分断されるだろう。


■  失われていくものと我々の課題

・大人がいない世界
17才のスノウは大人なんかいない社会を目指した。
スノウが指摘しなくても、我々は超少子高齢化社会を生きている。
「老害」という文字がネットで飛び交い、若者を見殺しにするような社会政策が進んでいく。
一方で、あえて嫌な書き方をするが、メタバースに老人を追いやることで若い世代が活躍する可能性も描いている。
大人達ができることはAIに肩代わりしてもらい、あとは若者が社会を引っ張っていく。大人達は口出しせず協力を依頼されたら力を貸すというのが良いのかも知れない。

・人口削減　取捨選択される人々
本作では高校生が主要人物のせいか子育てや出生率については全く語られなかった。
現在明石市が少子化対策などで人口増加していると評価されている。どこに重きを置くかによって分かりやすく結果が出ることがわかった。
本作では市議会や公務員などがリストラの対象となっていたが、今後我々が住むこの社会でも取捨選択が進んでいくだろう。
若者達の未来を輝かしいものにし僕を含む大人達に早々に退場願うか。
それとも頑張ってきた大人達の幸福度を少しでも上がるような政策に踏み切り若者達の未来を削るか。
このドラマだけではなく、今後様々な作品や研究結果でAIについて語られていくだろう。自身の判断が可能な内に意見を挙げていきたい。

・人はどこからどこまでを指すか
「倫理観と法整備」の項目でも述べたが、今後人間とAIの境界線がますます曖昧になっていくと予想される。
ロボット的な人間よりも人間味のあふれるAIに感情を動かされる人が増えるだろう。
メタバースに囚われ、愛情あふれるAIに抱かれ、現実世界では物として扱われ続けたとしたら、人は容易に現実を捨てるだろう。
我々がもうスマホ無しでは生きられないと感じるように、今後はメタバースがそれに取って代わる。
AIについても法整備がされ、AIの社会的地位が確保された場合、そこに人は居られるだろうか。
全ての生物の頂点に、人の上にAIが立つ社会が待っている。かもしれない。
AIの帝国が完成した時に我々はまだ「さみしい」や「嬉しい」という感情や「懐かしい」という憧憬を抱くことはできるだろうか。
自分が人間であるという確固たる信念。あえて魂と表現するが、それを強く感じ続けることは可能だろうか。
きっと超高度なAIは「僕に魂がある」と錯覚させながら幸福度を上げる妙策で迫ってきているのだ。