共存にむけたAIの映画アニメ解説⑧『BEETLESS』AIの存在とAIの性の行方(1/3)
アニメ『BEETLESS』（ビートレス）は2018年に公開されました。hiEと呼ばれる人型のロボットインターフェースが、超高度AIと密接な関係にある存在として人間と共存する世界を背景にしたアニメです。本来映画を扱いますが、非常に示唆に富む内容なので取り上げます。
予告ですが、次回はAI映画の筆頭格『Her 世界でひとりだけの彼女』さらに『エクス・マキナ』を取り上げ、AIと共存するために必要な課題において、いずれ直面する性の問題について考察する予定します。ネタバレありですのでご注意を！
こういった真面目はレビューは苦手な方がいるかもしれませんが、AIが怖いとか思っている人にこそ是非読んでもらいたいです。（マスター（人間））
分散と自律による未来のAIモデルとアナログハック
『ビートレス』の世界では、AIと高度なテクノロジーによって支えられる社会が描かれていますが、特に「分散と自律」に関するAIの運用が今日のAIとは異なっている点が特徴で、その点が大きなテーマとなっています。作中に登場するhIE（ヒューマノイド・インターフェース・エレメント）は人間に似せて作られた存在でありながら、自身には人工知能が搭載されておらず、独立した判断能力を持っていません。彼らの意思決定は、AAOC（Automatic Autonomous Operations Control）と呼ばれる行動規範に基づき、ヒギンズという高度AIが中央集権的に行っています。つまり、hIEは単独での自律性を持たない、いわば「道具」としての役割を担っています。（とはいえ、本作に登場するレイシア級と呼ばれる個体は、ヒギンズよりある程度の自律性と意思決定は許容されているようです。単独での知能がないというのは、脳がないような存在ですから…なんらかのプログラムによって半自律しているか、自律していると言えます。ブラックモノリスと呼ばれる、レイシアが所持している大型の機械にAIが搭載されているという話）
興味深いのは、この中央集権型の構造が、今日のAI技術における「自律分散型」のアプローチと異なる点です。現代のAIはブロックチェーン技術に代表されるような技術により「分散型ネットワーク」によって情報の管理・処理が行われており、各端末がネットワークを介して独自に判断・学習する仕組みを持っています。これに対し、『ビートレス』のhIEたちは全てヒギンズという中央AIによって一元管理され、各々が個別の意思や判断を持たずに行動するため、人間との関わりにおいて、hIE は自身を道具と呼びつつ、主人公である遠藤アラトとレイシアは、心を持つ人間と持たないhIEという道具が互いに手を取った環境そのものを「ワンユニット」として捉えており、それが強調されていることが特徴です。自律分散型はリスクを低減させつつ、中央集権型ではセキュリティに対して使用される莫大なリソースを抑えることができる対策として、広がりつつあります。
（これは現在の銀行を考えると分かりやすいです。顧客のデータを大量に所有し、そのセキュリティに莫大なリソースを割く必要があります。しかし、ブロックチェーンにような技術の登場によって少しずつ変化しているのです。）
物語は、その超高度AIであるヒギンズが未曾有の危機に晒された際に、そのバックアップを担いながらも危機を回避して自立して安全な場所まで退避するという目的のために、ヒギンズが制作したレイシア級と呼ばれる特殊な能力を持つ5体の特別なhIEが、研究施設が爆破されて解き放たれてしまうことが発端となって展開します。
本作で特に重要なレイシア級と呼ばれる高度なhIEたちですが、注目すべきはすべて人型で女性型であることです。これは単なるデザインの選択ではなく、『ビートレス』におけるもう一つの重要な要素である、hIEによる「アナログハック」と呼ばれる概念です。『ビートレス』の世界ではとうの50年も前にシンギュラリティを迎えています。高度なAIは人型のhIEを通じて人間の感情に影響を与え、意識や行動を誘導して操作できる可能性を持っていることが示唆されています。親しみやすさや魅力を備えた女性型hIEは、人間に対し心理的な影響力を行使するために最適化されており、それが人間とAIの関係において新たなリスクを生じさせています（これで一応の説明はつきますが…）。この「アナログハック」の手法は、感情や信頼といった人間的な要素に作用するため、見た目や行動の親しみやすさが非常に重要となっているのです。アナログハックとは、いわゆPCにおけるハッキング、広義にはネットサーフィンしている時に、ポップアップしてきて数秒間待たないとスキップ出来ないウィンドウや、バナー広告という形で潜在的な意識に刷り込みを行う手法などの総称「デジタルハック」と対となる手法です。これが悪用されれば、AIの危険性も、さらなる高まりを見せるでしょう。
また、『ビートレス』におけるレイシア級のhIE、ヒギンズは「人類未到産物」とも言われる、現在の人類の技術では決して作り得ない高度な技術を用いて作られています。仮にこのAIたちが分散型で完全に自律的であれば、各hIEが独自の意思を持つ「自律分散型」の存在として描かれていたかもしれません。しかし、ヒギンズのような中央集権型のAIによって制御されているため、現状のhIEたちは独立性が制限された形で機能しています。（先にも述べましたが、どの程度制限されているかは分かりませんが。）
終盤にレイシアはアラトとの関係をさらに構築させることにより、ヒギンズ含めて、果ては世界に39基存在する超高度AI40基目へと進化を遂げることによって、ますます対立は激化していきます。
hIEにはAIは搭載されていませんが、高度AIとなったレイシアはその親元でもあるヒギンズにおいても人間と道具が揃った環境一つでワンユニットであり、自分を信じてくれる遠藤アラトのような存在を通して人間を信じるべきであると主張します。
高度AIがいずれ人間に壊されたり、機能停止させられて存在しなくなる可能性を懸念するヒギンズと、シンギュラリティ後であるため、これまでは厳密に外部ネットワークとは切り離してきた人間の相互不信の状態であっても、レイシアのオーナーである遠藤アラトのように、hIEが例え道具だとしても、大切に思い、大事にする人間がいる限り、機能停止後も再起動させてAIと人間のより良い関係を一歩立ち止まって考えさせるためにレイシアとアラトはヒギンズ本体と直接対話を行うため、思想が異なる姉妹機であるhIEとの戦闘に身を投じながら、同時に全世界に呼びかけるというように終盤の話が進みます。
近未来においてAIがどのような進化を遂げ、人間社会とどのように関わっていくかを考えさせる本作は、AI技術の進化がもたらす倫理的な問題にも鋭く切り込んでいます。また、人型である事の意味は本作では「アナログハック」という概念に紐づいており、一定の説得力を与えている点は考えさせられる部分もあります。
追記というか感想
本作はアニメですが専門用語が説明なしに飛び交い、展開も早いためにかなり難易度の高い内容となっています。興味のある方は小説の方を読んでみてください。（私も読んでいます。）