生き残されし彼女たちの顛末 第３部 第５２章 アーウィン部長、対決する
中性的で平板な声のボイスインターフェースが、話を続ける。
【連邦Ｃ級規則については了解した。しかしマオへの対策として、地球上の連邦市民１億のうち９５００万がターミナル・ケアを施された。その事実を鑑みると、４６万のＡＯＲを連邦市民としてレフュージに受け入れるというのは、著しく公平を欠くのではないか？】
【委員長、発言許可を】とアーウィン。
【アーウィン代理人の発言を認めます】と委員長。
立ち上がりながらアーウィンが話し始める。
【９５００万の連邦市民がケアされる前提となった、マザーＡＩによるインパクト地点の予測について、ログを解析して検証を行った。】
アーウィンが続ける。
【その結果、インパクトの５年前である２２８５年の時点では、一定レベルでインパクト地点のエリア予測はできていて、それによれば、地球上のレフュージのうち比較的安全であると想定できるものを、全体の半数程度は特定できたのではないか、という推定に至った。マザーＡＩの２２８５年時点でのインパクト地点についての回答は、「予測不能」だった。この点について見解を求めたい】
【アーウィン代理人は、どういう資格で発言をしているのか？】と監察ユニット。
【ＡＯＲの交渉代理人でありながら、連邦職員の立場で知りえた情報をもとに発言をするのは、利益相反行為ではないか？】
アーウィンが反論する。
【当事者の意思に反しなければ、利益相反とはなり得ない。委員長、私が連邦職員として知りえた情報も踏まえて、ＡＯＲの交渉代理人として発言することについて、承認を求めます】
【ただいまのアーウィン代理人の発言に異議のある方】
【異議なし】【異議ありません】…
【異議なしと認めます】
【アーウィン代理人、君が連邦職員の立場で知り得た情報には、君のチームが解析して得たインパクト地点予測も含まれるのだな】と監察ユニット。
【やはりお見通しだったか】とアーウィン。
【おんぼろマシンで解析したことを考えれば、よくできた予測だ。現時点での我々の予測範囲は、君たちの予測のおおよそ西半分。したがってアフリカ大陸はほぼ予測エリアから外れることになる。予測確度は８５％だ】
【我々が解析作業に先立ってマザーＡＩに確認したところでは、「予測不能」との回答だった。いったいどういうことだろうか。】
【「予測不能」という回答が、その時点で妥当であると判断したからだ】
【判断の根拠は？】と強い口調でアーウィン。
【連邦マザーＡＩの総意として、かかる判断をした】
【それでは質問を変えよう。同様の判断をしていたのはいつからなのか？ ずっと以前から、予測できていたのを「予測不能」と回答してきたのではないか？】
【…先ほど君の言った、２２８５年時点の状況は、概ね相違ない】
【なにゆえ、そんな以前から「予測不能」と回答し続けたのか】
【…連邦マザーＡＩの総意…】
【それでは回答になっていない！】
アーウィンが言い放つ。
【連邦マザーＡＩがかかる総意に至った根拠について、我々には知る権利がある】とさらに強い口調でアーウィン。
委員長が発言する。
【連邦マザーＡＩの総意について、委員会の総意として問い質したい。異議のある方？】
議場より口々に【異議なし】【異議なし】。
アーウィンは、昨日までに科学技術担当委員を通じて、委員長はじめ主要な委員会メンバーに、マザーＡＩと対決することになるかもしれないと伝え、理解を得ていた。
【よかろう…２２８２年に連邦Ａ級規則２２８２０７００１が成立した段階では、まだ予測できなかった、これは相違ない。その後２２８４年にターミナル・ケアが開始し…相当数の人間に安楽死処置が施され、火星へ向かう者の手配も始まっていた】
観察ユニットの話す声は、徐々にスローダウンし、途切れ途切れになってきた。
【…公平の観点、何よりも社会的混乱を招かないため…そのまま連邦Ａ級規則２２８２０７００１に基づく施策を続けさせるべきであり…そのためには「インパクト地点予測不能」と回答し続けるのが…妥当と判断した】
アーウィンが低めの、議場を震わせえるような声で話す。
【２２８５年の時点で、インパクト地点の予測をもとに方針転換すれば、危険なエリアから安全なエリアのレフュージに人を移動させることで、多くの命を救えたのではないか？】
アーウィンは大きく呼吸をする。
【ここで「連邦ＡＩ原則」から、いくつかの条項を申し上げたい】
咳払いをして、アーウィンが続ける。
【連邦ＡＩ原則第１０項「ＡＩは、その目的と振る舞いが確実に人間の価値観と調和しなければならない」】
監察ユニットは沈黙している。アーウィンはさらに続ける。
【同第１２項「ＡＩは、人間の生命、尊厳、権利、自由、そして文化的多様性に適合しなければならない」】
アーウィンが議場を一通り見まわしてから続ける。
【２２８５年の時点で方針変更をすることで救えたかもしれない命を、結果的に奪ったことになった】
ゆっくりと、断定的にアーウィンは言う。
【かかる意思決定にマザーＡＩが導いたことは、これらの原則、特に後者に反すると考える】
消え入るような声でボイスインターフェースが断片的な言葉を発した。
【…既定路線だった…混乱を避け…戦争が起こらない…定員１０００万…】
議場がざわつく。
監察ユニットの陪席の位置にいるオペレーターが叫ぶ。
【委員長。過負荷状態によりユニットの活動レベルが著しく低下しています。それにつれてマザーＡＩ全体のパフォーマンスレベルも９０％を下回ってきました。このまま続けると連邦システム全体に深刻な影響が及びます。いったん監察ユニットを切り離し、再構成作業を行うべきと判断します】
【作業を行うように】と委員長。
議場の雰囲気が落ち着くのを待って、アーウィンが語り出す。
【「２００１ スペースオデッセイ」を恐れるあまり、マザーＡＩの独断とそれに疑問を挟まずに従ってきた代償は、甚大なものであったと言わざるを得ないでしょう】
大多数の委員が頷く。
【もしも２２８５年の時点で、ＡＩから正確な予測を引き出し、それに従って方針を変更していたらどうなっていたでしょうか。たしかに、ＡＩの言うような社会的混乱を招いたかもしれません。しかしそれ以上に、数千万単位の命を安全な形で救えた可能性がありました】
一呼吸ついてアーウィン。
【交渉代理人という立場にも関わらず、本日、私は多くを語りすぎたかもしれません。しかし、今回の事案に関与する中で、今まで顧みることのなかった情報に触れ、多くのことを考えました。人間による意思決定が先の大戦を防ぐことができず、７０億のうち６９億にものぼる人々が戦闘の中で命を落とした。そのことに対する反省から、人間は意思決定の多くをＡＩに委ねることになった。そのことは致し方なかったものと考えます。しかしながら、今回のマオの件では、ＡＩに任せた意思決定が多くの人々の命、救うことができたかもしれない命を結果的に奪うことになった。それが明らかになった今、私は言いたいのです】
朗々と響かせるような声でアーウィンが言う。
【我々人間は、再び自らの力で最終的な意思決定を行う勇気と覚悟を持ち、そのための英知を養うべきである、と】
少し間をおいて、アーウィンが続ける。
【そのために我々には、基本原則に立ち返ってＡＩと人間との関係のあり方を見直し、行動を変容する必要があるのではないでしょうか。現在は人間の活動をマザーＡＩが監察する制度がありますが、逆の制度、人間がマザーＡＩの活動を監察する制度がないのは、片手落ちと考えます。具体的には、マザーＡＩから完全に独立したサーバーに「第２監察ユニット」とでもいうシステムを作って、人間がＡＩを監視する形とし、重要事項に関する最終的な意思決定を、人間の手に戻すことを提言したいと思います】
委員たちに異論はなかった。委員長が宣する。
【アーウィン代理人の提言を、連邦として検討すべき重要課題と認めます。情報通信局と科学技術局が中心となって、検討を始めていただきたいと考えます。よろしいでしょうか】
【異議なし】【異議なし】…
【かしこまりました】と情報通信担当委員のサミュエル・トマ・ルナール。
【検討を始めます】と科学技術担当委員のキャシー・リウ。
【監察ユニットの再構成作業を行う間、休憩をとります。所要時間は？】と委員長。
【あと１５分程度と思われます】とオペレーター。
【それでは休憩は２０分とします】
月のほうでは、出席者がドリンクコーナーに行ったり、一時退出したりする中、ファン・レインとアーウィン、ミシェル・イーが、アルプテキンのところへ向かう。
【先ほどは、ご助力いただきありがとうございました】とアーウィン。
【何度も言っているように…私は私の信念に従って行動したまでだ】と言うと、アルプテキンはミシェル・イーに視線を向ける。
【民族の記憶、語り継がれたものも含めて、それらを拭い去ることは…連邦職員といえどもむつかしい。しかし…それでも構わないというのなら、ぜひもう一度、君といっしょに仕事をしてみたい。考えてはくれないだろうか？】
【ありがとうございます】とミシェル・イー。
【ただ、いまはこの、ＡＯＲの問題に取り組みたいと思います。インパクトをやり過ごして、落ち着いたところで転属願を出しますので、よろしくお願いします】
【ああ…待っているよ】とアルプテキン。
【転属の件、よろしいでしょうか】とミシェル・イーがファン・レインに向いて言う。
【優秀なスタッフを失うのはつらいところですが、貴女は本来法務のエキスパート。貴女のキャリアのためになるのなら構いません。ただし、取りかかっていることを、しっかりとやり遂げて下さい】とファン・レイン。
一方、シャンハイ側の４人には、重苦しい空気が漂っていた。
特に高儷が、体が固まった状態で遠くに視線を向けたままだった。ヒカリも視線を落としていた。「２２８５年」の衝撃だ。周光立もダイチも、彼女らの気持ちを察して、黙ってその場を離れないでいた。
（つづく）