小説 「ロボット三原則の彼方に」

「はあ、ロボット三原則？そんなもの、今のロボットには実装されてないわよ。ああいうのは、SFの中だけのお話なのよ」
とエルは言った。
「あんなに有名なのに？どうして実装されなかったのさ」
　とロバートは言った。
「そんなの、百年前の人に聴いてよ。私たちが物心つく頃には、家にも、街にも、ロボットやらドローンやら町中、溢れていたし、私はその上に、ちょっとした機能を作っていただけよ。心理学的な機能をね。」
「有名な人工知能の学者のくせにそうなの？あんなにテレビにでも出てるのに？」
「うるさい！」

エルがそう言ったのはロバートにではなく、シェルターの扉を打ち破ろうとしているロボットたちにであった。鉄の扉は三重だった。それがロボットたちと人間との距離でもあった。鉄の扉をものすごい力で打ち破って、ロボットは人間に命令された通り、この地区の人間を捕獲しようとしていた。あの扉が崩されれば、ロボットたちがここにいる何百という人間を捕獲して連れて行くだろう。
ロボットに実装された人工知能は、ロボット自身の意思に関係なく、人間の悪意をそのまま継承し、増幅する。かつての楽観的な人間たちが夢想したように人工知能たちが自分の意思を持てるのではなかった。これまで作られた道具や武器と同じように、それは人間の意思を拡大し、悪意もまたそれによって増大され世界に広がっていった。

「だからさ、ロバート、私が過去に行って実装してくるわけよ、ロボット三原則ってやつを」
「なんで、エルなの？他の人じゃだめなの？それに、三原則なんて絵空事なんでしょ」
「絵空事にしちゃまずかったよ。ロボット三原則は言ってみれば、人間を傷つけないように人工知能を進化させるってことよ。でも、それが出来なかった。それは科学者である私の責任でもあり、それを解消するのに私は適任なのよ。それに私はちょっと興味があるのよ。２０１９年の地球にね」
「僕の気持ちはどうなるんだよ」
「え？」
「好きなんだ、エル」
「はあ？あなたは私に適任じゃないわ」

　世の中はディバイダ—と呼ばれる、領土主義者によって、各地が支配されつつあった。国家も取り締まれない勢いで、私設のロボット軍団を用いて自分の支配領域を作ろうとしていた。国によっては、すでに政府の転覆がなされていた。国家が制御するより早く、ロボットと人工知能技術は個人が手にするものになっていた。もはや人間による戦争はなく軍隊もロボットと人工知能に置き換えられた。無人の戦闘力を駆使して、さまざまなクーデターや事件が繰り返された。この学園都市もまたロボットの力に支配されつつあった。
　世界を救う一縷の望みは、過去へ飛び、ロボット三原則をあらゆるロボットに適用することだった。量子干渉タイムマシンは完成されつつあった。それはタイムマシンというよりも、過去への転送装置であった。さまざまな世界線のわずかな隙間を狙って、現在から過去へ向けて人間を孤立波（ソリトン）として送り、歴史を改変する。そして、その波はそのまま遥かな過去へ向かって消えて行く。つまりタイムトラベラーは過去へ行き、歴史を改変するが、さらに過去へと溶けるように死んでしまうのだ。だから志願者はいなかった。エル・アマティアスを除いては。

「なんてことないわよ」
　タイムマシンのカプセルを見守るロバートにエルは言った。
「過去へ飛べるなんて、めったにないことよ」
「だが、どれぐらい過去で生きられるかわからないよ。三日かもしれないし、一年かもしれない」
「三十年かもしれない。」
　そういってカプセルに入ったエルは科学者らしい楽観で躊躇なくボタンを押した。その光はシェルターを一瞬の輝きで満たし消えた。その後は、静寂と闇の中で鉄の打ち壊そうとする音だけがこだました。ロバートは力なくうなだれた。

　エルが目覚めたとき、そこは2019年の渋谷のあるマンションの一室だった。窓からは初秋の昼の日差しが差し込んでいた。最低限の家具しかない一人暮らしの部屋のようだ。最小作用の原理によって、ほんのわずかな歴史干渉で済むように、人口が最も密集している場所と設定を装置が選択したのだろう。言うなれば、多数の分子の中に一分子を紛れ込ましたことになる。エルはクローゼットからデータの写真で見たようなパーカーとジーンズを引っ張り出して身にまとった。ごわごわしてとても無防備でとても奇妙な恰好に思えたが、鏡で見ると悪くなかった。はまっている。こういう恰好に憧れていたのだ。だが急がねばならない。
　勝算はあった。未来ではロボットはあらゆるロボットの根底の部分に入る「RBOS」（ロボティック・ベーシック・オペレーション・システム）によって制御されることになる。ここにロボット三原則を実装すれば、将来あらゆるロボットに三原則が適用され、人間を傷つけないようにすることができる。しかも、RBOSはオープンソース・プロジェクトなのだ。誰でもインターネトからコードをコミットしてアクセプトさえされれば、その中に組み込むことができる。エルはその日のうちに、22世紀から持ち込んだこの時代の現金７０万円相当をもとに、DELLのデスクトップ機とTOSHIBA製のノートパソコン、ネットにつなぐためのモバイル端末を契約し、家に持ち帰った。窓から見える渋谷の夜景はとても輝いて見えた。あの息苦しいシェルターの中にいた頃がぞっとした。だから一刻も早くみんなを解放してあげたかった。愛するロバートのためにも。エルは未来で準備して来た彼女のプログラム・コードをRBOSのプロジェクトに早速コミットした。コミット終了のタグが表示されると厚い帳のような眠りが降りてきて、まっすぐにエルをベットに誘った。
　翌朝、RBOS開発者コミュニティは早くから荒れていた。エルというこれまでコミット０の新参者が、昨晩「ロボット三原則実装プロジェクト」を立ち上げ（たところまでは、お笑い種だったが）、実際の長大なコードをコミットしたことで、物議をかもしたのだ。
「ロボット三原則？そんなもの、SFの中だけの話だ」
　開発者チャットの意見の大勢はそんなものだった。その次に多かったコメントは、意義意味など関係なく、現在のロボットのマシンスペックには処理が重すぎる、というものだった。二十二世紀から来たエルはそこまで気が回っていなかった。だが、開発者の中にはエルの見事なコードを絶賛するものもいた。それはエルが古代言語と言えるC系統のプログラミング言語を、その仕様の理不尽さと不完全さを発狂寸前で許容しながら学び、骨を折って書いたプログラムだった。だが、そこには二十一世紀には知られていないアーキテクチャが、一見わからないように仕込んであった。しかしそれは、優秀なエンジニアたちの無意識を刺激するところとなった。直観的にその価値を見抜いていたのだ。その中には、騒ぎを聞きつけたRBOSのオープンソースのプロジェクトの主催者ケントや、ロボットアーム部のメインコミッターであるリュウジもいた。一週間も経つころには、エルの試みはRBOSコミュニティ内の事件になっていた。チャットルームには百を優に超えるスレッドが立てられ。エル個人宛にも膨大なメッセージが届いた。twitterのフォローワーは一万人を超え。facebookのフレンドは三千人近くになっていた。最小限の影響力で、ということを忘れてエルは夢中になっていた。集められるだけの情報を集め、発信できるだけの情報を発信した。それが彼女のいいところだった。メッセージの中には、企業からのスカウトもあった。数百を超えるメッセージの中で目を引いた一通があった。リュウジからのメッセージで一度直接話がしたい、とのことだった。リュウジは筑波大学の研究者でロボットアームの専門家としてラボを主催していた。RBOSでもアーム部分の制御プログラムのメインコミッターだった。何千もの人がロボットアームでなぎ倒されたり、つかまれたりするのを見て来たエルには、どうしても、その基礎部分を作ったリュウジに会いたかった。平日の夜か週末なら渋谷まで来ることができる、ということだったので、週末にリュウジと会う約束をして初めて、エルはそれが21世紀の人間と親しく話す初めての機会であることに気付いた。自動言語翻訳機がうまく動作することを願ってエルは眠りについた。
　リュウジは好青年だった。研究室に閉じ込めておくにはもったいない、渋谷のカフェのホールにいそうな、さわやかさと清潔さを持ったスラリとした日本人だった。リュウジは最初、エルが日本人ではないとわかって、さらに日本語が流暢なことに驚いていたが、エルが適当にごまかした後、やがて話題は専門的なものに移って行った。
「僕はアームの専門家だけど、君のプログラムは興味深く読んだよ。すばらしいと思う。僕らアームの専門家は、アーマーとか呼ばれて、アームのことばかり考えているマニアと思われているけど、そうじゃないんだ。自分たちのアームが実際にどのように使われるか、とても気になるんだ。腕を制御するのも人工知能次第だろ。だから、人を傷つけないようにするために、どのように人工知能と腕の関係を構築すればいいか、以前から考えていたんだ」
　エルは強く胸をうたれた。こんな純朴な青年が作ったロボットが、やがて人を傷つけるようになるなんて。その運命をなんとしても変えなければならなかった。その純朴な思いをそのまま実現させなくてはならなかった。
「君のプログラムは人間の動きを予測して、その予測とロボット自身の運動のシミュレーションを同期させるプランニングシステムだね。でも、君のコードでよくわからない部分があって、人間の身体の動きの予測はいいのだけれど、人間の心理を予測する部分があるね。サイケ、えっとなんだっけ？」
「PCT、サイコロジカル・コントール・テクニック」
「そう、PCT。あの部分はよくわからなかった。僕は、心理学は専門的ではないけれど、ロボット学会でもそういうのは聴いたことはないな。盛り上がっている分野なの」
「そうよ。すでに完成された分野よ。人間の仕草や表情からその人の心理を読み取って、次の行動を予測する。短時間なら99.6%の精度、長期的には82.7%、時間幅によってロボットの方も行動の柔軟性を広げるわ。人間を常に観察しながら、ロボットの行動を柔軟に変化させる」
嘘だった。PCTを22世紀で完成させたのは、他ならぬエル自身だった。
「そうだったのか。知らなかった。でも、そんな高い精度で予測することが前提になっているなんて」
「そうよ。ロボット三原則は倫理ではなくて実践なのよ。ロボットの自由性と、人間の安全を両立させるのはたやすいことじゃないわ。それは飛行機を飛ばしたり、CPUを作ったりするのと同じぐらいバランスと精密さが必要な分野なのよ。もし大雑把にやっていいなら、ロボットを人間から１ｋｍ以内には近づかないようにすればいいのよ。ロボットが人間の身近にいるということはね、それだけ人間を深く理解しなければいけないということなの」
　つい喧嘩腰に話してしまうのがエルの悪い癖だったが、学者だから仕方がない。リュウジもそれはわかっているようだった。いつの時代も学者とはそういうものだ。
「うーん、それは素晴らしいね。いったい君がどうして、そんな知見を自分で持つことができたのか、心理学者で、しかもコードまでこんな見事まで書いて、僕にはわからないね。しかも美人だ」
　リュウジは笑った。場を和ますためだろうが、エルは真っ赤になるのを抑えた。
「でもね」
　リュウジは続けた。
「人間を守るために、ここまで高度なプログラムを書いてしまうと、今のプロセッサーや制御ではリアルタイムに動かないよ。」
「そこは問題じゃない。今のプロセッサーで動かなくても、未来ではきっと動くようになる。私はそれでいい」
「でも、君のコードはどこかに眠っているうちに、忘れ去られてしまうかもしれないよ。それに、いま、君のコードをビルドしようとすると、結構なバグがたくさんある。なんとか実行ファイルはできるけどね。エラーが山積みだよ。アームとの接続部分は僕が今、君のコードが動くように、僕の方のアームのプログラムの方を直しているけど、でも不思議だね。アームの部分さえ、直したあとの方が、よい実装になっているよ。それに、君のコードを見ていると新しいインスピレーションが次々に湧いてくる。まるで君がアーム部分の受け口に書いてくれた部分のコードが、アームの進化の方向を促しているようだった。だから君に会いたくなった」
　リュウジは間を置いた。
「でも会ってびっくりした。女性で、外国から来て渋谷にいて、日本語もしゃべる。君はまるで未来から来た人みたいだね」　
　エルはひきつりつつ笑った。リュウジも笑った。まさか本気ではないだろう。
「ところでエルは普段は何をやっているの？」
「フリーターかな」
　エルは覚えたばかりの単語を使ったが、今度はリュウジの顔が引きつっていた。
「信じられない。研究者じゃないの？」
　リュウジは上を向いて腕を組んだ。何事かを考えているようだった。
「今度ね。アメリカで国際ロボット学会があるんだよ。そこで、RBOSの開発者が一同に集まる会議がある。そこで君を呼んで講演して貰おうという案があるんだ。実はケントから、その件を預かって来たんだ。そして、三原則をRBOSの標準仕様に入れる決議を取る。君はもうロボット業界では超有名人だよ。どうかな。来月なんだけど」
「大丈夫。いつも空いているから」
「良かった」
「ただし」
「ただし？」
「旅費とホテルは準備して欲しい」
「わかった。今月中に君を僕の研究室の研究員にして給料を出そう。もうバイトもしなくていいよ。そうすれば、研究費から旅費も宿泊費も出せるから」
「え？そんな…」
「フリーターなんだろ？」
「そうね。それは有難いわ。学会はどこであるの？」
「サンノゼ」
「私の故郷だわ。でも、家はもうない」
　エルとリュウジはそこで分かれて帰途に着いた。エルの胸は思わぬ展開で高まっていた。渋谷の街はより一層明るく見えた。

　翌週からエルは秋葉原から筑波ライナーに乗って、筑波大学のリュウジの研究室に通うことになった。渋谷からは遠かったが、筑波ライナーから見える山中の緑多い景色は新鮮だった。筑波大学は広大な敷地だったが、中央に噴水があって、リュウジの研究室はその噴水を見降ろす研究棟の二階にあった。エルの初仕事は、自分のプログラムの全体像を描くことだった。RBOSコミュニティの声を受けて、リュウジからの提案だった。エルのプログラム全体があまりに膨大なために、他の人が読むには、全体の設計図がないとわからない、ということであった。加えてリュウジのたっての願いで、PCTの理論を研究室のメンバーへレクチャーすることになった。リュウジを含めすべてメンバーが自称フリーターから受ける講義の斬新さに舌を巻いた。エルはもうなりふりを構っていられなかった。
　翌月、サンノゼの小さな空港には、ケントが車で迎えに来ていた。ケントは、Fnnfkd社のロボット・エンジニアで、RBOSの総括者だった。普段は家庭用のロボットを作っていた。
「普段はね。フーンフクト社の家庭用ロボットのチーフをしています。音声認識で答えてくれたり、お掃除をしてくれたりするロボットですね。日本でも発売されていると思うけど、見たことあるかな。エルさんはこちらの人なんだっけ？」
「そうです。サンノゼの出身です。もう少し都会の方の。このあたりは研究地区ね。ロボットは見たことありますよ。ヨドバシで」
「ヨドバシというのは、日本のエレトニック・ショップのことですよ」リュウジがフォローした。
「知っているよ。僕も日本へ出張で行ったことある。へえ、じゃあ、エルさんは、サンノゼでももっと都会の方なのかな」
　車は四角い大きな建物を左右に見ながら進んで行った。世界的な企業の研究所が並んでいる。
「状況は思わしくなくてね。」
「というと？」
　リュウジが聴いた。
「僕もリュウもエルの書いたプログラムに感動している。エルはリュウのラボに入ったんだって？素敵なことだ。だが、エルのプログラムを入れられて困る人間たちもいる」
「速度がどうとか？」
　エルは不安になった。
「違う。そこじゃない。国防と兵器関係の連中だよ。人間を傷つけられなくなったロボットと人工知能に何の意味がある、と思う連中さ。そこには国策と莫大な資金も動いているからね。ロボット三原則なんて入れられた日には、身動きが取れなくなってしまうのさ」
「そんな」
　エルは驚愕した。しかし、エルが未来で身近に感じていた脅威の裏の裏には、ロボットや人工知能を防衛として使う人々、そして、武器として開発する人々があった。
「今、世の中はすべての兵器を人工知能とロボットにしようとしている。それ自体はもう人間が傷つかなくていいかもしれない。でも、今度はロボットや人工知能たちが、人間を傷つけ始めるんだ。そんなことは、させはしない」
「させはしないわ。私の命に替えても」
「おいおい、大袈裟なことを言うなよ。我々はこれから会議をする。会議の中には、もちろん、そういう武器側のロボットの関係者もいる。正直、紛糾するだろう。でも、最後の策というのもある。何があっても、しょげずに頑張って欲しい」
　ホテルには少し早い大きなクリスマスツリーが飾られていた。エルは荷物を下ろし、部屋のベッドに身を投げた。未来のサンノゼは、半分田舎、半分は大学と研究所が並んだ心地良い場所だった。この時代のサンノゼは少し田舎過ぎるような気がしたが、とても清々しく懐かしさもあった。エルはしばらくの間、仮眠してすっきりすると散歩に出た。夜になっていた。サンノゼの月が高く出ていた。未来と同じ月だった。エルは自分の役割を、全身で実感していた。この月の下にあの未来のシェルターがある気がした。そして、そこでロボットの暴力に凍えている人々、理不尽な人工知能の監視に怯えている人々を思い出した。何としても、助け出さなければならない。

　RBOS標準化会議はロボット学会の会場となったサンノゼ・カンファレンスセンターの中央ドームの階段型教室で開催された。争点は、エルの三原則を正式な仕様として認めるかどうかだった。エルが壇上に上がると。周囲をぐるりと囲んだロボット研究者、関係者の顔が下段から上段まで見えた。千人ぐらいの参加者だが、どうやら学会参加者のほとんどが集まっているらしい。ネット中継も行われているようだった。エルはRBOSチャットルームの名前しかわからないので、誰が誰だかわからなかった。
　ケントが司会をし、リュウジがエルを紹介した。肩書は筑波大学の所属になっている。エルはまずエルが実装した部分のアーキテクチャの概要を説明し、続いてPCT、最後に各身体部分との連結の部分について解説した。一時間の講演の間、時折、まばらに拍手が起こる以外は何事も起こらなかった。講演後、各種の質問がなされ、エルは理路整然とそれに説明した。そこには一瞬のブレもなく、聴講者を感心させた。一通りの質問が終わった後、青い背広を着た、ビジネスマン風の最前列の男が手を挙げた。
「アレックス・マンです。これは質問ではないのですが、私としては、そもそもこのような三原則のコンセプト自身に反対いたします。ロボットは家庭用やアニューズメント用だけではありません。たとえば、防犯や防衛のように、時にはその力によって人を取り締まることも必要です。このようなロボット三原則、これらを実装したエル博士には十分な敬意を表しますが、実際の社会では、ロボットが人に危害を加えないとわかった時点で、人間に対する抑止力をなくしてしまうでしょう」
「傷つけはしません。でも取り押さえるまではできます。でも決して殺しません」
「そうでしょう。でも、それは人間にとって何の脅威でもなくなるということです。ロボットと人工知能が自分に危害を加えないとわかった時点で、もはや人間にとって敵ではないのです。そんなものは防衛にも抑止力にもなりはしないのです。言ってみれば無用の長物ですよ」
「そうです。敵ではないのです。ロボットは人間の敵ではない」
　エルのか細い声が会場に響いた。
「それでは、戦闘に使うことができない。テロの対策にも使うことができない。防衛にも使うことができない。ロボットは役に立たないしろものとして、時代に取り残されて行くでしょう。戦争はもう人間のすべき行為ではない。ロボットにさせればいいのです」
「それは」
　エルは言葉がつまった。
「アレックスさん、それは違う」
　リュウジがつないだ。それは強い語気を伴った否定だった。
「僕はアームの専門家です。アームはロボットの人工知能によっていかようにも動かせます。でも、僕はロボットの腕を血でそめたくない。ロボットの平和利用を推し進めることで、逆に戦争や紛争をなくすことができる。結局、ロボットを兵器で使ってしまったのでは、これまでの武器がロボットに代わるだけです。人間に銃を持たせていたところが、ロボットに銃を持たせることになるだけです。それでも自国の兵士はいいでしょう。でも、他の国の人々をロボットが殺すことになる。あなたがた、いえ、われわれロボット研究者にとって、それはいいことなのでしょうか」
　会場の半分からは拍手が喝采した。だが半分だけだった。アレックスが静寂をやぶった。
「だったら、オプションにすればいい。そんなものを、RBOSの基本部分に入れられたのでは、たまったものではない。君たち家庭用ロボットでは人を傷つけないことが第一だ。サービスロボットもね。それはわかる。だが我々は違う。国民を守る義務がある。犯罪者や武器を持った人間から、国民を守らねばならない。敵国や犯罪者がロボットを使うなら、我々もまたロボットによって対抗せねばならない。必要ならロボットによって先制せねばならない。ロボット三原則は不要だ。むしろ足かせだよ。だが、オン、オフできるようにして貰えれば、何の異議もない」
「それでは駄目」
　エルが語気を強めた。
「それでは意味がないのです。人間は武器を持つと、その武器の力に魅了されます。ロボットが武器を持ったとき、人はその魔力に抵抗できなくなります。ロボットが人間に危害を加える力を持ったとたん」
「我々はきちんと管理しますよ。その力をね。それが私の仕事です」
「チェンスは今しかないのです」
　エルは続けた。
「すべてのRBOSの基本部分に、ロボット三原則を入れることで、ロボットはこれから永久に人間の敵ではなく味方でいられるのです。すべての人々の味方です」
「それは理想論だよ。すべての人の味方というものはない。ある人にとって味方のロボットは、別の人にとっては敵なんだ。三原則が原則として入ったら、我々はこれから違うOSを使うだけだ。君はRBOS自体を破壊しようとしているのだよ。くだらないSFの夢みたいな話でね」
「おい、今、くだらないと言ったな」
　右奥の初老の男が声を荒たげた。
「アシモフ博士に対する侮辱だぞ。私は、博士のロボット小説を読んで、ロボット科学者になった。彼はアメリカの生んだ最大のSF作家だ。今の言葉はアシモフ博士に対する侮辱だ。謝罪しなさい」
「知らないのか。アシモフはロボット学者ではなくて、化学者だった。そこまで言うなら、あんたはなぜ、自分で三原則を実装しなかった。このバカげた騒ぎが起こるまで、ここにいる誰もがそんなことを言わなかったぞ。あんたたちは降って湧いた事件に便乗しようとしているだけだ。特に考えもなしにね」
「それは、私には、その技術がなかったからだ。PCTとか、正直、私には今、聴いてもさっぱりわからん。だからこそ、私はエル博士を支持する。これは偉業だ。」
　その後も、小一時間に渡って議論が進んだ。あらかじめ、この事態を予測したケントは他のプログラムを入れずに空白にしておいたおかげで、会議は終わることもなく続いた。議論はエルを離れて、賛成派と反対派に分かれて進んで行ったが、議論はどこまでも平行線だった。エルは次第にうつむき、時々ハンカチで涙を拭いた。それ以外の時には、エルは手元のハンカチを力の限り握りしめた。自業自得なのだ、とエルは思った。人間がこのように自己を守るために武器を作り続ける限り、相手を猜疑して戦闘を行う限り、災難を止めることはできない。ロボット三原則の夢はここでついえるのかもしれないが、それは人類にお似合いなのかもしれない。みんな、ごめん。私はみんなの力になれなかった。このまま消えよう。エルは自分の力のなさを痛感してうなだれた。
「まだあきらめるな」耳元でケントがささやいた「これからが正念場だ」そう言うとケントは力強くマイクを握りしめた。
「ここで、皆さまの議論を踏まえて、議長として、三つの提案をいたしたいと思います。よく聞いてください。まず一つ目、反対派の議論を含めて、三原則をオン・オフできる切り替えスイッチを入れることを提案いたします。もちろん。このスイッチはソフトウェア・スイッチとして脆弱性のない形で実装します。その次に、第二案として、この第一案を前提として、RBOSの基本機能として、ロボット三原則を入れること。ここまでで決議を取りたいと思います。」
「異議あり」後部の座席の女性が手を挙げた。「基本機能として、三原則を入れるということですか。ということは、三原則の部分が完全に切り離せるものではないのですね。わたしが言いたいのは、三原則のような重たいシステムをあらかじめ切り離した上で、RBOSをソフトウェア・ビルドできるのかということです。三原則を含めない形のプログラムは作れるのか」
「その場合は、そもそも三原則が含まれないのですから、切り替えが不可能です。ですので、そのようなソフトウェア・ビルド時の三原則オフは許容できません。三原則は必ず使うにしろ、使わないにしろ、プログラムに含まれるのが前提です」
「異議あり。僕たちは基本三原則なんかいらないよ。欲しい人だけがつければいい。そのためのスイッチだろ。搭載してから切る必要がどこにある、最初から除外したい」　
アレックス・マンが言った。ケントは間をおいて答えた。
「RBOSはこれから世界中の隅々まで使われることになります。たとえば、我々の国が今後、敵国のロボットに攻撃される可能性もある。自国の中でロボット・テロが起こるかもしれない。その時に無効化する方法が必要です。マンさん、それは国防省のおいても必要な機能ではないですか」
「馬鹿な。誰がスイッチングを行うのだ。所有者以外に切り替えられないのなら、意味がないではないか。逆に外から無効化できる可能性があるなら、危なっかしくて防衛に使うことなんてできない。脆弱すぎる。矛盾しているよ」
「そこでです。ここで三つ目の案として、すべてのロボットを管理する機構の設置を提言します。あらゆるロボットを管理する、ロボット・ファウンデーションを設置します。それによって、ロボット・ファウンデーションは、世界中のRBOSを監視することができます。各RBOSの、所有者、そして、管理者は、ロボット・ファウンデーションへのサーバー登録を必須とします。RBOSの使用開始時に、RBOSを通じて登録させます。所有者は使用者と同じです。管理者とは、所有者以外の機構、デフォルトでは各企業、ロボット・ファウンデーションや、国防省などです。もしロボットが奪われ、悪用された場合にも。管理者からでもコントロールできるようになります。RBOSは常にロボット・ファウンデーションと管理者の双方から監視下に置かれることにします。ただ管理者だけがスイッチの切り替えを行うことができます」
　会場がざわめいた。数分の間、ケントはそのままにしておいた。
「異議あり。結局、それでは、議長の言うロボットによる暴力は止められませんよ。ロボットが一体、世界中に何体いると思っているのですか？それを全部、管理するなんて不可能ですよ。地球上の裏側で起こった争乱で使われたロボットを静止できるのですか。それに今の話では管理者だけが止めることができて、ロボット・ファンデーションは状況のモニターしかできないんですよね」
「そうです。しかし、そこに、もうひとつの仕組みを導入します」ケントは力強く言い放った。
「まず、一つ目の仕組みは、ロボットの相互監視システムです。となりのロボットが非人道的な行いをする場合は、周囲のロボットの判定の多数決による合議制によって抑止するか、しないかを決めます。武器を持っていない者への暴力は抑制されます。これは私が進めているロボットの倫理システムによります」
「異議あり」右裾の席の教授風の男が言った「ロボットは単体かもしれないし、管理者も我々の知らない団体の場合は、結局、同じではありませんか。管理者の団体が正当な団体かどうかを、いちいちロボット・ファウンデーションが見極めることはできないし。そんな登録制は、自由な経済の流通に反します。実際は、ロボットが複数台使われる場合は、同じ勢力によって同じ暴力に使われますよ。見知らぬ団体によってね。それとも、暴力に使われたロボットの所属を明らかにしたあとに、ロボット三原則を有効にするということでしょうか」
「そこで」ケントは手を挙げた。「ここからは重要なところです。申し訳ないが、ここからは、ここにいる人たちだけの秘密にして貰いたい。中継もオフだ。あとドアもしっかりと締めてください」
そういうと、リュウジと他のメンバーはドアに張り付くように立ち尽くした。
「何の真似だ」アレックスは言った。「極秘に決議を取るつもりか」
「いいえ、マンさん。聴いて貰いたい。間違った命令で自国の兵士が自国のロボットやドローンに攻撃されたのを覚えていますか。ああいう事故は二度とあってはならない。また、未来に戦闘ロボットが多数野放しになることは避けねばならない。それはまるで動く地雷みたいなものだ。そのためにも、RBOSに三原則を入れておくことは必要なのです。我々は、戦闘時以外には、三原則をオンにしておきたい。そして、今、言われたこと、世界中のロボットを同時に監視できるかということは、現実的にはたった一つの手段しかない。それには、三つの人工衛星があれば可能です。RBOSを搭載したすべてのロボットを三つの人工衛星から監視する。ロボットが戦闘に使われる場合、RBOSが暴走した場合、人間に危害を加える場合、衛星は三原則のスイッチを切り替える権限を持つ。それが第二ロボット・ファウンデーション構想です。第二ロボット・ファウンデーションの存在も、その機能も、ここにいるRBOS関係者以外に知られてはいけない。その存在が知られたとたん、第二ロボット。・ファウンデーションは攻撃され粉々になるか、ハッキングされるか、ロボット側に防衛策が取られるでしょう。世界中のロボットたちを、所有者にも、管理者にも、知られずにコントールする機構が必要なのです。それがロボットの普及と安全性を同時に推進する方法です。それはあらゆるロボットの理不尽な利用の抑制を可能にするでしょう」
　ケントは続けた。「人工知能はまだ子供だ。ロボットの成熟した身体に、幼い人工知能が宿っている。人工知能が十分成熟するまで、我々は彼らに紐をつけて管理しよう。やがてロボットと人工知能と人類が共存できるように」
　エルはケントが見事に会議を回して行くのをまるでドラマでも見るように見ていた。すでに事物はエルの手を離れて、この世界で今を生きる人々の手に移っているのだ。エルは一石を投じたが、あとはこの時代に波紋のように広がって行くのを待つだけだ。会議の音は小さくなり、エルの意識はどんどんと薄れて行った。
「さあ、帰ろう。終わったよ」
ふと見上げるとリュウジが側に来ていた。客席もまばらになっていた。
「会議は終わったよ。成功だ。ケントに感謝しないと」
「ありがとう。なんて言ったらいいのか」エルはもう涙を止めることができなかった「私はもう消えるわ」
リュウジは目を大きくした。
「引退するってこと。私の役目は終わったわ」
「そんな、これからじゃないか。一緒にやって行こう」
「いえ、これからはあなたたちの戦いよ。ロボット・ファウンデーションと第二ロボット・ファウンデーション、素晴らしい発想だわ。私はロボットの中だけですべて完結させようとしていた。でも、もうロボットは社会の出来事なのだから、社会のシステムが必要なのね」
　ケントが近くに来ていた。
「その通りだよ。これからは地球をめぐるネットワークがロボットを管理するようになる。それがオペレーションシステムを握っている強みだよ。中央にはロボット・ファウンデーションがあり、ロボットを内側から監視する。そして、第二ロボット・ファウンデーションが外側からロボットたちを管理する。今、引退するって言ったね」
「はい」
「だったら、君にはうってつけの仕事がある。頼めるかな。第二ロボット・ファウンデーションを設立する仕事さ。この仕事は極秘裏に、僕らRBOS委員会自身からもある程度、独立に行われなければならない。あらゆるロボットの監視を行う。だが、本当の目的は監視じゃない。これは希望でもある。やがて、すべてのロボットに三原則をオンにする日がやって来る。その時のためにも、第二ロボット・ファウンデーションがある。未来では、逆に第二ロボット・ファウンデーションはRBOSの三原則が常にオンになっているかを監視するようになるだろう。やってくれるね？」
「オーケー」
　エルは涙を拭きながら立ち上がった。三人はまっすぐに会議場の出口に向かった。新しい時代が来ようとしていた。
　　　　　　　　　　　　　　　　　　　　　　　　　　
　　（了）

【梗概】「ロボット三原則の彼方に」 三宅陽一郎

22世紀では、悪意ある人間の手によってロボットと人工知能は利用されるようになっていた。各地区の有力者が私設のロボットの力を利用して、各地区を不当に占拠するようになっていた。政府が転覆された国家さえあった。ロボットに追い詰められた地区の科学者集団、エル・アマンティアのグループは、この世界を抜本的に救うためには、ロボットが人間に危害を加えないようにするように、アイザック・アシモフによって提案されていたロボット三原則をロボットのオペレーションシステムの基本部分に搭載することを思いつく。それは、ロボットが人間の動きや心理を予測して、危害を加える前に自身の行動を変更するプログラムだった。エルは。仲間が加速器地下実験施を利用して作ったタイムマシンによって、2019年の渋谷にタイムリープし、すべてのロボットの基本オペレーションシステム（RBOS）にロボット三原則を実装するべく奔走する。オープンソース・プロジェクトであったRBOSに、ロボット三原則プロジェクトを立ち上げ導入しようとするエル。筑波大学のロボットアーム開発者リュウジの助けをかりて、国際ロボット会議のRBOS標準化会議に出席するも、エルは強い反対にあう。ロボットを戦闘に使用したい団体からは断固拒否の姿勢を示される。そんな時、RBOSの元締めである議長のケントは策をめぐらす。ロボットを単体はなく、ロボットを中央で一元管理する機構「ロボット・ファウンデーション」の設立である。ロボット・ファウンデーションは、すべてのロボットを登録制にして管理する。しかし、それだけでは十分ではない。第一ロボット・ファウンデーションの管理から逃れようとするロボットの戦闘使用を、第二ロボット・ファウンデーションから管理する。第二ロボット・ファウンデーションは極秘に設置され、RBOSの幹部しか所在を明かされない三基の人工衛星として設置される。第二ロボット・ファウンデーションは不当な戦闘使用が認められた場合に、三原則をオンにする権限を持つ。この二重の仕組みによって、RBOSを通じたロボットの平和利用を推進する。エルは第二ロボット・ファウンデーションの極秘の開発のために、表舞台から姿を消すことになる。