『われはロボット』アイザック・アシモフ◆SF100冊ノック#18◆
■１ あらすじ
一人のジャーナリストが、ロボット心理学の第一人者、スーザン・キャルヴィン博士にインタビューをしている。既に８０歳を超える彼女は、ロボットの誕生から発展と伴に歩み、それを目に焼き付けてきた。彼女が語る驚くべき９つの物語。それはロボットと人間の出会いであり、つながりであり、また矛盾や対立の物語でもあった。
９つの物語は大きく３部に分けられるだろう。１〜４章までは、未だプログラム上の矛盾に陥ってしまう幼いロボットの物語。５−６章は、人間と並び、人間と対立するロボットと人間の知恵比べ。そして７−９章では、急速度に発展し、もはや人間の知的活動では及びもつかない活動を行う人工知能の物語である。
ロボットSFの古典とされる『われはロボット』だけれど、これはほとんど『われはAI』と置き換えても良いほど、AI、人工知能の物語でもある。
今の様々なロボットに関する作品を読んだ後では、これらの作品はどれもどこかで読んだような、少し古い印象を受ける。特に「三原則」の設定には突っ込みどころが多く、テーマの掘り方も素朴だ。けれど、その素朴さがむき出しのテーマを、思考実験を与えてくれるという瞬間もあった。もし時間がなければ、序章と３、５章だけでも読むことをおすすめする。
■２ 三原則とシンギュラリティ
ロボット工学の三原則
１ ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
あまりにも有名な三原則だが、小説の中で特に把握すべきはこの一条だ。二条は「命令に服従」三条は「自己保存」で、１＞２＞３、の優先順位が与えられている。ぶっちゃけ、全ロボットに適用するにはあまりにもふわっとしすぎた原則じゃないですか。そもそも自然言語使ってる時点で文脈読みまくれるでしょ。ソシュール読め。と、盛大にツッコミたくなる気持ちを抑えて先に進む。いやでもね、１〜６話まで、ほとんどこの原則の解釈が主題の半分くらい占めてますよ。それくらい「人工知能」は難しい、という話で。
つまり、「危害」とは何か、「危険」とは何か。さらに「人間」とは何か、という問題になるわけ。言ってみれば、「この目の前にいる脆弱なタンパク構造物は”人間”ではない」と判断するとか、「人間にとっての最大の危機回避はロボットに管理支配されることである」と解釈しちゃえば瞬間的に無効になる命令でしょ。
物語のラスト３話で、人工知能は「人間」の語を「人類」に拡大し、「危害」を与えない範囲内で様々な対処を行う。世界を大局的に見始める。ここまで来ると『マトリクス』の世界まであと一歩という感じで、牧歌的なラストに「おいおい」と突っ込みたくもなるのだが……まあ、「寓話」とみれば良い。９話には人工知能が人間を超える「シンギュラリティ」についても語られているけど、ここでのそれもシンプルなものだ。しかし、バイアリイの存在がそうであるように、シンギュラリティを迎えたコンピューターは、果たしてそのことを人類に隠さないだろうか、という思考実験がここで生まれる。さて、シンギュラリティは起きるとして、それに気づけるのか。
■３ 手塚（とおまけ）
最初のエピソード「ロビィ」は、すぐに手塚治虫の『火の鳥』に登場するロビタを思い出させる。ロビタをめぐる物語は、『火の鳥』のエピソードの中で中核ともなる、「人間」に通じていく。
自分自身が「人間」であることを証明しようと、第一原則を破るロビタの姿は、アシモフの正当な継承にも思える。
有名な作品だから、様々な作品でオマージュとして登場しているのだろう。
そういえば、アニメ『スペース・ダンディ』に登場するロボットもQTという名前だった。
「超光速航行の代わり、人間が一度死んで復活する宇宙船」の姿は、先日の『エンディミオン』の着想元の一つにも思えた。そういえば技術者の名前は『エンディミオン』で何度も死と再生を繰り返すグレゴリイと同じだ。
■４ 二つのエピソード
前述した通り、僕のお気に入りのエピソードは三章「われ思う、ゆえに……」と、五章「うそつき」だ。「われ思う、ゆえに……」では、衛星の基地の中で、自らを預言者とし、技術者たちを「自分たちロボット＝真の人間を生み出す過渡期の存在」として、そして狂人として扱うロボット、QTが表れる。彼らの話を聞いているうちに、技術者たちは自分自身の正気を疑いはじめる。
「おれは落ち着かないんだ、この眼で地球を見、この足で地面に立って――そいつがほんとうにあるかどうか確かめるまでは」
ここには「推論」の首尾一貫性の問題が横たわる。
「どんな命題だって証明したいと思うなら、完全に論理的な推論で証明できるんだ―命題に都合のいい公理を選びさえすればね。われわれにはわれわれの、キューティにはキューティの公理があるのさ」
天動説が、非常に複雑な―美しくさえ見える―論理によって証明されたことを思い出せばよい。あるいは『火星年代記』で、火星にやってきた地球人が決して理解されず、狂人として扱われたことを。僕はこの物語を読みながら、文化人類学のことを強く思い出していた。あらゆるものには「説明」をつけることが出来る。どのような無意味に見える儀礼にも、呪術にも。それが正しいか狂っているかを判断するのは、客観的ではありえず、社会の枠組みに基づく。
●
五章に登場するハービィは、人間の心を読むロボットだ。この描写はファンタジーかもしれないが、アルゴリズム技術がハービィに近づいていくことは予測出来る。タイトルどおり、このロボットは「嘘をつく」ことが出来る。人間がなるべく傷つかないように。心を読むことの出来るロボットは、人間の心の痛みをも、第一条の「危害」として扱ってしまう。一章の「ロビィ」もそうだけど、どうにもセンチメンタルすぎるこの２話が、やたらと心にのこってしまう。「うそつき！」と叫ぶキャルヴィンは、ロボットのハービィに「腹を立て」ていたのだから。だからこれは、ロボットというよりも人工知能の、そして人工知能の「人間性」をめぐる物語だと思う。より大きな「人工知能」という「他者」があり、それが肉体を得て活動する社会的な物語の層がその上に載っている、そうしたイメージだ。
ロボットと人工知能をめぐる物語として、思い出したいのは『Hello, World』や『バルドスカイ』というエロゲ。また『わたしは真悟』や上に挙げた『火の鳥』のマンガ、小説なら『アイの物語』と、どれもサブカルチャーに数えられそうだが、非常に重要な作品群だと思う。『古典的名作』をそれほど恐れる必要はないぜ。文学的価値は僕らが決めるのだから。そんなわけで、『Hello, World』再プレイしよっと。
追記：本書の中には「フランケンシュタイン・コンプレックス」という語も登場する。人間外の被造物に対する嫌悪の感覚。勉強不足だが、クリステヴァの「アブジェクシオン」とも関連するだろう。『Hello, World』をまた持ちだすと、この作品では決定的な場面でこのコンプレックスが克服されている。けれどそれは当たり前というか……忘れてしまいそうになるけれど、僕たちの判断基準はちっとも論理的でなんかなく、親しさ、親しさ、優しさといった日常的な部分に足を置いていることを思い出させる。この話はまた今度。