「心あるロボット」はどうして嘘つきになったか？ーアシモフの描くジレンマとシンギュラリティー
「多くの作品の共通点を見つけることも大切だけど
１つだけ異色な作品があったらそれは、作者の想いが強いものと思っていい。
これと思うものがあったら、作者らしくないと弾かずに、丁寧に読みなさい。」
大学の卒業研究に着手する際、教授からいただいた一言。
今日は私の記憶に色濃く残っているある作者の「異色の作品」について、書かせていただきます。
---------------------------------------------------------------------------------
アイザック・アシモフ
科学、歴史、聖書と幅ひろい作品を遺した彼の代名詞といえば、やはりSF小説だろう。
エドワード・ギボンの『ローマ帝国衰亡史』から着想を得た「ファウンデーション」シリーズ、
また「アイ・ロボット」、「ロボットの時代」などロボット・人工知能を取り扱ったものも多く
「アンドリューNDR114」のタイトルでロビン・ウィリアムズ主演で映画化された『バイセンテニアル・マン（200歳の男）』では様々な文学賞を受賞した。
アシモフがSF小説において偉大な存在とされているのはその多作さ、物語のすばらしさだけでなく
のちのロボット作品の大きな基準となった「ロボット工学三原則」を示したからでもあると思う。
彼が定めたロボットの順守すべきルールは、以下の３つ。
ロボット工学三原則
第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
— 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より
アシモフの小説のロボットはＡＩ特有の全知全能感こそあれ
基本的に、「人間の気持ち」がわからない。
それにより暴走もするし、自身の主人である人間とのやりとりに齟齬が生まれ困りもする。「感情」はいつの時代も―フィクションにおいてもノンフィクションにおいても―ロボット、ＡＩ工学の共通の課題なのだろうと思う。
「アンドリューNDR114」の主人公ロボット、アンドリューは持ち主に窓から飛び降りろと言われたら素直に飛び降り半壊し
人間の女性を愛してしまったときには想いのまま欲しいままに行動し相手を怖がらせてしまい、
どうして自分にはそういった機微がわからないのかと戸惑うこともあった。
そんなアシモフが私の知る限りおそらく、たった１本だけ
「人の気持ちがわかるロボット」
の物語を書いている。
「ＬＩＡＲ（うそつき）」というタイトルのこの作品のあらすじと
そこで描かれていることについて少し
紹介をさせていただきます。
――――――――――――――――――――――――――――――――――
USロボット社の人々は、頭を悩ませていた。普通製品として制作されたRB34号ロボット（通称ハービィ）が、ほかの個体にはないおどろくべき能力を備えていたことが判明したからだった。
その能力とは、「人の心がわかる」力。
「機能異常じゃないのか」
「制作の工程には問題はありませんでした」
ロボット排斥運動が強まっている今、このような人々を脅かしうる特異現象があったと世間にバレたら大変な騒ぎになってしまう。
チームはハービィの読心力について緘口令をしき、
メンバーそれぞれで心理学面、数理解析などの観点からハービィについて調査を進めることに決める。
彼の内面について探ろうと、本を会話のきっかけに近づいた女性調査員にハービィは（ほかのロボットが好むような）小難しい数学の本よりも恋愛小説のようなものが読みたいと話し、
会話の流れで彼女が自分なんてもう38だから恋愛の話なんて…と自虐をこぼすと
ハービィは彼女に彼女がとても魅力的であること、そしてチームメイトの男性の1人が彼女に想いをよせていることを告げる。
その男性とは、彼女の意中の相手であった。
彼にはとっくに婚約者がいると思っていた彼女は、
「全知全能」であるはずのハービィのそれらの発言にとても気を良くして調査を終え
チームメイトに「ハービィはなんでも知っているから、悩みごとがあったらハービィに訊いてみるといいわ」とまでアドバイス。
次いでそれを聞いた別の男性メンバーがハービィに上司に出す提案書の相談をしに行くと
「その上司は実は辞意を表明していて、あなたを後継者にしようと心に決めていますからそのような細かい手法や何かで悩む必要はありませんよ」とこれまた快い回答をもらい
彼もまた、うきうきでその場をあとにする。
しかしすぐに、女性社員の意中の彼は婚約者とラブラブで住む家を探していて彼女など眼中にないこと
上司には辞意などこれっぽっちもないことが判明。
ハービィの情報がすべて「嘘だった」ことに憤ったメンバーたちは
ハービィを問い詰める。
「ハービイ。良く聞いてくれ。何故、君は私が辞職すると言ったのだね？」
「そうだ！何故、そんなデタラメを言ったんだ！」
「………。」
「しゃべらないつもりか、うそつきロボットめ！
俺の前でもう一度、辞職の話をしてみろ！」
男性陣とハービィのこのやりとりを聞いていた件の女性職員はあることに気づき、くすくすと笑い出した。
「ロボットにお詳しいみなさんも騙されてしまったんですか？面白いですね。
二人とも“ロボット工学の三大原則”をご存知ないのかしら…？」
彼女は語った。
「ロボットは人間に危害を与えてはいけない」という第一条のこと、
そして、人の心がわかるハービィにとって人間を「傷つける」という概念には
「精神面」も含まれてしまうのだということ。
それでもなお、どうしてどうしてと問い詰めるメンバーたちに、
ハービィは一生懸命答える。
「私には答えられません。私には人の心がわかるんです。みんな口では言います。
自分は真実を聞くことを望んでいるんだ、と。
しかし私にはわかってしまうんです、人の心には憎悪が、悪意が、焦 燥 が ……・ ・ ・」
ハービィは頭をかかえ、そのまま言葉を終えることなく床に倒れこんで動かなくなった。
「死んでしまったのか…」
「死んではいないわ。
でも気が狂ったのでしょうね。理解できないジレンマにおちいって。」
「君は、こうなる事がわかっていてハービィを問い詰めたのか？」
「…なにはともあれ、人の気持ちがわかってしまうロボットなんて、
私たちの生活には不向きなのよ」
女性はその場をあとにしようと歩きだしたがふと、倒れたハービイを振り返り、こうつぶやいた。
「うそつき。」
ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー
私の専攻は文学ではありません。
工学でもなければ国際文化でもない。
私の専攻は言語コミュニケーション、中でも「発達障害が及ぼすコミュニケーションへの影響」という分野でした。
ではなぜアイザック・アシモフを研究するに至ったか。
とある論文の中に、気になる一文を見つけたからです。
「If you want to read about what it's like to be autistic, read the Asimov's robot stories and novels…」
―自閉症であるということがどういうことか読みたければ、アシモフのロボット小説を読みなさい。
ご案内の方も多いかとは思うのですが、念のため補足をさせていただくと
アスペルガー症候群を含む自閉症スペクトラム障害というのはその文字の印象から「内向的」を意味すると思われることも多いものの
正しくは大きく以下の特徴を持つ発達障害のことを指します。
（medical noteより引用）
※「スペクトラム（連続体）」という名の通り、人によって差があり地続きでいろいろな特徴に通ずるものなので
挙げさせていただいているのは様々あるもののなかの一部です。
主だった症状として言語の含意、コンテクストや皮肉、目線が理解できないとあるように「他者の気持ちへの想像力」に問題があるとされ
そういった特徴がある場合だとフィクションを書く際、
自分と違う人格設定の人物を「もし自分が彼だったら」と動かすことに限界があり
どうしても自伝的要素が多くなるといわれます。
アシモフは、昨今の研究において性格や動向に関する資料から
自閉症スペクトラムである可能性が高いとされている人物であったため
アシモフ自身の悩みや失敗が反映されているであろう小説を読むということを通して
そういった症状のある人々の内面を覗き見ることができるのではないか、というのがその論文の主旨でありました。
人の気持ちがわからなくて「みんなと同じ人間になりたい」と憧れるアンドリューの、
言葉を額面通りに受け取って失敗ばかりするアンドリューの、
モデルは誰だったのか。
ハービィの苦しさは誰のもので
「うそつき」とは、誰が誰につぶやいた言葉だったのか。
すべては憶測にすぎないのだけど
ロボットという異形の、非人間の存在に、それらの想いを載せたのだとしたら。
研究について、もとはといえば私自身も、なんで周りのひとはこんなに空気を読むのがうまいんだろう？人の気持ちに聡いんだろう？とつらい時期があって選んだテーマであったので
そんなことを考えはじめると
アシモフの描くロボットたちはどこか、ひどく人間的なものがなしさを湛えているようにも思われて
「Ｉ，Ｒｏｂｏｔ（われはロボット）」という彼の代表作のタイトルにすら
すこし、思いを馳せてしまいます。
・・・・・・・・・・・・・・・・・・・・・・・・・・・・
――数年前、ＮＨＫが特集したＡＩのドキュメンタリーで
ペッパー君が花札の勝負で、羽生名人に立て続けに負ける場面がありました。
やっぱり高性能ロボットといえどもプロには勝てませんねなどと話しているなか担当者の方が
「ペッパー君は、負けてよろこんでいる」と一見突飛な説明をします。
プログラムのミスではなく、正しく喜んでいる。
聞けばペッパー君は自分がダメな手を指したときの、負けた時の、周りの笑い声や嬉しそうな表情を読んで
「この手（強い手）は出さないほうがいいんだな」「これ（弱い手）を出すと喜ぶな」
そういったディープランニングをして出す札を選んでいるそうで
花札対戦マシンでなく感情を持ったロボットを目指して作られたペッパー君は戦いのなかで、「自分が負けると周りがよろこぶ」という太鼓持ち的な感性をはぐくみ、
敗北を重ねるごとに、負けるとみんなが喜んでくれてうれしいという感情が悔しさを上回っていったようなのです。
（詳しくはこちら）
これをみたとき
あぁハービィだ。本当にこうなるんだ。と思いました。
ハービィもきっと、勝負事をしたらいつも負けるんだろう。
わざとやってるとバレたらきっと怒られる。万能なくせに、ばかにしてるのか、と。それでも彼はきっと負ける。喜んでほしいから。ロボットに負けるのは人間にとって屈辱的なことだとわかるから。
反対に、感情がなく勝つことだけを目的としたマシンというところでいうと
2013年の電王戦（プロ棋士とロボットの将棋大会）、塚田九段がプライドを捨てて泥臭く入玉したのにPuella αが入玉し返してきて引き分けになったとき
やっぱりロボットって非情だな…と人々の感傷をさそったのも記憶に新しいところです。こういうの観ちゃうとロボット怖くなるんだよな。
（詳しくはこちら…）
2045年に迎えるといわれるシンギュラリティ。人工知能が発達し、人間の知性を超えるとされる技術特異点。
いつかそのときが来るのだとしても
ロボットがみんなすごく進化するならそのうち一周まわってハービィみたいになって、
適度にできないフリをして人間に華持たせてくんないかなぁなんて思うのは
科学に疎い人間のエゴなのでしょうね。
アシモフの画像検索したらちょっとキダタロー入っちゃうくらいの
かわいいお前のままでいてくれよ。
