情報社会を生き抜くための本49「AI兵器と未来社会」キラーロボットの正体（栗原聡）

キラーロボットの話の前提として、人間の意識についての論がある。
「驚かれるかもしれないが、意識を持ち自らの意思で生きているはずのわれわれは、我々の脳にそのように錯覚させられているだけで、我々の行動を管理し決めているのは、顕在意識ではなく、意識されない潜在意識の方なのである。
例えば、車を運転中に急に子供が飛び出してきたので、慌てて急ブレーキを踏んだという状況を想像してほしい。この場合、
①人が飛び出すのが目に入る。
②人が飛び出したことを意識する。
③ブレーキを踏まないと危ないと言う考えがとっさに頭に浮かぶ。
④瞬時にブレーキを踏む動作を開始する
が脳での情報処理の流れだと思われるだろう。危ないと意識したので、それを回避するために意識的にブレーキを踏む、と。しかし、実際はそうではない。
「危ないからブレーキを踏まなければ」と意識するほんの少し前、具体的にはおよそ0.3秒から0.5秒前には、すでにブレーキを踏む命令が脳から足の筋肉に発せられているのである。危ないと意識する前に、脳から足の筋肉への支援が出ているのだ。これでは順番が逆だと思うことだろう。

（へえ、そうなのか）

話がややこしくなるが、著者はこの文脈から次のように論を展開する。
潜在意識が顕在意識システムをコントロールしているということなのだ。
人は社会性動物であり、群れて社会性を乱す集団として統制のとれた行動が効率的な治療や濃厚を可能とした「社会性」を発揮するには、人と人がお互いの行動の理由や何をしたかなどのお互いの意図を相互しあい相互理解しあうことが必須であり、より効率的に話し合う方が重要となる。そのためには顕在意識が司令塔という方が好ましくそうすることで間強に環境に適応していき続けるという報酬を獲得できたということなのだ。

今後登場するであろう自立型人工知能についても以下のように述べる。
自立型となると人工知能が自らの意思で人を殺すことができる可能性がゼロではなくなってくる。ただし自立型人工知能であっても目的を与えるのは人である。よって人を殺すような目的を与えなければ大丈夫だと言いたいところだが、そう簡単な話ではない。なぜなら自立型人工知能に与える目的は床掃除をするとか食器洗いをするといった具体的なタスクではなく、家をきれいにするといった抽象的なタスクであり、メタ目的と呼ばれるものである、
いわゆる「強い人工知能」というものだな。

国際的な現状は、以下の通り。
自立型致死兵器開発を行っている国は、イスラエル、ロシア、中国、米国、フランス、韓国を加えた計6カ国とされているが、7番目以降の国が密かに存在していても不思議ではないと筆者は考えている。

このような状況において日本はどうすべきか。
日本は諸外国と比較すると産学ともにテクノロジーの開発研究において、平和への意識と1戦を越えてはいけないと言うコンセンサスの明確をそれぞれ強く持っていることを筆者は強く実感している。これまでの知見を蓄積を生かし人工知能の平和利用のイニシアチブをとっていくことが十分に可能であろう
求められるのは人間力である。

筆者は小学生に対して外に行って遊ぼうと呼びかける。現実には難しいが野原で虫や植物を触ったり、泥遊びをしたり、友達と野球やサッカー、ときには喧嘩もするであろうし、とにかく五感を最大限にフル活用させることだ。そしていろいろなことに興味を持ち、疑問を持ち、本を読み、人と話、楽しいや悲しいなど豊かな感性を身に付け、共感力を育むことが重要だと答えている。あまりに普通すぎる回答だと思われるかもしれないが。

「とにもかくにもく人間力を高めるべきだ。なぜならこれこそが人工知能にとって最も苦手とする能力だからである・・・」（筆者の結論）

これって「非認知能力」そのものじゃないか。