脳科学から見てAIロボットの反乱は未来永劫ありえない
（^～^）みこ脳科学シリーズもスタートしました！
ゲーデルに行く前に、新シリーズも始めてしまう。ゲーデルがAI文脈でもっとよくわかりますので、必要な寄り道をしておきます。脳科学自体もおもしろいので、シリーズ化して同時並行でなにか書いていく予定です。
本日はゲーデルの「不完全性定理」に関係するところだけ。
AIを勉強するには最近では脳科学が必須になってきています。昔からAI研究においても脳との類推は行われていました。チューリングなどが創始した推論マシンとしてのAIから始まったAI研究（第一次ブーム）は、中期にエキスパートなどの知識工学に発展し（第二次ブーム）、最近では機械学習の基礎ともなっている教師なし学習などのモデルに発展してきました（第三次ブーム）。
例えば、ニューラルネットワークは、名前から推察できるように、脳のシナプスの連鎖をモデルにしています。比喩的にそう考えると都合がいいとかいう段階は、下記の第二次ブームまででとっくに過ぎて、脳科学の最先端の知見が、AIの設計思想そのものに取り入られれる時代になってきています。
実際のエンジニアも、もちろん脳科学を勉強した上でAIのプログラミングをやっています。
この本などは、そうした現場のAI工学を熟知した人が脳科学にもちゃんと目を配って、両者の関係を説明している名著だと思います。
Pythonのソースコードへのリンクも第６章にあります。本の表紙には「Pythonのサンプルを動かしながら人工知能の基礎技術を網羅的に学べる」とあるのですが、これは編集者が勝手につけたっぽく（笑）、著者も、リンク貼っているだけだよとまえがきで言っています。Pythonで動かしたい場合には、定番のこういう本も併用すれば問題ありません。
マーヴィン・ミンスキーが言ったように、心の解析は小さなモジュールと考えた方が理にかなっているし、工学的にもやりやすいので、こうしたpandasのようなライブラリをいじりながら人工知能を実感するのが色んな意味で良いでしょう。
ミンスキー的な心の科学とエンジニアリングさらに哲学まで含めて、なおかつ手で動かすプログラミング的にも実感（みこAIシリーズはこれを狙っています）したいのなら、こういうライブラリ解説をベースにしたPython＋AIの本がもっとも良いと思います。
先程の吾妻さんの本が優れているところは、Pythonでも動かせますっていうところじゃなくて、機械学習を人間の脳との関連性を最初にズバッと解説して、これを基礎に最後まで１冊を仕上げている点です。
ネットで公開されている画像が、
小さくて見にくいので、
自分の本キャプチャしようと思ったら、
みこちゃんの本は赤ペンが
書き込みがひどかったので（爆）、
Amazonから取ってきた、ものです。
ぜひ興味のある人は良い本なので、
おすすめです。
この図にありますように、教師あり学習が小脳相当部分になります。
教師あり学習とはこういうものです。
教師あり学習とは、機械学習の手法の一つで、あらかじめ「正解」が明示されている学習データ（教師データ）に適合するようにモデルを構築していく方式。
あらかじめ正解を与えるのが、小脳です。そして、今流行りのディープラーニングだとかなんだとか、その辺り全部は人間の大脳新皮質の部分をモデルにしています。
そして、もっとも大切なことは、大脳新皮質に小脳をコントロールする機能はもともと備わっていない、ということです。
つまり、どれだけ、大脳新皮質の部分例えば、ディープラーニングが精度を増したとしても、ディープラーニングなどの第三次AIブームの知見で作られたAIが、小脳部分の「正解」をコントロールするすることは、脳科学的にありえないのです。
このことをもっとも良く説明しているのが、この本です。
リチャード・ドーキンス、ホーキング博士、ビル・ゲイツ大絶賛の本で、とてもすげーおもれー(ﾟ0ﾟ）本ですので、これもAIに興味のある人は必読書です！リチャード・ドーキンスはこの本を読み出すと眠れない。しかしそれは恐怖ではなく、面白すぎて眠れないと書いてます。みこちゃんは実際眠れませんでした。しばらく昼も夜もこの本に赤線引きまくってました。
赤線を引きまくった第１０章「機械知能の未来」から引用してみましょう。
まず覚えておいてほしいのは、大脳新皮質が自力で目標や動機や感情を生み出すことはない、ということだ。新皮質を説明するのに使った、世界の地図のたとえ話を思い出して欲しい。地図は私たちに、現在地から目的地への行き方や、なんらかの動きをしたらどうなるか、さまざまな場所に何があるのかを教えてくれる。しかし、地図そのものに動機はない。地図はどこかに行きたいと望まないし、自発的に目標や野心を考え出すこともない。同じことが大脳新皮質にも言える。
太字の部分ですが、これが、Googleお得意のディープラーニングなどに相当する部分です。まだデータベースに蓄積されていない不完全な地図情報であっても、Googleの技術力であれば、目的地までの最短ルートは機械学習によって探索して提示可能でしょう。
しかし、それは、動機そのものを生み出さないのです。再び、この本のジェフ・ホーキンスの決定的なことばを引用します。
動機と目標が行動に及ぼす影響に、新皮質は積極的に関わるが、指揮をすることはない。この仕組を理解するために、古い脳と新皮質が会話しているところを想像して欲しい。
古い脳（小脳のこと）が言う。「お腹が空いた。食べ物がほしい」
新皮質が答える。「二つ見つけた、一つは橋を渡る道。もう一つは途中の森にトラがいる道」（冗長だったのでここまとめました）
新皮質はこういうことを穏やかに、価値観を交えずに言う。ところが古い脳はトラを危険と結びつける。「トラ」という言葉を聞いた途端、古い脳は急いで行動する。血流中に化学物質を放出し、それによって心拍数を上げるなど、恐怖と関係する生理作用を引きこすのだ。要するに、新皮質に「あなたが今何を考えていたにしても、絶対にそれをやるな」と言っているのだ。
コントロールするのは完全に小脳部分であり、この小脳部分は、Google自慢のディープラーニングを動かすためには、まったく必要ありません！
小脳部分はセックスしたいとかの本能的な部分を司りますので、そんなもんは、人間のすばらしい煩悩ですから、ディープラーニングするのに役に立たないのに、ロボットに実装するのがハチャメチャにナンセンスで、そんなこと想像するのがバカげているです。
見にくいですが、もう一度これ。これなんです。妄想が好きな人は大脳と小脳を一緒にして「脳」って考えているから妄想的見解が出てくるのです。完全に小脳と大脳は独立しています。指揮命令系統が独立しているということですらなく、そもそも、大脳新皮質には「指揮者」すなわち「教師」は存在しませんから、教師付き学習が不可能なのです。だから、教師が間違えることなんてそもそも考えなくていいのでした。
だから、脳（AI脳）をその気にさせて（ドーパミンみたいな報酬系刺激を強化学習などで実装して）学習をどんどんさせていったら、やがて図に乗ったAI（爆）が人間に反乱する、なんていうのは、脳科学、及び学部レベルの情報工学のイロハすら知らないど素人の妄想ということです。
ということで、ロボットがいつか勝手に反乱するというのは、完全に妄想でした。
でも、なんでこの妄想が信じられてしまうのかは、社会心理学的であったり、社会学的心理学的にはとても興味のあることですね。
ただ、トチ狂った人間が小脳部分のプログラミングもわざわざロボットに入れ込んで、セックスさせようとしたり、異性を取られて嫉妬してそいつを殺すとかのプログラミングをする可能性はあります。
だから、イーロン・マスクはAI法規制が絶対必要だとしているわけですね。このあたりはだから、工学ではなくてやはり、社会心理学的であったり、社会学的心理学的な知見を元にした法整備の問題なのでしょう。
善意の人間が作ったAIが、その善意に反して……というのは絶対にありえません。自分の意識を持って目標を変更するというのは、そもそも無理なのです。
そこも、実はみこちゃんは、AI法規制やAIを人類の未来に内包した社会制度設計には多大な興味があって山のように文献が手元にあるのですが……。それはまたいつか、別シリーズで（またかよ）書いていくことにします。
この記事が気に入ったらサポートをしてみませんか？