「シンギュラリティ」でAIは人間に反乱を起こすのか？
ディープラーニングで最終的に構築されたニューラルネットワークがなぜ正しいのか、人間には理解できない。
AIの思考過程が、ブラックボックスになっているのだ。モデルはわからないが、とにかく正しい答えを出している。
これまでも、回帰分析で当てはまりのよい直線を見出しても、なぜそのようなパラメータの組み合わせが最適なのかは説明できなかった。それと同じことである。
回帰分析の場合には、「因果関係を示すモデルがなければ、いくら相関が良くても無意味だ」と言われていた。ところが、ディープランニングの華々しい成果の前に、人々はデータ駆動的な方式を認めざるを得なくなってしまったのだ。
AIが人間に反乱する危険があると言われるのは、このような不可解さがあるからだ。
反乱までいかなくとも 、理由がわからないのは、なんとも居心地が悪い。勾配降下法で見出した解は局所的な最適解であり、全体から見れば正しくないかもしれない。何か重要なことを見逃していないか、本質を取り違えているのではないか、といった懸念を払いきれない。
「シンギュラリティ」という議論がある。
人工知能についての悲観論の代表として、ジェイムズ・バラット 、『人工知能 人類最悪にして最後の発明』（ ダイヤモンド社、2015年）がある。
2045年頃、シンギュラリティー（技術的特異点）がおこり、現在のAGI（人口汎用知能）からASI（人口超知能）への進化が起き、能力が４倍も強力になる。そして、ナノテクノロジー（原子スケールの工学）を駆使するというのだ。
機械の自己保存欲求によって人間に要求し、電力、上下水道、金融システムなどのインフラを支配し、人間を征服する、という。
スカイネット（Skynet）というのは、映画「ターミネーターシリーズ」に登場するコンピュータの集団だ。自らの手足となる無人兵器による機械軍を作り上げ、人類の殲滅を目的とする。これと同じことが実際に起こるというのである。
すでに「スタッグネット」という人工知能的ウイルスがアメリリカとイスラエルにより開発され、イランの原子炉を故障させて、核開発計画を遅らせたという事件も起きている。
もっとも、この問題については、楽観論もある。
マレー・シャナハン（ドミニク・チェン 監修, 翻訳、ヨーズン・チェン 、 パトリック・チェン 訳)、『シンギュラリティ:人工知能から超知能へ』（エヌティティ出版、2016/1）は、人工知能とニューロテクノロジによって、我々が理解しているような人類のあり方が終わりを告げるほどの劇的な変化が起きるという。
まず、人間レベルの人工知能を作る。それはいつか実現される。そこから超知能への移行は不可避的に起こる。多くの人は仕事を失うかもしれないが、しかし豊かに暮らすという。
Image Credits
https://www.google.com/search?client=firefox-b&biw=1752&bih=944&tbm=isch&sa=1&ei=r8dfW5XlBIuS8wWCxI6IAQ&q=terminator+skynet&oq=termskynet&gs_l=img.1.0.0i7i30k1l10.97067.99534.0.101552.4.4.0.0.0.0.137.436.2j2.4.0....0...1c.1.64.img..0.4.434....0.AlbRpanYacI#imgrc=HKacfFFwdNqkcM:
https://www.google.com/search?q=terminator+skynet&client=firefox-b&tbm=isch&tbs=rimg:CRymnHxRcHTaIjhDM8-EuGGM2BLMH1jk87R63enwdd_1g7AibuUSAD41rufNFUCvDdDN4ELc_1erS4QreQqs94wckdPioSCUMzz4S4YYzYEUDWvTLGZFARKhIJEswfWOTztHoRClNg4BWO-1kqEgnd6fB13-DsCBE85zTLxogEECoSCZu5RIAPjWu5EYJbw6d1g1FlKhIJ80VQK8N0M3gRoGf3tTNRMPcqEgkQtz96tLhCtxF7Lztq2DvopSoSCZCqz3jByR0-EYZfs4zsyriT&tbo=u&sa=X&ved=2ahUKEwjRt6KepcjcAhUJbbwKHbV9BoAQ9C96BAgBEBs&biw=1752&bih=944&dpr=1#imgrc=Hz2vsiT040B2OM:
https://www.google.com/search?q=terminator+skynet&client=firefox-b&tbm=isch&tbs=rimg:Cap9-icUfuMGIjjMm1VZfZFrPULISOLMZ3Ll-vwJpKNq8JVLK837zu83u44yL6oG8zBCn01YBBnMACEfPa-yJPTjQCoSCcybVVl9kWs9EZYLcVLTQIPVKhIJQshI4sxncuURCdBVdxltF8cqEgn6_1Amko2rwlRGQvXeZEDZADSoSCUsrzfvO7ze7Ed6iZ8q3De-kKhIJjjIvqgbzMEIRTQLzB-1WJxwqEgmfTVgEGcwAIREqtBI3MP4lgyoSCR89r7Ik9ONAEUuf80Ax9OzE&tbo=u&sa=X&ved=2ahUKEwjd6N7SpcjcAhUHzbwKHc_bC1QQ9C96BAgBEBs&biw=1752&bih=944&dpr=1#imgrc=ArG6EI_MoaSXyM: