あなたはどっち？ AIが人間を超える「支持派VS懐疑派」の真実
もし、ドラえもんが敵になったら。
あなたは想像できるだろうか？ 悪玉のドラえもんを。
まぁるい体におっとりとした性格。たまにかんしゃくを起こすが、どら焼き好きの心強い味方だ。
しかし敵に回すとこれまた最強の武器を駆使してわれわれを駆逐する力を持っている。とても太刀打ちできそうにない。
そうならないための関所は２つある。
一つはロボットが人間を超えないようにする。
もう一つはロボットが人間と敵対しないようにする。
それがわかっていれば設計段階でプログラムに組み込んで阻止すればいいじゃないか。その通りだ。安心してほしい。そのことは折り込み済みなのだ。世に「ロボット３原則」なるものがあるのはご存じだろうか？
次に示す通りだ。
ロボット工学の３原則
・第１条：ロボットは人間に危害を加えてはならない。また、その危険を
看過することによって、人間に危害を及ぼしてはならない。
・第２条：ロボットは人間にあたえられた命令に服従しなければならな
い。ただし、あたえられた命令が、第１条に反する場合は、こ
の限りではない。
・第３条：ロボットは、前掲第１条および第２条に反するおそれのないか
ぎり、自己をまもらなければならない。
――『ロボット工学ハンドブック』、第56版、2058年
アイザック・アシモフ『われはロボット』（1950年）
このロボット３原則を扱った映画に、『イヴの時間』（2010年）や『オートマタ』（2016年）があるので興味がある方は参照してほしい。
AIが危惧される理由
ロボットの研究や開発に携わる者は、当然この原則を押さえている。がしかし、なのである。実はAIとは高度に発達した人工知能のことをいうが、ただ高度なだけでは今騒がれているような事態には至らない。重要な点は「自律制」ということだ。
自律性？
自律とは「他から支配や助力を受けずに、自分の行動を自分で立てた規律に従って正しく規制すること（広辞苑第７版）」である。
AIとは自律性を備えているゆえにAIと呼ばれているのだ。あらかじめ人間が組み込んだプログラムに従って動くのであれば、どんなにスーパーなコンピューターでも自律性は備えておらず、ただ処理能力が高いからスーパーなだけである。
つまりAIを搭載したロボットは自律性を備えているためその行動が予測できないのだ。AIを搭載したロボットとはドラえもんのことである。ドラえもんの行動は予測できない（どら焼きで釣れば多少コントロールはできそうだが）。
もう一つ、ドラえもんのようなロボットは一目でロボットだとわかる。このことが実はとても重要になってくる。近い将来、急速な技術の進歩により人間と区別がつかないロボット（これをアンドロイドという）が造られたらどうだろう。一見とても良いことのように思われるが、実は様々な問題をはらんでいる。
外見上、人間と区別がつかないということは、本来人間が担うべき役割までをもアンドロイドが代替してしまう可能性が出てくる。
例えば「結婚相手はアンドロイドがいい」などのように。
昔からあった機械化への抵抗
テクノロジーの進歩が人間にもたらすメリットとデメリットの対立は、産業革命時のラッダイト運動（工業用機械の導入で失業の危機に見舞われた手工業職人が起こした機械破壊運動）以前にも見られる。
メディア論で著名なM.マクルーハンが著書の中で中国の故事を引用している。掘り終えた灌漑用の水路に桶で水を汲んで流していた老人に向かって、木の梃子を使った揚水の方法を教えた人に対する老人の反応である。
「機械を使う人間は自分の仕事を機械的にやるようになる。自分の仕事を機械的にやる人間は心まで機械のようになってしまう。…中略… わたしはこうしたものがあるのを知らないわけではありません。使うのが恥ずかしいだけです」
『グーテンベルクの銀河系』（マーシャル・マクルーハン、1962年）
今の私たちにはピンときにくい発想ではあるが、一面ハッとさせられないだろうか。このように、テクノロジーの発達に伴う人々の期待と危惧は今に始まったことではない。
この流れが昨今メディアなどで話題になっている「シンギュラリティ支持派VS懐疑派」問題となって現れているという訳だ。
ちなみに、支持派にはレイ・カーツワイル（シンギュラリティという概念を広めた）やラリー・ペイジ（Google共同創業者）などが、対する懐疑派にはビル・ゲイツ（マイクロソフト創業者）やイーロン・マスク（テスラCEO）などの名前がしばしばあがっている。
この問題に対して、あなたはどのように考えるだろうか？
「支持派VS懐疑派」を超えて
さて、ここまで概観したところで、もう１歩掘り下げてみたい。
この記事のタイトルにもあるように、AIが人間を超える「支持派VS懐疑派」という構図が一般的である。このように二項対立に仕立てて煽るやり方はメディアに特有のものではない。昔も今も人間はこういった対立観を好むようだ。朝まで生テレビなどにその典型を見ることができる。
シンギュラリティ問題もこの例外ではない。しかし実際のところは「支持派VS懐疑派」のような単純な二項対立の議論ではないようだ。
『ライフ3.0』の著者マックス・テグマークはシンギュラリティ問題についての議論は「デジタルユートピア論者」VS「技術懐疑論者」VS「有益AI運動の活動家」の三つ巴だと言う。
簡単に紹介しよう。
「デジタルユートピア論者」とは、AIのことは心配すべきではなく、人間レベルのAI（AGIという）は今後20年から100年のうちに実現するかもしれない、と考えているグループのこと。
「技術懐疑論者」は、AIのことは心配いらないという点では意見が一致しているが、今後数十年でAGIが実現する可能性はほぼないか、100パーセントないとする立場。
「有益AI運動の活動家」は、AIは生命の繁栄に貢献するか、または自滅させるかの両方の可能性を考え、前者を実現させるためにあらゆる問題を検討するというスタンス。
テグマークの『ライフ3.0』から３つの立場について引用してみよう。
ラリー（前述のGoogle共同創業者：筆者注）は、私が言うところの「デジタルユートピア論者」の立場を熱く擁護した。デジタル生命は宇宙の進化における次のステップとして自然で望ましいものであり、デジタルの心を抑圧したり奴隷にしたりするのでなく、開放してやれば、ほぼ間違いなく良い結果が訪れるという立場だ。
『LIFE3.0』（マックス・テグマーク、2017年）
私が「技術懐疑論者」と呼んでいるこの立場をアンドリュー・エン（AI研究の第一人者：筆者注）は「殺人ロボットの出現を怖がるのは、火星が人工過密になるのを心配するようなものだ」と見事に表現している。…中略… 技術懐疑論者は、それは無知に基づく非現実的な夢だと斬って捨て、AIが人知のおよばないレベルに進化するシンギュラリティ（技術的特異点）の予言を「おたくの携挙」と呼んでばかにすることも多い。
同前
スチュワート・ラッセルは …中略… 存命中のもっとも有名なAI研究者の一人で、この分野に関する標準的な教科書を共同執筆しているが、…中略… AIの進歩のスピードを考えると今世紀中に人間レベルのAGI（人間と同じ能力を持ったAIのこと：筆者注）が出現する可能性は間違いなくあり、期待は抱いているものの良い結果になるという保証はないと話してくれた。何よりも先に答えを出さなければならない重要な問題がいくつかあるが、極めて難しい問題なので、必要となるまでに答えが得られるよう、いまから研究を始めるべきだという。
現在ではスチュワートのこの考え方（有益AI運動の活動家：筆者注）が比較的主流で、世界中のいくつものグループが、スチュワートの説くAI安全性研究を進めている。
同前
テグマークによると「有益AI運動の活動家」が主流になったのは2015年からだということなので、2022年2月現在の日本にはまだ浸透していないのかも知れない。しかし、極端な「支持派VS懐疑派」のような議論に比べると説得力のある流れではないだろうか。
この分類で考えると、前述のビル・ゲイツやイーロン・マスクも「技術懐疑論者（懐疑派）」ではなく「有益AI運動の活動家」に入ることになる。
ドラえもんが味方でも問題は解決しない
以上見てきたような流れがおおまかな現状のようだが、では一体どこに問題があるのか整理してみたい。
・ロボット３原則に従えばAIは人間に有益
・AIの自律性は予測できない
・アンドロイドが人間そのものを代替してしまう
・機械が人間の心にまで影響を及ぼすのか
・重要な問題解決がテクノロジーの進化スピードに追いつかない
どうだろう？
どの問題をとっても簡単に解決しそうに見えない。その理由は様々だが、全ての問題の根底に「何か曖昧なもの」が横たわっている気がしてならない。
それは「人間性」と表現されるような、人間が持っている「心」や「価値観」や「振る舞い」といったようなものがテクノロジーの進化にどのように影響するか、というようなものだ。
現在の問題に置き換えてみると「核兵器が良いか悪いか」ではなく、「核兵器が悪いヤツらの手に渡ったら大変だ」というような問題意識につながるような視点だ。
仮にアニメの世界のような「人間の味方であるドラえもん」が創れたとしても、悪いヤツらの手にかかるといくらでも「改造」できてしまう。つまりAIの開発や利用に関わる人間が「いいヤツ」か「悪いヤツ」かこそが問題の根底にあり、それを左右するのが「人間性」だということだ。
シンギュラリティ問題の本質は、案外AIではなく「人間の心のあり方」にあるのではないだろうか？
By コハク
この記事が気に入ったらサポートをしてみませんか？