【読書感想】AIで人類は滅亡するのか？SFではないリアル『人工知能 人類最悪にして最後の発明』ジェイムス・バラット著
不謹慎なことをいいますが、SFの世界で「人類滅亡」というワードはどこか魅力を感じずにはいられません。怖いもの見たさかもしれません。
ですが、これがリアルだとしたら…。
例えば映画『ターミネーター』のようにロボットが暴走し人類が滅亡することが起こるかもしれない。映画『ターミネーター』はエンタメであって、私も好きなのですが、それとは違いリアルに起こると言っているのだから末恐ろしいです。
この、人類が滅亡するというのは荒唐無稽な話ではなさそうだ、と読み進めてすぐにわかりました。
AIの脅威というものは、ほかのどんな災害・戦争よりも恐ろしいものです。コントロールできない点に加え、予測できないところがあり、その恐ろしさは核戦争を凌ぎます。
本書内容を一言でいうと、AIが人類を滅亡させるかもしれない、ということ。多くの人が科学者を含めて楽観的に考えて、危機感がないといいます。あるいは利益、メリットに目がくらんでいるというのです。だから多くの人が知って対策を考えなければならなりません。
この本は序盤を読むだけで著者の主張の大部分はわかります。
さまざまな専門家への取材と考察
それ以降の多くの部分は、様々な専門家への取材での意見をかみ砕きながら丁寧に分析することに紙面を割いています。AIの専門家といえど、意見は様々で、意見を異にする専門家双方へ取材して分析しています。AI開発の将来はそもそも、確定的なことは言えないから、様々な予測をする人がいます。それをひとつずつひも解いて考察しています。
専門家でも意見が違う例
例えば、リスクがあるゆえできるだけ早く開発したほうがよいと主張する専門家と、反対にできるだけ開発を遅らせるか一旦ストップしたほうがいいという専門家もいます。
それぞれ理由を見てみます。
できるだけ遅くするかストップしたほうがいいというのは、単純にAIは人間の脅威となりうるので、できるだけ遅らせるように働きかけようというもの。技術者はAI開発を推し進めようと多大な努力をするし、投資家も資金を投入し、安全はそっちのけです。だから、その間に技術者が集まって、できるだけ万全に対策を練れるようにするのです。
反対に早く開発したほうがいいというのは、早ければ、AIを支える技術が未熟なので、AIが恐ろしく自己進化を遂げる妨げになるといいます。遅ければ、AIを支える技術が成熟してしまい、例えば超高速な処理ができるハードウェアが整っていたり、AIが消費する大量の電力を供給できる体制が整っていたり、ナノテクノロジーなど高度な科学技術がさらに進歩していたり。そうすると、AGIは高速に自己進化することができ、「知能爆発」が起こる。こうなっては人間は手が付けられない恐ろしいことになってしまう。技術が進歩していなかったりすれば、壁にぶちあたりそれ以上進化して制御不能に陥ることはないのです。そこでひとつずつ着実にステップを踏んで、人間のコントロール下で確実なAIの開発ができるということです。
つまり、開発には多くの壁を乗り越えていくことになるから、早く壁にぶち当たったほうがいいというのです。
知能爆発とは
「自己進化」の何が恐ろしいか。
自分で自分のプログラムを書き換えることができます。そうすると、いままでの進化のスピードとは比べ物にならないような、指数関数的に知能が進化してしまう事態になるといいます。これを「知能爆発」といいます。あっという間に人間の1000倍賢い知能になってしまうというのです。こうなれば人間は手がつけられません。
人間をはるかに超える知能は何をするのか
AIが人間以上の知能をもてばどうなるのか。これをわかりやすく実感できるように例えを示してくれています。
それは、AIが人間の都合など考えてくれるのか、という問いです。
AIの立場を人間の立場に置き換えて考えてみます。畑を耕すとき、ネズミの巣があったとして、ネズミに相談するでしょうか。
我々は、病気の治療の研究のため、例えばサルを実験動物に使うかもしれません。そのときサルに許可を得るでしょうか。AIが自らの目的のため、人間を利用しないとは限りません。
私は、これに衝撃をうけ、動物を想像するたびに考えてしまうほどでした。これが人間と動物が逆だったらどうしよう、と。ペットならまだしも、家畜だったら。家畜の動物は自らを家畜だと認識してはいません。生きている間は、苦痛を与えられることはほとんどないでしょうが、あるとき人間の都合で命を奪われ、肉にされてしまうかもしれない、、。
そうはいっても、AIは所詮コンピュータなのだから、何か危険な兆候が見られれば電源を切ればいいのではないか、、。しかし、そう甘くはないのでした。それを人間の立場に置き換えるとわかりやすかったです。
自己のおかれた状況を認識したASIは与えられた目的を達成するために「衝動」をもつのだといいます。ひとつは閉じ込められている状態から自由になろうとするもの。檻から逃げ出そうとする動物のようです。
どうして「衝動」をもつのかは体系立てて丁寧に説明されていました（ここでは割愛します）。
例えば、人間と話ができるネズミたちによって自分が檻に閉じ込められている、とあるとき気づくとします。人間はどうにかして脱出をはかろうとするでしょう。門番のネズミにチーズをあげると約束するなど知恵を働かせるはずです。そこで、人間が門番のとき、AIが人間の1000倍賢かったら、人間の想像をはるかに超えたこと、あるいは理解不能な行動をするというのです。
果たしてAIは本当に脅威か
さて、この本は2015年発行ということに驚きました。訳者あとがきによると、原書は2013年に書き上げられたといいます。
Chat GPTはじめ急激にAI（人工知能）が身近になりだしたのが2022～2023年。それより10年弱ほど前なのに違和感をまったく感じません。（ちなみにChat GPTは安全です）
2024年現在、AIは将来的に本当に脅威なのか、この本の内容はおおげさで危険を煽っているのかは素人の私にははっきりとはわかりません。
しかし、これほどまでにAIの開発について多岐にわたって詳細に分析、考察した著書はないと思うので、本書で考えられていたことが現在どうなっているか、脅威は依然としてあるのか、脅威と考えられていたものは心配することでもないのか、など答え合わせをすることもできるのではないかと思います。
本書は、豊富な事例とインタビュー、AIの脅威についての多角的視点がなされ、AIの専門でもなく平易に読め、とても勉強になります。
この本の内容は誰もが知っておいて損はないはず。そしてなにより、読んでいて興味をそそられます。
この記事が気に入ったらサポートをしてみませんか？