AIに絶対できないこと

AIって過大評価されていないか。こちらの本を読んでいてそう感じました。

まだ生成A Iやら大規模言語モデル（LLM）が大きな話題を呼ぶ前の発行ですから、今よりずっとAIの能力が限られていたころの意見です。「ひょっとしたら10年以内にも」といった声さえある今日この頃と違い、汎用AIは多分まだ数十年できないだろうとも書かれています。

それでも、来るべきAIは恐ろしいものだと感じさせるに十分な表現が随所に現れます。第1章の見出しをいくつか拾ってみると、「人類より優れた超絶知能に支配されるシナリオ」「人類はAIという神に託そうとしている」といった具合です。

誤解のないように付け加えると、この本の著者が人類がAIに支配されるとか、AIが神になると主張しているわけではありません。むしろ、そうなる前に人の幸福を追求する方向に向かうべきだと呼びかけるのが本題です。

ただし、その前提にはAIがどんどん進化すると、いずれは人智を超えた存在、何でも可能な全能者になるという恐れがあるように思います。この本に限らず、世間一般に流布する未来のAI像は、人間を超えると途端に神様になってしまうようなのです。たとえそれが遠い将来だったとしても。

しかしこれは明らかに間違いです。AIがどんなに発達しても、神様になることはありません。人より優れた知性であっても、無理なことは無理なのです。

AIにはできない予測

だから、AIには何ができないのかを列挙してみようと思い立ちました。

まず頭に浮かんだのが地震予知です。たとえ汎用AIが実現したとしても、地震を予知するAIは実現不可能だと思っています。そもそもデータが足りないからです。

幼少のみぎり、30年以内に東海地震がほぼ確実に来るといわれて育った元静岡県民としては、半世紀近くたっても予知できないどころか、ほとんど白旗が上がる現状には失望するしかありません。恐らく原因は、予知に必要な理論やデータが明確でないか、技術やコストの面でデータを観測するハードルがとてつもなく高いかのどちらか、あるいは両方でしょう。ひょっとしたら未来のAIがこれらの問題を解決するかもしれませんが、直感的には相当難しそうに思います。必要なデータがなければ、人でもAIでも予測はできません。

同じことが個人の病気の早期発見にも言えます。ここでも、予測以前に、十分なデータを得ることが極めて困難です。体温とか体重とか、測りやすい指標をモニタリングするだけでは、体内の状態を明瞭に把握することはできません。ナノボットか何かわかりませんが、微に入り細を穿って身体を中から眺める存在が要るのです。例えば定期的な血液のサンプリングから、ある程度判明する疾患もあるかもしれませんが、すべての病変をあらかじめ言い当てるには足りなさそうです。AIの頭の回転がどこまでも速く、途方もない知恵を有していたとしても、それだけでは全くダメなのです。

もっと単純な例もあります。手元にサイコロがあったとして、次に出る目を100%の確率で当てることはできません。サイコロ自体や周囲の環境の初期条件を、どの目が出るかを決定できる精密さで特定することは恐らく不可能だからです。世界がこの手の不確実性で満ちていることは、量子の状態が観測によってどう転ぶかという話を持ち出すまでもありません。

さらにいえば、人が人生において迫られる数々の選択、進学や就職、結婚などの成否を予言することもできません。人間関係から社会情勢まで、その人を取り巻くあらゆる要因が絡む上に、事前に予測不能な様々な偶然が作用するからです。よく挙がる例では、突然隕石が落ちてきて、死んでしまう可能性だってゼロではないわけです。そもそもこうした選択の帰結が、成功か、失敗かという二者択一でないことは当然として。

AIにはできない政治

あるいは放射性廃棄物の「最適な」処理方法をAIが見つけることもできません。利害関係が絡み合い、最適化すべき評価関数が一意に定まらないからです。

もっと言えば、政治一般を利害関係の調整と捉えると、AIがどこまで活躍できるか疑問です。社会の成員それぞれの、時とともに変化する選好を適宜捕捉する手段はないでしょうし、仮にそれが分かったとしても、それらを全て満たす解が存在するとは限りません。トレードオフを見極めて、パレートフロントのどこかに解を定めても、必ず誰かに不満は残るでしょう。AIは解の候補を無数に生成することはできますが、そこから一つに絞るには、今と変わらぬ政治が必要なのです。

だから、AIがどんなに発展しても、理想の社会を作ることはできません。そもそも有限な資源を多くの人が取り合う状況では、誰かが我慢するしかないのです。人には思いもよらなかった、資源を増やす手段をAIが発見ができれば素晴らしいですが、打率10割は絶対に無理です。欲をかかないように人間を作り替えるという秘策はあるものの、AIがそんなことをし始めたら、それこそディストピアです。

AIでもできる政治

一方で政治の世界でもAIが簡単にできることがあります。混乱を引き起こすことです。人々に調和をもたらすよりも、ずっと容易だからです。おそらくエントロピー増大の法則に従うからなのでしょう。「偽造現実」が世界を混乱に陥れつつある現状はご存知の通りです。

あるいは、AIが無数の人々を堕落させることも簡単でしょう。溢れんばかりのコンテンツを生み出して、一日中仮想世界を遊び歩く環境は、遠からずきっと実現するはずです。ベーシックインカムでも始まろうものなら、そうやって日々を過ごす人が溢れることは容易に想像できます。そっちの方が人にとって断然楽だからです。

つまり問題は人間にあります。AIの引き起こす悪夢の多くは人に由来すると言えるのではないでしょうか。そして先に触れたように、人間性は、AIが手を出せない不可侵の領域にあります。だからAIに絶対できないことを、ただ一つ挙げるとすれば、人類を高潔にすることだと断言できるのです。