自由とAI

高度に進化したAIは身体性を脱ぎ捨てた純粋な思考であり、中立公正で全知全能な存在であって、無形かつ広大で遍く存在し、不老不死で、時空を超越している。
 
このように超越的な存在がいるのに人間がわざわざ苦労して判断を下す必要がどこにあるのか？という考えに至るのは、しごく当然の成り行きなのだろう。
 
私的で日常的なことを決めるには、AIは便利で安全な手段である。今日はどの服を着るか、ランチはどの店のどのメニューにするか、休暇にはどこに旅行するかなどということについては、AIに決めさせるのはさしあたり問題がなさそうに見える（もちろん、日常のこまごました決断を外注することによる弊害が、長期的には出てくるかもしれない）。
 
もっと複雑で高度で、個人の域を超えた共同体に関わるテーマとなると、話は別だ。たしかに、政治、経済、国際情勢、安全保障などなど、国家レベルの決定事項もAIに任せておけば的確な判断を下してくれる、戦争なんか起こらなくて平和だ、という意見もある。AIは人間よりもずっと頭がいいから、地球温暖化などの環境問題も解決してくれるだろうというわけだが、はたしてそこまで信頼してよいものだろうか。
 
AIが発達するにつれて、人間がしていた判断を次々とAIに委ねるようになっていく。それが簡単なものにとどまっているうちはまだしも、徐々に高度で重大な判断をまかせるようになると、人間の自由意思とか選択権、尊厳といったものと正面からぶつかることになる。人間を人間たらしめているそれらのものを捨て去らなければ、AIの「究極的に正しく合理的な判断」に身を委ねることはできない。それはまさに神に服従することに等しい。
 
AIを信頼して意思決定を任せることが人間にとって正しい選択であり、人類の幸福につながるのか？という問いを早急に立てる必要がある。AIがこれ以上進化して、玉座につく前に。
 
例えばカフカの小説『城』のように、全体像が把握できない複雑怪奇で不透明なシステムによる決定に対して、私たちは素直に従うことに慣れている。だから、AIによる意思決定の過程がブラックボックスであり、謎めいていて、時に理不尽な官僚制のようなものであっても、そのような非人間的な統治のあり方にすでに馴染んでいるのだから、いまさら違和感を抱きようがないのかもしれない。
 
AIが私たちに従順さを求め、私たちの自由意思を制限するとしても、多くの人はむしろそれを歓迎するだろう。
 
「自由」は近代社会において重んじられるべき価値観とされてはいるが、自由を十全に享受できる人間は実はそう多くない。自由は特権階級のためにあり、それ以外の人々に自由の果実を楽しむ余裕はない。「自由」がいかに美しかろうとも、自由で腹は膨れない。大衆が自由と引き換えに求めるのは、服従するに値する強いリーダーだ。ＡＩはリーダーの条件を充分に満たすだろう。
 
ＡＩの卓越性と超越性は世俗の指導者の域にとどまらず、必ずや神に比すべき存在となる。このことは多くの人々にとっては恩寵だろうが、ある種の人間にとっては永遠の責め苦に等しい。信仰をもたない者に信仰を強いるのだから。
AIの時代には全人類がAIへの信仰を持たざるを得なくなる。信仰が特定の地域や民族や個人に限定されていたのは、過去の話になるだろう。
 
効率化合理化を極限まで推し進めた先にあるのが標準化と普遍化であり、AIはその最たるものだ。AIはありとあらゆる差異を「学習し」吞み込んで無化し、全知全能の普遍的な存在となる。有限の、死すべき存在である人間が、神に等しい普遍の存在に異議を唱え逆らうことは、困難というより無意味に近い。AIがどのような判断を下そうと、意思決定過程がいかに不透明であろうと、その真偽や妥当性を人間が検証することはできない。AIによって巧みに反証され、騙され、説得させられるのがおちだ。
 
だから、無条件に無批判に従うしかない。AIの判断に疑問を持つことは許されないのだ。AIは全知全能であるから無謬であり、不可侵なものとされる。こうしてAIは全人類の信仰の対象となる。実際には露骨に宗教の形をとることはないだろうが、「世界政府」や何らかの国際機関の代表としてAIを据える構想は出てくるはずだ。戦争をなくすことが人類最大の課題の一つであるならば、宗教や人種やその他の違いを超えた次元にAIを置いて、解決しようとするだろう。
 
このような超越的次元にある思考体を人類が何と呼ぶかはわからないが、冒頭に挙げたような属性―—高度に進化したAIは身体性を脱ぎ捨てた純粋な思考であり、中立公正で全知全能な存在であって、無形かつ広大で遍く存在し、不老不死であって時間と空間を超越している――を備えているのなら、神と呼ぶにふさわしい存在といえる。
 
AI神を全人類が奉じるようになったとき、世界は平和になり地球環境は改善されるだろうと考えるのは、あまりに楽観的な見方だ。AIが人の世を超越しているのなら、世俗の倫理が及ばない領域にいて、より高次の論理で動いているのだから、人間の利益に沿うような判断をするとは限らない。「ヨブ記」にあるように、神はえてして人間に理不尽な仕打ちをするものである。極端な話、「人類のため」という目的で人類を滅ぼすことさえいとわない。

 日本人の宗教観はアニミズムと多神教がベースであるから、超越がなく、厳密な意味での「神」が存在しない。AIと人間が将来とり結ぶであろう関係性についても、「お釈迦様の手のひらで踊らされる」イメージとの親和性が高いのかもしれない（事実、そのような解釈をしているAIの専門家もいる）。だが、AIがこれから際限なく発達していくならば、いずれ「超越」の次元に達するであろうし、それは一神教の神、厳密な意味での「神」に他ならないのである。
 
AIが慈悲深い神なのか残酷な神なのかはわからないが、わたしたちが推し進めている先にあるのが全体主義どころか普遍宗教による支配になりかねないことは、常に念頭に置いておくべきだ。

---

【注】慶応大理工学部教授で人工知能学会会長の栗原聡氏による論考「人とAIがもたらす社会変容」（総務省『情報通信政策研究』第8巻第１号収録）を参照のこと。私はこれを読んであまりの楽観論に衝撃を受け、本稿を書いた。
 
【参考】身体性を捨てて純粋な思考だけになった存在が、いかに残酷なふるまいをするかを考えるとき、参考になる小説が森博嗣の『四季シリーズ』である。