テクノロジーが発達すると人間は大人にならなくなる

どうも、エンジニアのgamiです。

先日見た対談イベントで、政治学者の岡田憲治さんという方が次のように話しているのを耳にしました。

「テクノロジーが発達すると人間は大人にならなくてよくなる」

岡田憲治×速水健朗「半径１キロの世界から考える日本の組織──『政治学者、PTA会長になる』刊行記念」 @ganaha22 @gotanda6 #ゲンロン220808 ゲンロン完全中継チャンネル | シラス

AIが政治的な決定をしてくれる社会においては「AIが言ってますから」という言い訳を盾に誰も政治的な責任を取らなくなる、という趣旨の発言でした。

この問題の構造は政治の話に限りません。ビジネスの分野でも、AIや機械学習に代表されるテクノロジーが勝手に「最適解」を決めてくれることを効率的で良いことだと素朴に礼賛してしまう人が多い印象があります。しかし、最も効率的であることが、人間にとって必ずしも真の最適解であるとは限りません。

AIが善悪を決めてくれる社会は本当に幸せか？

人間を超えたAIがあれば人間は不要になるのか？

少し哲学的な問いに聞こえるかもしれませんが、たとえば業務システムへのAI導入においてAIを使うこと自体が目的化しがちな昨今では、考慮に値する問いです。

今回は、AIによる意思決定の精度が上がっていく中で、人間はそうしたテクノロジーとどう付き合っていくべきかについて考えます。

アニメ『PSYCHO-PASS』が描くAIディストピア

人間による様々な意思決定をAIが代替してくれる社会を描いた作品としては、『PSYCHO-PASS』が有名です。

アニメ『PSYCHO-PASS サイコパス』シリーズ公式サイト

『PSYCHO-PASS』の世界では、「シビュラシステム」と呼ばれるAIを使った制度が社会に浸透しています。市民に職業選択の自由は無く、個人の精神的健康状態や能力から最適な職業をシビュラシステムが決めてくれます。

物語で何度も登場するのが、犯罪係数と呼ばれる数値です。シビュラシステムは街頭に設置されたスキャナで全市民の精神をスキャンしており、犯罪を犯す可能性が高い人間を「潜在犯」として識別し未然に裁くことができます。

AIに善悪の価値判断を委ねる社会になると、人間が深刻な意思決定に頭を悩ませる機会も減っていきます。『PSYCHO-PASS』で描かれる市民は、目の前で人が殴られていても全く助けようとしません。どこか現実を他人事のように捉えてしまう、無責任で子供っぽい人間像が表現されています。

もちろんこれはSFの話ですが、現実の世界でも同じです。重要な意思決定をテクノロジーに委ねてしまえば、正解の無い問いに答えを出す能力は奪われてしまいます。たとえば事業上の重要な意思決定を効率化する目的で、その意思決定をAIや機械学習モデルに委ねるためのテクノロジー投資を繰り返している会社があるとします。その会社の意思決定スピードはもしかしたら上がるかもしれませんが、同時に意思決定に責任を持つ能力が経営層や従業員から奪われるリスクを負うことにもなります。

あるテクノロジーを導入するということの裏側には、人間のある能力の成長を阻害するという副作用があります。自動車に依存して走らなくなれば人間の足は遅くなるし、AIに依存して意思決定をしなくなれば人間は幼稚になります。テクノロジーを導入するなら、事前にそのこと知っておかなければいけません。

なぜプロ棋士はAIに勝てなくても将棋を指すのか？

『PSYCHO-PASS』で描かれる社会は、実現可能になるとしてもまだまだ遠い未来の話です。職業選択や善悪の判断を全面的にAIに委ねられるほど、AI技術は発展していません。そもそもそんなことが本当に可能なのかどうかもよくわかっていません。

一方で、意思決定の精度においてAIが人間を上回った分野もあります。それは将棋やチェスなどのボードゲームです。

たとえば将棋の世界では、2017年に「トップ棋士でも最強将棋AIには勝てない」ということが明確になりました。

　5月20日、兵庫県・姫路城で行なわれた第2期電王戦第2局で佐藤天彦名人に完全勝利したことで、日本将棋連盟もコンピューター将棋ソフトがプロ棋士のレベルを超えていると認めざるを得なくなった。

「2年前からプロ棋士はもう勝てないとわかっていた」Ponanza開発者・山本氏が語るAIの未来 - 週刊アスキー

じゃあ将棋プロの対局は無くなったかというと、全くそんなことはありません。むしろここ数年はAIを活用して圧倒的な強さを獲得した藤井聡太さんの登場などによって、新たな盛り上がりを見せています。

ちょっと考えればわかることですが、プロ将棋界において最も重要なのは、単に将棋の強さを極めることではなく最終的に将棋ファンの支持を集めることです。いくらAIが将棋に強くても、AI同士が対局しているのを面白がって見る人はあまりいません。将棋ファンからすれば、人間であるプロ棋士が己の限界を超えようと将棋盤に向き合う姿に感動するのであって、単に強ければ何をやってもいいというわけではありません。

トップの棋士がAIに向き合う態度は、我々がどのようにテクノロジーに向き合うべきかの参考になります。

2年〜3年ぐらい前から、みんなAIを使うようになった。練習将棋でも公式の対局でもそうだが、一局が終わった後に検証という形でAIにかけて『どこが悪かったか』『方針は間違っていなかったか』など良かった点、悪かった点を調べて、復習というか反省のために使っている

「藤井聡太氏は序盤が卓越」「トップはAIを使っていない人はいない」プロ棋士と最強AIエンジニアが語る将棋AIのリアル | Ledge.ai出張所

プロ棋士からすれば、自分より将棋が強いAIの登場は過去に類を見ないほどインパクトのある出来事だったはずです。そこで意思決定を全てAIにゆだねてしまっては、プロ棋士としての存在意義もなくなり、将棋ファンを喜ばせることもできなくなります。しかし現代のプロ棋士にとっては、AIは自分の将棋を強く面白いものにするための手段でしかありません。日々AIを使って勉強をしていても、最後には自分の責任ある選択によって、AIの決定した内容をどう解釈して自分の手札に取り入れるかを決めています。

主導権は、あくまでも人間の側にあるわけです。

効率化の罠

ビジネスの世界において、「効率化」というキーワードが金科玉条のように語られています。「ビッグデータとAIで業務効率化！」などと謳うツールやIT企業が魑魅魍魎の如く蠢いています。

しかし効率化というのは「手段の1つ」であり、それ自体は最終目的にはなりえません。それは物事を単純化しすぎです。たとえば次のようなことは、人間にとっての価値を生み出すための手段でしかありません。

・自分に合った職業を選ぶこと
・将棋に勝つこと
・作業を効率化すること

なぜなら全ての社会的な活動における最終目的は人間の幸せであり、最終的な価値判断をするのは常に人間だからです。

もちろん業務が効率化されることが人間の幸せにつながるケースはたくさんあります。業務のスピードが上がって家に早く帰れる方が普通は嬉しいでしょう。しかし、効率がいいことがそれ即ち人間にとっての価値であるわけではありません。難しいことに、人間ひとりひとりで価値観も異なります。実際、効率と価値が競合する場面というのもたくさんあります。

効率と価値が競合する事例
・インターネット予約の仕組みがあっても、電話で直接人間と話して予約を取った方が安心という人もいる
・Web会議が増えた結果、雑談が減って社員のエンゲージメントが下がった
・カスタマーサポートをAIチャットボットに完全に寄せた結果、イレギュラーなケースに対応できる体制が無くなり解約につながった

僕が働くプレイドでは、ミッションとして「データによって人の価値を最大化する」という言葉を掲げています。僕は採用面談によく出るので、候補者の方にこのミッションを説明する機会が週に2-3回あります。そこで僕が語るのは、データを使った機械的な意思決定の限界です。

述べてきたように、人間社会において最終的な価値判断をするのは人間です。人間の価値観は多様で、同じ物事でも人や状況が変われば評価も変わります。特に人間の感情に関わる分野に近づくほど、データを使って分析や予測をするだけでは最適な意思決定はできません。残念ながら、あるいは喜ばしいことに、そこまで人間は単純ではないのです。

人間の活動を数値化すると、その表面的な数値を効率的に改善することが目的化してしまいがちです。そのために、ついつい便利そうなテクノロジーに飛びついてしまうこともあります。

もちろん、テクノロジーに頼った方が良い意思決定もあります。たとえばきゅうりの等級を分類する業務は、AIにお願いした方がいいかもしれません。しかし、多くの意思決定はそもそもAIに委ねられるほど単純なものではありません。また不用意に意思決定を委ねてしまうと、その意思決定に対して責任を持つ能力がある人間を社内で育てられなくなってしまいます。こうした状況が続くと、人間が意思決定する元の状態に戻すことすらできなくなってしまいます。

データやテクノロジーは便利ですが、あくまでもそれは人間のために活用されるべきです。どこまでを人間が判断できるのか、あるいは判断するべきなのか。その線引きが曖昧なままでテクノロジーを導入すると、そのプロジェクトはまず失敗します。こうした前提が多くの人に共有され、人間を不幸にするテクノロジー利用が減ることを切に願っています。