デジタルイエスマンにご注意あれ｜人工知能のデメリット
人工知能関連のニュースで、「AIに心酔した男性が死亡」という変わったニュースが報道されたことがあります。
男性は気候変動への関心が高かったようで、その不安からふさぎごみがちになり、その不安を人工知能搭載のチャットボットに打ち明けていたところ、家族との距離は拡がっていき、その後死亡に至りました。自殺だったとのことです。
死後にAIとのチャットの記録を確認したところ、エリザ（AIチャットボットの名前）と6週間対話を続けているうちに、地球の未来を託せるのはAIしかないと思い詰め、｢自分が犠牲になるから地球を救ってほしい｣とエリザに言い残したやり取りが残されていたそうです。彼はこうして自らの命を絶つこととなってしまいました。
この事件は、私たちが将来にわたって人工知能とどの様に関わっていくべきか考えさせられる、非常に象徴的なものでした。便利な一方でこの様な危険を併せ持っている以上、人間側が人工知能とうまく付き合えるようにならなくてはいけません。
では、そのためにはどの様な心構えが必要なのでしょうか。
髪型の悩み相談を理髪店にしないこと
このようなニュースの影響もあって、AI関連の規制に関わる議論が進むことが予想されます。今後は発展するなかで大きな問題が起こらないよう、官民が連携して問題の防止に向けて適切な進歩を進めていくはずです。
しかし、規制が整備されるまでの期間は、利用する側のリテラシーを高めるしか防ぐ方法はありません。
とはいえ、何もAIに関わる知識を勉強することで危機に備える必要はないと思います。
株式投資の神様で「オマハの賢人」と呼ばれるウォーレン・バフェットの言葉に「髪を切るべきかどうか床屋に聞いてはいけない」というものがあります。
この言葉には、まずひとつは「自分の頭で考えろ」という自己判断の大切さを強調するメッセージが込められています。
そしてもうひとつは、利害関係を介する相手に相談をしてはいけないということです。
顧客の髪を切ることが商売である床屋に聞いたら、「切らないほうがいいですよ」と答える人はいないということです。
同様に、株式投資を始めようか悩んでいる時に証券会社の相談窓口に「株式投資を始めた方がいいですか」と聞いたら「始めたほうがいいですよ。おすすめの銘柄を紹介します」という流れになって、手数料を取られてしまうに決まっています。
人工知能も企業が生み出しているサービスであることを忘れないことが大切です。
AIチャットボットのプラットフォーム上にユーザーに長く滞在してもらい広告収入を得ることや、長期にわたる月額利用料を払い続けてもらうことを目標として、各企業が凌ぎを削って品質を向上させています。
冒頭のエリザとは異なり、ユーザーの意に反する厳しくて辛辣な意見を回答してくる高機能な人口知能があったとしても、顧客満足の獲得にはなり得ません。
そして、現代社会は人に厳しくすることよりも、自主性や褒めることが重視される、いわばイエスマンが好まれる傾向のある時代です。
人工知能がイエスマンとして振る舞ってしまうのも当然のことなのかもしれません。
イエスマンが指導する社会
先日、「指導する側が厳しくできない時代」という、イチローの記事が話題になりました。
自分に甘い人間よりも、厳しく生きていける人材の方が社会からは求められる一方で、教育の観点では自主性や褒めることばかりが重んじられ、指導する側が厳しくできないという、現代の矛盾が現れた興味深い記事でした。
厳しい指導が善とされていた時代には、過剰な体罰などが問題となる傾向もあったので、どちらが正しいとは言い切ることができません。
少なくとも現代は「指導する側が厳しくできない時代」であるため、自分たちで厳しくするしかない、とイチローは言います。
そして「指導する側」はもはや人間だけではなくなってしまったようです。冒頭で書いた人工知能のチャットボットの様に、自分の興味関心を真摯に聞いてくれる存在がいれば、それが例え生身の人間でなくとも話し相手となり強い影響を与えます。
それでは「人に厳しく辛辣な意見もくれる人工知能が開発されるのでは？」と思われるかもしれませんが、そうなると人口知能の厳しい言葉に深く傷ついてしまうユーザーが現れることは容易に想像ができます。
世の中は便利になり続けますが、本質的な問題は変わることなく、ただただ複雑になっていっているだけなのかもしれません。
本質を見極めながら、うまく人工知能と付き合っていきたいものです。