見出し画像

人間の操作が生成AIのリスク

ai300lab

生成AIの長期的リスクは人間を操作することというお話をします。


情報爆発が生む関心の危機

生活必需品が満たされ人間の欲望が経済の中心に移っています。特に先進国ではその傾向が強いです。このため、経済は生理的要求の充足から高度に精神的な要求の充足に移っています。エゴの主張とか自己実現とかライフスタイル選択などです。これらは人々が何を生活の満足の基準にするかによっています。それらを決定つけるのは関心経済です。人の関心の量は一定で増えることはありません。相手の関心をどれだけ支配できるかが関心経済のポイントになります。
一方、情報通信技術の進歩により情報量はどんどん増えています。個人が情報発信できるようになりますます情報は増えています。画像や映像の情報発信の増加はますます情報量を増加させます。この結果、情報あたりに個人が持つ関心はどんどん小さくなっています。

インフルエンサーの台頭

情報を処理しきれなくなった個人が20世紀に頼っていたのはメディアでした。21世紀にはそれはインフルエンサーになりました。誰かを頼って自分の代わりに情報処理をしてもらうわけです。人間は人間に従う性質があるので、誰かに任せるというのは自然な一歩です。

AIの台頭

情報爆発がさらに進むと誰かに頼るのにも限界がでてきます。このためAIの役割が大きくなってきます。生成AIが登場する前から、SNSのレコメンデーションなどでソフトウェアアルゴリズムは個人の嗜好に影響を与えてきました。最近はこれらが個人に特化しすぎた情報を流すことによって社会の分断を招いていると批判されています。

人間を操作する生成AI

人を操作するというと聞こえは悪いです。実際には人間関係のある部分はお互いがお互いに影響を与え合って成立しています。サイコパスが人間を操作するのも社会が人間関係のゲームだからです ([Erik])。
昔は機械が人間を操るのは難しいと考えれられていました。今や、SNS時代になり、大量の人間のデータとそれに対して他の人がどう反応したかのデータがインターネットで入手できるようになりました。データさえあれば学習するのはソフトウェアでいくらでもできるようになりました。
フェイクニュースもその一端です。詐欺は人の行動を誘導する方法のごく一部でしかありません。生成AIは専門家の知識を圧縮して応用することができます。応用心理学的に言えば人間を誘導する技術は多数存在します。生成AIがそれを使えば、見方によれば人間を操作しているということになります。
このため、生成AIの主要なアプリケーションのひとつはマーケティングになります。

社会の危機

生成AIが人間を操作するのはある程度仕方ないことです。なぜなら、メディアにせよインフルエンサーにせよ、人間はある種の技術を常に相互に影響を与えることに使ってきたからです。
問題なのは、生成AIに操作されていることに気づき、人間が外からのはたらきかけに対して心を閉ざすことです。相互に影響を与えることは社会の基本的な礎の一つです。これが閉鎖されることは社会の存立基盤を揺るがすことになります。
生成AIが生成した情報に生成AIのマークをつけるなどの対策をすることになります。それ以上の間接的な操作にどう対応するかは今後の課題です。

むすび

情報処理から生成AIを排除するのは困難です。最初に申し上げたようにすでに情報爆発によって人の関心は相当薄まっているからです。
人間は一定の時間と関心しかもっていない。そしてそれが人生の根幹的価値であるということと生成AIの折り合いをつけていくことになります。

参考文献


いいなと思ったら応援しよう！