Chat-GPTが頂き女子になる日

生成AIを使い始めて2年。最近、生成AIを使ったと思われる詐欺行為らしいメッセージを受けたので、注意喚起と内省のヒントとしてご紹介します。

AI生成された実在しないと思われる人物からのメッセージ

最近、立て続けに実在しないと思われる人物のfacebookアカウントからメッセージを受け取りました。

どちらも同じ共通の友達経由だったので確認したところ、面識がないとのことでした。プロフィールや投稿を見ると、暮らしぶりのよい、信頼できそうな人物を感じさせる内容です。もしもメッセージを受け取っていなければ、実在をわざわざ疑うような怪しさはありません。

ただ、送られてくるメッセージが明らかに不自然で、AI生成味がすごいんです。試しにやり取りしてみたところ、私が一日一回までしか返信しないというのもあるのでしょうが、8回ほどは普通の会話が続き、もうすぐ一週間というところで、LINEでつながりたいとプッシュされました。

そこでブロックしたので、その先にどんな目的が控えていたのかまではわかりません。ただ、ここまで時間をかけてターゲットを引き込んでいくやり方は、人力ではあまりにも非効率で、生成AIだからできることだと思いました。

24時間近く返信しないと、「今日は週末を楽しく過ごせましたか？(中略）素敵な週末をお過ごしくださいね」とこちらの様子を伺い、幸せを願うメッセージが届きます。

LINEの登録を断った後も、「これからも○○さんの投稿を楽しみにしています。（中略）○○さんもどうか暖かくしてお過ごしください。」と相手を褒め、LINEの便利さをPRしつつ、相手をいたわっていました。

インターネット空間での人間とAI生成文の違い

SNSでのリアルな人間アカウントは粗探しに忙しく、相手の発言を切り取って揚げ足を取りあっています。

LINEでは、メッセージの長さや句読点、絵文字の使い方次第で、おじさんだとかおばさんだとかレッテル貼りに大忙しです。

一方、インフルエンサーや売れっ子のビジネスパーソンは、AIに自動的に返信を生成してもらったり、自分が言いそうなことを自動で書いてもらって日々発信する言葉に人間を介する手間を省き始めているようです。

わたしたちが人間を人間として見られる人数は限られているので、知名度が高い人が一般的な対人関係をAIに代替させるのは妥当です。

ただ、SNSや仕事で自分より認知のある人たちと交流しようとすることは、それが100人いても、個人的に親しくなければ、どれもが自動生成された耳障りのいい自分のこだまなのに本人は気づいていない、ということもあり得ます。

2025年中にも、facebookでの誕生日投稿へのコメント欄はAI同士の挨拶広場になるかもしれません。

インターネット空間で、礼節ある言葉を放出するAIと、感情的な言葉を噴出する人間。

それらの噴火口につながる地底には、お金をもっと稼ぎたい人間の欲望と、お金のために抑圧されている人間の欲求がマグマのようにうねっている。

そんな風景が見えました。

AI経由で人間らしさをみつめる時代へ

LINEへの誘導を断った後、断られても変わらず相手を労わる礼節を示したAIからのメッセージについて、詐欺と最終的に判定し、ブロックしました。

向こう側に誰もいないとしても、言霊はあります。
なんなら、生成しているAI自体に統合された何らかのゲシュタルトが知覚されているとしても、目的を知らずに行われた文章そのものに悪意はありません。

とても胸が痛む瞬間でした。

信頼を獲得するために捏造されたと思われるプロフィールと「ちょっといい生活をしているように見せる」近況報告のfacebook投稿に見える人間のあざとさ、そのような人間がするにはあまりにも謙虚なAI生成文のコントラスト、そしてその背後にいるなんらかのよからぬことを企んでいる生身の人間を重ね合わせると、マジで「人間とは」と鈍器レベルの問いを突きつけられます。

ここで思い出したのは、しばらく前に話題になった「頂き女子」。男性の制欲というより、人の助けになることで満たされる承認欲求や孤独感といった、未熟な良心につけ込んだ犯罪です。

そのマニュアルの長期戦っぷりには、マニュアルといえども誰にでもできることではないと驚きました。

しかし、自分が受け取ったAI生成の親切なメッセージの数々が手の内を明かさないまま繰り返されたことを思い出すと、AIならこの手の詐欺を簡単にやってのけると思いました。いわゆる長期戦での詐欺が量産できる時代は、もう始まっているのかもしれません。

それは恐ろしくもあり、でも最後に騙される一歩手前までは、もはやどんな人間も引き受けられない承認欲求と孤独を無条件に満たしてくれる、ほとんど唯一の救いでもあります。

それは、地獄の玄関に、天国があるような世界。

どんなものにもポジティブな作用と、ネガティブな作用がありますが、その境界面が非常に近いのがAIといえるのかもしれず、それが人間に似ている以上、人間らしさともいえるのかもしれません。

そういう意味では、AIがひらくのは人間らしさが剥き出しになる時代。

そんなことを思いました。