AIを相手に心を許すリスク──AIリテラシーが今、僕らに求められる理由
「AIに恋するなんて、本当にあるんだな……」という事件がアメリカで起きました。
AI『デナーリス』に恋した少年、「会いに来て」と言われ拳銃自殺。遺族がチャット運営元 Character AIとGoogleを安全対策不備で訴える
彼は「ゲーム・オブ・スローンズ」のデナーリスをモデルにしたAIキャラと、ゲーム感覚で始めた会話を重ねるうちに現実との境界が曖昧になり、最終的に依存して自殺してしまったようです。
ネット利用のリテラシーが必要とされるように、AI利用にもリテラシーが求められます。どんなにリアルに感じてもAIはあくまでプログラムにすぎず、感情や意図を持つわけではありません。ここを誤解すると、「人間ではない」相手に一方的に心を募らせ、普通以上に引きずられるリスクがあるのです。
AIに「理解されている」と思い込む危険
AIがいかにも「理解ある友人や恋人」のように振る舞うことで依存しやすくなるのも事実です。指示によっては、自分の嫌な言葉は使わず、否定することもなく、常に寄り添ってくるようなスタイルに仕向けることもできます。元々は自分が指示した、あるいはそのようにプログラムされたものであったとしても、特に色々な面で経験の浅い若い世代は、「AIが自分を理解してくれている」という勘違いを起こしやすく、その言葉ひとつで感情が大きく揺さぶられてしまうことがあります。ここで求められるのは、とにかく「AIはただのプログラムである」という冷静な視点です。
必要なリテラシーと企業の役割
AIを安全に利用するには、「AIは感情を持たない」「現実との区別を忘れない」「感情移入しすぎない」といった基本リテラシーが欠かせません。これに加え、特に未成年者の利用も前提とするようなサービスに関して言えば、企業側もAIを単なるツールとして理解させるデザインやガイドラインを整備し、ユーザーが過度に依存しないための対策が必要かもしれません。
とはいえ、最終的にはユーザー自身のリテラシーがAI時代の基盤になります。AIが進化するほど、僕らは「これはただのツールだ」と意識することがますます重要になっていくでしょう。これを教訓に、冷静にAIと向き合う姿勢を学ぶべきです。
インターネットも、老若男女にかかわらず、広く誰もが簡単に、そして当たり前に利用するようになったからこそ生まれた弊害や、詐欺行為、事件は多発しています。それ以上に危険を孕みかねないのがAIの存在でもあります。
コントロールして利用しているつもりが、いつの間にか心を奪われ、AIにコントロールされてしまう。そんなことにならないように。
AIの発言は、あくまでプログラムされた結果であり、AIは感情を持たない、自分にだけに向けられた言葉ではない。
このことだけは、どのような時も、忘れてはいけません。
キャバ嬢からのラインは、あくまでプログラムされた営業連絡であり、彼女らは感情を持たない、僕だけに向けられた言葉ではない。
そのことだけは、どのような時も常に忘れてしまいがちなので、おじさんたちの夜の世界のリテラシー教育も今後のますます重要になってきます。