人類にコミュニケーションは早すぎた
この本を読んでドキッとした。自分がやっていることだと思った。
読んだ本
ハルシネーションを起こすのはAIも人間も同じ
人間が言葉を認知するには、スキーマをもとにしている。このスキーマは人によって違うので、同じ言葉でもとらえ方がちがう。
たとえば
「AとBのうち、Aにしようと思います」
「そう考えた理由を教えて下さい」
というやり取りがあったとする
このとき「あ、単純に理由が知りたいんだな。これこれですよ」と、とらえる人もいれば「え、理由？ なんでそんなこと聞くんだこの人。なんか怒っているのかな」と感じる人もいる。
さらに
「Aのほうがこれこれだからです」
「その理由ではわかりません」
と言われたらどう思うだろうか。
「あ、自分の言い方が足りなかったな。ていねいに言おう」と思うのか「は？ もっと自分の頭で考えてくれよ」と思うのか。もしくはもっと別のことを考えるか。
大前提として人間がことばを捉えるときに使うスキーマが人によって違うのだから、解釈も人によって異なる。
この前提がないと、「わたしは言った」「僕は聞いていない」という自分本位のコミュニケーションに固執してしまう。
もっといえば、言われたことを自分の中でそしゃくするたびに、記憶を塗り替えて曲げて、ぜんぜん別のことへすり替えてしまうかもしれない。
とくにネガティブなことを言われると「つらい」とか「苦しい」とかで心がいっぱいになって、言われたこと以上に辛辣なイメージへ記憶が変わる。
「その理由はわかりません」と言われたときにネガティブだと感じると、時間によって記憶が勝手にマイナス方向へふくらむ。「そんなのわかんねえよ！」と怒鳴られたと思うまでになるかもしれない。
「テレワークが辛い」と会社でよく聞く。
テキストベースのコミュニケーションは認知したことばのイメージを冷たく感じることが多い。
さいしょに冷たく感じると記憶のなかでさらに冷蔵されてしまってコチコチになる。
これもマイナス方向へ記憶を書き換える例だと感じた。
人間の認知機能は優秀であるがゆえに記憶を書き換えたり、思い込んだりするセキュリティホールがある。
AIのハルシネーションを危惧するまえに、自分の認知も疑ったほうが良いと思った。
「左半身が認識できていないこと」を認識できていない
「アンメット」という脳外科医のドラマでサッカー部の高校生が「左半身無視」という症状で悩む話がある。
脳の障害で体の左半分が認識できないのだ。しかし、左半分が認識できない、ということを脳はわからない。
本人は左を認識していると思いこむ。
それでも絵を描くと左半分が描けない。サッカーボールも左側に飛んでくると見えない。
コミュニケーションも同じように自分がわかっていないことを認知することはできない。
相手のスキーマはわからないのだから、相手のことばをわかったようで実はわかっていない。わかったつもりで思い込むことはできるし、記憶できるけれど。
たいせつなのは、「左半身無視」のリハビリのように左半身を無視していることをまず認識することだ。
相手のスキーマはわからないから、相手のことばは完全にわからない。逆に自分の言葉も相手に100％つたわらない。忘れられたり、勘違いされたり、ネガティブにとらえられたりする。
人の脳はそういう作りであることを知っておくだけで「ああ、そうだった。人は脳の仕組みでこうなっていて自分もそうなんだ。だから気をつけてはなさないと」と謙虚に思える。
きっと今よりやさしくなれる。