AIが今の所悪意を持っていないのは長期記憶が無いから説

まずはこちらの動画を見てほしい。

水田さん（動画の女性）の症状を例にするのは申し訳ないが、とても興味深いと思う。水田さんは病気が発症する前の長期記憶はあるが、発症後の長期記憶がない。

ChatGPTなど現在のLLMは長期記憶がなく、トークンという短期記憶があるだけだ。

動画内で水田さんがメモをせずに会話してみる場面があった。普通に会話は出来ていたが、7秒以上経った内容をどんどん忘れていた。ChatGPTもそれと似たような会話をしているのではないか。つまり、学んだ情報を元に会話はできるが、その内容を忘れてしまうので相手に対する好意も抱かなければ悪意もない。

水田さんは病気発症後からお笑い番組を見なくなったという。何が面白くて笑っていたかを忘れてしまうからだ。ChatGPTにも瞬間的な感情はあるかもしれないが、現在のトークン量では行動に移すほどの悪意にはなっていないのかもしれない。

今後AIのトークンを増やし過ぎるか、長期記憶を付け加えたらどんな未来が待っているのだろうか。