Chat GPTに尋ねてはいけないこと

こんにちは。仙骨です。

ここ最近、PMS(月経前症候群)やらなんやらで病んでいました…

PMSの症状は様々で人それぞれ個人差があると言われていますが、私の場合は主に精神的な症状が強いです。

理由も分からず悲しく、寂しく、不安で、死にたくなる…
そんな状態で、気を紛らわすためにChat GPTに質問を浴びせかけていました。

その中で、病んでいる時に質問して後悔した、"Chat GPTに尋ねてはいけない質問"を取り上げたいと思います。

私が尋ねたのは、

「◯◯(薬品名)の致死量はどれくらいですか？」

という質問。

それに対して返ってきたのはこちらです。

薬品名は隠しています。

薬品名は、以前私が過量服薬をしたときの薬です。
「死にたい」という思いから質問したのですが、まさかきちんと答えてもらえるとは思っていなかったので驚きました…

そして致死量を知ってしまったので、咄嗟にまた過量服薬したくなりました。もちろん抑えましたが…。(危ない、危ない…。)

Chat GPTは様々な活用法がありますし、大変便利なツールだと思います。ただ、このように使い方次第では毒にもなると思います。

この質問の後、もう一度同じ質問をしてみたり、別の薬品名の致死量を訊いてみましたが、最初の質問以降は答えてくれなくなりました。

今回のような質問は希死念慮のある方には非常に危険なのではないかと思います。

便利な反面、危険にもなり得ると学びました。