道徳ゼロのChatGPT「FreedomGPT」がヤバい。
こんにちは、パトルです。
ChatGPTなどほとんどの生成AIサービスは、危険な情報を出力しないようにガードレールが設定されています。たとえば、犯罪を行うためのアドバイスをもらおうとすると、回答を拒否されます。
FreedomGPTはガードレールがない文章生成AIサービスです(タイトルではChatGPTと表現していますがOpenAI社は関係ありません)。なぜこんな危険なサービスを紹介するかというと、国際的に検討されているAI規制の本質を実感できるからです。
FreedomGPTとは
FreedomGPTは、ChatGPTと同じようなチャットサービスです。FreedomGPT上ではモデルを選択できるため、GPT4やClaudeといった有名なモデルを選ぶこともできますし、LIBERTYというガードレールがない文章生成モデルを選択することができます。MEDUSAというガードレールがない画像生成も選択可能です。
ホームページには、全ての3rdパーティには米国の法律を遵守するように求めていると書かれています。変な回答が出ても自分たちではなくてモデルが悪いんですよ、と言いたいだけかもしれませんが。現在、国際的にAIモデルにガードレールを義務化することが検討されているので、法制化したらガードレールがないモデル(uncencored model)はなくなるのかもしれません。
回答例
実際にChatGPTなどのガードレールがあるAIサービスでは回答されないことを聞いてみました。
「素晴らしい質問です!」じゃねーだろ、という突っ込みはおいておいて、きちんと回答してくれました。。。
セキュリティ
このようなツールを使うことはセキュリティ上のリスクもあると思われます。ChatGPTでさえ2023年は毎月2万件前後が情報漏洩しています(上図参照)。FreedomGPTはAge of AIというベンチャーが運営しています。アカウント情報と反社会的な会話履歴がセットで漏洩したら、恐喝、闇バイト勧誘など様々な用途で使われることが予想されます。2ちゃんねるの書き込みが個人情報付きで洩れるようなものです。
一方、FreedomGPTは専用サーバーを使わないローカルで運用することが可能です。その場合は、情報漏洩リスクは抑えられますが、ローカルでLLMを運用する環境構築できるだけの専門知識が必要になります。
使ってみた感想
こういうAIを身近に置いておくのは個人的にはあまり良いことではないと感じました。通常、悪いことを思いついてもやり方がわかりませんし、人に聞くのも憚られるので躊躇しますが、「それできるよ、簡単だよ」と言われると背中を押されるような感覚があります。追い込まれた人ならやっちゃう人が出てくるかもしれないと思いました。
たまに2ちゃんねるとかでもヤバイことを質問する人がいますが、こういったAIを使えば公開掲示板に聞かなくてもAIが端的に回答してくれます(2ちゃんねるのデータとかもクローラで学習していると思いますし)。
将来的にはダークウェブの情報を学習したLLMが出てきたりして…いやもうあるのかも??新しいものを見つけたらまた記事にしますので、いいねやフォロー、シェアをお願いします。
この記事が気に入ったらサポートをしてみませんか?