シャム猫が危険ワード！？日本のAI大丈夫か！？

ちょっと、日本でのAI利用大丈夫か、って思ったこと。

とあるところで、「シャム猫って素敵だな」みたいなことを書き込んだのよね。そうしたら、その書き込みがサイトのポリシー違反だって、条件付きで非表示にされてしまったのよ。

完全に書き込みが削除されてしまったわけではないけれども、軽微なポリシー違反によって上位表示される可能性はなく、下の方に沈殿し続けるだけってことらしい。

別に、ただ感想を書いただけの書き込みで拡散したいわけでもなく、アカウントにペナルティが及ぶわけではなさそうなので、放置しておいても良かったんだけど、でも何が引っかかったのか理解できずに不安になってしまった。

書き込みをどう読んでも、性的、暴力的、政治的なメッセージはなくて、ただ単に可愛いシャム猫ちゃんを愛でたい、ってことしか書いていないはずなんだよね。

で、色々と調べてみたら、どうやら「シャム」って言葉が英語の「sham」と間違われた可能性があるらしいってことに思い至ったわけ。

「sham」ってのは「模造品」「偽物」「詐欺師」「ごまかし」って意味のある言葉で、確かにあまり子供が目にしては好ましくない言葉かもしれない。

でも、シャム猫のシャムとは全く綴りも意味も違う。シャム猫のシャムは発祥のタイの旧国名である「シャム・Siam」が由来だ。英語表記なら「Siamese」となる。

ポリシー違反になった理由が「sham」と間違われた可能性に気がついたので、抗議を送ってみたら、即座に違反が取り消されて復活した。

何だよ、結局、「sham」と「Siam」を間違えていたのかよ、って話だったようだ。

この出来事で、日本でのAI利用大丈夫か？ってちょっと思ってしまった。

今、日本でもAIの利用が活発化してきているけれども、ほとんどがOpen AIのChatGPTだったり、GoogleやAppleがスマホに搭載しているものだったりする。

アメリカ発のものばかりだから、日本語で利用していても英語に一度翻訳されてから返ってくるようだ。実際に、ChatGPTを使っていると、日本語で質問しているのに返事が英語だったりすることがよくある。

それで、翻訳する時に「シャム猫」を「siamese cat」や「Siam」と翻訳できずに、「sham」と置き換えてしまうことが起きるようだ。

今回は、猫ちゃん可愛い、シャム猫キレイでいい！って感じの他愛のない書き込みだったから別にいいんだけど、これがもっと政治や経済の高度な場面で起きているとしたら、ちょっと怖いと思った。

日本初の生成AIというのも誕生しているようだけれども、日本で使うのならやはりもっと正確な日本語で利用できるものが普及しないと、ちょっとした言葉の翻訳間違いで、取り返しのつかない事が起きる可能性もあるな、と感じた、ちょっとした出来事だった。