AIジャマーGlazeは何をやっているのか
GlazeはAI学習を阻害するノイズを画像に載せるAIである。見る限りtransformers系のAIだと思われる。GlazeもNightshadeもi2iを行う画像生成AIの一種なので、反AIなら使っては行けないツールである。Glazeのフォルダ内を調べると以下のコードがそのまま格納されている。生成AIそのものなのである。この２つは学習ノイズ生成に特化した画像生成AIである。
検出AIでは画像の違いの区別がつかない模様。自家製類似度AIのsimilarity0. 976だった。そのままではChatGPT 4oでも検出できなかった。つまり学習のみ妨害する訳。
そこで4倍拡大したものをトーンカーブをいじってみた
こういうものを上に載せて学習妨害を行う。これをChatGPTに投げ込むとGlazeと検出されたので検出自体は難しくなさそう。ChatGPTはAIジャマーの検出にFFTによる周波数解析を推奨していた。
こういう画像は、学習そのものから除外されるためフィルタリングの対象にもならないだろう。そうすると登録制度が出きた時、保護対象にならない気がするけど、まぁいいか。
これより凶悪なのがNightshadeである。これも画像生成AIの一種である。これはAIを破壊するのを目的としているため悪用すると偽計業務妨害で逮捕される恐れがある。こちらは一目でわかりにくい。類似度は0.988だった。
――これが生成AIに対して意味あるかと言うとねぇ。贋作者って高値で売れない絵の模倣などしないからなぁ。取りあえず画像生成して遊ぶ。