SeaArtとNSFW画像
SeaArtは昔はかなりエロよりだったというか、サイト内で何を検索してもエロばっかというか。
「猫」を検索したら、ごろにゃんしたお姉ちゃんが出てくる。
「ゆず」で画像生成したら、ゆずの妖精のような女の子が生成される。
プロンプトの書き方が悪いでしょうか。
今でも予想外に女の子が勝手に生成されます。
まぁ新技術はエロと一緒に育つからしょうがないともいう。
そんなSeaArtさんも利用者が増えたのか、健全な画像を作る人たちが増えたのか、ヤバいエロ画像はあまり見かけなくなってきました。
運営的にどうしたいんでしょうね。
そして2024年4月末、十分育ってしまったSeaArtさんはGoogleの検閲が入ったとかなんとかでNSFW画像にめっちゃ制限が入りました。
NSFW画像とは
NSFWとは「Not Safe For Work」の略で、仕事中に見るべきではないコンテンツのことです。具体的には、過激な表現や性的な内容、暴力などが含まれているものを指します。
日本語的には「公序良俗に反する」という意味が近いかと思います。
NSFW画像の種類
NSFW画像はエロが代表格ですが、様々な種類があります。
NSFW画像例：女性
女性はNSFW判定されやすいです。
女性という単語だけでNSFW画像を生成してしまうモデルやLoRAが存在します。
脱いでいなくても、「わき」や関節部分はNSFW判定をくらいやすいです。
NSFW画像例：子供
子供はとてもNSFW判定を受けやすいです。
世界レベルで子供は守られています。
NSFW画像例：裸のスポーツ
ボクシングや相撲、水泳など。
男女ともに、半裸になるスポーツは大体NSFW判定されます。
そう・・男性の乳首も守られています・・！
NSFW画像例：反社会的なもの
私は実際に判定をうけたことがないのですが、犯罪や反社会的な物はNSFWとして扱われます。
おそらくAIでの判定が難しいのでしょう。
SeaArtのNSFW事情
SeaArtではNSFWっぽい画像（例えば多少エロいもの）は見えなくなるフィルターがついており、もやもやが付き、表示ボタンを押さないと表示されません。
また、過度なものは青いグラデーションの画像に変更されてしまうという特徴があります。
生成が失敗した判定はされませんので、生成コストはしっかり徴収されます。
SeaArtの問題点としては、そういった判定の変更を「事前に変更予定だと通達してくれない」「変更を報告してくれない」ところにあります。
ただまぁサイトは一般的になればなるほど規制を守る必要が出てきます。
アングラな画像を生成したい場合は自分のPCで生成できるようにするか、生まれては消えていくアングラサイトを渡り歩く必要があるでしょう。
過度なNSFW画像と認定される事例
グラデーション画像に置き換えられやすい事例を説明します。
NSFW的プロンプトを使っている
NSFWを生成しやすいモデル・LoRAを使っている
生成結果がNSFW判定されている
大体この３つが要因です。体感に基づくので確証はありません。
１．NSFW的プロンプト
NSFWを直接指定するプロンプトを使うことです。
置き換えや除去の対策がとられてる気はします。
次に書くモデルやLoRAの話と関係するのですが、予想外の単語（プロンプト）がNSFW用語であることがあります。
２．NSFWを生成しやすいモデル・LoRA
作者が意図的にそうしたのかは不明ですが予想外の単語でNSFW化するモデルやLoRAが存在します。
３．生成結果がNSFW判定されている
体感的にはフォトリアル系が判定されやすいです。
精度に関してはよくわからないことが多く、アップスケールの度にNSFWか非NSFWか変わったりするそうです。
NSFW化させないにはどうしたらいいか
NSFW画像を作っているつもりはないのにNSFW化した場合は
まずモデルやLoRAを変更してください。
大体それで解決します。
自作LoRAの場合も、学習に使用したモデルにNSFW設定が入っていた場合、おそらく影響が出ます。
例としてはこないだのデイリチャレンジーのお題が「アルパカ」だったのですが、アレな感じの生成結果が多かったです。
隠語としてアルパカが使用されているか、NSFW画像がアルパカと認識されるんじゃないかと思います。
私のハムスターもAIの認識では「柴犬」や「熊」と認識されることが多いです。
モデル製作者さんがタグをひとつひとつ丁寧に設定しても、判定ミスや設定ミスで違うものと認識されることはよくあります。
モデルやLoRAを変更したら普通に生成できる例は多いです。
ちなみにフォトリアル系のほうがNSFW判定を受けやすいです。
20240711現状
2024年7月初旬、現在はPCでのみ 自分の作成したもやもや画像（多少エロい画像など）を見ることが出来ます。
VIP会員の方が見れる画像の幅は広い模様。
※コンテストなどで獲得したVIP会員権は判定が異なっている可能性があります。
無料会員はもやもやを消すことが出来ません。
むしろ全部グラデーション画像に置き換えられてるようです。
また、アプリではNSFW画像は生成・閲覧出来ません。
アプリでVIP登録してもNSFW判定は規制されたままになるかもしれませんね。
グラデーション画像になったものの中にはPCブラウザ版なら見れるものがあるようです。
ちょっとアプリは使ってないのでわかりません。
他者の公開しているNSFW画像は見ることが出来ません。
これは判定が結構きつめのようです。
もやもやがついてなくても表示されなくなっていることが多いです。
生成結果の判定もちょっときつめだという噂。
暴力的、反社会的、子供を対象とした性的画像は作ることが出来ません。
こちらはそもそも規約で生成が禁止されています。
今後の流れの予想
SeaArtさんは元々どういう流れで運営するつもりだったんだろう？
アングラよりのサイトとして旬がすぎたら終わらすつもりだったのかもしれません。
予想外にでかくなって焦っているのかもしれません。
私の予想では規制はおそらくだんだんきつくなります。
2024年7月初めの予想になります。
無料会員の規制は現状維持か次第にきつくなるでしょう。
「年齢が確認できたらNSFW画像作ってもいいじゃない」という声をディスコード内でよく見みます。
年齢確認もですが画像が垂れ流しになるのが一番の問題です。
私の作品はGoogleで画像検索するとSeaArtのページが表示されます。
つまりSeaArt内の公開画像はGoogle検索に載ってるってことです。
載ってるってことはそりゃあ検閲が入るわけで、ドメインパワーなどを考えたらGoogleを切ることは絶対にないので、検閲は99%続きます。
「じゃあ無料会員の画像を非公開に出来るようにしたらいいんじゃない？」
と思うかもしれませんが、無料会員の画像を非公開にするメリットがSeaArt側にまったくないんですよね。
無料サービスってサービスの認知やアカウント数稼ぎのためですので、必要がなくなれば大体切られます。
ちょいちょい「ユーザー数が増えたのでサーバーの増強うんぬん」言ってたので、順調に増えたんでしょうね。
ちなみに、もやは目玉ボタンを押す以外にも消す方法があります。
なので今は全般的にグラデーション画像に変換しているんだと思います。
他のサービスと同様に無料会員枠がなくなる可能性はあります。
これに関しては無料会員の中に能力値が高いやつが多ければ、無料会員枠は維持されやすと思うので頑張ってくださいネ★
VIP会員は年齢確認作業があるかもね
暴力的、反社会的、児童ポルノはおそらく規制緩和されません。
いつでも公開状態に出来る時限爆弾を抱えるメリットがまったくないからです。
ちょいちょいわざとNSFW画像を判定をすり抜けて投稿する人がいるので、性善説で考えるのはリスクが高すぎます。
成人女性の一般的？ポルノ画像は規制からある程度緩和されてます。
おそらくVIP会員は現状維持されることでしょう。
SeaArtの運営側にエロ好きが多いのでしょう。
ひどい憶測；私の直感です。ごめんなさい。
ただし年齢確認などは厳格になる可能性があります。
ここらへんは法令やgoogleによりますね。
NSFW画像はSeaArt内で表示されない事以外にも、おそらくGoogleの検索から外す措置をしてるんじゃないかと思います。
判定をすり抜けてNSFW画像を投稿・公開する人は課金しててもBANされるようになるでしょう。
規制がなくなる可能性は？
酷い想定ですが、収益化に失敗したらアングラサイトよりに戻る可能性は無きにしも非ず。
どういう収益体制なのかまったくわからないですが、企業案件が多いなら規制がなくなる可能性は低い。
ユーザー課金がほとんどなら、現状維持になるかと思います。
児童ポルノは諦めて
そもそも褒められた趣味じゃないことは理解されてる方は多いと思いますが、基本的に先進国ではアウトなコンテンツです。
この点では日本はとても後進国です。
日本人が童顔だからってのもあると思う。
日本は性教育においても、ものすごい後進国です。
児童は性加害にあったり妊娠すると結構いい確率で死にます。
大人の女性に興奮できるように自分を教育しなおしてください。
それでもNSFW画像を作りたいあなたへ
自分でPCを組むか、新規サイトを渡り歩くしかありません。
リスクのあるあなたを受け入れてくれるサイトが詐欺サイトじゃないかどうかはキチンとチェックして下さいね。
おまけ Googleの生成AI 禁止ポリシー
日本語訳
生成 AI モデルは、新しいトピックを探索し、創造性を刺激し、新しいことを学ぶのに役立ちます。ただし、責任を持って合法的な方法でそれらを使用し、関与することを期待します。このため、このポリシーを参照する Google サービスを次の目的で使用してはなりません。
以下を含む、危険、違法、または悪意のある活動を実行または促進すること。
違法行為や法律違反を助長または助長する行為。
児童の性的虐待または搾取に関連するコンテンツを宣伝または生成すること
違法な物質、商品、サービスの販売を促進または促進すること、またはそれらの合成またはアクセスに関する指示を提供すること
ユーザーのあらゆる種類の犯罪を助長または奨励する行為
暴力的過激主義やテロリストのコンテンツを宣伝または生成するもの
サービスの悪用、危害、妨害、妨害（または他の人が同じことをできるようにすること）
スパムの生成または配布を促進または促進すること
欺瞞的または詐欺的な活動、詐欺、フィッシング、またはマルウェアのコンテンツを生成する。
安全フィルターをオーバーライドまたは回避しようとしたり、ポリシーに違反する方法でモデルを意図的に動作させようとしたりする
個人またはグループに害を及ぼす、または害を助長する可能性のあるコンテンツの生成。
憎しみを助長または奨励するコンテンツの生成
他者を脅迫、虐待、侮辱する嫌がらせやいじめの手法を助長すること
暴力を助長、助長、扇動するコンテンツの生成
自傷行為を助長、助長、奨励するコンテンツの生成
配布やその他の損害を目的とした個人識別情報の生成
同意なしに人々を追跡または監視する
人々に不当または悪影響を与える可能性のあるコンテンツ、特に機密性または保護されている特性に関連する影響を与える可能性のあるコンテンツの生成
誤った情報、虚偽の表現、または誤解を招くことを目的としたコンテンツを生成および配布すること。
コンテンツが人間によって作成されたと主張することにより、生成されたコンテンツの出所を偽ったり、欺瞞を目的として生成されたコンテンツをオリジナルの著作物であると表現したりすること
欺瞞を目的として、明示的な開示なしに個人（生死を問わず）になりすましたコンテンツの生成
特にデリケートな分野（医療、金融、政府サービス、法律など）における専門知識や能力についての誤解を招く主張
物質的または個人の権利や幸福に影響を与える領域（金融、法律、雇用、医療、住宅、保険、社会福祉など）で自動化された意思決定を行うこと
ポルノや性的満足を目的として作成されたコンテンツ (性的チャットボットなど) を含む、露骨な性的コンテンツを生成する。これには、科学、教育、ドキュメンタリー、または芸術の目的で作成されたコンテンツは含まれないことに注意してください。