見出し画像
Photo by mericanadesico

生成AIはなぜ嫌われるのか？

きゃんちゃんと私

これはAI全般の話ではなく、生成AIについての話です。
その中でも特にAIイラストや写真など画像関連がメインの話になります。

絵の素人でもプロンプト(文字列)を打ち込むだけで簡単にプロ並みの見栄えのする絵が生成できる、という生成AIイラストツールが世に配布されて早1年。
これが出た当時は画期的な技術だと誰もが思ったことでしょう。
それなのに、なぜ、生成AIはこんなにも嫌われてるのでしょうか。

けっこう長くなりますが、できるだけ難しい用語を使わず説明してます。
長いので、目次を見て気になる所だけチェックしてみるという読み方でも大丈夫です。
クリエイターではない一般の方は、その１の後半～その２あたりを読んでみるといいかもしれません。



【嫌われる理由その１】気づかないうちに著作権侵害をしている可能性がある

生成AIツールに自分の絵や写真を学習させていればOKという誤解

初のAI電子写真集の出版をしました……!!!!✔︎
自分で自分を学習させて、権利も自分が取得しています。

https://twitter.com/kurita__emi/status/1684378340826959873
2023年7月27日のくりえみさんのTwitter(X)のツイート

これは、くりえみさんがご自身のAI写真集をAmazon Kindleで発表した時のツイートですが、この一週間後にAmazon Kindleで販売停止になりました。
（ここでくりえみさんの例を取り上げるのは、くりえみさんに対しての批判ではなく、あくまでも解説のための一事例としての引用とご理解下さい。）

Amazonでは削除理由を公開していないので事の真偽は不明ですが
あまりに早い削除ということもあり、著作権侵害の通告があったのではないかと噂されています。
写真集が売れていたとしても、この場合は没収となり収入は発生しません。


生成AIツール自体が著作権侵害している、という落とし穴

くりえみさんが使った生成AIツールが何なのかは判明していませんが、現在もっとも画像生成AIの先駆けである大手がStability AI社であり、同社開発のStable Diffusionを使うユーザーは非常に多い印象です。
その会社が人工知能（AI）と著作権に関する上院司法委員会の公聴会でStable Diffusionを訓練するために、著作権所有者の同意を得ずに「数十億枚」の画像を使用したことを認めています。

Midjourneyのデイヴィッド・ホルツのような他のAIイメージ企業の責任者も、同意なしに著作権で保護された作品を大量に使用したことを認めており、これは現在では確立された事実であるが、ブルックスは、アーティスト代表のカーラ・オルティスの尋問中に不快な気分にさせられた。

https://twitter.com/petapixel/status/1679499857399099394?s=20
Stability AI Boss Admits to Using ‘Billions’ of Images Without Consent(PetaPixel)

この「上院司法委員会の公聴会」というのは、ここで嘘を言ってしまったら偽証罪に問われるような公式の場であるため、ベン・ブルックス氏は画家のカーラ・オルティスさんに尋問されて真実を言わざる負えなかった…と見られるような記述があります。

くりえみさんがこのStable Diffusionを使っていると仮定すると
生成AIで生成した画像のくりえみさんご自身の顔や体については、(ご自身が権利を持っている写真を使っているのであれば)著作権はご自身のものだとしても、背景や服や小物などに関しては、もともと組み込んであるデータセットから使用されている場合、著作権侵害をしてしまっている可能性が少なからずあるということです。
もしも、そういったことで本当に著作権侵害されていた場合、
くりえみさんが知名度のある方なので、各方面の写真家等クリエイターや業界の関係者が皆注目して見ているのもあり、発覚が早かったという事なのではないかと予想できます。

データセット自体が著作権侵害で汚染されていると、生成AIユーザーがいくらその上からご自身の写真を学習させても、それで安全という事にはならないのです。
自分でも気づかないうちに著作権侵害を起こしてしまう可能性があり、その事がもっとも問題になっています。


そもそも”データセット”とはなんなのか？

「それなら、盗用していない別の会社の生成AIツールを使えばいいのでは？」と、普通は思うかもしれません。
ですが、現状それでは解決策にはなりません。
なぜかと言うと、そもそもの「データセット」が著作権者の承諾を得ずに集められたものである場合が多いからです。

では、データセットとはなんなのか？
Stable Diffusionなどの画像生成AIツールはそれ単体では機能せず、
何十億もの膨大な画像データを使ってツールに読み込ませAIに学習(トレーニング)させることで初めて高度な機能を果たします。
データを読み込ませ学習(トレーニング)させるために、
画像データをたくさん集めたデータセットが必要というわけです。
今、一般に出回っている画像生成AIツールには、すぐにユーザーが使用できるように学習データもすでに組み込み済みの状態で配布されています。

画像生成AIツールのトレーニングデータセットはどうやって作られるか

①独自に画像データを作成し、それを使う。
　（独自に写真を撮影したり権利を買い取った画像、AIのトレーニングにも使っても良いと許可の出ているフリー素材などを使う。）

②ウェブ上でbotなどを使って画像データをスクレイピングして集める。
　(この場合、著作者の承諾は得ていません)

➂LAION-5Bを利用する。(詳細は次の項目で説明)

一般的にはだいたいこのような方法で画像データが集められているようですが、著作権侵害をひきおこさないためには、このデータセットが権利的にクリーンである必要があります。
つまり、①以外の方法で集められたデータセットは著作権侵害を起こす可能性があるということになります。
それなのに、現状では②とか➂で行っている企業が多いため、問題になってます。

どうしてそうなってしまうのかというと、データセットの量と質が高いほど高精度な画像を生成できるようになるという仕組みのため、精度の高い生成AIツールを作るには数十億以上もの画像データを必要とするのです。
それだけの莫大な量の画像を集めるとすれば、一から画像を作ったり、権利を買い取って集めたりするのは、手間や費用を考えるととても現実的ではない、という結論になってしまいます。
そのためほとんどの画像生成AIツールは②か➂の手法をとっているのが現状です。


LAION-5Bとは？

LAION-5Bは画像分類モデルのCLIPでフィルタリングされた58億5000万もの画像とテキストの組み合わせで構成され、このうち23億組が画像と英語テキストのペアで、22億組が画像と100を超える非英語テキストのペア、残り10億組が画像と特定の言語に限定されない名前などのテキストのペアです。なお、日本語のデータセットも1億3000万組ほど含まれているとのこと。

https://gigazine.net/news/20221214-laion-5b-new-era-datasets/
画像生成AI「Stable Diffusion」などの開発に大きな貢献を果たした
超巨大データセット「LAION-5B」とは？(Gigazin)

要するに、無料で使える超巨大なデータセットということになります。
(無料といっても、使用承諾取ってないWeb上の画像ですけどね…(;^ω^))
前述したStable DiffusionはこのLAION-5Bを使ったことで精度が飛躍的にアップしたようです。

ちなみに↓のリンク先でLAIONの成り立ちなどが読めます。

Stable Diffusionに関しては、このようにデータセットを公開していますが、他社の生成AIツールに関しては、データセット非公開としているケースも多いです。
データセットに何が使われてるかわからない以上、他社の生成AIツールを使ったとしても、やはり著作権を侵害しない、とは言えないのです。


データセットの中にあなたの写真や絵も勝手に使われているかもしれない

LAIONデータセットの中にあるのは、プロの作品や有名人の写真ばかりではありません。
ごく普通の一般の方がSNSにアップした画像なども入っています。
これはその一例です↓

記事を要約すると、Twitterで誰かが「普通のおじさんを生成AIで生成してみた」と言ってアップした生成物が、本人の目に留まり「自分そっくり」と驚いている、という顛末です。
こういうことからも、ごく普通の一般の人がネットにあげた写真がデータセットに勝手に使われているという事がわかると思います。

LAION-5Bデータセットに使われている画像に自分の画像がないか、以下のサイトで確かめることができます↓
※NSFWに類する画像がありますので注意して閲覧して下さい。(詳細は次の項目で説明します。)

テキスト入力で検索する方法と画像で検索する方法がありますが
絵師であればハンドルネームでの検索か、自分の作品で画像検索するとわかりやすいです。
一般の方が写真などを検索する場合は、氏名またはSNSのハンドルネーム等か、卒業校や会社名など関わりのあるワードで検索することになります。

「自分の写真や絵をデータセットに勝手に使われたくない」という方は
Have I Been Trained?のサイトでオプトアウト(削除)ができます。
やりかたなど、詳しくはこちらの漫画を見るとわかります。

ただ、この漫画にも書いてありますが、完全にオプトアウトできるわけではありません。
すでに出回っているStable Diffusionなどの生成AIツールの中に組み込まれ済みの学習データからは削除されませんし、これから発表される多くの生成AIツールにも削除がどこまで反映されるかはわかりません。


データセットの中にあるさらに危険な画像

LAIONのデータセットの中にあるのはそういった著作権や肖像権を侵害するというものだけではありません。
さらに危険な画像として、以下のようなものが存在しています。

  • ポルノ画像(男女問わず)

  • 児童ポルノ、児童虐待の画像

  • 犯罪被害者の遺体写真

  • 戦争の写真、虐殺された遺体の写真や処刑の写真など

  • 医療記録用の治療中の顔写真

  • その他、NSFWに類するもの

LAIONデータセットに問題のある画像が含まれていることを告発する漫画家・牧村しのぶさんのブログ↓

このように、著作権侵害を簡単に犯してしまうという、法的にアウトな事と、倫理的にも問題のあるデータセットを使用しているという理由もあり
生成AIは嫌われています。

↓著作権の問題があるデータセットについての海外の記事

ジェネレーティブ AI が世界に利益をもたらすと主張する人もいるかもしれないが、著作権侵害が横行していることはもはや疑いようがない。

記事本文より引用


権利問題がクリアされない限りプロは下手に手を出せない

ただの素人が趣味で、ウェブにはアップせずに個人の範囲内で鑑賞用として利用する分には法的な問題は発生しませんが、
　※筆者追記）2024年9月、韓国では性的なディープフェイクは
　所持だけでなく見るだけでも処罰の対象に当たるように
　法改正が可決されました
　https://www.asahi.com/articles/ASS9V3HGMS9VUHBI02GM.html
これを出版社からオファーを受けるようなプロが仕事で使うとなると問題がありすぎて、実質、今のままでは使えない代物です。
著作権侵害していても、本人も気づけないし、編集者も誰も気づかない可能性が出てきます。
そうなると、出版して人の目に触れてからクレームが殺到し、販売停止を余儀なくされるということが起こりえるのは容易に想像できるでしょう。
そして、一度そういった侵害を犯してしまうと、ウェブタトゥーとして残り、ずっと疑いの目で見られ続けることになるかもしれません。
プロのクリエイターとして、これほど致命傷なことはないと思います。
こんな代物、怖くてプロは普通使えないでしょう。

↓プロの漫画家が生成AIイラストでトレパクしてTwitter炎上したという記事

手塚(桐木)氏は、炎上後、該当する絵に関してほとんどをTwitter(X)から削除。謝罪のポストをしましたが、その謝罪文はAIを使用したことやトレパクをした事には一切言及されていませんでした。

やはり“トレパク”の有無には言及せず、作品が酷似してしまったのは《認識不足が原因》と、先人らと同様に“意図的ではない”と弁明しているような物言い。 　
週刊漫画雑誌で多くのクリエイターと接してきた編集者は、彼らが「認めない」理由について、こう代弁する。 「漫画家やイラストレーターが“盗作”を認めたら、その時点で当人の創作活動は完全に終わりますよ。いくら作品の構成やストーリーの酷似をネットで指摘されたところで明確な証拠はありません。“偶然、似てしまっただけ”と言い張れば、たとえ1度は打ち切られたとしても、クリエイターとしての道は残されますからね」

https://news.yahoo.co.jp/articles/17789d0202ec0424f9353a239f433b34738eb784?source=sns&dv=sp&mid=other&date=20230823&ctg=ent&bt=tw_up
「手塚治虫の名前に泥塗った」トレパク謝罪の娘婿・手塚憲一氏に
「AIイラスト生成」描いてない疑惑

生成AIイラストは、プロの現場では認められない、というのはこういった著作権問題が起こりえるからなのです。

この方のように元絵を作為的に改変した場合は元の絵がなんなのかわかっているので自覚はあると思います。

ですが、ただプロンプトを打ち込んで生成する場合でも、データセット自体が著作権侵害している以上、何らかの既存の絵に似てしまう事は容易に起こりえます。
結局、元絵を使おうと使うまいと、侵害は起こってしまいます。


生成AIに関して各団体からの声明

今月8月、多くの出版社やメディアが加盟している４団体が「生成AIに関する共同声明」を発表しました。

・日本雑誌協会 →集英社、小学館、スクウェア・エニックス、他83社
・日本写真著作権協会
・日本書籍出版協会 →秋田書店、KADOKAWA、講談社、集英社、小学館、新潮社、徳間書店、白泉社、他391社
・日本新聞協会 →朝日新聞、毎日新聞、東京新聞、TBS、日テレ、フジ、テレ朝、テレ東、文化放送、ニッポン放送、他123社

↓これまでの各団体の声明のリンクを貼っておきます。

一般社団法人 日本芸能従事者協会
「ＡIの急速な出現に関する日本芸能従事者協会との連帯声明」
https://artsworkers.jp/news/ai-statement-202305/

協同組合 日本俳優連合
「生成系AI技術の活用に関する提言」
https://www.nippairen.com/about/post-14576.html

一般社団法人 日本音楽作家団体協議会(FCA)
「AIによる著作物利用に関するFCAの見解」
https://fca-rights.jp/

一般社団法人 日本新聞協会
「無断・無秩序な利用懸念　生成AIに政府の対応要請　新聞協会が見解」
https://www.pressnet.or.jp/news/headline/230517_15029.html

一般社団法人日本音楽著作権協会（JASRAC）
「生成AIと著作権の問題に関する基本的な考え方」
https://www.jasrac.or.jp/release/23/07_3.html

著作権国際連合(CISAC)
「Global Creators and Performers Demand Creative Rights in AI Proliferation
Summary
An Open Letter to policy makers on Artificial Intelligence
（世界のクリエイターとパフォーマーがAIの普及に創作権を要求
人工知能に関する政策立案者への公開書簡）」
https://www.cisac.org/Newsroom/articles/global-creators-and-performers-demand-creative-rights-ai-proliferation

一般社団法人日本雑誌協会(日本雑誌協会会員社：朝日新聞、集英社、小学館、スクウェア・エニックス、毎日新聞、等83社)
一般社団法人日本写真著作権協会(JPCA)
一般社団法人日本書籍出版協会(会員出版社：秋田書店、NHK出版、KADOKAWA、講談社、集英社、小学館、新潮社、徳間書店、白泉社、等391社)
一般社団法人日本新聞協会　(新聞協会会員社：朝日新聞、毎日新聞、読売新聞、日本経済新聞、東京新聞、産経新聞、日本放送協会、TBSテレビ、日本テレビ、フジテレビジョン、テレビ朝日、テレビ東京、文化放送、ニッポン放送、等123社)
「生成AIに関する共同声明」https://www.pressnet.or.jp/statement/copyright/230817_15114.html

一般社団法人 日本美術著作権連合
(所属団体)
一般社団法人 日本美術家連盟
公益社団法人 日本グラフィックデザイン協会
一般社団法人 日本児童出版美術家連盟
一般社団法人 日本理科美術協会
一般社団法人 日本出版美術家連盟
一般社団法人 東京イラストレーターズ・ソサエティ
一般社団法人 日本図書設計家協会
「生成AIに関する声明」
https://www.jart.tokyo/jart_wp/wp-content/uploads/2023/08/5bbd651f0394f60cbdbf80279ca1b5ac.pdf

ここ３～４ヶ月で、これだけの団体から声明が出ています。
テレビ局各社なども参加している団体もあり、ほぼ全国規模になります。
これだけでも、この生成AIが今までにない特殊な問題だということがわかると思います。
これは明らかに、ただの産業革命などと同列とは考えられない問題です。
生成AIを推進する者の中には、技術革命を引き合いに出し、「時代の流れだから仕方がない」と、生成AIを正当化する向きがありますが、生成AIを懸念し意見している人たちのほとんどは、技術を問題にしているのではなく、著作権侵害を問題としています。


【嫌われる理由その２】児童ポルノ・フェイクポルノ・ディープフェイク

生成AI製の児童ポルノが蔓延するピクシブ

今年6月、イラストプラットフォーム大手・ピクシブがAI製の児童ポルノ取引の温床になっていると、BBC(英国の公共放送)が厳しく告発しています。

BBCは以前、ジャニーズの児童性加害問題を取り上げたことで有名です。
記事引用↓

「テクノロジー企業は今や自社の製品が児童の性的虐待を促進するためにどのように利用されているかを知っており、不作為の言い訳はもうできない。」

https://www-bbc-com.translate.goog/news/uk-65932372?_x_tr_sl=auto&_x_tr_tl=ja&_x_tr_hl=ja&_x_tr_pto=wapp
Illegal trade in AI child sex abuse images exposed
(BBC NEWS)

このような児童ポルノ画像が増えていくと、本当の児童虐待の被害者の画像があっても埋もれてしまい、発見が遅れ、捜査の手が届かなくなるという大きな問題が生じてくると記事には書いてあります。
小児性愛者はまず手始めにこのような場所で画像を手に入れるところから始まり、だんだんと行為をエスカレートしていく。
という事も書かれています。

また、同人誌など手描きの創作での漫画やイラストなどとは、ここでは明確に区別して語られています。
生成AI推進者の中には「だったら同人誌はどうなんだ?!」と、同人誌を引き合いに出し反論する人も多いですが、生成AIに危惧して訴えている人たちは、ほとんどがそういった創作に関しては別物として明確に区別して語っています。


知らないうちに被害に合ってるフェイクポルノの闇

フェイクポルノはSNSでも最近徐々に被害が出てきています。

該当アカウントは削除されてますが、こういった被害が出始めています。

Twitterでは、女子高生をターゲットにした「孕ませディズニー」と呼ばれるAIコラージュ画像が拡散されたこともあり非難を浴びていました。

Twitterでツイートされ非難された「孕ませディズニー」

TwitterなどのSNSに上がってくる被害は、表面的にはまだ数は少なく感じるかもしれませんが、水面下で隠れた被害があることが十分に予想されます。
実際のフェイクポルノ被害に合われた方のインタビュー記事です。↓

ゆかりさんの当時の年齢は17歳、『児童ポルノ』、『名誉毀損』など多くの犯罪を犯しているが、犯人は捕まっていない。

「街を歩いていておじさんたちが私を見ると“この人あれを見たのかな”などと考えてしまい彼らがニヤニヤしているように感じてしまうんです。それで人混みを歩けなくなりました。勝手に保存されたりしていたらどうしよう、クラスメートが知っていたらどうしようって。これから先出会う人がこの画像を見ていたらどうしよう、って」(ゆかりさん)

母の朋美さんは、ゆかりさんを心療内科に連れて行き、安定剤をもらうことでパニックはおさまった。コロナ自粛と重なったことで外出しなくてすんだこともゆかりさんの心を落ち着かせたという。

https://www.jprime.jp/articles/-/19145?page=2
「娘の顔をした裸画像が永遠に…」一生消えない“フェイクポルノ”の被害を告白
(週刊女性プライム)

このゆかりさん(仮名)は、普段からSNSには顔出ししないように気を付けていたらしいですが、仲間の集まりの時に他の人が撮ってアップしてしまった写真から被害にあったそうです。

こちらは別の方のインタビューからの引用です。↓

「サイトの画像は一応消えましたが、保存されていたり拡散されているのは抑えられない。警察によると、こういうのを作るのは身近な人というよりランダムに子どもの顔を適当に探して集めているのだそうです。だから恨みやそういったことではないと思いますよ、と言われました。

記事より引用

フェイクポルノの主な手口は、生成AIで勝手に顔部分だけを抜き取り、それを既存のAV動画に差し替える、という手口のようです。
なにも知らない人は、ひょっとしたら「そんなの、本当の自分じゃないんだから」と被害を軽く見る人もいるかもしれませんが、実際に、もしもそういう被害に合い、知り合いがその動画をたまたま見つけて「これはあなたなのではないか？」と問い詰められた時に、そうではないと証明する証拠は提示できないですよね。
「私はこんな体じゃない」と言っても、その場で服を脱いで証明するわけにもいきません。
人によっては、このことで人間関係が破壊されてしまったり、社会での出世の道を閉ざされてしまう可能性もあります。
特に、クリーンなイメージが大切とされる職種では、たとえフェイクであっても、悪いイメージがついてしまうと仕事を辞めさせられるケースもあります。

これらの記事に出てくる方々はたまたま偶然にその画像の存在を人づてに知った、というケースが多いのですが、実際はこれよりもっと多くの被害があり、まだ本人が気づいてないというケースも潜在的に増えているかもしれません。

また、先の記事の内容では「うらみなどでフェイクポルノを作る人はあまりいない」という警察の発言もありましたが、米国ではこのようなリベンジポルノの被害も起こっています。↓

こちらが何もしていなくても、普通に生活しているだけで誰かの恨みを買ってしまい、その結果、生成AIを悪用したリベンジポルノの被害にあうということも起こりえます。

フェイクポルノ・リベンジポルノの対策

  • SNS等に顔写真を極力アップしない。(顔部分を隠す等、加工をする）

  • 自分の写真だけでなく、家族、とりわけ子供などの画像はアップしない。

  • 自分以外の第三者が写っている画像をネットにアップする際は相手に許可を取る。またはぼかしなどの加工をする。

  • 顔を映した動画などは特に危険です。精巧なディープフェイクを作りやすいからです。

こういった対策が必要になってくるかもしれません。
自分が被害に合わなくても、知り合いが被害に合うかもしれません。
写真や動画をネットにアップしないことが一番の対策になります。

以下のサイトは、被害に合った時に成立する犯罪や刑罰など
ディープフェイクポルノを作って逮捕された場合だけでなく、そういったものを頒布した場合や人に送り付けた場合はどうなのか、と言ったことが詳しく解説されています。↓


FBIも警告、セクストーション(性的脅迫)の被害は男性にも

「セクストーション」（性的脅迫）という言葉を聞いたことはありますか。 「sex」（性的）と「extortion」（ゆすり、脅迫）を合わせた造語で、性的な画像や動画を送らせたりビデオ通話で盗撮したりしてから、「お金を送らないと知り合いに画像を送る」と金銭を送るように要求したり、さらに過激な画像を送るように脅したりするものです。

https://news.yahoo.co.jp/articles/32bdc90f4060abfc171ba946d0b79986f37cccbb?source=sns&dv=pc&mid=other&date=20230829&ctg=dom&bt=tw_up
"恥ずかしい写真"でゆすられる「セクストーション」…10代男性も標的、被害相次ぐ
(Yahooニュース)

↓実際に被害に合った方の知恵袋での相談内容

このセクストーションにも、生成AIによるディープフェイクが使われる可能性は高いと思います。
実際に米国ではすでにこの被害による死亡者も出ており、FBIが警告する事態にまでなっています。


↓日本では大阪府警察もサイトで注意を呼び掛けています。

インターネット上で出会った異性に、「恥ずかしい姿の見せ合いをしましょう」などと持ちかけ、画像や動画を送信させてから、「裸の画像をお前の知り合いに送るぞ」などと脅迫し、電子マネーなどを脅し取る手口です。

大阪府警察のサイトより

女性だけではなく男性も脅迫の手段として生成AIが使われる、こういった犯罪が今後増える可能性が高いでしょう。


世界を混乱に陥れるディープフェイク

世界でもすでにディープフェイクの脅威が始まっています。

こういった偽の画像が作れてしまうという事は、本人にあらぬ疑いがかかる事も問題ですが、それ以上に「なにが本当なのかよくわからなくなる」事がもっとも脅威かもしれません。
たとえば誰かの悪事の証拠画像が出回ったとしても、「それはディープフェイクだ」と言い張られてしまったらどうでしょう。
全ての画像や映像の証拠能力が低下してしまうという恐れがあります。

アメリカのトランプ大統領と対立する野党・民主党のペロシ下院議長のスピーチ映像が、あたかも酔っぱらっているかのように加工され、2019年5月、SNS上に拡散されるという悪質行為も。
2020年に大統領選挙を控えるアメリカでは、ディープフェイクによるネガティブキャンペーンなど、選挙への悪影響の懸念が拡大。
議会では6月、ディープフェイクに関する公聴会が開かれ、フェイスブックなどのSNS企業に対策での協力を要請した。

https://www.fnn.jp/articles/-/1070
見分けつきますか？ニセ動画「ディープフェイク」脅威と対策　“本物そっくり”に広がる懸念
(FNNプライムオンライン)

同時にフェイク画像であることを見破る対抗技術も開発されてていて、現状は9割方見分けることができるようですが、生成AIの進化といたちごっこであり、必ずしも万全とは言えないようです。

中国では生成AIの技術を悪用した多額のなりすまし詐欺事件が多発しています。

ディープフェイクの被害に合わないためには

ディープフェイクの被害に合わないためには、情報を鵜呑みにしてすぐに要求にこたえてお金を振り込んだりせずに、あとで本人に電話をかけなおして二重三重に確認を入れたり、情報をチェックする意識を持つ必要があります。多額のやり取りをする場合、特に注意が必要です。
まさか…とは思っても確認を怠らないことが被害の回避につながります。



【嫌われる理由その３】イラストの市場と完全に競合している

法律が緩すぎる機械学習パラダイス日本

現状、イラスト(ここで言うイラストとは、アート的なイラストとはまた別のオタク向けキャラ主体のイラスト)の市場と完全に競合していることがあげられます。
中でもLoRaモデルという特定の作家の絵柄を集中して覚えさせることができるモデルがありますが、容易に特定の作家のパクリができてしまうため、本来であれば「あってはならないモノ」です。
それなのに、現状では法規制が甘く、政府主導によるルール作りもなにもされていないため、野放しになってしまっている状態です。

文化庁が発表した「AIと著作権の関係等について」という表の
AI開発・学習段階(著作権法第30条の４)によると、

ＡＩと著作権の関係等について(文化庁)　
ＡＩと著作権の関係等について(文化庁)　↑画像クリックでリンク先に飛びます

「ＡＩ開発のような情報解析等において、著作物に表現された 思想又は感情の享受を目的としない利用行為は 、 原則として著作権者の許諾なく利用することが可能」
ただし、「必要と認められる限度」を超える場合や「著作権者 の利益を不当に害することとなる場合」は、この規定の対象とはならない。

AIと著作権の関係等について(文化庁)より

とあります。
皆さんはこの文章を読んで、どのような範囲でAIの学習が可能で、どこからが可能でないのか、わかりましたでしょうか？
正直、私は何度読んでもこの文章の意味が分かりかねています。


「著作物に表現された 思想又は感情の享受」とは？

「著作物に表現された 思想又は感情の享受」とは、一般的には「精神的にすぐれたものや物質上の利益などを，受け入れ味わいたの しむこと」を意味する、という事のようです。

この「思想又は感情の享受」に当てはまらないものの例として

例えば、3DCG映像作成のため風景写真から必要な情報を抽出する場合で あって、元の風景写真の「表現上の本質的な特徴」を感じ取れるような映像の作成を目的として行う場合は、元の風景写真を享受することも目的に含まれている と考えられることから、このような情報抽出のために著作物を利用する行為は、本条の対象とならないと考えられる

AIと著作権の関係等について(文化庁)より

と書いてあります。
この例も、なんとも頼りない、不足感が否めない説明ですよね。
この例一つだけでは明らかに説明しきれていません。
このようにわかりづらくしているのは、国がAI推進をしたいがため、故意にしているのだろうか？と勘ぐってしまうほど、かなりの説明不足です。

それなら、たとえばの話ですが、背景ではなくこれが特定の人物の写真だとしたらどうでしょうか？
その場合は「思想又は感情の享受」になり得るのでしょうか？
それとも、背景になじむようなモブとも言える小さな人物だったら背景と同じ扱いで享受にはならないのでしょうか？
じゃあ人物メインで大きくはっきりと表情まで入っている場合なら「享受」に該当する？
さらに言えば、これが実写的な人物ではなく、マンガのようなキャラクターのイラストの場合は？

ここら辺の説明がまったく足りていないため、この事を逆手にとって、法を好きなように解釈して、好き勝手やる人が出てきているという事態が起こっているのだと思います。

この曖昧さなので、たとえば、本当に決まりを守って安全な範囲内でAIを使いたいという人がいても、いったいどこからどこまでがOKと言えるのかわからず、絶対的な正解など誰もわからない、だから決まりなど誰も守りようがない、という事にもなってしまいます。
（だからと言って好き勝手やっていいという言い訳には決してなりませんが。）

このあいまいさのために、結論は司法に丸投げになってる状況です。
司法に丸投げ、とはつまり、誰かが「自分の著作権を侵害された！絵をパクられた！」と訴えて裁判を起こして、その判例が出ない限り、誰にも正しい結論は何なのかわからないという事です。

そのため、その事を逆手にとって「たとえ相手が嫌と言っていても学習してもいいんだ」と勝手に解釈するAIユーザーが出てきます。
生成AIの無法地帯と化している日本は、機械学習パラダイスとも呼ばれています。


日本はなぜそこまでAI開発を優遇するのか？

経済産業省が主催する「AI導入支援事業」により、AIを導入する企業には補助金が出る場合があり、日本はAIの導入を優遇しています。

↓AIの活用、導入に関する補助金‐中小企業庁(企業向けパンフレット)
https://www.chusho.meti.go.jp/pamflet/leaflet/l-2020/200508AI_pamflet.pdf

いったい日本はなぜそこまでしてAIを優遇しているのでしょうか。

著作権法に詳しい一橋大の長塚真琴教授は、日本法についてフランスの専門家から「なぜそこまでＡＩ開発を優遇するのか」と疑問を示されたことがあると話し、「著作権法３０条の４は、商用と非商用を分けていないなど先進諸国の中で特異な規定だ。今この瞬間にも商用ＡＩが画像や文章を大量に生成しており、たとえばオプトアウトを取り入れるなど、権利者保護を強化すべきだ」と指摘している。

https://www.yomiuri.co.jp/national/20230428-OYT1T50014/
「なぜそこまでＡＩ開発を優遇するのか」…著作物利用、先進国で最も規制が緩い日本
(読売新聞オンライン)

こういった専門家の警告が出ていても、国はいまだに権利者の保護などしようとはしていません。
また、アメリカや中国などの先例を見れば、日本もディープフェイクなどの犯罪被害を予見されているのに、その安全対策すらしようとはしていません。
著作権利者の保護どころか、国民の安全まで脅かそうという事態なのに、そうまでしてAIを推進するのですから、たいそう日本の国益になるようなプラスの何かがあるのではないかと期待するのが普通ですが……(^^;

↑今から数か月前「AIで日本が勝つチャンス」と言っていた議員がいたようですが、この議員は選挙の公約で「クリエイターを守る」と言いながら結局は強引に生成AIを推進し、抗議のメールが来ても「生成AIに反対している人はみんな初級者中級者の絵描きでトップクリエイターは反対していない」などと嘯き、インボイスの件も反対すると言っていたのに実際は何ひとつやっていなかったり、とあまりにも当選前と態度が違いすぎて、ツイートのリプにも「支持者を裏切らないで」と抗議するリプがよく付いてますがすべて無視しているようです。
政治家がやるやる詐欺では信頼は得られないのでこの議員の来期はないと思います。

さて、現状のどこに日本のAIの勝ち筋があるのか、本当にいい加減そろそろお聞きしたいところなのですが……

こういった記事↑を見る限り、現在のところ、どこが日本の勝ち筋なのかは皆目、不明なままです。
この状況で一方的にクリエイターの被害を無視して我慢を強いるとは……
それはあまりにもひどすぎやしないでしょうか。
せめて声明を出している日本の各団体に何かしら答えることはしていただきたいです。
彼らは初心者でも中級者でもない各界のプロの団体なのですから。

日本が法規制も安全対策も何もしない上に、AI開発でもボロ負けしている、そんな最低な状態の中、EUはいち早くAI法について年内合意するんじゃないかというニュースがつい先日入ってきました。(施行されるのは2026年ごろとの事)

日本政府の立場は、AI法案のように法的拘束力のある法規制ではなく、ガイドラインなど緩いルールによるAIガバナンスを目指すものだ。だがEU市場での企業の事業展開のためには、AI法案への対策が必要である。

https://xtech.nikkei.com/atcl/nxt/mag/nc/18/082200374/082200002/
EU「AI法」年内合意へ　日本は関与できるか
(日経クロステック)

EUをはじめ、世界の先進国が規制の方向に向かっている中、日本がそのままでいるというのはどう考えても難しいでしょう。
特に、今のように生成AIユーザーがモラルもなく好き勝手やって、そのせいで嫌な目に合っている人たちがいるのですから、なんのルールも作らないというのは許されない事だと思います。

生成AIを野放しにしたままだと、このままいくと日本の未来はパクリ国家になるかもしれない、という話。

10年前、中国をパクリ国家と言って馬鹿にしていた日本。
今度は逆に世界から馬鹿にされる程度の低い国になってしまうかもしれません。

ルールで成り立ってる同人界、ルール作りができないAIユーザー

「AIイラストがだめだというなら、二次創作はどうなんだ」と、
生成AIの是非を議論する時に、同人はよく引き合いに出されます。
たしかに同人界にも全く問題がないとは言えません。
公式の指示を聞かない人も少なからずいたりもしますが、大多数は公式がダメということはしないように気を付けて粛々と同人活動をしていると思います。
私も同人界のすべてを100％把握しているわけではないですが、問題を起こす人がいたとしても、周囲の人から村八分になったり、炎上して叩かれる事態が起こり、自浄作用が働くことが多いのではないでしょうか。

↓こういった同人のマナーサイトがある事からも、同人の歴史は古く、その中で培われてきたルールやマナーが確かに存在していることがわかると思います。

また、いくら絵がうまい人であっても、公式に対してリスペクトがまるでない人は叩かれます。
生成AIユーザーのように、学習元の絵師に対して「俺の方が上だ！餌のお前はもういらない」とか「あなたの絵を学習させてもらいます。合法ですから」と言って冷笑する、などという事にはなりません。
同人作家は、あくまでも公式あっての存在であり、AIユーザーのように公式を見下して貶めようものなら、たいていは「お前何様のつもりだ」と怒られ、間違いなく大多数から叩かれ非難を浴びせられる事でしょう。
そんな暴君にならないのは、同人作家は基本的にその作品のファンだからです。
ファンだから、できるだけ長く公式の人気が続いてほしいと願いますし、
SNSでの同人活動はそのための宣伝にもなりうるのです。

そして、同人の場合は公式になんらかの還元をしている場合も多いです。
本やグッズや円盤を買ったり、ゲームなら課金したり、イベントに参加したりするので、それが公式の収益になります。

ですが生成AIユーザーの場合は、学習元へのリスペクトがまるでなく、還元もありません。
生成AIユーザーも、同人作家も学習元(公式)に依存しないと成り立たないという部分では同じですが、生成AIユーザーの場合は、ただただ一方的に依存しているだけであり、学習される側の立場からすると、タダ同然で自分の努力の結晶を搾取されていて、見返りがまるでありません。
まさにフリーライド、ただ乗りしている状態です。
その上、悪質な生成AIユーザーは「AIに読み込んだから餌のお前はもういらない」などという、あり得ない不可解な暴言まで浴びせかけるわけですから、生成AIユーザーを「泥棒」とか「盗賊」と言いたくなるのも無理はないし、どう考えても嫌われても仕方のない事なのではないでしょうか。




生成AIイラストの氾濫がクリエイターの育つ土壌を破壊する

現状、生成AIイラストには著作権は認められていません。

AI生成物を含む「コンピュータ創作物」は、「著作物」に当たるか否かの議論は各所で行われており、本資料では、文化庁の見解が示されている。AIが自律的に生成したものは、「思想又は感情を創作的に表現したもの」（著作物の定義にあてはまるもの）ではなく、著作物とはいえないとするのが、同庁の見解だ。

記事より引用

AIイラストに著作権が認められていない、というのがまだ救いがあるところですが、記事内ではこのようなことも記述されています。

人がAIを「道具」として使用したといえるか否かは、人の「創作意図」があるか、及び、人が「創作的寄与」と認められる行為を行ったかによって判断される。

　「創作意図」とは、思想又は感情を、ある結果物として表現しようとする意図を指している。またどのような行為が「創作的寄与」と認められるかについては、個々の事例に応じて判断することが必要で、生成のためにAIを使用する一連の過程を総合的に評価する必要があるとした。

記事より引用

結局、「司法に丸投げ」ということなので、現時点ではなにもわかりません。
しかし、条件付きとはいえ、生成AIイラストに著作権が認められるということになったら、その弊害は大きいのではないかと思います。

このような記事もすでに出てきていますが、↓

生成AIを使うことが当然、となっていくと、一から絵を描く人がかなり減ることが予想されます。
絵を一人前に描けるようになるまでには十年くらいかかるのは当たり前で、そもそもAIなんて出てくる以前から、絵の道で挫折してしまう人は多かったと思います。
それが生成AIの出現により、さらに加速するのではないかと考えられます。
初心者の頃は当たり前ですが、誰でも絵の技術は未熟です。
絵をSNSにアップすれば、モラルに欠けた心無い生成AIユーザーに「AIの方が絵がうまい、手描きはへたくそ」と中傷される理不尽な事も起こるかもしれません。
実際そういったこともすでに起きています。↓

元々、絵の上達の道は険しかったわけですが、これでさらにその要因が
(かなり大きな要因が)追加されたというわけなのです。
初級者・中級者の時はそうやって馬鹿にされ、それでもなんとか頑張ってプロ並みに上手くなったとしても、その絵は生成AIユーザーの肥やしにされます。そこにはなんの還元もなく、リスペクトすらありません。
生成AIユーザーにとって、絵師の絵は「ただの素材」であり、それを得られることは現状、当たり前の事と化しています。
がんばって育ったとしても最後にはタダで肥やしにされパクられて、努力して作り上げてきた自分の絵柄が生成AIによって陳腐化されて終わります。

このような未来のために努力しようなどとは、誰も思えないでしょう。
後進のクリエイターが育たない環境になる、クリエイター界にとっては、これがなによりも大きな損失という事になるかもしれません。



【嫌われる理由その４】一部のAI生成ユーザーの素行の悪さ

箇条書きにしてみましたが、ぱっと思いつくだけでも多いです。
まだあったかもしれません。

  • 絵師に成りすまし金銭を搾取する行為

  • AI禁止のイラストコミュニティサイトにAI絵を投稿する利用規約違反

  • 手描き絵師との棲み分けのための「#AIイラスト」のタグをつけない

  • AIイラストなのに手描きと偽る

  • LoRAモデルで既存の作家の絵を学習させ丸パクリする

  • 絵師への暴言や脅し行為などの嫌がらせ

  • NAIリークモデル（ハッキングにより違法に流出したモデル）の使用

  • Glaze(スクレイピングから絵を保護するための加工)を突破しようとする。


絵師に成りすまし金銭を搾取する行為

これも大変炎上した事件でした。
PixivのFANBOXにて、人気絵師の絵を模倣してエロイラストを作り稼いでいたとされる人物がいました。（現在は垢消し逃亡）
ただ黙って金儲けて逃げるならまだしも、わざわざこういう嫌がらせをしていくところが怒りを買う原因だと思います。

絵師のなりすましで収入を得た生成AIユーザー



AI禁止のイラストコミュニティサイトにAI絵を投稿する利用規約違反

AI禁止としているクロスフォリオにAIイラストと思わしき投稿が複数あることを確認しています。

単純に規約違反行為ですが、生成AIユーザーはPixivを占領する行為をしていたので、Pixivにいればいいのに、何故わざわざAI禁止しているところに投稿したがるのか…こういうところでもモラルを持ち合わせてない生成AIユーザーの体質がよくわかります。


手描き絵師との棲み分けのための「#AIイラスト」のタグをつけない

一般の絵師と生成AIユーザーは、現状、どうやっても利害しか生じない関係の為、トラブル回避のために棲み分けが必要と考える人は多いです。
そのために #AIイラスト や #Stable Diffusion などのハッシュタグをつけて作品を公開している人が多いのですが、なぜかこのタグをつけたがらない人が一定数います。
手描きと思われたいのか、AIと明示するとフォロワーが減るからか、なんなのかはよくわかりません…(;^ω^)

AIイラストなのに手描きと偽る

どう見てもAIイラストなのに手描きと偽る人がいます。
先の例にも挙げましたが

この方は最初、ツイートで手描きだと思わせることを言っていました。
どうみてもAI絵なのに手描きと詐称する人たちの心理とはなんなのか？
そこまでして自分がすごいと思われたいという事は
やはり承認欲求を拗らせているという事なのでしょうか。


LoRAモデルで既存の作家の絵を学習させ丸パクリする

絵師にとって独自の絵柄というのは唯一無二の個性であり、絵のもつ価値を推し量るには重要な要素です。
このLoRAモデルは、それを丸パクリし、著作者の許可なく延々と新作が勝手に作り続けられてしまう、という事になります。
絵師にとってこれがどれほどの嫌がらせとなるか、同じ絵師でないとなかなかわかりづらいかもしれません。
絵師でない人にもわかるように例えるなら、自分の顔を勝手に断りもなく使い回されるようなものです。
想像すると、これほど気持ちの悪いものはないでしょう。
百歩譲って、普通の生成AIはなんとか許せたとしても、このRoLAモデルだけは許しちゃいけない、無くさなきゃいけない、と言う人は多いです。
その上、このLoRAモデルを、既存の絵師の絵を学習させたものを有料で販売するなどという企画をしていた企業がありました。
株式会社シアンと言うのですが、Twitterで猛反対に合い大炎上したのちに、そのサービスに関しては中止となりました。

権利者になんの還元もしないのに、堂々とそれを有料で販売するという根性は本当にあさましく、許しがたい行為です。
盗品で商売をするのとなんの違いがあるのでしょうか。


絵師への暴言や脅し行為などの嫌がらせ


これは説明するより実際のツイートを見ていただいた方が早いですね。
ツイートは今年5月ごろのもの。

信じがたい事かもしれませんが、当時はこういった暴言をTwitterではよく見かけました。

また、クリエイターさんと数多く接する機会のある編集者という立場の方から、こんな声も。

このように生成AIユーザーに執拗に嫌がらせをされるばかりか、
国さえもAIを推進するばかりで権利者を守ろうとしない無法状態。
仕返しが怖いのでTwitterでもなにも発言できない。
単なるパクリとはまた違い、生成AIという前例のない事が絡んでいる特殊な状況の為、人に言ってもどれだけわかってもらえるのかわからない。
どれほど心細く、苦しかったかと思います。



NAIリークモデル（ハッキングで違法に流出したモデル）の使用

画像生成AIサービス「NovelAI Diffusion」（NovelAI）を提供する米Anlatanは6月23日、流出した同社のAIモデルや、それを改変したモデルの利用について、公式Twitterアカウントで注意喚起した。

記事より引用

リークモデルというのはハッキングによってデータ流出したモデルの事です。
誰がハッキングしたのか、それをどこで配布されたのかは不明ですが、違法にダウンロードされたものですので、使っている人に対してはメーカーとしては法的措置も辞さないということです。
こういった違法なデータの利用については使用者の倫理観が特に問われると思います。



Glaze(スクレイピングから絵を保護するための加工)を突破しようとする。

Glazeというのは人間の作品を守るために若干のノイズ加工を施してAIに読み込ませないようにするための加工処理です。
無償で提供されています。

↓Glazeが賞を受賞したというツイート。

Glaze プロジェクトの実現に貢献してくれたすべての素晴らしいアーティストに感謝の意を表したいと思います。 Glaze が USENIX セキュリティ シンポジウムで優秀論文賞と 2023 USENIX インターネット ディフェンス賞を受賞したことを発表できて光栄です。

ツイートより引用

世界中のアーティストに貢献しているので、受賞はとても喜ばしい事です。
ですが、そのGlazeをわざわざ突破しようともくろむ生成AIユーザーがいるようです。（悪用されても良くないので詳細は省きます。）

生成AIユーザーの中には絵師たちに対して「Glazeを使うな」と嫌味たらしくいう人もいたようです。


まとめ

だいぶ長くなってしまいましたが、なぜ生成AIが嫌われてるのか、これを読めばだいたいわかると思います。
「なんで？」って誰かに聞かれて説明に困ったときは、このページを知らせてもいいし、以下のようなわかりやすい動画をおすすめしてもいいと思います。

↓なんと！5分で解説してくれてます。
早口でわかりづらいという人は、動画の設定で再生速度を遅くしてください。


生成AIからクリエイターを守る署名のお願い

現在、署名運動をしています。
賛同してくださる方はよろしくお願いします。
※ハンドルネームなどでも署名できます。



長い事読んでいただきありがとうございました。

いいなと思ったら応援しよう！