イラストのAI学習問題について脳研究者が思うこと
Twitter(現X)が2024年10月16日に規約改定を発表し、変更後の規約の中で以下のことが明文化されました。
「本サービス上のコンテンツ」で、ユーザーによって「提供されたテキストやその他の情報」を「生成型か他のタイプかを問わず、当社の機械学習や人工知能モデルへの使用やトレーニングなど」に使う
これを受け、Twitter上ではいろいろな議論が繰り広げられています。そして、少なくないユーザーが別のSNSへの移転を考えています。
この一連のムーブメントについて、お絵描きが趣味の神経科学研究者として思うことがあるので文章化してみます。
問題の整理
今回は「SNSに投稿したイラストがAIに勝手に学習されてしまう」ことが絵描きの間で問題となりましたが、その背景ではAIという新しいものに対して集団的、同調的な混乱が起こっているように感じています。そうした混乱の渦に巻き込まれると問題の本質を見失いかねません。少し整理したいと思います。
AIの学習では、例えばある一人のイラストレーターのイラストを学習する場合、イラストに含まれる「その人らしさ」を抽出します。結果として、その人が描いた新しいイラストであっても作者を言い当てられたり、同じような画風でそれまでに存在しなかった新しい画像を生成することができるようになります。特に後者のように、画風が盗まれてしまう点でイラストレーターにとってマイナスが生じるので、こういった使い方は当然非難の的となります。
画風の再現が可能なのは生成AIだけではない(能力があればヒトでもできる)ので、おそらく本質的な論点はそこにはなく、技術のない人が「簡単に」他人が時間をかけて積み上げてきた能力を使えるようになるという構造、そのズルさに憤りのような感情が動く人が多いのではないかと思います。また、イラストレーターのアイデンティティとも言える画風を盗んだうえで、企業がコストをかけずに商業用のイラストを作成できるようになれば、イラストレーターの仕事が減るかもしれず、この点に焦りや失望感を覚える人もいるでしょう。
ここで思い出してほしいのは、生成AIのそうした「使い方」に問題があるのであって、生成AIが存在することやコンテンツがAIに学習されること自体はあまり大きな意味を持たないということです。生成AIに対する指示内容やアウトプットされたものの用途こそが議論の的となるべきで、それらの営みをするのは(まだ)機械ではなく人間です。
そして、画風の盗作のような生成AIの使い方は、これまで無断転載やトレスが問題視されてきたのと同じ観点で非難して然るべき行動です。裏を返せば、無断転載だろうがAIによる盗作生成だろうが「やる人はやる」でしょう。SNSの運営会社が投稿画像を自由に使えるようにするかどうかにかかわらず、人が一枚ずつ手作業で保存してしまえばAI学習の材料は集まりますし、ネットを介して不特定多数が閲覧可能な状態で画像をアップロードすること自体がすでに「AIに学習される」のを受け入れることと同義だと覚悟するべきかと思います。
まとめると、今多くの絵描きの感情を揺さぶっている実態はイラスト業界における地続きな「人間」の問題であり、SNSに投稿された画像に対してAI学習が導入されること自体を避難するのは少し大雑把な捉え方だなと感じています。(まぁ、得体の知れないものに「学習される」というのがうっすら気持ち悪いという感覚はわかります。が、そんな時こそAIによる学習とはどのような仕組みなのかを調べてみるのが良いかと思います。)
意味のありそうな対策
人間の問題だとは言え、そういったツールが存在すれば盗作や「ズル」が加速するだろう、という発想に至るのもまた人の性でしょう。何か対策をとりたいと考える絵描きも多いかと思います。
SNSユーザーが講じるべき対策は、AI学習に対する嫌悪感や立場(イラストレーター、二次創作作家、趣味としての絵描きなどなど)によって人それぞれに異なってくると私は考えています。各々の価値観に従って自己責任のもと選択することを否定したくないため、ここでは個人レベルの対策について是非を問うことはしません。
ただ、私の目線で意味のある対策とそうでない対策があると感じているので、3つだけコメントと共に少し触れておきます。
まずサービスの乗り換えについてです。AI学習が無効か制限できるというだけで別のSNSにアカウントを作成することは、前述の通り「ネットを介して不特定多数が閲覧可能な状態で画像をアップロードすること自体がすでに『AIに学習される』のを受け入れることと同義だと覚悟するべき」と考えているため本当に意味があるとは肯定しづらいです。
次にイラストに透かしで文字や決まったパターンを付け加える対策についてです。これは、AI学習より前の画像処理で透かしの情報を差し引くことができますし、AI学習の過程においても克服されてしまうためあまり意味がないです。(無断転載等には言わずもがな有効です。)
最後にイラストの解像度を下げることですが、これは結構有力です。AIがイラストを学習する際の「情報」とは簡単に言えば1ピクセルに載っている色情報で、ピクセルが512×512のイラストには「262,144の情報が入る箱」、1024×1024では「1,048,576の情報が入る箱」が搭載されているようなものですが、その数が多ければ多いほど「そのイラストを表現するための情報の質」が高くなります。情報の質が悪いものを学習に加えると、学習の質も低くなる傾向にあるため、「解像度の低いものは学習に含めない」アルゴリズムを備えているAIもあります。以上から、解像度を下げるのは今のところ有効な手段なのではないかと考えています。
絵を描く営みこそが尊い
最後に、話の毛色は変わってしまいますが、脳を勉強している身として伝えたいことがあります。
AIの実用化によって、先ほど問題として取り上げたように、誰もが鍛錬を積まなくてもプロダクトを生成できる世の中になりつつあります。
しかし、そういった鍛錬や自分の身体を介した経験こそ財産なのです。私たちの脳は鍛錬や経験の過程で、幸せやモチベーションのもととなる脳内ホルモンを分泌し、神経回路を繋ぎ変えることを繰り返し、新しい形へと変化していきます。この営みこそ、脳が生命活動を豊かにする「健全な装置」で在りつづけるために必要なのです。(こうした営みが認知症や精神疾患を予防・改善する報告もあります。)
できなかったことができるようになったときに、心の底から喜びを感じたり、その喜びを糧に次なる壁に挑戦していったり。自分の脳を使うことで得られる幸せは、誰にも奪われるものではありません。盗作をしているような人は、イラストを描き上げたときのあの喜びはわかりませんし、アイデアが沸き上がるわくわくも、思ったようにいかないくやしさも経験できません。「ズル」をする人間にはすでに罰が下っているようなものだと、私は本気で思っています。
今後AIが普及すればするほど、イラストに限らずプロダクト自体の価値は下がっていくと個人的に予想しています。一方で、個人レベルの幸せや生き方に価値を置くような世界が来るのではないかとも期待しています。その中で、今より多くの人が創作を楽しむようになるかもしれませんし、その人にしか描けない世界観に価値が見いだされるようになるかもしれません。価値観の多様化が訪れることで、むしろ作家は職を増やす可能性だってあるのです。
風呂敷を広げすぎましたが、ここまで読んでくださった絵描きのみなさまには、生成AIが出てきたとかAI学習されるからという理由で絶望したり、ましてや絵を描くことを辞める選択などはしてほしくないというのが私の伝えたい気持ちです。創作を楽しんでいる人はみな、すでに個人の在り方が問われる次世代への準備が整っているようなものです。自分にしかない世界観をより研ぎ澄ませながら、描くという営みをこれからもぜひ大事にしてください。