【全文無料】現代の異端審問～AIイラスト疑惑～
2025年2月16日、VTuber事務所ホロライブに所属する人気タレント、大神ミオ氏が次のように投稿したわ。
AIイラストを動画サムネイルに使用してしまったので、それを差し替えたとのこと。
🙏お願い＆お知らせ①🙏
— 大神ミオ🌲ホロライブゲーマーズ🐺 (@ookamimio) February 16, 2025
先ほどのマイクラ枠で使用させていただいたイラストが、AIイラストだという事が判明しました。
現在サムネイルにAIイラストを使用しないという方針があるためサムネの差し替えと、イラストを使用した画像を使ったポストを削除します。
リプライをくれたのに、ごめんね🙏💦
AIイラストについては議論が非常に紛糾しているし、まあぶっちゃけ争いの火種として有名よね。相当の覚悟がなければ関わること自体が面倒くさいテーマと言えるでしょう。
だから、人気VTuberさんが「AIイラストを使用しないという方針」を持つのは十分に理解にできるわ。
けれど、「AIイラストだという事が判明しました」と断定的に述べてしまったことで、まずイラストの作者さんにAI反対派からの非難と誹謗中傷が集中。
それを受けて、作者さんはAIイラストではない旨を表明する事態となったわ。
渦中のイラストはpixivに投稿されているこちら。
一連の騒動そのものの経緯や詳細については、以下の記事が非常によくまとまっていて分かりやすかったわ。
作者さんはわざわざ配信して潔白の証明を試みたけれど、疑う側からすれば無制限に疑うポイントは増やせるし、アドホックな仮説もバンバン追加できるから、あまり良い結果にならなかったように見えるわ。
上記のイラストをAIだと主張している人の中でも、どこを基準にAIと判断したかは相当にバラバラだし。こんなバラバラなものに対応するのは難しい。
この場合の無罪証明って本当に無理ゲーで。どれくらい無理かっちゅうと、
イラストのレイヤー構造を公開する（AIは一枚絵を出力するから普通レイヤーはない）。→一枚絵からレイヤーを生成するツール（LayerDiffusionなど）があると言われる。
制作過程の動画（タイムラプス）を公開する。→同様に、一枚絵からタイムラプスを生成するツール（Paints-Undoなど）があると言われる。
AI-generated content detectionなどのAI判定ツールで非AI判定が出ると主張する。→AIイラストを下絵にしてトレスすれば判定をごまかせると言われる。
これに細かいデッサンの狂いなどの粗探しが加わるわ。
もっとも、よく指摘される指の本数や角度、人体のバランスの崩れとかは「人間でもよくやるミス」――つまり単に画力の問題としても起きることも多くて、それほどあてにはならない。
実際、イラスト生成AI登場以前の時代（つまりAI使用が絶対にあり得ない時代）に、マンガで指の本数を間違えた作画を見たことがある人も多いでしょう。
もちろん、公平に述べておけば、イラストによっては「人間がやるとはおよそ考えられないAI特有の作画ミス」もあるっちゃあるわ。
例えば、全体的に背景の小物まで細かく描き込んでいて、色まで丁寧に塗ってるのに、階段の手すりの一部だけが意味もなくグチャグチャに壊れてるとか。こういうのは人間がやるには不自然よね。
逆にいえば、これほど明らかでなければ判別は難しいと言えるでしょう。
特に、本件でもあった「AIトレス疑惑」は潔白を示す作業の厄介さにおいて最上位よ。はっきり不可能といってもいいくらい。
AIトレスというのは、AIイラストを下絵にして、その線をなぞって作画することを指すわ。当然、色も自分で塗る。こうすると、まずツールでAIかどうかの判定に利用している情報がほとんど失われるわ。結果、手描きだという判定結果が出力される。機械判定は無理で当然だと却下できる。
次に、人が判定するにしても、「この部分はちゃんと人の手描きっぽい」と言ったところで、最悪「その部分を手描きしただけ」と返せばほぼ無敵よ。
ふつうトレス疑惑といえば、トレスだと主張する側が「参照元のイラスト」を提示するものよね。少なくともイラスト生成AIが登場する以前はそうだったわ。「これをトレスしたはずだ！」ってね――まあこれも正直いって難癖が多かったのも事実だけど――でも、ともかく判断材料を示す最低限の義務は批判側にあった。
でも、AIイラストに関しては第三者が探せる場所に存在しなくて当たり前だから省略できてしまう。
トレスだと示す側で一番労力がかかる部分が完全消滅してるのよ。
明らかにAIらしいミスに関しては、なぞらなきゃいいだけよ。いちいちグチャググチャの手すりまで再現しない。それはそう。
本件でもこの指摘が一番多く見受けられたわ。
ただ、これは裏を返せば、その人たちの目線では「AIトレス疑惑くらいしか残らなかった」と自白したに等しい面もあるけど。もっと明白なポイントがあればその指摘だけで済むはずし、相異なる指摘がやたらと多いのは、それだけ疑わしいのではなく、むしろAIでない方を支持していると言える可能性もある。
まあ疑う側は色々言った上で、何をどう反論されても、「100％絶対的な証明とは言えない」と宣言すれば終わりなんだけどね。バカみたいな話だけど、観測した限り、本当に「絶対とは言えない」系の言い返しが多いのよ……。
そりゃAI疑惑は「魔女狩り」とか「異端審問」って言われるわ……！！
結果、海外では「証明不能のAI疑惑」で失職した人も出ているわ。
また、日本でもAI疑惑をかけられたものの、結論としては誤認定だったという事例があるわね。有名なのはプリキュアAI事件と、「スレイヤーズ」のあらいずみ氏のAI疑惑事件ね。
また更に最近の事例で、「赤いきつねうどん」のアニメCMで生成AIを使用しているという指摘があったけれど、これも制作元が不使用を明言したわ。
※もっとも、いずれの事例にしても、単に生成AIの使用することが現行法に違反する訳でもなく、非難するかは個人の正義観の問題である。誤認定を起こすという点を実例から指摘するために提示した。
本来、AI反対派というのは手描きのイラストレーターさんを守りたいはずじゃないのかしら。あやふやな判定で不名誉をなすりつけても良いというのなら、あんたらが何をしたいのか真剣に疑うわ。
推定有罪の異端審問でリンチに走るのは、AI反対派の目的とすら合わないはずよ。手描きの人のリスクを爆増させてどうしたいの？
今回のAI判定が正解したかしてないかは本質的な問題じゃないわ。構造的に冤罪を引き起こすものであり、またその冤罪の結果がキャンセルにもつながる深刻さがある点が重要よ。
念のためにいえば、イラスト生成AIに様々な問題を感じる人は多く、その指摘には妥当性を感じる面もある。法規制を検討してほしいという声には理解できるものも含まれているし、法整備が追いついていないだけで悪いことなんだと主張するのも、個人的な賛否はともかく分かる。
けれど、法整備の前に自分の正義観だけで私刑に走るのは、はっきり言ってテロリストの行動様式よ。法治の観点から許容できないわ。
冷静なAI反対派は、個々のイラストにむやみなAI疑惑を押し付けて私刑を行うのではなく、真面目に議員に呼びかけたり、パブリックコメント等を書いて合法的な政治活動をしているのも私は知ってる。
それだけに、異端審問官でしかなくなっていて、手描きのイラストレーターさんに巨大なキャンセルリスクを課している人々の存在は極めて残念よ。
反論はどうするべきか？
炎上させられたら難癖であってもどうしようもないってのが現実だけど、形式的には反論する方針くらいは立ててみましょう。
まあ、自分でもあんまり真面目に考えても仕方ないと思うところはあるけどね……。しょせん難癖が多い状態だし。
あえて挑むなら、まずは何より立証責任の所在を整理しましょう。今回の件では、作者さんが誠実なのか真面目に「AIではない証明」に挑戦したけれど、これは良くなかったと思うわ。
というのも、AIではない証明の話をしはじめると、相手が一方的にこちらの証拠を検討して「判断」を下す、裁判官のような立場を採るのを許してしまうからよ。
でも、冷静に考えてみてちょうだい。そもそも立証責任は相手にあるのよ。
「AIではないという証明」の困難さと、「AIであるという証明」の困難さは表裏一体よ。後者の立証責任を無視して話を進めると、「AIではないと主張する側」だけが現実的に用意できない証拠まで求められて、最初は多少何とかなっても、いずれは確実に破綻するわ。
つまり、相手にこそ「AIであるという証明」を求めるべきよ。
特に相手が「100％絶対とは言えない」論法の使い手なら、当然、こちらも「100％絶対と言える証拠」まで求めるわ。立証責任は同じレベルに設定しちゃって構わないでしょう？
自称AIイラスト鑑定士たちの能力の真偽
「AIイラストかどうかは、見れば分かる」と主張する人については、その能力が客観的に検証されていないと指摘するのも一つの手でしょう。
AI検出ツールが誤判定があっても一応優れているのは、自分で検証し、再現性等も確認できる点よ。実際に自分で使ってチェックしてみることができる。
一方で、「見れば分かる」人の能力は、特段何の検証もされていないわ。
例えば、20枚ずつ「確実にAIイラストである作品」と「確実に手描きの作品」を用意したとき、本当に偶然ではない水準で仕分けができるのか？ こんなことすら定かじゃない。
ひよこ鑑定士の免許持ちの人は、ひよこのオス・メスを判別する能力が一定保証されているけど、自称AIイラスト鑑定士の能力はどうかしら？ そんな保証ないわね。
しかも、誤爆した実績は、前述のプリキュア事件やあらいずみ氏事件で明確に存在するのよ。炎上して多くの人が「AIだAIだ！」と騒いでいても、「じゃあAIなのか」と判断するには到底足りない。それが現実よ。
――まあ、こういう理屈だけで通じるなら苦労はしないというのもその通りで、同じ問題は続くんでしょうけど。
大神ミオ氏は取り下げた
発端となった大神ミオ氏は、次のポストをしてAIイラストと断定したことを陳謝したわ。
先日のお知らせ＆お願いについて
— 大神ミオ🌲ホロライブゲーマーズ🐺 (@ookamimio) February 19, 2025
以前のマイクラ配信で使用させていただいたイラストについて、AI生成のものだと断定する形で投稿し差し替え対応を行いました。
100％AIイラストだと確定する情報はない状態で早計に対応を進めてしまいました。…
ただ、この通り「100％AIイラストだと確定する情報はない」と述べてしまっていて、これは逆に背負いすぎ。
「AIであるという100％の証明」も「AIではないという100％の証明」も、もともと無理だからね？
反論例で示したように、100％絶対を求めてくるアホに対するカウンターとしては使うけど、自分の基準として100％を持ち出したら、以後、「1％でもAIではないかもしれないイラスト」のサムネイルへの使用は、中断したくても中断できなくなるわよ。
それに、謝罪のやり方として見ても若干……いえ、かなり失礼よね。
「100％AIイラストだと確定する情報はない」という言い方だと、「90％くらいなら疑える情報があった」あるいは「100％ではないだけで非常に疑わしかった」というニュアンスが残っていて、それって本当かよと思うし。追加でまた弁明させられる羽目になるわよ。運営、添削ちゃんとした？
加えて、ご自身のAI判定がきっかけで（望んだ訳ではないにせよ）実害の出た作者さんに対する言及がないのも頂けない。
ホロライブファンの私としては、大神ミオ氏に変な負担がかかるのは望んでないんだけど、これはいつか誰かが引く羽目になるババというか、必ず起きると予見された自体ではあったわね。まあ、それがミオしゃ……ゲフンゲフン、大神ミオ氏だったか……という思いはあるのだわ。
不当に傷つけられるイラストレーターさんの名誉が発生しにくくなることを切に祈るわ。
今回は以上！
よろしければ、記事のスキ＆シェアをお願いね！
以下はご支援いただいた方向けに短いお礼メッセージが出るだけのエリアよ。
ここから先は
¥ 350
この記事が気に入ったらチップで応援してみませんか？