「AI法」に関する意見表明に感じる「微妙な感じ」を言語化する
「生成AI」の話題がとても盛り上がっています。
一言でいえば、何かを作り出す「人工知能（コンピューター）」です。作りだすものは、文章であったり、音楽であったり、イラストであったりします。
AIの利用については、強烈な拒否反応を覚える人、積極的に利用したほうが人類の利益（進歩や発展）につながると考える人など、立場や考えは様々です。
現状、イラストの人たちが、一番過激に拒否反応や嫌悪感を露わにしている印象ですが、これは世界的な傾向なんですかね？
その中で、このような活動も行われています。
この活動自体は、個々の意見表明なので、どうとも思わないのです。
ただ、書かれている内容を見ると「けっこう事実誤認がないかな？」「これってわかってるのかな？」という「ビミョー」な印象を受けます。
それは、わたしが基本的にAI利用に対してOKな立場であることとは、ちょっと違う問題に思えます。そこで今回は「ここに書かれている主張のどこがビミョーなのか」を取り上げます。はははん、9900字超え！
主張されている点を拾い上げてみる
きれいに拾えているかどうか不安な面もありますが、この方たち(彼らや彼女たち)の主張は「現状の問題点」と「今後に向けた希望」にわかれています。それぞれ書き出してみます。
現状の問題点
AIの機械学習でわたしたちの作品が無断で読み込まれている。
AIイラストにイラストレーターの仕事を奪われる。
学習元の作者に成りすまして収入を得る悪質なAI絵師がいる。
AIの悪用によるポルノ画像の生成。
今後に向けた希望
AI学習されない権利を保証してほしい（拒否権）。
学習元のイラストの作者に対価を払って欲しい。
無許可データを含む学習データを使用した生成物は有償販売できないような規制。
AI生成物の著作権の侵害事案は非親告罪とすること。
AI学習の学習元とデータセットの開示の義務化。
生成物とAI絵師などのユーザーを紐づけする仕組みの導入。
彼ら・彼女たちの指摘する「問題点」の検討
彼ら・彼女たちは「現在の法制度では、わたしたちが指摘する問題点について手当てができていない」から「AI新法を作ってほしい」という趣旨のことを述べています。
まず検討したいのは「その問題点の設定は適切ですか？」「現行法では手当てができてないんですか？」という点です。ちょっと順を追って、考えてみます。
AIの機械学習でわたしたちの作品が無断で読み込まれている
AIによる機械学習は、少なくとも日本では合法です。また、2023年6月の文部科学大臣の国会答弁や、文化庁が出している資料などから考えるのに、「仮に学習データの中に、違法アップロードサイトの画像が含まれていても、機械学習自体に違法性はない」という感じかなと。
ここを規制してほしいということでしょうが、この点に関しては「機械学習」と「生成（物）」の法規制上の区別がついていないと思われる節があるので、ひとまずは「日本では合法です」と述べるだけにします。
この点に関連して「拒否しても言うことを聞いてもらえない」と言うことも書かれています。
これに関しては「AIの機械学習という行為は合法である。しかし、あなたが『やめてほしい』と思ったり、他の人に『やめてください』とお願いするのは自由である。とはいえ、やめてもらえないからと言って、相手を非難するのはおかしい」ということになります。
例えで考えましょう。
家の近くに公園があります。そこで子どもが遊んでいます。遊ぶことも声を出すことも禁止されていません。そこに近所の高齢者がやってきて「わたし、家で静かに本を読むのが好きなの。お願いだから、公園で遊ばないでくれる？」と子どもたちに言います。
お願いを「聞かなければならない」でしょうか？
聞いてあげてもいいし、聞かなくてもいいのです。そもそも、遊ぶことや声を出すことが禁止されていない公園で、ルール違反しないで遊んでいるのですから。「お願いを聞いてくれないクソガキ！」と思う人がいたら、その人の方が間違っているのです。
ルールで禁止されていないことは、何をしても自由。
これ、法治国家の大原則です。
ですから、あなたに対して、「罵倒」「脅し」する人がいれば、普通に取り締まってもらったらいいと思いますよ？罵倒や脅しがSNSの利用規約違反のこともあるでしょうし、ひどい場合は警察沙汰になりうるでしょう。
罵倒や脅しに関しては、現行のルールや法律である程度の手当てができているので、原則としてそれで対応しましょう。 とはいえ、罵倒や脅しは「生成AIの問題」ではないですけれども。
AIイラストにイラストレーターの仕事を奪われる
言葉は悪いのですが、これは「知らんがな」です。
この主張をする人は、パソコンが普及するときに「事務の仕事をする人の首が切られるから反対」と言ったんでしょうか？
音楽がサブスクに移行するときに、多くのアーティストが「利益還元が少なくて困る」と言いましたが、あなたは音楽のサブスクやダウンロード販売はいっさい利用せず、著作権収入が得られない中古のCDを買わず、新品のCDしか買っていませんね？
自分に都合がいい時はスルーして、自分がやばい時だけ大さわぎするのは、どう考えても「ただの保身」と言えるのではないでしょうか？
そのことは傍に置いたとしても、ある種の技術が進歩した結果、ある種の職業が廃れたり、仕事を失う人が出る。これはある程度仕方ない面もあります。
ただ、それが「フェアではない行為」の結果であってはならない。だから、結果的にAIイラストが一定のイラストレーターを駆逐するのは仕方ない。でも、パクリやなりすましなどの不正な行為は、断固として根絶しなければならない。それがバランスってやつじゃないでしょうか？
学習元の作者に成りすまして収入を得る悪質なAI絵師がいる
これは現行法においても違法行為です。見つけ次第、法的措置をとることをお勧めします。
著作権者だけではパトロールできないというのであれば、ご自身のSNSアカウントなどで「通報の協力」を呼びかけ、通報フォームを設けてはいかがでしょうか？
また、イラスト等で収入を得ている「プロ」の作家さんが「協同組合」的なものを作り、弁護士と契約を結んで、安価に違反の摘発と損害賠償請求できる仕組みを作ってもいいですね。
AIによるポルノ生成の問題
特に問題のあるケースとして挙げられているのは次の点です。
実在する芸能人などのポルノ画像（アイコラ問題のAI版）。
児童ポルノの生成
これらについても現行法で規制されています。アイコラの違法性については、肖像権の侵害や、侮辱罪などの適用が考えられると思います。AIで生成した特定の芸能人のポルノ画像を公開したり頒布(販売)したりすることも、同じように違法行為と考えられます。
児童ポルノに関しては、現状でも児童ポルノ規制法で対応できる可能性があります。
児童ポルノの規制では「架空の漫画やアニメ（イラスト）」に関しては適用外ですが、明らかにモデルが実在する場合は取り締まり対象になり得るかと。この点に関しては、AI生成物であっても、実在する人物をモデルにしていたらアウトというようなガイドラインを出すなど、規制の強化や厳罰化は必要かもしれません。
ただ「現行法でも、かなりの程度は規制されている」という点は理解しておく必要があります。
彼ら・彼女たちの「規制案」の問題点
ここまでの部分で、彼ら・彼女たちの指摘する「問題点」については、(１)問題の設定自体に問題がある(２)問題の設定は間違っていないが、現行法でも対応できるなど、「新法」の必要性には疑問符がつく内容も含まれると言う点を指摘しました。
加えて、指摘されている問題は、「生成AI」問題ではなく、「生成AIの悪用」の問題なので、AIそのものへの厳しい規制ではなく、悪用という「特定の行為」に対して法規制をすれば良いと思われます。しかも、すでにそれらの行為の大半は、現行法でもアウトです。
結局、生成AIの問題と、一部モラルの欠けた人間の違法行為の問題が整理されていないので、主張の焦点がズレてるんじゃないかな、と。
そのような「誤った前提」に基づく「新法」もしくは「規制案」なので、個人的には「かなり歪んだ内容になっている感じだなあ」という印象です。
ということを踏まえて、彼らや彼女たちの「規制案」を検討してみましょう。
AI学習されない権利を保証してほしい（拒否権）
これに関しては、いまでも「閲覧制限を設けたサイト（もしくはサイト内の特定の場所）」でイラストを公開することで実現可能です。
「この中のイラストはAIによる機械学習を禁じる」とするわけです。
SNSなどに公開しつつ、AIの機械学習をしないでほしいという主張は、おそらく難しいと思います。そもそもプラットフォームの所有者はSNSの運営会社なので、その会社が「うちのSNS内の画像の機械学習は禁止」とするかどうか決定権を持っているわけです。
自分に権限のない場所で公開しておきながら、機械学習から逃れられないと文句を言うのは筋違いですよ、とも言えるかと。
ここでも「機械学習」と「生成（物）」の法規制についての区別や理解の不足も関係している節があるので、とりあえずは「どうしてもいやなら拒否はできる」「その場合、閲覧条件を付した会員用ページなどを用意すればいい」ということで。
そんなに嫌なら、すぐに対応すればいいのに、とも思います。
学習元のイラストの作者に対価を支払ってほしい（利益の分配）
これに関しては、「それぞれのイラストに、作者の情報（報酬の支払い可能な口座情報などと紐づけされた固有のIDなど）を埋め込む」のであれば、可能だと思います。
作者のなりすましを防ぐためには、おそらく日本では「マイナンバー」もしくはそれに相当する本人確認を経て、作者IDか何かを発行してもらい、そのIDを必ずイラストに埋め込むこと、というような感じでしょうか。
わたし個人としては、ID流出など、別の深刻な問題の懸念もあるので、すべてのデジタル画像に「利益分配のためのID埋め込み」は微妙だと思いますが、そういうルールが成立したら従います。
ただし、あるイラストに対して「強い影響を与えた可能性があるイラスト」と「ほぼ影響を与えていない思われる画像」の間で、何も差を設けなくていいんですかね？
たとえば、ゴミのような画像を100万枚公開した人は、素晴らしいイラストを10枚公開している人よりも、10万倍の報酬を得ることになりますが、それでいいんですかね？そのことへの言及がまったくないのが、とても不思議です。
わたしは個人的には「機械学習に用いられたことだけを根拠にした利益分配は、事実上不可能」であるし、かえって問題が大きいと考えています。
無許可データを含む学習データを使用した生成物は有償販売できないような規制
質問です。次の3つのケースで、あなたが一番「問題がある」と感じるのはどのケースですか？
無許可データを含む学習データを用いて描画したが、かなりオリジナリティが高いと認められるイラスト
無許可データを含まない学習データを用いたが、いくらかAという作家の作品に似たイラスト
上の2つのイラストと比べると「かなりAという作家の作品に似ている」、人間が描いたイラスト
2と3はお金をもらってもいいが、1は受け取ってはいけない。そういう法律を作ろうというのですね？
大丈夫ですか？
どう考えても、1がもっとも「著作権侵害」からは遠いですね。でも、彼らや彼女たちの規制案では、1だけが有償販売禁止です。
彼らや彼女たちの規制案からすると、現在の著作権法が何をもって侵害の事実を認定するのか、根本的に理解できていないように思えます。現行法上、著作権の侵害の主張が認められるには「ある作品に基づいていること（依拠性）」と「現に似ていること（類似性）」で判断します。
しかし、彼らや彼女たちは「似ているかどうか(類似性)」ではなく、データセット内に「無許可画像があるかどうか」で、有償販売の権利を奪うかどうか判断すると言っているわけです。
著作権の侵害の判断基準が「類似性」にあるなら、規制は「類似性」に照準を合わせるべきだとは思いませんか？思えないのだとしたら、これは「著作権侵害」の問題ではなく、「AI」に対する嫌悪感の問題ではないかと思われます。
AI生成物の著作権の侵害事案は非親告罪とすること
要は、誰かが「このAIイラストは、誰かのイラストに似ているぞ！」と言えば、そう言われた人は警察の捜査対象となりうる社会を目指そうということですね？
著作権の侵害という同じ罪状に関して、AIを使っている人を、人間のパクリ絵師よりも重罰化するとなると、法の下の平等という観点でどうなのかなあという気もしたり。要は、一種の差別もしくは「AIヘイト」と言えなくもないかなあと。
たぶん、この「AIヘイト」的な言動が、「創作者保護」と言いさえすれば許されると思っている感じが気持ち悪いんでしょうね。
そもそも、著作権法の違反行為が親告罪なのは、「このケースはOKにしてあげるよ」ということを、著作権者自体が自由に決められるようにするためです。
例えば、絵師さんが著作権侵害行為を見つけたとします。ある人はいきなり強硬手段に出るかもしれません。しかし別の絵師さんは、事情や違反の程度を見て、「今回はOKでいいよ」「こういう解決案なら追及しないよ」と言います。また、別の絵師さんは「めんどくさいからなにもしない」と言います。著作者には選択の余地が認められています。
今回の「規制案」は、「その自由は認めない」「我々の考え以外の選択肢は残すな」と言っているわけです。それはそれで横暴なことではないでしょうか？
言い換えると、自分とと同じ意見ではない人の内心の自由（思想、良心の自由）は、無視してもいいと言っていることにもなるんですよ？
AI学習の学習元とデータセットの開示の義務化
この点に関しては、行った結果としてのメリットはあるのかな、というのが正直な感想です。目的や対象を明確にすれば、効果的だとも思いますが。
この点は、すでに何度か述べた「機械学習」と「生成（物）」の法律上の区別の問題が関係すると思います。
2023年6月に文部科学大臣が「違法アップロードの画像を機械学習に利用しても、違法性は問えないと思われる」という趣旨の答弁をしたことは、すでに書いた通りです。
結局のところ、何をどう学習したとしても、「結果として出力された生成物の依拠性と類似性で、著作権の侵害は判断される」という点を重視した見解だと思われます。
著作権法による著作物保護のポイントのひとつは、「オリジナルの創作者の財産的な価値（将来お金儲けできる可能性を含む）の保護」にあります。
複製もしくはパクリを作って「公開や頒布(販売)すること」は、オリジナルの作者の権利（主に財産的な権利）を侵害するから認められない。そういうことが著作権保護では大きなウエイトを占めています。
ですから当然のことして、生成されたイラストが、現にあなたの作品のパクリと見なせないのであれば、それを販売されても文句は言えないですよね。それはただの「競合する相手」というだけです。どんな方法で生成しても関係ありません。人力車とタクシーがお客を取り合ったときに、人力車の人が「自動車使うなんてズルい」なんて言わないでしょ？
あなたが競争に負けて食うに困っても、それは著作権保護とは関係ない話です。すごく乱暴に書いてますが。
極端な話として、「あなたの作品ばかり学習したけれど、あなたの作品との類似性がないイラストを吐き出すAI」と、「あなたの作品からはまったく学習していないが、あなたのイラストとめっちゃ似ているイラストを吐き出すAI」では、どっちが問題なんですか？後者でしょ？そういうことです。
ただ、特定の作家さんの作品だけ読ませたら、そのイラストに似るのは自明です。なので、そういう「極端な偏りのあるデータセット＝パクり目的ということが一定程度推認されるもの」に関して、何かの規制や事後に検証できる仕組みがあったほうが良いとは思っています。
生成物とAI絵師などのユーザーを紐づけする仕組みの導入（責任追及や違法行為の発見）
これって（２）と似た論点なんですよね。何かのID登録制にして、AIイラストには全部それを紐づけしてくれ。そうすれば違反が発生したときの責任追及がやりやすくなるよね。そういうことですかね？
じゃあ、トレパクを人間がやる場合は、イラストにIDが入っていないけどいいんですかね？
また、AIでイラストを生成したというだけの理由で、個人情報（最終的には個人と紐付けされている固有のIDなど）を絵に埋め込んで、個人情報をさらし続けろというのは、無茶苦茶じゃないですかね？
「AIでイラストを生成して公開するような人間は、ストーカーや悪意ある誰かに特定される危険があっても個人情報をさらし続けろ」と言う意見に、妥当性はあるんでしょうか？
わたしが気に入らないことをする人の人権には配慮が必要ない。
もしかして、そう思っていませんか？それこそAIヘイトじゃないですかね？そういうことを言っていると、みなさんが主張している「妥当なこと」まで、賛同が得られなくなるんじゃないでしょうか？
小括：微妙な問題の設定による微妙な規制案は微妙にしかならない
今回の署名運動に関連して述べられている各論点に関しては、次のような点で熟慮と再考が必要だと思います。
AIによるイラスト生成の基礎知識が欠けているのではないか？
現行法についての理解が不足しているのではないか？
人権感覚がバランスを欠いてはいないか？
さらに、種々の論点の整理や区別がついておらず、混ぜちゃダメなことをぐちゃぐちゃにした結果、よくわからない主張になったように思えます。
例えば次のような点です。
生成AIの構造的問題と人間の問題行動の取り締まりとの区別。
機械学習と生成(物)の対する法規制の違い。
著作権侵害とはどういうことを指すのか。
現行法で対応できることと、新たなルールが必要なこと。
他者の人権と自分たちの主張のバランス。
とはいえ、わたし自身も「規制強化」や「新たな仕組みやルール」自体は必要じゃないかと思ったりしています。
現段階で、割とスッキリ説明できる部分だけご紹介します。
今後必要なルールや仕組みのアイデア
そんなに難しいことは書いてないです。ま、シロウトの与太話程度でご覧ください。
挙証責任の分担（一部転換）
著作権侵害の認定をする場合、「その作品は、何か別の作品に基づいているか（依拠性）」と「実際似ているのか（類似性）」で判断すると、前のほうで書いたと思います。
依拠性に関する主張は、たぶんAIイラストでは認容される可能性が高いです。要は「お前のデータセットには、まあ間違いなく、ネットで公開している俺もしくはわたしの作品のエキスが入ってるよな？」ということです。
もしも、故意に特定作家のイラストを中心に学習させていたとか、プロンプトで「作家Aさんの画風で」「特定のアニメのタイトル名のように」みたいに指示したとか、作家さんのイラストをもとにi2iで描かせたとかして、かなりの程度「似ている」イラストを生成したら、おそらく現行法でもアウトになろうかと思います。
ですが、これらの「アウトなこと」をしたということを、オリジナルの作家さんが証明しなければならない。それってすごく難しい。そこで、「パクリ疑惑のあるあなたが、どんなデータセットで、どんなプロンプトで、どんなイラストをもとに、どういう過程を経てイラストを生成したのか、証拠を出しなさい」ということを命じられるようにしたらどうかなと。
訴えた側（作家さん）は「これってさすがに似てるよね」というところまでを、ある程度証明すればよい。訴えられた側は「こういうものをもとに、こういう創作過程で作りました」という製作過程を開示する。それらを考慮して判定するという流れです。
そうなると「AIイラスト生成の記録」の保管をしない人は、訴訟で負ける可能性が高くなりますよね。ま、そのくらいの義務は課してもいいかなあと言うのが、わたしの個人的な意見です。現にやってるし。
生成過程ログの保存義務
と言うことは、生成過程のログの保存義務があってもいいのかなと。
生成AI自体とか、改竄が困難なログを残すような法規制はあっていいんじゃないですかね？もしくは、学習データの「偏り」みたいなのって、何かデータとして記録できないかとか。
プロンプトこそ画像に紐付けできませんかね？
そういう、一定程度信頼できるログなどの証拠がない場合は、前述の裁判なんかではめっちゃ不利になるっていうのでどうですかね？
そうなると、多分準拠法の問題も出てくると思います。要は「海外のサーバーで生成したのだから、日本の規制（ログの作成義務など）は及ばない」というヤツ。最近別件で「日本国内でもっぱら用いられるようなものは、日本の法律を準拠法とする」みたいなケースがあったかと。そのあたりの法整備も必要でしょうね。
肖像権侵害や児童ポルノなどの規制強化など
実在する人物をモデルとしたポルノの公開や頒布(販売など)に関しては、厳罰化が必要でしょうね。AIで生成した画像に関しても、実在する児童の画像等に基づいて、少なくともかなり似た画像を生成したのであれば、処罰対象とすべきでしょうし、厳罰化も必要だと思います。
不法に得た収益に関しては全額没収して、被害者への補償に優先的に宛て、さらにペナルティを与えるべきじゃないかなと。懲罰的賠償みたいな感じですかね。個人の徴収能力には限界があるので、国が立て替えたうえで、当人から一生かけて追跡して取り立てたらどうかなと思ったりもします。
むしろ自分の絵柄を売って儲けませんか？
音楽界隈は、声優さんとかが「人工合成音声」の声を提供して対価を得たり、自分のファンを増やしたりしてるんですよね。絵師さんたちにも、AIで自分の画風を売ったりして、「AIでひともうけ」したい人もいるんじゃないかと。
今回の規制案は、そういう人の意思や可能性をつぶす面もあるので、そう簡単に「禁止！禁止！」と言っていいもんじゃないという気がしています。
結び：感情の爆発は創作に使い、法の議論は冷静なアタマで
私が以前、各種の法律を作るサイドの人（官僚さん）と話したときに、「法律（規制）は抗がん剤。使い方を間違えると（社会全体が）死んじゃうよ」と言っていたのが印象的です。
失礼な言いかたであることを承知で言えば、今回の署名運動に見られる論調は「もっとがん患者に抗がん剤をガンガンぶっこめ！」と、医師免許を持たない素人が、病院の外から街宣車で吼えている状況に似ているかなと。
少なくとも、AIイラスト生成における「機械学習」と「生成物」の問題、それぞれの法規制、現行法での規制内容などを、もう少し落ち着いて整理してから、「ここは規制が足りなくない？」「でも、この規制って別の問題を生み出さない？」と、穏やかに話し合う方が建設的じゃないでしょうか。
このAI問題は、とかく「感情論」が先行して、その「感情」を、あらゆる人が、すべて、肯定すべきという論調が少なからず見受けられます。
これでは、うまくいくものもうまくいきません。
少し前に話題になった「漫画で説明するAIイラストの問題点」みたいなもので、「AIイラストを使う人は、特定の絵師のイラストだけを読み込ませ、その絵師に似た絵を公開するんだよ」みたいな点を強調していました。
これは、そもそも今の法律でもアウトになりうることなので、これが「AIイラストを生成する人たち」の代表的な姿と思わせるような描き方には、かなり悪意があると言わざるを得ません。
飲酒運転の事故の映像などを見せて、「自動車に乗る人はこういう人たちです」っていうのに近いですね。自分たちの主張を有利にするために、事実を歪めるのは感心できません
生理的に気持ち悪いなら、それはそれ。
法律上問題ある行為については、AIそのものに規制を課すべきものなのか、人間の行為に規制を課すべきなのか考える。
ちゃんと、自分の感情の問題と、多くの人が共存するための基本ルールである「法律」の問題とは、区別して考える。
そういう「あたりまえ」のことの地道な積み重ねで、はじめて有意義で建設的な議論ができるんじゃないでしょうか？
この記事が気に入ったらサポートをしてみませんか？