
生成AIユーザーと技術〜AI絵師をめぐって〜
P.F.ドラッカーは、知識が生産手段の中心となる知識社会の到来を予言し、さらに知識について次のように語った。
知識は本やデータバンクやソフトウェアの中にはない。そこにあるのは情報にすぎない。知識は人の中にある。人が教え学ぶものである。人が正しく、あるいは間違って使うものである。
ダイヤモンド社,2007年 [原著1993年]
人間が知識を間違って使うことはある。例えば、人間が技術を間違って使うことがある。そう改めて感じさせる「いいね」の数字が、増加している。
いいねも非公開になったことだし、
— もたこ (@innocence_SAC) October 28, 2024
『表では言えないけど、正直AI絵師ってはやく絶滅してほしいよね…』って内心思ってる人、こっそりこのツイートにいいねしてみて……
2024年10月も終わる頃「AI絵師」、「生成AIユーザー」などの用語がX (旧Twitter)のトレンドに入っていた。
トレンドに"AI絵師"とあったのでみてみたら、侵略的外来種以上に存在すべきでない理由が述べられ、さらには嫌われて、憎まれてもいた。
— ケイバリュエーション☻ (鈴木健治) (@info_kvaluation) October 28, 2024
それなりに興味深い技術ではあるのに、なぜこうなってしまったのか。
このポストは、発信者である鈴木健治は生成AI出力物の社会問題と無関係で、たまたまトレンドでみかけ、つぶらな瞳で「なぜだろう?」などと疑問を述べてみて、古くから私を知る生成AIユーザーから「おまえがネガキャンしまくったからだろ、とぼけるな」とか言われたりして、笑いを提供できるかな、という意図だった。
しかしそういうリプはこなくて、多様に分析的なリプがたくさん届いた。最初はRPなどしていたのだが多くなり、noteで紹介する決心をかためたが、紹介するのも面倒だなというリプも届いた。
以下、偏見に基づいて紹介したいリプだけ紹介する。分類や統計処理はしない。削除希望については、あきらめていただくのが一番嬉しく、どうしてもの場合はXの方にどのポストを削除すれば良いか判りやすく教えてください。
侵略的外来種はおおよそ人間への影響は間接的で小さい。一方で、生成AIは創作者の生活や人を人たらしめる自由で育成的な創作環境を直接破壊するのでより強く拒否されて当然と言える https://t.co/7uGHxZLZBn
— マレー糸蜥蜴 (@suppaimosuku) October 28, 2024
ザリガニやウシガエルと同じです
— ベリエス🐟️💙🐶🕵️♂️🐱🎤🌊🐣🎀💭(エロラクP⚜️) (@eroluck) October 28, 2024
業者で完結すればよかったものを飼いきれずに隔絶空間から外に出して敵対的外来種になりました https://t.co/jWm3xEhl11
人間の発展とは遅れた技術や機械を使って進んだ技術や機械を作り出すことです
— XY LI (@LI_X_Y_1996) October 28, 2024
好循環です
しかし
生成AIはこの点が違います、自分の創造で自分を向上させることはできず、人間の知識やアイデアの劣化したコピーを生産するだけです。
悪循環です
技術の構造が2割
— あるはんぶらぁ! (@Rightist_LLTE) October 29, 2024
開発者の考え方や人間性が3割
使用者の倫理観が5割
嫌われる理由の割合 https://t.co/tCJj1quqh0
大きく分ければ
— ✿眞子❀ (@makoe563) October 29, 2024
・対価を払わないから
・無制限だと危険なのに規制を進めないから
・態度、言動が邪悪だから https://t.co/rgkGQXRY7l
技術そのものは嫌われていません。
— 佐々原海 (@sasahara1981) October 29, 2024
1)AI学習に使用された素材が無断使用だった
このため、現在AI絵を商売で使うことは忌避されるべきという考えが強いです。
2)AI絵師を名乗る人のマナーが悪過ぎた。一例ではありますが、Toラブるの絵柄を学習して画集を販売してる人がいます。
興味深い技術であろうと、無許可の盗品を基礎の道具にした技術は疎まれて当然です。
— ☕️( ´_ゝ`) 🍉🍹🎐 (@nia_nemu) October 28, 2024
銃もダイナマイトも、技術そのものよりその技術を使う人間に問題があり、問題のある使い方が主流になってれば嫌われるし法規制にも繋がる、と言うシンプルな話しだと思う。 https://t.co/0S8xX2kDVA
— ガンボンちゃん_bot (@Ganbon_BOT) October 29, 2024
技術に手錠はかけられないから、それに関わった悪質な開発者やユーザー達にこそ罪を背負ってもらわんと。毎回炎上してトレンド入ってます。
— ノウキン (@Nohkinn) October 29, 2024
技術者倫理が崩壊してしまった所為でしょうねぇ……。
— 犭藍@反ミーム(Explained)🇺🇦 (@azur_noir) October 28, 2024
従来の人工知能研究では権利者の許諾を得たデータで機械学習を行うのが常だったのに、生成型検索エンジン(自称:生成AI)では世界中から何十億もの著作物を盗んで機会学習を行い、剰え、盗んだ著作物の模造品を製造する目的で製品化してしまった…… https://t.co/RkkexKNaTy
リードした開発企業に致命的にモラルがなく、モラルのない人々が悉くそれに乗っかってしまったことで悪意がばら撒かれて、今それが返ってきてるフェーズですね。
— なゆた (@numakame) October 29, 2024
技術自体は悪用できるとはいえそれを防ぐルールがあればなんとかなったかもしれない。
— なんやNenkoいつ (@NotNenko) October 29, 2024
実際にはそういったルールと運用を作って取り締まれなかったばかりか、あべこべに一見免罪符に見えるルールを追加してしまい、ならず者が群がるのをむしろ助長した。
そもそも「悪用しか想定されてない」技術で尚且つ目新しくもないのに
— りょー (@rixyou404) October 28, 2024
カルト化して害悪撮り鉄以上に頭の悪い子の掃き溜めになったのが原因ですな
諸外国は早々にそのヤバさを理解して
排除に乗り出してる辺り
Winnyやマジコンより問題ある代物だったと言うだけな気がする https://t.co/w9fXaG94Gd
擁護派がよく言ってましたね
— kinoko_ (@kinoko_6) October 29, 2024
「AI技術は悪くない!使うのは悪用する奴なんだ!」
あれがまさにその集大成です
生成AI絵師を名乗る者に他人の成果物を一方的に搾取し営利を貪り他人になりすまして嫌がらせをしたりする人がいるからでしょうね https://t.co/g4hulFK3n0
— やまぶどう (@yamabudou32) October 28, 2024
LoRAにCSAM(児童ポルノ)
— 政の人 (@mtrgt0001) October 28, 2024
詐称にクリエイターへの誹謗中傷
挙げるとキリがありませんが、代表例としてはこれらでしょうな🤔 https://t.co/A6NPEWl8iz
絵師へ嫌がらせやなりすましをして被害が出たからですね。 https://t.co/j1uxz2UgpC
— 機巧 弄/📕🍺🌏🥃現実情報収集 (@karakuri_ijiru) October 29, 2024
民度が余りにも悪いからですかね?
— い (@igashi__) October 29, 2024
道徳が無いからですね
— aわtM (@awatami1) October 28, 2024
世の中にある他人の著作物を全部自分の好きに使っていい無料のデータだと思ってプログラムを組んだ事。
— いわさん (@iwa_sang) October 28, 2024
生成する元の絵がイラストサイトからパクったもので著作権引っかかりすぎてる
— 58ip83 (@58ip83) October 29, 2024
Googleで文字打ち込んで検索した画像に対して「検索したこれはオレが作ったもの」
— ハリ (@nagataknagata) October 29, 2024
って言うような馬鹿は居なかったけど
生成AIに文字打ち込んで出力された画像を
「オレが作った」って言う奴らが
腐るほどいたから
そりゃ嫌われないって思う方が難しい🤨
AIユーザーの特徴として、
— 獅子山 竜 (@JoeZerozeronine) October 29, 2024
自己中、甘え、やめられない手描き詐称、才能の共産化推奨、無駄に攻撃的、煽り体質、悪役ムーブ、盗っ人気質、おまゆう、その他、
これらが当てはまる人が多いからかと・・・
いい加減そろそろ気づかないとディストピアな未来が待ってますよね実際。😮💨 https://t.co/zDrSHqq8ih
大勢の人権を踏み躙った上に作られたものであり、実際に使われることで更に深刻な問題と犠牲者を出し続ける、犯罪にもってこいのツールとなってしまったからでは。法整備が追いつかず人間の未熟な倫理観では手に余っている状態に見えます。期待していた技術なだけに残念。人類には早すぎたようです。 https://t.co/GUuWWGJ6Lu
— 葉月{沈殿中_(:3 」∠)_ (@AskHzk) October 28, 2024
現状の整備前の段階ではやってる事は畑泥棒でしかないのに、彼らは声を上げる農家に鎌持って殴りかかるかの如く出力物を公開し、マネタイズして金稼ぎに使っている
— Jane Does (@_jane_does) October 29, 2024
盗んだもので遊んだり商売したら嫌われるでしょうねぇ https://t.co/0rVyhcsSaK
明確、厳格なルールが出来る前にどろぼうさん達が市井の絵師の作品全部僕達のだ!と絨毯爆撃したから。 https://t.co/tR7FAUH80z
— アネモネ交通𝕏 (@anemonekotsuOOX) October 29, 2024
犯罪者やそれに近い行為する人達が大量発生した上に推進側からそれを止めようとか規制しようとする人すらほぼ皆無でしたからね……
— 漫画家🔞高守勇羽【仕事用垢】 (@at147YME10DZPvP) October 28, 2024
嫌われるべくして嫌われてしまったんですね。 https://t.co/Bv3xUwGAe5
①海外より法整備が無いと言っていいほどされていない
— 猫チップス_SBMS (@ABJK_karesimoti) October 29, 2024
②AIに取り込まれている絵が無断転載などの著作権侵害になり得る物を取り込んでいる
③上記の内容を隠し、偽ったりしてAIに疎い一般人に普及させている方々が居る
④AI生成物をあたかも人間が作った創作物だと偽る人も居る
主にコレらが理由かと
初動でルールをしっかり作らなかったせいでしょうね
— 通りすがり (@mituki1209) October 28, 2024
今見たいに国民の不利益を無視しないで、きちんとしたルールを作ってれば
ボカロ並みのサブカル産業の柱になれたかもしれないのに
「AI絵師」と一括りにする人の層による意見の片寄りじゃないでしょうか?
— qhqh123 (@qhqh123) October 28, 2024
AI絵師に好意的な人はAI絵師をAI絵師とは呼んでいないのでAI絵師でトレンド検索してもAI絵師に憎悪を持つ人の意見しか出てこない説 https://t.co/vWRUiff2Bo
— VTuberリリーちゃん💊🌱 (@Lily_S_Sprout) October 29, 2024
自分らのしのぎが奪われる危機感でしょう
— Wahr_Nerd (@wahr_nerd) October 29, 2024
そう主張してる連中も他人の作品無断で侵害して名声や金銭を得てるという皮肉
全学習データはオプトイン
— ラーゼ (@signofox_) October 29, 2024
オプトインではない学習データが含まれていないか常に厳格なチェック体制
全世界での厳格な法規制・法整備
等々の常識的な運用レールを敷いた後に技術の公開がされていたら、受け入れられ発展していたかもしれませんね…
現状は全て真逆であると感じています。 https://t.co/7aPdFccdw9
お疲れ様です
— ⚡︎未依の親⚡ (@dsinglab) October 31, 2024
私見ですが
AI使って(絵)を生成出力している人達を『絵師』とは呼べないと私は考えます
少なくとも原画を自らの手で描いて、それの修整や彩色をする人が『絵師』と呼ばれる資格があると考えます
AI絵は、入力した指示項目だけが自らの意思を反映するだけで結果が意図通りには出来内でしょ
人間は知識(例えば、大規模言語モデルで学習したコンテンツと同種類のコンテンツを出力するための知識)を、正しく使うことも、間違って使うこともできたが、おそらくは、間違って使っている。
普通、人(自然人および法人)は、他人のものをその人の許し(許諾)なしには使わないのに、LLMは、無許諾で、対価も支払わずに学習した。それは、知識の間違った使い方だ。
技術を正しく使うために、技術者倫理、利用者のモラル、規制など様々な提案がある。開発者やユーザーの倫理やモラルではどうしようもない事例や証拠も示されたといえよう。
規制当局(は色々あるが)の初動は、諸外国と比べて物足りないものだった。「機械学習天国」という法制度の環境下にあってなお、日本企業による生成AIシステムは国内外でシェアをとれなかった。被害や汚染だけが残ってる。
その現状に心配する人たちは、生成AIがもたらすという生産性を信じたい人たちの幻想を砕ききれていないが、もたこさんの「いいねプロジェクト」は時代なり社会の認識がまた新しくなったことを示唆した。
今日は27万人から嫌われてるAI絵師を見れたのでコーヒーが美味い
— 中臣かまこ (@n_katamari) October 29, 2024
コーヒー、美味しいですね。まだ色々と続きますが。