見出し画像

「生成AI批判」批判(イチャモン)FAQ

Lamron🖇

初めて問題を知った人向け

Q. 絵を描いたのがAIでも人間でも良いものは良いんじゃないの？ AIを使っただけで怒るなんて過激すぎじゃ……

A. 批判されてるのは実は無断転載に近いせいです。
Googleやアイビー・リーグ/パブリック・アイビー等のアメリカの名門大学の研究者が生成AIはコピーを出力してしまうことが少なくないという論文を一年以上前に出しています。

AIアートの功罪 (第59回CV勉強会) | ドクセル

「AIが生成した綺麗な絵」が単に知名度が無い絵のコピーや合成に過ぎないかもしれず泥棒を称賛することになりかねないので批判されています。

世界中で、ハリウッド俳優すらストライキするほど一致団結して。

メリーランド大学カレッジパーク校の研究者による更に詳細な論文の解説は以下:

確信犯(誤用)向け

Q. 【産業革命と同じ】人間から生成AIへの置き換えは、かつてカメラが画家を、自動車が馬車を置き換えたのと同様のものであり、それへの抵抗はラッダイトに過ぎない

A. カメラは画家を必要とせず自動車は馬や御者を必要としないが、生成AIは「学習元(イラスト、脚本、論文、プログラムのコード、声優の声、俳優の姿そのもの等)＝人間の成果物」を必要とするのでまったく違う。
しかも「学習元」を作る人間のようには成長しないのでアタリショックが起きる可能性の方が高い。

Q. 【この流れは止められない】技術が進歩しそれが世に出た以上もう止めることはできない

A. Winnyは軍事機密が流出するぐらい普及していたが現在は使われていない。マジコンは被害額が4兆円を超えたが消えた。日本四大公害を引き起こした企業や自動車会社は超大企業だったがそれでも今は規制されている。

Q. 【"中立"こそが公平な態度】

A. 転売行為の悪質さを知らない人が「転売ヤーについて私はわからない」と言うのはおかしくないが、知った上で「転売ヤーについて私は中立です」と言う人は誰もがおかしいと思うだろう。「強盗に中立」「津波と共存」もあり得ない。もちろん画像生成AIは「津波」と同じような存在ではないが、「どんなものに対しても中立」が間違いであることは確か。

Q. 【AIの学習と人間の学習は同じ】

A. 人間ってこんな風に「学習」して「絵」を「描く」んですか？

深層学習は人間の脳を真似しているが、当然のことながら脳内の化学反応などすべてを再現している訳では無い。犬の脳は人間の脳と基本的な構造は同じだがそれでも「犬の学習と人間の学習は同じ」とは言われない。人間の脳細胞を直接使った場合ですら「人間の学習と同じ」にはならない。

チューリング・テストの考えからいけば、「知性」を持ってるかは内部は関係なく出力から判断するしかない。そして人間に対して「マリオを描け」と命令してもマリオの公式絵のコピーを出力することはあり得ないが、画像生成AIはコピーを出力してしまう。出力だけ見ても人間と同じで無いことは明らか。

Q. 【道具は使い方次第】生成AIを悪用する人間が悪いのであり生成AI自体の問題ではない。包丁で人を殺す人間がいるから包丁を規制しろと言うのか

A. 刃物でもやまゆり園事件のような大量殺戮は可能だから銃乱射事件で大量の死傷者が出ても銃は「道具」に過ぎず関係ないというようなもの。

銃なら包丁より大量殺人が容易な上、包丁は色々な用途に使えるが銃はほぼ殺傷目的にしか使えないという大きな違いがあり「道具」と一括りにできない。
さらに言えば包丁も法律で理由なく外に持ち歩くのは禁止されている。

Q. AIを使ったか聞くなんて魔女狩りだ！

「お絵描きソフトはペイント？ Photoshop？」と聞くのは魔女狩り？
生成AIが「ツール」に過ぎないなら聞いても何の問題もないはず。むしろ「最先端技術のAI使いこなせててすごい！」という称賛になるはずでは？
実際ChatGPTなど文章系の生成AIは「校正」など「どのように使用したかを具体的に明記すれば受け入れる」と明確にしてるところもある。

Q. 大資本（ビッグテック）が「生成AI」を独占する状況は確かに問題である。オープンソースにすべきだ

A. 「資本家が活版印刷機を独占して作者の許可なく小説を複製して儲け放題な状況は問題。すべての人が活版印刷機を所有して作者の許可なく小説を複製して儲け放題にすべき」と言ってるようなもの。「オープンソース」→「みんなの利益」とマルコフ連鎖してるだけでは⸮ ChatGPTの方がまだマシな回答をする。

そもそも「AI」に限らず商業ソフトウェアでオープンソースで無いものなんていくらでもあるのにどうすればオープンソース化を強制できるのか⸮ 法律を作って⸮ 「規制を行なう法律」より「オープンソース化を強要する法律」の方が「自由」の侵害度が高いのに本当にそれでいいのか⸮
あと「ソースコード」自体はほぼゼロコストでコピーできても、データセットや〔学習〕を行なうための数万個のGPUや大量の電力は大資本で無いと手に入らないから「オープンソース化」しても無意味では⸮

2024/11/01追記: なお、「オープンソース」をちゃんと定義している組織は、「ソースコードの公開だけではオープンソースAIとは言えない」と指摘している。

Q. 生成AIという新しいものを受け入れられず否定するなんて思考が硬直した老害だ

A. 「新しいもの」が良いものとは限らない。キックボードやアスベストだって「新しいもの」だったが「良いもの」だったか？ IT関係でもNFTやWeb3などいくらでもある。
つーか「新しいものは受け入れなければならない」と逆方向の固定観念にとらわれてるだけでは？ 「自分は老害じゃない」と思い込みたいために「既存の老害像」に逆張りしてるだけの新型老害では？

Q. 生成AIは二次創作と同じだ！

A. 二次創作は基本的に違法でありガイドライン等で著作者が許可している範囲で許されているに過ぎない。

少なくとも著作者が明確に拒否したなら完全に違法である。

そもそも画像生成AIは二次創作ではないが、もし仮に「二次創作」だったとしても著作者が拒否しているのに無断機械学習(無断データセット化)やLoRA作成をして生成するのは完全に違法である。

Q. 生成AIが無くても昔からフェイクやコラ画像は作れたから関係ない！

A.  「鉄アレイでも人を殺せるから銃規制は無意味」と言うようなもの。
「手軽」「量産可能」であることは大きな変化をもたらす。機関銃は普通の銃より大量に人間を殺せるだけで、活版印刷は「手で書き写す」より大量に複製できるだけだが、「だから影響など無かった」と思うだろうか⸮

むしろ、人間の思想も戦争も永遠に変えるほどだった。

文明運営シミュレーションゲーム『Civilization IV』より

Q. 技術に罪は無い！ 生成AIを悪用する人間が悪いだけだ！

A. 作るだけ、持っているだけ、教えるだけで罪になる技術は沢山ある。

火炎びんを製造し、又は所持した者は、三年以下の懲役又は十万円以下の罰金に処する

火炎びんの使用等の処罰に関する法律 - Wikisource

あおり・唆し罪の新設
拳銃の自作方法を解説した動画を投稿し、不法所持を呼びかける

（2024年６月）銃刀法が改正されました！｜警察庁Webサイト

理由なく刃物を外に持ち歩くなどして携帯する行為は、人の生命、身体に対する侵害を誘発するおそれが高いので禁止

刃物の話　警視庁

クロスボウの所持が原則禁止され、許可制

クロスボウの所持が禁止されます！｜警察庁Webサイト

コンピュータ・ウイルスの作成、提供、供用、取得、保管行為が罰せられる

不正指令電磁的記録に関する罪　警視庁

更に詳しく知りたい方は以下を


サポートいただけると記事を書く時間や質問に回答できる時間が増えます。