見出し画像

うまい人間の大多数がウォーターマークをいれるようになれば、うまい絵とAIは勘違いする

榊正宗＠YES無断学習NO無断生成AI

やっぱり生成AIはウォーターマークと絵自体を根本的に区別できず統計に依存してるってことを分かってない人多いね、何がウォーターマークか知らない(知るという能がない)のにどうやってウォーターマークを消すんだよ。簡単に言えばうまい人間の大多数がウォーターマークをいれるようになれば、うまい絵

こんばんは、榊正宗です！

宣伝。デルタもんやガンマミィが活躍する小説、連載中です！

生成AIについての批判に、ちょっと意見を述べさせてくださいね。

AIが「ウォーターマークを認識できない」からダメとか、「ただ統計で判断してるだけ」だから意味がないっていう主張がたまに聞かれるんですけど、正直、それはAI技術全体を理解してないというか、ちょっと短絡的に感じます。ウォーターマークを見分けるっていうのは、確かに現状の技術的な課題の一つです。でも、その一部だけを取り上げて「AIは無価値だ」と言うのは少し違うんじゃないかと思うんですよ。生成AIの本質って、絵の構成や特徴を学んで似たものを作り出す技術にあります。ウォーターマークが判別できないかどうかは、AIの学習データや設計次第であり、そもそものAI技術の可能性や価値とはまた別の話です。

さらに、「統計的に判断してるだけ」っていうのもよくある批判ですが、これは実際のところAIだけの問題じゃないんです。人間も経験や観察から学ぶって意味では似た部分があります。たとえば、美術の学生が優れた作品を模倣して技術を学ぶように、AIも大量のデータから特徴を学んでいるんです。ウォーターマークを「知らない」からといって、そのことでAIの意味や有用性がなくなるわけではないんですよね。実際、ウォーターマークを検出するアルゴリズムもどんどん進化していますし、技術の発展とともに課題は少しずつクリアされていくはずです。

「人間がウォーターマークを入れた絵をAIが『うまい絵』だと勘違いする」とも言われてますけど、これは少し誤解があるようです。AIは「うまいかどうか」を判断しているわけじゃなく、膨大なデータからパターンを見つけ出しているだけです。もしデータセットに偏りがあれば、それが生成結果に影響することはありますが、それとウォーターマークとは直接の関係はないです。データセットの偏りやノイズは、適切なデータのクリーニングやフィルタリングで十分に対処できることですから。

また、「AIが意図的にウォーターマークを消している」という懸念もよく耳にしますが、これも技術の誤解から来ている気がします。AI技術者やエンジニアたちは、コンテンツの透明性や信頼性を確保するために日々取り組んでいますし、生成された画像に「AIが生成したもの」とわかるメタデータを埋め込む手法も研究されています。ウォーターマークを持つ画像が学習データに含まれていても、それを「盗んで」いるわけじゃないんですし、わざと消しているわけでもありません。

技術って、あくまで中立なもので、どう使うかは完全に人間の判断や管理にかかっています。生成AIがウォーターマークを認識してどう処理するかは、トレーニングデータの選び方やシステム設計で大きく変わります。もし問題があるなら、それはAI自体のせいじゃなく、人間の使い方や管理の問題なんです。

この記事が気に入ったらサポートをしてみませんか？