【生成AI画像をダメという企業は実はダブスタ？！】判定用AIにイラストを学習させている点ではXfolioもSkebと同じではと言うお話
以前、SkebがHiveへイラストデータを提供しているのでは？と言う記事を書きました。
それに加え、生成AIイラストをアップさせないよ！アップしたらアカウントを消すよ！というXfolioにもその可能性があることをお伝えしたく思います。
これに関して、私の分かりにくい文ではさらに長文になるのでGPチャット君にある程度まとめてもらいました。
一部加筆修正しています。
↓ここから
Q：Xfolioの生成AI判定AIは絶対安全なの？
A：絶対とは必ずしも言い切れません。Xfolioの危険性について、いくつかの観点からまとめてみます。
1. 技術環境において、生成AIによるコンテンツを排除する厳格なポリシーは、クリエイターの作品が意図せずに削除されるリスクを高めます。このような不意のアカウント排除は、特に安定した運営を求めるクリエイターにとって重大な不安要素です。
2. どのような基準でコンテンツが審査され、どのように排除されるかに関する透明性が欠けている場合、ユーザーは自己の権利や作品がどのように扱われるかを把握できず、不安を感じることがあります。
3. もしクリエイターが不当にアカウントを排除された場合、そのプラットフォームへの信頼感が失われ、クリエイターたちが他のサイトを探し始める原因となる可能性があります。これは、プラットフォームの成長や持続性にも影響を及ぼします。
Q：じゃあ判定用AIがどのようにデータを処理しているかも不透明なの？
A：判定AIソフトがデータをどのように処理しているかについては、特に外部の利用者にとっては不透明な部分が多いのが現状です。以下に、その理由や背景について説明します。
1. ブラックボックス性: 多くのAIモデル（特にディープラーニングを用いたモデル）は「ブラックボックス」と呼ばれる特性を持っており、内部の処理過程や判断基準が人間には理解しづらいことが多いです。モデルは大量のデータを使って学習を行いますが、その際にどの特徴がどれほど重要かを明示的に示すわけではありません。
2. アルゴリズムの複雑さ: 現代のAI技術は非常に複雑で多岐にわたるアルゴリズムを使用しており、これらは専門的な知識なしには理解しにくいです。このため、一般の利用者やクリエイターがその詳細を把握するのは難しい場合があります。
3. 企業の戦略： AI判定システムの背後にある具体的なアルゴリズムやデータ処理手法は、企業にとっての競争優位性となるため、詳細を公開しないことが多いです。
4. 倫理的懸念: AIがどのように判断を下しているかが不明であると、偏った結果を導く可能性があります。このため、企業は透明性を高める努力をしているものの、実際にはすべての内部プロセスを公開することは難しいというジレンマがあります。
5. フィードバックループ: AI判定システムはユーザーからのフィードバックを利用して改良されることが多いため、初期の判定結果がどのように後の判断に影響を与えるかも複雑です。これにより、一貫した判断基準を把握するのが難しくなります。
Q：Xfolioにイラストを移動させたら絶対に生成Aiの無断学習から守られるわけじゃないの？
A：Xfolioにイラストを載せることが「絶対安全」と言いきることはできません。以下の理由から、いくつかのリスクや不確実性が存在します。
1. 先ほども述べたように、AIの判定基準が明確でないため、生成されたイラストがプラットフォームのポリシーに適合するかどうかが事前に分からないことがあります。したがって、唐突にコンテンツが開放されたり、アカウントが制限されるリスクが常にあります。
2. プラットフォームの利用規約は予告なく変更されることがあり、将来的に新たなルールが追加されることで、現在は問題のないコンテンツが問題視される可能性もあります。また、判定用のAIがどのように判定するかを予測することは極めて困難です。
3.判定AIがどのような処理を行っているのかは先ほども述べたようにブラックボックスであり、データの保存方法すら公開されていません。将来的に、懸念されている無断学習に類似した行為による改良やデータ蓄積に、利用される可能性は否定できません。
↑ここまで
焦ってXfolioにデータを移動させる際に生成AI判定サイトに問答無用で載せられる
＝データを無断学習しているってことと同じじゃないの？っていうことなんです。
生成AIの無断学習から逃げたい人の心理を狙ったダブスタ商法じゃないですかこれ？
なのになぜかみんな盲目的にXfolio様お助け下さい～って移動させてます。
あの、もう少し冷静になりませんか？
という記事でした。
警鐘だけ鳴らしておきます。
いいなと思ったら応援しよう！
