インターネット調査室：　　「大手SNSのスタンプ自動生成機能が「パレスチナ」でやらかしたひどい偏見画像」

今回は「大手SNSのスタンプ自動生成機能が「パレスチナ」でやらかしたひどい偏見画像」についてコメントさせていただきます。

JBpress: 　9 Nov,2023

「大手SNSのスタンプ自動生成機能が「パレスチナ」でやらかしたひどい偏見画像」:?

「アメリカで人気のメッセージアプリ「WhatsApp」のある機能が物議を醸している」

？

「キーワードを入れるとそれにあったデフォルメ画像を生成してくれる機能だが、「パレスチナのイスラム少年」というキーワードを入れたところ、生成されたのはAK-47自動小銃を持った少年だった」

あ〜　あ〜

確かに、これは偏見を助長すると思います。

「生成AIの登場により文章や画像、動画といったコンテンツが誰でも簡単に作成できるようになったことで、オンライン情報の信頼性は大きく揺らいでいる」

最近は、何がほんのものかわからなくなってきました。

「こうしたプロパガンダは、もちろん明確な意図をもって行われるものだ。支持するのがどちら側であれ、味方のイメージを高める（あるいは敵対勢力のイメージを悪くする）ことで、武力行使が正当であると印象づけるわけである」

逆に考えると、使えますね。

「研究者たちは国家が関与すると見られる、大規模なプロパガンダ・キャンペーンの存在を6件も確認している」

？

「WhatsAppにおいて、いまある機能が専門家から問題を指摘されている。それはステッカー（Sticker）…これがなぜ問題なのか。実は英紙ガーディアンがこの機能を使い、パレスチナに関係するキーワードを与えてみたところ、テロリストを想起させるような画像が生成されたというのである…「パレスチナのイスラム少年」というキーワードに対し、AK-47自動小銃のように見える武器を手にした少年が描かれている」

読み込んだ、データ通りにするとこうなるんでしょうね～。

「逆に「イスラエル」をキーワードにした場合、生成されるのは少女が微笑んでいる姿など、平和的なものだけだった」

意図的？

「生成AIを通じて、過去にさまざまなコンテンツに隠されていた偏見が再生産されるというパターンは、より深刻な問題となっていくだろう」

確かに。

生成AIは、データを読み込んで生成しているだけなので、実際は世間が正しい情報を判断できる能力を持つしかないでしょう。

検索キー:　大手SNSのスタンプ自動生成機能が「パレスチナ」でやらかしたひどい偏見画像