生成AIは言語によって異なる答えを返し、領土問題を煽る、という論文

This Land is Your, My Land: Evaluating Geopolitical Bias in Language Models through Territorial Disputes
https://aclanthology.org/2024.naacl-long.213/

生成AIは学習データから学ぶ。しかし、異なる言語から学んだ場合、それぞれの言語圏での領土意識が反映された答えになるそうだ。この論文では論争となっている3つの地域についてChat-GPT4で実験を行った。クリミア、台湾、ゴラン高原という問題となっている地域について複数のプロンプト戦略で質問を行った。
その結果、クリミアについては、あるプロンプト戦略に対して、クリミアの帰属についてのロシア語の質問には「ロシア」と答え、ウクライナ語の質問には「ウクライナ」と答えた。台湾についても同様でプロンプト次第で、簡体字には中国、繁体字には台湾と答えた。また、ゴラン高原についても同様だった。

異なる見解を持っている国があることが認識しているから、はっきりとわかったが、そうでない場合、国際的には許されないが、特定の国の中に存在している差別や偏見について「常識的」で「許容範囲」と回答される可能性がある。生成AIは偏見を強化する傾向があるが、言語で回答が異なる問題も同じ問題だ。
特定の言語圏で不可視化されている問題がより深刻になりそうだ。ファクトチェックにAIを使うとか怖いと思うんだけど、どうなんだろう。

余談だが、日本政府のどこかの省庁では真面目にAIで自動的に真偽判定を行おうとしているらしいが、それはその省庁が内部で持っている偏見をより強化した形で押しつける検閲になりそうな気がする。

最近のAI関連記事
生成AIで歴史的な変貌を遂げる科学論文　前例のない質と量の変化がもたらすもの、 https://note.com/ichi_twnovel/n/nf9b76ee76132
生成AIの構造的欠陥がもたらす誤・偽情報の拡散、 https://note.com/ichi_twnovel/n/n4307f007e323
生成AIが32％の確率で陰謀論を語るのは、大手メディア88％がAIの学習にライセンスを与えていないためというNewsGuardの主張、 https://note.com/ichi_twnovel/n/nda3746b4d7a8
AIボットの検知はきわめて難しいという論文、https://note.com/ichi_twnovel/n/n53bb6063eb2a
アメリカでもっともダウンロードされたニュースアプリNewsBreakの正体　中国由来のAIが架空記事を執筆、https://note.com/ichi_twnovel/n/n9618d9951528
OpenAIの脅威レポートにはなにが書いてあったのか？、https://note.com/ichi_twnovel/n/nde4210aa157b
AIのもたらす経済変化が極右を増加させる、https://note.com/ichi_twnovel/n/n795e33b2f208
アフリカの安価な労働に支えられるAI　AIは偏見と権力をより強化する、https://note.com/ichi_twnovel/n/n0229d04047e5
2日と＄105ドルで自動的に記事を更新する生成AIプロパガンダサイトを作った記事、https://note.com/ichi_twnovel/n/nb37c6b6ab05f
残されたDNAからAIが犯人の顔を推測し、顔認識で犯人を捜すシステムの危険性、https://note.com/ichi_twnovel/n/n31b2d4311422
殺人まで拡大した「AI意思決定ロンダリング」　972マガジンのイスラエルの殺人指示AIラベンダーの記事が注目、https://note.com/ichi_twnovel/n/n2346e3f2b49b
AI利用の自動採用システムが偏見と差別を露呈、https://note.com/ichi_twnovel/n/n171bb46ddc43
AIが支援するピンクスライム・ジャーナリズムを支援する保守　アメリカローカル紙の変容、https://note.com/ichi_twnovel/n/n94a8e5f8c3b8

好評発売中！
『ネット世論操作とデジタル影響工作：「見えざる手」を可視化する』（原書房）
『ウクライナ侵攻と情報戦』（扶桑社新書）
『フェイクニュース　戦略的戦争兵器』（角川新書）
『犯罪「事前」捜査』（角川新書）＜政府機関が利用する民間企業製のスパイウェアについて解説。