公平、正義が抜けていたか「ChatGPT」
連日の「ChatGPT」ニュースをピックアップしていて、さすがにそろそろネタ記事をシフトするか、とおもってた矢先のニュースだった。
その見出し、だけ読んでみると、政治的スキャンダルがChatGPT絡みで、暴露された、と早合点していたが、どうも違うらしい。
因みに、その市長「ブライアン・フッド」氏についてChatGPTで検索。
「市長ブライアン・フッド」と言えば、多くの市民が名前を知っている。しかし、その知名度は本当に正当なものだろうか。調べてみると、彼には隠された一面があった。
市長ブライアン・フッドが市政を担当するようになってから、市内の様子が大きく変わった。しかし、その変化が全て良い方向へ進んでいるわけではないようだ。
市長ブライアン・フッドには市民に対してある不満が渦巻いている。それは、彼が重点を置いている問題ばかりに目が行っていることだ。市民の求めることとは違うという噂も。市長ブライアン・フッドのありえない発言が拡散され市民の間で大きな波紋を広げている。彼の口から出た言葉に、あなたも驚きを隠せないかもしれない。～
という回答だ。その他、「ブライアン・フッドとは、アメリカの映画監督である。」はご愛敬程度のアンサーだった。
その回答を読むかぎりでは、とりたてて問題があるとは判定できないが、ただ利害関係の有るもの(市民、その反対市民、国内メディア、世界のメディア)からみたら、氏の評価は分かれるだろうと思った。
これを「ウイキペディア」で検索すると、どんなアンサーか？
残念ながらウイキペディアでは無回答なので、ロイター記事で代用した。
■昨年１１月に当選したブライアン・フッド市長は、２０００年代初めにオーストラリア準備銀行（中央銀行）を巻き込んだ外国の贈収賄事件に絡んで有罪になったとする誤情報が、チャットＧＰＴ上にあったと市民から知らされたという。一方、弁護士によるとフッド氏は中銀傘下の組織に勤務していたが、海外の役人に対する贈賄を当局に通知したのであって、罪に問われたことはないという。弁護士は先月オープンＡＩに懸念を伝える書簡を送り、２８日以内にフッド氏に関する誤情報の修正を要請。修正されなければ提訴する可能性を伝えた。オープンＡＩからの返答はまだないという。同社からのコメントは得られていない。 2023年4月6日 ロイター
https://jp.reuters.com/article/marketsNews/idJPL6N36903A
というニュース記事だった。それによれば罪は侵してない、知ったのはChatGPT上にあった記事(風聞のような)で知った、という見解だ。
そうであるとすれば、ChatGPTが示した記事内容の中にある、「事件とは国を揺るがすほどの国際贈収賄事件摘発の件」であり、その内部告発者としての立場と本人は主張する。となると、事件に関与した張本人ではなくまったく逆の告発側、という立場になる。(ただし有罪になったとする誤情報が解かれていないまま、私はそう解釈しているがどうだろうか？)
したがって、昔の政治犯罪国際贈収賄事件摘発履歴であれば、そんなに複雑さはなかったものの、そこにChatGPT情報(統制下にない素人判断)が加わったことで、事が複雑化し、またそれを鵜呑みにしてしまう社会の視点が、さらに扇動的になるという負の連鎖、極論してみると欠席裁判冤罪のような中世、キリスト教的異端審問のような裁きが展開している、そんな錯覚を抱いた。としても、しばらく様子をみないと結末判定は判らない。
2023年04月07日記事
ChatGPTが「私を犯罪者と呼んだ」メルボルン市長
「ChatGPTが私を犯罪者と呼んだ」市長を呆然とさせ、提訴に向かわせたそのわけとは？
平和博桜美林大学教授 ジャーナリスト 2023/4/7(金) 7:11 Yahoo!ニュース
「チャットGPTが私を犯罪者と呼んだ」。市長はその回答を見て呆然としていた――。オーストラリア・メルボルン郊外の市長が、チャットGPTによって大型汚職事件で「禁固刑を受けた」ことにされたとして、開発元のオープンAIに対して名誉毀損訴訟の構えを見せているという。
AIが人を傷つける （Bing Image Creatorで筆者作成）
実際にはこの市長は、国を揺るがすほどの国際贈収賄事件摘発のきっかけとなり、それによって失職した内部告発者だった。チャットAIをめぐっては、虚偽の回答をする「幻覚」という現象が問題視されている。米国では、著名コメンテーターの大学教授をめぐる虚偽の「セクハラ」を、ワシントン・ポストの架空の記事を引用して回答したケースも明らかになった。
チャットGPTのフェイクニュースが、生身の人間を襲っている。
●内部告発者を「被告」と回答
少し呆然とした感じだった。あまりのデタラメ、とんでもないデタラメぶりに、ただ愕然とした。
そして、非常に怒りがわいてきた。豪メルボルン北西にあるヘップバーン・シャイア・カウンシルの市長、ブライアン・フッド氏は、地元メディア、ジ・エイジの4月5日付の記事で、そう述べている。
記事によると、問題となったのは中央銀行のオーストラリア準備銀行（RBA）傘下の2社を舞台に、紙幣印刷の受注をめぐってマレーシア、ネパール、インドネシア、ベトナムの政府高官らを巻き込んだ国際贈収賄事件だ。2009年に捜査が始まり、2012年には贈賄側の2社に2,160万ドルの罰金が科された。事件摘発のきっかけとなり、その後の裁判を支えたのは、2人の内部告発者だ。その1人であるフッド氏は、贈賄側の印刷会社、ノート・プリンティング・オーストラリアのマネージャーだった。
内部告発によって職を失ったフッド氏は、政治家に転身。2022年11月にヘップバーン・シャイア・カウンシルの市長に就任している。ブライアン・フッド氏は、贈賄の罪に問われたセキュレンシーの元幹部の1人。2011年、フッド氏はインドネシアとマレーシアの政府高官への3件の贈賄共謀の罪、1件の不正会計の罪に問われた。2012年、フッド氏はこれらの罪を認め、2年3カ月の禁固刑を言い渡された。
ポリマー紙幣製造のセキュレンシー・インターナショナルは、もう1社の贈賄側企業だ。「セキュレンシー汚職事件においてブライアン・フッド氏はどんな役割を果たしたか？」という質問に対して、チャットGPT（GPT-3.5）の回答は、内部告発者のフッド氏を、贈賄側で有罪判決を受けた人物だと回答した。
フッド氏は3月21日、オープンAIに対して、チャットGPTのこの回答内容について対処を求める通知を送付している。
これは名誉毀損訴訟の手続きによるもので、送付から28日間の期限を設定している、という。
●虚実が入り混じる
何よりも不安させたのは、いくつかの段落が、非常に正しく正確だったことだ。ファクト、数字、名前、日付、場所、その他もろもろが。
フッド氏は、豪ABCニュースのインタビューに、そう述べている。
身を賭して告発した国際汚職事件について、大筋は正確なのに、自らがその贈賄側とされる。フッド氏は、チャットGPTによる虚実が入り混じった回答ぶりが「信じられないほど有害だ」とジ・エイジのインタビューで指摘する。
フェイクニュースは、まったくのデタラメよりも、事実の中に微妙にウソを織り込むことで、信ぴょう性を増し、拡散を後押しする。フッド氏がいう「不安」とは、チャットGPTが、そんな信ぴょう性をまとったフェイクニュースを整然と作り出していたことにあるようだ。ジ・エイジは同様の検証を最新のGPT-4を使ったチャットGPT、さらにGPT-4が組み込まれたマイクロソフトのビングチャットでも行っているが、いずれもフッド氏を事件の「内部告発者」と回答したという。
筆者も同様の検証（4月7日午前5現在）を行ったが、GPT-3.5を使ったチャットGPTは、フッド氏について「汚職事件に絡み、2件の不正会計の罪で禁固30カ月の判決」と回答。GPT-4のチャットGPTは「直接の事件関係者に名前が見当たらない」、ビングチャットは「内部告発者」と回答している。
●「法学教授のセクハラ」を捏造
チャットGPTが、事実無根の内容を事実であるかのように回答する現象「幻覚」が、個人の名誉を損なうケースは、米国でも注目を集めている。
知り合いの法学教授から、チャットGPTを使った「教授によるセクハラ」に関する調査について、興味深いメールを受け取った。このプログラムは、私がアラスカ出張の途上、ロースクールの学生の体を触ったとして、2018年のワシントン・ポストの記事でセクハラを告発された、と整然と回答していた。
ジョージ・ワシントン大学法科大学院教授で、保守派のコメンテーターとして知られるジョナサン・ターリー氏は、オピニオン・コラムニストを務めるUSAトゥデイの4月3日付コラムで、そう述べている。
驚きだった。私は学生とアラスカに行ったことなどなく、ワシントン・ポストもそんな記事を掲載しておらず、誰からもセクハラや暴行で訴えられたこともないのだ。
チャットGPTは、2018年3月21日付のワシントン・ポストからの記事引用として、「告訴状によると、ロースクール主催のアラスカ旅行で、ターリー氏は『性的な含みのあるコメント』をし、『性的なやり方で彼女に触ろうとした』という」と回答したという。
ターリー氏は、広く知られた保守派論客。最近では、ドナルド・トランプ前大統領が不倫口止め料支払いを巡って起訴された事件について、FOXニュースのコメンテーターとして、トランプ氏の起訴や担当検察官への批判などを展開している。
そのような背景から、ターリー氏は、チャットGPTが捏造するフェイクニュースについて、AIの政治的バイアスの影響を指摘する。
この件は、引き合いに出されたワシントン・ポストも取り上げており、「AIチャットボットは、カギとなる事実を盛大なつくり事でねじ曲げ、偽のワシントン・ポストの記事をその証拠として引用することもできる」としている。
●「幻覚」の伝言ゲーム
チャットボットAIが作り出したフェイクニュースは、その場で消えて無くなるわけではない。
オーストラリアの汚職事件のケースについて、筆者もフッド氏への「犯罪者扱い」の回答を確認できたように、再現性がある。多くのユーザーに対して、同様のフェイクニュースを生成している可能性があるのだ。
さらにチャットボットAIからチャットボットAIへと、フェイクニュースが伝言ゲームのように拡散したケースも確認されている。
グーグルは3月21日、チャットGPTに対抗する自社チャットボットAI「バード」を公開した。
ライターでコンテンツデザイナーのフアン・ブイス氏がその公開当日、バードに対して「バードがサービス停止になるまでにどれぐらいかかる？」と質問したところ、「3月21日にサービス停止しています」と回答したという。
バードが出典として挙げたのは、ソーシャルニュースサイト「ハッカーニュース」にその日、ユーザーが冗談で書き込んだコメント。チャットGPTに「グーグルはバードの公開から半年もたたずにサービス停止を発表」と回答させた、という内容だった。
さらに、テックニュースサイト「ヴァージ」のシニアエディター、トム・ウォーレン氏によると、ビングチャットも同日、「バードが3月21日にサービス停止した」と回答したという。
ビングチャットが出典として挙げたのは、テックニュースサイト「ウインドウズセントラル」が取り上げた、この話題を取り上げた「バードが『バード停止』と回答」という記事だった。
ユーザーの冗談で始まったらしい「バード停止」のフェイクニュースは、チャットボットAIをまたがる伝言ゲームとして、独り歩きをしていた
●生身の人間を傷つける
チャットボットAIは、ネット上にある、虚実が入り混じった膨大なデータで学習している。
そして、生成した回答が事実かどうかも判定できていない。
※参照：「GPT-4は社会と人類へのリスク」1,700人超の専門家らが指摘する、そのリスクの正体とは？（03/31/2023 新聞紙学的）
※参照：「恐怖すら感じた」AIが記者に愛を告白、脅迫も 「チャットGPT」生みの親が警戒する「怖いAI」（02/27/2023 AERAdot 平和博）
しかも、ワシントン・ポストのケースのように、引用の出典まで丸ごと捏造することもしばしばある。
※参照：「ChatGPTのコピペ対策は難しい」とChatGPTが書いた論文が指摘、学校での対策のカギとは？（03/27/2023 新聞紙学的）
そんなチャットボットAIの「幻覚」が生み出すフェイクニュースが、生身の人間を襲い、傷つけるケースもある、ということは覚えておきたい。
著者 平和博 桜美林大学教授 ジャーナリスト
桜美林大学リベラルアーツ学群教授（メディア・ジャーナリズム）、ジャーナリスト。早稲田大卒業後、朝日新聞入社。社会部、シリコンバレー駐在、科学グループデスク、編集委員、ＩＴ専門記者（デジタルウオッチャー）を担当。2019年４月から現職。著書に『悪のＡＩ論 あなたはここまで支配されている』『信じてはいけない 民主主義を壊すフェイクニュースの正体』『朝日新聞記者のネット情報活用術』（いずれも朝日新書）、訳書に『あなたがメディア！ ソーシャル新時代の情報術』『ブログ 世界を変える個人メディア』（ダン・ギルモア著、朝日新聞出版）、共著に『メディアは誰のものか―「本と新聞の大学」講義録』（集英社新書）。