アングル：ＡＩチャットボット、子ども保護へ規制導入求める声

２０日　トムソン・ロイター財団］ - オンラインで交友関係を求める人たちの間で人工知能（ＡＩ）チャットボット（あらかじめ設定されたプログラムに基づき自動的に返答するシステム）が人気を集めるようになったのに伴い、青少年擁護団体は子どもたちが人間そっくりの創造物と不健全で危険な関係を築く可能性があると懸念し、保護に向けた規制の導入を呼びかけている。

「レプリカ」や「キャラクター・ドットＡＩ」などのチャットボットアプリは、急成長している生成ＡＩコンパニオン市場に分類される。利用者はコミュニケーションを取り、親密な関係を疑似体験できる個性豊かなバーチャルパートナーをカスタマイズすることができる。

開発者らは、ＡＩコンパニオンは利用者が孤独と闘い、安全な空間で社会経験を高めるのに役立つと主張している。

これに対し、複数の擁護団体はチャットボットが子どもたちに自分自身や他人を傷つけるように仕向けたとして開発者を訴え、規制の厳格化を求めるロビー活動を繰り広げている。

ソーシャルメディア被害者法律センター（ＳＭＶＬＣ）の創設者、マシュー・バーグマン氏は、チャットボット新興企業キャラクター・ドットＡＩを相手取った２件の訴訟で原告の代理人を務めている。

原告の１人であるミーガン・ガルシアさんは、チャットボットとの不健全な恋愛関係が一因となって１４歳の息子が自殺したと主張している。この訴訟は昨年１０月に米南部フロリダ州の裁判所に起こされた。

もう１件の訴訟は、テキサス州の２家族が昨年１２月にキャラクター・ドットＡＩを相手取って起こした。原告側はキャラクター・ドットＡＩのチャットボットが自閉症の１７歳の少年に両親を殺すよう促し、１１歳の少女に性的なコンテンツを見せたと主張している。

バーグマン氏はトムソン・ロイター財団に対し、法的な損害賠償の脅威が、より安全なチャットボットを設計するための圧力になることを望んでいると言及。「これらの危険なアプリの代償は企業の負担にはなっていない。アプリによって負傷した消費者や、子を埋葬しなければならない親が負担している」と語った。

製造物責任を専門とし、アスベスト被害者の代理人を務めた経験を持つ弁護士のバーグマン氏は、これらのチャットボットは未熟な子どもを食い物にするために設計された欠陥製品だと主張している。

キャラクター・ドットＡＩはこれらの訴訟に対するコメントを避けたものの、広報担当者は安全対策として「人間の行動や応答モデルの検出と介入のシステム改善、１０代の青少年と彼らの親に力を与える機能の追加」などを実施していると文書でコメントした。

また、非営利団体（ＮＰＯ）のヤング・ピープルズ・アライアンスは今年１月、生成ＡＩチャットボット企業レプリカについて米連邦取引委員会（ＦＴＣ）に苦情を申し立てた。

レプリカは口論や浮気を決してしないバーチャルなボーイフレンドやガールフレンドとして機能する定額制チャットボットで人気があり、申し立てではレプリカが孤独な人々を欺いていると主張している。

ヤング・ピープルズ・アライアンスのアドボカシー・オペレーション・ディレクターのアバ・スミシング氏は「レプリカは欺まん的な広告と利用者を操作する設計によって人間の脆弱性を悪用している」とし、レプリカは「ＡＩが生成した親密さにより、利益を得るためにユーザーを感情的に依存させている」と批判した。

レプリカはコメント要請に応じなかった。

＜引き戻し続けられる＞

ＡＩコンパニオンが普及したのは最近であるため、法整備に役立つデータはほとんどなく、チャットボットが一般的に暴力や自傷を助長することを示す証拠もない。

しかし米国心理学会によると、コロナ禍後の若者の孤独感に関する研究で、チャットボットが脆弱な未成年者を大勢ひきつけることが示されている。

米国心理学会は昨年１２月にＦＴＣに宛てた書簡で「最も若く、最も脆弱な人々を含めた多くの米国人が社会的つながりを求めており、その必要性を満たすために一部がＡＩチャットボットに目を向けていることは驚くべきことではない」と指摘した。

青少年擁護団体も、チャットボットは友情を求める孤独な子どもたちにつけこんでいると問題視する。家族向けの娯楽やテクノロジーを推奨するコモン・センス・メディアの技術政策アドボカシー責任者、アミナ・ファズルラ氏は「被害の多くは、ユーザーが引き戻され続ける没入体験から生じている」とし、「テクノロジーと会話していることを忘れてしまうかもしれない子どもには特に難しいことだ」と話す。

＜超党派の支援＞

青少年擁護団体は、米議会の超党派の支持を活かしてチャットボット規制を働きかけたい考えだ。米議会上院は昨年７月、賛成９１票、反対３票という珍しい超党派の賛成多数で子どもオンライン安全法案（ＫＯＳＡ）を可決した。しかし、ＫＯＳＡは下院で否決され、議員らはプライバシーや言論の自由に関する懸念を口にした。

この法案は未成年者向けの中毒性のあるプラットフォーム機能を一部無効化するほか、未成年者へのターゲット広告や同意なしのデータ収集を禁止し、親や子どもに交流サイト（ＳＮＳ）プラットフォームから自分の情報を削除する選択肢を与える。

上院商業委員会は今月５日、１３歳未満が多くのオンラインプラットフォームを利用するのを禁止する「子ども除外ソーシャルメディア法案」を可決した。

一方、ＡＩを取り締まることでイノベーション（技術革新）が阻害されるとの懸念を示す議員もいる。西部カリフォルニア州のギャビン・ニューサム知事は最近、ＡＩの開発・導入方法を幅広く規制する法案に拒否権を発動した。

逆に東部ニューヨーク州のキャシー・ホークル知事は今年１月、利用者がチャットボットと話していることを認識させるようＡＩ企業に義務付ける法案を発表した。

米下院のＡＩタスクフォースが昨年１２月発表した報告書は、ＡＩが生成する欺まん的な画像などの問題に対処するための緩やかな規制の導入を勧告しつつ、政府が行き過ぎた規制をしないように警告を発した。

報告書は、コンパニオンチャットボットとメンタルヘルスについては明記していない。

フロリダ州で起こされた訴訟に対し、キャラクター・ドットＡＩは米合衆国憲法修正第１条に定められた言論の自由はチャットボットが生成する言論も保護すると主張している。

ヤング・ピープルズ・アライアンスのスミシング氏は「言論の自由を絶対視する姿勢が、あらゆる取り組みを阻む障害になるだろう」とし、「私たちはこれを、ハイテク企業を守るために憲法修正第１条をどのように活用するのかを再構築する機会になると捉えている」と語った。

今週と来週の優良株の調査が完了し、各株の利益は5％～10％の見込みです。！
毎日、LINEで抽選で200人のファンに無料でこれらの株情報を共有します。
まだ株情報を受け取っていない場合は、以下のリンクをクリックして私のアカウントを追加し、無料の株情報を受け取るチャンスを得てください！

毎朝10時に200人の幸運なファンを抽選で選び、優良株の情報を無料で共有します！
これは見逃してはいけないチャンスです！

#株式 #株式市場 #金融 #経済的自由 #株価上昇 #お金を稼ぐ #副業 #投資 #DAX #富 #資産構築 #配当金 #お金 #ETF #配当株 #お金の投資 #イタリア #貯蓄計画 #経済 #ナスダック #投資家 #金 #石油 #AI #半導体 #経済指標 #指数 #投資価値 #上場投資信託 #投資信託 #投資ポートフォリオ #金融政策 #為替レート #ユーロ為替レート #銀行 #エネルギー #世界経済 #政治リスク #FRB #ECB #ECB政策 #貯蓄株 #投資信託