見出し画像

生成AIに関する米FTCの情報 2025年1月まで

Kenji Suzuki

趣旨

　アメリカの 連邦取引委員会FTCは、生成AIに関して消費者保護を含め様々な調査と情報発信をしている。その中でも何度も参照する内容や、沿革として重要な内容を時系列で整理した。

　ヘッダー画像はKhan委員長のポストから。Operation AI Complyは和訳が難しいが、「法を遵守しないAI利用の摘発」とか「AIに法を守らせろ」のように理解したい。

　和訳に際してclaude.aiの助力を得た。claude.aiは、下訳を繰り返したり、訳語の選定について対話し、提案した。和訳の責任は鈴木健治にある。

不正行為の報告サイト

https://reportfraud.ftc.gov/
　詐欺、詐欺行為、悪質なビジネス慣行を報告できる連邦のWebサイトで、縦割りではなく、内容に応じて報告先を選ぶ負担がない。複数の言語で報告でき「報告に基づいて詐欺、詐欺行為、不正なビジネス慣行を調査し、訴訟を起こします」と明記されている。

（参考）日本の窓口
公正取引委員会
https://www.jftc.go.jp/soudan/

消費者庁
https://www.caa.go.jp/policies/application/inquiry/

文化庁（弁護士知財ネット）
https://www.bunka.go.jp/seisaku/bunka_gyosei/kibankyoka/madoguchi/index.html

FTCの記事

　2023年から、FTCの公開記事のうち、生成AI関連で、かつ、自分自身何度か参照してきたり、今回あらためて発見した重要記事を一覧とした。
　太字は鈴木健治による。
　公正取引委員会が紹介している記事については、公正取引委員会の記事へのリンクをあわせて掲載した。消費者庁や個人情報保護委員会によるFTC記事の紹介は発見できなかった。

2023年

○2023年2月17日　FTC、機関の業務強化のため新たな技術局OT(Office of Technology)を設置
https://www.ftc.gov/news-events/news/press-releases/2023/02/ftc-launches-new-office-technology-bolster-agencys-work

　デジタル経済への対応が強化された。

　日本の公正取引委員会による紹介
https://www.jftc.go.jp/kokusai/kaigaiugoki/usa/2023usa/202305us.html

○2023年3月20日　人々をだますためのAI技術が売られている: チャットボット、ディープフェイク、音声クローン
https://www.ftc.gov/business-guidance/blog/2023/03/chatbots-deepfakes-voice-clones-ai-deception-sale
　広告の方法を監視している部門の弁護士による記事で「FTCは、消費者への被害を防ぐための合理的な措置をせずに、潜在的に有害な技術を提供開始した企業を訴えている」と頼もしい。
　AI生成の動画、画像、音声について「詐欺に生成AIツールが使用されているかどうかを判断する負担を、消費者に負わせるべきではない」とも述べている。

○2023年3月20日　詐欺師たちは「身内の緊急事態」を装う手口をAIを使って強化
https://consumer.ftc.gov/consumer-alerts/2023/03/scammers-use-ai-enhance-their-family-emergency-schemes
　米国でも振り込め詐欺があるようで、孫の音声そっくりでも信用しないように、というFTCの消費者教育専門家による記事。

○2023年6月13日　ヘイ、アレクサ！私のデータで何をしているの？
https://www.ftc.gov/business-guidance/blog/2023/06/hey-alexa-what-are-you-doing-my-data

　AmazonとRingは、AmazonのAlexaが収集した音声録音と、Ringのインターネット接続型の家庭用防犯カメラが収集した映像という、きわめてプライベートなデータを、顧客のプライバシーを軽視したまま、自社のアルゴリズムのトレーニングに使用していた。
　Amazonは子どもの声を連邦法およびCOPPA規則に違反して無期限に保存したとして、FTCと司法省はAmazonを訴えた。
https://www.ftc.gov/news-events/news/press-releases/2023/05/ftc-doj-charge-amazon-violating-childrens-privacy-law-keeping-kids-alexa-voice-recordings-forever

　FTCの委員は連名で、2023年5月31日に、テクノロジー業界のすべての企業にへのメッセージとして「機械学習は、法律を違反して良い理由にならない。アルゴリズムを改良するためにデータを無期限に保持する必要があるという企業からの主張は、データの無期限保持を禁止する法的規制に優先されない。（機械学習の）アルゴリズムを改良するために使用するデータは、合法的に収集され、合法的に保持されなければならない。企業はこの教訓に注意することが得策だろう」と述べた。
https://www.ftc.gov/system/files/ftc_gov/pdf/Bedoya-Statement-on-Alexa-Joined-by-LK-and-RKS-Final-1233pm.pdf

○2023年6月29日　生成AIが競争上の懸念を引き起こす
https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/06/generative-ai-raises-competition-concerns

　生成AIの必須の構成要素の先頭に「データ」がある。このFTCの分析は「確立された企業は、長年にわたってユーザーから収集したデータへのアクセスから利益を得ることができる。その企業が大量のデータを蓄積するデジタルプラットフォームを所有している場合には利益はより大きい。」と指摘しており、プラットフォーマーの優位性に注意喚起している。

　オープンソースと生成AIの関係についても、正確に状況を把握し、文章にしている。「例えば、オープンソースのAI画像生成ツールは、生成できる画像の種類に制限を設けた状態でリリースされたが、悪意のあるユーザーがこれらの保護機能を削除し、モデルを使用して同意を得ていない性的な画像を作成した」

　競争上の懸念は、AIシステム企業間の競争と、公正な競争がなくなることによる消費者の不利益への言及が中心で、コンテンツ系の生成AIシステムがコンテンツのクリエーターとの間の不当な競争についての言及は、発見できなかった。

○2023年8月6日　生成AIの時代におけるデジタル所有権と創作に関する主張
https://www.ftc.gov/business-guidance/blog/2023/08/cant-lose-what-you-never-had-claims-about-digital-ownership-creation-age-generative-ai

　自分の作品の創造的コントロールについてはどうか？　という段落で、コンテンツ系生成AIに言及している。
「私たちはすでに、偽の新曲や、実際にはLLM(生成AI)出力なのに人間が執筆したとして販売されている新書籍の事例を目撃している。このように（生成AI出力を人間のものとして）消費者を騙してコンテンツを販売する企業は、FTC法に違反している。この行為は、アーティストやライターにも明らかに損害を与えている」

企業は次の点に留意すべきであるとして、4つのうち2つを生成AIによる偽装への注意喚起をしている。
「・AIツールによって作成されたデジタル商品を、特定のクリエイターの作品であるとして販売することは、明らかに不適切である。
　・生成AI製品を提供する際は、トレーニングデータに著作権その他の保護対象となる素材が含まれているか否か、またその程度について、顧客への告知が求められる場合がある。」

　FTCが、著作権法の解釈は管轄外と明言しつつも、公正な市場と消費者保護の使命からして重要なことについて、ためらいなく言及してくれているのはとてもありがたい。

○2023年8月22日　ビジネスの機会を売ろうとする業者に対し、FTCは"AI"は"allegedly inaccurate（明らかに不正確）"の略だと述べた
https://www.ftc.gov/business-guidance/blog/2023/08/business-opportunity-sellers-ftc-says-ai-stands-allegedly-inaccurate

　FTCは、詐欺をしたAutomators AIとその経営者を訴えた。AIという用語を誇大広告的に使用し、実態のないビジネスへの初期投資を求めた。

　この記事でFTCは、企業に向けて次の注意喚起もしている。

　（米国の）消費者レビュー公正法は、企業の製品、サービス、または行為に関する誠実な意見を共有する人々の権利を保護している。コンプライアンスのアドバイスについては、消費者レビュー公正法：企業が知っておくべきことを参照。
https://www.ftc.gov/business-guidance/resources/consumer-review-fairness-act-what-businesses-need-know

○2023年9月22日　FTC、AIとコンテンツ制作に関するバーチャル円卓会議を10月4日に開催
https://www.ftc.gov/news-events/news/press-releases/2023/09/ftc-host-virtual-roundtable-ai-content-creation

　→2023年12月18日のレポートへ

○2023年10月3日　消費者がAIに関する懸念を表明している
https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/10/consumers-are-voicing-concerns-about-ai

　AIの構築方法に関する懸念ではデータが重要であるとして、FTCは次のように述べる。
「FTCが以前に議論したように、著作権侵害に関する報告された懸念の一部は、Web全体からのスクレイピングに起因している。消費者報告の多くは、Webに投稿されたコンテンツが生成AIモデルの学習に使用され、それが後にクリエーターからコンテンツ制作による収入機会（ability to make a living）を奪い、大企業の優位性に貢献する可能性があることを懸念している。しかもその学習はクリエーターの同意なしに行われている。」

○2023年11月7日　米国著作権局へのコメントの中で、FTCはAIに関連する競争と消費者保護の問題を提起し、AI市場における競争と消費者を保護するために権限を行使することを強調
https://www.ftc.gov/news-events/news/press-releases/2023/11/comment-submitted-us-copyright-office-ftc-raises-ai-related-competition-consumer-protection-issues

　「提出したコメントは、FTCが著作権法における権利範囲や責任の程度を超えて、著作権に関連する問題に関心を持っていると説明している。例えば、（生成AIによって）クリエイターの競争能力が不当に害されるだけでなく、作品の作者が期待と一致しない場合、消費者が欺かれたといいえる。AIが生成した作品であるにもかかわらず、消費者が特定のミュージシャンやその他のアーティストによって作成されたと想定していた可能性があるのである。

「著作権法に違反する可能性のある行為は、不公正な競争や、不公正もしくは騙すような行為と（して違法と）なる可能性がある。特に、著作権侵害が、消費者をだまし、クリエイターの名声を利用し、既存または将来の作品の価値を低下させ、個人情報を暴露し、あるいは消費者に重大な損害を与える場合に、その傾向が強まる」とコメントは続けている。
　加えて、大手テクノロジー企業は、その巨大な財力により、生成AIツールのユーザーを保護したり、著作権で保護された独自データの独占ライセンスを取得したりすることが可能である。これにより、これら支配的企業の市場支配力がさらに強化される可能性がある」

　FTCが、著作権法の枠組みを超えて、著作権に関連する、生成AIがもたらしている現代的な問題を指摘している。著作権侵害を起因又は契機として、または著作権侵害の行為そのものが、様々なルートで、消費者に重大な損害を与えるのである。また、大手テクノロジー企業の市場支配力と関係していることへの注意喚起も重要である。

公正取引委員会による紹介がある。
https://www.jftc.go.jp/kokusai/kaigaiugoki/usa/2024usa/202401us.html

○2023年12月18日　FTC スタッフレポート: AI とクリエイティブ分野のパネルディスカッションから得られた重要なポイント
https://www.ftc.gov/news-events/news/press-releases/2023/12/ftc-staff-report-details-key-takeaways-ai-creative-fields-panel-discussion

　このスタッフレポートは、クリエーターが指摘した懸念事項を５つに整理した。

・同意なき収集：クリエイティブのプロフェッショナルたちは、過去の作品が、既存の契約合意の拡大解釈を含め、自身の同意や認識なしに生成AIモデルの学習に使用されていると指摘した。
・非開示：多くのAI開発者が学習データに含まれている作品名を公開しないため、自身の作品が使用されているかどうかさえ分からないという懸念も表明された。
・AIとの仕事の競合：生成AI出力は、クリエーターが受注する市場に出現し始めている。これは、消費者や潜在的な出版社が、人間による作品を見つけることを困難にしている、と参加者が述べた。
スタイルの模倣：一部の参加者は、生成AIツールが彼らの独自のスタイル、ブランド、声、外見を模倣するために使用される懸念を表明している。これにより、部外者や元クライアントが、合成音声や画像を含む模倣作品を作り出すことが可能となるためである。
・偽の推奨：参加者たちによれば、生成AIは、アーティストが実際には推奨も使用もしていない製品について偽の宣伝を作り出すために使用されており、また偽装された音声を使って、アーティストの複製された声で不適切なコンテンツを生成するためにも使用されているという。

　参加者は「生成AIの開発者による透明性の欠如を考えると、オプトアウトは将来の使用にしか対応できず実施が困難であると指摘した。代わりに、AI開発者に対し、アーティストが自身の作品を生成AIに使用することを望むかどうかを管理できるようにするオプトイン方式の採用を求めた」

　単純にオプトインを求めるのではなく、透明性のない現状との関係で、オプトアウトが機能しないと整理されている。

公正取引委員会による紹介がある
https://www.jftc.go.jp/kokusai/kaigaiugoki/usa/2024usa/202403us.html

このクリエーターとの対話に関する報告書「生成型人工知能と創造経済 - スタッフレポート：視座と知見」
Generative Artificial Intelligence and the Creative Economy Staff Report: Perspectives and Takeaways
https://www.ftc.gov/system/files/ftc_gov/pdf/12-15-2023AICEStaffReport.pdf

2024年

○2024年1月9日　AI企業へ：プライバシーと機密保持に関する約束を守れ
https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2024/01/ai-companies-uphold-your-privacy-confidentiality-commitments

　「AIモデルの学習と展開に関連するデータの不実表示、重要な事実の省略、および不正使用は、競争に対する潜在的なリスクである。これらの戦術は、虚偽表示に基づいて顧客を誘引・囲い込んだり、誠実でない企業が誠実な企業より優位に立つことを可能とする場合に公正な競争を損なう。
　顧客の重要な情報を不適切に利用するモデル・アズ・ア・サービス企業も、不公正な競争方法の禁止に違反しえる。つまり、モデル・アズ・ア・サービス企業のデータ取扱実務は、独占禁止法および消費者保護法に違反する可能性があるのだ。
　法律上、AIだからという適用除外は存在しない。すべての企業と同様に、明示的・暗示的、記載・省略ともに、データの収集方法について顧客やユーザーをだますモデル・アズ・ア・サービス企業は、法律違反となりえる。」

○2024年1月25日　FTC、生成AIへの投資と提携に関する調査を開始　Alphabet社、Amazon.com社、Anthropic PBC社、Microsoft社、OpenAI社に6(b)条に基づく命令を発出
https://www.ftc.gov/news-events/news/press-releases/2024/01/ftc-launches-inquiry-generative-ai-investments-partnerships

公正取引委員会による紹介がある。
https://www.jftc.go.jp/kokusai/kaigaiugoki/usa/2024usa/202404us.html

　→調査結果は、2025年1月17日報告へ

○2024年2月8日　重要な原則：カーン委員長の1月AI技術サミットでの発言からの抜粋
https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2024/02/few-key-principles-excerpt-chair-khans-remarks-january-tech-summit-ai

[1] AI利用の全体について「ボトルネック」に焦点をあてる。独占企業はボトルネックを利用して顧客から搾取し独占を維持しようとする。
[2] どこにインセンティブがあるかビジネスモデルを分析する。行動ターゲティング広告が際限なくユーザーデータを収集しようとしたことと同様に、生成AIは際限なくモデルのトレーニングをしようとする。
[3] AIのバリューチェーン全体を観察し、能力と管理の責任を一致させる。例えば詐欺を促進する上流の決済関係者にも責任を負わせる。
[4] 効果的な是正措置の策定を目指している。例えばモデルトレーニングに使用できないデータがあることを明確にしてきている。

　これらのすべての取り組みに際して、現行法にAIの適用除外がないことを明確にしている。企業は法律違反の隠れ蓑としてイノベーションを主張することはできない。

Remarks of Chair Lina M. Khan FTC Tech Summit
https://www.ftc.gov/system/files/ftc_gov/pdf/2024.01.25-chair-khan-remarks-at-ot-tech-summit.pdf

○2024年2月13日　AI（およびその他の）企業：利用規約をひそかに変更することは不公正または誤解を招く（として違法）となる可能性がある
https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2024/02/ai-other-companies-quietly-changing-your-terms-service-could-be-unfair-or-deceptive

　企業は、自社に蓄積されたユーザーのデータを生成AIの学習に使いたいという強力なビジネス上のインセンティブがある一方で、ユーザーのプライバシーを保護するという既存の約束が存在する。この対立を解決するために、企業は、プライバシーポリシーを変更して、顧客データを使用できるようにしたくなり、かつ、プライバシーを懸念するユーザーからの反発を避けようと、これらの変更を密かに行おうとすることが想定される。
　しかし、市場参加者は、ユーザーのプライバシーに関する約束を破るいかなる企業も「不公正または欺瞞（誤解を招く）」として、FTC法違反のリスクを負うことに注意すべきだ。

○2024年4月1日　FTCの新しいなりすまし規制が本日施行
https://www.ftc.gov/news-events/news/press-releases/2024/04/ftc-announces-impersonation-rule-goes-effect-today

　政府機関や企業へのなりすまし詐欺による被害報告額が11億ドル超え

・政府および企業のなりすましに関する規則
https://www.ftc.gov/legal-library/browse/rules/impersonation-government-businesses-rule

○2024年7月23日　生成AI基盤モデル・製品の競争に関する共同声明
https://www.ftc.gov/legal-library/browse/joint-statement-competition-generative-ai-foundation-models-ai-products

公正取引委員会による紹介
https://www.jftc.go.jp/kokusai/kaigaiugoki/usa/2024usa/202409us.html

○2024年8月14日　FTC、虚偽のレビューと推薦文を禁止する最終規則を発表
https://www.ftc.gov/news-events/news/press-releases/2024/08/federal-trade-commission-announces-final-rule-banning-fake-reviews-testimonials

　禁止されるレビューや推薦文として、AIによって生成された偽のレビューなど、実在しない人物によるレビューや推薦文が含まれる。

○2024年9月25日　FTC、AIを使った誤解を招く広告や詐欺的スキームの取り締まりを発表
https://www.ftc.gov/news-events/news/press-releases/2024/09/ftc-announces-crackdown-deceptive-ai-claims-schemes

　FTCは、法を遵守しないAI利用の摘発(Operation AI Comply)として、AIの誇大宣伝を利用した事業者や、誤解を招く不公正な方法となるAI技術を販売した事業者を対象に、5社の法執行措置を発表した。

　同日に、ビジネスブログでも解説を公表している。
https://www.ftc.gov/business-guidance/blog/2024/09/operation-ai-comply-continuing-crackdown-overpromises-ai-related-lies

2025年

○2025年1月3日　AIと消費者被害のリスク
https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2025/01/ai-risk-consumer-harm

　FTCは、詐欺、操作、同意のない画像の生成に使用される生成AIツール、あるいは子どもやその他の人々を危険にさらすツールについても精査することができると述べ、過去に、リベンジポルノに関してMyEx.comに対してサイトの閉鎖命令と賠償命令をしたことを挙げている。

○2025年1月17日　FTC、AIパートナーシップと投資に関する調査報告書を発表
https://www.ftc.gov/news-events/news/press-releases/2025/01/ftc-issues-staff-report-ai-partnerships-investments-study?utm_campaign=ftcs_office_of_technology

　FTCは、大手クラウドサービスプロバイダー(CSP)であるAlphabet, Inc.、Amazon.com, Inc.およびMicrosoft, Corp.と、主要な生成AIの開発企業であるAnthropic PBCとOpenAI OpCo, LLCとの企業間パートナーシップおよび投資に関する調査報告書を発表した。
　この報告書は、CSPとAI開発企業のパートナーシップの主要な側面を詳述しており、CSPがこれらのパートナーシップを通じて保持する株式および収益配分の権利、またCSPが投資を通じて獲得した協議、管理、独占的権利などについて説明している。

　報告書が概説する潜在的な競争への影響:
パートナーシップが計算資源やエンジニアなどの特定のインプットへのアクセスに影響を与える
パートナーシップがAI開発パートナーのスイッチングコストを増加させる
パートナーシップにより、CSPパートナーが他者には入手できない機密の技術・事業情報にアクセスできる

・FTCの大規模AIパートナーシップと投資に関する6(b)報告書の背景
https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2025/01/behind-ftcs-6b-report-large-ai-partnerships-investments

・報告書　クラウドサービスプロバイダーとAI開発企業間のパートナーシップ
Partnerships Between Cloud Service Providers and AI Developers
https://www.ftc.gov/system/files/ftc_gov/pdf/p246201_aipartnerships6breport_redacted_0.pdf

この報告書には、次の項目がある。
3. The AI Technology Stack
3.3 - Data and Models

学習のソースについて、次のように述べている。
「事前学習データの一般的なソース（学習元）として報告されているものには、スクレイピングされたデータ[86]、権利者からライセンス供与されたデータ[87]、または生成AIモデル開発者が既存のサービスから取得した特定のデータ型（FacebookやInstagramの公開投稿の写真やテキストなど）[88]が含まれる。」

脚注
[86] Lauren Leffer「あなたの個人情報は恐らく生成AIモデルの学習に使用されている」SCIENTIFIC AMERICAN (2023年10月19日)
https://www.scientificamerican.com/article/your-personal-information-is-probably-being-used-to-train-generative-ai-models/

[87] 「AI コンテンツライセンス契約：OpenAI、Microsoft、Google、その他が見出す機会」CB INSIGHTS (2024年7月19日)
https://www.cbinsights.com/research/ai-content-licensing-deals/

[88] Mike Clark「プライバシーは重要：Metaの生成AI機能」META (2023年9月27日)
https://about.fb.com/news/2023/09/privacy-matters-metas-generative-ai-features/
（「InstagramとFacebookの公開投稿（写真やテキストを含む）は、Connectで発表した機能の基盤となる生成AIモデルの学習に使用されたデータの一部だった」）

いいなと思ったら応援しよう！