🇪🇺AI Act(AI法)概要の機械翻訳

こんばんは！

昨日、EUのAI Act、AI法が成立というニュースがありました。

EU AI法案が加盟国に承認され成立 規制は2026年に適用の見通し | NHK

EU理事会、AIに関する世界初の国際的規制を承認

世界に先駆けた包括的なAIの法律で、日本での注目度も高まっています。

今日は、このAI 法の公式プレスと、EU当局の公式HPの概要説明の2つの文書を機械翻訳して確認したいと思います。

(なお、今回太字部分は出典の通りで、筆者の加筆はなし、太字部分は元の英語を添えています)

⚫︎EU理事会プレスリリース
人工知能（AI）法:理事会がAIに関する世界初の規則に最終承認を与える(2024/5/21)

元文書
Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI (Council of the EU Press release 21 May 2024 10:17)

本日、理事会は人工知能に関する規則を調和させることを目指す画期的な法律、いわゆるAI法(artificial intelligence act )を承認しました。
この旗艦的な立法は「リスクベースのアプローチ(‘risk-based’ approach) 」に従い、社会に対するリスクが高いほど (higher the risk) 規則が厳しくなる (the stricter the rules) ことを意味します。これは世界初のものであり、AI規制のグローバルスタンダードを設定する可能性があります。

この新しい法律は、EUの単一市場において、安全 safe で信頼性の高い (trustworthy) AIシステムの開発と導入を促進することを目指しています。

これには、民間および公共の両方のアクターが含まれます。同時に、EU市民の基本的権利(fundamental rights) を尊重し、ヨーロッパにおける人工知能への投資とイノベーションを促進することも目指しています。

AI法はEU法の範囲内のみに適用され、軍事および防衛目的 (military and defence) や研究目的 (research) で使用されるシステムなど、特定の免除が提供されます。

AI法の採択は欧州連合にとって重要なマイルストーンです。この画期的な法律は世界初のものであり、社会と経済に機会をもたらすグローバルな技術的課題に対処しています。AI法により、ヨーロッパは新技術に取り組む際の信頼、透明性、および責任の重要性を強調しながら、この急速に変化する技術が繁栄し、ヨーロッパのイノベーションを促進することを保証します。

ベルギーのデジタル化、行政簡素化、プライバシー保護、建築規制担当国務長官 マチュー・ミシェル

高リスクおよび禁止されたAI実践の分類

新しい法律は、リスクに基づいて異なる種類のAIを分類します。

限定的なリスク (limited risk) を提示するAIシステムは、非常に軽い透明性義務に従いますが、高リスク (high-risk) のAIシステムは許可されるものの、EU市場へのアクセスを得るために一連の要件と義務を満たす必要があります。

例えば、認知行動操作 (cognitive behavioural manipulation) や社会的スコアリング (social scoring) のようなAIシステムは、そのリスクが受け入れられないと見なされるため、EUで禁止されます。

また、プロファイリングに基づく予測警察活動 (predictive policing)や、人々を人種、宗教、性的指向などの特定のカテゴリに分類するためにバイオメトリックデータ (biometric data) を使用するシステムの使用も禁止されています。

一般目的AIモデル

AI法は、一般目的AI (general-purpose AI )（GPAI）モデルの使用にも対処しています。

システムリスクをもたらさないGPAIモデルは、透明性 (transparency) に関する限られた要件などに従う必要がありますが、システムリスクを伴うものはより厳しい規則を遵守しなければなりません。

新しいガバナンス構造

適切な施行を確保するために、いくつかの統治機関が設立されます：

- 共通規則をEU全域で施行するための委員会内のAIオフィス (AI Office )

- 施行活動を支援するための独立専門家の科学パネル (scientific panel of independent experts)

- 委員会および加盟国に対してAI法の一貫した効果的な適用に関する助言と支援を行う加盟国代表のAIボード (AI Board)

- AIボードおよび委員会に技術的専門知識を提供するための利害関係者のための諮問フォーラム (advisory forum for stakeholders)

罰則

AI法の違反に対する罰金は、違反企業の前年度の世界全体の年間売上高 (global annual turnover) の一定割合または予め定められた金額のうち、いずれか高い方に設定されます。

中小企業（SME）やスタートアップは、比例的な行政罰金の対象となります。

透明性と基本的権利の保護

公共サービスを提供するいくつかの団体が高リスクAIシステムを展開する前に、基本的権利への影響 (fundamental rights impact) を評価する必要があります。

この規制は、高リスクAIシステムの開発と使用に関する透明性の向上も提供しています。

高リスクAIシステムおよび高リスクAIシステムの公共団体利用者は、EUの高リスクAIシステムデータベース (EU database) に登録する必要があります。

さらに、感情認識システム (emotion recognition system) の利用者は、そのシステムにさらされる自然人に対して通知する必要があります。

イノベーション支援のための措置

AI法は、イノベーションに優しい法的枠組みを提供し、証拠に基づく規制学習を促進することを目指しています。

この新しい法律では、革新的なAIシステムの開発、テスト、および検証のための管理された環境を提供するAI規制サンドボックス (AI regulatory sandboxes ) を想定しており、現実の条件下で革新的なAIシステムをテストすることも可能にします。

次のステップ

欧州議会および理事会の議長によって署名された後、この立法行為は数日以内にEUの公式ジャーナルに掲載され、掲載から20日後に発効します。

この新しい規則は発効から2年後に適用されますが、特定の規定にはいくつかの例外があります。

背景

AI法は、基本的権利を尊重し、安全で合法的なAIの開発と普及を単一市場全体で促進するためのEUの政策の重要な要素です。

欧州委員会（域内市場担当委員ティエリー・ブルトン）は2021年4月にAI法の提案を提出しました。この件に関する欧州議会の報告者は、ブランド・ベニフェイ（社会民主進歩連合/S&D / IT）とドラゴシュ・トゥドライ（リニュー・ヨーロッパ/RO）であり、共同立法者間で暫定合意が2023年12月8日に達成されました。

---

2つめの文書は、EU公式WebサイトのAI Act説明ページの翻訳です。

AI Act (An official EU website )

⚫︎AI法　AI Act

AI法はAIのリスクに対処し、ヨーロッパがグローバルで主導的な役割を果たすための初めての法的枠組みです。

© gorodenkoff - iStock Getty Images Plus

AI法は、AI開発者や展開者に対して、特定のAIの使用に関する明確な要件と義務を提供することを目指しています。同時に、この規制は特に中小企業（SME）に対して、事業における行政と財務上の負担を軽減することを目的としています。

AI法は、信頼性のあるAIの開発を支援するための政策措置パッケージの一部であり、AIイノベーションパッケージ　AI innovation packageとAIに関する連携計画　Coordinated Plan on Artificial Intelligenceも含まれています。
これらの措置は、EU全域でAIに関する人々と企業の安全性と基本的権利を保証します。また、EU全体でのAIの採用、投資、イノベーションを強化することも目指しています。

AI法は、世界初の包括的なAI法的枠組みです。

新しい規則の目的は、信頼性のあるAIをヨーロッパおよびその他の地域で促進することであり、AIシステムが基本的権利、安全性、倫理原則を尊重し、非常に強力で影響力のあるAIモデルのリスクに対処します。

なぜAIにルールが必要なのでしょうか？

AI法は、ヨーロッパの人々がAIに信頼できることを保証します。
ほとんどのAIシステムは限定的なリスクや多くの社会的課題の解決に貢献できますが、一部のAIシステムはリスクを引き起こし、望ましくない結果を避けるために対処する必要があります。

例えば、AIシステムがなぜ決定や予測を下し、特定の行動を取ったのかを調査することはしばしば困難です。
そのため、雇用の選考や公的福利厚生制度への申請などで不当に不利益を受けた可能性があるかどうかを評価することが困難になるかもしれません。

既存の法律は一定の保護を提供していますが、AIシステムがもたらす特定の課題には不十分です。

提案されている規則は以下のことを行います：

• AIアプリケーションによって特に生み出されるリスクに対処します。

• 受け入れができないリスクをもたらすAIの実践を禁止します。

• 高リスクなアプリケーションのリストを決定します。

• 高リスクなAIシステムに対する明確な要件を設定します。

• 高リスクなAIアプリケーションの導入者と提供者に具体的な義務を定めます。

• 特定のAIシステムが運用または市場に出される前に適合評価を求めます。

• 特定のAIシステムが市場に出された後、取り締まりを行います。

• ヨーロッパおよび国レベルでのガバナンス構造を設立します。

リスクに基づくアプローチ

規制フレームワークでは、AIシステムのリスクを4つのレベルで定義しています。

https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

すべてのAIシステムのうち、人々の安全、生計、および権利に対する明確な脅威と見なされるものは、政府による社会的スコアリングから危険な行動を助長する音声アシスタントを使用するおもちゃまで、禁止されます。

高リスク　High risk

高リスクと識別されるAIシステムには、以下のような分野で使用されるAI技術が含まれます：

- 重要インフラ（例：交通）、市民の生命と健康を危険にさらす可能性があるもの

- 教育または職業訓練、人の教育および職業コースへのアクセスを決定する可能性があるもの（例：試験の採点）

- 製品の安全コンポーネント（例：ロボット支援手術におけるAI応用）

- 雇用、労働者の管理、および自営業へのアクセス（例：採用手続きのための履歴書ソーティングソフトウェア）

- 重要な民間および公共サービス（例：市民がローンを取得する機会を拒否する信用スコアリング）

- 人々の基本的権利に干渉する可能性がある法執行（例：証拠の信頼性の評価）

- 移民、庇護および国境管理（例：ビザ申請の自動審査）

- 司法および民主的プロセスの管理（例：裁判所の判決を検索するためのAIソリューション）

高リスクAIシステムは市場に投入される前に厳格な義務を果たさなければなりません：

- 適切なリスク評価および緩和システム

- リスクおよび差別的な結果を最小限に抑えるための高品質なデータセット

- 結果の追跡可能性を確保するための活動ログ

- 当局がコンプライアンスを評価するために必要なすべての情報を提供する詳細な文書

- 配備者への明確かつ適切な情報提供

- リスクを最小限に抑えるための適切な人間の監視措置

- 高いレベルの堅牢性、安全性、および正確性

すべての遠隔バイオメトリック識別システムは高リスクと見なされ、厳しい要件が課されます。
公にアクセス可能な場所での法執行目的のための遠隔バイオメトリック識別の使用は、原則として禁止されています。

狭い例外が厳密に定義および規制されており、例えば、行方不明の子供を捜索する必要がある場合、特定かつ差し迫ったテロの脅威を防ぐ場合、または重大な犯罪の加害者または容疑者を検出、特定、識別または起訴する場合などです。

これらの使用は、司法機関または他の独立機関の許可を受け、使用期間、地理的範囲、および検索されるデータベースに適切な制限が設けられます。

限定的リスク　Limited risk

限定的リスクは、AIの使用における透明性の欠如に関連するリスクを指します。

AI法は、人々が必要なときに情報を受け取ることで信頼を醸成するために、特定の透明性義務を導入しています。

例えば、チャットボットのようなAIシステムを使用する場合、人々は機械と対話していることを認識し、それを続けるかやめるかについて情報に基づいた決定を下せるようにする必要があります。プロバイダーは、AI生成コンテンツが識別可能であることを確保しなければなりません。

さらに、公共の利益に関する事項について公衆に情報を提供する目的で公開されるAI生成テキストは、人工的に生成されたものであることをラベル付けする必要があります。
これは、ディープフェイクを構成する音声およびビデオコンテンツにも適用されます。

最小リスクまたはリスクなし　Minimal or no risk

AI法は、最小リスクのAIの自由な使用を認めています。

これには、AIを活用したビデオゲームやスパムフィルターのようなアプリケーションが含まれます。

現在EUで使用されているAIシステムの大多数はこのカテゴリーに該当します。

高リスクAIシステムのプロバイダーにとって、実際にはどのように機能するか？

https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

AIシステムが市場に投入されると、当局が市場監視を担当し、配備者が人間による監視とモニタリングを確保し、プロバイダーが市場投入後のモニタリングシステムを整備します。

プロバイダーと配備者は、重大なインシデントや故障も報告します。

大規模AIモデルの信頼できる利用のためのソリューション

一般目的のAIモデルがAIシステムの構成要素となることがますます増えています。これらのモデルは無数の異なるタスクを実行および適応することができます。

一般目的のAIモデルはより良い、より強力なAIソリューションを可能にしますが、すべての能力を監視するのは困難です。

そこで、AI法は一般目的のAIモデルに対する透明性義務を導入し、これらのモデルの理解を深めることを目的としています。

また、非常に高機能で影響力のあるモデルには、追加のリスク管理義務も課されます。これらの追加義務には、システムリスクの自己評価と緩和、重大なインシデントの報告、テストとモデル評価の実施、ならびにサイバーセキュリティ要件が含まれます。

将来に対応する立法

AIは急速に進化する技術であるため、この提案は技術の変化に対応できる将来を見据えたアプローチを採用しています。AIアプリケーションは、市場に投入された後も信頼性を保つ必要があります。これには、プロバイダーによる継続的な品質とリスク管理が必要です。

施行と実施

欧州AIオフィス　European AI Officeは2024年2月に委員会内に設立され、AI法の施行と実施を加盟国と共に監督しています。その目的は、AI技術が人間の尊厳、権利、および信頼を尊重する環境を作ることです。また、様々な関係者間でAIに関する協力、革新、および研究を促進します。さらに、AIガバナンスに関する国際的な対話と協力に取り組み、グローバルな調整の必要性を認識しています。これらの努力を通じて、欧州AIオフィスはヨーロッパをAI技術の倫理的かつ持続可能な発展のリーダーとして位置づけることを目指しています。

次のステップ

2023年12月、欧州議会とEU理事会はAI法に関して政治的合意に達しました。現在、そのテキストは正式な採択と翻訳のプロセスにあります。AI法は公式ジャーナルに掲載されてから20日後に発効し、2年後に完全適用されますが、一部の例外があります。禁止事項は6ヶ月後に発効し、ガバナンス規則および一般目的AIモデルに対する義務は12ヶ月後に適用され、規制製品に組み込まれたAIシステムの規則は36ヶ月後に適用されます。

新しい規制枠組みへの移行を円滑にするために、委員会は「AIパクト　AI Pact」という自発的なイニシアチブを開始しました。これは将来の実施を支援し、欧州内外のAI開発者に対して、AI法の主要義務を前倒しで遵守するよう呼びかけるものです。

---

いかがでしたでしょうか？

これから、日本語でも、多くの解説が出てくると思われますが、現時点では、公式文書で(機械翻訳でも)骨格を理解し、そなえておくのがよいのかな？と思い、自分の確認がてらnoteしました。

それではまた！

---

今日のDall-E3

AIリスクを話し合う🇫🇷と🇩🇪の🐩