EUのAI規制法の概要

2024年6月11日 20:20

EU人工知能法（AI Act）の概要

1. はじめに

欧州連合（EU）は、AI技術の安全性、信頼性、倫理性を確保するために、新たな規制枠組みを提案しました。この規制は、AIシステムの開発、提供、使用に関する統一ルールを設けることで、市場の統一性を確保し、技術革新を促進しつつも、リスクを最小限に抑えることを目指しています。本法は、リスクベースのアプローチを採用しており、AIシステムのリスクレベルに応じて異なる規制要件を適用します (EUR-Lex)。

2. 規制の範囲と目的

適用範囲

EUの人工知能法（AI Act）の適用範囲は非常に広く、以下の要素を含みます：

1. 地理的適用範囲

AI Actは、EU内で市場に投入される、または使用される全てのAIシステムに適用されます。これには以下が含まれます：

EU内での開発および提供：EU内で開発、提供されるAIシステム。
EU市場への輸出：EU外で開発され、EU市場に投入されるAIシステム。
EU内での使用：EU内で使用される全てのAIシステム (EUR-Lex)。

2. 対象となるAIシステム

AI Actは、特定の技術や手法に基づく全てのAIシステムに適用されます。これには、機械学習、推論、知識ベースシステムなどが含まれます。具体的には以下の技術が対象となります：

機械学習：教師あり学習、教師なし学習、強化学習を含む。
論理および知識ベースアプローチ：推論エンジン、知識ベースシステムなど。
統計的アプローチ：統計モデル、ベイズネットワークなど (Artificial Intelligence Act EU) (AIACT Info EU)。

3. 高リスクAIシステム

AI Actでは、特に高リスクと見なされるAIシステムに対して厳格な規制が適用されます。高リスクAIシステムの例としては、以下のようなものがあります：

生体認証および識別システム：リアルタイムの遠隔生体認証システム（例：顔認識）。
重要インフラ管理：電力網、交通管理システムなど。
教育および職業訓練：学生や従業員のパフォーマンスを評価するシステム。
雇用、労働管理：採用プロセスで使用されるAIシステム。
法執行および司法：犯罪リスク評価システム、証拠分析システムなど (Artificial Intelligence Act EU) (EUR-Lex)。

4. 限定リスクおよび最低リスクAIシステム

限定リスクと最低リスクに分類されるAIシステムについては、以下のような透明性要件が適用されます：

透明性の確保：ユーザーがAIシステムと対話していることを明確にする義務。
使用の告知：チャットボットやディープフェイクなど、AIシステムの使用が明確に告知されるべき場合 (AIACT Info EU)。

5. 非適用範囲

特定の状況や用途については、AI Actの適用外となる場合があります。これには以下が含まれます：

個人の私的使用：個人が非商業的に使用する場合。
国家安全保障：国家安全保障目的で使用される場合。

目的

AI法は、以下の主要な目的を持っています：

安全性と基本的権利の保護：EU市場に提供されるAIシステムが安全であり、既存の法律および基本的権利を尊重することを確保する。
法的確実性の提供：投資と技術革新を促進するための明確な法的枠組みを提供する。
効果的なガバナンスと執行：既存の法律に対するガバナンスおよび執行を強化する。
市場の統一：合法的で安全かつ信頼性の高いAIアプリケーションの単一市場を形成し、市場の断片化を防ぐ (EUR-Lex) (AIACT Info EU)。

3. リスクベースのアプローチ

AI法は、リスクベースのアプローチを採用しており、AIシステムのリスクレベルに応じて異なる規制要件を適用します。具体的には、以下のようなリスクカテゴリーが設けられています：

禁止されるAIシステム：人間の尊厳や基本的権利に重大なリスクをもたらすAIシステムは、使用が禁止されます。例えば、社会的スコアリングシステムや一部の生体認証システムが含まれます。
高リスクAIシステム：重大なリスクを伴うAIシステムには、厳格な要件が課されます。これには、安全性、データガバナンス、説明可能性、監視義務などが含まれます。具体例として、医療機器、交通管理システム、教育用AIなどが挙げられます。
限定リスクAIシステム：特定の透明性要件が適用されます。例えば、ユーザーがAIシステムと対話していることを明確にする必要があります。
最低リスクAIシステム：リスクが低いと見なされるAIシステムには、特に規制は課されませんが、任意の行動規範が推奨されます (Artificial Intelligence Act EU) (EUR-Lex)。

リスクごとの対応の違い

EUのAI法（AI Act）は、リスクベースのアプローチを採用しており、AIシステムのリスクレベルに応じて異なる義務を課しています。以下に、リスクごとの具体的な義務をまとめます。

1. 禁止されるAIシステム

禁止される行為には、次のようなAIシステムの使用が含まれます：

個人の社会的スコアリング：政府または公共機関による、社会的行動に基づいた個人の評価。
操作的技術：人間の意思決定に重大な影響を及ぼす、サブリミナル技術を用いた操作。
特定の生体認証システム：リアルタイムの遠隔生体認証（例：顔認識）を公共の場で使用することは、非常に限定的な状況を除いて禁止されます。

2. 高リスクAIシステム

高リスクに分類されるAIシステムは、厳格な規制要件を満たす必要があります。これらのシステムには以下のような義務が課されます：

リスク管理システムの導入：AIシステムのリスクを評価し、軽減するためのリスク管理システムを導入する。
データガバナンス要件：データの質と完全性を確保するためのガバナンス手続きを実施。
技術文書の作成：AIシステムの設計、開発、テスト、評価に関する詳細な技術文書を作成し、保持する。
透明性の確保：システムの機能や意図についてユーザーに対する透明性を確保する。
人間の監視：AIシステムの結果を人間が監視し、必要に応じて介入できる仕組みを整備する。
サイバーセキュリティ：AIシステムがサイバー攻撃に対して十分な耐性を持つようにする (EUR-Lex) (AIACT Info EU)。

3. 限定リスクAIシステム

限定リスクに分類されるAIシステムには、主に透明性に関する要件が課されます：

ユーザー通知：ユーザーがAIシステムと対話していることを明確に通知する必要があります（例：チャットボット、ディープフェイクなど）。
基本的な情報提供：AIシステムの提供者は、システムの基本的な情報をユーザーに提供し、その使用目的を明示する義務があります (Artificial Intelligence Act EU) (AIACT Info EU)。

4. 最低リスクAIシステム

最低リスクに分類されるAIシステムについては、特に法的な義務は課されません。ただし、ベストプラクティスや倫理的ガイドラインに従うことが推奨されています。

4. 義務と遵守

AIシステムの開発者および提供者には、以下の義務が課されます：

リスク管理システムの導入：高リスクAIシステムの提供者は、リスク管理システムを導入し、定期的にリスク評価を行う必要があります。
データガバナンス：データの質、完全性、および正確性を確保するためのデータガバナンスプロセスを設ける必要があります。
技術文書の作成：AIシステムの設計、開発、テスト、評価に関する技術文書を作成し、維持する義務があります。
透明性の確保：高リスクAIシステムの使用について、ユーザーに対する透明性を確保し、ユーザーがシステムの動作や意図を理解できるようにする必要があります。
監視と報告：AIシステムの使用に関連する問題を監視し、必要に応じて是正措置を講じる義務があります (Artificial Intelligence Act EU) (AIACT Info EU)。

5. ガバナンスと執行

AI法の執行は、各国の監督機関と欧州人工知能委員会（European Artificial Intelligence Board, EAIB）によって行われます。各国の監督機関は、国内での規制遵守を監督し、EAIBは全体的な調整とガイダンスを提供します。また、規制サンドボックスが設けられ、新技術のテストと評価が促進されます (EUR-Lex)。

6. 結論

EUのAI法は、AI技術の発展と利用に伴うリスクを管理しつつ、技術革新を促進することを目的としています。リスクベースのアプローチを採用することで、特定のリスクに応じた適切な規制を行い、AIシステムの安全性、信頼性、および倫理性を確保するための包括的な枠組みを提供します。これにより、EUはグローバルなAIリーダーシップを維持しつつ、市民の権利と安全を守ることが期待されます。

罰則について

EUの人工知能法（AI Act）における罰則は、違反の深刻さに応じて異なるレベルで規定されています。以下に主要な罰則について説明します。

1. 重大な違反に対する罰則

最も深刻な違反には、以下のような行為が含まれます：

禁止されているAIシステムの使用や提供。
高リスクAIシステムの適切な評価や認証なしでの市場投入。

これらの違反に対しては、罰金額が非常に高く設定されています。具体的には、違反企業に対して以下のいずれか高い方の罰金が科されます：

企業の年間世界売上高の最大6%。
最大3000万ユーロ (Artificial Intelligence Act EU) (EUR-Lex)。

2. その他の違反に対する罰則

その他の規制違反、例えば、必要なデータガバナンス手続きの不履行や透明性要件の不遵守などに対しては、以下のいずれか高い方の罰金が科されます：

企業の年間世界売上高の最大4%。
最大2000万ユーロ (EUR-Lex)。

3. 軽微な違反に対する罰則

比較的軽微な違反には、例えば、技術文書の不備や報告義務の不履行などが含まれます。これらの違反に対しては、以下のいずれか高い方の罰金が科されます：

企業の年間世界売上高の最大2%。
最大1000万ユーロ (Artificial Intelligence Act EU) (AIACT Info EU)。

4. 追加の制裁措置

罰金の他に、以下のような制裁措置も含まれます：

違反製品の市場からの撤回命令。
違反企業に対する事業停止命令。
公的な警告の発行や違反の公表 (EUR-Lex)。

これらの罰則は、AI法の厳格な遵守を促進し、AIシステムの安全性、信頼性、倫理性を確保するために設けられています。