顔認識AIが投げかける課題
今、顔認識AIベンチャーClearview AIが高額な罰金を請求されたことで世界中で話題になっています。
おそらく最近までこの企業は知っている人は少ないかもしれません。
2017年に創業しニューヨークに拠点を置く企業ですがどちらかというと秘密（ステルス）な企業でした。
大きく世に知られることになったはじめのきっかけは、NYタイムズの下記報道です。
なかなか感情をあおるデザインを駆使してますが、要はこの企業はSNSからデータを自動収集して学習することで顔認識する技術を販売しています。
上記NYタイムズ記事内では30億枚とありますが、投稿時点での報道では、既に「200億万」枚以上も収集しているとのことです。
Google検索の顔画像版みたいなイメージです。
その性能が高いことで、一時期は警察やFBIなど犯罪捜査向けにも販売していたそうですが、今は契約を解除しています。
冒頭記事では英国の訴訟とありますが、他の国・組織からも同じような非難を受けています。
下記サイトが2020年からの主要な出来事を時系列でまとめてくれているので引用してみます。
単に違反・契約停止だけでなく、2022年3月にウクライナ政府が逆に利用を始めています。
用途としては、戦死したロシア兵士を特定して故郷の家族に教えてあげるため、というのが公式な発表です。
もちろん強引な戦闘行為に踏み切ったロシアへの反撃として世界の多くの国から支持を受けている国です。私個人も領土を奪われないよう応援している一人です。
ただ、このサービスの難しいのはどのように使われているのかが正直分かりにくい点です。
あくまでサービス提供側はデータベースとその解析能力を提供するため、利用方法にまで責任を持つとは考えにくいです。
今は有事なのでこれ以上の是非を論じるのは難しいですが、ぜひ落ち着いた後に、世界をよくする機会として顔認識AIの取り扱いを世界レベルで明確にしてほしいと思います。
実は既に多くの地域や企業では顔認識技術を利用しない動きが起こっています。
特に、過去に顔認識技術で物議を醸したGoogleやMeta（旧Facebook）は明確に宣言までしています。
地域別にみると、欧州での規制の動きが先行しています。
元々は、個人情報保護としてGDPR（General Data Protection Regulation：一般データ保護規則）というルールを進めて、単にEU域内だけでなくEU域外とのアクセスでも対象となります。
そして丁度今、新しい規制としてAI規制法を準備しています。
ざっくりいうと、対象はGDPR同様EU居住だけでなくオンライン上でのやりとりも含まれ、また同じような厳罰（企業であれば最大で全売上の4%！）が課される予定です。
下記のような区分で厳罰対象となる規定が文書化されていますが、関心を持った方はぜひ上記の日本語解説サイトをご覧ください。
（ⅰ） 禁止されるAIシステム
（ⅱ） ハイリスクAI
（ⅲ） 透明性義務を伴うAI
（ⅳ） 最小限リスク／リスクなし
施工は早くても2024年以降といわれています。
日本国内では今のところ、上記法案への追従の動きはなく別途まとめたガイドラインのレベルですが、GDPRの影響は実際にEU域外に広がったことから、同様の動きが起こる可能性もあります。
想定してなかった新しい技術とそれが及ぼす社会への害悪は、都度判断して改善していくしかありません。
〇か×かの二元論だけで済まない話ですが、ぜひ今回の件で、顔認識AIに対する関心が集まって国際的な議論と改善に進めばと思います。
少なくとも現時点では、不特定多数がアクセスできるサービスに、自分や知り合いの画像を安易にネットにUPするのは一歩引いて判断した方がいいかなと思います。