見出し画像
Photo by ia19200102

ドラマ「ハコヅメ」を見て考えた。「顔」画像の適正な利用の在り方とは？

一般社団法人次世代基盤政策研究所（NFI）


こんにちは。NFI理事の加藤です。
前回に引き続き、今日も顔画像とそれからAIについて少し考えていきたいと思います。関連する内容としては以下をご覧ください。

皆さんはヨーロッパでAIに関する法制度の整備が議論されているのをご存じでしょうか？EU（European Union、欧州連合）の欧州委員会が2021年4月21日に"Proposal for a Regulation on a European approach for Artificial Intelligence"（以下、「AI規則案」）というものを公開しました。これはAIをリスク毎に分類し、リスクが認められるような場合にはAIの利用を規制しようというものです。ビジネスの世界ではGDPR（General Data Protection Regulation、一般データ保護規則と訳される欧州のデータ保護（個人情報保護）に関するルール）が有名ですが、このAI版のようなものです。AIの有用性を認めつつ、AIの利用によって人間の権利が侵害されるようなことを防ごうとする意図があります。

このような欧州委員会によるルールの提案に対して賛否両論が巻き起こっており、AIを利用したい立場の人たちからは新しい技術やビジネスの創出を阻害するという意見も出されています。新しい技術やビジネスを創りだそうという人たちからすれば、なるべくルールに縛られず活動したいと考えているのかも知れません。もちろん、こういった考え方を私も理解出来るのですが、しかしながら多くの場合、いくつかの誤解も生じているのではないか思っています。例えば、EUでAIに関するルールが出来ることによって、技術開発に大きな影響が出るのかと言えばそれは無いと理解しています。今回のルールは市場に投入されるAIに関する規制であって、市場投入前のAI、つまり研究や開発段階には適用されないからです。

もちろん、AIのようなものは研究開発と市場投入の境界線を設けにくいのだというご意見もあるところだと思いますが、市場投入にあたってはこのルールが無くても一定の責任が当然に生じます。むしろルールによって事前に明確化されることのメリットの方が大きいのではないでしょうか。とかくルール化されることは嫌われてしまいがちですが、無駄なルールでなければ、どのようにルールを設計し必要に応じて変えていくかを議論する方が生産的なことも多いと思います。実はこのAI規則案では、顔画像を含んだ生体データの利用に制限が加えられています。AI規則案の今後の議論によっては、前回ご紹介したような顔画像の利用に関して規制が強化されていく可能性もあります。

ただ、「どうしてAIの利用にルールが必要なの？」と聞かれると、なかなか具体的に説明することが難しいなと感じていました。身近なAIの利用とそのメリット・デメリットが分かる例がないからです。個人的にAIの議論はよくされているのに、肝心のAIのユースケースについては具体例が少なく、議論が抽象的になりがちだなと感じています。そんな中、以前にご紹介しました川村先生や松原先生のご研究はとても具体的でAIと著作権法の議論を有意義にすることが出来ました。

さて、話は変わりますが、皆さんは「ハコヅメ〜たたかう！交番女子〜」というドラマをご存じでしょうか？毎週水曜日午後10時から放送されていたドラマで、戸田恵梨香さんと永野芽郁さんのW主演ということで注目もされていました。このハコヅメには原作のコミックがあり、私はこのコミックの大ファンで、単行本を全巻購入して何度も読み返しています。内容は新任の女性警察官の目線で、警察官がどのような職業なのか、私生活はどんな感じなのか等、時にシリアスに時に笑える作品になっています。原作者の泰三子さんが元警察官ということもあってか、非常にリアルに感じる内容になっています。

このハコヅメの中で、主人公が捜査資料である大量の監視カメラの映像をチェックするというシーンがあります。特別捜査本部が立ち上がるほどの大きな事件の捜査で、勤務の疲労や寝不足も重なる中、被疑者の映り込んでいそうな監視カメラの映像を集められるだけ集めてきて、その映像を一つ一つ目視で確認していきます。大量の映像の中のどこに被疑者が映り込んでいるかも分からない、一瞬でも見逃すことは出来ない、でもほとんどの映像には映っていない、多くの場合変化のない映像をただひたすら眺め続け気が狂いそうになる、というシーンです。（ちなみにこのシーンは単行本3巻「その22 捜査一課」に含まれます。）ああ、こんな時、大量の映像データをコンピュータ処理にかけて、人が映り込んでいるシーンだけをピックアップできたらどんなに楽なのだろうか。何なら、顔認識技術を用いて被疑者が写っているかどうかを確認できたらこの目視作業はいらなくなるのではないかと、主人公に感情移入している読者としては思ったりします。

でも、この主人公も公権力だし、それって適正手続き的な観点から言ってもどうなのだろうかと思い返したりもするわけです。あれ、そうすると何が良くて何が悪かったんだろうかと。まずこのような犯罪捜査にいわゆる顔認識技術のようなものが用いられる場合にどんな問題があるのでしょうか。私は刑事法分野については素人なので、詳しくはこちらような文献をご覧いただければと思います。

さらに詳しく知りたい方はこちらもおすすめです。

指宿先生や稲谷先生は刑事手続きにおけるプライバシー保護について解説をされていますが、もしかすると「これもプライバシーなの？」と疑問に思われる方もいらっしゃるかも知れません。これについては、NFI理事でもある宍戸先生が作成された以下の資料P4をご覧ください。P4の内容については、あらためてNFIとして解説の場を設けたいと考えています。

さて、本題に戻りまして、犯罪捜査に顔認識技術を使うかどうかを検討するにあたっては様々なチェックポイントがあります。これらの細かな部分や技術的な論点については後日まとめたいと思いますが、本日はそのうち最も重要なものをご紹介します。それは「比例原則」と呼ばれるものです。比例原則とは、達成されるべき目的とそのために取られる手段としての権利・利益との間に均衡を要求する原則、のように説明されることが多いかと思います。「雀を撃つのに大砲を使ってはならない」と説明されることもあります。欧州における法律、例えばGDPRやAI規則案もこの考え方をとっていると言われています。

データ保護の問題を検討する場合に、法律家が「答えを出さない」「基準を示さない」と批判される所以の少なくない部分がここにあるように個人的には感じています。つまり、ある手段が適当であるかどうかを検討するためには目的が何であるかが定めっていないと法律家は考えています。ところが、例えばある技術を利用したいと考える企業や技術者は「○○という技術は使えるかどうか？」という問いを投げてくることが多いのです。また、仮に「△△に○○という技術を使う事は適当である」という結論を出した場合であっても、「△△で良いのならば□□で使っても良いだろう」と解釈の幅を（勝手に）広げて事故が起こるケースもあります。

さて、顔認識技術に話を戻しますと、顔認識技術を犯罪捜査に使って良いのか？という問いはあまりも検討範囲が広すぎると言えます。ザックリ申しましても、その犯罪とはどのようなものか、捜査は任意なのか強制なのか、令状の有無は、といった刑事法上の論点が数多く存在します。技術的にも、1対1比較なのか、1体多比較なのか、それとも一般特性との照合なのか、正確性はどの程度なのか、と課題山積です。これらの条件が詰められていって、はじめて適当かどうかが判断できます。テロの蓋然性が高まっている中で空港の入国ゲートでテロの被疑者を発見すること、書店で万引きをしそうな一般特性を持った人を発見しようとするのでは、このような検討を経て導き出される結果は異なってきます。

これは民間分野での「顔」画像であっても基本的には同じことだと思います。とある企業の機密エリアへの入退出を管理することと、地下鉄のゲートの入退出を管理することを同列に議論できるとは思えません。やはり一つ一つのユースケースに基づいて、目的と手段を検討していくことが重要です。個人情報の保護やプライバシーの保護の必要性が各所で説かれていますが、なんのための個人情報保護、プライバシー保護なのか、対象となる情報の利用目的と手段が定まらないことには議論できないでしょう。

さて、こういった前提を踏まえて前回もご紹介した事例を見てみるとどう見えるでしょうか。

実はこの件については少し前に高木先生が問題提起をされていました。読売新聞の記事を元にしたツイートですが、新聞記事の書かれ方を見てどう思われるでしょうか。サラッと併記されていますが、並べて議論して良いようなものなのかは疑問です。

JILISでのAIに関する議論は、良い具体例と悪い具体例を両端においてそれぞれから検討を進めることが出来たので個人的には有益と感じられたのではないかと思っています。今後はこういった具体的な例を伴って議論を進めることが重要なのではないでしょうか。