AI時代のプライバシーを紐解いていくために探索すべきこと
※このインタビューは2024年5月23日に収録されました
AIの利活用だけでなく、プライバシーを始めとした個人の権利についても注目する必要が高まってきています。
今回はカーネギーメロン大学で研究学生として活動されているハンクさんに、AI開発におけるプライバシーをデザインするための視点についてお伺いしました。
Kohei: 皆さんこんにちは。本日もPrivacy Talkにお越し頂きありがとうございます。
本日は米国からハンクさんに参加いただいています。ハンクさんはAI分野での研究者として活動しています。今日はハンクさんの研究分野について深掘りしていきたいと思います。
ハンクさん。本日はお越し頂きありがとうございます。
Hank: インタビューに招待いただきありがとうございます。
Kohei: ありがとうございます。まずはハンクさんのプロフィールを紹介したいと思います。
ハンクさんは人間中心のAIを始め、人とコンピューターの関係性についての研究を行っています。彼の研究を通して、プライバシーを保護したAIデザインの実現を目指しています。人間中心のAIに加えて、オンライン行動やChatGPTに関連したプライバシー研究も行っています。現在はカーネギーメロン大学の研究学生で、Sauvik Das先生、Jodi Forlizzi先生の下で研究を行っています。
ハンクさん。本日はお越しいただきありがとうございます。
Hank: ご紹介いただきありがとうございます。
Kohei: では本日のアジェンダに移っていきたいと思います。まずはハンクさんの研究に至った経緯についてお伺いしたいと思います。いくつか研究ペーパーも拝見させていただき、非常に面白いテーマを研究されていると感じました。現在の研究に至った背景について、お伺いさせて頂いてもよろしいでしょうか？
コンピューターと人間に関する新しい研究
Hank: わかりました。二つの理由を紹介したいと思います。一つ目はマクロ的な理由で、もう一つはミクロ的な理由になります。
マクロ的な理由は、大学生の時に人とコンピューターの関係性に関心を持ち、研究を始めたことがきっかけになっています。私が研究を始めた当初には、コンピューターと人の関係について詳しく研究結果はとても少なかったです。
私がコンピューターと人の関係に関する研究に着手した当初はプライバシーについては触れていませんでした。モバイルデバイスを始めとした通知システムの研究が面白かったので、その分野に注力していました。
この通知システムに関連した分野を探索するにつれ、プライバシーと相反する点がいくつかあるとわかってきました。そういった背景もあり、2020年に私が大学を卒業したタイミングで、これまで研究していた分野を変更しようかと思い始めました。
丁度このタイミングでプライベートなセキュリティ利用についての非常に興味深いトピックが見つかったのも理由の一つです。この頃から人とコンピューターの関係性のデザインにおいて、プライバシーとセキュリティが徐々に注目されていくようになりました。
こういった背景を経て、現在の調査領域に行き着くことになります。ミクロレベルでの話をすると、私自身常に新しい分野に好奇心を持っているので、研究アドバイザーの方々とのやりとりを経て、今の分野に関心を持つようになりました。
また、私がプライバシーとAIに関心を持っている理由もここに紐づいています。最近では責任あるAIについても盛んに取り上げられるケースも増えてきていて、私が研究している西洋の文脈ではAIの社会的な責任についても広く技術と結びつけられる動きが広がってきています。
また、これまでにプライバシーは常に議論が繰り返されているテーマでもあり、AIや機械学習とプライバシーについては非常に相性が良いと考えています。差分プライバシーや連合学習等で既に議論されている効果的なツールもあります。
こういったツールに関する議論に加えて、今後はデータの取得問題についても取り上げたいと思っています。AIによって我々の行動が変化し、プライバシーへ与える影響がより大きなものへと変わってきていると思います。
例えば、顔認識や監視に関連した技術はAIを搭載したものが広く普及し始めていて、これまで以上にデータの取得については検討を重ねる必要が生まれてきています。ただ、どこまでのサイズについてAI技術が個人に影響を与えうるかについては検討が必要になるかと思います。
また、私が院生として研究を始めた当初よりも社会全体でプライバシーについて考える機会が減ってきていると思います。ここまで紹介してきたように私が現在の研究分野に落ち着いた理由として、マクロレベルではAIシステムの責任が問われるようになってきたことが要因で、ミクロでは私自身のプライバシーに対する関心が徐々に高まってきたこともあり、今の研究を始めました。
Kohei: 現在のプライバシーについての動きの整理を含めて紹介いただきありがとうございます。ハンクさんはカーネギーメロン大学で人とコンピューターの関係性について研究されていると思います。
この分野は私も非常に興味を持っているので、よければ大学での研究テーマと今後のビジョンについてお伺いしてもよろしいでしょうか？
AI時代のプライバシーを紐解いていくために探索すべきこと
Hank: わかりました。先ほど簡単にお話ししたように、現在はプライバシーとAIに関連した研究を行っています。私の研究は主に二つの観点から取り組んでいます。一つが実践者の観点からの研究で、これは「AIシステムを構築する際にどういった観点で取り組んでいるのか」という研究です。
AI技術を実装する際に法的な課題や利用者の課題に対して、どのような技術を利用して問題解決に取り組んでいるのかという観点です。私が大学院の研究者になったばかりの頃には、基礎研究を中心に取り組んでいました。
この研究の重要なポイントとして、AIのポリシーに変更があったタイミングで、実践者にどのような影響があり、AIを活用したシステム設計にどのような影響があるのかということです。そのため、AIを利用するリスクについて理解するために、意思決定過程で必要な支援についても研究しています。
AIはもちろんのこと、実践者がAIとプライバシーについてどのように考えているかも観察しています。詳細については、後ほど紹介したいと思います。
そしてもう一つが「AI実践者がプロダクト開発を検討する際に、どのようなプライバシーに関するガイダンスや支援が必要か」を研究しています。私が研究で取り組んでいるのは以上の内容です。
ここまで紹介してきた研究を進めるにあたり、実践者に直接インタビューを実施して現場やデータベースでのAI分析についてどういった見解を持っているのかも聞くようにしています。
AIシステムの社会実装が進んでいくに連れて、世界的に大きな弊害も発生し始めています。このような弊害に対応するために実践者が活用できるツールの開発やプライバシー侵害の認識、最終的なAIプロダクトの開発に貢献するような取り組みが進んできています。
これまでに私が取り組んできた研究を通して、AI実践者から多くのことを学びました。また、エンドユーザーの考え方も研究に取り入れることで消費者とプロダクトの双方が抱えている課題について比較して整理することができるようになりました。
これまでに実施したプログラムにはプライバシーの文脈研究も含まれます。この研究はOBA（オンライン追跡広告）に関する調査を実施したもので、ソーシャルメディアやウェブサイト、もしくはインターネットブラウザーを通して取得した行動履歴を分析するものです。
情報の正確性と最適化された広告体験
オンラインでの利用者履歴を追跡することで、個別に最適された広告情報を掲載することができるようになります。OBAの研究を通して、いつどのようにして我々が最適化された広告を見せられるかを観察しました。
この研究を通して、利用者の履歴情報を十分に取得できていない場合には正確に個別最適化された広告が掲載されないことがわかりました。
（動画：When and Why Do People Want Ad Targeting Explanations? Evidence from a Mixed-Methods Field Study）
最適化するためには追加でどのような情報が必要なのかという問いが重要です。また、最近では大規模言語モデルについての研究も始めているのですが、ChatGPTのような会話型のモデルはOBA同様に興味深い対象の一つです。
会話型モデルの研究については、特定のモデルがどのようなプロセスへユーザーへ最適化された情報開示の過程をに理解するのか研究を進めています。
例えば、ChatGPT利用時に、ChatGPTを通してどういった個人情報を第三者へ共有しているのかに加えて、その際に発生しうるリスクについても研究しています。そして、ChatGPTにおける教師データやメンタルモデルについても検証しています。
この研究を深ぼっていくためには、どのようにエンドユーザーがAIプロダクトと関連しているのかを探求することが必要です。この探求には二つの側面が必要になります。
一つ目は実践者が直面している課題について、そして二つ目がエンドユーザーが直面している課題についてのテーマです。私が取り組んでいる研究は実践者に重きをおきながら実施しています。
Kohei: とても興味深い研究テーマですね。研究内容については後ほど触れたいと思います。実践者が抱える課題については、いくつか出版されているペーパーも拝見させていただき、非常に参考になる部分もお見受けしました。とても参考になる内容です。
ここからは次のトピックに移っていきたいと思います。AIが発展していくことによって、これからのプライバシーを取り巻く環境がどのように変わっていくのかが気になっています。
ハンクさんのペーパーではClearviewAIという企業を例に出して、新しいスタートアップ企業の誕生によってこれまでのプライバシーのあり方が変化していくと紹介されていました。ここからはAIの誕生によってどのようにプライバシーの在り方がどのように変化していくか見解をお伺いしてもよろしいでしょうか？
〈最後までご覧いただき、ありがとうございました。続きの中編は、次回お届けします。〉
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫