【CODE BLUE 2024】小勝 純 / Jun Kokatsu - 講演関連資料 / Presentation resources -
●講演概要 / Abstract
[ja] Piloting Edge Copilot
WebブラウザーのAI機能はユーザーにとって便利だが、攻撃者にとってはどうだろうか？ この講演では、Microsoft Edgeブラウザに搭載されたAI機能であるEdge Copilotによって発生した複数の脆弱性を紹介する。例えば、あらゆるサイトの情報を盗む方法や、ユーザーの許可なしにマイクやカメラへのアクセスを行う方法などである。 さらにこの講演では、比較的安全なシステム（Edge）と安全なシステムではない（Bing）の統合により、安全なシステムに実装された緩和策が安全ではないシステムを介してどのようにバイパスされるかを説明する。さらに、従来のセキュリティ緩和策では防げない、LLM（大規模言語モデル）固有のリーク手法も解説する。
[en] Piloting Edge Copilot
The integration of AI features into web browsers are useful for users, but how about for attackers?
In this talk, I will explain the security implications of integrating the AI-powered Edge Copilot into the Microsoft Edge browser, by showcasing multiple vulnerabilities I discovered. Such as stealing content of any site, accessing microphone and camera permissions without user’s permission, and so on.
This talk also highlights the interesting integration of a relatively secure system (Edge) with an insecure system (Bing), and how a mitigation enforced by a secure system can be circumvented using an insecure system. Additionally, I will demonstrate how LLM-specific exfiltration techniques can be employed to bypass traditional security mitigations.
●略歴 / Bio
[ja] 小勝 純
ブラウザーおよびWebセキュリティ・エンジニア／リサーチャー。フォロワーのいない思想的リーダー。
現在、GoogleでWebおよびLLMセキュリティに従事している。以前は、MicrosoftのChromium Edgeセキュリティチームの創設メンバーであった。
[en] Jun Kokatsu
Browser and Web security engineer/researcher. Thought leader without a follower :D
Currently working on Web and LLM security at Google. Former founding member of Chromium Edge Security team at Microsoft.
●講演動画 / Presentation video
●講演スライド / Presentation slide
（Click the image to open the PDF via an external link）
●写真 / Photo
●レポート記事 / Reports
[ja] [レポート]Piloting Edge Copilot – CODE BLUE 2024 （Developers IO / クラスメソッド）