ChatGPTのセキュリティを破壊！最凶マルウェア「Morris II」が開発成功
ジェネレーティブAI（GenAI）技術が急速に進化し、多くの企業がこの技術を新しいアプリケーションや既存のアプリケーションに組み込んでいます。しかし、この進化に伴い、サイバー攻撃の新たな脅威も浮上しています。イスラエル工科大学とコーネル大学の研究者たちは、ジェネレーティブAIエコシステムを標的とした「Morris II」というコンピュータワームを開発しました。このワームは、自己複製する攻撃プロンプトを利用し、AIエージェント間で自動的に拡散し、悪意のある活動を行うことができます。この記事では、Morris IIの仕組みやその影響について詳しく解説します。
目次
1. はじめに
近年、ジェネレーティブAI（GenAI）の進化が目覚ましく、その技術を利用したエコシステムが急速に拡大しています。しかし、これに伴い、AIエコシステム全体を標的とする新たなサイバー攻撃のリスクも浮上しています。イスラエル工科大学とコーネル大学の研究者たちは、この新たな脅威に対抗するために「Morris II」というAIワームを開発しました。このワームは、AIエージェント間で自己複製し、悪意のある活動を行う能力を持っています。
https://www.pcmag.com/news/malware-worm-poison-chatgpt-gemini-powered-assistants
2. ジェネレーティブAIエコシステムとは？
ジェネレーティブAIエコシステムとは、AIサービスを利用して入力データを処理し、他のAIエージェントと連携する半自律的または完全自律的なエージェントの集合体を指します。これらのエージェントは、ローカルモデルやクラウド上のリモートモデルを利用して、さまざまなタスクを自動的に実行します。
3. Morris IIの脅威
Morris IIは、ジェネレーティブAIエコシステムを標的とした初のワームであり、自己複製するプロンプトを使用してエージェント間で拡散します。このワームは、入力データに悪意のあるプロンプトを埋め込み、それがAIモデルによって処理される際に、自動的に拡散し、悪意のある活動を行います。
4. ゼロクリックワームの仕組み
Morris IIは、ユーザーのクリックを必要としない「ゼロクリック」ワームです。ジェネレーティブAIモデルが自動的に推論を行うため、ユーザーが何も操作しなくてもワームが発動し、エージェント間で拡散します。この特性により、従来のクリックベースのマルウェアよりも広範囲に影響を与える可能性があります。
5. 実験結果と影響
研究者たちは、Morris IIをジェネレーティブAIを搭載したメールアシスタントに対してテストし、スパムメールの拡散や個人情報の流出を実演しました。この実験では、Gemini Pro、ChatGPT 4.0、LLaVAという3つの異なるAIモデルが使用され、それぞれのモデルに対するワームの効果が評価されました。
6. セキュリティ対策の必要性
この研究は、ジェネレーティブAIエコシステム全体に対するセキュリティ対策の重要性を強調しています。AIエコシステムは、今後さらに拡大することが予想されるため、これらの脅威に対処するための新たなセキュリティプロトコルの開発が急務です。
7. まとめ
Morris IIは、ジェネレーティブAIエコシステムにおける新たなサイバー脅威の象徴であり、その自己複製能力とゼロクリック特性は、従来のマルウェアとは異なる次元のリスクをもたらします。ジェネレーティブAI技術が進化する中で、これらの脅威に対処するためのセキュリティ対策の強化が求められています。