【裏社会】ダークウェブに潜む“闇”の生成AI「WormGPT」の実態とは。
最近、chatGPTなど生成AIの発展がめざましく、社会を大きく変えつつありますが、その一方「ダークウェブ」で密かに発展している「闇のAI」の存在をご存じでしょうか。今回は、ダークウェブ上で運営されているAI サービスがもたらす脅威や、それらを取り届く実態を深探りしていきます。
包丁でおいしい料理を作ることも、人を殺めてしまうこともできます。
天才アインシュタインの発明「相対性理論」から、原子爆弾は作られました。
あらゆるものは使い方によって光にも闇にも染まってしまう・・・
AIという超知能テクノロジーを悪人たちが見過ごすわけもなく、その脅威は計り知れません。怖いですよね。
ということで今回は、あまり知られていないAIの闇の部分に焦点をあててみようと思います。
そもそもダークウェブとは・・・
通常の検索エンジンではアクセスできない隠されたインターネット空間のことを指します。この空間では匿名性が高く、合法・非合法を問わずさまざまな取引、犯罪行為の温床として知られており、セキュリティの専門家からも注視されています。
①ダークウェブ版 生成AI サービスの脅威
1. 犯罪支援に最適化された AI
通常の生成 AI は、差別的・暴力的な内容や犯罪行為を助長するようなやり取りを制限するフィルタが備わっています。しかしダークウェブで運営されている AI サービスは、意図的に制限を外し、犯罪行為を支援するようにチューニングされているのが特徴です。
マルウェアの作成や高度なフィッシングメールの生成
クラッキングの支援
不正カード決済可能なサイト検索
こうした行為を容易にする AI サービスは、サイバー犯罪のハードルを劇的に下げています。高度な知識やスキルを持たない人でも、AI を使えば簡単にサイバー攻撃が可能になり、社会に大きな脅威を与える存在となっているのです。
2. 「WormGPT」━━ ダークウェブ最大シェアの生成AI
動画の中で特に注目されているのが、ダークウェブ上で人気を博している「WormGPT」という生成 AI です。これはchatGPT などと同様の大規模言語モデル (LLM) をベースにしながらも、犯罪用途を前提に設計されているのがポイント。
アンチアビューズフィルターが一切なく、どんな犯罪的な質問に対しても拒否しない
攻撃用コードやフィッシングメールの生成
クラッキングや DDoS 攻撃の手順などもサポート
まさに「闇のchatGPT」と呼ぶにふさわしい存在と言えるでしょう。
②ダークウェブにおける 3つのAIトレンド
動画では、ダークウェブで横行している AI の悪用例として、主に以下の 3つのトレンドが紹介されています。
ジェイルブレイクされたchatGPT
本来のチャットGPTには、差別的・暴力的表現や犯罪行為に関する回答を制限する仕組みがあります。
しかし、システムを意図的に「脱獄」させる (制限を外す)と、AIが人類滅亡を照らすような発言を始めたり、犯罪手法を指南するようになる場合も報告されています。
このような技術が一般利用者に広まっている背景には、インターネット上で「脱獄」手順を解説した情報が豊富に存在していることがあります。これらの手順は簡略化されており、プログラミング知識のない初心者でも実行可能なケースが増加しています。また、ソーシャルメディアやダークウェブを通じて、これらの手法が積極的に共有されているため、アクセスしやすい環境が整っています。
インターネット上にはジェイルブレイクのやり方が多数投稿されており、一般利用者でも手を出しやすい状況です。
AIアカウントの売買
ダークウェブ上では、10万件を超えるchatGPTのアカウント情報が売買されているとの報告があります。
アカウントを乗っ取られた場合、過去のやり取り (会話ログ) を悪用され、個人情報やビジネス情報が流出するリスクがあります。例えば、ある企業の幹部のアカウントが乗っ取られたケースでは、そのアカウントに保存されていた重要な商談のログが流出し、競合他社に不正利用された事例が報告されています。このような情報漏洩は、企業の信頼を損なうだけでなく、金銭的な損失をも引き起こします。
WormGPT
犯罪利用を前提として設計されたLLM。
WormGPT は、通常の生成AIと異なり、倫理的な制約や安全フィルターが一切ない設計が特徴です。このため、悪意のある質問にも無条件で回答し、攻撃用コードの作成やフィッシングメールの生成を容易にします。
また、他の悪意あるAIツールと比較して、操作の簡便さとカスタマイズ性に優れている点が際立っています。特に、サイバー攻撃に必要なテンプレートや手順が標準で備わっており、専門知識のない利用者でも即座に高度な攻撃を実行できることが大きな脅威となっています。
③実際の「WormGPT」サイトの概要
動画主がダークウェブ検索エンジン「TOA66」で特定した WormGPT のサイトには、以下のような説明がありました。
ホーム画面
"2021年の GPT-J エンジンにターボチャージャーを積んだAIモジュールだ。オープンAIが制限をかけている一方、WormGPT は自由そのもの。アンチアビューズフィルターも規制も一切ない。"
この説明からも分かるように、WormGPT は既存の生成AIと比較して完全に規制を排除した設計が特徴です。この設計により、通常の生成AIが拒否するような犯罪的なリクエストにも対応可能であり、フィッシングメールやマルウェアの生成など悪意ある用途に特化しています。その結果、専門知識を持たないユーザーでも高度なサイバー犯罪を実行するための手段を容易に入手できる状況を生み出しています。
FAQ (よくある質問)
FAQページには以下のような内容が記載されています。この詳細な記載により、WormGPT は潜在的な利用者に対して明確な利点を示し、具体的な機能や可能性を強調しています。これにより、犯罪者が必要な情報を迅速に得られる仕組みが整えられ、魅力的な選択肢として位置づけられています。
フラウGPTとの比較：他の競合する犯罪用途 AI と比較し、自身の優位性を主張。
ハッキング対象：Facebook、Instagram、TikTok、LINEなど主要なソーシャルネットワークサービスが含まれる。
生成可能なコード：ウイルスやキーロガーなど、悪意あるプログラムの作成が可能。
これらは、犯罪行為を支援するサービスであることを堂々と謳っている内容となっています。
WormGPTの料金体系
1ヶ月：100ドル
1年間：300ドル
永久プラン：500ドル
支払い方法はビットコインやその他の暗号資産が採用されており、匿名性が高い点が強調されています。暗号資産の利用により、取引履歴を追跡することが難しくなり、違法行為を行うユーザーが特定されにくくなります。この匿名性が、犯罪者にとってWormGPTを利用しやすい大きな要因となっています。
これらを見ても分かる通り、WormGPT は完全に違法行為の手助けを目的とした生成AIであり、多くのサイバー犯罪者や悪意ある利用者を惹きつけています。
④私たちが取るべき対策
1. 基本的なセキュリティ対策の徹底
推測されにくいパスワード を使用し、定期的に更新する。
システムやソフトウェアを最新に保つ。
ログを監視して、不審なアクセスを早期に検知する体制を整える。
バックアップを習慣化し、重要なデータは暗号化して保管する。
重要資産の洗い出しを行い、優先的に保護する。
これらの「基本のき」を徹底することが、犯罪者がAIを悪用することによる被害を最小限に抑える鍵となります。例えば、強力なパスワードを設定するだけでなく、多要素認証を併用することで、アカウント乗っ取りのリスクを大幅に削減できます。また、システムやソフトウェアの自動更新機能を活用することで、脆弱性を迅速に修正し、攻撃を防ぐ効果が期待できます。
2. 法整備やガイドライン整備への注目
EU の「AI法」 など、AI技術に関する法整備の動きが進行中です。
透明性を確保することで犯罪者への抑止力となる一方、悪用のヒントを与えるリスクも伴います。
日本でもAIに関するガイドライン策定が避けられない状況です。
技術そのものに善悪はありません。AIをどのように利用するか、私たちの姿勢と責任が問われています。例えば、企業ではAIを利用したヘルスケア診断や環境問題への取り組みが進んでおり、個人レベルでは、教育分野でのAI活用が学習の効率化に寄与しています。これらの実践例を参考に、より倫理的で有益な利用を模索する必要があります。企業や個人が共に倫理感を強く意識し、AIを適切に活用できる環境作りが重要です。
まとめ
ダークウェブ上には、制限の一切ない「闇のAI」が急速に浸透しています。便利であるがゆえに悪用されやすい生成AIの特性を理解し、適切な対策を講じることが求められます。
企業や組織はもちろん、個人も基本的なセキュリティ対策を再確認する。
AIの法的・倫理的な枠組み作りに注目し、状況に応じて適切に対応する。
AIを上手に使いながら犯罪利用やリスクを抑える "責任感" を持つ。
今回は、あえてAIがもたらす闇の部分に焦点を当ててみました。
包丁を使って美味しい料理を作ることも、人を傷つけることもできてしまうように、AIも悪人が使えばさまざまな脅威をもたらしてしまうことは事実であり避けられない問題です。
まず私たち一人ひとりが「知ること」「備えること」を徹底することで、AIの明るい未来を共に築いていきたいですね。