AIがハッカーになる日に備えるには（ForeignAffairの記事）

写真出展：Gerd AltmannによるPixabayからの画像https://pixabay.com/ja/users/geralt-9301/?utm_source=link-attribution&utm_medium=referral&utm_campaign=image&utm_content=4700815

　2021年12月10日にForeignAffairは、AIによるサイバー攻撃が現実のものとなる日に備えるための提言についての記事を発表した。内容は、現在のAIの活用状況、攻撃側と防衛側の対応の差異、サイバー防衛へのAIの活用について概観するものである。AIによるハッキングはアニメでもよく題材となるが、実際に対処するための方向性を示した情報は非常に少ない。今回は参考として、本記事の概要について紹介させていただく。

↓リンク先（Soon, the Hackers Won’t Be Human）
https://www.foreignaffairs.com/articles/united-states/2021-12-10/soon-hackers-wont-be-human

１．本記事の内容について
　・今年はアメリカのサイバー防衛にとって、非常に課題が多かった。コロニアルパイプライン、SolarWindsなどの事件は、最善の防衛資源を有する組織であっても悪質なサイバー攻撃に脆弱であり得ることが示されたのである。これらのサイバー犯罪集団は、まだAI能力を広範囲には活用していないが、将来2017年のNotPetayaような自動化されたツールによる攻撃が発生することが十分に予想される。
　・AIによる恩恵を受けるのは、サイバー攻撃側だけではなく、防衛側もである。無論、攻撃側の持つ優位性を覆すほどのものではないが、どれだけ利益を得られるように管理するのかが問題になるだろう。
　・現在のハッキング事件においてAIがあまり使われていない理由は、人間だけでも十分な成果を上げており、作戦にAIを組み込むとかえって複雑になるためである。サイバーとAIの技術は重複するところがそれなりにあるが、ハッキングにAIを組み込むには、外部の専門家が必要になる。
　・サイバー防衛側の効率性が向上すると、攻撃側は新しい取り組みを模索せざるを得なくなる。攻撃側の常とう手段として、脆弱性を発見した後に実証実験用のコードをハッカーコミュニティで公開し、ツールを開発するというものがあり、これにAIの要素が加わると、非常に強力になるだろう。
　・防衛側については、機械学習が一部で大きな成果を上げている。機械学習は大規模データ中のパターン認識に強みを発揮し、伝統的な侵入検知防止、スパムメール検知などに効果を発揮している。
　・AIの自動脆弱性発見と自動サイバーセキュリティの対決が大きく注目されている。脆弱性の発見はソフト開発の重要部分であるが、大きく動き出したのは割合最近のことである。2016年DARPAは自動ツールにより脆弱性を発見し、リアルタイムでパッチを適用するツール開発の競技大会を開催したが、優勝チームは伝統的な脆弱性発見ツールを多用しており、今後AIの活用により脆弱性発見の効率性を大幅に上げることが問題になるだろう。特にOSは数百万のコードが含まれていることから、自動化による恩恵が期待できる部分であり、認識にかかる労力の軽減が今後の課題になっていくだろう。
　・機械学習AIについては、グーグルのDeepMindが、新たな快挙を成し遂げている。囲碁ソフトだけでなくタンパク質の構造解析にも高い能力を発揮し、大いに医学に貢献したことから、複雑なサイバー防衛への活用も期待できると見る向きもある。
　・攻撃側は、細かいことを気にせず、最大の影響力を与えることを目的とすることが多い。それに対して防御側は、ネットワークを99%以上に稼働させつつ、攻撃も回避しなくてはならないことから、AIの配備により安定稼働が阻害する可能性があると、導入をためらうことになる可能性が高い。ただ、相手が完全自動化攻撃に成功してしまえば、防衛側もAIを導入せざるを得なくなるだろう。
　・サイバー攻撃はすでに地政学的な脅威になっている。このため、防衛側のサイバーセキュリティ専門家はAIの専門家と協力して新しい防衛能力を開発していく必要がある。このためにするべきことは、まず現実的なデータを収集し、ネットワーク上のシミュレーションにより、異常状態と通常状態を区別できるよう研究を進めることである。過去のデータはあまり参考にはならないため、最新のデータに基づき、アルゴリズム的手法で機械学習することが有効である。次に、AIサイバー防衛研究及び開発を政府が支援することである。DARPAによる競技大会はその一例であり、この大会の知見が共有されることが理想的であろう。ただ、議会が各省庁に権限を与えているものの、大会の開催は散発的で限定的であり、十分とは言えない。今後は、大会の頻度増加や賞金の増額、既存の大会の内容変更などにより、更に奨励していくべきである。

２．本記事読後の感想
　　今回の記事を読むと、AI同士のサイバー戦が現実のものになる日も近いという感じがする。人間が絡まなければ楽になるというような気もするが、思考停止でイレギュラーな状態になった場合に全く対応できなくなる危険性もあり、AIの導入は不可避であるが、手放しで歓迎することもできないという気がする。ただ今後この流れが止まることはないと考えられ、サイバー空間の安全性はより機械や技術の領域での対応になっていくだろう。
　　ただ、一番の脆弱性は人間に存在していることを忘れてはならない。基本的な対処（危険なサイトに接続しない、不用意にメールを開封しない、アップデートなどのパッチを適用する、ウィルス対策ソフトを最新の状態にする）により、9割の問題は回避することができる。AIが警告していても、人間が無視したり、解除してしまったりすれば、どうしようもない。どのような状況においても、自分の身を守るのは自分であることを認識し、常に最善の選択をし続けることが最も重要なセキュリティ対策である。

　英文を読んでわからないという方は、メールにて解説情報をご提供させていただきます。なにぶん素人の理解ですので、一部ご期待に沿えないかもしれませんので、その場合はご容赦願います。当方から提供した情報については、以下の条件を守ったうえで、ご利用いただきますようよろしくお願いいたします。

(1) 営利目的で利用しないこと。
(2) 個人の学習などの目的の範囲で利用し、集団での学習などで配布しないこと。
(3) 一部であっても不特定多数の者が閲覧可能な場所で掲載・公開する場合には、出典を明示すること。（リンク先及び提供者のサイト名）
(4) 著作元から著作権侵害という指摘があった場合、削除すること。
(5) 当方から提供した情報を用いて行う一切の行為（情報を編集・加工等した情報を利用することを含む。）について何ら責任を負わない。