AIハッキングは新たな脅威（SIGNALの記事）

写真出展：mohamed HassanによるPixabayからの画像https://pixabay.com/ja/users/mohamed_hassan-5229782/?utm_source=link-attribution&utm_medium=referral&utm_campaign=image&utm_content=5702074

　2022年3月1日にSIGNALは、AIのハッキング対策を提言する記事を発表した。内容はAIの応用に伴い、AIがハッキングされる危険性について注意喚起を促し、今後のあるべき方針について提示するものである。
AIは中国人民解放軍が積極的に採用しているが、アメリカにおいても多数採用され始めており、今後軍事協力をしていく際にAIの活用が重要な要素になるだろう。今回の記事はAI活用に関してのガイドラインを考えるうえで参考になると考えられることから、その概要についてご紹介させていただく。

↓リンク先（Hacking Poses Risks for Artificial Intelligence）
https://www.afcea.org/content/hacking-poses-risks-artificial-intelligence

１．本記事の内容について
　・国家安全保障へのAI、機械学習の応用が増加しるに伴い、政治家はそのリスクを適切に比較衡量していく必要に迫られている。AI及び機械学習は、他のソフトと同様にハッキングに対して脆弱であり、直接アクセスしなくてもハッキングされる可能性もある。
　・しかしAIのハッキングについては十分に理解されておらず、対策がなされないままにAIが配備されているのが現状である。事実ホワイトハッカーにより、テスラの自動運転ツールなどのAIツールをハッキングすることに成功している。しかも攻撃は検知されにくく、ハッキング攻撃の研究は大きく進展しつつあるものの、検知技術は立ち遅れているとも指摘されている。
　・AI及び機械学習は、配備前に訓練を施す必要がある。この訓練にはビッグデータが活用されるが、このデータの入手経路が脆弱性をもたらす要因になっている。データを汚染することにより、特定の画像やデータを公共空間から排除し、学習を歪めることができる。
　・スタンフォードの研究者によると、たった一つ画像を汚染することで、アルゴリズムを歪め、数千の画像を誤って特定させることに成功した。敵対的サンプリングという手法により、摂動（Perturbation）というピクセルレベルでの変更を加え、特徴量を変化させることで、誤分類を引き起こすことが可能となる。
　・敵対的サンプリング攻撃は、GitHubなどのオープンソースなどのソースコードにアクセスすることにより実行されることが多い。しかしこれ以外にも、データのみを汚染するという攻撃手法もあり、より複雑化している。
　・DARPAはAI誤学習対策事業を立ち上げ、この問題に取り組もうとしている。オープンソースの拡大に伴い、悪意あるコードやデータが挿入されることになり、AIの学習に悪影響を及ぼすだけでなく、学習データの抜き取りなどの事件も発生している。このことに対処するためには、官民パートナーシップが重要となる。攻撃は多種多様であることから、利害関係者からの幅広い意見や洞察からヒントを得ることにより、適切なシステムを構築することができるようになる。また設計思想も重要であり、説明可能性のある、人間スタイルの知識や思考などを原則として確立しておくことが重要である。具体的には、なぜ予測が可能なのか、予測の根拠となった情報の量的・質的な取り扱い手法を追跡することが可能なのか、といったことを理解することで、どのような問題が発生するのかを理解することができるようになるだろう。

２．本記事読後の感想
　　機械学習について、過学習などの問題は良く知られている所だが、誤学習などの問題はあまり知られていない。インターネットにあふれている情報を大量に投入すれば、ノイズなども平均化されて一部の汚染は大きな影響を与えない、というように見えるが、実際にはそうではないようだ。
　　敵対的サンプリングという技術は、今後重要なキーワードになって来るだろう。日本語で説明したサイトもないわけではないが、機械的に翻訳したようなものばかりで分かりにくい。英語で読んだ方が分かりやすいことも多いことから、今後はこういった方面の情報も収集して紹介してみたい。

　英文を読んでわからないという方は、メールにて解説情報をご提供させていただきます。なにぶん素人の理解ですので、一部ご期待に沿えないかもしれませんので、その場合はご容赦願います。当方から提供した情報については、以下の条件を守ったうえで、ご利用いただきますようよろしくお願いいたします。

(1) 営利目的で利用しないこと。
(2) 個人の学習などの目的の範囲で利用し、集団での学習などで配布しないこと。
(3) 一部であっても不特定多数の者が閲覧可能な場所で掲載・公開する場合には、出典を明示すること。（リンク先及び提供者のサイト名）
(4) 著作元から著作権侵害という指摘があった場合、削除すること。
(5) 当方から提供した情報を用いて行う一切の行為（情報を編集・加工等した情報を利用することを含む。）について何ら責任を負わない。