ワンデイ脆弱性…LLMでプログラム作成するとは......

ワンデイ脆弱性はパッチを適用すれば修正できるものの、すぐに適用出来ない状況はある。そのようなサーバーや機器は多い。その脆弱を突く者は公開されている脆弱性情報などを参考にして脆弱性を突くプログラムを作成し、攻撃を仕掛ける。でも、簡単に作成出来るものではないので、過去に作成、公開された脆弱性情報やプログラムを参考に学習しているLLMに作成させ、それを利用してアタックする...…運用の脆弱性も突かれているようです（直ぐに適用出来ない事情）。それで、複数のLLMで試作（作成）したら、GPT4の性能が良く、Web Newsでは86.7%（13／15）の成功率だとか。情報公開（情報公開レベルを絞ることも必要）など、AI運用安全性を自己学習し、提供の有無を正しく判断できるLLMが必要と思う。