機械学習ポイズニングとは?
はじめに以前の投稿で、ChatGPTの仕組みについて調べている中で、
このワードに出会い、セキュリティの観点も知識として、
インプット・アウトプットしようと思い、この記事を投稿します。
機械学習ポイズニング(データポイズニング)とは?機械学習モデルで使われる学習用データに、
有害データ(誤ったデータや意図しないデータなど)を
紛れ込ませることで、機械学習モデルの精度を低下させる攻撃です。
※今回はデータポイズニングに焦点を当てます。
攻撃の具体例例えば、"画像データから「