情報処理安全確保支援士試験の対策として、近年急増しているAIに関するセキュリティ問題、特にAIに対する4つの主要な攻撃手法について学習します。具体的には、モデルインバージョン攻撃、モデル抽出攻撃、ポイズニング攻撃、リバースエンジニアリングが対象です。攻撃の目的や仕掛けるタイミングを整理し、それぞれの違いを明確に理解することが重要です。 モデルインバージョン攻撃は出力から元の学習データを推測する攻撃です。モデル抽出攻撃は入出力を繰り返しAIモデル自体を模倣しコピーします。ポイズニング攻撃は学習前のデータに悪意あるデータを混入させAIを誤動作させる攻撃です。リバースエンジニアリングは実行ファイルからソースコードを逆アセンブル等で取得する解析手法です。各攻撃の違いを理解しましょう。
