SecOPD: オンポリシー蒸留による適応型プロンプトインジェクションの緩和

記事の3ポイント

1. 1

   適応型注入への脆弱性

   既存の防御用微調整手法はシーケンスレベルのフィードバックに依存しており、攻撃者が注入したプロンプトに対してほぼ100%の成功率で操作されるという致命的な欠陥を抱えている。

2. 2

   SecOPD 手法の提案

   トークンレベルでのフィードバックを提供する「Secure On-Policy Distillation (SecOPD)」を提案し、モデルがどの出力トークンが不安全かを正確に学習できるようにする。

3. 3

   性能向上の実証

   Qwen3.6-27BモデルにSecOPDを適用した結果、既存最良手法（Meta-SecAlign）の94.0%だった攻撃成功率が9.0%まで低下し、未学習ドメインでも高い汎化性能を示した。