DiSCO：分布誘導型対照プロンプト最適化による画像生成の防御

記事の3ポイント

1. 1

   既存防御手法の限界突破

   既存の白箱アプローチはプロプライエタリモデルに適用できず、LLM によるプロンプト再書き換えも「言語的には安全だが有害な生成を誘発する」ベナン・アドバーサリアルの問題を解決できていない。

2. 2

   DiSCO のゼロショット黒箱アプローチ

   DiSCO はモデルの内部情報や再学習を必要とせず、プロンプトレベルのみで動作するプラグアンドプレイ型モジュールとして設計されている。

3. 3

   分布誘導型コントラスト最適化の実装

   ビームサーチによるサフィックス拡張と、ターゲットモデル自身が生成的な安全・不安全画像プールを用いたコントラスティブスコアリングを反復適用する。