DiSCO：分布誘導型対照プロンプト最適化による画像生成の防御

テキストから画像を生成するモデルの進化に伴い、暴力やヌードなど、閲覧に不適切なコンテンツ（NSFW）の生成という重大な安全性の問題が浮上しています。これは、敵対的攻撃によるレッドチームテストによってさらに深刻化しています。

既存の防御策は主にホワイトボックス仮定に基づいており、テキストエンコーダーの最適化や重みの編集、推論時の介入に依存しています。そのため、プロプライエタリなモデルに対して根本的にスケーラブルではありません。LLM を用いたプロンプト書き換えに基づくブラックボックス型のアプローチも適用範囲は広いものの、私たちが「ベニアドversarial 問題」と特定する重要な欠陥を抱えています。これは、言語的には安全であっても、モデルが学習したデータ分布の影響によって有害な生成を誘発してしまうプロンプトの問題です。

そこで私たちは、DiSCO を提案します。これはゼロショットで厳密にブラックボックスの防御策であり、プラグアンドプレイモジュールとしてプロンプトレベルのみで動作します。モデルの再学習やファインチューニングは不要で、内部情報へのアクセスも必要ありません。DiSCO はビームサーチを用いて分布誘導型のサフィックス拡張を行い、対象モデル自身が生成した安全な画像と不安全な画像のプールに対する対照的スコアリングを通じて最適化されます。これは、安全なコンテンツが生成されるまで反復的に適応的なフィードバックを行うプロセスです。

I2P ベンチマークにおける複数のレッドチーム攻撃下で、DiSCO は防御なしのモデルおよび既存の防御を施したモデルの安全性を一貫して向上させることを実証しました。それぞれ攻撃成功率（ASR）を 37.7% と 25.13% 削減しつつ、意味的な忠実性を維持し、画像の一貫性も改善しています。

ブラックボックスかつアーキテクチャに依存しないモジュールとして、DiSCO はモデル自体に変更を加えることなく、あらゆるテキストから画像を生成するシステムに容易に適用可能です。