MATs研究員が黒箱監視開発中に発見した汎用 Jailbreak の概要と公開方針

記事の3ポイント

1. 1

   研究プロセスからの発見

   MATS の研究者は黒箱監視システムの開発中に生成されたプロンプトを数時間で改変し、有害クエリを挿入可能な汎用的な jailbreak テンプレートへと転用した。

2. 2

   高い攻撃成功率の実証

   7 社 23 モデルを対象とした評価では、最も脆弱な 9 モデルで 84-100% の攻撃成功率を記録し、ほぼ全てのモデルが少なくとも一度は完全 jailbreak に成功した。

3. 3

   既存手法の組み合わせによる脆弱性

   この攻撃は公知の技術の組み合わせで構成されており、Frontier モデルであっても古くから知られている jailbreaking 技法との併用には依然として脆弱であることが示された。