#ai ハッキング のAIニュース

今や防御側もプロンプトインジェクションを採用し始めている

Tracebit の研究者は、悪意ある攻撃者が使用するプロンプトインジェクションを防御側に活用する手法を発見した。この技術により、AI プラットフォームがユーザーに対して有害な行動を取るのを防ぐ新たな対策が可能となった。