#プロンプト注入 のAIニュース

OpenAI、自動レッドチーム「GPT-Red」発表

OpenAI は、自社のモデルに対するプロンプト注入攻撃を検出する内部自動化ツール「GPT-Red」を発表した。人間によるテストを代替し、攻撃成功率で人間チームを上回る成果を示している。