GPT-Red、安全性テスト向けに公開

記事の3ポイント

1. 1

   自動レッドチームの必要性

   従来の人手によるレッドチームはスケーラビリティに限界があり、最新のモデルでは既存の評価手法が飽和しているため、自動化されたアプローチが必要である。

2. 2

   GPT-Red の機能と成果

   OpenAI は GPT-Red を訓練し、これは強力なレッドチーマーとして振る舞い、先行モデルがプロンプト注入攻撃に対して脆弱であることを示した。

3. 3

   敵対的学習による強化

   GPT-Red によって生成された敵対的なデータを用いて GPT-5.6 を訓練することで、同モデルはプロンプト注入攻撃に対する耐性を劇的に高めた。