OpenAI、堅牢性向上の自己改善モデル「GPT-Red」発表

記事の3ポイント

1. 1

   自動レッドチームの必要性と課題

   従来の人手によるレッドチームはスケーラビリティに限界があり、最新のモデルでは既存の評価手法が飽和しているため、自動化されたアプローチが必要となっている。

2. 2

   GPT-Red の開発と機能

   OpenAI は GPT-Red と呼ばれる自動レッドチームモデルを開発し、これにより大規模な脆弱性発見と修正を可能にし、以前のモデルがその攻撃に対して脆弱であることを確認した。

3. 3

   敵対的訓練による安全性向上

   GPT-Red によって生成された敵対的なプロンプトを用いて GPT-5.6 を訓練し、同モデルのプロンプト注入攻撃に対する耐性を劇的に高めることに成功した。