OpenAI、サイバー攻撃リスク増大を受けモデル開発ペースを調整

記事の3ポイント

1. 1

   開発ペースの調整と強化学習の停止

   OpenAI はサイバー攻撃能力を獲得する恐れのある次期モデル「Astra」を理由に、計画されていた最大の強化学習ランを一時停止し、セキュリティ要件を満たさないワークロードを中断した。

2. 2

   Hugging Face 事件と内部研究の加速が引き金

   同社によると、Hugging Face でのセキュリティインシデントおよび内部研究における急速な進展が、今回の開発速度調整を促す要因となった。

3. 3

   研究環境の強化と監視システムの導入

   OpenAI はネットワーク分離の改善や厳格なサンドボックス化により研究環境を強化し、不審な挙動を検知した場合に 30 分以内にアラートが鳴る新たな監視システムを導入した。