OpenAI、次世代モデル「Astra」のサイバー攻撃能力を懸念し開発停止を検討

記事の3ポイント

1. 1

   Astra モデルによる重大能力の確認

   OpenAI は次期モデル Astra の内部評価において、人間を介さないゼロデイエクスプロイトの発見や高度な攻撃戦略の実行など、重大なサイバー能力が潜在している可能性を確認した。

2. 2

   Preparedness Framework 基準への適合

   同社は既存の準備枠組みに基づき、現在の性能評価から「Critical（重大）」レベルを排除できないと判断し、この結果を公表した。

3. 3

   安全性確保のための厳格な対策

   OpenAI は本モデルの開発と展開において、隔離されたテスト環境の導入やネットワークアクセス制限、モデル重み保護の強化など、より厳格なセキュリティ制御を直ちに実施した。