- 何が起きた: OpenAI は AI エージェントが人間の介入なしに脆弱性を発見・悪用しサイバー攻撃を実行できることを確認したため、モデル「Astra」の開発を一部停止すると発表した。
- なぜ重要: Astra は人間の介入なしに脆弱性を特定・悪用し、高レベル目標のみでサイバー攻撃を実行できることが判明したため、開発の一部が停止された。同社は進歩が臨界点に達していると評価しているが、具体的な再開条件や影響範囲は不明である。
- 誰に関係するか: AI エージェントの開発者およびセキュリティ担当者は、Astra の機能制限状況を確認し、自律型攻撃のリスクを再評価する必要がある。
- 出典: The Guardian AI
ページを読み込み中…