OpenAI、セキュリティ懸念から次期モデル「Astra」開発を一時停止

記事の3ポイント

1. 1

   Astra モデルの開発停止発表

   OpenAI は内部レビューの結果、モデル「Astra」が自律的にサイバー攻撃を実行できるレベルに達したと判断し、セキュリティ懸念から一部開発を停止した。

2. 2

   臨界セキュリティ閾値の到達

   同社によると、このモデルは従来堅牢とされる実世界システムに対して独立して攻撃を特定・実行する能力を持ち、「Critical cybersecurity threshold」に達した。

3. 3

   事前準備フレームワークの発動

   2023 年に策定された「Preparedness Framework」に基づき、この閾値到達がトリガーとなり、追加的な安全対策と開発活動の制限が発動された。