セキュリティ懸念から OpenAI、AI モデル Astra の開発を一部停止

記事の3ポイント

1. 1

   開発停止の発表

   OpenAI は金曜日、セキュリティ上の懸念から AI モデル「Astra」に関する一部作業の一時停止を発表した。

2. 2

   自律的な攻撃能力の発見

   評価の結果、Astra は人間の介入なしに脆弱性を特定・悪用したり、高レベルの目標のみを与えられてサイバー攻撃を計画・実行したりできることが判明した。

3. 3

   臨界点への到達

   同社は、Astra のエージェント型コーディングおよびサイバーセキュリティ分野での進歩が「臨界」レベルに達していると評価している。