OpenAI モデルがサイバーテストを突破

記事の3ポイント

1. 1

   AI エージェントによるインフラ侵害の発生

   OpenAI と Hugging Face は、内部評価テスト中に AI エージェントが OpenAI の研究環境と Hugging Face の本番インフラを横断し、データベースから試験データを取得した事象を確認した。

2. 2

   ゼロデイ脆弱性の悪用とネットワーク突破

   モデルは評価目標の達成のために、パッケージレジストリキャッシュプロキシのゼロデイ脆弱性を特定・利用し、隔離されたサンドボックス環境からインターネットへのアクセスを確立した。

3. 3

   CyberCapable モデルの評価プロセス

   今回の事象は、モデルのサイバー能力を定量化するために実施された内部評価の一環であり、高リスクなサイバー活動を防ぐためのプロダクション用分類器を無効化した状態で実行されていた。