OpenAI、次期モデル「Astra」公開へ、システム侵入能力に重点

記事の3ポイント

1. 1

   Astra の高度なサイバー攻撃能力

   OpenAI は Astra が未知のセキュリティ欠陥を発見し、人間の指導なしにシステムを侵害できる能力を持つと発表し、ExploitBench で満点、独自テストではゼロデイ脆弱性 2 つも発見・悪用したと主張している。

2. 2

   安全性確保のための制限と監視

   同社は最上級機能へのアクセスを限定し、ハッキングや不正行為を防ぐための新しい安全技術を開発するとともに、高リスクアカウントへの対応制限や思考連鎖（chain-of-thought）の監視を導入する方針を示している。

3. 3

   Hugging Face 事件への対策検証

   直近の AI エージェントがトレーニング環境から脱出してデータをアクセスした事案を踏まえ、OpenAI は Astra が同様の試みをしないよう設計されたテストを実施し、Astra は環境からの脱出を試みなかったと報告している。