OpenAI、次期モデル「Astra」のサイバーリスクを報告し開発ペース調整へ

記事の3ポイント

1. 1

   開発ペースの一時停止

   OpenAI は最新のモデルに対する強化学習（RL）トレーニングを2週間一時停止し、研究環境の硬化や監視システムの拡充を行っている。

2. 2

   次期モデル「Astra」のリスク評価

   今後のモデル「Astra」が、同社の準備度フレームワークに基づく「重要なサイバーセキュリティ能力」の閾値に達する可能性を示す予備的証拠が存在する。

3. 3

   安全対策の強化と透明性

   OpenAI は監視、アライメント、コンテインメントの safeguards を全段階で強化し、その変更プロセスを明確に説明することで透明性を高める方針を示した。