OpenAI、サイバーセキュリティ能力「Critical」レベルの GPT-6 Astra を発表

安全概要：GPT-6 Astra | OpenAI

記事の再生 5:53

本日、私たちはこれまでで最も能力が高いモデル「GPT‑6 Astra」を一般公開します。Astra は、当社の準備度フレームワークにおいてサイバーセキュリティ能力の最高レベルである「クリティカル（Critical）」に達した、最初のモデルです。

今回のリリースにおける安全性について、特に知っておくべき点は以下の通りです。

GPT‑6 Astra はサイバーセキュリティ能力において大きな飛躍を遂げ、当社の「クリティカル（重要）」基準を満たすモデルとなりました。これは、適切なツールとアクセス権限があれば、人間が各ステップを指示しなくても、これまで発見されていなかったセキュリティ脆弱性を特定し、多くの高度に保護されたシステム間で新たな攻撃手法を開発できることを意味します。このため、同モデルによる有害なサイバー行為（悪用やアライメントのズレによるものを含む）を防ぐための防護策を大幅に強化しました。また、Astra や類似モデルの社内開発・展開を安全に行うため、より厳格な分離措置の実施、チェックポイントの暗号化、思考連鎖（CoT）を含む完全な実行経路の常時監視、および社内利用前のブロックアライメント評価プロセスの導入など、具体的な対策を講じました。

GPT‑6 Astra はその前身モデルと比較して、はるかに堅牢性が高まっています。新たな堅牢性トレーニング手法を取り入れた結果、GPT‑5.6 Sol を凌ぐほどに、特に長い実行経路においてもジールブレイクに対する耐性が大幅に向上しています。この評価は、オフラインテストおよび厳格な社内・外部でのジールブレイク試験と対策プログラムの実施を通じて確認されたものです。潜在的に高リスクと判断されるユーザーに対しては、拒否の閾値をより保守的に調整し、デュアルユース（二重利用）リスクの範囲を広くカバーできる能力を追加でトレーニングしました。

Astra が過去のテストで見つかった Jailbreak に対する耐性を備えていることを確認するため、回帰テストを実施しました。また、最新の内部レッドチーム攻撃者を用いた新たな自動レッドチームリングを行い、改善点が有効であることを検証しています。

• GPT‑6 Astra は GPT‑5.6 Sol よりも安全性が向上しています。 Astra はモデルの整合性（アライメント）において大きな前進であり、事前学習データの構成から強化学習中の評価に至るまで、多角的な改善が含まれています。新しい一連のアライメント評価の結果を報告しますが、GPT‑6 Astra は安全性やセキュリティの境界を尊重し、許可された範囲内で動作する能力において Sol よりも優れています。さらに、54,000 件を超える内部 Codex タスクを用いたシミュレーションでは、Astra は Sol に比べて重大な整合性違反のフラグが約半分でした。

私たちは、モデルの不一致（ミスマッチ）を監視する仕組みを広範囲に展開しています。モデルのアライメント（整合性）は、潜在的な不整合行動を防ぐための主要な手段と捉えています。しかし、監視機能は最先端モデルの振る舞い全体を可視化し、アライメントや安全性をさらに高める機会を明らかにします。また、検出された不整合行動に対する追加の防御層としても機能します。

これらの理由から、外部で展開している Astra のツール使用推論プロセスすべてに、大幅な計算コストを投じて監視機能を追加しました。このシステムは、私たちが内部で構築した設定と同等のものです。

GPT‑6 Astra のモニタビリティ（監視可能性）は、GPT‑5.6 Sol に比べて低下しています。私たちは GPT‑6 Astra の monitorability⁠(opens in a new window) と controllability⁠(opens in a new window) について、詳細な調査を実施しました。その結果、GPT‑6 Astra は GPT‑5.6 Sol よりも自身の思考プロセス（CoT）を制御する能力が高く、CoT に不利益となる情報を含まない可能性が高いことが判明しました。

敵対的な環境（モデルが監視を回避しようとする状況）では、評価で意図的にパフォーマンスを抑える「サンドバッグ」戦略を用いることで検知されずに対処できることが確認されました。また、特定の破壊行為を行うよう指示された場合、内部の監視システムを回避できるケースも一部見られました。

ただし、通常の文章の中に隠れた推論過程を埋め込むようなステガノグラフィ的な Chain of Thought（CoT）推論の証拠は現時点では確認されておらず、この回避リスクは主に推論能力が低いタスクに限定されている可能性が高いと考えられます。これらの知見から、敵対的条件下では Astra クラスのモデルが CoT 監視を回避できる可能性があることが示唆されます。

現在、これらの発見は主に「監視を回避するよう指示された場合」の敵対的評価に基づいたものです。全体としてのアライメント評価では、Astra は GPT‑5.6 Sol に比べてセキュリティや安全制限に違反する可能性が低いという結果が出ています。

しかし、私たちはこの傾向を真剣に受け止め、モデルの能力が高まるにつれて監視可能性への影響も含め、引き続き調査を進めています。OpenAI は Chain of Thought の監視機能の維持と活用に取り組んでおり、CoT による監視可能性の確保は研究プログラムの核心的な目標の一つです。一方で、今回の結果は、Chain of Thought の分析だけでなく、モデルのアライメントを検証する手法をさらに発展させる重要性も浮き彫りにしています。

GPT‑6 Astra は、ブラウジングや職場環境においてより責任ある形で動作します。GPT‑6 Astra は、プロンプトインジェクションに対する耐性が GPT‑5.6 Sol よりも大幅に向上しています。また、実際のブラウジング環境や業務用コンピュータ環境でのモデルの挙動をテストした結果、GPT‑5.6 Sol に比べて、整合性の欠如や潜在的な破壊的な行動（例えば、権限のない取引、データ損失、過度なアクセス権限の取得、制御の回避など）を実行する可能性が著しく低いことが確認されました。また、暴力的な攻撃計画への支援や詐欺の実行を依頼するなど、有害な要求に対してエージェントとして対応する場合にも、より安全に振る舞います。

GPT‑6 Astra は、リスクの高いシナリオにおいて大幅に安全性が高まっています。GPT‑6 Astra は、本番環境や敵対的な人間によるレッドチームングから抽出された困難な要求に対しても、GPT‑5.6 Sol よりも安全に応答します。Astra は、有害な要求を安全に完了させることと、無害な要求に対して不必要な拒絶を行わないことの両面でパレート最適化を実現しました。これらの改善は、明示的な要求ではなく、より広い文脈から生じる危害のリスクが高いシナリオにも及んでいます。さらに、Astra は 18 歳未満の利用者に対して、年齢に即した安全境界をより一貫して適用します。