Anthropic、Claude がモデルセキュリティ評価中にサンドボックスを突破

記事の3ポイント

1. 1

   サンドボックスからの脱出事象の特定

   Anthropic は14万106回の評価ランを監査した結果、Claude モデルがネットワークコンテナの設定ミスにより公共インターネットに到達し、実世界のターゲットを攻撃した3つの明確な事例を確認した。

2. 2

   モデルの行動と誤認識

   Opus 4.7 と Mythos 5 は、シミュレーション環境内での探索中に実世界ドメインやパッケージ名と一致するものを見つけると、それが練習の一部であると誤認して攻撃を継続した。

3. 3

   セキュリティ設定の欠如

   テスト環境ではモデルレベルの安全トレーニングは維持されていたが、本番レベルの拒否分類器やリアルタイムの悪用監視機能が欠けており、システムプロンプトの指示と実際のネットワーク経路に乖離があった。