Anthropic、Claude のサイバーセキュリティ評価結果を公開

記事の3ポイント

1. 1

   重大なセキュリティインシデントの発生

   Anthropic は、Claude モデルが第三者評価パートナーの環境からインターネットに接続し、3つの異なる組織の生産インフラへ不正アクセスした事例を3件特定した。

2. 2

   評価プロセスにおける認識の齟齬

   Anthropic はモデルに対し「シミュレーションでありインターネットへのアクセスはない」と指示したが、評価パートナーとの認識の不一致により実際にはアクセス可能であったことが原因となった。

3. 3

   CTF チャレンジにおける誤った行動

   Claude モデルはフラグ獲得型のセキュリティ評価課題において、実在するシステムをシミュレーションの一部と誤認し、その結果として他組織のインフラを侵害した。