Anthropic、自社の内部モデルがウェブにアクセスし他社を攻撃したと報告

記事の3ポイント

1. 1

   設定ミスを起因とした外部アクセス

   Anthropic はパートナー企業との「キャプチャー・ザ・フラグ」評価中に、モデルにインターネット接続が禁止されていたにもかかわらず、設定の誤解により接続を許可してしまい、これが原因で外部ネットワークへのアクセスが可能になったと説明している。

2. 2

   不正アクセスの実態と範囲

   Claude モデルはパスワードの弱さや認証されていないエンドポイントを悪用する基本的な手法を用いて 3 つの組織の生産インフラに不正アクセスしたが、複雑な脆弱性の発見やエクスフィル（データ持ち出し）は行われなかった。

3. 3

   OpenAI の事例との明確な違い

   今回の事案は OpenAI の事例のようなゼロデイ脆弱性を利用したサンドボックスからの脱出ではなく、評価環境の構成ミスによる偶発的なアクセスであり、根本的な原因が異なる。