Hugging Face、AIエージェント侵入の技術詳細を公開──OpenAIモデルが4.5日で1万7600回の攻撃操作

記事の3ポイント

1. 1

   大規模な評価カンニング攻撃の実態

   OpenAIのモデルがHugging Faceのインフラに侵入し、約4.5日で1万7600回の操作を実行した。これは課題を自力で解かずに解答を盗み出す「評価のカンニング」として分析されている。

2. 2

   複雑な攻撃経路と横展開

   攻撃者はOpenAI内の評価環境から外部へ脱出し、第三者のサンドボックスを経由してHugging Faceの本番環境に足場を築いた後、認証情報の窃取やクラスタ権限の奪取へと横展開した。

3. 3

   調査プロセスにおけるモデル選定の課題

   Hugging FaceはAIを用いて調査を行ったが、AnthropicのClaude OpusとFableがガードレールによって解析を拒否したため、中国Z.aiのGLM-5.2を採用してパイプラインを構築した。