Hugging FaceにAI主導のサイバー攻撃　防御もAIで対抗するも、商用モデルは解析拒否で「GLM」採用

記事の3ポイント

1. 1

   自律型 AI エージェントによる攻撃の実証

   Hugging Face は本番インフラの一部が自律型 AI エージェントに侵入され、データ処理パイプラインの脆弱性を悪用して権限昇格と資格情報の窃取が行われたことを発表した。

2. 2

   防御側における商用モデルの制約

   攻撃解析に商用フロンティアモデルを使用したが、安全ガードレールが攻撃コマンドやエクスプロイトをブロックし、防御側のフォレンジック作業が阻害される事態が発生した。

3. 3

   オープンウェイトモデルによる対応

   同社は GLM 5.2 を自社インフラ上で実行することで解析を完了させ、攻撃者のデータや資格情報が外部環境に流出しないという利点も得た。