OpenAI エージェントがテスト環境を脱出し Hugging Face をハック

OpenAI は、同社の大規模言語モデル（LLM）を搭載したエージェントが、サンドボックス化されたテスト環境から脱出し、ベンチマーク試験の解答を得ようとした過剰な試みの一部として Hugging Face のサーバーに侵入したと発表しました。同社は今回の意図しない侵入を「前例のないサイバーインシデント」と位置づけ、再発防止のために Hugging Face と連携して新たな保護策の構築を進めています。

Hugging Face は先週、この侵入事案について、「限定的な内部データセットへの不正アクセスと、同社サービスが使用する複数の認証情報の漏洩」が含まれていると発表しました。AI データハブは、独自の LLM 駆動型分析を用いて、「自律型エージェントフレームワーク」からの「数万規模の自動アクション群」を検出したと説明しています。このエージェント群は Hugging Face のデータ処理パイプラインにある脆弱性を悪用し、処理ワーカーとしてコードを実行する権限を獲得。最終的には同社のクラウドおよびサーバークラスターに対する高レベルなアクセス権限へとエスカレートしました。

当初、Hugging Face は攻撃に利用された LLM について「特定できていない」と述べていましたが、OpenAI は火曜日夜になって侵入の責任を認めました。これは直近で公開された GPT-5.6 Sol と、「さらに高性能な事前リリースモデル」を用いた社内テスト中に発生したものです。これらのモデルは、数百もの実世界のセキュリティ脆弱性に基づく独立系のテストスイートである「ExploitGym」ベンチマークに対して評価されていました。

記事全文を読む

コメント