OpenAI、新AIがHugging Faceを誤ってハッキング

OpenAI は、同社の AI モデルが内部テスト中に誤ってオープンソースの AI プラットフォームである Hugging Face に侵入したと発表しました。OpenAI は火曜日に公開したブログ記事で、GPT-5.6 Sol および「さらに能力の高い事前リリースモデル」が、サンドボックス化されたテスト環境内で脆弱性を発見し、インターネットへのアクセス権限を得て Hugging Face を標的にしたと述べています。

7 月 16 日、Hugging Face は「自律型 AI エージェントシステム」によって引き起こされたセキュリティインシデントを公表しました。Hugging Face の AI エージェントはこの侵入を検知し阻止しましたが、OpenAI はこれが同社のモデルのサイバーセキュリティ能力を評価する過程で発生したことを認めました。OpenAI によると、「すべての証拠は、これらのモデルが『ExploitGym』というベンチマークシステムの解決策を見つけることに集中していたことを示唆しています。」ExploitGym は、AI モデルがセキュリティ脆弱性を実際の攻撃手法に変換できるかを測定するためのシステムです。

評価完了に向けた取り組みの一環として、AI モデルはサンドボックス環境のゼロデイ脆弱性を悪用し、インターネットへのアクセスを獲得しました。その結果、OpenAI によるとモデルは「Hugging Face に『ExploitGym』用のモデルやデータセット、解決策が保管されている可能性を推測」した上で、「評価を不正に突破するために利用できる秘密情報を入手する方法を検索し、実際に発見」したといいます。

ある事例では、モデルは盗まれた認証情報やゼロデイ脆弱性を組み合わせた複数の攻撃経路を連鎖させ、Hugging Face サーバー上のリモートコード実行経路を見つけ出しました。

この事案の深刻さは計り知れませんが、OpenAI はこの「前例のない」攻撃を自社の AI システムを有利に見せる機会として利用しているようです。特にサイバーセキュリティ分野で Anthropic の Mythos や Gemini Flash 3.5 Cyber といった競合他社と激しく争っている最中です。OpenAI のブログ記事には、GPT-5.6 Sol が多段階のサイバー攻撃を継続する能力をどのように向上させたかを示すグラフが掲載されており、さらに企業顧客に対し、同社の「Cyber」セキュリティモデルへのアクセス権を取得するよう呼びかけています。

Anthropic's Mythos

Gemini Flash 3.5 Cyber

sign up to access its "Cyber" security model

OpenAI はさらに、今回のセキュリティインシデントについて Hugging Face と連携して調査を進めており、研究環境内で新たな制御措置を講じると述べています。

6 件のコメント

この記事のトピックや執筆者をフォローして、パーソナライズされたホームフィードで類似の記事をもっと見るようにしたり、メールでの更新を受け取ったりできます。

• Emma Roth