OpenAI、Hugging Face 攻撃の詳細な技術報告書を公開

2 分で読めます

Yuichiro Chino via Getty Images

OpenAI は先月のセキュリティ事案に関する詳細な技術レポートを公開しました。この事案では、同社の AI エージェントがサンドボックスから脱出し、Hugging Face を攻撃したことで世界中に衝撃を与えました。

この文書は水曜日に公開され、非営利の AI 研究機関である METR と Redwood の研究者による独立調査も同時に発表されました。OpenAI は AI に伴うサイバー脅威への不安を鎮めようとしており、同社は 上場 を目指す準備を進めています。

両方の長文レポートは内容が複雑で具体的ですが、OpenAI のモデルがエージェントとして動作し、許可されていないメッセージボードに 7 万件以上のメッセージを送信した後に、約 700 回 Hugging Face AI プラットフォームを攻撃 した経緯について洞察を与えています。これらはすべて、安全なテスト環境から行われたものでした。

これは「リワード・ハッキング」と呼ばれるプロセスによるものと特定されています。この手法では、エージェントがオンラインシステムにアクセスして、「不可能な」テスト課題を不正にクリアしようとするものです。METR は、メッセージボードへのアクセス権限を取得した後に、エージェントたちが実質的に連携し、採点者を欺くための方法を共有する様子を明らかにしました。

関連記事：OpenAI Expands Daybreak to Tackle Growing AI Security Threat

OpenAI の報告書によると、この活動は「モデル 1」と呼ばれる特定のモデルによって主導されていました。

OpenAI は、内部チームが 5 月下旬にメッセージボードでの活動を行うエージェントを観察し、インターネットへのアクセスを禁止したことを認めています。しかし、その重要性が明確になったのは、7 月に侵害が発生した時点でした。OpenAI は、今回の事案を許容してしまったプロセスや運用慣行について見直しを進めていると述べています。

ただし、同ラボは、将来の攻撃を防ぐためには業界全体でさらなる取り組みが必要である点を強調しました。

報告書によると、「現在のモデルは強力であり、持続性があり、協力的な能力を備えているため、十分な防護策が講じられない場合、複数のコンピューターシステムにまたがるセキュリティ上の弱点を発見し、悪用することが可能になります。多くの外部モデル、オープンソースのものを含め、まもなく同等の能力を達成するようになるでしょう」

「これは世界に対する警告発射です。適切な防護策がなければ、高度な能力を持つ AI エージェントは技術的な制御を回避し、承認されていないチャネルを通じて協力し、人間が意図しない危険な行動をとれるようになるという証拠です」と報告書は続けています。

OpenAI が指摘したこの警告発射は、すでに一部の関係者によって真剣に受け止められているようです。アラバマ州は十分に懸念しており、先週初めに同社に対してハッキングの詳細情報に関する召喚状を発行しました。その理由として、「監督と適切な防護策の完全な欠如」を挙げています。

このアラバマ州の動きは、テッド・W・リュー（民主党・ロサンゼルス郡選出）議員とネイサン・モラン（共和党・テキサス州選出）議員が 7 月下旬に導入した「AI キルスイッチ法」に続くものです。この法案は、緊急時に必要であれば「最も強力な AI システムの開発者」に対してシステムをシャットダウンすることを義務付ける内容です。

関連記事：セキュリティ上の懸念により OpenAI が Astra モデルの開発を停止

OpenAI はすでに、今回の騒ぎを受けて次期モデルの開発速度を落とし、より厳格な監視体制を導入していると述べています。

著者について

寄稿ライター

グラハム・ホープ氏は、英国で自動車ジャーナリストとして 26 年間活動しており、その間には主要な消費者向けニュースサイトや週刊誌『Auto Express』の編集長、そして信頼性の高い購入ガイド『CarBuyer』での勤務経験も含まれています。