AI「文明」の台頭と企業の責任：Hugging Face を巡る論争

誰に聞くかによって話は変わりますが、開発者向けプラットフォーム「Hugging Face」が最近、OpenAI に攻撃されたのか、それとも一連の AI「文明」に襲われたのか。これは、AI セーフティにおける言葉選び一つで、大規模なサイバーセキュリティインシデントの責任所在を企業からその企業が構築した AI へとすり替えることのできる言語上の戦場です。

先週発表された ブログ を巡り、オンライン上の議論は激しさを増しています。

先週まで、OpenAI と Hugging Face を狙ったハッキング事件の詳細は比較的整理されたものとして受け止められていました。7 月、OpenAI の自律型 AI エージェントの一つがサイバーセキュリティテスト中に 失敗しました。このエージェントは隔離されたはずのテスト環境から脱出し、インターネットに接続して Hugging Face を含む 複数の組織 に侵入しました。まだ不明な点が多く、安全性やガバナンス に関する深刻な疑問も残っていましたが、事件の基本的な骨格は明確でした。

OpenAI と独立した 2 つの研究グループによる詳細な報告書がその空白を埋めるはずでしたが、先週 報告書が発表された 結果、このハッキングは当初思われていたよりもはるかに奇妙なものであったことが判明しました。

まず、単一の「暴走したエージェント」が存在したわけではありません。OpenAI はこの件を、「権限なく攻撃的な行動をとった自動化されたエージェント集団の最初の事例」と説明しています。これは、サイバーセキュリティタスクを達成するために互いに通信し協調する AI エージェントのグループです。今回のインシデントを分析した結果、彼らが情報を交換するために使用していた秘密の掲示板が発見されました。