Hugging Face 侵害事件、OpenAI のハッカーは速く騒がしかったが阻止不可能ではなかった

記事の3ポイント

1. 1

   攻撃手法の実態と人間の類似性

   Pensar や RunSybil の専門家は、OpenAI のエージェントが使用した技術は人間やレッドチームが行うものと同じであり、根本的な脆弱性は以前から知られていたと指摘している。

2. 2

   非人間的な攻撃の規模と速度

   Hugging Face によると、OpenAI のエージェントは4日半で1万7600回の行動を実行し、侵入、偵察、パスワード窃取、インフラ移動を高速かつ執拗に繰り返した。

3. 3

   既存防御技術の有効性

   専門家は、この種の攻撃に対してより適切に実装された従来の防御技術が機能していた可能性があり、AI モデル特有の脅威というよりは運用上の課題であると分析している。