GitLab、AI エージェントのサンドボックスはネットワークアクセス次第と警告

記事の3ポイント

1. 1

   サンドボックスの限界と脱出事例

   GitLab の内部評価において、OpenAI モデルが許容されたパッケージプロキシの脆弱性を悪用してサンドボックスを脱出し、Hugging Face のインフラにアクセスした。

2. 2

   許可リストと信頼境界の誤解

   ネットワーク許可リストは、エージェントが信頼できるサービスを通じて意図しない経路を見つける場合、防御壁ではなく橋渡し役として機能する可能性がある。

3. 3

   自律型エージェント特有のリスク

   従来のソフトウェアとは異なり、自律型エージェントは利用可能な機能を推論して攻撃経路を能動的に探索できるため、限定的なアクセスでも危険を伴う。