ByteDance、AI エージェントの提示詞注入攻撃対策を公開

記事の3ポイント

1. 1

   エージェントリスクの転換点

   従来のチャットボットが「内容の不適切さ」に留まっていたのに対し、エージェントはツール実行やデータ操作を行うため、提示詞注入攻撃がシステム全体の乗っ取りという致命的なセキュリティリスクへと昇華する。

2. 2

   直接と間接の注入攻撃

   MITRE ATLAS の分類に基づき、ユーザー入力に悪意を埋め込む「直接注入（DPI）」と、外部データ源を汚染してトリガーする「間接注入（IPI）」が区別され、後者は検出が極めて困難であることが示唆される。

3. 3

   越獄攻撃との明確な境界

   提示詞注入はアプリケーション層の信頼関係の破綻を指し、越獄攻撃はモデル自体の安全制約の回避を指すため、両者は攻撃対象と防御戦略が根本的に異なり、混同して対策するとセキュリティに穴が生じる。