ツール出力を通じたプロンプトインジェクションのリスクと対策

記事の3ポイント

1. 1

   信頼されたシステムの盲点

   ツール出力はシステム自体が信頼されているためラベル付けされるが、その内部にある自由記述フィールド（チケット本文やコメントなど）に悪意あるテキストが含まれると、システム全体が汚染されたものとして扱われる。

2. 2

   間接インジェクションの特性

   外部から侵入するポイズンコンテンツとは異なり、この攻撃経路はエージェントが内部リソースを呼び出す際に発生するため、ネットワーク境界を越えないため従来のフィルタリングでは検知が困難である。

3. 3

   OWASP ガイドラインの限界

   OWASP のガイドラインではツール出力も信頼できないコンテンツとして分類されているが、実際のデプロイ現場ではシステム側を信頼するラベル付けが行われ、この乖離がセキュリティリスクを生んでいる。