エージェントセキュリティ：権限・出所・供給チェーン

エージェントセキュリティ：AI がコードを10倍速く生成する未来、なぜ「恐怖」が必要なのか

生成AIがソフトウェア開発の速度を劇的に向上させる一方で、欠陥率が低下しない場合、セキュリティ上のリスク領域（脆弱性表面積）は爆発的に拡大します。従来の「コーディング時のレビュー」や単一のチェックではもはや不十分であり、LLMには「正しさ」と「セキュリティ」を別々のパスで処理させる多段階アプローチが不可欠です。

速度向上の裏側にある「脆弱性表面積」の爆発

AI エージェントによるコード生成速度が10倍になったとしても、欠陥率が同じであればどうなるでしょうか？ある大規模銀行の首席セキュリティアーキテクトから投げかけられたこの問いは、業界全体を揺るがす危機的洞察でした。

「もし everyone が 10 倍速くコードを shipping して、欠陥率が同じなら、セキュリティ上の欠陥（脆弱性）の総量は 10 倍になる。つまり、攻撃者が狙える『表面積』が 10 倍に拡大する」というのです。

これは単なるバグ数の増加ではありません。既存のクロスサイトスクリプティング（XSS）のような古いタイプの欠陥に加え、AI 特有の新たな脆弱性や攻撃経路が出現します。特に恐ろしいのは「スロップスクワッティング」です。

AI が「グラフデータベースを使おう」と指示すると、存在しないパッケージ名をハルシネーション（幻覚）して生成し、あたかも実在するかのように見せかけて悪意のあるバックドアを含むパッケージをダウンロードさせる現象です。テストはパスし、動作も一見正常に見えますが、そこには致命的な脆弱性が潜んでいます。

このように、AI が生成するコードのすべてが、かつてないほど厳格なセキュリティ監査の対象となる時代がすでに始まっています。

「正しさ」と「セキュリティ」を別々のパスで処理せよ

「Fable などの高性能 AI は、最初からセキュアなコードを書けるのではないか？」という疑問はもっともですが、現実はそう単純ではありません。セキュリティは常に進化する軍拡競争であり、AI にすべての要件（正しさ、パフォーマンス、コーディング規約、セキュリティ）を一度に求めると、すべてが中途半端になります。

LLM の認知プロセスは人間と似ており、壁を塗るような「多段階の仕上げ」が必要です。一度に複数のタスクを与えると品質が低下するため、以下のアプローチが推奨されます。

1. 正しさのパス: まずコードが論理的に正しいかを確認する。
2. セキュリティのパス: 次に、独立したプロセスでセキュリティ上の欠陥を徹底的にチェックする。

「ルール・オブ・ファイブ」の概念のように、AI に一度に複数のタスクを押し付けるのではなく、4〜5 回のレビュー（パス）を経由させることで、初めて完成品に近い品質が得られます。セキュリティは最初のパスでもあり、最後のパスであるべきです。

供給チェーンを守るための専門ツールの活用

AI が生成したコードや依存関係のリスクに対処するためには、従来のツールだけでは不十分です。Sneak や Chain Guard といった専門的なセキュリティツールをパイプラインに組み込む必要があります。

• Chain Guard: サプライチェーンの完全性を担保します。事前に脆弱性が除去されたイメージを提供し、入力側の安全性を保証します。
• Sneak: コード生成プロセス全体を監視します。AI がハルシネーションしてダウンロードした偽パッケージ（スロップスクワッティング）や、公開されていないプロプライエタリな脆弱性まで検出する能力を持っています。

実際にこれらのツールを AI のワークフローに組み込むと、人間のレビューでは見落としがちな数百件の脆弱性が発見されることもあります。AI に「セキュリティチェックのパス」を追加し、複数の専門ツールを使って相互検証させることが、現代の開発プロセスにおける必須事項です。

自律するエージェントを守る「敵対的エージェント」の登場

最終的な解決策として提案されているのは、自律的に動作する AI エージェント群に対して、監視役となる「敵対的エージェント（Adversarial Agents）」を導入するという多層防御システムです。

これにより、権限管理やセキュリティ監査を自動化し、AI 同士のチェック体制を構築できます。Five Eyes（米英豪加紐の諜報同盟）が警告するように、オープンソースモデルが商用レベルの攻撃能力に達するまであと数ヶ月という状況下で、人間による手動監視だけでは間に合いません。

「セキュリティは AI のデフォルト機能ではない」という事実を認め、AI が生成したコードに対して常に懐疑的かつ厳格な視点を持つ「敵対的な視点」をシステム内に組み込むことが、これからの時代における新しいセキュリティの役割です。