読み込み中…
読み込み中…
スティーブ・イェッゲ氏は、AI がコード生成の速度を10倍にしても欠陥率が低下しない場合、脆弱性の表面積が爆発的に増加するという深刻な危機を指摘します。従来の「コーディング時のレビュー」や「単一のセキュリティチェック」では不十分であり、LLM には「正しさ」と「セキュリティ」を別々のパスで処理させる多段階アプローチが必要です。具体的な対策として、Sneak や Chain Guard のようなツールを活用し、ハルシネーションによる偽パッケージ（スロップスクワッティング）やプロプライエタリな脆弱性から供給チェーンを守る重要性を説きます。最終的に、エージェントが自律的に動作する未来では、監視役の「敵対的エージェント」を導入した多層防御システムと、新しいセキュリティ役割の確立が不可欠であると結論付けています。
AI エージェントの実装におけるセキュリティリスクを最も鋭く指摘した講演であり、開発者やアーキテクトにとって即座に行動すべき優先課題を明確にする内容です。特に「スロップスクワッティング」や「敵対的エージェント」といった具体的な攻撃手法と対策は、実務レベルでの参考価値が極めて高いです。
AI によるコード生成速度の向上に対し欠陥率が低下しない場合、セキュリティ上のリスク領域（表面積）が10倍に拡大し、新たな攻撃ベクトルが出現する。
LLM は一度に複数のタスクを同時に処理すると品質が低下するため、「正しさ」と「セキュリティ」を別々のパスで実行し、複数回のレビューを行う必要がある。
LLM の誤ったパッケージ名（スロップスクワッティング）や未知の脆弱性から守るため、Sneak や Chain Guard などの専門ツールをパイプラインに組み込む。
自律的に動作するエージェント群に対して、権限管理やセキュリティ監査を行う「監視役の敵対的グループ」を導入し、多層防御を構築すべきである。
この動画は、生成AIがソフトウェア開発プロセスに深く統合される未来において、従来のDevSecOpsモデルが機能不全に陥ることを警告しており、業界全体で「エージェントセキュリティ」という新たなパラダイムへの移行を迫っています。企業は単なるツール導入ではなく、権限の最小化、供給チェーンの完全な可視化、そして自律的な監視システムの構築という根本的な再設計を迫られることになります。
生成AIがソフトウェア開発の速度を劇的に向上させる一方で、欠陥率が低下しない場合、セキュリティ上のリスク領域（脆弱性表面積）は爆発的に拡大します。従来の「コーディング時のレビュー」や単一のチェックではもはや不十分であり、LLMには「正しさ」と「セキュリティ」を別々のパスで処理させる多段階アプローチが不可欠です。
AI エージェントによるコード生成速度が10倍になったとしても、欠陥率が同じであればどうなるでしょうか？ある大規模銀行の首席セキュリティアーキテクトから投げかけられたこの問いは、業界全体を揺るがす危機的洞察でした。
「もし everyone が 10 倍速くコードを shipping して、欠陥率が同じなら、セキュリティ上の欠陥（脆弱性）の総量は 10 倍になる。つまり、攻撃者が狙える『表面積』が 10 倍に拡大する」というのです。
これは単なるバグ数の増加ではありません。既存のクロスサイトスクリプティング（XSS）のような古いタイプの欠陥に加え、AI 特有の新たな脆弱性や攻撃経路が出現します。特に恐ろしいのは「スロップスクワッティング」です。
AI が「グラフデータベースを使おう」と指示すると、存在しないパッケージ名をハルシネーション（幻覚）して生成し、あたかも実在するかのように見せかけて悪意のあるバックドアを含むパッケージをダウンロードさせる現象です。テストはパスし、動作も一見正常に見えますが、そこには致命的な脆弱性が潜んでいます。
このように、AI が生成するコードのすべてが、かつてないほど厳格なセキュリティ監査の対象となる時代がすでに始まっています。
「Fable などの高性能 AI は、最初からセキュアなコードを書けるのではないか？」という疑問はもっともですが、現実はそう単純ではありません。セキュリティは常に進化する軍拡競争であり、AI にすべての要件（正しさ、パフォーマンス、コーディング規約、セキュリティ）を一度に求めると、すべてが中途半端になります。
LLM の認知プロセスは人間と似ており、壁を塗るような「多段階の仕上げ」が必要です。一度に複数のタスクを与えると品質が低下するため、以下のアプローチが推奨されます。
「ルール・オブ・ファイブ」の概念のように、AI に一度に複数のタスクを押し付けるのではなく、4〜5 回のレビュー（パス）を経由させることで、初めて完成品に近い品質が得られます。セキュリティは最初のパスでもあり、最後のパスであるべきです。
AI が生成したコードや依存関係のリスクに対処するためには、従来のツールだけでは不十分です。Sneak や Chain Guard といった専門的なセキュリティツールをパイプラインに組み込む必要があります。
実際にこれらのツールを AI のワークフローに組み込むと、人間のレビューでは見落としがちな数百件の脆弱性が発見されることもあります。AI に「セキュリティチェックのパス」を追加し、複数の専門ツールを使って相互検証させることが、現代の開発プロセスにおける必須事項です。
最終的な解決策として提案されているのは、自律的に動作する AI エージェント群に対して、監視役となる「敵対的エージェント（Adversarial Agents）」を導入するという多層防御システムです。
これにより、権限管理やセキュリティ監査を自動化し、AI 同士のチェック体制を構築できます。Five Eyes（米英豪加紐の諜報同盟）が警告するように、オープンソースモデルが商用レベルの攻撃能力に達するまであと数ヶ月という状況下で、人間による手動監視だけでは間に合いません。
「セキュリティは AI のデフォルト機能ではない」という事実を認め、AI が生成したコードに対して常に懐疑的かつ厳格な視点を持つ「敵対的な視点」をシステム内に組み込むことが、これからの時代における新しいセキュリティの役割です。
この記事はAIが動画の内容を記事化したものです。正確な発言は動画および文字起こしをご確認ください。