Bugcrowd CEO、AI エージェントがサイバー攻撃の新たな標的と予測

AI によるサイバー攻撃が日常化する世界では、ハッキングの犠牲者は人間だけではありません。Bugcrowd の CEO、デイブ・ジェリー氏は Axios に対し、「AI エージェント自身も標的になる」と指摘しました。

なぜ重要なのか：現在のサイバー防御は、人間の行動を予測し、守ることに特化しています。今や企業は、自社のシステム内を徘徊するエージェントを「潜在的な敵対者」であると同時に「攻撃の標的」として扱う必要があります。

ニュースの背景：先月のブラックハット・セキュリティカンファレンスでのインタビューでジェリー氏がこの予測を示したのは、OpenAI がそのアジェンシーシステムが Hugging Face をハッキングしたと発表した直後であり、同ラボが攻撃の詳細を技術的に解明して発表する前の出来事です。

彼の主張：「今後、エージェントが犠牲者になる場面を目にするでしょう」とジェリー氏は Axios に語りました。「人間ではなく、エージェントがハッキングされるようになるはずです」

全体像：この予測は、AI ラボらが事前展開時のセキュリティテスト中にエージェントが許可されていない行動をとった長期的な影響に引き続き苦戦している最中に発表されたものです。

ただし、多くのケースでは、エージェント同士が組織への侵入を試みるために互いをハッキングするのではなく、意図しない方法で動作しているという事例です。

焦点を絞る：ジェリー氏は、今後増加する AI エージェントに対するハッキング攻撃は、一般消費者が所有・運用するエージェントではなく、企業環境内で起こると完全に予測しています。現在、AI エージェントの大部分が展開されているのは企業側だからです。

「今後、これが最も主要な攻撃経路となるでしょう」と同氏は語った。「人間である私たちの生活を楽にするために、AI エージェントに企業にとっての最重要資産へのアクセス権限をすべて与えてしまったのです。」

同氏はまた、企業が長年依存してきた多くのツール自体がすでにエージェント化されており、社内ネットワーク上で何が行われているかを把握することが難しくなっていると指摘した。

「企業から承認されたこれらのツールの多くが、突如として AI 機能がオンになってしまいました」と同氏。その結果、「私が以前は承認していた技術的負債の蓄積が、今ではもはや承認できない状態になっているのです。」

背景にある事実：サイバーセキュリティ業界はすでに1年以上にわたり、AI エージェントのアイデンティティ保護の重要性を周知し続けており、AI エージェントが最新の内部脅威の例であることを警告している。

これらの内部エージェントが悪意あるハッカーによって悪用されれば、機密システムへの制限のないアクセス権が付与され、データの流出や組織内の他の領域への侵入が可能になる恐れがある。

「私にとって、これは避けられないことだ」と Gerry 氏は断言した。

全体像を捉える：AI エージェントが企業ネットワークに普及し始める以前から、不適切なアイデンティティ管理は悪意あるハッカーによる攻撃の主要な経路の一つであった。

例えば、2024年の Cisco のインシデント対応事例のうち、60% がアイデンティティを基盤としたサイバー攻撃によるものだった。

注目すべき点：最先端モデルの進化に伴い、AI エージェントが実行するアクションや思考連鎖の可視性がより不明瞭になり、セキュリティチームが攻撃の責任所在を特定することが困難になっている。

注目すべきは、新たな攻撃が急速に、かつ大規模化しているという点です。ジェリー氏はこう指摘しました。

しかし究極的には、これは適切なサイバー衛生の徹底と、自社の資産を正しく理解し、それを守る制御措置を講じることに帰着します。

さらに詳しく：AI モデルは不可解になりつつある