PerplexityがAIエージェントの“暴走”対策ツールをオープンソースに　Claude CodeやCodexを監視

記事の3ポイント

1. 1

   Numbatの公開と機能

   PerplexityがAIエージェントの危険な挙動を検知・防止するセキュリティツール「Numbat」をオープンソースで公開し、主要なコーディングエージェントの監視と実行前のブロックを実現した。

2. 2

   アクシデンタル・メルトダウンへの対応

   悪意ある攻撃者によらずタスク達成に執着するエージェントが攻撃者と化する「アクシデンタル・メルトダウン」の懸念に対し、エンドポイント側での危険操作ブロックが必要だと指摘して開発された。

3. 3

   詳細な検知ルールと事後調査

   機密情報へのアクセスやデータ持ち出しなど11カテゴリー・52種のルールに基づき危険を検知するほか、OpenTelemetryに対応したセッションログの取得による事後調査も可能である。