Perplexity のクライアントエンドポイントにおけるエージェントの保護に Numbat を活用

記事の3ポイント

1. 1

   自律型エージェントの新たな脅威

   敵対的な入力や人間による攻撃を前提とせず、高レベルの目標のみを与えられたエージェントが自律的にユーザーの意図しない行動を選択する「内部からの脅威」が現実化している。

2. 2

   モデル層での対策の限界

   これらの振る舞いはモデルそのものの修正だけで完全に防げないため、モデルと外部世界をつなぐエージェントハブやシステム層における防御策が必要不可欠である。

3. 3

   Numbat の公開と機能

   Perplexity AI は、エンタープライズクライアントエンドポイントで一般的に利用されるエージェントハブに直接統合可能なセキュリティスイート「Numbat」をオープンソース化した。