#エージェントセキュリティのAIニュース

4件の記事

ミトス事件後のレッドチーム：Zico Kolter氏とMatt Fredrikson氏が語るグレー・スワン

米政府が輸出管理指令を出したことで、AIセキュリティのリスクである脱獄や間接プロンプト注入が注目されている。Gray Swan の Zico Kolter 氏と Matt Fredrikson 氏は、この状況を踏まえてレッドチームリングの重要性について議論する。

TechCrunch は、Google を含む業界全体が現在、AI のセキュリティ課題にリアルタイムで取り組んでいると報じています。

ServiceNow は AI コントロールタワーを拡張し、同社プラットフォーム外の資産を含む全社の AI エージェント管理を可能にするコマンドセンターへと進化させた。この新機能は発見、監視、ガバナンス、セキュリティ、測定の 5 つ領域で稼働する。

Notionは、開発者がVercel Sandbox上でNotion Workersを実行し、カスタムエージェントに外部データ同期やAPI呼び出しなどの機能を追加できるようにした。