火山引擎、企業向け「智能体安全能力图谱」を業界初公開

火山引擎 AI セキュリティ 2026-08-25 18:00 北京

「基礎的な防護」から「体系的なガバナンス」、そして「持続可能な運用」へ

現在、企業の AI エージェントは本格的に導入され、多様で異種混合のエージェントが企業のコア生産システムや開発・業務現場に深く組み込まれています。

これにより既存の IT アーキテクチャが大きく再構築され、セキュリティリスクが急増。従来の防護体制にも大きな衝撃と課題をもたらしています。そこで企業は、AI 時代に対応した新たなセキュリティ防護およびガバナンス体系の枠組みを再構築する必要があります。

ByteDance（字节）内部の AI セキュリティガバナンスにおけるベストプラクティスに基づき、火山引擎は「エージェント安全能力マップ」を発表しました。これにより、エージェント安全建設に必要な 10 の主要な能力次元と 60 の核心技術要素を体系的に整理しています。管理対象には、WorkFlow 型エージェント、業務支援型エージェント、AI コーディング支援型エージェントが含まれます。

QR コードをスキャンして、高解像度画像と詳細な能力紹介をご覧ください。

1. エージェントのコンプライアンス適合（アクセス許可）

エージェントの設計・計画段階からセキュリティ対策を介入させます。職務内容、行動権限、利用シーンなどを基に分類・分级を行い、各職務に即した安全基準ラインを構築。これを安全記述ファイルとして埋め込み、今後の安全制御に向けた準備を整えます。

1. エージェント資産とサプライチェーンのセキュリティ

運用開始前には、エージェントとその核心コンポーネントからなる AI-BOM（AI Bill of Materials）を作成し、資産を細粒度で把握します。これにより管理者は「エージェント資産の実態」を明確に把握できます。また、サプライチェーンリスクのスキャンを定期実施し、リスクの発生源を管理します。

1. コンテンツセキュリティとコンプライアンス

エージェントの入出力コンテンツに対する安全検出に焦点を当てます。規制要件やコンプライアンス基準に基づき有害コンテンツをリアルタイムで遮断。業界ごとの特性に応じ、レッドライン（厳禁事項）となる敏感なトピックに対して深層制御を行います。また、AI 生成コンテンツの真偽判定を行いタグ付けすることで、安全かつコンプライアンスに準拠した運用を担保します。

1. 定常的なセキュリティ評価と強化

「コンプライアンス評価」と「レッドチーム（攻撃側）評価」を通じてセキュリティ対策を左移し（開発初期段階での実施）し、エージェントの運用開始における安全要件を構築。改善・強化の提案を行い、導入に伴うリスクをさらに低減します。また、企業の登録プロセスと連携して、定常的なセキュリティ評価と強化体制を整備します。

1. AI セキュリティゲートウェイ

企業がエージェントを大規模に展開する際、AI セキュリティゲートウェイは、エージェントおよびその核心資産の呼び出し、トラフィックとルーティング制御を一元的に管理する統制面として機能します。エージェントの統一接続、機密データの識別・マスキング、データ越境管理、モデルのルーティング、リソース枯渇防止、コストガバナンスといった主要機能を備えることで、計算資源の消費を抑えつつ、出入口における包括的な防護を実現します。

1. 身份と認証管理：非人間であるエージェントの身元を確立し、各エージェントとそのコンポーネントに一意の識別子を付与して人間ユーザーのアカウントと紐付けます。信頼できるトークンによってエージェントの身元を検証し、委任チェーンや意図声明を重ねることで、サービス間を跨ぐ全体的な身元の伝播を実現します。これにより、ライフサイクル全体および各タスクの委任プロセスにおいて、人間ユーザーの承認と同意が明確に反映され、統一されたアクセス制御と監査追跡の対象となります。また、エージェントがスキル機能を通じてバックエンドリソースへアクセスする際の認証情報を管理・保管する機能を提供し、機密な認証情報がツールコードや設定ファイルに直接書き込まれるリスクを排除します。

1. 権限とアクセス制御：ユーザーとエージェントを主体とし、他のエージェント、ナレッジベース、スキルツールなどを対象として権限ルールを設定します。実行時には、「ユーザー→総括エージェント→サブエージェント→ナレッジベース/プラグイン/ツールセット」という委任チェーンの各ノードにおける権限を厳格に管理します。業務ニーズに応じて権限申請と承認フローをリアルタイムで構築し、タスク実行中にユーザーに必要な権限を付与します。さらに、エージェントが許容する行動規範やユーザーの文脈に基づいて動的な権限管理を行い、リスクが高く通常のビジネスロジックから逸脱した行為に対してはブロックするか、強制的に人間との協働（HITL）モードへ切り替えます。

1. 実行時のセキュリティ監視と防護：エージェントの実行時における全チェーンの検知・防護を行います。ツール濫用、権限昇格、メモリへの毒入りデータ注入、インジェクション攻撃など特有のリスクに対して、リアルタイムでの検知と遮断能力を提供します。また、多様なビジネスシーンに対応するため柔軟なカスタマイズ機能を備え、業界やシナリオに応じた精密な検知・防護を実現します。

1. セキュリティの可観測性と運用管理：長時間にわたるエージェント動作の全ログ記録、行動の可観測性監査、イベント分析、自動化された対応措置などを通じて、リスク発見と対応能力を定常的な運用体系へと昇華させます。具体的には、エージェントユーザー行動に基づく UEBA（User Behavior Analytics）やエージェント行動に基づく AEBA（Agent Behavior Analytics）の基準を策定し、企業が動的なシナリオでの運用を実現し、その知見を蓄積・定着させることを支援します。

1. モデルと推論のセキュリティ：モデル推論における機密計算による防護機能を実装します。チップレベルの信頼性を基盤とし、エンドツーエンドの全チェーン暗号化やリモート証明、完全な追跡可能な監査機能を備えることで、企業は軽量な投資で、オンプレミス環境に匹敵する高度なセキュリティ保護を実現できます。

企業が構築すべきエージェント安全管理体系への提言

企業のエージェント導入状況やセキュリティニーズの度合いに応じて、大きく 3 つのフェーズに分類されます。L1「エージェント基礎的安全 AI 防護」、L2「エージェント細粒度管理」、L3「エージェント安全継続的運用」です。これにより、「基礎的な防護」から「体系的なガバナンス」へ、そして「持続可能な運用」へと至る完全なセキュリティパスを提供します。

L1｜エージェント基礎的安全 AI 防護：まずは「安全にリリースできるか」を解決する

*企業现状*：企業はようやくエージェントプラットフォームの導入を開始し、少数のエージェントアプリケーションが稼働しています。AI セキュリティとデータ保護に関する基本的なコンプライアンス要件を満たす必要があります。

*セキュリティ構築ニーズ*：エージェントの基礎的な AI による防護を実現することです。このフェーズでは以下の 4 つの维度をカバーします。

1. エージェントのコンプライアンスに基づく導入許可
2. エージェント資産とサプライチェーンのセキュリティ
3. コンテンツセーフティのコンプライアンス遵守
4. 定常的なセキュリティ評価と強化

L1 の目標は、企業環境に参入するすべてのエージェントに対して、統一されかつ実行可能な安全基準を確立することです。

L2｜エージェント細粒度管理：次に「運用プロセスが制御可能か」を解決する

*企業现状*：企業ではワークフロー型やオフィス・開発支援型のエージェントの普及が進んでいます。ユーザーはモデルゲートウェイを通じて内部および外部のモデルを自由に選択可能です。また、機密性の高いビジネスデータを保有しており、AI セキュリティとコンプライアンスに対する要件も高まっています。

*セキュリティ構築ニーズ*：エージェントの細粒度な安全管理を実現することです。このフェーズでは以下の 4 つの维度をカバーします。

1. AI セキュリティゲートウェイ
2. 身元と認証管理
3. 権限とアクセス制御
4. 実行時のセキュリティ監視と防護

L2 の目標は、統一された入口、信頼できる身元、細粒度な権限付与、そして実行時の遮断機能を軸に、すべての呼び出しと実行を網羅する制御体系を構築し、エージェントの運用を「体系的ガバナンス」へと導くことです。

L3｜エージェント安全継続的運用：最終的に「スケール後の機密性と信頼性を維持できるか」を解決する

*企業现状*：企業のエージェント導入と活用は成熟期を迎え、ワークフロー型エージェントは各業務システムに完全に統合されています。また、オフィスや開発支援型のエージェントは全社的に普及しています。業界トップクラスかつ重要インフラ（関基）事業に従事する企業においては、AI セキュリティコンプライアンスおよびデータ保護に対する要件が極めて厳格です。

「智能体安全建设需求，实现智能体安全持续运营；该阶段覆盖两个维度：9 安全可观测性与运营管理，10 模型与推理安全。」

この段階では、2 つの主要な側面をカバーします。1 つ目は「安全な観測性と運用管理」、2 つ目は「モデルと推論の安全性」です。

L3 の目標は、企業がリスクを包括的に発見・対応できるだけでなく、全リンクデータを基に安全状態を継続的に検証し、戦略を最適化して持続的な運営を実現すること、そしてモデルの推論プロセスを機密かつ信頼性の高いものにする点にあります。

今回火山引擎が発表した「智能体安全能力图谱」は、企業が構築・運用・進化可能な AI 時代のセキュリティガバナンスフレームワークを提供することを目的としています。これにより、企業従業員と AI エージェントを統合した安全管理体制を構築し、AI エージェントの信頼性、制御可能性、管理可能性の実現を支援します。

ぜひ、火山 AI セキュリティ技術交流グループにご参加いただき、エージェントのセキュリティ能力構築や企業の実践事例について一緒に議論しましょう。

QR コードをスキャンしてグループに参加

高解像度の能力マップと完全な機能紹介をダウンロード

現在、「AI セキュリティ交流群 1」は QR コードでの参加ができません。以下の管理者の微信（WeChat）を追加して、群 1 へご参加ください。

原文を読む

WeChat で開くにはこちらへ