マイクロソフト、開発者向けに AI エージェントの動作制御を改善する機能を提供
Microsoft は、AI エージェントの行動制御における一貫性と監査可能性を向上させるため、開発者向けに新しいオープンソース標準「Agent Control Specification (ACS)」を発表した。
キーポイント
ACS の目的と機能
AI エージェントが異なる環境で意図通りに動作し続けるよう、開発者やセキュリティチームがポリシーを定義できる標準仕様を提供する。
詳細な制御と監査機能
エージェントの行動範囲、禁止事項、人間の承認が必要なタイミング、および事後検証用のログ記録ルールなどを「インターセプションポイント」でチェック可能にする。
現状の課題と解決策
システムプロンプトやカスタムコードによる断片的な制御手法に代わり、フレームワークやシステムを横断して再利用・監査可能な統一されたアプローチを実現する。
ワークフロー全体でのガバナンス制御
ACS はエージェントのワークフロー（入力前、ツール呼び出し前後、最終応答前）の複数のポイントでガードレール遵守を確認し、アクションの許可・ブロック、機密情報の削除、または人間の承認要求を可能にする。
柔軟なポリシー定義と分類機能
開発者は入力・出力の分類器や LLM を用いた「審判」機能、ツール呼び出しのロジックチェックなどを追加でき、単一ファイルとして記述されたポリシーをエージェントにバンドルして異なる環境间でもセキュリティポリシーを引き継がせることができる。
主要なエージェントフレームワークとの互換性
ACS は SDK として提供され、LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel など、主要な複数のエージェントフレームワークおよびツールに対応するプラグインを備えている。
影響分析・編集コメントを表示
影響分析
この標準化により、企業は AI エージェントの導入リスクを大幅に低減でき、複雑なワークフローにおけるセキュリティとコンプライアンス対応が効率化されます。業界全体で統一された制御基準が確立されることで、AI エージェントの実用性と信頼性が飛躍的に向上するでしょう。
編集コメント
AI エージェントの普及に伴い、その制御と監査がいかに重要視されているかが浮き彫りになりました。Microsoft が主導するこの標準が業界デファクトスタンダードとなるかどうかが今後の注目点です。
AI エージェントの能力がますます高まる中、アプリケーション、ワークフロー、製品 across での導入を急ぐ企業は新たな課題に直面しています。それは、異なる環境で展開された際に、エージェントが本来行うべき動作を実行できていることを保証することです。
Microsoft は、開発者が AI エージェントの許可範囲を一貫性がありかつ細かく制御できる方法を提供することを目的とした、新しいオープンソース標準「Agent Control Specification (ACS)」を用いてこの問題の解決を図っています。
この仕様は本質的に、開発者、コンプライアンスチーム、セキュリティチームがエージェントが従うべき独自のポリシーを定義できるようにします。ルールには、エージェントが行ってよいこと、行ってはいけないこと、人間の承認が必要なアクション、および後日のレビューのために記録すべき証拠などが含まれます。これらのポリシーファイルは、エージェントがタスクを実行している間の複数の「インターセプションポイント」でチェックされ、ガードレール内にとどまっていることを確認します。
この仕様が発表される背景には、AI ワークフローの失敗や、ツールの誤用 tool misuse による連鎖的な障害を引き起こす意図しないアクションなど、AI が何を閲覧し、何を行うかを制御するための開発者による応急処置的な取り組みが広がっていることがあります。
今日、開発者はシステムプロンプトに指示を指定したり、アプリケーションコード内でカスタムチェックを追加したり、問題のある入力や出力を検出するために分類器を使用したりすることがあります。これらのアプローチは機能しますが、しばしば監査が難しく、異なるフレームワーク、インターフェース、システム間で再利用するのがさらに困難な、断片的な制御手段しか企業に残さないという課題があります。
image画像クレジット: Microsoft
ACS はこれらの制御を共通のガバナンス層に統合することを目指しています。Microsoft によると、この仕様は、エージェントがワークフロー内の複数のポイント（入力を受け取る前、ツールを呼び出す前、ツールから結果が返された後、最終応答をユーザーに送信する前）でガードレールに従っているかどうかを確認するために使用できます。ポリシーは特定のアクションを許可したり、ブロックしたり、機密情報を削除したり、あるいは人の承認を求めることも可能です。
開発者はまた、入力と出力に対して分類器を挿入して情報をカテゴリ化し、結果を予測したり、エージェントがどのように応答すべきかを決定したりできるようにしたり、ポリシーに対する「審判」として機能するプロンプト付きの LLM（大規模言語モデル）を追加したり、ツール呼び出し、ツールの選択、入力精度、出力の使用状況、および応答をチェックするためのロジックを実装したりできます。
そして、これらのポリシーは単一のファイルとして記述できるため、エージェントにバンドルすることが可能となり、セキュリティポリシーが異なるフレームワークや環境間をエージェントと共に追跡できるようになります。
ACS は、LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP ツールなどに対応するプラグインを備えた SDK として提供されています。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは当社の編集の独立性には影響しません。
Ram は金融およびテクノロジー分野の記者兼編集者です。彼はロイターや Acuris Global で、北米および欧州の M&A（企業買収・合併）、株式、規制関連ニュース、債務市場を取材し、また旅行、観光、エンターテインメント、書籍についても執筆しています。
Ram からの連絡や outreach の確認は、ram.iyer@techcrunch.com までメールでご連絡ください。
原文を表示
As AI agents grow ever more capable, enterprises racing to put them to work across applications, workflows, and products face a new challenge: ensuring an agent does what it’s supposed to do when it’s deployed across different environments.
Microsoft is trying to solve this problem with a new open source standard called Agent Control Specification (ACS) that aims to give developers a more consistent and granular way to control what AI agents are allowed to do.
The specification essentially lets developer, compliance, and security teams define their own policies for agents to follow. The rules can define what the agent may do, what it must not do, when a human should approve an action, and what evidence should be logged for later review. These policy files are checked at several “interception points” when the agent is off performing a task to make sure it stays within the guardrails.
The spec comes as developers are improvising ways to control what their AI sees and does, especially with conversations focusing on AI workflows going wrong due to tool misuse, or unintended actions that result in cascading failures.
Today, developers might specify instructions in a system prompt, add custom checks in the application code, or use classifiers to catch problematic inputs and outputs. Those approaches work, but they often leave companies with fragmented controls that are hard to audit and harder to reuse across different frameworks, interfaces, and systems.
ACS aims to integrate those controls into a common governance layer. Microsoft says the specification can be used to check whether an agent is sticking to guardrails at multiple points in its workflow — before it receives input, before it calls a tool, after a tool returns a result, and before the final response is sent to the user. A policy may allow an action, block it, redact sensitive information, or even ask a person to approve it.
Developers can also insert classifiers for inputs and outputs to categorize information, predict outcomes, or determine how an agent should respond; add LLMs with prompts to act as a “judge” for policies; and logic for checking tool calls, tool selection, input accuracy, output usage, and responses.
And because these policies can be written as single files, they can be bundled with agents, allowing a security policy to follow an agent across different frameworks and environments.
ACS is shipping as an SDK with plug-ins for LangChain, the OpenAI Agents SDK, the Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, MCP tools, and more.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Ram is a financial and tech reporter and editor. He covered North American and European M&A, equity, regulatory news and debt markets at Reuters and Acuris Global, and has also written about travel, tourism, entertainment and books.
You can contact or verify outreach from Ram by emailing ram.iyer@techcrunch.com.
関連記事
暗号化、スパイウェア、そしてミトス：歴史が示すサイバー輸出管理の失敗
TechCrunch AI は、過去の事例を分析し、暗号化技術やスパイウェア、AI 基盤である Mythos への規制を含むサイバー輸出管理政策が実効性を欠くことを指摘している。
米政府によるアンソロピック禁止が、かえってブランドを助けているのか？
米国政府は国家安全保障上の懸念から、アンソロピックに対し最新モデル「Fable 5」と「Mythos 5」の撤回を命じた。サイバーセキュリティ研究者らはこの措置を危険と指摘し、同社も他のモデルにも同様の抜け道が存在すると認めている。
米国がアンソロピックの「Fable 5」発売を禁止、しかし市場は動じず
米国政府は国家安全保障上の懸念から、アマゾンの研究者らがガードレール回避手法を発見したとして、アンソロピックに対し最新モデル「Fable 5」と「Mythos 5」の販売差し止めを命じた。サイバーセキュリティ研究者らはこの措置が危険だとする公開書簡に署名し、同社も他モデルでも同様の抜け道が存在すると指摘している。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み