マイクロソフト、開発者向けに AI エージェントの動作制御を改善する機能を提供
本文の状態
日本語全文を表示中
詳細モードで約4分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
マイクロソフトは、開発者が AI エージェントの振る舞いをより効果的に制御できる新しい手段を提供すると発表した。これにより、エージェントの挙動管理が容易になる。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
AI エージェントの能力がますます高まる中、アプリケーション、ワークフロー、製品 across での導入を急ぐ企業は新たな課題に直面しています。それは、異なる環境で展開された際に、エージェントが本来行うべき動作を実行できていることを保証することです。
Microsoft は、開発者が AI エージェントの許可範囲を一貫性がありかつ細かく制御できる方法を提供することを目的とした、新しいオープンソース標準「Agent Control Specification (ACS)」を用いてこの問題の解決を図っています。
この仕様は本質的に、開発者、コンプライアンスチーム、セキュリティチームがエージェントが従うべき独自のポリシーを定義できるようにします。ルールには、エージェントが行ってよいこと、行ってはいけないこと、人間の承認が必要なアクション、および後日のレビューのために記録すべき証拠などが含まれます。これらのポリシーファイルは、エージェントがタスクを実行している間の複数の「インターセプションポイント」でチェックされ、ガードレール内にとどまっていることを確認します。
この仕様が発表される背景には、AI ワークフローの失敗や、ツールの誤用 tool misuse による連鎖的な障害を引き起こす意図しないアクションなど、AI が何を閲覧し、何を行うかを制御するための開発者による応急処置的な取り組みが広がっていることがあります。
今日、開発者はシステムプロンプトに指示を指定したり、アプリケーションコード内でカスタムチェックを追加したり、問題のある入力や出力を検出するために分類器を使用したりすることがあります。これらのアプローチは機能しますが、しばしば監査が難しく、異なるフレームワーク、インターフェース、システム間で再利用するのがさらに困難な、断片的な制御手段しか企業に残さないという課題があります。
image画像クレジット: Microsoft
ACS はこれらの制御を共通のガバナンス層に統合することを目指しています。Microsoft によると、この仕様は、エージェントがワークフロー内の複数のポイント（入力を受け取る前、ツールを呼び出す前、ツールから結果が返された後、最終応答をユーザーに送信する前）でガードレールに従っているかどうかを確認するために使用できます。ポリシーは特定のアクションを許可したり、ブロックしたり、機密情報を削除したり、あるいは人の承認を求めることも可能です。
開発者はまた、入力と出力に対して分類器を挿入して情報をカテゴリ化し、結果を予測したり、エージェントがどのように応答すべきかを決定したりできるようにしたり、ポリシーに対する「審判」として機能するプロンプト付きの LLM（大規模言語モデル）を追加したり、ツール呼び出し、ツールの選択、入力精度、出力の使用状況、および応答をチェックするためのロジックを実装したりできます。
そして、これらのポリシーは単一のファイルとして記述できるため、エージェントにバンドルすることが可能となり、セキュリティポリシーが異なるフレームワークや環境間をエージェントと共に追跡できるようになります。
ACS は、LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP ツールなどに対応するプラグインを備えた SDK として提供されています。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは当社の編集の独立性には影響しません。
Ram からの連絡や outreach の確認は、ram.iyer@techcrunch.com までメールでご連絡ください。
原文を表示
As AI agents grow ever more capable, enterprises racing to put them to work across applications, workflows, and products face a new challenge: ensuring an agent does what it’s supposed to do when it’s deployed across different environments.
Microsoft is trying to solve this problem with a new open source standard called Agent Control Specification (ACS) that aims to give developers a more consistent and granular way to control what AI agents are allowed to do.
The specification essentially lets developer, compliance, and security teams define their own policies for agents to follow. The rules can define what the agent may do, what it must not do, when a human should approve an action, and what evidence should be logged for later review. These policy files are checked at several “interception points” when the agent is off performing a task to make sure it stays within the guardrails.
The spec comes as developers are improvising ways to control what their AI sees and does, especially with conversations focusing on AI workflows going wrong due to tool misuse, or unintended actions that result in cascading failures.
Today, developers might specify instructions in a system prompt, add custom checks in the application code, or use classifiers to catch problematic inputs and outputs. Those approaches work, but they often leave companies with fragmented controls that are hard to audit and harder to reuse across different frameworks, interfaces, and systems.
ACS aims to integrate those controls into a common governance layer. Microsoft says the specification can be used to check whether an agent is sticking to guardrails at multiple points in its workflow — before it receives input, before it calls a tool, after a tool returns a result, and before the final response is sent to the user. A policy may allow an action, block it, redact sensitive information, or even ask a person to approve it.
Developers can also insert classifiers for inputs and outputs to categorize information, predict outcomes, or determine how an agent should respond; add LLMs with prompts to act as a “judge” for policies; and logic for checking tool calls, tool selection, input accuracy, output usage, and responses.
And because these policies can be written as single files, they can be bundled with agents, allowing a security policy to follow an agent across different frameworks and environments.
ACS is shipping as an SDK with plug-ins for LangChain, the OpenAI Agents SDK, the Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, MCP tools, and more.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Ram is a financial and tech reporter and editor. He covered North American and European M&A, equity, regulatory news and debt markets at Reuters and Acuris Global, and has also written about travel, tourism, entertainment and books.
You can contact or verify outreach from Ram by emailing ram.iyer@techcrunch.com.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み