Microsoft、AI ガバナンスをポリシーからランタイム強制へ移行

Microsoft は、組織が生産環境で AI アプリケーションやエージェントを展開する際に、ドキュメント化されたポリシーから、ランタイムでの強制執行、継続的な評価、観測性、監査証拠へと移行する「AI ガバナンスアーキテクチャ」を明らかにしました。このフレームワークは 9 つのガバナンス領域と、ポリシー、コントロール、可視性、証明という 4 つの機能を網羅しており、AI システム運用中にガバナンス要件が実際に強制され、観測可能であることを検証する必要性に応えています。

Microsoft の AI ガバナンスアーキテクチャ（出典：Microsoft Blog Post）

このアーキテクチャでは、ガバナンスを継続的な運用ループとして捉えています。ポリシーが要件とリスク分類を定義し、コントロールがそれらをアクセス権限やランタイムルールに変換します。観測性はシステムの挙動を捕捉し、評価は品質と安全性を検証します。最後に監査プロセスが、運用テレメトリデータをコンプライアンスやインシデント調査のための証拠へと転換します。

Microsoft のクラウドソリューションアーキテクト、Manasa T. Ramalinga 氏は、このアーキテクチャを補完する LinkedIn の投稿で、その背景にある動機について解説しました。彼女は、AI ワークロードを実環境へ移行させる組織は、ガバナンスを後付けの対応として扱うのではなく、より安全なシステムを構築するために基盤となる構造自体を再設計しているのだと付け加えています。

「制御できないものをスケールすることはできない」

Microsoft は 9 つのガバナンスドメインを特定しています。それはポリシー、データガバナンス、モデルガバナンス、観測性（オバザビリティ）、評価、セキュリティ、ID およびアクセス管理、監査とコンプライアンス、そしてエージェントガバナンスです。ランタイム制御は、ユーザー、エージェント、モデル、ツール、API、MCP サーバー、およびエンタープライズシステム間の相互作用にまたがります。

このアーキテクチャは、Microsoft Foundry と Microsoft Purview、Entra ID、Defender、Azure API Management などのサービスを組み合わせています。Foundry の AI Gateway は、認証、トークン制限、クォータ、ポリシーの適用といったランタイム境界を提供します。また、MCP ツールのガバナンスにはこのゲートウェイを活用し、MCP サーバーやエージェントコードを変更することなく、集中型認証、レート制限、IP 制限、監査ログを実現しています。

評価はデプロイ前と本番環境の両方で行われます。Microsoft Foundry は、組み込みおよびカスタムの評価器を使用して AI アプリケーションやエージェントをデータセットに対して評価できるため、リリース前の品質と安全性の評価、そして本番環境での動作監視が可能です。

Microsoft のシニアクラウドアドボケートである Anthony Bartolo 氏は、LinkedIn でこの運用上の違いについて説明しています。

「AI のポリシーは、本番環境でその実効性を証明されるまで、ガバナンスとは呼べない」

このループを構成する要素として、彼は以下の 5 つを挙げました。まずポリシーがルールを定義し、ランタイム制御がそれを強制します。次に観測性（オバザビリティ）が行動を捉え、評価（イヴァリュエーション）が品質と安全性を検証。最後に監査（オーディット）がテレメトリデータを証拠へと変換します。

出典：Microsoft Blog Post

このアプローチはマイクロソフト固有のコントロールプレーンに限定されるものではありません。NIST AI リスク管理フレームワークおよび生成 AI プロファイル（NIST AI Risk Management Framework and Generative AI Profile）は、ガバナンス、測定、評価、リスク緩和を含むライフサイクル全体にわたる AI リスク管理のためのベンダー中立の枠組みを提供しています。マイクロソフトのアーキテクチャでは、これらのガバナンス上の懸念事項を、具体的なプラットフォーム制御と運用テレメトリへと落とし込んでいます。

エージェントガバナンスでは、エージェントのID、アクセス権限、活動内容、ワークフローのチェックポイントに関する制御が追加されます。Microsoft がオープンソースで公開している Agent Governance Toolkit は、自律型エージェント向けのランタイムセキュリティ機能を提供しており、ポリシーの強制やインターセプトポイントの実装が含まれます。また、このアーキテクチャでは「Agent Control Specification」を定義し、エージェントへの入力、モデル呼び出し、ツール実行、出力といった各段階でチェックポイントを設ける仕組みを示しています。特に影響度の高いアクションについては、人間の承認が必要となるように設計されています。

著者について

リーラ・クミリ

リーラはスターバックスのシニアソフトウェアエンジニアとして、スケーラブルなクラウドネイティブシステムや分散プラットフォームの構築に深い専門知識を持っています。リワードプラットフォームにおいてアーキテクチャ設計、納品、運用の卓越性を主導し、システムの近代化、スケーラビリティの向上、信頼性の強化に向けた取り組みを率いています。

技術的なリーダーシップに加え、リーラは組織内の AI チャンピオンとしても活躍し、LLM ベースのツールを活用して開発者の生産性やワークフローを改善する機会を発見するとともに、AI 導入におけるベストプラクティスの確立に取り組んでいます。彼女は本番環境で運用可能なシステムの構築、開発者体験の向上、そしてエンジニアが技術面と戦略面の両面で成長できるよう指導することに情熱を注いでいます。関心領域はプラットフォームエンジニアリング、分散システム、開発者の生産性、そして技術的な解決策とビジネス・プロダクト目標をつなぐことです。

もっと見る 閉じる