AI エージェントの自律化に伴いガバナンスはデータ層に実装される必要がある

EDB 提供

企業が AI エージェントに計画、判断、そして各ステップを人間が承認することなくシステム間を自律的に実行する能力を与えるにつれ、アーキテクチャレビューの中心にあるのは、ある厳しい問いです。エージェントが許可されていない行動を実行しようとしたとき、それを実際に止めるものは何でしょうか？

これらは、あなたのモデル上で稼働し、あなたのインフラストラクチャ内のデータにアクセスするエージェントたちです。彼らの行動に対する責任はあなたにあります。その責任は事後の検討や、紙の上には存在しても実務では機能しない抽象的なポリシーの羅列で果たせるものではありません。エージェントは独自の判断力を持っていません。そのため、彼らが必要とするのは、その瞬間の文脈に即したルールです。

例えば、「絶対に車のドアを開けてはいけない」という単純なルールを考えてみましょう。これを文字通り解釈すれば、エージェントは車に乗ったり降りたりすることができなくなります。しかし、状況（車が衝突した、火災が発生している、誰かが負傷して外に出なければならない）が変われば、実際に必要とされるルールはその逆になります。重要なのは、その瞬間の文脈です。私たちはエージェントに知的な行動を求めています。それには、知性的なルールが必要なのです。

エージェントの周囲にガードレールを追加しようとするのは自然な発想です。指示、ポリシー、モデルの上に重ねられた監視などがそれにあたります。これらの仕組みは確かに重要ですが、構造的な限界を共有しています。

「車庫のドアを開けるべきか」というルールは、実際にその判断を下す瞬間までなら妥当に思えます。しかし、エージェント層での制御が信頼できるのは、エージェントの出力が予測可能である場合に限られます。そして、自律性とはまさに、その出力を予測困難にする性質です。

アクションが発生する前にレビューを行うことに依存したガバナンスは、ミリ秒単位で動作し、かつ複数のシステムにまたがるようなシステムには追いつくことができません。

ガバナンスは実行可能でなければならず、エージェントが実際に作業を行う場所、つまり運用上のデータ層、コンテキスト内、そしてまさにその瞬間に適用されるものでなければなりません。

データ層こそが執行の地点です

エージェントはデータを扱うことで価値を生み出します。データを照会し、取得し、変換し、さらにそれを基に行動を起こすようになります。「特定のクラスに属するデータにはアクセスしてはならない」というポリシーも、システムがエージェントからのリクエストをその瞬間に拒否できる場合にのみ意味を持ちます。

また、「AI は監査可能でなければならない」という原則も、組織がエージェントの行動履歴、接触したデータ、誰のために行動したか、そしてその結果を再構築できる場合にのみ意味を持ちます。ガバナンスがデータ層に根付いている場合、エージェントの構築方法や振る舞いに関わらず、それは維持されます。なぜなら、制御はエージェントが約束するものではなく、データベース自体の性質だからです。

エージェントの行動は確率的になり得る。ガバナンスはそうであるべきではない。

企業は、モデルがポリシーに従うことを期待するだけではいけない。ポリシーはシステムによって強制されなければならない。これは「アクターが範囲内に留まることを願う」ことと、「最初から越えられない境界を構築する」ことの差である。

これを現実のものとする制御手段は、多くの企業がすでにデータレイヤーで運用しているものだ。ロールベースおよび属性ベースのアクセス制御、行レベル・列レベルのセキュリティ、分類とマスキング、ポリシー・アズ・コード、そして完全な監査証跡がそれにあたる。

エージェントによって変わるのはメカニズムではなく、そのメカニズムが認識すべき対象である。アイデンティティ管理は、エージェントを独自の主体として扱う必要がある。エージェントには固有のアイデンティティがあり、セッション開始時にはその目的も明確に宣言されなければならない。

一度、目的とアイデンティティが紐付けられれば、ポリシーエンジンはその評価方法を、現在のロールや部署の評価と同じように適用できる。また、発生した事象の記録にも、「誰が」「何を触ったか」だけでなく、「何のためにそこにいたのか」という宣言も含まれるようになる。

実務的には、これらは 9 つの制御手段に整理され、3 つの必須要件の下にグループ化される。

強制する (Enforce it)

• エージェントおよびユーザーに対して、クエリ実行時にロールベース・属性ベースのアクセス制御を適用する
• 同じポリシーパスに基づく動的な列マスキング
• 1 クラス目の主体としてのエージェントアイデンティティ。セッション開始時に目的が紐付けられ、実際の操作を行ったユーザーも記録に残す

可視化し証明する (See it and prove it)

• ポリシーを駆動するための分類とタグ付け

エージェントが自律的に行動する際、ガバナンスはデータ層に実装される必要があります

セッションレベルの監査ログにより、「どのエージェントが」「誰のために」「どのような宣言された目的で」動作したかを記録できます。

パイプライン全体でのリンケージ（系譜）を確保し、結果からそれを生成したリクエストまで遡って追跡できるようにします。

統合と強化

中央集権的でポータブルなポリシー管理を実現します。

保存時および転送時の暗号化を適用します。

オンプレミス、クラウド、主権環境、あるいはエアギャップされた環境など、あらゆる場所で一貫したポリシーの強制を行います。

「宣言された目的こそが違いを生むのです。これはアクセス層がすでに理解している属性となり、ロールベースや行レベルのセキュリティと同じポリシーパスで評価されます。強制メカニズム自体は変わりません。重要なのは、エージェントの目的も評価対象の一部となり、後日の記録でも証明される要素となる点です」と、EDB のデータ＆AI ガバナンス担当バイスプレジデントであるプリヤンカ・ジャイン氏は述べています。

AI 導入のどの段階にあろうとも、データ層での強制が組織をより速く前進させる鍵となります。制御機能はすでにデータベース内に存在しています。変化しているのは、エージェントがそれらの制御を通過しなければならない点だけです。

デジタルなリード、ロックされた扉ではない

目標は、エージェントによる有用な作業そのものを阻止することではありません。重要なのは、エージェントの行動範囲やアクセス権限、変更可能な対象、エスカレーションが必要なケース、そして何かが起きた際に組織がどのように事象を再構築できるかを明確に定義することです。

このようにガバナンスされたエージェントは、特定され、スコープが定められ、監視され、監査可能となります。セキュリティ、リスク管理、経営層がその基盤となる運用モデルを信頼するからこそ、企業はより迅速にエージェントの導入を進められるのです。

オープンで主権を持ち、ソースレベルで強制可能

オープンソースの Postgres を基盤とするこのオープンプラットフォームにより、企業はデータの所在、アクセス権限、適用されるポリシーを完全にコントロールできます。ガバナンスを所有せず、監査もできないレイヤーに委ねる必要はありません。規制産業においては、データ主権とソースレベルでの強制という組み合わせは「あれば良い」程度の機能ではなく、エージェントを本番環境で運用するための前提条件です。

エージェント型システムはさらに能力を高め、自律性を増していきます。これは制御の所在について慎重に考えるべき理由であり、スピードを落とす理由ではありません。データレイヤーでガバナンスを強制できる企業こそが、AI において大胆な動きが可能になります。なぜなら、データを保護する仕組みは単なる願望ではなく、確実な基盤だからです。

EDB Postgres AI は、トランザクション処理、分析処理、AI ワークロードを統合したオープンでエンタープライズグレードの主権データおよび AI プラットフォームです。ガバナンスはデータが存在する場所で強制されます。詳細なフレームワークについては、EDB のホワイトペーパー「Governing Agentic AI at Enterprise Speed」をご覧ください。

Max Romanenko 氏は EDB の最高技術責任者（CTO）です。

スポンサー記事は、投稿料を支払う企業または VentureBeat と事業関係にある企業が作成したコンテンツであり、必ず明確に表示されます。詳細については sales@venturebeat.com までお問い合わせください。