バグを出力したのではなく人間のためにコードを書いた

バグを修正するのではなく、人間のためにコードを書け：AI エージェント時代のセキュリティパラダイムシフト

生成 AI の進化により、ソフトウェアは単なる「ツール」から自律的な「アクター（行動主体）」へと姿を変えつつあります。しかし、現在の認証・権限管理の仕組みは依然として「人間が操作するプログラム」という前提で設計されており、AI エージェントの非確定的な振る舞いには致命的に適合していません。

スケールキット創設者のラヴィ・マダブヒシ氏は、従来のセキュリティモデルを根本から再構築し、エージェント固有のリスクに対応できる「最小権限」の原則と超細粒度アクセス制御への移行が急務であると警鐘を鳴らしています。

人間中心の認証モデルは崩壊する

我々が長年信頼してきた認証システムは、「誰が認証したか＝誰が実行するか」という前提の上に成り立っています。従来の API キーや OAuth、サービスアカウントにおいても、この原則は機能してきました。

「認証している主体と、実際に行動を起こす主体が一致していることが大前提だったのです」

例えば、人間がパスワードを入力してログインし、その後のすべての操作はその人間の権限に基づいて行われます。あるいは、開発者が作成したスクリプト（プログラム）も同様です。重要なのは、これらのプログラムは「決定論的」であるという点です。

開発者がコードを書いた時点で、プログラムの振る舞いは完全に固定されています。「このコードを実行すれば、必ず A という結果になる」という保証があり、セキュリティレビューでコードを検証することで、悪意ある行為や予期せぬ動作を事前に防ぐことができました。しかし、AI エージェントはこの前提を崩壊させます。

非確定的な振る舞いが招く「権限の過剰」リスク

AI エージェントは人間が書いた決定論的なコードとは異なり、「非確定的（ノンデターミニスティック）」です。同じ入力を与えても、状況や学習の度合いによって異なる出力を返す可能性があります。

「エージェントが今日ある行動をとったからといって、明日も同じ行動をするとは限りません。逆に、予期せぬ行動をとるリスクが常にあるのです」

この非確定的な性質ゆえに、開発者は「何かあっても大丈夫なように」という心理から、デフォルトで広範な権限（スコープ）をエージェントに付与しがちです。しかし、これは極めて危険です。

例えば、データベース削除のような重大な操作も、エージェントが誤って判断すれば実行されてしまいます。従来のコードレビューでは防げない「悪意ある実行」や「予期せぬ破壊行為」のリスクが、広範な権限によって現実のものとなります。ラヴィ氏は、多くの顧客が構築するエージェントが、その責任範囲を超えて過剰な権限を持っている現状を指摘しています。

OAuth の限界と「最小権限」への転換

現在の主流である OAuth は、人間がアプリに権限を与える際に利用される仕組みですが、AI エージェントの文脈では不十分です。OAuth では「このクライアントはあなたの Gmail にメールを送信できます」といった大まかなスコープしか定義できません。

「エージェントが『いつ』、『誰のために』、『どの属性のデータに対して』行動できるのかを制御する粒度が、現在の OAuth にはありません」

例えば、「午前 9 時〜10時の間にのみ」「特定の送信者からのメールのみを読み取り」「特定の宛先へのメールのみを送信」といった条件付けは、現状の標準的なスコープでは不可能です。その結果、エージェントは利用可能なツールをすべて表示され、文脈に合わないツールを選択して誤った行動をとるリスクが高まります。

解決策として必要なのは、「時間」「文脈」「属性」レベルでの超細粒度アクセス制御です。また、権限は常に付与するのではなく、必要な時だけ一時的に付与する「Just-in-Time（即時権限昇格）」の仕組みが不可欠となります。

完全な可視性がセキュリティの鍵となる

最終的に重要なのは、エージェントが誰に代わって、いつ、何を許可されたかという全行動に対する「絶対的な可視性」です。単なる API キー管理を超え、以下の情報を常に追跡・制御できる必要があります。

• どのエージェント（アイデンティティ）が動作しているか
• 誰の権限で動作しているか（プリンシパルとの紐付け）
• 権限付与のタイミングと有効期限
• 許可された具体的なアクションの内容

「もし、エージェントの全行動を可視化できず、決定論的なガードレールを設けられないなら、セキュリティは担保できません。それは『運に頼る』ことに他なりません」

「運に頼る」ことは戦略ではありません。生成 AI が自律的に行動する時代において、従来の認証インフラの再設計は待ったなしの課題です。

まとめ

AI エージェントの普及は、セキュリティアーキテクチャの根本的な見直しを迫っています。「人間が操作するプログラム」という前提から脱却し、非確定的な振る舞いに対応できる「最小権限」「超細粒度制御」「完全な監査」を実現する新しいフレームワークへの移行が、企業の生存戦略として急務となっています。