エンタープライズ AI 導入が思わぬほど遅い理由 — Box CEO アーロン・レヴィ氏、Harrison Chase 氏

エンタープライズ AI 導入が思わぬほど遅い理由：セキュリティの壁とコストの現実

Box CEO アーロン・レヴィ氏と LangChain のハリスン・チェイス氏が語る、企業における AI 導入の真実とは？

「AI コーディングは素晴らしいのに、なぜ一般業務では進まないのか？」。この疑問に答える鍵は、技術的な限界ではなく、セキュリティリスクの非対称性とデータ権限管理の複雑さにあります。エンジニアがコードを修正できる環境と、一般社員が AI エージェントを安全に運用する環境には決定的な違いがあり、ここが最大のボトルネックとなっています。

コーディングと一般業務の「セキュリティ・ギャップ」

AI エージェントが劇的な進化を遂げているのは事実です。特にソフトウェア開発の分野では、エージェントが複雑なタスクを処理し、コードを実行する能力は驚異的です。しかし、この成功事例をマーケティングや営業、財務などの一般業務にそのまま適用するのは危険です。

エンジニアが AI エージェントを使う場合、彼らは技術的な知識を持っているため、エージェントがエラーを起こしても修正できます。また、マルウェアに感染したとしても、システムの状態を理解し、対処する能力があります。しかし、非エンジニア層が同じ環境で AI を使うと話は別です。

「私の父もコーディングを始めましたが、元々プログラマーではありませんでした。彼が Claude Code を使い始めたら、パソコンはマルウェアだらけになりました。過去 3 日間で起きた NPM アタックのすべてが、彼には当てはまっていました。」

アーロン・レヴィ氏は、この事例を挙げながら、技術者でないユーザーが AI エージェントに任せることのリスクを指摘します。

• 修正能力の欠如: ユーザーがエラーの原因を特定し、修正するスキルを持っていないため、失敗が拡大しやすい。
• セキュリティリスク: 悪意あるコードやマルウェアへの感染リスクが高く、組織全体のセキュリティを脅かす。
• 検証の難しさ: コードは動作すれば「正解」ですが、一般業務（文章作成やデータ分析など）の結果を検証するのは難しく、誤った出力がそのまま採用される恐れがあります。

このように、「誰が何にアクセスできるか」という定義が困難な非エンジニア環境では、自律型の AI エージェント導入には慎重にならざるを得ないのです。

散在するデータと権限管理の壁

技術者であれば、コードベース全体へのアクセス権限は統一されています。しかし、企業内の一般社員や部署ごとに、アクセスできるデータやファイルは異なります。営業担当者は顧客情報にのみアクセスでき、財務担当者は経理データに限定されるなど、「データのガバナンス」が部門ごとに細かく分断されています。

AI エージェントを組織全体で展開する場合、この複雑な権限構造をどう扱うかが大きな課題となります。

「エンジニアならコードベースを通じて一般的にアクセスできます。しかし知識労働者（一般社員）の場合、エージェントも同じようにアクセス制限を受け継いでしまいます。エージェントは『サリー、あのデータへのアクセスをくれませんか？』と人間のように尋ねることはできません。」

エージェントには、組織内の複雑な権限パラメータをナビゲートする能力がありません。特定のドメインや業界に特化したスタートアップが現れ始めているのは、この「コンテキスト（文脈）」の欠如を埋めようとする動きです。

Box のアプローチは、「水平型（横断的）なデータレイヤー」の上に AI を構築することです。Box Agent は特定の業界（法務や金融など）に特化しているわけではありませんが、あらゆるエンタープライズコンテンツへの安全なアクセスと、厳格な権限管理を基盤としています。

• 単一のファイルシステム: 競合他社のようにデータが表示される方法が複数あるのではなく、Box は単一のファイルシステムとガバナンスモデルを提供します。
• 統一された権限アーキテクチャ: エージェントがアクセスする際、組織のルールを自動的に適用し、不正なデータ流出を防ぎます。

このように、「誰が何にアクセスできるか」を明確に定義した基盤がない限り、AI エージェントは一般業務で安全に運用できないのです。

トークンコストの爆発とモデル戦略の見直し

もう一つの大きな障壁はコストです。大規模言語モデル（LLM）の使用に伴い、トークンコストが予想以上に膨れ上がるケースが増えています。「最新かつ最強のモデル」をすべてのタスクに使うことが、必ずしも最適解ではありません。

「高価な最新モデルだけでなく、過去のモデルや軽量モデルをワークロードに応じて使い分ける必要性が浮上しています。」

企業は、タスクの難易度や重要度に合わせてモデルを使い分ける「マルチモデル・ハイブリッドアーキテクチャ」への移行を迫られています。

• 複雑な推論が必要な場合: 最新の高コストモデルを使用する。
• 単純なタスクや定型業務: 軽量で安価な旧世代モデルや、特定のドメインに最適化されたモデルを使用する。

Box の戦略もこれに沿っています。文書抽出など自社の得意分野では独自のエージェントを、汎用的な会話には外部のモデル（Claude や ChatGPT など）を活用するなど、「コスト効率」と「性能」のバランスを最優先しています。

結論：ヘッドレス化と「余剰」の時代へ

AI エージェントが一般業務に浸透するには、時間がかかります。しかし、その先には明確な道筋があります。Box のようなプラットフォーム企業が、セキュリティと権限管理の基盤を整備し、ドメイン特化型のスタートアップが専門性を補完する形です。

また、ソフトウェアの使い方も変化します。「人間が操作するインターフェース」から、「API や MCP（Model Context Protocol）を介して直接連携するヘッドレス型」への移行が進んでいます。これは、企業が自社のシステムを AI に開放し、AI が自律的にタスクを実行する未来です。

「エージェントなら、トークンコスト以外には気にしません。人間に頼まないような複雑なタスクも、エージェントに任せることで、数時間の作業が 20 分で完了します。」

アーロン・レヴィ氏は、この変化を「ジェボンズの逆説」（効率化が進むほど資源消費が増える現象）の逆として捉えています。AI の導入により、人間がやらなかったタスクまで自動化され、組織全体で「新しい余剰（スラック）」が生まれるのです。

エンタープライズ AI 導入の遅れは技術不足ではなく、セキュリティとガバナンスの課題でした。この壁を越え、コスト最適化されたモデル戦略へと移行することで、企業は初めて AI の真価を引き出せるようになるでしょう。