AI コスト管理ベンダーもエージェント支出の制御を失うリスク

*ZDNET のニュースをフォローする:* *優先ソースとして追加* on Google.*

ZDNET の注目ポイント

• AI エージェントが制御不能になり、請求額が急増するリスクがある。
• あるプロバイダーが、管理されなかったエージェントによる問題について語った。
• 平均コストではなく、高機能な AI ユースケースにおける費用に目を向けるべきだ。

AI エージェントは急速に普及しており、IT 管理者のコントロールを超えて拡大するケースも少なくない。最近の分析によると、見えないエージェント活動に伴うコストがすぐに膨れ上がる恐れがある。

StackGen が発表した最新の「信頼性レポート」では、規制や監督が不十分なエージェントが多くの面で問題を引き起こしていることが明らかになった。

また、アンドリュー・ン氏が提唱する「AI開発に必要な4つのスキル」について、専門家が指摘する不足点も解説しています。

過去1年間で少なくとも9件の事例が確認されています。AIエージェントは有効な認証情報を用いて、自らの判断で生データやデータベースを削除し、企業のシステムを破壊しました。これらの活動は標準的な監視システムでは検知できず、被害が発覚するまで気づかれませんでした。

10万件以上のインシデントを分析したこの調査では、障害の多様化に伴い復旧が加速していないことも明らかになりました。2023年以降も解決までの中央値時間はほぼ横ばいであり、最も一般的な対応策は「他社のエンジニアに頼る」ことでした。

累積コスト

金銭的な観点から見れば、AIエージェントのコストは膨れ上がりやすい傾向があります。AI支出管理ソリューションを提供する企業「Revenium」のエンジニアらは、ある事例を報告しました。開発者が自分のラップトップ上で1つのAIコーディングアシスタントを4日間連続で稼働させたまま放置したのです。誰にも気づかれないうちに、そのエージェントは4,819回の呼び出しを実行し、合計3,762ドルの費用がかかっていました。

利用ケースによって費用は大きく異なりますが、BakedWith がまとめた基本的なガイドラインによると、基本チャットボットの月額コストは 20 ドルから 50 ドル程度、中堅レベルのエージェント型アシスタントでは月額 100 ドルから 500 ドル、カスタムエンタープライズ向けソリューションでは初期費用だけで 1 万ドルを超えるケースもあります。

ただし、これらはあくまで初期コストに過ぎず、管理が不十分なエージェントによる突発的な支出を考慮していません。実際、そうしたリスクは投資対効果（ROI）を台無しにする可能性があります。この課題は、組織が展開する AI エージェントをいかに管理すべきかを示すとともに、無秩序な普及に伴う危険性を浮き彫りにしています。

関連記事：'専門家である必要はない'時代：AI エージェント職場で価値を保つ方法

Revenium は、ある中規模 EC 企業の事例を紹介しました。同社はプロトタイプ開発時には月額 5,000 ドルだった AI エージェントインフラのコストが、本番環境に近いステージング段階で月額 5 万ドルに跳ね上がったと報告しています。これは 10 倍の増額であり、非効率な RAG クエリや高負荷時の再帰的なエージェントループが主な要因でした。

個々のエージェント行動はすべて合理的に見えました。「それぞれのアクションは孤立して考えれば問題ないものですが、累積したコストは許容範囲を超えていました」

別の事例では、あるチームの AI エージェントが「検知されずに 11 日間にわたって無限の会話ループに陥り、誰も気づく前に 47,000 ドルのコストを浪費した」と報告書は指摘しています。

関連記事：AI に人員を置き換えると裏目に出る理由と、賢明なリーダーが真の価値を生むための 5 つの方法

「2 つのエージェントは、チームが眠っている間も、作業中も、システムが順調に稼働していると信じている最中も、互いに会話する状態から抜け出せなくなっていました。」

教訓

最近の社内調査で、Revenium のエンジニアリングチームは自社のエージェント型 AI の運用実態を見直し、同様に高額なコストがかかる活動があることを発見しました。

このチームが、監視されていなかった特定の AI エージェントのインシデントと関連する監査から学んだ主な点は以下の通りです。

• AI エージェントの誤作動で4日間のセッションが3,762ドルに：「5月13日、ある開発者がラップトップ上で AI コーディングセッションを開始しました。そのセッションは4日間も開いたままになり、終了時には 4,819 回の呼び出しを実行し、コストは 3,762 ドルに達していました。誰もこれを予算化していませんでしたし、アラートも鳴りませんでした」と同社のエンジニアチームは報告しています。彼らはさらに、「このようなセッション自体には特に珍しい点はありません」と付け加えています。問題の本質は、AI セッションが SaaS セッションと同様に、1 席あたりやトークンあたりの定額コストとして平均値で管理されている点にあります。「このモデルでは、実際に何が行われているかを見てみると機能しなくなります」とエンジニアたちは指摘します。

• 平均値が隠す AI の本当のコスト：90日間にわたる 557 のコード実装タスクにおけるエージェントベースの作業の中央値コストは 2.24 ドルで、一見すると非常に持続可能に見えます。最も高価なタスクでも 300.97 ドルでした。しかし、平均値を追跡しているだけでは、上記の 3,762 ドルのセッションのように、AI エージェントのコストが暴走するリスクを把握できません。「平均値に基づいて AI の請求書を管理していると、明日の朝に何が起きるのかを全く見通すことができません」とエンジニアたちは警告しています。

アジェンシー実行の上位 1% に注意せよ：エンジニアが観測したところ、上位 1% の実行が総コストのほぼ半分を占めていました。90 日間に追跡された 14,680 回の AI 実行のうち、上位 1% が全体の支出の 46% を占め、上位 5% で 77% となりました。一方、下位 90% の実行は AI 支出のわずか 12% に過ぎませんでした。「AI の支出は分布の裾野に集中しています。SaaS のコスト管理は曲線の誤った部分に焦点を当ててしまいがちです」とエンジニアたちは指摘しました。

コストの大半は対話型 AI から発生する：調査対象となった 10,005 件の対話型アジェンシーセッションでは請求額が 109,118 ドルに達しましたが、4,171 件の自動化されたソフトウェア開発ライフサイクルタスクの費用は 6,723 ドルのみでした。「プルリクエストの実行とレビューを行う自動化パイプラインのコストは請求額の 6% 未満です」とエンジニアたちは報告しています。「残りの 94% は、エンジニアが一日中 AI を利用して作業している部分ですが、このカテゴリは独自項目として明確に分離されることは稀です」。

AI を用いたプルリクエストの費用は測定されていない要因によって変動する：30 日間にわたり、チームの 12 名のエンジニアがそれぞれ少なくとも 10 件のプルリクエストをマージし、合計 1,721 件となりました。マージされたプルリクエストあたりのコストは最低で 4.05 ドル、最高で 103.66 ドルに達しました。中央値は 16.59 ドルです。「このばらつきは、異なる作業内容や AI の利用パターンの違いを反映しています」とチームメンバーらは述べています。

「エンジニアに『優秀な人』と『そうでない人』がいると主張しているわけではありません。重要なのは、このばらつきがほとんど誰も測定していない予算の次元に存在し、企業がベンダーとの間で交渉できる 1 人あたりのコスト削減よりもはるかに大きいという点です。」

コストは人数ではなく、利用の深さに比例する: AI を活用するチームは 1 月から 5 月にかけて 7 名から 28 名へと 4 倍に拡大しました。AI から得られる価値は 420 倍に増大し、エンジニア 1 人あたりの消費量は約 100 倍になっています。「1 人あたり予算では、この加速度的な増加は把握できません。」初期の 7 名で AI を活用していたチームが得た API 換算価値（サブスクリプション価格のツールを通じて消費されたトークン数を、パブリック API のレートで換算した金額）は 109 ドルでした。一方、5 月には 28 名のエンジニアが AI を利用し、API 換算価値は 45,728 ドルに達しました。

これらの数字は一つのエンジニア組織に過ぎませんが、Revenium チームは「この分布の形状は広く当てはまり、初期顧客導入で見られるパターンと一致している」と感じています。

関連記事: AI を最も積極的に取り入れている企業ほど、エントリーレベルを含む採用数を増やしている

同時に、「プルリクエストあたりのコスト低下が必ずしも優れたエンジニアリングを意味するわけではありません。高コストのエンジニアを置き換えるべきだと提案しているのではありません。重要なのは測定です。現在のところ、このばらつきは予算管理者には見えておらず、その『見えなさ』こそが問題なのです。」