統計的崖っぷちで進むコンピューター利用

AI エージェント評価の「嘘」を暴く：統計的崖っぷちから堅牢な未来へ

既存の AI エージェント評価ベンチマークは、特定のタスクに対して事前に記録された動作（リプレイ）で高得点が出るという致命的な脆弱性を抱えています。この「ゲーム化」された評価環境では、モデルの実力が過大評価され、実運用での失敗コストを招くリスクがあります。本研究では、多様な初期状態やデータを生成・検証する新環境「DGword」と、不確実性を正直に計測する統計手法を提案し、AI の堅牢性を正確に測定する新たな基準を提示します。

リプレイ攻撃が暴いたベンチマークの脆弱性

現在の AI エージェント評価には、「リプレイエージェント」と呼ばれる奇妙な存在が存在します。これは、最先端モデルがタスクを成功させた際の動作（タップやスクロールなど）をすべて記録し、それを単に再生するだけのスクリプトです。

このリプレイエージェントは、数百のタスクからなるベンチマークにおいて、最先端モデルと同等かそれ以上の成功率を示すことがあります。これは一見すると驚くべき現象ですが、実は評価環境が「静的で決定論的」であることが原因です。環境に変化がなく、同じ条件が繰り返される限り、記録された動作をただなぞるだけで高得点が取れてしまいます。

「リプレイエージェントが成功するということは、ベンチマークそのものがゲーム化されている証拠だ。」

さらに、従来から使われてきた評価指標「Pass@K（K 回試行のうち少なくとも 1 回成功する確率）」も、この脆弱性を悪用してしまいます。決定論的な環境では、リプレイエージェントが K 回のうち 1 回でも成功すれば指標は満たされるため、結果としてモデルの実力を過大評価することになります。

「PRISM」原則による堅牢な環境設計

こうした問題を解決するためには、ベンチマークの構築自体に根本的な見直しが必要です。著者は、不正に利用できない堅牢な評価環境を構築するための指針として「PRISM 原則」を提案します。

• 多様性（Stochasticity）: タスクのデータ、外観、初期状態などをランダムに変化させ、単一の正解パターンに依存しないようにする。
• 検証可能性（Verification）: 生成されたすべての組み合わせが有効であることを保証するシステムを備える。
• サンドボックス化（Sandboxing）: 外部への影響を防ぎつつ、必要な特権情報を提供できる環境とする。
• 忠実性（Faithfulness）: 現実のシステムを正確に再現し、スコアが実運用での性能を反映するようにする。

既存のベンチマークはこれらの要素の一部しか満たしていないことが多く、PRISM 原則をすべて満たす統合された環境は存在していませんでした。そこで開発されたのが「DGword」です。

DGword：数百万の構成を検証した新ベンチマーク

DGword は Android アプリを対象とした大規模検証済み環境で、15 のアプリにまたがる 387 の検証済みシナリオと、320 万もの構成バリエーションを有しています。

ここで重要なのは、単にランダムな組み合わせを増やすのではなく、「有効な組み合わせ」のみを検証している点です。例えば、送金タスクであれば「金額」「宛先」「アプリのテーマ」「開始画面（ログインページかホーム画面か）」などを変数とし、これらの組み合わせを生成します。

「コーディングエージェントを使って環境を生成するのは簡単だが、生成されたものがすべて有効な環境とは限らない。」

著者らは、パラメータ化されたタスクテンプレートと検証システムを組み合わせた「DGword コンパイラ」を開発しました。このシステムは、無効な構成（バグのある画面遷移など）を自動的に排除し、有効な組み合わせのみを残すことで、数百万の多様なテストケースを安全に実行可能にしています。

この環境で評価を行うと、リプレイエージェントは高いスコアを出せなくなります。これは、モデルがタスクの本質的な理解に基づいて動作しているか、単なる記憶再生に依存しているかを明確に区別できることを意味します。

不確実性を正直に計測する統計手法

多様な環境を構築した上で重要なのが、「不確実性を正直に計測」することです。AI エージェントの性能評価には、2 つのランダム性（不確実性）が存在します。

1. 実行のランダム性: 同じタスクでも、モデルが異なる行動を取る可能性。
2. 環境のランダム性: タスクの初期状態やデータが変化する可能性。

従来の評価では、これらの変動を十分に考慮せず、信頼区間（Confidence Interval）を過小評価する傾向がありました。その結果、95% の信頼区間と主張しながらも、実際にはモデルの性能がその範囲内にある確率は 17〜20% に過ぎないという誤った判断を下すリスクが高まっていました。

著者らは、ベンチマークの構造（階層性）を考慮した統計手法を採用することで、この信頼区間の精度を劇的に向上させました。環境の変動と実行のランダム性を統合して計算を行うことで、90〜95% の正確な信頼区間を得ることが可能になります。

「モデル A と B を比較する際、信頼区間を正しく計算していなければ、誤ったデプロイ判断を下すリスクが高まる。」

結論：スコア最大化から堅牢性評価への転換

この研究が示唆するのは、AI エージェントの評価基準が「単なるスコアの最大化」から、「堅牢性と不確実性の定量化」へとシフトする必要があるという点です。企業は、ベンチマークのゲーム化リスクを認識し、より現実的な多様性を組み込んだ評価インフラへの投資を迫られます。

DGword とその統計手法は、モデルが異なる初期状態やデータに対しても一貫して機能するかを測定する手段を提供します。これにより、誤ったデプロイ判断による経済的損失を防ぎ、実運用で失敗しない AI エージェントの選定が可能となるでしょう。