LLM の観測・評価・実験プラットフォーム「Dat Ngo」登場、Arize が提供

LLM アプリ開発の「魔法」は消えた。非決定的な挙動を制御する新基準と、Arize が目指す自動化の未来

生成 AI アプリケーションの開発現場では、「なぜこの回答が変化したのか？」という問いに答えることが最大の課題となっています。AI エンジニアの Dat Ngo 氏は、LLM の非決定的な挙動を可視化し、回帰テストを自動化する新たなプラットフォーム「Arize」の戦略について語りました。手動でのダッシュボード操作から脱却し、OpenTelemetry を基盤とした観測と AI による自動評価が、大規模な AI システム運用の信頼性を劇的に高める鍵になると説いています。

OpenTelemetry で捉える「非決定的」なエージェントの軌跡

LLM や AI エージェントを本番環境で運用する際、最大の難関は「非決定的（Non-deterministic）な挙動」です。同じプロンプトを入力しても、モデルが出力する回答や内部の処理パスが毎回異なるため、従来のソフトウェア開発手法では品質保証が困難でした。

Dat 氏は、この課題を解決するためにOpenTelemetry (Otel) を標準的な観測（Observability）基盤として導入することを推奨します。Otel はエンジニアリング分野で強力なパターンであり、コードに 1 行追加するだけで、エージェントがどのようなツールを呼び出し、どの分岐を進んだかを自動的にトレースできます。

「トレースやスパンを見たことは、基本的に『私のエージェントは何をしたのか』という監査記録です。コードがエージェントを監査するのではなく、テレメトリがそれを担います。」

従来のログ分析では見落としがちな「複雑なパス」や「ループ」、あるいは「分岐ごとのパフォーマンス差」も、Otel を通じて可視化可能です。例えば、ある特定の分岐でレイテンシが増大している原因を特定したり、LLM の呼び出し順序のミスマッチ（依存関係の逆転）を発見したりすることが可能になります。

さらに、単なるトレースだけでなく「セッション」や「状態」といった観点も重要です。双方向の会話におけるユーザーのフラストレーションや、システム全体の状態遷移を把握することで、「エンドユーザーは満足したか」という本質的な問いに答える観測が可能となります。

品質を保証する 5 つの評価信号（Evals）

観測性で「何が起きたか」を可視化したら、次は「それが良いのか悪いのか」を評価する必要があります。Dat 氏は、単一の指標に頼らず、以下の5 つの異なる信号源を組み合わせて多角的に品質を測定するべきだと主張します。

1. LLM as a Judge（LLM 判定）: LLM に他の回答や出力を採点させる手法です。コストと精度のバランスを取りながら、大規模な評価を自動化できます。
2. 人間フィードバック: エンドユーザーやドメインエキスパートからの直接的な評価です。製品の体験価値を理解する上で最も重要なシグナルとなります。
3. ゴールデンデータセット: ドメインの専門家がラベル付けした信頼できるデータセットを用いた評価です。「正解」が明確なケースで品質を測定します。
4. 確定的ロジックチェック: JSON のスキーマ検証や、必須フィールドの存在確認など、コードレベルで厳密に判定できるルールです。コストをかけずに即座にエラーを検知できます。
5. ビジネス指標: 収益化、コスト削減、時間短縮など、企業の目標に直結する KPI です。

評価は「スパン（単一の呼び出し）」だけでなく、「マルチスパン（複数コンポーネント間の連携）」や「トラジェクトリ（全体の軌道）」「セッション（会話全体の状態）」といった多様なスコープで実行できます。重要なのは、コストがかかるからといって評価を省略せず、必要なシグナルを最小限のセットで捉えることです。

手動ダッシュボードからの脱却と「自動化されたフライホイール」

現在の多くの開発現場では、プロンプトやモデルの変更を試す際、手動でダッシュボードを確認し、ボタンを押して評価を実行しています。Dat 氏はこのプロセスがボトルネックになると指摘します。

「多くの人は、手動での操作や UI 内での調整に留まり続けたいとは思っていません。未来は、コードベースで実験を行い、AI システム自体が問題を検知して評価を自動生成する方向へ向かっています。」

目指すべきは「自動化されたフライホイール」です。エンジニアが CLI や API を通じてプロンプトやモデルを変更し、システムが自動的にその変化を検知します。そして、AI が文脈を理解して「ここが問題だ」と判断し、新たな評価指標を自動生成・実行するサイクルを実現します。

例えば、「レイテンシが高い」「エラーが増えている」といった異常を検知した際、AI が即座に原因分析を行い、適切な評価ルートを提案・実行します。これにより、開発者は手動での品質保証作業から解放され、継続的な改善サイクルを自動化できます。

エンジニアと大企業を支える 2 つの製品戦略

Arize はこのビジョンを実現するために、ターゲット層に応じて 2 つの製品を提供しています。

• Arize Phoenix（エンジニア向け）: オープンソースで提供されるツールです。単一のコンテナで動作し、Kubernetes レイヤーを不要とするため、ローカル環境や小規模なチームでもすぐに導入・評価が可能です。開発者が手元のコードベースで実験と改善を行うための基盤となります。
• Arize AX（大企業向け）: Uber や Reddit などの最大規模の企業が利用するエンタープライズプラットフォームです。複雑な分散システム全体を監視し、高度な分析機能を提供します。

生成 AI の世界では、「魔法」のような挙動に一喜一憂する時代は終わりました。OpenTelemetry を基盤とした厳密な観測と、AI による自動評価の実現こそが、大規模な AI エージェントシステムを安定運用するための新しい標準です。手動のダッシュボード操作から脱却し、コードと AI が共鳴する自動化された未来へ移行することが、開発者の次のステップとなるでしょう。