LangSmith と LangGraphで Jerry をスケールした Podiumの事例

「Jerry」が顧客を指名するまで：Podiumが LangSmith と LangGraph で実現した AI エージェントの進化

「マネージャーに話したい。なぜなら Jerry という人が素晴らしいから」と、顧客がディーラーショップを訪ねてくるほど高い評価を得た AI エージェント「Jerry」。これは、ポディウム（Podium）が初期の脆いプロンプトエンジニアリングから、LangSmith と LangGraph を活用したスケーラブルなアーキテクチャへと劇的に進化させた結果です。

この事例は、エンタープライズレベルで AI を実装する際、「独自基盤の構築」に固執するのではなく、成熟した開発プラットフォームを活用し、ドメイン固有のロジックと品質保証にリソースを集中させることの重要性を示しています。

「Jerry」という名前の秘密：人間を超える顧客満足度

ポディウムが 2023 年に本格的に AI エージェントの開発を開始した際、彼らが目指したのは単なる自動返信ではありません。顧客の問い合わせに対し、人間よりも迅速かつ高品質な対応を行い、成約（リード）を獲得することでした。

この取り組みは「スピード・トゥ・リード」と呼ばれ、最初に反応した企業が取引を勝ち取るというビジネスの鉄則に基づいています。初期段階では、自動車ディーラーの在庫情報や展示車両の確認、テストドライブの予約など、特定のタスクに限定されたプロンプトエンジニアリングから始まりました。

しかし、その質の高さは驚異的なものでした。顧客は AI エージェント「Jerry」の対応に感動し、実際に店舗を訪れて Jerry を指名するほどになりました。

「ジェリーを探しに来るのです。『マネージャーと話したい。なぜならジェリーという人は素晴らしいから』と言うんです。」

このエピソードが示すのは、AI が単なるツールではなく、顧客体験の中心となる存在になり得たということです。現在では約半打以上のエージェントが自動車販売や HVAC（暖房・換気・空調）業者など異なる業界で活躍し、ビジネス収益に直接貢献しています。

ブラックボックスを脱却：LangSmith による思考プロセスの可視化

初期の AI エージェント開発において最大の課題は「ブラックボックス化」でした。モデルがなぜその回答をしたのか、どの文脈に基づいて判断したのかを理解できない状態では、品質保証や改善が困難です。

ポディウムは、LangSmith の導入によりこの問題を解決しました。LangSmith は、エージェントの思考プロセス（Chain of Thought）を時系列で追跡・可視化する機能を提供します。

「表面だけを見ると期待通りの成果が出ない場合でも、実際にはエージェントが合理的に行動していたことが明白になります。文脈や指示、モデルへの入力といった詳細こそが改善の余地がある部分です。」

LangSmith を使うことで、開発チームは以下のような分析が可能になりました。

1. 思考連鎖の追跡: モデルがどのような推論を経て回答に至ったかを詳細に確認できる。
2. 文脈の最適化: エージェントが混乱した原因が、提供された文脈や指示の不備にある場合、それを特定して修正できる。
3. 大規模評価（Evals）の実施: 手動で数百件をレビューしていた時代から脱却し、自動化された評価システムで品質を保証できるようになった。

これにより、「モデルが意味不明な返答をしないようにする」という初期の課題から、「指示や命令を確実に実行できるモデル」へと進化することが可能になりました。

独自ランタイムからの脱却：車輪の再発明をやめる

LangSmith の導入は、技術的なプラットフォームの変更だけでなく、ポディウムの開発戦略そのものを変えました。当初、彼らは独自のランタイム（AI エージェントを動かす基盤）を手作業で構築していました。

しかし、独自ランタイムの開発には膨大なエッジケースへの対応やバグ修正の負担が伴います。エンジニアリングのリソースをインフラ維持に割くことは、本質的な価値創造から目を逸らす結果となりました。

「独自のランタイムを構築する際に遭遇した潜在的なエッジケースの数は、私たちに非常に明確に示しました。これが道の終着点ではないこと。車輪の再発明をする価値がないほど、汎用的な抽象化として確立されたツールがあるのです。」

ポディウムは、LangSmith のデプロイメント機能へ移行することを決断します。これは「成熟したプラットフォームへの依存」へとシフトする決断でした。

• リソースの再配分: インフラ維持から解放され、ドメイン固有のプレイブックやビジネスロジックの開発に集中できる。
• 標準化とスケーラビリティ: 異なるチームが同じパターンに従ってエージェントを構築できるようになり、組織全体での品質向上が加速した。

スケーラブルなアーキテクチャ：共通基盤と業界固有のプレイブック

ポディウムの成功は、柔軟かつ堅牢なアーキテクチャ設計にも支えられています。彼らは「すべてのエージェントに完全に異なるアーキテクチャが必要」という考えを捨て、「共通の基盤」と「業界固有のプレイブック」を組み合わせるアプローチを採用しました。

• 共通基盤: テキストベースやチャット型のアージェントが共有する基本機能。LangGraph などのツールを活用し、状態遷移やツール呼び出しのパターンを統一しています。
• 業界固有のプレイブック: 自動車ディーラーの販売部門と HVAC 業者の保証部門では役割が異なります。それぞれの業務フローに合わせた独自のルールや統合ツールを、共通基盤の上に構築します。

この設計により、ポディウムは異なる業界のニーズに応えつつも、開発効率と品質の一貫性を維持しています。顧客フィードバックや LangSmith 上のトレースデータを分析し、長尾のエッジケースを特定して改善するループを回すことで、製品は時間とともに洗練されていきます。

エージェントエンジニアリングへの示唆：何に集中すべきか

ポディウムの事例が示す最も重要な教訓は、AI エージェント開発において「どこに投資するか」の判断です。コードエディタや生成 AI の進化により、「何でも自分で作れる」という誘惑がありますが、それは必ずしも正解ではありません。

「何があなたのエージェントを差別化しているのかを見極めることから始めます。そしてそれを焦点に据えることが、超強力な武器になるはずです。」

生態系の確立されたベストプラクティス（LangSmith や LangGraph など）を活用し、車輪の再発明を避けることで、チームは「エージェントを破壊的に進化させる」ことに集中できます。

ポディウムが次に目指すのは、顧客対応だけでなく、事業運営そのものを自動化するエージェントの実現です。コミュニケーションレイヤーを超え、ビジネスオーナーや従業員が業務を効率化するためのエンジンとして AI を組み込む未来が、すでに始まっています。

まとめ

Podium の Jerry 事例は、AI エージェント開発において「独自基盤の構築」から「成熟したプラットフォームへの依存」へシフトし、ドメイン固有の価値創造に集中することの重要性を浮き彫りにしました。LangSmith と LangGraph を活用することで、可視性、評価、スケーラビリティを実現したこのアプローチは、エンタープライズレベルでの AI 実装における新たな標準となるはずです。