Kubernetes 上での自己ホスト型 LangSmith の運用管理機能「Mission Control」の発表

![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a15d44fbcc56ddb5fa6ef30_mission-control.png) ## 要点 - Mission Control は、セルフホスト型 LangSmith 周辺の運用スプレッドを削減します。プラットフォームチームは、クラスター内の単一のインターフェースから設定、事前チェック、ヘルスステータス、リリース履歴、診断、サポートワークフローを管理できます。 - これは厳格なネットワーク境界を持つ Kubernetes 環境に適合しています。Mission Control はクラスター内で実行され、ローカルからアクセス可能であり、ingress（外部入口）、外部コントロールプレーン、または追加のデータベースは不要です。 - オペレーターは、手動での相関分析を減らしてトラブルシューティングと変更の検証を行えます。事前チェックにより一般的なデプロイの問題を早期に検出し、ヘルスビュー、ログ、アラート、グローバル検索、データベースチェック、診断バンドルがチームにとって最も可能性の高い障害地点をより迅速に見つけるのを支援します。 Kubernetes 上で LangSmith をセルフホストすることで、プラットフォームチームはインフラストラクチャ、ネットワーク境界、セキュリティポリシー、デプロイトポロジーに対する制御権を得られます。しかし同時に、運用すべき対象も増えます。 クラスター、環境、チーム全体にわたって LangSmith のデプロイが拡大するにつれて、日常の運用は通常複数のツールに分散します： - Helm デプロイメントと values.yaml - kubectl logs, describe, イベント検査 - 観測用ダッシュボードと監視スタック - 診断およびサポートタスク用の内部スクリプト このモデルは Kubernetes に密着しているため機能しますが、同時にコンテキストの切り替えを生み出します。オペレーターは、デプロイメントの状態に関する基本的な質問に答えたり問題をトラブルシューティングしたりするために、Helm、kubectl、ダッシュボード、ログ、スクリプト、ドキュメントの間を行き来する必要があります。 ## Mission Control の紹介 Mission Control は、セルフホスト型の LangSmith および関連する LangChain インフラストラクチャのデプロイ、設定、観測、トラブルシューティングを行う、分離されたインクラスターアプリケーションです。Kubernetes 内部で実行され、ローカルからアクセス可能であり、ingress も外部制御プレーンも不要で、追加のデータベース要件もありません。 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a15d5809d24cb0db55d2f77_mission-control-main.png) Mission Control は Kubernetes のプリミティブを直接使用し、LangSmith デプロイメントを理解する運用層を追加します。オペレーターは引き続き Helm、ポッド、サービス、名前空間、ログ、イベントを取り扱いますが、Mission Control により、LangSmith の文脈においてこれらのリソースの検査と操作が容易になります。これにより、オペレーターは最も一般的な LangSmith オペレーションを単一のインターフェースを通じて実行できるようになります： - クラスターとワークロードの健全性を確認する - 保留中または失敗したデプロイメントを調査する - ネームスペース全体にわたるポッドレベルの CPU およびメモリ使用量を確認する - プロモーション前にリリースを検証する Mission Control はクラスターのライブな運用ビューを維持するため、チームはツール間で状態を手動で相関させるのに費やす時間を減らすことができます。 ## コアとなる運用サーフェス ## 1. クイックスタートとクイック機能 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a15d5ab372089cc54e80ed8_quickstart.png) ほとんどの LangSmith デプロイメントは、イングレス（Ingress）、Gateway API サポート、デプロイメント、インサイト、エージェントツールリングなど、共通の運用機能セットに依存しています。これらの機能を設定するには通常、セットアップ要件を Helm 値に変換し、環境に適用されるオプションを確認し、デプロイ前に生成された YAML が有効であることを確認する必要があります。 Mission Control は、デプロイメントに必要な最小限の values.yaml を生成するガイド付きオンボーディングフローを提供します。 オペレーターは、各セットアップステップで YAML を手動編集することなく、検証済みの設定変更を通じて機能を有効化できます。 ## 2. 設定管理 Helm 値の管理はエラーが発生しやすいものです。オペレーターは環境固有の設定を編集し、シークレットを安全に扱い、更新を適用する前に何が変わるかを理解する必要があります。Mission Control には、Kubernetes オペレーター向けに設計された双方向 Helm 値エディターが含まれています。 これにより： - クラスターとワークロードの健全性を確認できます - 保留中または失敗したデプロイメントを調査できます - ネームスペース全体にわたるポッドレベルの CPU およびメモリ使用量を確認できます - プロモーション前にリリースを検証できます Mission Control はクラスターのライブな運用ビューを維持するため、チームはツール間で状態を手動で相関させるのに費やす時間を減らすことができます。 ## コアとなる運用サーフェス ## 1. クイックスタートとクイック機能 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a15d5ab372089cc54e80ed8_quickstart.png) ほとんどの LangSmith デプロイメントは、イングレス（Ingress）、Gateway API サポート、デプロイメント、インサイト、エージェントツールリングなど、共通の運用機能セットに依存しています。これらの機能を設定するには通常、セットアップ要件を Helm 値に変換し、環境に適用されるオプションを確認し、デプロイ前に生成された YAML が有効であることを確認する必要があります。 Mission Control は、デプロイメントに必要な最小限の values.yaml を生成するガイド付きオンボーディングフローを提供します。 オペレーターは、各セットアップステップで YAML を手動編集することなく、検証済みの設定変更を通じて機能を有効化できます。 ## 2. 設定管理 Helm 値の管理はエラーが発生しやすいものです。オペレーターは環境固有の設定を編集し、シークレットを安全に扱い、更新を適用する前に何が変わるかを理解する必要があります。Mission Control には、Kubernetes オペレーター向けに設計された双方向 Helm 値エディターが含まれています。 これにより： - GitHub から upstream の values.yaml を直接取得 - エアギャップ環境でのファイルアップロードをサポート - シンプルモードとアドバンスドモードの両方をサポート - Fernet キー、ソルト、トークンなどの機密値をマスクする デプロイ前に、Mission Control は現在の構成と提案された構成の間で安全な差分（diff）を表示します。これにはシークレット認識型の比較も含まれます。 ## 3. プリフライトチェック ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a15d5c24da93abc7cdbfe56_preflight-checks.png) デプロイの失敗は、より早期にチェックできたはずのクラスター条件によって引き起こされることがよくあります。変更をデプロイする前に、Mission Control は一般的な障害ポイントに対してクラスター認識型の検証チェックを実行します。 - ノード容量とスケジューリング制約 - Kubernetes バージョンの互換性 - DNS 解決 - ストレージクラスの可用性 - ネームスペースクォータおよびリソース制限 これらのチェックにより、デプロイ前に問題を検出し、ロールバックやデバッグサイクルを削減します。 ## 4. ヘルスと観測可能性 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a15d5d3e1e09d55a3a7f71f_health.png) 何かがうまくいかない場合、オペレーターは問題がワークロード、サービス、ネームスペース、ネットワークパス、またはストレージ層のいずれにあるのかをすばやく絞り込む必要があります。ヘルスビューは、LangSmith ワークロードの統合されたスナップショットをオペレーターに提供します。 オペレーターは以下を検査できます： - Pod の CPU およびメモリ使用状況 - サービスの準備状態とステータス - 実行中のワークロードログ - サービス間のネットワークトポロジ - PVC の容量およびストレージ負荷 目的は、実用的な運用上の質問にすばやく答えることです。現在 LangSmith は健全ですか？もしそうでない場合、障害はどこにありますか？ ## 5. リリース管理 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a15d5e675689f91540b2f60_release-management.png) オペレーターが現在デプロイされているもの、バージョン間で何が変わったか、および以前のデプロイ試行で何が起きたかを把握できれば、アップグレードの管理はより容易になります。Mission Control は、LangSmith の Helm リリースに対してバージョン認識型のデプロイ管理を提供します。 オペレーターは以下を確認できます： - 変更履歴コンテキスト付きの利用可能なチャートバージョン - 現在デプロイされているバージョン - リリース履歴 - デプロイ試行用のダウンロード可能なログ これにより、チームはアップグレード、ドリフト（乖離）、失敗したデプロイ、およびロールバックパスをより明確に把握できます。 ## 6. LangSmith 対応オペレーターアシスタント 一部の運用上の質問は Kubernetes 固有のものではなく、LangSmith に特化したものです。オペレーターは、ある設定がどのように機能するかを理解したり、問題が文書化されているかどうかを確認したり、現在のデプロイに適用されるガイダンスを知ったりする必要がある場合があります。Mission Control には、LangSmith のオペレーター向けのクラスター内チャットアシスタントが含まれています。 このアシスタントは以下が可能です： - Chat LangChain を使用して LangSmith の質問に回答する - 回答は最新の LangSmith ドキュメントおよび既知の問題と整合させる - クラスターからデータが流出する前に機密情報を削除する - 会話履歴を各 Mission Control インスタンスにスコープ限定する これにより、オペレーターはドキュメント、サポートチケット、トラブルシューティングノートを行き来することなく、クラスターの状態から関連するガイダンスへ迅速にアクセスできるようになります。 ## 7. アラートおよび運用シグナル ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a15d612f964c74eee1f26b4_alerts-signals.png) クラスターの状態が変化した際、オペレーターは発生した事象とその時刻を明確に記録する必要があります。Mission Control には、以下のような運用イベントに対するルールベースのアラート機能が組み込まれています: - ワークロードの劣化 - ノードへの負荷圧力 - HPA (Horizontal Pod Autoscaler: ポッドの水平スケーラー) のスケーリング制約 - リソース枯渇 アラートは Mission Control 内に永続的な監査証跡を作成し、チームに運用履歴の共有記録を提供します。 ## 8. その他の機能 ## グローバル検索 運用上の問題は複数のリソースにまたがって現れることがよくあります。障害はログ、イベント、ConfigMaps (設定マップ)、リリース履歴、アラート、またはサポートスクリプトに表示される可能性があります。 Mission Control は以下の範囲で統合された検索を提供します: - ポッドのログおよび説明 - Kubernetes イベント - リリース - アラート履歴 ## データベースツール LangSmith のデプロイメントでは、一般的に Redis、PostgreSQL、ClickHouse に依存しています。Mission Control は、オペレーターがデータベースへの無制限なアクセス権を持たずに、これらの統合を検査および検証するための制御されたツールを提供します。 機能には以下が含まれます: - 設定された外部データベースの自動検出 - 接続性の事前チェック - 一般的な運用クエリ用の厳選されたサポートスクリプト - サポートワークフロー向けのダウンロード可能な CSV エクスポート これにより、チームは直接ポッドへのアクセスが制限されているか、推奨されていない管理型データベース環境を含む、一般的なデータベース確認のための監査可能なワークフローを得ることができます。 ## 診断とインシデント対応 障害が発生した場合、Mission Control は以下の要素を含む診断バンドルを生成できます: - 名前空間全体にわたるポッドログ - クラスターメタデータのスナップショット - kubectl describe の出力 - デプロイメントおよびイベントのタイムライン このバンドルは単一のダウンロード可能なアーティファクトとしてパッケージ化され、インシデント発生時やサポートエスカレーション時の手動収集作業を削減します。 ## 結びの言葉 Mission Control は、プラットフォームチームに対し、すでに使用している Kubernetes の運用モデルに適合したセルフホスト型 LangSmith デプロイメントを管理する方法を提供します。設定、検証、ヘルスチェック、リリース履歴、診断、データベースツール、サポートワークフローはすべて、クラスター内、既存のセキュリティ境界内で完結します。 プライベート、規制対象、またはエアギャップ環境で LangSmith を実行するチームにとって、これはアドホックなスクリプトを減らし、コンテキストスイッチを減らし、デプロイメントから日常運用への明確な道筋を提供することを意味します。 フィードバック、機能リクエスト、または提案について 私たちは顧客のフィードバックに基づいて Mission Control の改善を続けています。ぜひ見てみたい機能があれば、[LangChain Support](https://support.langchain.com/) までお知らせください。 関連コンテンツ 該当するアイテムは見つかりませんでした。 エージェントが実際に何をしているかを確認する LangSmith は、開発者がすべてのエージェントの意思決定をデバッグし、評価の変更を行い、ワンクリックでデプロイできるエージェントエンジニアリングプラットフォームです。

Kubernetes 上での自己ホスト型 LangSmith の運用管理機能「Mission Control」の発表

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト