NVIDIA PAIR Virtual Inference Router がローカル計算リソースを拡大

AI エージェントは、互いに連携することでより多くのタスクをこなせるようになっています。リードエージェントが複雑なタスクを小さなジョブに分解し、それぞれの専門的なサブエージェントに割り当てるという仕組みです。また、ユーザーは複数のエージェントセッションを同時に実行するケースも増えています。こうしたマルチエージェントワークフローは、複雑なタスクの達成においてますます一般的になりつつあります。

この幅優先アプローチは、タスク完了の速度向上や回答品質の改善につながりますが、多くのリクエストが GPU に同時に送信されることでシステム全体のボトルネックとなる可能性もあります。

NVIDIA Personal AI Router (PAIR) は、ローカルハードウェアを活用して、マルチエージェントやサブエージェントによるボトルネックを解消します。PAIR は、家庭内ネットワーク上の利用可能なシステムへ、各独立した推論リクエストをルーティングします。Ollama や LM Studio といった一般的なローカル推論サービスと連携するため、エージェント自体の再設計なしに、利用可能な計算リソースを拡張できます。エージェント側のハッチング（制御枠組み）を変更する必要もありません。

NVIDIA PAIR のベータ版は、グラフィカルインターフェースとターミナルの両方から利用可能で、対応する Windows、macOS、Linux システム向けに提供されています。サポート対象となるのは、NVIDIA GeForce RTX 20 Series GPU 以降を搭載したシステム、Turing アーキテクチャ以降の NVIDIA RTX PRO ワークステーション GPU を搭載したシステム、さらに NVIDIA DGX Spark や Apple M4+ シリコンを搭載した環境です。

NVIDIA PAIR とは何か？

NVIDIA PAIR は、自宅環境における AI 計算リソースを最大限に活用するための仮想推論ルーターです。これは新しい推論エンジンではなく、モデルの実行自体は引き続き Ollama や LM Studio が担当します。PAIR の役割は、参加するシステムを発見し、各システムがリクエストを受け付ける準備ができているかどうかを追跡し、独立したジョブをスケジューリングすること。そして、応答結果を元のアプリケーションへ返却します。

エージェントは、自分が期待する一般的なローカルインターフェースを通じてリクエストを送信できます。PAIR はプロキシを介してそのリクエストを受け取り、必要なエンジンとモデルの要件を特定した上で、条件を満たすノードを 1 つ選択します。そのノードがリクエストを開始から完了まで実行し、応答を PAIR を経由して返します。エージェント側には接続が 1 つだけ見える状態が維持されながら、裏側では PAIR が配置を管理します。

主な機能は以下の通りです。

• 新しい API は不要: PAIR は、すべてのエージェントハネスが新しいクラスター API と統合する必要はなく、互換性のある Ollama や LM Studio のインターフェースをプロキシとして扱います。

• 弾力的なクライアント: 対応するシステムは、利用可能な時に容量を提供し、必要に応じて（システムのシャットダウンや休止など）その役割を終えることができます。

• ローカル制御の維持: PAIR は、プロンプト、データ、推論トラフィックをすべてユーザーが既に使用しているローカルネットワーク内に保持するように設計されています。

図 2. NVIDIA PAIR は、推論リクエストをローカルネットワーク上のコンピューティングリソースへシームレスに分散します。

PAIR は、マルチエージェントのローカル推論問題をどのように解決するのか？

NVIDIA RTX AI PC を主軸にローカルエージェントを運用する AI 愛好家を想像してみてください。このエージェントは、研究、コーディング、あるいは個人の整理といったタスクを受け取ると、それを複数のサブエージェントに分割します。各ワーカーは問題の限定された部分を探索し、他のワーカーが証拠を検証したり結果を組み立てたりします。

ユーザーから見ればこれは一つのタスクですが、推論層では数十個の独立したモデル呼び出しに分解されます。すべての呼び出しを一台のローカルエンジンに集中させると、実行スロット同士で競合が発生し、キューが長引きます。その結果、ネットワーク上の別の場所にある RTX PRO ワークステーションやノート PC、DGX Spark などに互換性のある容量があっても、メインの PC が占有されたままになります。

PAIR を導入すれば、推論層をエージェントに合わせて拡張できます。一部のサブエージェントからのリクエストはメイン PC で実行しつつ、他のリクエストは追加でペアリングしたノード上で動かすことが可能です。負荷に十分な独立した作業が含まれている場合、利用可能なシステムを増やすことでキューイングが解消され、エンドツーエンドの完了時間が短縮されます。

これにより、メイン PC はグラフィック集約型のゲームやコンテンツ作成、その他のインタラクティブな作業に集中できながら、推論処理は他のノードへ分散させることが可能になります。

これは負荷レベルでの並行処理です。PAIR は一つの推論リクエストを複数の GPU にまたがって実行するものではありません。各リクエストは単一の適格なノードに割り当てられ、そのライフタイム中はそこに留まります。

ホーム AI クラスターの弾力性を活用

ホーム AI クラスターは、ミニデータセンターではありません。専用クラスターは通常、電源が切れず、設定が一貫しており、常に利用可能なシステムを中心に構築されます。一方、家庭内のハードウェアは動的に変化します。ゲーミング PC はゲームをプレイ中で忙しいかもしれませんし、ラップトップはスリープ状態になったり、閉じられたり、ネットワークから離れたりする可能性があります。あるワークステーションには要求されたモデルが搭載されていても、別のマシンにはない場合もあります。推論エンジンが停止したり、ユーザーが GPU をフォアグラウンドアプリケーションのために奪い返したりすることもあり得ます。

PAIR は、こうした変化する条件を前提に設計されています。mDNS を用いてローカルシステムを発見し、プライベートネットワーク上の対応するデバイスをペアリングし、どのノードが新しい作業を受け入れられるかのリアルタイムな状態を維持します。クライアントノードは必要な時にプールに参加し、不要になった時には離脱できます。これにより、自宅を専用で常時稼働する推論環境に改造する必要はありません。

新しいリクエストごとに、PAIR は以下のような様々な要因を考慮します：

• ペアリングされたノードがオンライン状態で準備ができているか
• 対応する推論エンジンが有効になっているか
• 要求されたモデルが正確に存在するか
• アクティブなジョブを含む現在のノードおよびエンジンの負荷状況
• 既存の GPU 使用率（グラフィックス集約型のアプリやツールが実行されているかどうか）

PAIR は、すべてのシステムが同一であることや永続的な可用性を前提としていません。家庭での日常利用におけるシステムの使い方に合わせて推論リクエストをスケジューリングし、クラスターを管理します。

Demo: Hermes five-subagent scenario

本デモでは、サブエージェントの負荷を生成する「Hermes Desktop」と、選択された各ノードでモデルを実行する「Ollama」を活用した NVIDIA PAIR の様子を紹介しています。タスクは、合成された家庭用インボックスを分析し、「今晩」「今週」「後日」、あるいは「全く行わないべきこと」などについて、それぞれの結論に対する根拠を示しながら信頼性の高いサンデー・リセットプランを作成することです。

5 つのサブエージェントで実行する際、Hermes は証拠の独立した部分をレビューし、矛盾を調整して統合されたプランを返すための 5 人の専門家を生成します。分解、委任、合成を担当するのは Hermes です。一方、推論ルーティングは PAIR が担当し、各リクエストの実行は PAIR が選択したノード上で Ollama が行います。

*Video 1. NVIDIA PAIR が Hermes によってオーケストレーションされた 5 つのサブエージェントにどのように推論を分散させるかをご覧ください*

Qwen 3.6 35B A3B を搭載した 1 台の NVIDIA RTX Spark ラップトップで、同じ 5 サブエージェントのワークロードを実行した場合、完了までの平均時間は 18 分でした。一方、RTX Spark ラップトップ、DGX Spark、そして RTX 5090 を組み合わせた 3 デバイス構成の PAIR クラスターでは、平均 8 分 48 秒で完了しました。なお、これは非公式な特定設定のデモであり、一般的なベンチマークや線形スケールを保証するものではありません。

非公式の構成に特化したデモンストレーションです。結果はワークロードの並列化、モデル、エンジン設定、ハードウェア、ネットワーク、ノードの利用可能性に依存します。これは汎用的なベンチマークではありません。

PAIR の「Jobs」ビューは、推論がどこで実行されたかを示す唯一の信頼できる情報源です。Hermes エージェント数と PAIR ジョブ数が異なるのは、1 つのエージェントが複数のモデルリクエストを生成する可能性があるためです。複数ノードでの実行が有効なのは、PAIR のテレメトリで 2 つ以上の利用可能なノード上でジョブが実行されていることが確認された場合のみです。

NVIDIA PAIR はどのように動作するのか？

このセクションでは、NVIDIA PAIR の動作を段階的に詳しく解説します。

ローカルネットワークの発見機能を使って近隣システムを検出する

PAIR を互換性のある Windows、macOS、Linux システムにインストールすると、ローカルネットワークの発見機能（mDNS）を利用して近隣のシステムを自動的に検出します。必要に応じて IP アドレスを手動でノードとして追加することも可能です。ユーザーがセキュアなペアリングリクエストを承認することで、PAIR が対象とする信頼されたローカルノードのセットが作成されます。

セキュアな接続とペアリングが確立されるまで、ノード間の通信はすべてブロックされます。一度接続が確立されると、MTLS と生成された証明書によって通信が保護され、ネットワーク上でのノード間通信は秘密に保たれます。

推論エンジンとモデルの準備

各参加ノードでは、サポート対象のローカル推論エンジン（Ollama または LM Studio）が実行されています。PAIR は、ペアリングされたシステム上でエンジンのインストールやモデルのダウンロードを支援し、複数のマシンを準備する際の作業負荷を軽減します。ただし、ノードがリクエストに応答可能になるのは、必要なエンジンが有効化され、かつ要求された正確なモデルがそのノードに存在している場合に限られます。

なお、クラスター内の各ノードで使用するモデルは同一である必要はありません。異なるシステムで異なるモデルをホストすることも可能であり、PAIR はモデルの配置に応じてリクエストをルーティングします。同じモデルタグを複数のノードに読み込ませるだけで、スケジューラーはそのリクエストに対して利用可能なノードのプールを広げることができます。

互換性のあるローカルインターフェースのプロキシ化

互換性のあるアプリケーションは、PAIR がプロキシするローカルエンドポイントを経由して、Ollama または LM Studio に準拠したリクエストを送信します。エージェントハネスは、各マシンを個別に発見・統合する必要なく、すでに理解しているインターフェースを使い続けることができます。設定可能なベース URL を公開するアプリケーションも、それぞれの Ollama や LM Studio のエンドポイントへ引き続き接続可能です。

PAIR は、Ollama と LM Studio がサービス用にデフォルトで使用しているポートを引き受けることでリクエストのプロキシ化を行います。エージェントハネスが異なるポートを使用している場合は、PAIR エンジンの設定でプロキシポートを構成できます。

PAIR はリクエストに含まれるエンジンとモデルの要件を検証し、それらの情報をルーターに渡します。この分離が設計の核心です。エージェントは「何を処理するか」を決定し、PAIR が「どこで実行すべきか」を判断します。

実行可能なノードへのスケジューリング

スケジューラーは、現在の準備状況やサポートされているエンジン状態、要求されたモデルの有無、ジョブ負荷といった情報を基にペアシステムをフィルタリングします。そして、条件を満たすノードを 1 つ選択し、そのシステム上の PAIR ルーターがリクエストをローカルの推論エンジンへ転送します。他のサブエージェントからの独立した呼び出しは、同時に別の準備完了のノードにも割り当てることができます。

レスポンスの返却とルーティングの可視化

選択されたエンジンがリクエストを実行すると、PAIR はレスポンスを同じローカルインターフェースを経由して元のアプリケーションへストリーミングします。Jobs 画面やメトリクス画面では、どのノードが各ルーティングされたリクエストを担当したかを確認でき、配置状況の可視化が可能になります。

PAIR が最も効果を発揮するワークロードとは

PAIR は、複数の独立したリクエストを同時に処理できるワークロードにおいて特に有用です。具体的には、マルチエージェントアプリケーションや、ローカルで並行して動作する AI ツールなどが該当します。

これらのワークロードに対して、PAIR は以下のようなメリットをもたらします：

• 利用可能なシステム間で独立したジョブをルーティングする
• 複数のリクエストが単一のローカルエンジンに集中して待機状態になるのを防ぎ、キューイング時間を短縮する
• 互換性のある構成で並列処理に適したワークロードの完了時間を改善する
• メイン PC をゲームやクリエイティブ作業、その他のインタラクティブなタスクのために解放する
• アプリケーションのワークフローを親しみやすく保ちつつ、ローカルファーストを実現する

一方で、PAIR は以下のようなことは行いません：

• 複数の GPU を結合したり、VRAM をプールして単一の大型アクセラレータとして扱ったりすることはない
• 単一のモデルを分割（シャード）したり、1 つの推論リクエストを複数マシンに分散させたりすることもない

非常に逐次的な処理や、長時間のモデル呼び出しが支配的なワークロード、あるいは要求されたモデルが単一ノードにしか存在しない構成では、得られる恩恵は限定的になる可能性があります。実際のシステムにおいて、エンドツーエンドの完了時間、キューイング状況、出力品質、そして観測されるルーティング挙動を測定し、自社のワークロードにおける効果を評価してください。

NVIDIA PAIR の使い始め方

PAIR は、自宅に既に存在する動的な NVIDIA システムに対してクラスタのような体験をもたらしながらも、親しみのあるローカル推論ワークフローを維持します。以下の手順に従って使い始めてください：

• 対応する Windows、macOS、または Linux システム向けに NVIDIA PAIR ベータ版 をダウンロードしてください。

NVIDIA PAIR を NVIDIA RTX PC、NVIDIA RTX PRO ワークステーション、または NVIDIA DGX Spark システムにインストールします。

ローカルネットワーク上でシステムを検索し、安全にペアリングします。

Ollama または LM Studio を有効化し、必要なモデルをダウンロードするか、対象ノードに配置します。

PAIR がインストールされたシステムで、Ollama または LM Studio を利用する互換性のあるエージェントを実行します。

NVIDIA PAIR プロジェクトは オープンソース です。開発者はコードを検証し、問題点を報告したり、ディスカバリー、ペアリング、ルーティング、エンジン統合、モデル、エンドポイント、ユーザーエクスペリエンスの改善に貢献することができます。