NVIDIA PAIR Virtual Inference Router がローカル計算リソースを拡大

記事の3ポイント

1. 1

   マルチエージェントのボトルネック解消

   複数のエージェントが同時に実行される際、GPU への一斉リクエストによるシステムボトルネックを、ローカルハードウェアを活用して緩和する仕組みを提供する。

2. 2

   既存サービスとの互換性維持

   Ollama や LM Studio などの既存のローカル推論サービスと連携し、エージェント自体の再設計やハッチングの変更なしに計算資源を拡張可能である。

3. 3

   広範なハードウェアサポート

   Windows、macOS、Linux 上で動作し、GeForce RTX 20 シリーズ以降、RTX PRO ワークステーション GPU（Turing 以降）、DGX Spark、Apple M4+ シリコンに対応する。