Perplexity、NVIDIA DGX Spark でローカル AI コンピューターを発売

Perplexity は、エージェントのハーンセス（harness）、オーケストレーター、プランナー、ツールルーター、そして微調整済みモデルを NVIDIA DGX Spark 上で直接実行する「ローカルファースト」版の Agentic Computer プラットフォーム「Portable Computer」を発表しました。このローカル環境では、推論エンジン、ツールのサンドボックス、アプリコネクタがパッケージ化されたシステムとして提供され、すべてのタスクはデバイス上から開始されます。ローカルモデルで処理される作業には、トークンあたりの課金が発生しません。

ただし、ライブウェブへのアクセスや最先端の推論能力が必要なステップがある場合、オーケストレーターは処理を一時停止し、ユーザーに確認した上で、15 種類以上のクラウドモデルのうち一つにそのステップのみを送信します。

導入可能でしょうか？

はい、可能です。ただし、厳格なハードウェア要件が課されます。これはプレビュー版のバイナリではなく、実際に出荷されるソフトウェアです。しかし、デスク下に GB10 クラスのサーバーまたは VRAM 24GB を搭載した RTX GPU が必須となります。

対象企業：すでに NVIDIA ワークステーションを保有している大企業や中堅市場のチーム、そして資金力のある AI ネイティブスタートアップが主なターゲットです。一般的な中小企業（SMB）には不向きで、このマシン自体が高価な参入障壁となっています。

適用業界：金融、法務、医療、政府・防衛、および知的財産に依存するエンジニアリング分野など、データの所在地規制や契約上の機密性がクラウド推論を妨げるあらゆる領域が対象です。

主な用途：文書セット全体での手数料と開示事項のレビュー、個人識別情報（PII）に制限された調査、リポジトリ規模の移行処理、ローカルコーパスのバッチ要約、そして Slack 上で完了する PR トリアージなどが挙げられます。

実際にデバイスに搭載される機能とは？

Portable Computer は、単なるファイルピッカー付きのローカルチャットアプリではありません。Perplexity は、ローカルモデル、推論エンジン、エージェントハネス、ツールサンドボックス、およびアプリコネクタを一つのシステムとしてパッケージ化しており、通常は必要となる推論サーバーの構築や手動でのツール接続といった手間を不要にしています。

ユーザーは Qwen 3.8 27B または Perplexity 独自のハネス向けに調整された後学習バリアントである PPLX 27B のいずれかを選択できます。また、オープンソースの 30B モデルである NVIDIA Nemotron 3.5 Lightning も近日公開予定です。ユーザーが用意したモデルや推論サーバーの利用もサポートされています。

コード実行とツール呼び出しは、プロセス、ファイルシステムパス、ネットワークアクセスを制限する OS 強制型のサンドボックス内で実行されます。もしサンドボックスが利用できない場合、ツール実行は静かに機能低下するのではなく、完全に無効化されます。Gmail、Outlook、Slack、GitHub のコネクタはすべてローカルオーケストレーターを経由して処理されます。

エスカレーションゲートこそが、実際の設計上の重要な判断点です。

「ローカルファースト」は「ローカルのみ」という意味ではありません。ステップ実行にライブウェブへのアクセスや最先端の推論能力が必要な場合、オーケストレーターは一時停止してユーザーに確認を求めます。すべての呼び出し前に、ハネスが関連するコンテキストを選択し、PII クラスファクターを実行して、何情報が外部へ送信されるかをユーザーに明示します。承認されたステップは 15 種類以上のクラウドモデルのいずれかにルーティングされます。リモートアドバイザーはテキストによるガイダンスを返しますが、ローカルファイルやツール、会話内容への直接アクセスは一切持ちません。

Perplexity は、小規模モデルのコンテキスト制限に対しても工夫を凝らしました。Qwen 3.8 27B は 260K トークンのウィンドウを謳っていますが、実際には約 100K を超えると性能が低下します。そのため、このハーンネス（枠組み）ではシステムプロンプトとツールセットを最小限に保ち、必要なスキルのみをオンデマンドで読み込みます。また、コネクタは完全な MCP 定義ではなく、コンパクトな CLI ツールとして公開し、実行中に不要になったコンテキストを圧縮して管理しています。

ベンチマーク結果について

Perplexity がオープンソース化を計画している「53 タスクのローカル知識ワークベンチ（深層調査、金融分析、文書作成など）」において、DGX Spark で Qwen 3.8 27B を実行した Computer は 82.6% のスコアを記録しました。これは、同じモデルで動作するオープンソース版の Pi ハーンネスが 77.6%、Hermes が 74.0% だったのと比較して高い結果です。さらに PPLX 27B を使用すると、スコアは 85.4% に向上しました。

BrowseComp では、Computer は 66.7% のスコアを達成し、Pi（50.2%）や Hermes（43.9%）を上回りました。この際、Pi と比較して所要時間が 51% 短縮され、消費トークン数も 70% 削減されています。視覚的な文書理解を問う ParseBench-100 では、Computer は 65.1% のスコアを獲得し、対照的に Pi が 34.6%、Hermes が 13.9% でした。

最も示唆に富む結果はハイブリッド型の実行です。Terminal Bench 2.1 では、完全ローカル実行で実質的な追加コストゼロで 59.6% のスコアを記録しました。一方、アドバイザによるエスカレーション（上級モデルへの委譲）を活用すると、このスコアは 73.0% に引き上げられ、ロールアウトあたりのコストは約 0.415 ドルとなりました。これに対し、Claude Opus 5 を単独で使用した場合のスコアは 82.4% で、コストは約 0.65 ドルです。エスカレーション機能により最前線のモデルとの差は縮まりますが、完全に埋めることはできません。

ハードウェア、価格モデル、および制限事項

DGX Spark のインストールには、GB10 スーパーチップと 128 GB のメモリ、そして少なくとも 1 TB のストレージが必要です。Qwen 3.8 27B オーケストレーターは 3 ビット量子化で提供され、ダウンロードサイズは 17.4 GB、動作には 32 GB の RAM が必須です。一方、Nemotron 3.5 Lightning は 4 ビット量子化で 19 GB、動作には 36 GB の RAM を要します。それ以外のシステムでは、DGX OS または ARM/ x64 対応の Ubuntu に、VRAM 24 GB 以上の RTX GPU を搭載する必要があります。インストールは標準的な apt リポジトリの追加だけで完了します。

Pro、Max、Enterprise Pro、Enterprise Max のサブスクリプションユーザー向けには Linux が最優先で利用可能です。Windows は 9 月の提供を予定しており、macOS は現時点ではロードマップにありません。ローンチ時には DGX Spark の単体運用のみがサポートされ、クラスタリング機能は今後の実装予定です。ローカルモデルが処理する作業にはトークンあたりの課金が発生しないため、自社ハードウェア上での大規模なリポジトリ移行や長期の検証ループも経済的に成立します。

主なポイント

• Portable Computer は、単なるローカル LLM の実行ではなく、エージェントハネス、オーケストレーター、サンドボックスを DGX Spark 上で完結して動作させます。
• すべての処理ステップは端末上から開始されます。PII（個人識別情報）チェック後に、15 種類以上のクラウドモデルへのエスカレーションには、各ステップごとの明示的な承認が必要です。
• Perplexity 自社テストでは、53 タスクのベンチマークにおいて PPLX 27B で 85.4% の精度を達成。同じモデルでの Pi は 77.6% でした。
• Terminal Bench 2.1 では、ローカル環境で 59.6%、アドバイザ機能付きで約 $0.415/ロールアウト時に 73.0% を記録しました。一方、Opus 5 単体では約 $0.65 で 82.4% のスコアです。

Perplexity Portable Computer と NVIDIA ローカル AI ブログの詳細は、公式サイトをご覧ください。

また、Twitter でフォローしていただくこともお気軽にどうぞ。15 万人以上の ML エンジニアが参加する当社の SubReddit にぜひご参加ください。ニュースレターの購読も忘れずに。

あ、Telegram を使っている方へ！今なら Telegram でもコミュニティに参加できるようになりました。

※本記事は MarkTechPost で最初に公開された「Perplexity Ships Portable Computer on NVIDIA DGX Spark: Local Harness, OS-Enforced Sandbox, and Zero Per-Token Cost for Local Steps」を日本語読者向けに再構成したものです。