NVIDIA BlackwellとGPUアクセラレーションエンドポイントを用いたDeepSeek V4の構築
本文の状態
日本語全文を表示中
詳細モードで約8分の本文を読めます。
同じ出来事の情報源
6媒体で確認
DeepSeek Blog · Vercel Blog · Hugging Face Blog · Simon Willison Blog · NVIDIA Developer Blog · TLDR AI
各社の報じ方を比較 ↓DeepSeekは第4世代フラッグシップモデル「V4-Pro/Flash」を公開し、NVIDIA BlackwellとGPUアクセラレーションエンドポイントを活用した構築環境を提供した。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
DeepSeekは、高度に効率的な百万トークン単位のコンテキスト推論を可能にするために設計された、DeepSeek-V4-ProおよびDeepSeek-V4-Flashという2つのフラッグシップモデルをリリースしました。
DeepSeek-V4-Proは、総パラメータ数が1.6T、アクティブパラメータ数が49Bのファミリー中最大規模モデルです。一方、DeepSeek-V4-Flashは284Bパラメータの小型モデルで、アクティブパラメータ数は13Bであり、高速かつ高効率なワークロード向けに設計されています。両モデルとも最大1Mトークンのコンテキストウィンドウをサポートしており、長期コンテキストのコーディング、ドキュメント分析、検索、エージェントAIワークフローにおける新たな可能性を開きます。
仕様**DeepSeek-V4-Pro**DeepSeek-V4-Flash
モダリティテキストテキスト
総パラメータ数1.6T284B
アクティブパラメータ数49B13B
コンテキスト長1Mトークン1Mトークン
最大出力長DeepSeek APIドキュメント経由で最大384KトークンまでDeepSeek APIドキュメント経由で最大384Kトークンまで
主なユースケース高度な推論、コーディング、長期コンテキストエージェント高速効率性、チャット、ルーティング、要約
ライセンスMITMIT
*表1. DeepSeek V4モデルファミリーの仕様。*
長期コンテキスト推論のためのアーキテクチャ革新
V4ファミリーはDeepSeekのMoE（Mixture of Experts：専門家混合）アーキテクチャを基盤としており、トランスフォーマーアーキテクチャの注意機構（attention）コンポーネントの最適化に重点を置いています。これらの革新により、DeepSeek-V3.2と比較して、トークンあたりの推論FLOPs（浮動小数点演算数）を73%削減し、KVキャッシュのメモリ負荷を90%削減することを目指しています。
これは重要です。なぜなら、長期コンテキストはエージェントアプリケーションの中核要件になりつつあるからです。エージェントは単一のプロンプトと応答だけでなく、システム指示、ツール出力、取得されたコンテキスト、コード、ログ、メモリ、そしてワークフロー全体にわたる多段階の推論トレースを保持します。コンテキストウィンドウが拡大するにつれ、注意機構とKVキャッシュは主要なボトルネックとなります。
image*図1. DeepSeek-V4のハイブリッド注意アーキテクチャの概要。CSA、DSA、HCAを組み合わせることで、標準的なトランスフォーマーブロック内でのKVキャッシュメモリフットプリントと計算オーバーヘッドを大幅に削減しています。
この課題に対する中核的なアーキテクチャソリューションはハイブリッド注意機構であり、以下の要素を融合しています：
- 圧縮スパース注意（CSA）：動的シーケンス圧縮を活用してKVエントリを圧縮し、KVキャッシュのメモリフットプリントを削減した上で、DeepSeekスパース注意（DSA）を適用して注意行列をスパース化し、計算オーバーヘッドを削減します。
- 重圧縮アテンション（HCA: Heavily Compressed Attention）：一連のトークンにわたるKVエントリを単一の圧縮されたエントリに統合することで、より積極的な圧縮を適用し、KVキャッシュのサイズを大幅に削減します。
DeepSeek-V4のアーキテクチャ革新は、基本的なチャットからマルチターン・ロングコンテキスト推論およびエージェントシステムへの移行を示しています。この新しいパラダイムは、ソフトウェア、メモリ、計算、ネットワークのすべてのスタックに負荷をかけ、推論経済のダイナミクスを根本的に変えます。オープンモデルが知能の最前線に達するにつれ、企業の焦点はモデル選択からインフラストラクチャ戦略へとシフトしています。この状況において、究極の競争優位性は、これらの高性能モデルを最低のトークンコストでデプロイしスケーリングする能力です。
箱から出したままのNVIDIA Blackwellのパフォーマンス洞察
開発者が高度な推論のために1.6T Proモデルをデプロイするか、高速効率のための284B Flashモデルを使用するかにかかわらず、Blackwellは1Mのロングコンテキスト推論およびトリリオンパラメータ知能の新時代に必要なスケールと低レイテンシパフォーマンスを提供します。
NVIDIA Blackwellプラットフォームは、このクラスのワークロードのために構築されています。NVIDIA GB200 NVL72上でのDeepSeek-V4-Proの箱から出したままのテストでは、ユーザーあたり150トークン/秒以上のパフォーマンスが確認されました。これらの初期テストに加え、NVIDIAチームはvLLMのDay 0 NVIDIA Blackwell B300レシピを活用し、パレート全体にわたる箱から出したままのパフォーマンスのスナップショットを生成しました（図2）。
Dynamo、NVFP4、最適化されたCUDAカーネル、高度な並列化技術など、極限の共同設計スタック全体を最適化するにつれて、このパフォーマンスはさらに向上すると予想されます。
NVIDIA GPUアクセラレートエンドポイントでの構築
開発者は、NVIDIA Developer Programの一環として、build.nvidia.com上のNVIDIA GPUアクセラレートエンドポイントを通じてDeepSeek V4の構築を開始できます。ホストされたエンドポイントは、最新のモデルでプロトタイピングを行うための高速な方法を提供し、その後、セルフホスト型のデプロイメントパスに移行することができます。
DeepSeek V4は、NVIDIA NIMを通じてDay-0でダウンロード可能であり、おなじみのAPIパターンを使用して、ロングコンテキストのコーディング、ドキュメント分析、アジェンティックワークフローを構築するためにデプロイできます。
SGLangでのデプロイ
SGLangは、NVIDIA BlackwellおよびHopper上でのDeepSeek-V4に対して、3つの主要なサービングレシピを提供しています。これらはそれぞれ、低レイテンシ、バランス型、最大スループットという異なるレイテンシ/スループットのプロファイルに最適化されており、ロングコンテキストワークロードおよびプリフィル/デコードの分離（prefill/decode disaggregation）用の特殊なレシピも用意されています。
vLLMでのデプロイ
vLLM は、NVIDIA Blackwell および Hopper 向けに DeepSeek-V4 のシングルノードおよびマルチノードサービングのレシピを提供しています。これには、ツール呼び出し、推論、スペキュラティブデコーディングをサポートし、100 GPU 以上にスケールするマルチノードプレフィル/デコード分離のレシピも含まれます。
エージェントワークフローを駆動する
DeepSeek V4 は、長いコンテキストのオーケストレーション、推論、ツール呼び出しに優れているため、特にエージェントに適しています。開始するには、開発者は DeepSeek V4 を LLM として構成できます：
- NVIDIA NemoClaw: OpenShell 環境で OpenClaw を実行し、コード生成、パーソナルアシスタント、自律型サポートなどのタスクに対応する DeepSeek V4 搭載の長時間稼働型パーソナルアシスタントを作成します。オンボードで nemoclaw を実行し、ステップ 3 で DeepSeek V4 プロバイダー URL とその DeepSeek V4 モデル名を入力します。
- NVIDIA AI-Q Blueprint: このブループリントは、最高クラスのディープリサーチアシスタントをあなたやあなたのエージェントに提供します。LangChain Deep Agents を基盤とするこのブループリントは拡張可能であり、オーケストレーションと計画のために DeepSeek V4 をワークフローに簡単に追加できます。
- NVIDIA Data Explorer Agent: このエージェントは DABstep ベンチマークで第 1 位を獲得しており、データ分析、データサイエンス、表形式の調査に優れています。このエージェントは NeMo Agent Toolkit で記述されており、DeepSeek V4 への切り替えが容易です。
オープンエージェントハーネスやオープンモデルを使用する最大の利点は、常に新しいモデルを試して最先端の技術を取り入れることができることです。
DeepSeek の始め方
NVIDIA Blackwell 上のデータセンターでのデプロイメントから、管理された NIM マイクロサービス、ファインチューニングワークフローに至るまで、NVIDIA は DeepSeek やその他のオープンモデルを開発およびデプロイメントの異なる段階で統合するための幅広いオプションを提供しています。NVIDIA はオープンソースエコシステムへの積極的な貢献者であり、数百ものプロジェクトをオープンソースライセンスの下で公開しています。NVIDIA はコミュニティソフトウェアの最適化にコミットしており、オープンモデルによりユーザーは AI の安全性とレジリエンスに関する取り組みを広く共有することができます。
始めるには、Hugging Face で DeepSeek-V4 をチェックするか、build.nvidia.com で Pro 版をテストしてください。
著者について
原文を表示
DeepSeek just launched its fourth generation of flagship models with DeepSeek-V4-Pro and DeepSeek-V4-Flash, both targeted at enabling highly efficient million-token context inference.
DeepSeek-V4-Pro is the largest model in the family, with 1.6T total parameters and 49B active parameters. DeepSeek-V4-Flash is a smaller 284B-parameter model with 13B active parameters, designed for higher-speed, higher-efficiency workloads. Both models support up to a 1M-token context window, opening new possibilities for long-context coding, document analysis, retrieval, and agentic AI workflows.
| Specification | DeepSeek-V4-Pro | DeepSeek-V4-Flash |
|---|---|---|
| Modality | Text | Text |
| Total parameters | 1.6T | 284B |
| Active parameters | 49B | 13B |
| Context length | 1M tokens | 1M tokens |
| Max output length | Up to 384K tokens through DeepSeek API docs | Up to 384K tokens through DeepSeek API docs |
| Primary use cases | Advanced reasoning, coding, long-context agents | High-speed efficiency, chat, routing, summarization |
| License | MIT | MIT |
*Table 1. Specifications for the DeepSeek V4 model family.*
Architectural innovations for long-context inference
The V4 family builds on the DeepSeek MoE architecture, with an increased focus on optimizing the attention component of the transformer architecture. These innovations are designed to achieve a 73% reduction in per-token inference FLOPs and a 90% reduction in KV cache memory burden compared with DeepSeek-V3.2.
That matters because long context is becoming a core requirement for agentic applications. Agents store more than a single prompt and response. They carry system instructions, tool outputs, retrieved context, code, logs, memory, and multi-step reasoning traces across a workflow. As context windows grow, attention and KV cache become major bottlenecks.
The core architectural solution to this challenges is hybrid attention, which blends together:
- Compressed Sparse Attention (CSA): Leverages dynamic sequence compression to compress KV entries to reduce the KV cache memory footprint and then applies DeepSeek Sparse Attention (DSA) to sparsify the attention matrices and reduce computational overhead.
- Heavily Compressed Attention (HCA): Applies much more aggressive compression by consolidating KV entries across sets of tokens into a single compressed entry, resulting in significant reduction in KV cache size.
DeepSeek-V4’s architectural innovations signal a shift from basic chat toward multi-turn, long-context inference and agentic systems. This new paradigm stresses the entire stack – software, memory, compute, and networking – fundamentally altering the dynamics of inference economics. As open models reach the frontier of intelligence, the enterprise focus is pivoting from model selection to infrastructure strategy. In this landscape, the ultimate competitive advantage is the ability to deploy and scale these high-performance models at the lowest token cost.
Out-of-the-box NVIDIA Blackwell performance insights
Whether developers are deploying the 1.6T Pro model for advanced reasoning or the 284B Flash model for high-speed efficiency, Blackwell provides the scale and low-latency performance required for a new era of 1M long-context inference and trillion-parameter intelligence.
The NVIDIA Blackwell Platform is built for this class of workload. Out of the box tests on DeepSeek-V4-Pro on NVIDIA GB200 NVL72 demonstrate over 150 tokens/sec/user. In addition to these initial tests, the NVIDIA team leveraged vLLM’s Day 0 NVIDIA Blackwell B300 recipe to produce a snapshot of out-of-the-box performance across the pareto (Figure 2).
Expect this performance to climb even higher as we optimize our entire extreme co-design stack: Dynamo, NVFP4, optimized CUDA kernels, advanced parallelization techniques, and beyond.
Build with NVIDIA GPU-accelerated endpoints
Developers can start building withDeepSeek V4 through NVIDIA GPU-accelerated endpoints on build.nvidia.com as part of the NVIDIA Developer Program. Hosted endpoints provide a fast way to prototype with the latest models before moving to self-hosted deployment paths.
DeepSeek V4 is also available to download on day-0 with NVIDIA NIM so it can be deployed to build long-context coding, document analysis, and agentic workflows using familiar API patterns.
Deploying with SGLang
SGLang offers three primary serving recipes for DeepSeek‑V4 on NVIDIA Blackwell and Hopper, each tuned for a different latency/throughput profile (low‑latency, balanced, and max‑throughput), along with specialized recipes for long‑context workloads and for prefill/decode disaggregation.
Deploying with vLLM
vLLM provides DeepSeek‑V4 single‑node and multinode serving recipesfor NVIDIA Blackwell and Hopper, including multinode prefill/decode disaggregation recipes scaling up to 100+ GPUs, with support for tool calling, reasoning, and speculative decoding.
Powering agentic workflows
DeepSeek V4 is especially great for agents as it excels at long context orchestration, reasoning, and tool calling. To get started, developers can configure DeepSeek V4 as the LLM:
- NVIDIA NemoClaw: Run OpenClaw in a secure OpenShell environment to create a long-running personal assistant powered by DeepSeek V4 for tasks like code generation, personal assistant, autonomous support, and more. Run nemoclaw onboard and during step 3, enter your DeepSeek V4 provider URL and their DeepSeek V4 model name.
- NVIDIA AI-Q Blueprint: The blueprint makes a best-in-class deep research assistant available to you or your agents. The blueprint, based on LangChain Deep Agents, is extensible, making it easy to add DeepSeek V4 into your workflow for orchestration and planning.
- NVIDIA Data Explorer Agent: The agent won 1st place in the DABstep benchmark; it excels at data analysis, data science, and tabular research. The agent is written with NeMo Agent Toolkit making it easy to switch to using DeepSeek V4.
The best part of using open agent harnesses and open models is you’re always able to try new models to pick up the bleeding edge.
Get started with DeepSeek
From data center deployments on NVIDIA Blackwell to managed NIM microservices and fine-tuning workflows, NVIDIA provides a range of options for integrating DeepSeek and other open models across different stages of development and deployment. NVIDIA is an active contributor to the open-source ecosystem and has released several hundred projects under open-source licenses. NVIDIA is committed to optimizing community software and open models lets users broadly share work in AI safety and resilience.
To get started, check out DeepSeek-V4 on Hugging Face or test out pro on build.nvidia.com.
About the Authors
同じ出来事を6媒体で確認
同じ出来事を扱う別媒体の記事です。見出しと公開時刻を比較できます。
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み