エンタープライズ対応マルチモーダルAI「Step 3.7 Flash」をNVIDIA GPU上で実行可能に

AI アプリケーションは、テキスト生成を超え、画像、ドキュメント、動画、言語をリアルタイムで知覚・検索・推論できるマルチモーダルシステムへと進化し、断片的な情報を実行可能なインサイトに変えています。 StepFun 最新作の [Step 3.7 Flash](https://huggingface.co/stepfun-ai/Step-3.7-Flash) は、これらの機能をプロダクションおよびエンタープライズスケールで実現可能にし、NVIDIA アクセラレーションインフラ上で利用できます。これは 198B パラメータの Mixture-of-Experts（MoE）ビジョンランゲージモデルであり、順伝播ごとに約 11B の活性化パラメータを持ち、知覚・検索・多段階推論を組み合わせたアジェンティックワークフローをプロダクションスケールで最適化しています。 ネイティブの画像および動画入力に対応し、低・中・高の 3 つの構成可能な推論レベルと 256k のコンテキストウィンドウを備え、金融分析、並行するコーディングエージェント、その他の高スループットなマルチモーダルユースケースといったエンタープライズ用途向けに設計されています。開発者は、メモリ帯域幅およびストレージ要件の削減により推論速度が向上するよう、Hugging Face を通じて入手可能な StepFun の NVFP4 量子化チェックポイントを利用できます。 モデル：Step 3.7 Flash 総パラメータ数：198B ビジュアルエンコーダーパラメータ数：1.8B 活性化パラメータ数：11B コンテキスト長：256K エキスパート数：288（8 個が活性） *表 1. パラメータ数、コンテキスト長、MoE 構成など、Step 3.7 Flash の主要仕様概要* ![image](https://developer-blogs.nvidia.com/wp-content/uploads/2026/05/QuietHarborDiagram.webp)*図 1. テキストおよびビジョン処理のための Step 3.7 Flash コンポーネントのハイレベルなダイアグラム* Step 3.7 Flash は、NVIDIA ハードウェア向けに最適化されたカーネルを利用するために、[SGLang](https://docs.sglang.io/cookbook/autoregressive/StepFun/Step-3.7-Flash)、NVIDIA [TensorRT-LLM](https://nvidia.github.io/TensorRT-LLM/models/supported-models.html)、および [vLLM](https://docs.vllm.ai/projects/recipes/en/latest/StepFun/Step-3.7-Flash.html) などのオープンソースフレームワークと共にデプロイすることができます。 ## NVIDIA エンドポイントを使用した構築 開発者は、build.nvidia.com を通じて利用可能な GPU アクセラレーションされたエンドポイントを使用して、Step 3.7 Flash のプロトタイピングおよび評価を行うことができます。[NVIDIA Nemotron Parse](https://build.nvidia.com/nvidia/nemotron-parse) と Step 3.7 Flash を使用し、PDF を含む財務報告書、スライド資料、科学論文などのバウンディングボックスを持つ大規模で複雑なドキュメントから構造化された洞察を抽出して出力を整える、多段階のドキュメントインテリジェンスパイプラインについては、[デモノートブック](https://github.com/NVIDIA/GenerativeAIExamples/tree/main/oss_tutorials/Nemotron_Parse_StepFun_Document_Intelligence) でお試しください。 *ビデオ 1. ドキュメントインテリジェンスパイプラインが如何使用可能なデータを抽出するかを確認し、JupyterLab ノートブックでワークフローに従ってください* ## NVIDIA NIM を用いた本番環境対応デプロイ [NVIDIA NIM](https://www.nvidia.com/en-us/ai/) を利用すれば、Step 3.7 Flash の開発から本番環境への移行を容易に行うことができます。最適化されたコンテナ化された推論マイクロサービスとして提供される NIM は、企業が必要とするパフォーマンスチューニング、標準化された API、そして柔軟なデプロイ機能をモデルにパッケージ化しています。オンプレミス、クラウド、あるいはハイブリッド環境のいずれでもダウンロードして実行可能です。NIM は、推論リクエストを NIM サーバーへ送信するための標準的な OpenAI 推論インターフェースを提供します。 - NVIDIA コンテナレジストリから NIM コンテナをダウンロードしてください（企業ライセンスが必要です）。 - OpenAI クライアントを使用してサーバーを開始します。 - エンドポイントに対してテキストまたは画像の入力を送信します。 from openai import OpenAI client = OpenAI( api_key="no-key-required" ) completion = client.chat.completions.create( model="stepfun/step-3.7-flash", messages=[{"role":"user","content":"Explain particle physics?"}] temperature=0.5, top_p=1, max_tokens=1024, stream=True ) for chunk in completion: if chunk.choices[0].delta.content is not None: print(chunk.choices[0].delta.content, end="") ## NVIDIA NeMo Framework を用いた Day 0 ファインチューニング Step 3.7 Flash は、[NVIDIA NeMo framework](https://github.com/NVIDIA-NeMo/) のオープンソースライブラリを使用して、ドメイン固有データでカスタマイズ可能です。NVIDIA [NeMo Automodel](https://github.com/nvidia-nemo/automodel) ライブラリは、ネイティブの PyTorch n-D 並列処理（n-D parallelisms）と最適化されたパフォーマンスを組み合わせ、チェックポイント変換を行わずに Hugging Face のモデルチェックポイントから直接 Day 0 ファインチューニングをサポートしています。Step 3.7 向けの Automodel [ファインチューニングレシピ](https://github.com/NVIDIA-NeMo/Automodel/blob/main/docs/guides/vlm/step-3-7.md) は、Hopper GPU で秒間 600 トークンの速度で、教師ありファインチューニング（SFT）やメモリ効率の高い LoRA などの手法をサポートしています。 大規模な高度なトレーニングには、チームは [NeMo Megatron-Bridge](https://github.com/nvidia-nemo/megatron-Bridge/) ファインチューニング [レシピ](https://github.com/NVIDIA-NeMo/Megatron-Bridge/tree/main/examples/models/stepfun/step37) も利用でき、これにより追加のパフォーマンス最適化が提供されます。 NVIDIA Blackwell 上のデータセンター展開から、[NVIDIA DGX Station](https://www.nvidia.com/en-us/products/workstations/dgx-station/) を用いたデスクサイド環境、管理された NIM マイクロサービス、そして Day 0 ファインチューニングワークフローに至るまで、NVIDIA は開発および展開の異なる段階全体にわたって Step 3.7 Flash を統合するための幅広いオプションを提供しています。748 GB の整合性メモリを備えた DGX Station は、フル 256k コンテキスト長に対応する余裕と、より高速なローカル開発者の反復処理を実現するために、Step 3.7 Flash を実行するのに理想的です。 NVIDIA はオープンソースエコシステムへの積極的な貢献者であり、オープンソースライセンスの下で数百の [プロジェクト](https://developer.nvidia.com/open-source) を公開しています。NVIDIA は、AI の透明性を促進し、ユーザーが AI の安全性と回復力に関する取り組みを共有できるようにする Step 3.7 Flash などのオープンモデルにコミットしています。 始めるには、Hugging Face で [Step 3.7 Flash](https://huggingface.co/stepfun-ai/Step-3.7-Flash) を確認するか、build.nvidia.com でご自身のデータでテストを行うか、[vLLM Playbook](https://build.nvidia.com/station/vllm) を使用してローカルの DGX Station 上で実行してください。 ## 著者について

エンタープライズ対応マルチモーダルAI「Step 3.7 Flash」をNVIDIA GPU上で実行可能に

背景や根拠まで確認しますか？

調べる

選ぶ

サイト