SGLang、NVIDIA Nemotron 3.5 Lightning の Day-0 サポートを追加

記事の3ポイント

1. 1

   SGLang の Day-0 サポート開始

   SGLang は NVIDIA Nemotron 3.5 Lightning モデルの即時サポートを発表し、OpenAI 互換の高性能推論スタックを通じてエージェントハッチやローカルアシスタントへの接続を可能にした。

2. 2

   ハイブリッド MoE アーキテクチャ

   同モデルは NVIDIA Nemotron 3 Ultra から蒸留され、総パラメータ数 30B のうち同時に活性化するのは 3B のみというハイブリッド混合専門家構造を採用している。

3. 3

   多様な展開ターゲットと用途

   NVIDIA DGX シリーズや RTX、Jetson など幅広いハードウェアで動作可能であり、金融・セキュリティ・小売などの専門ワークフロー自動化に活用できる。