SGLang と Miles が Qwen3.8 の Day-0 サポートを開始

記事の3ポイント

1. 1

   大規模モデルの完全サポート開始

   SGLang と Miles が Qwen3.8-2.4T-A95B の Day-0 サポートを提供し、同社のハイブリッドアテンションアーキテクチャへの完全対応を達成した。

2. 2

   NVFP4 量子化と専用カーネル

   NVIDIA と AMD チームとの協力により NVFP4 チェックポイントが公開され、MoE 統合や低遅延パスを含む最適化されたカーネルスタックが FlashInfer を通じて提供される。

3. 3

   高性能な推論と学習の実証

   B300 環境での推測デコーディングで最大 378 tok/s を達成し、Miles による Day-0 RL トレーニングも成功裏に完了した。