vLLM、Qwen-Maxクラス「Qwen3.8-2.4T-A95B」のDay-0サポートを発表

記事の3ポイント

1. 1

   Qwen-Max クラスのオープンウェイト化

   vLLM の発表によると、Qwen3.8-2.4T-A95B は Qwen-Max に匹敵する性能を持つモデルとして初めてオープンウェイトでリリースされた。

2. 2

   多様な精度対応と最適化

   公式の FP8 および BF16 チェックポイントに加え、Inferact 社がフル精度に匹敵する MXFP4 と NVFP4 の量子化重みを提供し、メモリと帯域幅の負荷を大幅に削減した。

3. 3

   大規模なアーキテクチャ構成

   このモデルは 2.4 兆パラメータのスプース MoE 構造を持ち、92 レイヤーのハイブリッドバックボーンで構成され、推論には少なくとも NVIDIA B300 または AMD MI355X のノードが複数必要となる。