アリババ、2.4T モデル Qwen3.8-Max を NVIDIA GB300 で提供

記事の3ポイント

1. 1

   超大規模モデルの公開と基本性能

   アリババは2.4兆パラメータ（1トークンあたり950億パラメータ活性化）を備えたオープンウェイトモデルQwen3.8-2.4T-A95Bを公開し、複雑な推論やエージェントワークロードに対応する能力を提供している。

2. 2

   ハイブリッドアーキテクチャによる長文脈処理

   フルアテンションと線形アテンションを切り替えるハイブリッド構造を採用することで、100万トークンという巨大なコンテキストウィンドウにおいても計算量とメモリ使用量を拘束条件下に保つことに成功している。

3. 3

   NVIDIA GB300 NVL72での実証性能

   チューニングなしでFP8精度においてGPUあたり1秒4千トークン超、ユーザーあたり1秒350トークン超のスループットを達成し、NVIDIAとの共設計による最適化が機能していることを示した。