アリババ、月之暗面「Kimi K3」を霊駿真武M890で最適化し首トークン遅延を35%削減

記事の3ポイント

1. 1

   超大規模モデルの国内高算力環境での Day0 適応

   阿里云と平頭哥は、月之暗面の最新モデル「Kimi K3」を自社インフラ上で即日（Day0）に稼働可能とし、2.8兆パラメータの MoE モデルを 64 カ以上の真武 M890 チップで構成する超节点で安定実行した。

2. 2

   ICN Switch と高帯域通信によるボトルネック解消

   ICN Switch 1.0 を用いた 64 枚の真武 M890 間での 800 GB/s の All-to-All 高速通信を実現し、MoE アーキテクチャにおける専門家並列通信のボトルネックを解消した。

3. 3

   MXFP4 混合精度と KDA 算子最適化による効率向上

   真武 M890 がネイティブにサポートする MXFP4 低精度計算と、Kimi K3 の KDA（Kimi Delta Attention）アーキテクチャに対する算子融合・並列計算の深度最適化により、推論効率が大幅に向上した。