vLLM、Kimi K3の生産環境サポートを公開

記事の3ポイント

1. 1

   Kimi K3 の技術的特徴とアーキテクチャ

   Kimi K3 は 2.8 兆パラメータ、100 万トークンのコンテキストウィンドウ、ネイティブビジョンサポートを備え、KDA（Kimi Delta Attention）や AttnRes を組み合わせたハイブリッドアーキテクチャを採用している。

2. 2

   vLLM との統合と実装状況

   Moonshot AI は vLLM プロジェクトへ KDA 対応の実装を貢献しており、KDA 固有のプレフィックスキャッシング課題への解決策やハードウェア最適化カーネルがすでに開発されている。

3. 3

   ハードウェアサポートと展開計画

   NVIDIA と AMD の両プラットフォームに対応するカーネルが整備されており、AMD 側では FlyDSL MoE カーネルの実装が進んでいる。モデル重みの公開は 2026 年 7 月 27 日を予定している。