Moonshot の Kimi K3 が Modal で利用可能に

記事の3ポイント

1. 1

   Kimi K3 モデルの公開

   Moonshot は 2.8 兆パラメータ、100 万トークンのコンテキストウィンドウを備え、ネイティブビジョン機能を持つ多機能モデル「Kimi K3」を発表した。

2. 2

   Modal による即日サポート

   Modal は Moonshot と vLLM とのパートナーシップにより、リリース当日から Kimi K3 の提供を開始し、トークンベース課金と専用キャパシティの両方を可能にした。

3. 3

   DFlash 推論技術の統合

   Modal は Kimi K3 のアーキテクチャに合わせて調整されたカスタムトレーニング済み DFlash スペキュレーターを併用し、1 秒あたり 460 トークンの推論速度を達成した。