#model serving のAIニュース

DeepSeek、DeepSeek-V4 の生成速度を 60〜85% 向上させる推測的デコーディングフレームワーク「DSpark」を公開

中国の AI 企業 DeepSeek は、既存モデルの重みを利用した推測的デコーディングフレームワーク「DSpark」と、その学習・評価コード「DeepSpec」をオープンソース化し、大規模モデルの推論速度を大幅に向上させた。