Baseten、GLM-5.2 の世界最速 API を公開し性能を倍増

記事の3ポイント

1. 1

   API パフォーマンスの劇的向上

   Baseten は GLM-5.2 の API 性能を大幅に最適化し、Artificial Analysis のベンチマークにおいて起動時の API よりも倍以上の性能を示した。

2. 2

   具体的な速度指標の達成

   同社はピーク時で秒間 280 トークン、平均で秒間 100 トークンの処理速度を記録し、TTFT（Time to First Token）と TPS（Tokens Per Second）の両方で高いパフォーマンスを発揮している。

3. 3

   ベンチマークと実使用での一致

   Baseten は改善された API の性能が公式ベンチマークだけでなく、実際の現場利用においても体感されることを確認したと報告している。