ページを読み込み中…
ページを読み込み中…
11件の記事
Baseten は、音声記録内の話者特定（diarization）を行う pyannote のモデルについて、生産環境での実行コストと速度の課題に対し、推論速度を最大 9.6 倍に向上させる手法を開発・公開した。
Baseten は、エージェントがカーネル開発で高い能力を示す一方、ベンチマーク勝利と実環境への最適化適用には乖離があると指摘し、その要因として生産ワークロードに依存する設定の重要性を説明した。
DeepSeek Harness は複数ハッチ管理インターフェースであり、Baseten 推論利用で最短 5 分で任意オープンモデル実行可能。
Baseten Engineering は、LLM 推論時の遅延がエージェントやチャット応答に与える影響について言及し、メトリクス・ログ・トレースを活用した問題検出と防止策の重要性を解説した。
DeepSeek AI が公開した 1.7T パラメータのオープンウェイトモデル「DeepSeek V4 Pro」を Baseten が Model API として提供を開始し、企業は制限なく実行・ファインチューニングが可能となった。