ページを読み込み中…
ページを読み込み中…
3件の記事
Zartbot は Kimi K3 の KDA が Sparse Attention と比較して状態行列が固定される点を分析し、Linear Attention の欠陥を解決する混合注意力機構について論じた。
著者は Kimi K3 のモデル性能をきっかけに、データ品質・構造・規模の寄与と Linear Attention（KDA）や GDN 方案の影響について中立な立場で詳細分析を行った。
Latent Space は、今週大きなマイルストーンを達成した過去のゲスト企業として、年間収益1億ドルで黒字化を果たした TurboPuffer と、シリーズC で25億ドルの価値評価を得た Exa を紹介しました。また、Modal も47億ドルの評価額に達しています。