Liquid AI、LFM2.5 ドラフトモデル公開、推論速度最大 3.18 倍向上

記事の3ポイント

1. 1

   DSpark ドラフトモデルの公開と性能

   Liquid AI は LFM2.5-1.2B-Instruct、2.6B、8B-A1B の 3 モデル向けに DSpark ドラフトモデルをリリースし、H100 で最大 3.18 倍、M4 Max MacBook Pro で最大 2.87 倍のデコーディング速度向上を実現した。

2. 2

   推論精度と出力の維持

   ドラフトモデルによる推論経路の追加にもかかわらず、グリーディなデコーディング条件下では対象モデル単独と同じシーケンスが生成され、ベンチマークでの精度は変化しない。

3. 3

   ライセンスと展開条件

   LFM Open License v1.0 は年間収益 1,000 万ドル以下の企業に商用利用を許可するが、それ以上の規模の企業は Liquid AI と個別に契約する必要がある。