Meta、ローカル実行可能なエージェントモデル「Muse Glimmer」を公開

記事の3ポイント

1. 1

   蒸留技術によるローカル化の実現

   Meta は Muse Spark の出力を用いたロジット蒸留と文脈拡張訓練を通じて、大規模モデルをローカルエージェントへ変換するエンドツーエンドのパイプラインを確立した。

2. 2

   高度な機能を持つ常時稼働型エージェント

   Glimmer は 131,000 トークンを超えるコンテキストウィンドウ、マルチモーダル入力、関数呼び出し、失敗回復機能を備え、常時オンで動作するローカルエージェントとして設計されている。

3. 3

   ハードウェア制約への対応と最適化

   フル精度では 55GB のメモリを必要とするが、Meta は 4 ビット量子化により 20GB 未満に圧縮し、単一のコンシューマー GPU を搭載した Mac や PC で動作可能とした。