Meta、オンデバイス実行最適化のオープンウェイト AI「Muse Glimmer」を公開

記事の3ポイント

1. 1

   オンデバイス実行への最適化

   動的量子化（4-bit K-Quant）とDFlash推論により、VRAM約17〜20GBで30Bモデルを動作させ、標準的なコンシューマーGPUでの利用を実現した。

2. 2

   マルチモーダルエージェント機能

   1.8Bパラメータの知覚エンコーダーを搭載し、スクリーンショットや図解などの多様な入力をネイティブに処理してローカルで自律的な作業を遂行できる。

3. 3

   大規模モデルからの知識蒸留

   Flagshipモデル「Muse Spark」の推論能力を転移するロジット蒸留、長文コンテキストでのミッドトレーニング、そしてSFTやRLによる整列を経て訓練された。