Meta AI、1 枚の GPU で動作する 30B オープンモデル「Muse Glimmer」を公開

記事の3ポイント

1. 1

   ローカル実行とオープンウェイトの実現

   Meta は Muse Spark から蒸留された 30B モデルを約 4 ビットに量子化し、ブロックレベルの推測デコーディングを追加することで、単一のコンシューマー GPU や Mac でネットワーク接続なしに動作可能にした。

2. 2

   厳格なデータ規制とオフライン環境への対応

   医療、法務、金融、防衛などの業界で求められるデータ居住性やオフライン稼働に対応するため、Air-gappable（エアギャップ）可能なエージェントとして提供される。

3. 3

   高度なアーキテクチャとトレーニング手法

   30B パラメータには視覚エンコーダーが含まれ、グループ化クエリアテンションやローカル/グローバルパターンを組み合わせることで、13 万トークン以上のコンテキスト長をサポートする。