Meta、オンデバイス実行最適化のオープンウェイト AI「Muse Glimmer」を公開
本文の状態
日本語全文を表示中
詳細モードで約6分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
InfoQ AI/ML
Meta AI はオンデバイス実行に最適化された30Bパラメータのオープンエージェントモデル「Muse Glimmer」をApache 2.0ライセンスで公開し、ローカル環境での自律的タスク処理とツール呼び出しを可能にする。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るAI深層分析を開く2026年8月14日 14:55
AI深層分析
キーポイント
オンデバイス実行への最適化
動的量子化（4-bit K-Quant）とDFlash推論により、VRAM約17〜20GBで30Bモデルを動作させ、標準的なコンシューマーGPUでの利用を実現した。
マルチモーダルエージェント機能
1.8Bパラメータの知覚エンコーダーを搭載し、スクリーンショットや図解などの多様な入力をネイティブに処理してローカルで自律的な作業を遂行できる。
大規模モデルからの知識蒸留
Flagshipモデル「Muse Spark」の推論能力を転移するロジット蒸留、長文コンテキストでのミッドトレーニング、そしてSFTやRLによる整列を経て訓練された。
オープンソース化とライセンス
メタは同モデルをApache 2.0ライセンスの下で公開し、クラウドAPIへの依存なく開発者がローカルワークステーションでエージェントを構築・実行できる環境を提供した。
DFlash 推測デコーディングによる高速化
軽量なドラフトモデルがトークンのブロックを提案し、ベースモデルが並列で検証することで、Apple Silicon や NVIDIA RTX 5090 上で最大 3.1 倍の生成スループットを実現する。
重要な引用
Engineered specifically for always-on local workflows, Muse Glimmer enables developers to run autonomous agents... directly on consumer GPUs and workstations without depending on cloud APIs.
Utilising 4-bit dynamic compression (K-Quant), the model footprint drops to roughly 17 GB to 20 GB.
Muse Glimmer pairs with a lightweight companion 'drafter' model based on the DFlash architecture.
The drafter proposes multi-token blocks that the base model validates in parallel, yielding up to a 3.1x increase in generation throughput on hardware like Apple Silicon (M4/M5 Max) and NVIDIA RTX 5090 cards.
編集コメントを表示
編集コメント
コンシューマー向けハードウェアの制約内で30B規模のエージェントを実現した点は、ローカルAIの実用化における重要なマイルストーンである。特にスクリーンショット解析機能を内蔵し、クラウドを介さずに自律的に作業を進める能力は、開発者にとって即戦力となる可能性が高い。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Meta AI Research は、Apache 2.0 ライセンスの下で公開された 300 億パラメータのオープンウェイトモデル「Muse Glimmer」を発表しました。このモデルは常時稼働するローカルワークフロー向けに設計されており、クラウド API に依存することなく、消費者向けの GPU やワークステーション上で自律型エージェントの実行、複雑なツール呼び出し、ローカルコーディング、LLM-as-a-judge による評価を直接実行可能にします。
厳格なメモリ制約下でアジェンティック実行を実現するため、Meta は大型フラッグシップモデル「Muse Spark」から派生した多段階のトレーニング戦略を採用しました。
- ロジット蒸留（事前学習）: 対応する事前学習データセットミックスを用いて、Muse Spark から基礎的な推論能力を転移します。
- 中間学習: 複雑な推論トレースを含む長文コンテキストシーケンスや、テキストと画像の混合データ、多段階のツール呼び出し軌跡を対象にトレーニング規模を拡大します。
- 事後学習アライメント: 教師あり微調整（SFT）、オンポリシー蒸留、強化学習（RL）を組み合わせて、コード生成、ツール使用、構造化計画など多領域のパフォーマンスを洗練させます。
Muse Glimmer は専用設計の 18 億パラメータ規模の知覚エンコーダーを搭載しており、コード実行やワークフロー自動化中にスクリーンショット、図表、ドキュメントをネイティブに処理・解釈できます。
通常、圧縮されていない 30B パラメータモデルは 55 GB を超える VRAM を必要とし、一般的な消費者向けハードウェアでは動作しません。Muse Glimmer は以下の 2 つの主要なランタイム最適化技術でこの課題を解決しています。
動的量子化 (Dynamic Quantisation): K-Quant を用いた 4 ビット動的可変圧縮により、モデルのサイズは約 17 GB から 20 GB に削減されます。これにより、標準的な 24 GB〜32 GB の GPU/NPU 環境でも、Key-Value (KV) キャッシュ、知覚埋め込み、推測デコーディングのオーバーヘッド分を考慮した上で十分なメモリ余裕を持たせることが可能です。
DFlash 推測デコーディング: Muse Glimmer は従来のトークン単位の予測ではなく、DFlash アーキテクチャに基づく軽量なコンパニオンモデル「drafter」と連携します。この drafter が複数のトークンをブロック単位で提案し、ベースモデルが並列検証を行うことで、Apple Silicon (M4/M5 Max) や NVIDIA RTX 5090 などのハードウェアにおいて、生成スループットを最大 3.1 倍向上させます。
Muse Glimmer は、長期にわたる計画の実行や予期せぬ失敗状態への対応を目的としてトレーニングされています。API 呼び出しやターミナルコマンドがエラーを返した場合、このモデルは失敗の原因を診断し、実行を中断するのではなく代替の経路を試みます。
OpenClaw などのエージェントフレームワークに対応しており、推論にかかるリソースを調整可能にしています。これにより、開発者は処理速度と判断品質のバランスを自由に設定できます。
SWE-Bench、DeepSearch QA、τ-Bench、MCP-Atlas といった標準化されたベンチマーク評価において、Muse Glimmer は 30B クラスの主要なオープンモデルと比較して高い成功率を達成しています。Gemma 4 31B や Qwen 3.6 27B などの競合モデルとの比較でも、汎用的なコーディング能力や推論性能を維持しつつ、多段階のツール利用における信頼性と失敗からの回復力において優れたパフォーマンスを示しました。
モデルの重みは Hugging Face で公開されています。Meta はオープンソースコミュニティと連携し、llama.cpp、ExecuTorch、Apple MLX、Ollama、LM Studio、vLLM といった人気のローカルフレームワークでのネイティブ実行を実現しています。また、PyTorch の TorchTitan フレームワークを通じてファインチューニングのワークフローもサポートされています。
Muse Glimmer は、データプライバシーを守りつつ低遅延の実行を維持できる、実用的で高機能なローカル AI エージェントへの大きな転換点を示しています。このモデルを自身のマシン上で効果的に動作させるには、24 GB から 32 GB の統合メモリまたは VRAM を備えたシステムが必要です。具体的には、M4/M5 Max チップを搭載した Mac や、RTX 5090 や RTX 4090 などの最新の GPU を搭載した PC が推奨されます。このハードウェア要件は、量子化された 4 ビット重みと、視覚エンコーダー、DFlash ドラフター、そして長時間のエージェントセッションに必要な KV コンテキストキャッシュを同時に収容するのに十分なメモリ空間を確保するためです。
著者について
Olimpiu Pop
技術執行役兼エンジニア。環境への影響を最小限に抑えつつ、テクノロジーを用いて現実の問題に対する解決策を提供する包括的なアプローチに注力しています。金融ソフトウェアから IAM（アイデンティティ管理）に至るまでのリアルタイムアプリケーション開発の経験を持ち、AI を利用する場合も利用しない場合も、ツールや開発フローの最適化に情熱を注いでいます。
数百名の開発者を率い、支援エンジニアからアーキテクトまでを含む技術組織の構築と運営を主導しました。また、トランシルバニア JUG のファシリテーター、Voxxed Romania や Devoxx UK のプログラム委員会のメンバーとして活動し、サイバーセキュリティやオープンソースに関するカンファレンススピーカーおよびポッドキャスターとしても活躍しています。505updates.com の主要編集者であり、JavaAdventCalendar の主幹兼トラブルメーカーでもあります。
もっと見る 閉じる
原文を表示
Meta AI Research has announced Muse Glimmer, a 30-billion-parameter open-weight model released under the Apache 2.0 license. Engineered specifically for always-on local workflows, Muse Glimmer enables developers to run autonomous agents, complex tool invocation, local coding, and LLM-as-a-judge evaluations directly on consumer GPUs and workstations without depending on cloud APIs.
To deliver agentic execution within strict memory budgets, Meta employed a multi-stage training strategy derived from its larger flagship model, Muse Spark:
- Logit Distillation (Pre-training): The model transfers foundational reasoning capabilities from Muse Spark using a matched pre-training dataset mix.
- Mid-Training: Training scales up on long-context sequences containing complex reasoning traces, interleaved text-and-image data, and multi-step tool call trajectories.
- Post-Training Alignment: A blend of Supervised Fine-Tuning (SFT), on-policy distillation, and Reinforcement Learning (RL) refines multi-domain performance across code generation, tool usage, and structured planning.
A dedicated 1.8B parameter perception encoder allows Muse Glimmer to process interleaved multimodal inputs natively, enabling local agents to interpret screenshots, diagrams, and documentation inline during code execution or workflow automation.
Uncompressed 30B parameter models typically require over 55 GB of VRAM, pricing them out of standard consumer hardware. Muse Glimmer addresses this via two primary runtime optimisations:
Dynamic Quantisation: Utilising 4-bit dynamic compression (K-Quant), the model footprint drops to roughly 17 GB to 20 GB. This leaves adequate memory headroom within standard 24 GB to 32 GB GPU/NPU envelopes for the Key-Value (KV) cache, perception embeddings, and speculative decoding overhead.
DFlash Speculative Decoding: Rather than predicting one token at a time, Muse Glimmer pairs with a lightweight companion "drafter" model based on the DFlash architecture. The drafter proposes multi-token blocks that the base model validates in parallel, yielding up to a 3.1x increase in generation throughput on hardware like Apple Silicon (M4/M5 Max) and NVIDIA RTX 5090 cards.
Muse Glimmer is trained to execute long-horizon plans and handle unexpected failure states. When an API call or terminal command returns an error, the model diagnoses the failure and attempts alternative paths rather than terminating execution. It supports agent frameworks like OpenClaw and features adjustable reasoning effort, allowing developers to balance execution speed against decision quality.
In standardised benchmark evaluations—including SWE-Bench, DeepSearch QA, τ-Bench, and MCP-Atlas—Muse Glimmer achieves strong success rates compared to leading open models in the 30B class. When evaluated against peer models such as Gemma 4 31B and Qwen 3.6 27B, Muse Glimmer demonstrates superior multi-step tool reliability and failure recovery while maintaining competitive general coding and reasoning capabilities.
The model weights are available on Hugging Face. Meta has partnered with the open-source community to provide native execution across popular local frameworks, including llama.cpp, ExecuTorch, Apple MLX, Ollama, LM Studio, and vLLM. Fine-tuning workflows are also supported via PyTorch's TorchTitan framework.
Muse Glimmer represents a significant shift toward viable, high-capability local AI agents that safeguard data privacy while maintaining low-latency execution. To run this model effectively on your own machine, a system equipped with 24 GB to 32 GB of unified memory or VRAM is recommended—such as a Mac with an M4/M5 Max chip or a PC with a modern GPU like the RTX 5090 or RTX 4090. This hardware envelope ensures sufficient memory for the quantised 4-bit weights alongside the vision encoder, DFlash drafter, and KV context cache required for extended agentic sessions.
About the Author
Olimpiu Pop
Tech Executive and Engineer Focused on a Holistic Approach and using technology to provide solutions to real problems with minimal impact on the environment. He has experience in developing real-time applications ranging from financial software to IAM. Passionate about tooling and optimising development flows with or without AI. Led and shaped technical organisations of hundreds of developers (from support engineers to Architects).
Tech community builder: Transylvania JUG facilitator, member of the program committee for Voxxed Romania and Devoxx UK, conference speaker and podcaster on cybersecurity and open-source topics for 505updates.com. Main editor and troublemaker of JavaAdventCalendar.
Show moreShow less
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み