Meta、オンデバイス AI「Muse Glimmer」と ExecuTorch の新機能を発表

記事の3ポイント

1. 1

   Muse Glimmer の発表と特徴

   Meta は Muse Spark から蒸留された 300 億パラメータのオープンウェイトモデル「Muse Glimmer」を発表し、オンデバイスでのエージェントワークフローに最適化されている。

2. 2

   ExecuTorch の技術的アプローチ

   ExecuTorch は PyTorch で実装されたモデルをエクスポートするだけで、バックエンド固有の最適化や事前コンパイルを自動処理し、複雑な最新アーキテクチャへのスケーラビリティを提供する。

3. 3

   DFlash などの高度機能の実装

   本発表では低遅延を実現する並列拡散ベースの推測デコーディング「DFlash」や、128K トークン以上のコンテキスト長、GGUF エクスポート、ネイティブ K-quant 実行がサポートされる。