Perplexity、Apple Silicon向け推論エンジン「Lily」をオープンソース化
本文の状態
日本語全文あり
詳細モードで約8分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
MarkTechPost
Perplexity は Rust と Metal を用いたローカル推論エンジン「Lily」を公開し、PyTorch や MLX を介さず Qwen3.6-35B-A3B の高速実行を実現した。
記事の3ポイント
特化型推論エンジンの公開
Perplexity は Hybrid Compute の基盤となる「Lily」をオープンソース化し、Rust と Metal を組み合わせた単一プロセスのランタイムとして公開した。
MLX や PyTorch を介さない独自アーキテクチャ
Lily は実行パスに PyTorch や MLX を含めず、手書きの Metal カーネルと Rust レイヤーでモデル構造と実行計画を直接制御することで性能最大化を図っている。
Qwen3.6-35B-A3B への最適化
このエンジンは特定のハードウェア(Apple Silicon)とモデル(Qwen3.6-35B-A3B)に特化しており、不均等なエキスパートグループや GQA、Gated DeltaNet の複雑なパターンを効率的に処理する。
なぜ重要か・誰に関係するか
この発表が重要なのは、汎用フレームワークに依存しない特化型エンジンによる性能向上と、Apple Silicon 環境における大規模モデルのローカル実行可能性を明確に示したからだ。開発者や企業の AI 導入担当者は、特定のハードウェアとモデル組み合わせにおいて既存スタックよりも高い効率を得るための実装パターンを確認し、自社のインフラ要件に合わせた最適化戦略を検討すべきである。
背景や根拠まで確認しますか?
元記事の内容を、読みやすい日本語で続けて確認できます。
関連記事
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み