オンデバイス AI の加速：Arm と Google AI Edge の最適化
Google と Arm は、SME2 拡張機能と AI エッジソフトウェアスタックを統合することで、モバイルデバイス上での生成型オーディオの処理速度を 2 倍以上に向上させ、メモリ使用量を 4 分の 1 に削減する実装を実現した。
キーポイント
ハードウェアとソフトウェアの統合による性能向上
Arm のスケーラブル行列拡張機能 2（SME2）と Google AI Edge ソフトウェアスタックを組み合わせることで、CPU を強力な行列計算アクセラレータとして活用し、オンデバイス生成 AI を可能にしている。
自動化された最適化パイプライン
LiteRT、XNNPACK、KleidiAI を活用した「変換・最適化・デプロイ」の自動化パイプラインにより、ハードウェアアクセラレーションをシームレスに実装する手法が提示されている。
具体的なパフォーマンス改善実績
Stability AI の「stable-audio-open-small」モデルを用いたケーススタディにおいて、オーディオ生成速度で 2 倍以上の高速化とメモリ使用量の 4 分の 1 削減を達成し、高音質を維持している。
影響分析・編集コメントを表示
影響分析
この技術的進展は、クラウド依存から脱却し、プライバシー保護が求められるオンデバイスでの生成型 AI 利用を現実的なものにする重要な一歩です。特にモバイル端末におけるリソース制約の克服により、リアルタイムな音声処理アプリケーションや、オフライン環境でも動作する高度な AI ツールの普及を加速させる可能性があります。
編集コメント
クラウドへの依存を減らし、デバイス上で完結する高パフォーマンスな AI を実現するための具体的な技術的アプローチが示されており、エッジコンピューティングの未来像を示す重要な事例です。
Arm Scalable Matrix Extension 2 (SME2) と Google AI Edge ソフトウェアスタックの統合により、CPU を強力な行列演算アクセラレータへと変換することで、高性能なオンデバイス生成 AI が実現します。Stability AI の「stable-audio-open-small」モデルを事例として、LiteRT、XNNPACK、KleidiAI を活用したハードウェアアクセラレーションを自動化する、「変換・最適化・デプロイ」という簡素化されたパイプラインが紹介されています。その結果、Arm 搭載のモバイルデバイスやノートパソコンにおいて高音質を維持しながら、音声生成の速度が 2 倍以上に向上し、メモリ使用量が 4 分の 1 に削減されました。
技術用語: Arm Scalable Matrix Extension 2 (SME2) - Arm スケーラブル行列拡張 2; Google AI Edge - Google AI エッジ; on-device generative AI - オンデバイス生成 AI; matrix-compute accelerator - 行列演算アクセラレータ; LiteRT - LiteRT; XNNPACK - XNNPACK; KleidiAI - KleidiAI
原文を表示
Integration of Arm Scalable Matrix Extension 2 (SME2) and the Google AI Edge software stack enables high-performance, on-device generative AI by turning the CPU into a powerful matrix-compute accelerator. Using Stability AI’s "stable-audio-open-small" model as a case study, it outlines a streamlined "Convert, Optimize, and Deploy" pipeline that utilizes LiteRT, XNNPACK, and KleidiAI to automate hardware acceleration. The resulting implementation achieves over a 2x speedup in audio generation and a 4x reduction in memory usage while maintaining high audio quality on Arm-powered mobile devices and laptops.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み