Hugging Face と Cerebras が Gemma 4 をリアルタイム音声 AI に導入
Hugging Face と Cerebras は共同で、Gemma 4 モデルをリアルタイム音声 AI アプリケーションに統合する取り組みを発表した。
キーポイント
大手企業間の戦略的提携
モデルプラットフォームの Hugging Face と推論ハードウェアの Cerebras が協力し、次世代モデルの実装を加速させる。
Gemma 4 のリアルタイム音声対応
Google の Gemma シリーズ最新バージョンである Gemma 4 を、遅延の少ないリアルタイム音声処理に適応させた。
インフラ最適化による性能向上
Cerebras の大規模並列処理アーキテクチャを活用し、従来の GPU クラスタよりも効率的な推論を実現する。
影響分析・編集コメントを表示
影響分析
この発表は、オープンソースモデルの性能限界を打破し、クラウド依存なしで高品質なリアルタイム音声 AI を構築できる道筋を示す。特に Cerebras のハードウェア特性を活かした最適化により、開発者はより低遅延かつコスト効率の高い音声アプリケーションの開発が可能になる。
編集コメント
Google の Gemma シリーズが、Hugging Face と Cerebras という強力なパートナーシップによって、実用レベルのリアルタイム音声処理へと進化を遂げました。ハードウェアとプラットフォームの緊密な連携が、次世代 AI アプリケーションの基盤となり得る重要な一歩です。
- アーキテクチャ：オープンでカスケード型の音声対音声スタック
- Cerebras と Hugging Face のパートナーシップ
- 実世界での相互作用のために構築された
音声 AI において、レイテンシは重要なパラメータです。開発者はモデルの品質において劇的な進歩を遂げましたが、ユーザー体験はまだ応答時間によって制限されることが多いです。Hugging Face と Cerebras はこの体験を変えようとしています。本日、オープンでモジュール型の音声 AI アーキテクチャが、業界最高クラスの推論速度と組み合わされたときに何が実現可能になるかを実演します。
その結果、音声対音声の体験は劇的に自然なものになります。AI の応答を待つ代わりに、会話は人間同士の相互作用からユーザーが期待する即応性を持って流れていきます。
アーキテクチャ：オープンでカスケード型の音声対音声スタック
このデモは、リアルタイムの音声対音声パイプラインとして構築されています。システムの各部分はモジュール化されており、オープンで交換可能であるため、開発者は異なるアシスタント、ロボット、製品、または研究プロジェクト向けにこのスタックを容易に適応させることができます。
これにより、完全なオープン型の音声対音声ループが実現されます：
音声入力
-> Nvidia の Parakeet を用いた音声認識
-> Cerebras 上での Gemma 4 VLM（視覚言語モデル）推論
-> Alibaba の Qwen3TTS を用いたテキストから音声への変換
-> 発話による応答
このアーキテクチャは、オープンソース AI エコシステムの強みを統合しています。高速推論には Cerebras を、言語モデルには Google DeepMind の Gemma 4 31B を、テキストから音声への変換（text-to-speech）には Qwen をそれぞれ採用しています。すべての層を、開発者が検査・修正・拡張することができます。
Cerebras と Hugging Face のパートナーシップ
現在、一部の生産環境では中位値の遅延は許容範囲内ですが、P95（上位 5% の遅延）において依然として数秒に及ぶ苛立たしい遅延が発生しています。特にツール呼び出しやマルチモーダルステップで複数のターンを要する場合には、これらの遅延がより顕著になります。
Cerebras は、このスタックにおける最も重要なボトルネックの一つである言語モデルの応答時間を解決します。推論を劇的に高速化し安定させることで、Cerebras は Hugging Face パイプラインの残りの部分を輝かせる役割を果たします。
この安定性は、特に長尾（long tail）領域において極めて重要です。多くのシステムは許容可能な中位値応答時間を提供できますが、稀に発生する低速な応答により、会話全体が信頼できないものとして感じられてしまいます。
実世界での相互作用のために設計された
同じく Hugging Face の音声から音声へのパイプラインは、すでに Reachy Mini ロボットを駆動しており、野外で稼働しているロボット数は 9,000 台を超えています。ロボットや音声アシスタント、そして具現化 AI（embodied AI）にとって、応答性は単なる外観上の改善ではありません。それは、相互作用に命を吹き込む要素そのものです。
したがって、Cerebras を採用する動機は、単なるコスト削減だけではありません。低遅延、予測可能なパフォーマンス、そしてスケールしても自然に感じられるリアルタイム体験を創出できる能力こそが、その本質的な価値です。
この協力は、AI の未来が開かれたものでありながら高性能であるべきだという共通の信念を反映しています。オープンソースモデル、オープンなインフラストラクチャ、そして画期的な推論速度が組み合わさることで、次世代の対話型 AI 基盤が構築されます。
開発者の方々に、デモの探索やコードの実験を通じて、リアルタイム音声 AI の今後の方向性を共に形作っていただくことを呼びかけます。
原文を表示
- Architecture: an Open, Cascaded Speech-to-Speech stack
- Cerebras and Hugging Face Partnership
- Built for real-world interaction
For voice AI, latency is a critical parameter. Developers have made tremendous progress in model quality, but the user experience is still often limited by response times. Hugging Face and Cerebras are changing that experience. Today, we demonstrate what becomes possible when an open, modular voice AI architecture is paired with industry-leading inference speed.
The result is a speech-to-speech experience that feels dramatically more natural. Instead of waiting for an AI to respond, conversations flow with the responsiveness users expect from human interaction.
Architecture: an Open, Cascaded Speech-to-Speech stack
The demo is built as a real-time speech-to-speech pipeline. Each part of the system is modular, open, and replaceable, making it easy for developers to adapt the stack for different assistants, robots, products, or research projects.
This creates a fully open speech-to-speech loop:
Speech input
-> speech recognition with Nvidia's Parakeet
-> Gemma 4 VLM inference on Cerebras
-> text-to-speech with Alibaba's Qwen3TTS
-> spoken response
The architecture brings together the strength of the open-source AI ecosystem: Cerebras for fast inference, Google DeepMind’s Gemma 4 31B for the language model, and Qwen for text-to-speech. Every layer can be inspected, modified, and extended by the developers
Cerebras and Hugging Face Partnership
Today, some production systems see a reasonable median latency while still experiencing frustrating multi-second delays at the P95. Those delays become even more noticeable when tool calls or multimodal steps require multiple turns.
Cerebras helps solve one of the most important bottlenecks in the stack: the language-model response time. By making inference dramatically faster and more stable, Cerebras allows the rest of the Hugging Face pipeline to shine.
That stability is especially important at the long tail. Many systems can deliver acceptable median response times, but occasional slow responses still make conversations feel unreliable.
Built for real-world interaction
This same Hugging Face speech-to-speech pipeline already powers Reachy Mini robots, with more than 9,000 robots in the wild. For robots, voice assistants, and embodied AI, responsiveness is not a cosmetic improvement. It is what makes the interaction feel alive.
The motivation to use Cerebras is therefore not simply cost reduction. It is low latency, predictable performance, and the ability to create real-time experiences that feel natural at scale.
This collaboration reflects a shared belief that the future of AI will be both open and performant. Open-source models, open infrastructure, and breakthrough inference speed together create a foundation for the next generation of conversational AI.
We invite developers to explore the demo, experiment with the code, and help shape what comes next for real-time voice AI.
Demo: Hugging Face Space
Repository: huggingface/speech-to-speech
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み