Hugging Face と Cerebras が Gemma 4 をリアルタイム音声 AI に導入
本文の状態
日本語全文を表示中
詳細モードで約4分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Hugging Face Blog
Hugging Face と Cerebras は共同で、Gemma 4 モデルをリアルタイム音声 AI アプリケーションに統合する取り組みを発表した。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
- アーキテクチャ：オープンでカスケード型の音声対音声スタック
- Cerebras と Hugging Face のパートナーシップ
- 実世界での相互作用のために構築された
音声 AI において、レイテンシは重要なパラメータです。開発者はモデルの品質において劇的な進歩を遂げましたが、ユーザー体験はまだ応答時間によって制限されることが多いです。Hugging Face と Cerebras はこの体験を変えようとしています。本日、オープンでモジュール型の音声 AI アーキテクチャが、業界最高クラスの推論速度と組み合わされたときに何が実現可能になるかを実演します。
その結果、音声対音声の体験は劇的に自然なものになります。AI の応答を待つ代わりに、会話は人間同士の相互作用からユーザーが期待する即応性を持って流れていきます。
アーキテクチャ：オープンでカスケード型の音声対音声スタック
このデモは、リアルタイムの音声対音声パイプラインとして構築されています。システムの各部分はモジュール化されており、オープンで交換可能であるため、開発者は異なるアシスタント、ロボット、製品、または研究プロジェクト向けにこのスタックを容易に適応させることができます。
これにより、完全なオープン型の音声対音声ループが実現されます：
音声入力
-> Nvidia の Parakeet を用いた音声認識
-> Cerebras 上での Gemma 4 VLM（視覚言語モデル）推論
-> Alibaba の Qwen3TTS を用いたテキストから音声への変換
-> 発話による応答
このアーキテクチャは、オープンソース AI エコシステムの強みを統合しています。高速推論には Cerebras を、言語モデルには Google DeepMind の Gemma 4 31B を、テキストから音声への変換（text-to-speech）には Qwen をそれぞれ採用しています。すべての層を、開発者が検査・修正・拡張することができます。
Cerebras と Hugging Face のパートナーシップ
現在、一部の生産環境では中位値の遅延は許容範囲内ですが、P95（上位 5% の遅延）において依然として数秒に及ぶ苛立たしい遅延が発生しています。特にツール呼び出しやマルチモーダルステップで複数のターンを要する場合には、これらの遅延がより顕著になります。
Cerebras は、このスタックにおける最も重要なボトルネックの一つである言語モデルの応答時間を解決します。推論を劇的に高速化し安定させることで、Cerebras は Hugging Face パイプラインの残りの部分を輝かせる役割を果たします。
この安定性は、特に長尾（long tail）領域において極めて重要です。多くのシステムは許容可能な中位値応答時間を提供できますが、稀に発生する低速な応答により、会話全体が信頼できないものとして感じられてしまいます。
実世界での相互作用のために設計された
同じく Hugging Face の音声から音声へのパイプラインは、すでに Reachy Mini ロボットを駆動しており、野外で稼働しているロボット数は 9,000 台を超えています。ロボットや音声アシスタント、そして具現化 AI（embodied AI）にとって、応答性は単なる外観上の改善ではありません。それは、相互作用に命を吹き込む要素そのものです。
したがって、Cerebras を採用する動機は、単なるコスト削減だけではありません。低遅延、予測可能なパフォーマンス、そしてスケールしても自然に感じられるリアルタイム体験を創出できる能力こそが、その本質的な価値です。
この協力は、AI の未来が開かれたものでありながら高性能であるべきだという共通の信念を反映しています。オープンソースモデル、オープンなインフラストラクチャ、そして画期的な推論速度が組み合わさることで、次世代の対話型 AI 基盤が構築されます。
開発者の方々に、デモの探索やコードの実験を通じて、リアルタイム音声 AI の今後の方向性を共に形作っていただくことを呼びかけます。
原文を表示
- Architecture: an Open, Cascaded Speech-to-Speech stack
- Cerebras and Hugging Face Partnership
- Built for real-world interaction
For voice AI, latency is a critical parameter. Developers have made tremendous progress in model quality, but the user experience is still often limited by response times. Hugging Face and Cerebras are changing that experience. Today, we demonstrate what becomes possible when an open, modular voice AI architecture is paired with industry-leading inference speed.
The result is a speech-to-speech experience that feels dramatically more natural. Instead of waiting for an AI to respond, conversations flow with the responsiveness users expect from human interaction.
Architecture: an Open, Cascaded Speech-to-Speech stack
The demo is built as a real-time speech-to-speech pipeline. Each part of the system is modular, open, and replaceable, making it easy for developers to adapt the stack for different assistants, robots, products, or research projects.
This creates a fully open speech-to-speech loop:
Speech input
-> speech recognition with Nvidia's Parakeet
-> Gemma 4 VLM inference on Cerebras
-> text-to-speech with Alibaba's Qwen3TTS
-> spoken response
The architecture brings together the strength of the open-source AI ecosystem: Cerebras for fast inference, Google DeepMind’s Gemma 4 31B for the language model, and Qwen for text-to-speech. Every layer can be inspected, modified, and extended by the developers
Cerebras and Hugging Face Partnership
Today, some production systems see a reasonable median latency while still experiencing frustrating multi-second delays at the P95. Those delays become even more noticeable when tool calls or multimodal steps require multiple turns.
Cerebras helps solve one of the most important bottlenecks in the stack: the language-model response time. By making inference dramatically faster and more stable, Cerebras allows the rest of the Hugging Face pipeline to shine.
That stability is especially important at the long tail. Many systems can deliver acceptable median response times, but occasional slow responses still make conversations feel unreliable.
Built for real-world interaction
This same Hugging Face speech-to-speech pipeline already powers Reachy Mini robots, with more than 9,000 robots in the wild. For robots, voice assistants, and embodied AI, responsiveness is not a cosmetic improvement. It is what makes the interaction feel alive.
The motivation to use Cerebras is therefore not simply cost reduction. It is low latency, predictable performance, and the ability to create real-time experiences that feel natural at scale.
This collaboration reflects a shared belief that the future of AI will be both open and performant. Open-source models, open infrastructure, and breakthrough inference speed together create a foundation for the next generation of conversational AI.
We invite developers to explore the demo, experiment with the code, and help shape what comes next for real-time voice AI.
Demo: Hugging Face Space
Repository: huggingface/speech-to-speech
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み