Hugging Face と Cerebras が Gemma 4 をリアルタイム音声 AI に導入

[記事一覧に戻る](https://huggingface.co/blog) - アーキテクチャ：オープンでカスケード型の音声対音声スタック - Cerebras と Hugging Face のパートナーシップ - 実世界での相互作用のために構築された 音声 AI において、レイテンシは重要なパラメータです。開発者はモデルの品質において劇的な進歩を遂げましたが、ユーザー体験はまだ応答時間によって制限されることが多いです。Hugging Face と Cerebras はこの体験を変えようとしています。本日、オープンでモジュール型の音声 AI アーキテクチャが、業界最高クラスの推論速度と組み合わされたときに何が実現可能になるかを実演します。 その結果、音声対音声の体験は劇的に自然なものになります。AI の応答を待つ代わりに、会話は人間同士の相互作用からユーザーが期待する即応性を持って流れていきます。 ## アーキテクチャ：オープンでカスケード型の音声対音声スタック このデモは、リアルタイムの音声対音声パイプラインとして構築されています。システムの各部分はモジュール化されており、オープンで交換可能であるため、開発者は異なるアシスタント、ロボット、製品、または研究プロジェクト向けにこのスタックを容易に適応させることができます。 これにより、完全なオープン型の音声対音声ループが実現されます： 音声入力 -> Nvidia の Parakeet を用いた音声認識 -> Cerebras 上での Gemma 4 VLM（視覚言語モデル）推論 -> Alibaba の Qwen3TTS を用いたテキストから音声への変換 -> 発話による応答 このアーキテクチャは、オープンソース AI エコシステムの強みを統合しています。高速推論には Cerebras を、言語モデルには Google DeepMind の Gemma 4 31B を、テキストから音声への変換（text-to-speech）には Qwen をそれぞれ採用しています。すべての層を、開発者が検査・修正・拡張することができます。 Cerebras と Hugging Face のパートナーシップ 現在、一部の生産環境では中位値の遅延は許容範囲内ですが、P95（上位 5% の遅延）において依然として数秒に及ぶ苛立たしい遅延が発生しています。特にツール呼び出しやマルチモーダルステップで複数のターンを要する場合には、これらの遅延がより顕著になります。 Cerebras は、このスタックにおける最も重要なボトルネックの一つである言語モデルの応答時間を解決します。推論を劇的に高速化し安定させることで、Cerebras は Hugging Face パイプラインの残りの部分を輝かせる役割を果たします。 この安定性は、特に長尾（long tail）領域において極めて重要です。多くのシステムは許容可能な中位値応答時間を提供できますが、稀に発生する低速な応答により、会話全体が信頼できないものとして感じられてしまいます。 実世界での相互作用のために設計された 同じく Hugging Face の音声から音声へのパイプラインは、すでに Reachy Mini ロボットを駆動しており、野外で稼働しているロボット数は 9,000 台を超えています。ロボットや音声アシスタント、そして具現化 AI（embodied AI）にとって、応答性は単なる外観上の改善ではありません。それは、相互作用に命を吹き込む要素そのものです。 したがって、Cerebras を採用する動機は、単なるコスト削減だけではありません。低遅延、予測可能なパフォーマンス、そしてスケールしても自然に感じられるリアルタイム体験を創出できる能力こそが、その本質的な価値です。 この協力は、AI の未来が開かれたものでありながら高性能であるべきだという共通の信念を反映しています。オープンソースモデル、オープンなインフラストラクチャ、そして画期的な推論速度が組み合わさることで、次世代の対話型 AI 基盤が構築されます。 開発者の方々に、デモの探索やコードの実験を通じて、リアルタイム音声 AI の今後の方向性を共に形作っていただくことを呼びかけます。 デモ：[Hugging Face Space](https://huggingface.co/spaces/smolagents/hf-realtime-voice) リポジトリ：[huggingface/speech-to-speech](https://github.com/huggingface/speech-to-speech)

Hugging Face と Cerebras が Gemma 4 をリアルタイム音声 AI に導入

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト