DiffusionGemma：テキスト生成が4倍高速化（5分読了）

2026 年 6 月 10 日 6 分間の読了時間 最新のオープン実験モデルは、専用 GPU において最大 4 倍の高速推論を実現し、速度が重要な対話型ローカルワークフローの探索への扉を開きます。 B ブレンダン・オドノヒュー 研究科学者 S セバスチャン・フレンナーハグ 研究科学者 ![image](https://storage.googleapis.com/gweb-uniblog-publish-prod/images/HeroVisual.width-200.format-webp.webp) 本日、テキスト拡散（text diffusion）という極めて高速なテキスト生成アプローチを探求する実験的オープンモデル「DiffusionGemma」を発表します。Apache 2.0 ライセンスの下でリリースされるこの 26B のエキスパート混合（Mixture of Experts: MoE）モデルは、一般的な自己回帰型大規模言語モデル（LLMs）が持つ逐次的なトークンごとの処理を超えたものです。代わりに、テキストのブロック全体を同時に生成することで、GPU 上において最大 4 倍の高速なテキスト生成を実現します。 業界をリードするパラメータあたりの知能を持つGemma 4ファミリーと、最先端の[Gemini Diffusion研究](https://deepmind.google/models/gemini-diffusion/)に基づいて構築されたDiffusionGemmaは、生成速度を最大化するために設計された新規な拡散ヘッド（diffusion head）を統合しています。 autoregressive（自己回帰型）のGemma 4モデルが高品質な生産出力の標準であり続ける一方で、DiffusionGemmaは、インライン編集、迅速な反復、非線形テキスト構造の生成など、速度が重要な対話型ローカルワークフローを探求する研究者や開発者向けに設計されています。 ## 開発者にとって新たな価値を開く リアルタイムで対話的なAIアプリケーションを構築する開発者は、しばしばローカル推論におけるレイテンシ（遅延）のボトルネックに直面します。DiffusionGemmaはこれらの課題に直接取り組む一方で、いくつかの重要なトレードオフがあります： - 驚異的な高速推論：デコード（復号化）のボトルネックをメモリ帯域幅から計算処理へ移行することで、DiffusionGemmaは専用GPU上で最大4倍速いトークン出力を生成します。（単一のNVIDIA H100で1秒あたり1000トークン以上、NVIDIA GeForce RTX 5090で700トークン以上） - アクセシブルなハードウェアフットプリント：推論時に38億パラメータのみを活性化させる260億総パラメータのMixture of Experts (MoE) モデルとして動作するため、DiffusionGemma は量子化された場合でも、ハイエンドの専用コンシューマー GPU の 18GB VRAM リミット内に収まるように設計されています。 - 双方向アテンション：各フォワードパスで256トークンを並列生成することで、すべてのトークンが他のすべてのトークンにアテンションを向けることが可能になります。これにより、インライン編集、コードの埋め込み、アミノ酸配列、数学的グラフといった非線形ドメインにおいて大きな利点を提供します。 - インテリジェントな自己修正：モデルは自身の出力を反復的に精緻化し、一度にテキストブロック全体を評価してリアルタイムでミスを修正することができます。 - 実験段階とプロダクションへの推奨事項：速度と並列レイアウト生成を優先しているため、DiffusionGemma の全体的な出力品質は標準的な Gemma 4 よりも低くなります。最大限の品質が求められるアプリケーションには、標準的な Gemma 4 のデプロイを推奨します。 DiffusionGemma の特定タスクにおけるパフォーマンスは、ファインチューニングを通じて向上させることができます。以下の例では、[Unsloth](https://unsloth.ai/docs/models/diffusiongemma) が DiffusionGemma をファインチューニングして数独 (Sudoku) をプレイできるようにしました。これは各トークンが未来のトークンに依存するため、自己回帰モデルが苦手とするタスクです。DiffusionGemma の双方向アテンションにより、このタスクははるかに容易になります。 ファインチューニングされた DiffusionGemma による数独 (Sudoku) 解決例。 ## なぜテキストに拡散モデルを使うのか AI 研究コミュニティは長年にわたり、拡散ベースのテキスト生成を探索してきましたが、大規模モデルへの適用は依然として課題でした。DiffusionGemma は、モデルがハードウェアを利用する方法を変えることで、この状況を打破します。 ## 従来のモデルとのトレードオフ ほとんどの言語モデルはタイプライターのように動作し、左から右へ一語ずつトークンを生成します。クラウド環境では、サーバーが数千のユーザーリクエストをバッチ処理してハードウェア負荷を共有できるため、このアプローチは効率的です。しかし、単一のユーザー向けにローカルで実行する場合、この単語ごとのプロセスにより、専用 GPU や TPU が十分に活用されません。つまり、次の「キー入力」を待つために時間の大部分が浪費されてしまうのです。 DiffusionGemma はこの非効率性を逆転させます。単語を逐次的に予測するのではなく、256 トークン分の段落全体を同時にドラフトします。コンピュータのプロセッサに一度により大きな作業塊を与えることで、DiffusionGemma はハードウェアの潜在能力を最大限に引き出します。これは、モデル推論を単一の逐次タイプライターから、テキストブロック全体を同時に押印する大規模な印刷機へとアップグレードするものです。 Hugging Face による DiffusionGemma テキストから 3D への SVG デモ。段階的な生成プロセス。 これは、DiffusionGemma の高速化がローカル環境および低同時実行推論を想定して設計されていることを意味します。高 QPS（1 秒間のクエリ数）のクラウドサービスにおいては、自己回帰モデルを展開して計算資源を効率的に飽和させることができるため、DiffusionGemma の並列デコーディングは漸減するリターンしかもたらず、むしろサービスコストが高くなる可能性があります。スループットにおける優位性は、単一のアクセラレータ上で低〜中程度のバッチサイズにおいて最も顕著です。 ## テキスト拡散の仕組み 画像生成 AI が [視覚的なノイズから始め、それを反復的に精緻化して明確な画像へと仕上げる](https://research.google/blog/on-device-diffusion-plugins-for-conditioned-text-to-image-generation/) のと同様に、DiffusionGemma はこのアプローチをテキストに応用しています。 - キャンバス：モデルはランダムなプレースホルダートークンで構成されたキャンバスから開始します。 - 反復的精密化：モデルは複数のパスを実行し、正しいトークンを確定させ、それらを文脈の手がかりとして残りの部分を精緻化します。 - 最終的な仕上げ：テキストは高品質な出力へと収束していきます。 モデルが生成中に段落全体を処理できるため、複雑なマークダウンフォーマットを完璧に閉じたり、コードをほぼリアルタイムで生成・レンダリングしたりするといった、新たなモデル挙動のパターンが可能になります。 ## 今日から始めよう - ウェイトをダウンロード：実験用モデルのウェイト（寛容な Apache 2.0 ライセンスの下で公開されています）を、今すぐ Hugging Face で入手できます。 - 統合して学ぶ：DiffusionGemma の開発者ガイドで詳しく学ぶか、あるいは「DiffusionGemma への視覚的ガイド」を深く読み込み、内部のメカニズムを理解してください。 - お気に入りの開発ツールを使用する：MLX、vLLM（Red Hat がサポートする統合機能付き）、Hugging Face Transformers を使用してモデルを効率的に提供します。迅速な実験のために、合成性を目的として設計されたモジュラー JAX ツールボックスである Hackable Diffusion を用いたファインチューニングチュートリアルを公開しています。Unsloth や NVIDIA NeMo を用いたファインチューニングも探索できます。また、llama.cpp に対する公式サポートもまもなく提供開始されます。 - 最適化されたパフォーマンスを体験：NVIDIA と協力して、そのハードウェアスタック全体で最適化を行い、コンシューマー向けセットアップ（GeForce RTX 5090 および 4090 GPU 向けに量子化済み）との互換性を確保するとともに、エンタープライズシステム（Hopper および Blackwell を用いた高度な NVFP4 カーネルによるもの）でも高性能を発揮します。これには、ローカルのデスクサイド展開用の NVIDIA DGX Spark や DGX Station、AI プロフェッショナル向けの RTX PRO も含まれます。NVFP4（4 ビット浮動小数点）のネイティブサポートにより計算スループットが加速され、モデルはほぼ損失のない精度でより高速に実行できます。 - 自分に合った方法で試す：専用 GPU を備えたデスクトップ上で実行するか、Gemini Enterprise Agent Platform Model Garden または NVIDIA NIM を通じてクラウド上で実行してください。

DiffusionGemma：テキスト生成が4倍高速化（5分読了）

背景や根拠まで確認しますか？

調べる

選ぶ

サイト