Google DeepMind、Gemma 4 を改修しテキスト拡散モデル「DiffusionGemma」を公開
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
The Decoder
Google DeepMind は、既存の Gemma 4 を改修してテキスト拡散モデル「DiffusionGemma」を構築し、学習コストを元の 10% 未満に抑えつつ、1 秒あたり約 1,500 トークンの並列生成を実現したと発表した。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るAI深層分析を開く2026年8月9日 19:35
AI深層分析
キーポイント
低コストでのモデル改修
Google DeepMind はゼロから学習するのではなく、既存の Gemma 4 を拡散モデルとして再構築し、トレーニング予算を元の 10% 未満に削減した。
並列生成による高速化
DiffusionGemma はトークンを逐次ではなく並列で生成するため、256 トークンを同時に処理し、推論速度を約 1,500 トークン/秒に引き上げた。
ベンチマークでの性能差
生成速度は向上したものの、特に推論タスクにおいて、元の自己回帰モデルと比較して品質が劣る結果となった。
重要な引用
Instead of training a new model from scratch, Google DeepMind retrofitted Gemma 4 into a diffusion model using less than 10 percent of the original training budget.
DiffusionGemma generates 256 tokens in parallel instead of one at a time, hitting about 1,500 tokens per second.
編集コメントを表示
編集コメント
DiffusionGemma は、LLM の学習コスト削減と推論速度向上という二つの課題に対して、既存モデルの流用という実用的な解決策を提示した。しかし、推論タスクにおける精度の壁が残っている点は、今後の技術発展において重要な検討課題となるだろう。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Google DeepMind は、ゼロから新しいモデルを訓練するのではなく、Gemma 4 を流用して拡散モデル（diffusion model）へと改造しました。その際、元のモデルの学習コストの 10% 未満で済ませています。DiffusionGemma はトークンを一度に一つ生成するのではなく、256 トークンを並列で処理できるため、秒間約 1,500 トークンの高速な生成を実現しました。
ただし、ベンチマークテストでは依然として元の自己回帰モデル（autoregressive model）には及びません。特に推論能力を要するタスクにおいて、その差は顕著です。
原文を表示
Instead of training a new model from scratch, Google DeepMind retrofitted Gemma 4 into a diffusion model using less than 10 percent of the original training budget. DiffusionGemma generates 256 tokens in parallel instead of one at a time, hitting about 1,500 tokens per second. Quality still trails the original autoregressive model in benchmarks, especially on reasoning tasks.
The article Google's DiffusionGemma proves you don't need to train from scratch to build a text diffusion model appeared first on The Decoder.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み