#text generation のAIニュース

2件の記事

Nemotron Labs の拡散言語モデルによる光速テキスト生成への道

Hugging Face Blog は、Nemotron Labs が開発した拡散言語モデルを用いて、従来の手法よりも高速なテキスト生成を実現する技術について紹介している。

研究者らが、拡散言語モデルのテキスト生成において、トークンごとに安定化速度が異なる問題に対処する段階的改良規制手法を提案した。この手法は、均一な改良規則の代わりに、トークンごとに改良の必要性を動的に評価することで、冗長な処理を削減し、デコード速度を向上させる。