#エッジ推論 のAIニュース

ハイブリッド LLM の GDN 層、4 ビット量子化でも安定動作を検証

Gated DeltaNet を含むハイブリッド型 27B LLM の全線形層を NVFP4 で量子化したモデルが、長期コンテキストでも安定して動作することを実証した。