#recurrent neural networks のAIニュース

再帰型トランスフォーマー：より深い実効深度と効率的なデコーディング

研究者らが、標準的なトランスフォーマーの「時間的浅さ」を克服する新アーキテクチャ「再帰型トランスフォーマー」を発表した。層ごとの再帰性により、各層が内部メモリを継続的に更新し、大規模な層スタックなしで複雑な反復推論を実現する。