2件の記事
TLDR AI は、推論時に発生する反復的な退化現象を解消する「Antidoom 学習」手法を発表しました。この技術は問題のあるトークンを特定し、最終トークンの選好を最適化することで、反復ループをほぼ完全に排除します。
著者らは、大規模言語モデルの強化学習で既存手法が長期訓練時に崩壊する問題を解決するため、安定なスケーラブル強化学習手法「GSPO」を提案する。