#gradient interference のAIニュース

大規模言語モデルの多タスク学習における SFT と RL の分析

SFT は多段階トレーニングで深刻な競合を起こすが、RL はパラメータ更新が疎で直交するため安定して共存できる。