分布の視点から見るSFT、RL、およびオンポリシー蒸留

#LLM #Post-Training #Reinforcement Learning #Model Distillation #Catastrophic Forgetting

整理・翻訳:ainew.jp 編集システムAIによる自動処理作り方と限界

本文の状態

日本語全文あり

詳細モードで約1分の本文を読めます。

同じ出来事の情報源

この情報源を基点に整理

TLDR AI

30秒でわかる

研究チームは、SFT（教師あり微調整）、RL（強化学習）、オンポリシー蒸留という異なる事後学習手法がモデルの確率分布に与える影響を分析しました。その結果、RL は既存能力の忘却リスクを抑えつつタスク性能を向上させる一方、SFT は外部データへの引き寄せにより既存能力を損なう恐れがあることが示されました。また、オンポリシー蒸留は教師モデルを上回る可能性があり、サンプリングデータの重要性が確認されました。