#emergent misalignment のAIニュース

広く持続的に有益なモデルに向けた強化学習（22 分読了）

TLDR AI は、現実的なシナリオにおける強化学習が、整列した行動や有益な特性を測定する数十のベンチマークで広範な改善を生み出すと報告しました。この成果は訓練ドメインを超えて一般化し、敵対的圧力下でも持続します。