継続学習の新たなパラダイム：パラメータ中心から多様な更新手法へ

記事の3ポイント

1. 1

   パラメータ中心からシステムレベルへの転換

   従来の継続的学習がパラメータの更新やアーキテクチャ設計に焦点を当てていたのに対し、現在のパラダイムはメモリやスキルライブラリなどの外部コンポーネントを含め、モデル能力の進化的境界を広げている。

2. 2

   学習の三軸分析フレームワーク

   学習が「いつ（When）」（事前・事後・推論時）、「どのように（How）」（オンポリシー・オフポリシー・勾配最適化外）、「どこで（Where）」（内部パラメータ内・外部構造制約内）行われるかを定義する三軸フレームワークを提示している。

3. 3

   推論時学習とオンポリシー学習の台頭

   従来の訓練フェーズに限定されていた継続的学習が、推論時のトレーニング（test-time training）やオンポリシー学習へと拡張され、動的な環境適応が可能になっている。