大規模・長文コンテキスト RL 後学習におけるオンラインドラフト共訓練の提案

記事の3ポイント

1. 1

   大規模・長文脈への拡張課題の解決

   標準的な因果コンテキスト並列（CP）実装ではサポートされていないブランチアテンションや、パイプライン並列（PP）ステージにまたがるターゲット特徴という2つの障壁を克服する。

2. 2

   CP 設計における新しいアプローチ

   ランクローカルのブランチアテンションと因果メインシーケンスアテンションを統合し、パケット化された負荷分散ジグザグリングアテンションを拡張することで実装した。

3. 3

   PP 設計における特徴量転送

   TapChannel を用いて中間ターゲット特徴量を別経路でステージ間転送し、パイプラインスケジュールへの影響を最小限に抑えた。