vLLM、SkyRL の学習と推論の不一致を解消する「IsoExec」を発表

記事の3ポイント

1. 1

   トレーニングと推論のミスマッチ解消

   異なるエンジン間での浮動小数点演算順序の違いによる確率分布の不一致を、統一された実行契約とモデルで排除する仕組みを提供する。

2. 2

   実行契約とユニファイドモデルの実装

   vLLM と Megatron を組み合わせた SkyRL 環境で、ビットレベルでの整合性を保証する実行契約とカーネルを実装した。

3. 3

   並列性不変なカーネルの採用

   テンソル、エキスパート、シーケンス並列性のどの構成においても数値計算が一致するように設計されたカーネルを採用している。