vLLM、AMD GPU で RL 学習を完全サポート

記事の3ポイント

1. 1

   vime の ROCm ネイティブサポート開始

   vLLM エコシステムの強化学習（RL）フレームワーク「vime」が AMD Instinct MI355X GPU でネイティブに動作するようになり、事前構築済みコンテナの提供によりソースからのビルド不要となった。

2. 2

   大規模 RL 学習に適したハードウェア特性

   RL 後学習はメモリ集約型であり、AMD Instinct MI300X（192GB）や MI355X（288GB）の大容量 HBM がトレーニング側と推論側のメモリ競合を緩和し、複雑なトポロジーを不要にする。

3. 3

   vime の 3 段階アーキテクチャの実証

   Megatron によるトレーニング、vLLM+Router による Rollout、Data Buffer による接続という vime の設計が ROCm 上でエンドツーエンドで検証済みである。