Runway AI、研究用 GPU の遊休時間を活用する仕組みを公開

需要の日内変動特性

グローバルユーザー層を持つ同社でも、トラフィックは北米の勤務時間（午前中からピーク）に集中し、夜間にはピークの半分以下まで低下する。

動的リソース割当戦略

同社は需要サイクルに合わせて生産用ファームを調整し、夜間の余剰容量を研究イニシアチブへ貸し出す仕組みを採用している。

キューイング理論の活用

キューイング理論を用いて割当を最適化することで、生産用待機列の短縮と夜間の研究用 GPU 増加を両立させている。

軽量な容量コントローラーの構築

Blade Runner の主人公にちなんで「deckard」と名付けられた軽量な容量コントローラーが、リアルタイムでの再割り当てを実現している。このシステムは意図的に範囲を狭くし、ワークロード（Kubernetes 推論デプロイメントのレプリカ数）と計算リソース（クラウド GPU ノードプールのサイズ）のみを管理する。

時間軸に基づく事前計算スケジュール

割り当てを継続的に再決定するのではなく、コントローラーはそれぞれに事前計算されたスケジュールを持つ少数の「時間帯」に依存して動作する。これにより、朝のピーク需要に合わせて生産能力を増やし、その差額を夜間に研究用に解放する。