#netflix ai engineering のAIニュース

Netflix、自社開発の LLM サービング基盤と設計判断を公開

Netflix の AI プラットフォームチームは、外部 API に依存せずモデル展開から推論まで自社の既存環境で完結させる独自 LLM サービング基盤の構築過程と、エンジン選定などの技術的トレードオフについて報告した。