読み込み中…
1件の記事
Netflix は既存インフラで LLM 推論を運用する方法を公開した。エンジン選定、モデルパッケージ化、API 設計、デプロイ戦略、出力制約、実負荷でのトレードオフについて詳述している。