#anyscale のAIニュース

8件の記事

Anyscale、企業知能の確立に向けた学習ループの重要性を提唱

Anyscale は、企業がトークン数の最大化から差別化された知能構築へ戦略を転換し、自社の知能を確立することが競争優位性の源泉となる道筋として「学習ループ」の重要性を提示した。

Anyscale は強化学習フレームワーク SkyRL に FP8 加速機能を追加し、トレーニングとロールアウト間でポリシーの一貫性を保ちながら、エンドツーエンドのステップ時間を最大 23% 短縮したことを発表した。

Anyscale Engineering は大規模 LLM サービングで KV キャッシュ再使用の限界を超え、Ray Serve LLM を用いたトークン負荷意識型の最適化手法を提案した。

Anyscale は Ray Serve の非同期推論機能を用いて、メッセージキューと自動スケーリングを備えた動画インデックス化パイプラインを実装し、負荷下での性能を管理型代替サービスと比較する実践例を公開した。