ページを読み込み中…
ページを読み込み中…
7件の記事
Anyscale は Google との連携により、Ray 2.58 から gVisor を基盤とした実験的なネイティブサンドボックスライブラリを公開し、大規模な孤立環境でのモデル生成コード実行を可能にした。
Anyscale は、バッチ推論やデータパイプラインなど多様な AI ワークロードにおいて、Ray Core が 1 万ノード規模のクラスターまで拡張可能であることを示した。
Anyscale は大規模言語モデル（LLM）の強化学習において、RDMA を活用した高速かつ容易な重み同期を実現する「Ray Direct Transport（RDT）」を発表し、従来の実装比で最大 6 倍の転送性能向上を示した。
Nscale が Anyscale を買収し、AI コンピュートスタックの一部を自社で所有する方針を示した。
Google Developers AIは、RayのServe、Data、Trainといった高レベルライブラリが、TPUスライス上でのAIワークロード実行における複雑さを抽象化する仕組みについて解説した。
TLDR AI は、大規模言語モデルの強化学習後学習を容易に構築・再現・運用するためのフレームワーク「Miles」を紹介した。このツールは、分散システム化が進む大規模 LLM 向けに、トレーニングの構成可能性と拡張性を高めつつ、研究者やインフラチームがコアトレーナーをカスタマイズできる設計となっている。
マイクロソフトのAzure Kubernetes Serviceチームが、Anyscaleの管理対象Rayサービスを大規模に実行するためのガイダンスを公開した。GPU容量制限、分散MLストレージ、認証期限切れ問題の3点に焦点を当てている。