ページを読み込み中…
ページを読み込み中…
23件の記事
AWS は顧客苦待たずに ML モデル品質を追跡する推論メタモニタリングを SageMaker エンドポイント向けに提供し、QuickSight で可視化する方法を公開した。
AWSは、カスタムCloudWatchダッシュボードを使用してAmazon SageMaker Pipelinesを複数のアカウント間で監視する方法を発表した。これにより、分散された機械学習ワークロードの可視性が向上する。
AWS は、SageMaker HyperPod で大規模言語モデルの推論効率を向上させるため、プリフィル処理とトークン生成（デコード）を別々の GPU プールで実行する「Disaggregated Prefill and Decode」技術を発表した。これにより、長いプロンプトによる並列リクエストの遅延が解消される。
Hugging Face が、ユーザーがワンクリックでプラットフォームを Amazon SageMaker Studio に切り替えられる機能を導入した。これにより、モデルのデプロイと管理が容易になる。