#container caching のAIニュース

Amazon SageMaker AI にコンテナキャッシュ機能を導入し、モデルのスケーリングを高速化

AWS は生成 AI モデルのスケールアウト時にエンドツーエンドのレイテンシを最大 2 倍短縮する「コンテナイメージキャッシング」機能を Amazon SageMaker AI 推論に追加した。