#cloudwatch のAIニュース

8件の記事

Amazon Bedrock上のCodex可視化にOpenTelemetryとCloudWatch

AWSは、エンジニアリングチームでのコーディングエージェント導入拡大に伴い、Codexの採用状況や消費量、信頼性を管理・スケーリングするために、OpenTelemetryおよびAmazon CloudWatchによる可視化機能を構築した。

AWS は Amazon Bedrock AgentCore の観測機能について発表し、プロトタイプから本番環境へ移行した際の問題である応答速度の低下やメモリ増大といったパフォーマンス課題への対応策を示した。

AWSは、カスタムCloudWatchダッシュボードを使用してAmazon SageMaker Pipelinesを複数のアカウント間で監視する方法を発表した。これにより、分散された機械学習ワークロードの可視性が向上する。

AWS は、大規模な生成 AI 推論エンドポイントの P99 レイテンシ急上昇などのトラブルを GPU メモリ圧力や KV キャッシュ飽和などから特定できるよう、CloudWatch に SageMaker の詳細メトリクスとインサイトダッシュボードを追加した。