Together AI、生産向けGPUクラスターを強化

記事の3ポイント

1. 1

   パッシブヘルスチェックの導入

   既存のアクティブチェックに加え、実行中のワークロードやログを監視するパッシブヘルスチェックを導入し、GPU のバス脱落やサーマルスロットリングなどの障害をリアルタイムで検知する。

2. 2

   自動修復とノード管理

   障害発生時に自動的にノードを修復・再起動する機能や、Slurm によるノードのドレイン処理を実装し、ジョブのダウンタイムを最小化する。

3. 3

   運用制御機能の強化

   クラスター詳細ビューの追加、外部 OIDC 認証のサポート、カスタム起動スクリプトの実行、および受入テストオプトアウト機能により、組織規模拡大に対応する柔軟な管理を可能にする。