ページを読み込み中…
ページを読み込み中…
10件の記事
コミュニティサイト「Lobsters」が、2018 年から計画していた MariaDB から SQLite へのデータベース移行を完了した。
AWS は Unsloth と共同で、16 ビット浮動小数点から 4 ビットへ精度を下げた量子化モデルを Amazon SageMaker AI で展開する手法を発表し、GPU コスト削減と推論速度向上を実現した。
Runway AI Engineering は、研究機関が未使用の推論用 GPU を有効活用できる仕組み「Borrowing the Night」を発表し、リソース効率化と研究支援の可能性を示した。
NVIDIA が、Kubernetes クラスター全体にわたる GPU の使用状況をリアルタイムで監視・可視化する機能を提供するツールを発表しました。
NVIDIA は、分散深層学習の GPU 間通信を最適化する「NCCL Inspector」と「Prometheus」を組み合わせたツールを発表し、トレーニング時の遅延問題を迅速に特定・解決する手法を提供した。