ページを読み込み中…
ページを読み込み中…
9件の記事
NVIDIA は Python や C++ で実行する TensorRT エンジンビルドの可視化と中止機能を追加し、長時間かかる構築プロセスの管理を改善した。
NVIDIA は、TensorRT の新機能であるマルチデバイス推論サポートを活用し、複数の GPU にわたって AI 推論を効率的にスケーリングする手法を発表した。これにより大規模モデルの実行性能が向上する。
NVIDIA は、TensorRT を活用して FP8 チェックポイントを高性能な推論エンジンへ変換する手法を公開した。これにより、AI モデルの推論速度と効率性が向上する。
NVIDIA は、訓練済み AI モデルを実環境へ展開する際のボトルネック解消法を提示し、モデルのエクスポートや最適化プロセスにおける課題解決策を解説している。
NVIDIA は、Unreal Engine のニューラルネットワーク推論を RTX ランタイム上で NVIDIA TensorRT を活用して高速化する技術を発表した。これにより、リアルタイムアプリケーションの処理速度が向上する。