ページを読み込み中…
ページを読み込み中…
3件の記事
NVIDIA は、自社のモデル最適化ツール「NVIDIA Model Optimizer」を活用し、高精度な推論を可能にする「Nemotron 3 Ultra NVFP4」という新しいモデルチェックポイントを生成する手法を発表しました。
NVIDIA は、TensorRT を活用して FP8 チェックポイントを高性能な推論エンジンへ変換する手法を公開した。これにより、AI モデルの推論速度と効率性が向上する。
NVIDIA は、同社のモデルオプティマイザーツールを使用して、学習済みモデルを効率的に量子化する手法を公開した。これにより、AI 推論の速度向上とリソース削減が可能となる。