#fp8 のAIニュース

1件の記事

NVIDIA モデルオプティマイザーを用いたポストトレーニング量子化：モデル量子化の手法

NVIDIA は、同社のモデルオプティマイザーツールを使用して、学習済みモデルを効率的に量子化する手法を公開した。これにより、AI 推論の速度向上とリソース削減が可能となる。