NVIDIA、RAG向けオープン埋め込みモデル「Nemotron 3 Embed」発表

記事の3ポイント

1. 1

   高性能なオープンソースモデル群の公開

   NVIDIA は Transformer エンコーダーベースの「Nemotron 3 Embed」コレクションを公開し、精度重視の 8B モデルから Blackwell 最適化の 4 ビット版まで 3 つのチェックポイントを提供する。

2. 2

   RAG ベンチマークでの首位獲得

   Nemotron-3-Embed-8B-BF16 は 2026 年 7 月 17 日時点の Retrieval Embedding Benchmark (RTEB) で全 16 タスクにおいて平均 NDCG@10 が 78.46 と首位を記録した。

3. 3

   圧縮パイプラインによる小モデル開発

   1B モデルは直接訓練せず、3B モデルを NAS で剪定し、8B モデルから蒸留を行うことで構築され、NVFP4 化でも精度の 99.5% を維持している。