ページを読み込み中…
ページを読み込み中…
14件の記事
Nvidia は有効パラメータ数 36 億の「Nemotron 3.5 Lightning」を公開し、小型ながら同等性能と最速処理を実現した。
Hugging Face は、オーディオ・ビジュアル理解タスクにおける計算オーバーヘッドを削減するため、構造的に重要な情報を保持しつつトークンを圧縮する新手法「OmniPack」を発表した。
固定 40 億パラメータの軽量マルチモーダルモデル「Mage」が公開され、限られたハードウェアでも学習・展開が可能ながら大規模システムと競合する性能を示した。
通義実験室の智能計算チームは、大規模言語モデルの推論チェーンにおいて重要な2%のトークンを特定・最適化する新アルゴリズムFIPOを発表した。これにより、従来の強化学習が全てのトークンを均等に扱う問題を解決し、推論効率を向上させた。
GoogleがAIの作業メモリを最大6倍圧縮する新アルゴリズム「TurboQuant」を発表したが、現時点では実験段階である。