#大規模モデルのAIニュース

7件の記事

Databricks の元 AI 責任者、AI の電力使用量を 1,000 倍削減できると主張

Databricks の元 AI 責任者が、AI 技術の電力消費コストを最大で 1,000 倍削減できる可能性があると提唱している。

NVIDIA は、TensorRT の新機能であるマルチデバイス推論サポートを活用し、複数の GPU にわたって AI 推論を効率的にスケーリングする手法を発表した。これにより大規模モデルの実行性能が向上する。

AI 企業ニアンティック・スペイシャルは、ポケモン GO のプレイヤーが撮影した数十億枚の画像データを活用し、配送ロボットや軍事用ドローンの航法技術を開発している。

Cohereは、20億パラメータのオープンソース音声認識モデル「Cohere Transcribe」を発表した。同モデルはエッジデバイスでの展開を想定している。

NVIDIAがDynamo 1.0を発表し、大規模化する推論モデルを複数ノードで効率的に実行する本番環境向けソリューションを提供した。

NVIDIAが、大規模MoEモデルのトレーニングにおけるエキスパート並列通信の課題を解決するハイブリッド手法を提案した。

3140億パラメータのMixture-of-ExpertsモデルGrok-1の重みとアーキテクチャを公開しました。