#training efficiency のAIニュース

10 年以上続く深層学習の訓練方法に終止符：サカナ・ラボがメモリ壁を突破する新手法を発表

サカナ・ラボは、ネットワーク全体をメモリ上に保持する必要がない新しい訓練法を開発した。同社は順次処理を拡散モデルのノイズ除去のように扱い、深層モデルの訓練に必要なメモリ量を大幅に削減することに成功した。