#freetoken のAIニュース

UC バークレーと MIT、MoE モデルを一般ハードウェアで動かす推論エンジン「FreeToken」公開

UC バークレーと MIT の研究者らが、Databricks 創設者らも共著したオープンソース推論エンジン「FreeToken」を発表し、最先端の MoE モデルを消費者向けハードウェア上で実行可能にする技術を示した。