#モバイル推論 のAIニュース

小型モデルとモバイル端末のベンチマーク課題を分析

Artificial Analysis は、数億パラメータ規模の小型モデルがモバイルで動作する現状において、既存のベンチマークが量子化済みモデルや実行環境の詳細を反映せず評価が困難であることを指摘した。