#試行錯誤型デコーディング のAIニュース

Apple、推論コスト削減の「Arbitrage」手法を公開

Apple Machine Learning は大規模言語モデルの推論効率向上のため、ドラフトとターゲットモデルを組み合わせた新手法「Arbitrage」を発表した。