#compute optimization のAIニュース

適応的思考：大規模言語モデルは潜在空間での思考の必要性を認識している

研究チームは、推論時の計算コスト最適化に向け、クエリの複雑度に応じて大規模言語モデルが潜在的な思考（中間推論）を行うタイミングを自己一貫性手法で制御する新アプローチを発表した。