Hugging Face、反復潜在推論を用いた学習モデル「BDH-CQ」を発表

記事の3ポイント

1. 1

   再帰的潜在推論の導入

   BDH-CQ は推論時に入力を継続的に更新し、中間推論を言語化せずに高次元潜在空間で反復計算を行う仕組みを採用している。

2. 2

   ARC-AGI-1 ベンチマークでの新記録

   1.5 億パラメータ構成が 29.5% の pass@2 を達成し、コストと精度のパレートフロンティアを突破して新たな最高水準を確立した。

3. 3

   低コストでの高性能推論

   1 タスクあたりの計算コストが 0.0007 ドルという極めて低い費用で、従来モデルを上回る精度を出す運用ポイントを見出した。