METR、AI の再帰的自己改善に関する経済モデル論文を公開

記事の3ポイント

1. 1

   RSI定義の再整理と焦点化

   研究者らは「Recursive Self-Improvement (RSI)」という用語の曖昧さを解消し、技術的な定義に固執せず、フィードバック効果の強さと「自己持続的加速」の可能性に焦点を当てる方針を示した。

2. 2

   能力加速の不確実性とボトルネック

   モデルはデータ不足や訓練・推論計算リソースの制約、アルゴリズム固有の限界などにより、能力の加速が止まる可能性を指摘したが、これらの証拠は決定的ではないと分析している。

3. 3

   研究機関へのデータ公開要望

   METRは、AI開発ラボに対し、AIがAIの研究開発に与える影響に関するより詳細なデータを公開するよう求め、具体的な「ウィッシュリスト」を提示した。