Anthropic研究者が自己改善型 AI の仕組みを公開

記事の3ポイント

1. 1

   自動化されたアライメント改善の実証

   Anthropic の研究チームは、AI システムが10個の特定のアライメント失敗ベンチマークに対して、全体の性能を低下させることなく全ての項目で改善に成功したと発表した。

2. 2

   人間の研究プロセスの模倣

   Chen Yueh-Han 氏が率いるこのシステムは、文献検索から手法提案、30分間のモデル訓練までを繰り返す従来の研究アプローチを自動化し、効果的な手法のみを選択的に維持する。

3. 3

   コストと効率性の圧倒的差

   論文によると、この自動アライメント研究者（AAR）は1時間あたり約4ドルのコストで機能し、熟練した人間が提案する手法を平均6時間で上回る結果を示す一方、人間の指導による研究方向は性能向上に繋がらない。