個人エージェントの再帰的自己改善基盤を検証するベンチマーク「PAST-Bench」を公開
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Hugging Face Daily Papers
Hugging Face Daily Papers は、パーソナル AI エージェントの継続的学習能力を評価するベンチマーク PAST-Bench と、その性能を向上させる Hermes+ の新手法を発表した。
AI深層分析を開く2026年8月5日 17:26
AI深層分析
キーポイント
PAST-Bench ベンチマークの導入
エージェントが蓄積した経験を実際の能力向上に転換できるかを体系的に検証するために、26 シナリオと 204 エピソードからなる PAST-Bench が開発された。
改善効果の不均一性と経路検証
7 つの基盤モデルと 4 つのエージェントフレームワークでの評価により、全体的な改善は確認されるが、その根拠となる保存・検索・更新の経路が明確でないケースも存在することが判明した。
Hermes+ の開発と効果
検証結果に基づき Hermes に 5 つの介入を追加した Hermes+ が開発され、特に状態の更新が必要なタスクにおいて平均的な改善率と経路証拠が向上した。
重要な引用
Yet whether retained experience actually improves them over time has not been systematically tested.
Agents with the same headline gain can differ markedly in whether that gain is supported by evidence of the intended pathway.
Hermes+ raises the average gain from retained experience and provides clearer pathway evidence.
編集コメントを表示
編集コメント
この研究は、AI エージェントが単に情報を蓄積するだけでなく、それをどう処理して進化させるかという核心的な課題に取り組んでいる。実用的な評価指標の確立により、今後のエージェント開発の方向性を示す重要な一歩となる。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
自己改善を繰り返すには、エージェントが蓄積した経験を基に将来の行動を向上させる必要があります。パーソナル AI エージェントは、セッションを超えて嗜好やタスク履歴、ツールの運用手順、習得したスキルを保持する点で、この能力を研究するための具体的な環境を提供します。しかし、保持された経験が実際に時間をかけてエージェントを改善するのかどうかについては、体系的な検証が行われていませんでした。
そこで私たちは PAST-Bench を導入しました。これは「保持された経験が本当に改善をもたらすのか」という問いを切り分けて検証するために設計されたベンチマークです。各エージェントは、保持された経験をオン・オフする条件で整えられた一連の新しいセッションタスクを順番に実行します。このベンチマークは、メモリ、手順の再利用、情報収集、更新の 4 つのカテゴリにまたがる 26 のシナリオと 204 エピソードを含んでいます。
私たちは、後続タスクでの性能向上度合いと、その向上が意図された「保存・取得・更新」の経路に沿って生じているかを報告します。7 つの基盤モデルと 4 つのエージェントフレームワークにわたる評価では、改善は確かに存在するものの、能力ごとにばらつきがあることが明らかになりました。同じ程度の性能向上を示すエージェントでも、その向上が意図された経路によるものかどうかを裏付ける証拠の有無には大きな差が見られます。
これらの知見に基づき、私たちは Hermes+ を開発しました。これは既存の Hermes に、エージェントループの各段階に 5 つの targeted な介入を追加したものです。Hermes+ は保持された経験からの平均的な性能向上を引き上げ、意図された経路による改善のエビデンスをより明確に示します。特に「古くなった状態を新しい状態に置き換える必要があるタスク」において最も顕著な改善が見られましたが、その効果は依然として能力やモデルに依存するものです。
PAST-Bench と Hermes+ を組み合わせることで、経験の蓄積から体系的な改善へと至る持続型エージェントの研究に対する評価・診断基盤が提供されます。コード:https://github.com/Gen-Verse/PAST-Bench
原文を表示
Recursive self-improvement requires agents to turn accumulated experience into better future behavior. Personal AI agents offer a concrete setting for studying this capability because they retain preferences, task histories, tool routines, and learned skills across sessions. Yet whether retained experience actually improves them over time has not been systematically tested. We introduce PAST-Bench, a benchmark designed to isolate this question. Each agent runs through ordered sequences of fresh-session tasks under matched conditions that turn retained experience on and off. It spans 26 scenarios and 204 episodes across memory, procedural reuse, information gathering, and update. We report both later-task gains and whether those gains follow the intended save, retrieve, and update pathway. Across seven base models and four agent frameworks, improvement is real but uneven across capabilities. Agents with the same headline gain can differ markedly in whether that gain is supported by evidence of the intended pathway. Guided by these findings, we develop Hermes+, which extends Hermes with five targeted interventions across stages of the agent loop. Hermes+ raises the average gain from retained experience and provides clearer pathway evidence, with its strongest improvement on tasks requiring outdated state to be replaced, although the effect remains capability- and model-dependent. Together, PAST-Bench and Hermes+ provide an evaluation and diagnostic foundation for studying how persistent agents can progress from retaining experience to systematically improving through it. Code: https://github.com/Gen-Verse/PAST-Bench
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み