プライム・インテレクトが「Verifiers v1」をリリース：エージェント型強化学習のトレーニングと評価のためのコンポーザブルなタスクセット、ハルネス、ランタイムを提供
Prime Intellect は、アジェンティック RL の訓練と評価を大規模化するために、環境モデルをタスクセット、ハルネス、ランタイムの 3 つに分割する「verifiers v1」をリリースした。
キーポイント
アーキテクチャのコンポーザビリティ向上
従来の bundled な環境モデルから脱却し、「タスクセット（作業定義）」「ハルネス（解決策）」「ランタイム（実行環境）」を独立したコンポーネントとして再設計し、相互運用性を高めた。
大規模トレーニングと評価の最適化
インターセプションサーバーによるトレース記録やリワードハック対策機能、および 32 ロールアウトをデフォルトとするマルチプレクシングにより、スケーラブルなアジェンティック RL の実現を図った。
LLM プロトコルの標準化と互換性
OpenAI Chat Completions/Responses や Anthropic Messages といった異なる LLM プロトコルを「ダイアレクトアダプター」で統一フォーマットに変換し、評価ロジックをエージェント実装から独立させた。
環境の分離と再利用性
verifiers v1 は環境をタスクセット（何）、ハーネス（どう）、ランタイム（どこ）に分割し、Harbor データセットや既存のハーネスを再実装なしで再利用可能にしました。
効率的なトレース形式とトレーニング
線形メッセージグラフによるトレースが採用され、長期的なホライズンのトレーニングが可能となり、GLM-4.5-Air での安定したアジェンティック RL トレーニングが実証されました。
最小限のコードで実行可能
Python クラス定義と TOML 設定ファイルのみでタスクセットを構築し、CLI を介して即座に評価やトレーニングを実行できる簡潔なワークフローを提供しています。
影響分析・編集コメントを表示
影響分析
このリリースは、アジェンティック AI の開発における環境構築の複雑さを解消し、実験の再現性とスケーラビリティを劇的に向上させる画期的な進展です。特に、リワードハック対策やトレース管理の最適化により、大規模な RL 訓練の実用性が一段と高まり、次世代エージェントの開発スピードが加速すると期待されます。
編集コメント
アジェンティック AI の開発基盤において、環境の「結合」から「脱結合」へという重要なパラダイムシフトを示す記事です。特に大規模学習時のリソース効率化と評価の信頼性向上に直結する技術的改善が盛り込まれており、実務者にとって即戦力となる情報源と言えます。
Prime Intellect が Verifiers v1 をリリースしました。これは、コードエージェントにツール利用やコンパクション、サブエージェント機能を持たせた現代的な評価を可能にするために、コア部分を再構築したものです。
Verifiers v1 とは何か？
まず、Verifiers の正体を確認しましょう。これは Prime Intellect が提供する、エージェント型強化学習と評価のための環境スタックです。従来の環境では、データ、エージェントロジック、インフラストラクチャが一つのバンドルとしてまとめられていました。一方、v1 ではこれらを 3 つの独立したコンポーネントに分解し、自由に組み合わせられるようにしています。
「タスクセット（taskset）」は作業内容を定義します。具体的にはデータ、ツール、評価スコアリングが含まれます。「ハネス（harness）」はそのタスクを実行してロールアウトを生成する部分です。ReAct ループや CLI エージェント、あるいは独自に作成したロジックなどがこれに該当します。そして、そのロールアウトはローカル環境かサンドボックス内のランタイムで実行されます。これらのコンポーネントが独立しているため、任意のタスクセットを互換性のあるあらゆるハネスで実行することが可能になります。
アーキテクチャの仕組み
各コンポーネントが定義された上で、次はそれらがどう連携するかです。中核となるのは Verifiers が管理する「インターセプションサーバー」です。これはエージェントのランタイムと推論サーバー（inference server）の間に位置し、推論へのリクエストをプロキシして応答を受け取ります。同時に、実行トレースの記録やサンプリングパラメータの設定、ツールからの応答書き換えも担当します。この応答書き換え機能は、学習中の報酬ハック（reward hacks）を防ぐために重要な役割を果たしています。
スケーラビリティを考慮し、各サーバーは一定数のロールアウト（デフォルト 32）を多重化して処理します。プールは観測された並行度に応じて弾力的にスケールします。また、サーバー側にはこれらのリクエストを中継するクライアントも用意されています。
評価時には「EvalClient」が盲点の HTTP プロキシとして機能し、トレーニング時には「TrainClient」がレンダラーをラップして、忠実なトークンベースの RL 学習を実現します。
ハルネス（harness）はそれぞれ異なる方言（仕様）を持つため、現在は 3 つの形式に対応しています。具体的には OpenAI Chat Completions、OpenAI Responses、Anthropic Messages です。各ワイヤーフォーマットを標準的な vf.types に正規化するアダプターが機能するため、採点ロジックはテスト対象のエージェントに依存しません。
v0 と v1 の比較
これらの変更により、v1 は v0 から明確に区別されます。
| 項目 | verifiers v0 | verifiers v1 |
|---|---|---|
| 環境モデル | データ、ロジック、インフラが束ねられている | タスクセット、ハルネス、ランタイムに分割されている |
| トレースの成長 | ターン数に対して二次関数的（重複ペア） | ユニークノード数に対して線形 |
| 非線形ロールアウト | 線形と仮定されていた | ブランチによるネイティブな圧縮とサブエージェントをサポート |
| ランタイム処理 | ビルダーがライフサイクルを管理 | フレームワークが管理する実行/読み取り/書き込み |
| ハルネスの結合 | 環境に密結合 | 互換性のある任意のハルネス（Codex, Terminus 2 など）を使用可能 |
| トレーニングデータ | prime-rl のために再計算される | トレースから直接消費される |
使用例
必ず JSON 形式で返してください。translation フィールドのみ。他のフィールドは一切追加しないこと — 余計なフィールドを書こうとして本文がトークン上限で打ち切られる事故を防ぐため:
{"translation": "リライト全文"}
アーキテクチャの概要は理解いただけたでしょうか。次は、実際のチームがこの仕組みをどう活用するかを見てみましょう。
例えば、Codex 上で Terminal-Bench 2 を実行する際、Nemotron 3 Ultra を利用できます。同様に、Harbor のデータセットを再利用すれば、報酬ロジックの再記述は不要です。Prime Intellect は Terminal Bench 2 を v1 にポートしましたが、必要だったのは小さなクラス定義のみでした。内部テストでは、verifiers が Harbor と同じタスクで同等のパフォーマンスを発揮しました。Harbor は初めて完全サポートされたサードパーティ形式であり、NeMo Gym と OpenEnv は現在アルファ版としてサポートされています。
トレーニング側でも、同じ環境をそのまま prime-rl に接続できます。長さペナルティの比較実験では、GLM-4.5-Air を 6 つの H200 ノード上で ScaleSWE で訓練しました。この実行には 2 日かかり、SWE-Bench-Verified での評価結果は安定したエージェントトレーニングを示しています。
最小限のタスクセットと起動
各実行は、ハルネスに依存しないデータとスコアリングを定義するタスクセットから始まります：
Copy CodeCopiedUse a different Browser
import verifiers.v1 as vf
class AdditionData(vf.TaskData):
answer: int
class AdditionTask(vf.Task[AdditionData]):
@vf.reward
async def exact_match(self, trace: vf.Trace) -> float:
return float(trace.last_reply == str(self.data.answer))
class AdditionTaskset(vf.Taskset[AdditionTask, vf.TasksetConfig]):
def load(self) -> list[AdditionTask]:
return [
AdditionTask(
AdditionData(idx=i, prompt=f"What is {i} + {i}?", answer=2 * i),
self.config.task,
)
for i in range(100)
]
__all__ = ["AdditionTaskset"]
任意のタスクセットは、TOML 設定と CLI を介して選択されたハネス（実行環境）の下で実行されます。
model = "nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B"
[taskset]
id = "primeintellect/terminal-bench-2"
[harness]
id = "codex"
version = "0.116.0"実行コマンドは以下の通りです。
uv run eval @ path/to/config.toml主なポイント
verifiers v1 は、環境を「タスクセット（何を行うか）」「ハネス（どう行うか）」「ランタイム（どこで実行するか）」の 3 つに分割します。
verifiers が管理するインターセプションサーバーが、ハネスと推論リクエストのプロキシとして機能し、その場でトレースを記録します。また、従来の v0 で採用されていた二次関数的なプロンプト・コンプリートペアの代わりに、線形メッセージグラフによるトレースを採用したことで、長期にわたる学習が可能になりました。
本バージョンは、prime-rl のトレーニング機能をフルサポートしており、レガシーなコードパスはすでに凍結されています。Codex や Terminus 2 などのデータセットやハネスも、特別な設定なしでそのまま利用可能です。
詳細については「技術的な詳細」をご覧ください。また、Twitter でフォローしていただくと幸いです。15 万人以上の ML エンジニアが参加する当社の SubReddit への参加や、ニュースレターの購読もお忘れなく。Telegram ユーザーの方も、今なら Telegram チャンネルに参加できます。
GitHub リポジトリの宣伝、Hugging Face ページの紹介、製品リリース、ウェビナーなどのご協力をご希望の場合は、ぜひご連絡ください。
※本記事は MarkTechPost にて公開された「Prime Intellect Releases Verifiers v1: Composable Tasksets, Harnesses, and Runtimes for Agentic RL Training and Evaluations」を基にしています。
原文を表示
Prime Intellect launched verifiers 0.2.0. It previews a rewritten core, shipped under the new verifiers.v1 namespace. Modern evaluations now run coding agents with tools, compaction, and subagents. Accordingly, v1 rebuilds environments to run these agentic workloads at scale.
What is verifiers v1?
First, consider what verifiers is: Prime Intellect’s environment stack for agentic reinforcement learning and evaluations. Previously, an environment bundled its data, agent logic, and infrastructure together. In contrast, v1 breaks that bundle into three composable pieces.
A taskset defines the work: the data, tools, and scoring. A harness solves the task and produces a rollout. That harness can be a ReAct loop, a CLI agent, or your own. The rollout then runs inside a runtime, either local or in a sandbox. Because the pieces decouple, any taskset runs under any compatible harness.
How the Architecture Works?
With those pieces defined, the next question is how they communicate. The central piece is the verifiers-managed interception server. It sits between the agent’s runtime and the inference server. Specifically, it proxies requests to, and responses from, inference. Meanwhile, it records the trace, sets sampling parameters, and can rewrite tool responses. That rewriting helps mitigate reward hacks during training.
For scale, each server multiplexes a constant number of rollouts, defaulting to 32. A pool then scales elastically with observed concurrency. The server also owns a client that relays those requests. During evaluation, an EvalClient acts as a blind HTTP proxy. During training, a TrainClient wraps renderers for faithful token-in RL training.
Because harnesses speak different dialects, verifiers supports three as of now. These are OpenAI Chat Completions, OpenAI Responses, and Anthropic Messages. A dialect adapter normalizes each wire format into canonical vf.types. Consequently, your scoring logic stays independent of the agent tested.
(function(){
window.addEventListener("message",function(e){
if(e.data && e.data.vfv1Height){
var f=document.getElementById("vfv1-frame");
if(f){ f.style.height=e.data.vfv1Height+"px"; }
}
});
})();
v0 vs v1: A Quick Comparison
These changes separate v1 from v0.
Aspectverifiers v0verifiers v1
Environment modelData, logic, and infra bundled togetherSplit into taskset, harness, runtime
Trace growthQuadratic in turns (repeated pairs)Linear in turns (unique nodes)
Non-linear rolloutsAssumed linearNative compaction and subagents via branches
Runtime handlingBuilder manages lifecycleFramework-managed run / read / write
Harness couplingTightly coupled to the environmentAny compatible harness (Codex, Terminus 2)
Training dataRecomputed for prime-rlConsumed directly from the trace
Use Cases with Examples
With the architecture clear, consider how teams use it. For example, you can run Nemotron 3 Ultra on Terminal-Bench 2 under Codex.
Similarly, teams can reuse Harbor datasets without rewriting reward logic. Prime Intellect ported Terminal Bench 2 into v1 with only a small class. In its internal testing, verifiers matched Harbor’s performance on the same tasks. Harbor is the first fully-supported third-party format; NeMo Gym and OpenEnv have alpha support.
On the training side, the same environments plug into prime-rl directly. In a length-penalty ablation, GLM-4.5-Air trained on ScaleSWE across six H200 nodes. That run took two days and evaluated on SWE-Bench-Verified, showing stable agentic training.
A Minimal Taskset and Launch
Each run starts from a taskset that defines data and scoring, independent of any harness:
Copy CodeCopiedUse a different Browser
import verifiers.v1 as vf
class AdditionData(vf.TaskData):
answer: int
class AdditionTask(vf.Task[AdditionData]):
@vf.reward
async def exact_match(self, trace: vf.Trace) -> float:
return float(trace.last_reply == str(self.data.answer))
class AdditionTaskset(vf.Taskset[AdditionTask, vf.TasksetConfig]):
def load(self) -> list[AdditionTask]:
return [
AdditionTask(
AdditionData(idx=i, prompt=f"What is {i} + {i}?", answer=2 * i),
self.config.task,
)
for i in range(100)
]
__all__ = ["AdditionTaskset"]
Any taskset then runs under a chosen harness via TOML and the CLI:
Copy CodeCopiedUse a different Browser
model = "nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B"
[taskset]
id = "primeintellect/terminal-bench-2"
[harness]
id = "codex"
version = "0.116.0"
Copy CodeCopiedUse a different Browser
uv run eval @ path/to/config.toml
Key Takeaways
verifiers v1 splits an environment into a taskset (what), a harness (how), and a runtime (where).
A verifiers-managed interception server proxies harness–inference requests and records traces on the fly.
A linear message-graph trace replaces v0’s quadratic prompt-completion pairs, enabling long-horizon training.
It ships with full prime-rl training support; the legacy code path is now frozen.
Harbor datasets and harnesses like Codex and Terminus 2 work out of the box.
Check out the Technical details. Also, feel free to follow us on Twitter and don’t forget to join our 150k+ML SubReddit and Subscribe to our Newsletter. Wait! are you on telegram? now you can join us on telegram as well.
Need to partner with us for promoting your GitHub Repo OR Hugging Face Page OR Product Release OR Webinar etc.? Connect with us
The post Prime Intellect Releases Verifiers v1: Composable Tasksets, Harnesses, and Runtimes for Agentic RL Training and Evaluations appeared first on MarkTechPost.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み