快手 KAT-Coder-V2.5、実行環境対応のコーディング AI を公開

快手 KwaikAT チームは、KAT-Coder-V2.5 を発表しました。このモデルは単発のコードを出力するのではなく、実際の実行可能なリポジトリ内で動作するように訓練されたコーディングモデルです。

提供されているモデルは StreamLake から利用可能です。また、Apache-2.0 ライセンスの下で、オープンウェイト版である KAT-Coder-V2.5-Dev が Hugging Face で個別にリリースされています。

AutoBuilder：実際に意図したテストを実行する環境

本研究では、検証可能なタスクを 3 つの要素（トリプレット）として定義しています。具体的には、正確なタスク説明、実行可能なリポジトリ環境、そして検証用テストセットです。パッチが正しいと判定されるのは、これらすべての条件を満たした場合に限られます。

タスクは SWE-bench の系譜に従い、実際のプルリクエストやコミットから抽出されます。マージされたコード変更が「正解の修正（ゴールデンパッチ）」となり、それに伴うテストの変更が「テスト用パッチ」として機能します。生の issue 記述仕様は採用せず、代わりに説明を 3 つの部分に再構成します。1 つ目はゴールデンパッチに基づいた問題文、2 つ目はテストパッチから導き出された要件、そして両方から推測されるインターフェース制約です。その後、曖昧さや不完全さ、不十分な仕様、内部的な矛盾があるものはすべて排除する明確性チェックが行われます。

AutoBuilder は環境側の処理を担当します。ビルドエージェントがリポジトリを解析し、依存関係をインストールしてテストを実行するための設定スクリプトを作成します。検証エージェントは、このスクリプトを隔離されたサンドボックス内で実行します。

この検証ルールこそが最も興味深い点です。単に終了コードやログパターンを grep するのではなく、構造化されたテストフレームワークの出力を解析します。環境が採用されるのは、期待されるテストの 90% 以上が収集され、かつ実行ごとに結果（合格/不合格）が再現された場合のみです。失敗したケースは構造化情報としてフィードバックされ、反復的な修復に活用されます。

事前設定済みのベース環境、ビルドシステムテンプレート、そして抽出されたビルドレシピの再利用可能なライブラリを組み合わせることで、構築成功率は 16.5% から 57.2% に向上しました。その結果、12 の言語にまたがる 10 万を超える検証可能な環境が生成されました。エージェントがリポジトリから参照解答を読み取れないよう、Git の履歴やコミットメタデータ、その他の利用可能な痕跡はすべて削除されています。

データのスケールアップ・フライホイール：フィルタリングのプロセス

最終的なテストの成否だけで軌道（トライアル）をフィルタリングするのは誤解を招きます。合格した実行の中には、ハードコーディングや仕組みの迂回、テスト対策のための近道に依存しているケースがあります。一方で、失敗した実行には貴重な探索、ローカライズ、修復の行動が含まれていることもあります。

KwaiKAT は両方向の課題に対応しています。わずかに失敗したケースでは、プロセスレベルのヒントが解決策を明かさずに「何を検証すべきか」を示します。これだけで、以前は 0% だったタスクの合格率が約 20% に向上しました。

ただし、ヒント付きの軌跡には推論時に利用できない情報が含まれているため、検証済みのパッチを修正した上で、元のタスク文脈からヒントなしの軌跡を再生成します。最終的に残すのは、検証に合格し、ヒントの漏洩がなく、パッチと整合性が保たれるサンプルだけです。

成功した実行については、ルールベースのゲートで無効・不安定・悪意のある軌跡を除外します。その上で、探索性、特定精度、編集前の推論、仕様への忠実度、リポジトリの慣習遵守、パッチの最小化、検証品質、回復動作、そして誠実さといった項目をスコアリングします。

さらに、ハルネス（テスト環境）への過学習を防ぐ仕組みも用意されています。機能は維持したまま、ツール名や引数の規約、出力形式、プロンプトテンプレートをランダム化します。検証がテスト結果に紐付いているため、1 つのタスクをさまざまなハルネス構成で再実行可能です。また、依存関係の欠落、一時的なコマンド失敗、出力の途中切断、ノイズの多いログといった現実的な摂動も注入しています。

パイプラインの詳細と数値については以下をご覧ください。

インフラの不具合が報酬を制限していた

KAT-Coder-V2 のトレーニング中、報酬曲線の伸び悩みは当初、強化学習（RL）アルゴリズムのせいだと考えられていました。しかし監査の結果、軌道の約 16% がモデルの方針ではなくサンドボックスのインフラ問題によって失敗していることが判明しました。具体的には、境界設定の不整合により観測データが約 40 ステップにわたって空になり、報酬値が破損するケースが多発していたのです。

これを受けて 3 つのインフラ対策が講じられました。まず、リリース直後のイメージを早期に削除するポリシーを導入し、ディスク使用率を 95% から 60% に抑えました。その結果、タイムアウトによる無効なロールアウトが 6〜7% から 1% 未満に激減しました。次に、リモートサンドボックスの初期化時に環境変数を修正することで、サンプルの約 6〜7% で報酬を反転させていたシステム側の強制書き換えを防ぎ、エラー率を 1% 以下に抑えました。最後に、ゲートウェイサーバーが主流のチャットエンドポイントを迂回し、直接 /generate を呼び出すように変更しました。これにより、apply_chat_template の再適用や再トークン化によって生じていた、約 200 ターン規模でのトークンドリフト（40%）を解消し、ロールアウト時のトークン整合性を確保しました。

これらの更新により、サンドボックスからのフィードバックエラー率は概ね 16% から 2% 未満に低下し、トレーニングの崩壊は桁違いに減少しました。

非対称 PPO と 3 段階報酬

研究チームは、PPO（Proximal Policy Optimization）を GAE（Generalized Advantage Estimation）付きで採用し、批評家なしの軌道手法を選ばなかった。その理由は、本番環境でのハルネスがセッションを構造的に異なるサンプルに分割するため、グループベースラインの設定が複雑になるからだ。

非対称なアクター・クリティック構造を採用することで、クリティックは報酬、テスト結果、カバレッジ率、パッチ、メタデータ、将来のターンといった特権的なトレーニングコンテキストを利用できる。一方、アクターがアクセスできるのはロールアウト時の状態のみだ。推論時にはクリティックと追加コンテキストは破棄される。

報酬設計は 3 つの階層から成る。「コアタスクスコア」では、fail_to_pass と pass_to_pass の両方のテストをすべてパスすることが必須条件となる。「標準行動制約」では、コードの重複、不適切なツール呼び出し、デバッグ残りの削除がペナルティ対象だ。さらに「失敗軌道インセンティブ」では、F2 を通じたファイル取得にスコアが付与され、部分的なテスト成功にもクレジットが加算される。

5 人の専門家による知見は、逆 KL 発散を用いたマルチティーチャーオンポリシー蒸留によって統合される。この手法にはオフポリシーでの開始と、Prune-OPD から派生したドリフト認識型トリュンケーションが含まれる。

結果

統一された Claude Code ハルネス下で、KAT-Coder-V2.5 は PinchBench で 94.9 のスコアを記録し、Opus 4.8（93.5）を上回ってパネル中最上位となった。SWE-Bench Pro では 65.2 で 2 位（首位は 69.2）、社内ベンチである KAT Code Bench でも 53.1 と 2 位（首位は 57.3）だった。

一方、Terminal-Bench 2.1 では 60.7 と最下位に留まり、GLM-5.1（61.8）や Opus 4.8（84.6）に後れを取った。SciCode では 50.3 を記録し、GLM-5.2 と同点となった。

特筆すべきは、オープンウェイト版の KAT-Coder-V2.5-Dev だ。これは Qwen3.6-35B-A3B を基に、127K の SFT（Supervised Fine-Tuning）例で微調整し、その後 RL（Reinforcement Learning）で追加学習した、総パラメータ数 350 億・アクティブパラメータ数 30 億の MoE モデルである。評価は社内独自のプロトコルで行われたため、主要なフラッグシップモデルの結果とは直接比較できない。

要点

KwaiKAT は、エージェント型コーディングをモデルの規模の問題ではなく、インフラストラクチャの問題として捉えています。

AutoBuilder によって環境構築の成功率は 16.5% から 57.2% に引き上げられ、12 の言語にわたる 10 万件以上の検証可能な環境が生成されました。

サンドボックスの監査では、強化学習の軌道の約 16% がポリシーではなくサンドボックス自体の問題で失敗していることが判明しました。この問題を修正した結果、失敗率は 2% 未満にまで低下しています。

KAT-Coder-V2.5 は PinchBench で 94.9 のスコアを記録しトップに立ち、SWE-Bench Pro では Opus 4.8 に次ぐ 65.2 のスコアで 2 位を獲得しました。

オープンウェイトの KAT-Coder-V2.5-Dev は、Apache-2.0 ライセンスの下で公開されている、独自にベンチマークされた 35B-A3B モデルです。

論文、Hugging Face 上のモデル重み、そしてプロダクトページをチェックしてください。本研究のすべての功績は、このプロジェクトの研究チームにあります。

KwaiKAT チームが 10 万件以上の検証可能なリポジトリ環境で訓練されたエージェント型コーディングモデル「KAT-Coder-V2.5」を発表したという記事は、MarkTechPost で最初にお伝えしました。