Baseten、DeepSeek Harness で任意のオープンモデルを 5 分以内実行

DeepSeek Harness（DSH）は、v4 モデルそのもの以上に大きなリリースと言えるかもしれません。この記事では、DeepSeek Harness の最も有用な部分について解説します。名称には「Harness」と付いていますが、実際には複数の Harness を実行するためのインターフェースです。

以前、Harness の次に来るものとして、抽象化のレベルを一段上げ、N 個の Harness を管理する集中型インターフェースが登場する可能性について取り上げました。各 Harness は特定のモデルやタスクに対して最適化され、共進化するように設計されています（詳細はこちら here）。DeepSeek Harness はまさにそのアイデアを具現化したものです。内部では Claude Code や Codex、そして各種 Harness SDK をコンポーネントとして実行できます。

DSH の核となる考え方は「すべてがプラグインである」という点です。モデル、ツール、ファイルシステム、サンドボックス、ループはすべてモジュール化されたコンポーネントであり、交換・組み合わせ・拡張が可能です。ctx.llm 内ではオープンソースおよびクローズドなモデルのスイートを実行し、子プロセスとして ctx.subagents 内に他の Harness を配置します。

また、フォークと再生に対応する追加型のイベントログも備えています。これにより、実行軌跡やツール呼び出しを追跡でき、どこで失敗したかをトレースから特定して、元のセッションを再実行したり修正したりできます。この機能は、ポストトレーニングデータや RL データの収集にも有用であり、視覚的なデバッガーとしても機能します。

最後に、DSH は自己進化型です。ランタイムの検査やプラグインの作成・リアルタイムマウントを、システムを壊すことなく安定して行えます。その結果、ユーザーは最小限の手間で環境上で実験やテストを行える、優れた UI を利用できるようになりました。

DSH でのフロンティア級オープンウェイトモデルの実行

Baseten の Model APIs から提供される Kimi K3、GLM 5.2、DeepSeek V4 Pro 0813 といったフロンティア級のオープンウェイトモデルを、ハレス内で実行する方法は以下の通りです。

1. ターミナルでリポジトリをクローンし、Web UI を起動する

git clone https://github.com/deepseek-ai/deepseek-harness.git
cd deepseek-harness
pnpm install
pnpm run build
pnpm dsh web

1. [Settings] → [Models] → [Add a custom provider] に移動します。

• Base URL として以下を設定してください：https://inference.baseten.co/v1
• API プロトコルは openai-completions を選択します。
• https://app.baseten.co/settings/api_keys から API キーを取得し、貼り付けます。

モデルカタログにモデルを追加します。Model catalog の「Fetch」ボタンをクリックすると、API キーを使って利用可能なモデルが取得されます。これは Baseten の /v1/models エンドポイントを呼び出し、現在サポートされているモデルの一覧を返します。今回は説明をシンプルにするため、3 つのモデルを追加しました。

次に、チャットウィンドウの横にあるドロップダウンメニューからモデルを選択できます。

実行して確認します。プロンプトを送信すると、trajectory view を開くことができます。各実行ではイベントログがタイムラインとしてストリーミングされます。リクエストごとに、最初のトークンまでの時間やキャッシュヒット率といったレイテンシとスループットの指標を確認できるため、どのプロバイダーでも実際のキャッシュヒット率やパフォーマンスメトリクスを把握できます。