LMSYS、SGLang を活用した推論最適化フレームワーク「Infer-forge」を公開

記事の3ポイント

1. 1

   Harness Engineering の定義

   モデルやワークロード、SLO などの特定のデプロイメントポイントを再現可能かつ検証可能な実行システムとして構築する手法であり、「Agent = Model + Harness」という抽象化の基礎となる。

2. 2

   Loop Engineering の機能

   調査、実装、評価、失敗、回復といった反復的なタスクを接続し、新しい証拠を取り込みながら契約や終了基準を満たすために検証可能な成果物または次の手順を提供する。

3. 3

   Graph Engineering の役割

   並行して進行する複数のタスクリープを統合し、リリースされた経路と却下された経路の依存関係や証拠を保持することで、プロジェクト全体の意思決定を説明可能にする。