Hugging Face、デジタルアバターエージェントの進化型ハルネス技術報告を公開

AI を活用したデジタルアバター配信者は、製品への質問に即座に答え、視聴者と対話し、マーケティング戦略を実行する必要があります。これには低遅延、頻繁な戦略の更新、そして正確かつ効果的な回答が求められます。

Evolvable Harnesses（進化するハッチ）は、モデルの重みとは独立してスキル、フック、プロンプト、ツールを個別に更新できるため迅速な反復が可能ですが、あるトレードオフも露呈します。大規模モデルはゼロショットで適応できますが速度が遅く、一方、コンパクトなモデルは遅延要件を満たしますが、固定されたハッチ構成に対して過学習を起こしやすいのです。

私たちは、変化するハッチに適応するようコンパクトなモデルを訓練する「Harness-Aware Training（HAT）」を提案します。その中核となるのが Harness-State Augmentation（HSA）です。これは、タスクの性質を保ちながらスキル識別子やコンテンツ、ツールスキーマ、プロンプト構造、フック関数に変換を適用する手法です。

訓練は 3 つの段階で進められます。まず HSA-SFT では、多様な環境における強力なモデルの軌跡から推論とツールの使用法を学習します。次に General On-Policy Distillation で、SFT によって失われた汎化能力を回復させます。最後に HSA-RL では、拡張された環境での強化学習を通じて変化するハッチに対する堅牢性を高めます。

4 つの評価セット全体で、HAT は Live-Stream QA で 94.8 のスコアを達成しました（ベースライン：80.3、最も強力な汎用 LLM：93.0）。また Harness-Variant QA でも 94.6 を記録しています（ベースライン：75.4）。一方、固定されたハッチでの SFT は IFEval でベースモデルから 7.7 ポイント低下させるのに対し、HAT はこの後退を回避し、83.5 に到達しました。

NVIDIA H20 GPU 1 基上で動作する最適化システムは、P50 レイテンシ 3.4 秒、P95 レイテンシ 8.1 秒を実現しています。

淘宝ライブのデジタルアバターサービスで導入され、GMV（総販売額）と商品ページビューにおいてもプラスの結果を示すオンラインA/Bテストを実施しました。