企業向けリクエスト対応を強化した自己ホスト型 LLM の構築手法

記事の3ポイント

1. 1

   単一モデルへの統合戦略

   200 以上の内部アプリケーションからのトラフィックを、生産エラー分析で特定された品質ギャップ（指示従順性、関数呼び出し、タスク分布）を解消することで単一モデルへ集約する。

2. 2

   軸別 GRPO 専門家のマージ

   全目的を同時に最適化するのではなく、各軸ごとに GRPO 専門家を訓練し、2 段階の SLERP を用いて統合することで、セマンティック崩壊や過剰な呼び出しなどの特定失敗モードを解消する。

3. 3

   実証された性能向上

   同社によると、推論モード非使用時において、総パラメータ数が約 7 倍のベースラインモデルを上回る性能を示し、社内アリーナや一般対話ベンチマークでもスコアを向上させた。