Databricks、Unity AI Gateway でスマートルーティング導入しコスト削減

記事の3ポイント

1. 1

   Smart Routing の実装と機能

   Databricks は Unity AI Gateway に「Smart Routing」機能をベータ版として追加し、タスクの複雑度に基づいて自動的に最適なモデルやコーディングハーンネスを割り当てる仕組みを実装した。

2. 2

   コスト削減と性能維持の実証

   同社によると、内部コードワークロードでは主要モデル（Opus 5）の65%のコストで同等以上の成果を達成し、公開ベンチマークでも半額未満のコストで同等の性能を発揮したという。

3. 3

   Omnigent との統合による最適化

   コーディングエージェント用のメタハーンネス「Omnigent」を併用することで、モデル選択だけでなくツール（ハーンネス）の組み合わせまで自動最適化し、開発者の手動選定負担を排除する。