Arize AI、コーディングエージェントのモデルとハルネスルーティングによるコスト削減法を公開

記事の3ポイント

1. 1

   モデルとハーンによるコスト最適化の実例

   著者は Slack ボットでのバグ検出ワークフローにおいて、主要ループを Kimi K3 Max に移し、Opus 5 をアドバイザーとして残すことで、1 回あたりのコストを約 100 ドルから 15〜20 ドルに削減した。

2. 2

   タスクごとのモデル要求要件の差異

   未知の変更の計画には最前線の判断力が必要だが、ファイル検索や単純な編集などには低コストモデルで十分であり、タスク内容に応じて適切なモデルを割り当てるべきだと論じている。

3. 3

   ハーンがコストに与える影響

   Composio の評価によると、同じモデルでも 4 つの異なるハーン間で成功したタスクあたりのコストが最大 2.7 倍変動しており、ハーンの設計が総コストを大きく左右することが示された。