AI21、オープンモデルとフロンティアモデルの組み合わせでコスト削減を提案

記事の3ポイント

1. 1

   エグゼキューター・オーケストレーターアーキテクチャの再評価

   計算リソースを節約するために、フロンティアモデルが計画を立て、安価なエグゼキューターモデルにタスクを割り当てる構成が見直されている。

2. 2

   AI21 の独自パイプライン設計

   コスト効率の高いモデルを最初に呼び出してトークン量の多い文脈の探索と抽出を行い、高品質な文脈を確保してからフロンティアモデルを最終的に呼ぶ戦略を採用した。

3. 3

   SWE-Bench Pro での高性能・低コスト達成

   このアーキテクチャにより、タスクあたりの費用を 5.99 ドルに抑えつつ、80.8% という最先端の解決率を実現した。