Replit、全アカウントでタスク別最適モデル自動選定をデフォルトに

AI コーディング企業の Replit は、モデルルーティングの潮流を後押しするため、「インテリジェント・モデル・ルーティング」システムを全アカウントのデフォルト設定に採用しました。

このシステムはタスクが進行するにつれて自動的にどの基盤モデルを割り当てるかを決定し、品質、速度、コストのバランスを考慮してルーティングを行います。

同社は「Auto mode」と名付けたこの機能をすべてのユーザーのデフォルトオプションとして導入すると発表しました。ただし、Core および Pro のサブスクライバーは、より細かな制御が必要な場合に限り、これを上書きして手動でモデルを選択することも可能です。

モデル・ルーティングの加速

今回の発表は、モデル・ルーティング分野での活発な動きに続くものです。8 月上旬には Stripe がモデル・ゲートウェイ・プラットフォームの OpenRouter を約 80 億ドルで買収することに合意しました。同じくその日、Ramp は Router.com を立ち上げ、指定されたパフォーマンス基準を満たす最も低コストのモデルへリクエストをルーティングする機能を搭載しました。

さらにその前の 7 月には、SpaceX が保有する Cursor も独自のルーターを発表しています。これはコーディングのリクエストに対して自動的にモデルを選択し、大幅なコスト削減を実現しながら同等のパフォーマンスを提供できると主張しています。一方、Meta は現在、「Switchboard」と呼ばれる内部用ルーターの開発を進めていると報じられており、コーディングタスクの難易度を評価して簡単な作業は低価格なモデルに割り当てる仕組みです。

「同じモデルファミリー内でも、トークンあたりの料金は桁違いに異なることがあります。同時に、安価で小規模なモデルの知能は、すでに大規模な最先端モデルに近づいており、コスト最適化の余地が十分にあります。」

Replit の社長兼 AI 責任者である Michele Catasta は、ルーティング機能への注力が高まっている理由の一つを、単純な経済性にあると説明します。つまり、モデルのコストと、開発者が実際のタスクで必要とする能力レベルとの間に、大きな格差が生まれているという点です。

「同じモデルファミリー内でも、トークンあたりの料金は桁違いに異なることがあります」と Catasta は The New Stack に語っています。「同時に、安価で小規模なモデルの知能は、すでに大規模な最先端モデルに近づいており、コスト最適化の余地が十分にあります。」

Replit 側では、この方向性への移行を以前から進めてきました。Catasta によると、同社は最近数ヶ月の間、Auto モードやサブエージェントによるルーティング、そして複数の反復試作版の実験を行ってきました。

「どんな重要なローンチでも、私たちはパブリックリリースを決める前に、Intelligent Model Routing のベータ版を長期間にわたって徹底的にテストしました」と彼は述べています。「最も重要な学びは、各実験の失敗モードを第一原理から理解することです。これにより、私たちがようやく出荷した最終システムに対して、継続的な改善（ヒルクライミング）を行うことができました。」

Auto mode の登場

先週、Replit が「Free Mode」という低コストの Agent モードを発表した際、その基盤となる仕組みが明らかになりました。このモードでは利用クレジットを消費せず、Auto 機能がユーザーに代わってモデルを選択します（ただし利用制限は適用されます）。

現在、同じ Auto ルーティングアプローチが Replit 全体でより広く展開されています。同社によると、すべてのアカウントでインテリジェントなモデルルーティングがデフォルトとなり、全ユーザーはまず Free Mode で開始し、どのモデルがタスクに最適かを Replit が判断します。

なお、Free Mode は「無制限利用」を意味する無料ではありません。ローンチ時には Core および Pro 契約者に対して利用クレジットを消費せず提供しましたが、5 時間ごとにリセットされる利用制限を設けました（Pro ユーザーにはより高い上限が設定されています）。Free Mode では、ユーザーが手動でモデルを選択することはできません。

一方、Core や Pro の契約者は Replit の Power モードや Max モードへ切り替えることができます。これらのモードでは Auto をオフにして自分でモデルを選べます。また、Replit はタスクにさらに高い能力が必要と判断した場合、ユーザーをこれらの高機能モードへの移行を提案することもあります（ただし、これらのモードでは利用コストが発生します）。

imageReplit の Auto モード

一方、Enterprise 顧客においては、管理者が各ワークスペースで Auto を使用できるモデルを承認リストに制限できます。これにより、タスクの自動ルーティングは継続されつつも、モデル選択は企業のポリシー範囲内に保たれます。

エージェントの利点

SpaceX が Cursor を 600 億ドルで買収することに合意する前からも、AI コーディングスタートアップである Cursor は、Composer シリーズなど独自のコーディングモデルに長年投資を続けてきました。最近では、SpaceX の支援のもと、より最先端のモデル開発にも取り組んでいます。

一方、Replit が目指しているのは、基盤となるモデル層そのものの所有を売りの中心に据えることではありません。むしろ、エージェントとその周辺システムを制御することで、状況に応じて最適なモデル選択を行うための十分な洞察を得られると信じています。

「Replit は創業当初から、エージェントの枠組み（harness）とモデルを取り巻くインフラストラクチャの両方を自社で保有しており、これにより高度なモデルルーターの訓練が可能になっています」と Catasta 氏は語ります。「この体制こそが、最も競争力のある価格帯でユーザーに有益な知見を提供できる唯一の方法なのです」

エージェントタスクが進行する過程において、この仕組みは特に重要になります。Replit のシステムはタスクの進展に応じて使用するモデルを切り替え、プロセスの各段階で能力とコストの最適なバランスを探ります。しかし Catasta 氏によれば、こうした動的なルーティングは、エージェントがどのようにモデルを利用すべきかという、より広範な研究課題の一部に過ぎないとのことです。

「モデルのルーティングはまだ初期段階にあり、顧客が最も必要とする時に最適な知能を提供するために、さらなる研究開発が進むことを期待しています」とカタスタ氏は説明します。「ルーティングは、ハーン（harness）の研究における多くの他の側面と緊密に統合されたパズルの一部に過ぎません」。

「サードパーティのルーティング会社では、当社のエージェントと同じ結果を再現することはできません」。

また、Replit は自社の Agent の利用状況を把握できることが、単体のルーティングプロバイダーが再現するのが難しい優位性になると主張しています。カタスタ氏によれば、ルーティングはリクエストの本質、難易度、範囲、意図を推測する必要がありますが、Replit は独自の利用データを用いてトレーニングを行い、ユーザーベース全体でこれらのシグナルを観察することが可能だと述べています。

「サードパーティのルーティング会社では、当社のエージェントと同じ結果を再現することはできません」と同氏は強調しています。