要点
GitHub Copilot CLI が、利用状況やモデルの健全性などのリアルタイム指標を分析し、推論やコード生成などタスクの複雑さに応じて最適なモデルを自動的に選定する機能を追加した。これにより、高品質で信頼性の高い効率的な体験が提供される。
GitHub Copilot の自動モデル選択機能は、Copilot CLI において、タスクに最適なモデルへルーティングするようになりました。これにより、利用状況やモデルの健全性指標を活用し、高品質で信頼性のあり、トークン効率の高い体験を提供します。
仕組みについて
自動選択は、リアルタイムのモデル利用可能性と信頼性のシグナルを評価した上で、推論、コード生成の複雑さ、バグ診断の難易度、ツールオーケストレーションの必要性といった複数の次元でタスクを分析し、最適なモデルを選択します。
制御権は常にあなたに:/model コマンドを使用して、いつでも自動選択と特定のモデルの間で切り替えることができます。
ポリシーを尊重:管理者が設定したすべてのモデルポリシーを遵守します。
多様なモデルへのアクセス:サブスクリプションの種類やポリシーに応じて、複数のモデルファミリーからモデルを活用します。利用可能なモデルは時間とともに変更される場合があります。
プレミアムリクエストの使用
自動選択では、選択されたモデルに基づいて課金されます。現在は 0x から 1x の乗数を持つモデルに限定されています。有料サブスクリプションユーザーは、自動選択を使用する際にモデル乗数に対して 10% の割引が適用されます(例:自動選択が 1x 乗数のモデルを使用する場合、プレミアムリクエストを 1 ではなく 0.9 分消費します)。
Copilot をより活用するために
自動選択は、不要なキャッシュ関連コストを回避するため、自然なキャッシュ境界に沿ってルーティングされます。評価結果によると、品質の低下なくトークン効率に改善が見られ、すべてのタスクが高推論能力やトークン集約型のモデルを必要とするわけではないためです。
セットアップは不要です。Copilot CLI の最新バージョンに更新し、Auto を選択して開始してください。詳細については、自動モデル選択に関するドキュメントをご覧ください。GitHub コミュニティ内のディスカッションに参加することもできます。
この投稿「Copilot CLI auto model selection routes based on task」は、The GitHub Blog で最初に公開されました。