Anthropic、Claude Code のセッション価値最大化を解説

記事の3ポイント

1. 1

   トークン処理のコスト構造

   リクエストは GPU でプリフィル（入力読み込み）とデコード（出力生成）の 2 フェーズを経て処理され、1 トークンあたりのデコード時間が長いため、出力コストは入力コストのおよそ 5 倍になる。

2. 2

   思考レベルとトークン制御

   セッションごとの思考量は「effort」設定で制御され、/model や /effort コマンドで現在の設定を確認できるほか、重労働タスクには MAX_THINKING_TOKENS=0 で思考を無効化できる。

3. 3

   プロンプトキャッシングの仕組み

   リクエストの先頭トークンが直前のリクエストと完全に一致する場合、サーバーは共有された状態をキャッシュから読み取り（コスト 0.1x）、新しいトークンを追加して書き込む（コスト最大 2x）ことで効率化する。