Anthropic、Claude Platform のコスト削減と性能向上手法を公開

記事の3ポイント

1. 1

   コスト削減と性能維持の両立戦略

   Anthropic は、多くのアプリケーションでコスト削減とパフォーマンス低下がトレードオフではないとし、プロンプトキャッシュの最大化、アンチパターン除去、タスクに応じた努力設定の調整という 3 つの対策を提示した。

2. 2

   プロンプトキャッシュの仕組みと制約

   リクエストが同じプレフィックスで始まる場合、Claude は内部状態を読み取ることで計算コストを大幅に削減するが、キャッシュは特定モデルに固定され、バイト単位での完全一致が必要であり、有効期限（TTL）が存在する。

3. 3

   キャッシュ破壊を防ぐ実装上の注意

   会話中の努力設定変更や動的なタイムスタンプの挿入、ツール定義の順序変更はキャッシュを無効化するため、これらの要素を避けるか、Opus 5 や Fable 5.1 のような特定モデルでのみ許可される機能を利用する必要がある。