OpenRouter Blog の最新記事

公式

8件の記事

LLM プロバイダーの性能評価：レイテンシ、スループット、稼働率を測定する手法

OpenRouter は、同一モデルでもプロバイダーによってインフラや量子化の違いにより結果が異なるため、レイテンシ、スループット、稼働率、精度を測定しルーティングポリシーに転換する方法を解説した。

OpenRouter は、AI エージェントが実行した作業内容とその費用を記録・追跡できる「Classifiers」機能を新たに発表した。これにより、利用状況の可視化が可能となる。

OpenRouter が既存の API キーで利用可能な音声文字起こし機能を追加した。ユーザーは base64 形式のオーディオを POST リクエストで送信し、JSON 形式のテキストと使用量情報を取得できる。

OpenRouter は、システムプロンプトやツール定義の再利用によるコスト削減技術「プロンプトキャッシュ」と、キャッシュ効率を高める「スティッキー・ルーティング」の仕組みを紹介し、実装方法を確認する手順を解説した。