#apiゲートウェイ のAIニュース
4件の記事
全AIゲートウェイ使用状況の統合レポート
Vercelが、複数のAIプロバイダーに分散する使用データを統合し、請求前に基本的な質問に答えられるようにするAIゲートウェイの統合レポート機能を発表した。
Vercel Blog·3月26日·★★★★
VercelでLiteLLMサーバーがサポートされる
VercelがLiteLLMサーバーのデプロイを可能にし、開発者はOpenAI互換ゲートウェイを通じてVercel AI Gatewayを含む複数プロバイダーのLLMにアクセスできるようになった。
Vercel Blog·3月16日
Vercel AI Gatewayでタイムアウトをカスタマイズして自動フェイルオーバーを高速化
VercelがAI Gatewayで推論プロバイダーごとのタイムアウト設定をベータ提供し、設定時間内に応答がない場合に次のプロバイダーへ自動的に切り替えることで、フェイルオーバーを高速化する。
Vercel Blog·3月5日
AI Gatewayでプロバイダーごとのカスタムタイムアウト機能が利用可能に
AI Gatewayが推論プロバイダーごとのタイムアウト設定を導入し、応答が遅い場合に次のプロバイダーへ自動的にフェイルオーバーする機能を提供した。現在はBYOK認証でのみベータ版として利用可能。
Vercel Blog·3月5日