ページを読み込み中…
ページを読み込み中…
7件の記事
AWS は Amazon Bedrock AgentCore の観測機能について発表し、プロトタイプから本番環境へ移行した際の問題である応答速度の低下やメモリ増大といったパフォーマンス課題への対応策を示した。
Vercel はビルド時に Python 関数をバイトコードにコンパイルし、依存関係を含む .pyc ファイルをバンドルする。これにより、冷間起動時間が中規模関数で 2.8 秒から 1.3 秒へ短縮された。
Vercel は Flags SDK のマイクロタスクキューの負荷を削減し、プロミスの生成数を減らすことで、複数フラグの評価速度を最大で10倍向上させました。
KDnuggets が紹介する記事で、SpaCy を用いた効率的なテキスト処理およびエンティティ認識を実現するための具体的な 3 つの技術的アプローチが解説されています。
NVIDIA は、現代の大規模言語モデル（LLM）の推論サービス設定が複雑である課題に対し、モデルバックエンドや並列形状などの相互作用する選択をシミュレーションする「DynoSim」を発表した。これにより、最適なパフォーマンスとコストのバランス（パレートフロンティア）を効率的に見つけることが可能になる。