#インフラエンジニアリングのAIニュース

4件の記事

LLM ワークフローにおける推論遅延を削減する7 つのアプローチ

大規模言語モデルの生産環境導入に伴い、リアルタイムでのサービス提供が課題となる中、推論遅延を低減するための7 つの実践的アプローチについて解説している。

バクラク事業部Platform Engineering部SREグループのtaddy( id:sadayoshi_tada )です。

Radim Marek氏が、PostgreSQL 18で導入されたpg_restore_relation_stats()とpg_restore_attribute_stats()関数について説明している。これらの関数は、本番データなしで統計情報を復元し、クエリプランを生成することを可能にする。

DeNAのIT基盤部が、XtraBackupを活用してMySQLの新規インスタンス構築速度を24倍に向上させ、システム可用性の課題を解決した取り組み。