RAG パラダイムのスケーリング研究:BM25 が大規模データで精度を維持
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Hugging Face Daily Papers
本研究は、コーパス規模を約450倍まで変化させた厳密な制御実験により、RAG パラダイムのスケーリング特性を解明し、大規模化では BM25 が最有力となり、エージェント型検索は小規模に限定されることを示した。
AI深層分析を開く2026年8月4日 15:20
AI深層分析
キーポイント
BM25 の大規模化における優位性
コーパスが約1000万トークンを超えると BM25 が他手法を凌駕し、最大規模では約20ポイントの差をつけて首位となる。
File-System Agent のコストと限界
最小規模では File-System Agent が優れるが、大規模になると探索コストが 39 倍に増大し、効果は低下する。
Dense と Graph ベース手法の位置づけ
Dense retrieval は効率的だが精度は劣り、Graph-based RAG は構築段階でスケーラビリティの壁に直面し BM25 に劣る。
最適な検索戦略の提示
大規模データではレキシカル検索がデフォルトとなり、エージェント型推論はランク付け後の探索段階で活用すべきである。
重要な引用
The results reveal a scale-dependent crossover rather than an unconditional winner.
Around 10 million corpus tokens, BM25 overtakes it and leads at every larger shared tier.
Lexical retrieval is the strongest scalable default.
編集コメントを表示
編集コメント
本論文は、多くの企業が安易に大規模な RAG システムを構築する際に陥りがちな「最新手法が常に最良」という誤解を払拭する決定的なデータを提供している。実務レベルでのアーキテクチャ選定において、BM25 の再評価と戦略的な使い分けが求められる重要な指針となる。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
検索拡張生成(RAG)には、語彙ベースおよび密な検索、グラフベースのインデックス化、エージェント型検索など複数のパラダイムが存在しますが、これらは通常、異なるベンチマークで単一のコーパスサイズにおいて評価されるため、精度とコストのスケーリング特性は明確ではありません。このギャップを埋めるために、私たちは厳密にネストされた 28 の段階(約 450 倍の規模差)にわたるコーパスサイズを変化させつつ、質問や関連文書・敵対的ドキュメントの固定基盤は一定に保つ制御実験を行いました。1 つの読み取りモデルと評価プロトコルのもとで、公式精度、構築およびクエリトークン数、レイテンシを測定しました。
その結果、無条件の勝者ではなく規模依存のクロスオーバー現象が明らかになりました。ファイルシステムエージェントは最も小さな共有段階では首位に立ちますが、固定基盤レベルでは探索コストがクエリトークンで 39 倍にも達し、検索空間が拡大するにつれて効果は低下します。コーパスサイズが約 1,000 万トークンになると BM25 がこれを上回り、それ以降のすべての共有段階で首位を維持します。最終的な規模ではその差は 20 ポイントに近づきます。また、LLM を用いた構築を行わない場合でも、BM25 はパレートフロンティアにおける低コスト側の基準点として機能します。
密な検索は効率的ですが精度は劣り、グラフベースの RAG は実装規模に至る前に構築上の壁に直面し、スケーラブルな変種も共有段階では BM25 に劣ります。全体として、コーパスの成長はグローバル候補ランキングをより有利にする方向に働きます。語彙検索が最も強力なスケーラブルなデフォルトであり、エージェントによる推論は代替手段ではなく、ランク付けされた発見の後に行う場合に最も効果を発揮します。
原文を表示
Retrieval-augmented generation (RAG) spans lexical and dense retrieval, graph-based indexing, and agentic search, but these paradigms are usually evaluated on different benchmarks at one corpus size, leaving their accuracy-cost scaling unclear. To bridge this gap, we present a controlled study that varies corpus size along 28 strictly nested tiers spanning roughly 450-fold, while holding questions and a fixed bedrock of relevant and adversarial documents unchanged. Under one reader model and one judging protocol, we measure official accuracy, construction and query tokens, and latency. The results reveal a scale-dependent crossover rather than an unconditional winner. File-System Agent leads at the smallest shared tiers, but its sequential exploration costs 39 times more query tokens at the bedrock and becomes less effective as the search space grows. Around 10 million corpus tokens, BM25 overtakes it and leads at every larger shared tier, with a margin approaching 20 points at full scale. BM25 also anchors the low-cost end of the Pareto frontier without LLM-based construction. Dense retrieval remains efficient but less accurate, whereas graph-based RAG encounters construction walls before deployment scale and its scalable variants remain below BM25 at shared tiers. Overall, corpus growth increasingly favors global candidate ranking: lexical retrieval is the strongest scalable default, while agentic reasoning works best after ranked discovery rather than in place of it.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み