失敗から学習する統一型多モーダル検索:ハードネガティブによる検索中心 CoT の提案
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Hugging Face Daily Papers
研究者らは、検索結果のフィードバックに基づいて推論を行うユニバーサルマルチモーダル検索フレームワーク「UniME-R1」を提案し、ハードネガティブを活用した学習により検索精度を向上させる手法を示した。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るAI深層分析を開く2026年8月7日 12:20
AI深層分析
キーポイント
検索中心型思考の導入
既存のChain-of-Thoughtがクエリ単独で推論するのに対し、UniME-R1は検索結果のフィードバックを条件として「検索中心型思考(RC-CoT)」を生成し、埋め込みモデルの誤解を特定する。
二重モードによる柔軟な対応
対象が初期候補に含まれる場合は直接再ランク付けを行い、含まれない場合はRC-CoTで検索方向を調整した上で全コーパス再検索を行うデュアルモード埋め込みを採用する。
ハードネガティブによる学習
現実的な検索失敗をシミュレートするためにハードネガティブをマイニングし、直接検索とRC-CoT拡張検索を結合最適化することで、指導者モデルを検索結果に整合させる。
ベンチマークでの性能向上
MMEB-V2および多様な一般マルチモーダル検索ベンチマークにおける広範な実験で、強力なベースラインを上回る一貫した検索パフォーマンスの改善を確認した。
重要な引用
We argue that effective retrieval reasoning should instead be conditioned on retrieval feedback.
The adviser analyzes candidates individually to identify the discriminative cues confused by the embedder.
Extensive experiments on MMEB-V2 and a diverse set of general multimodal retrieval benchmarks demonstrate that UniME-R1 consistently improves retrieval performance over strong baselines.
編集コメントを表示
編集コメント
本研究は、検索結果そのものを推論の文脈として活用する発想により、既存のマルチモーダル検索システムの限界を突破する可能性を示唆している。特にハードネガティブを活用した学習手法は、実環境での検索失敗事例を効果的にモデルに学習させるための重要な指針となるだろう。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
ユニファイド・マルチモーダル検索は、多様な入力を通じて表現される複雑なユーザーの意図を満たす候補を特定することを目的としています。大規模ビジョン言語モデル(LVLM)に基づく検索エンジンが効率的でスケーラブルである一方で、生のマルチモーダル入力を直接エンコードすると、微細な識別手がかりを見逃し、意味的に類似する候補間で混乱が生じることがあります。
最近の手法では、クエリ表現を豊かにするために思考連鎖(CoT)の根拠を生成することでこの限界を克服しようとしています。しかし、こうした推論は通常クエリ単独から導き出されるため、「クエリが何を記述しているか」は説明できても、「検索エンジンがどこを誤解したか」までは説明できません。
我々は、効果的な検索のための推論は、検索フィードバックに基づいて行われるべきだと主張します。この洞察に基づき、初期に取得された候補に対して推論を行い、検索中心型思考連鎖(RC-CoT)を生成する「埋め込みモデル・アドバイザー」フレームワークである UniME-R1 を導入しました。
アドバイザーは各候補を個別に分析し、埋め込みモデルが混乱させた識別手がかりを特定します。対象が初期の上位 k 件に含まれている場合、UniME-R1 は直接再ランク付けを行います。含まれていない場合は、RC-CoT を生成して検索方向を精緻化し、二重モード埋め込みモデルを用いて全文コーパスでの再検索を実行します。
本フレームワークの訓練では、現実的な検索失敗をシミュレートするためにハードネガティブをマイニングし、直接検索と RC-CoT 拡張型検索を同時に最適化します。さらに、教師あり学習と検索指向の強化学習を通じて、アドバイザを検索結果にアライメントさせます。
MMEB-V2 および多様な一般的多モーダル検索ベンチマークにおける広範な実験により、UniME-R1 が強力なベースラインを上回る検索性能を常に向上させることが示されました。
原文を表示
Unified multimodal retrieval aims to identify candidates that satisfy complex user intent expressed through heterogeneous inputs. Although Large Vision-Language Model (LVLM)-based retrievers are efficient and scalable, directly encoding raw multimodal inputs often misses fine-grained discriminative cues, leading to confusion among semantically similar candidates. Recent methods mitigate this limitation by generating Chain-of-Thought (CoT) rationales to enrich the query representation. However, such reasoning is typically derived from the query alone: it explains what the query describes, but not what the retriever misunderstands. We argue that effective retrieval reasoning should instead be conditioned on retrieval feedback. Based on this insight, we introduce UniME-R1, an embedder-adviser framework that learns to reason over initially retrieved candidates and generate Retrieval-Centric Chain-of-Thought (RC-CoT). The adviser analyzes candidates individually to identify the discriminative cues confused by the embedder. If the target appears in the initial top-k set, UniME-R1 directly reranks the candidates; otherwise, it generates RC-CoT to refine the retrieval direction and performs full-corpus re-retrieval with a dual-mode embedder. To train the framework, we mine hard negatives to simulate realistic retrieval failures, jointly optimize direct retrieval and RC-CoT-augmented retrieval, and align the adviser with retrieval outcomes through supervised learning and retrieval-oriented reinforcement learning. Extensive experiments on MMEB-V2 and a diverse set of general multimodal retrieval benchmarks demonstrate that UniME-R1 consistently improves retrieval performance over strong baselines.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み