論文の概要: Reason What Matters: Retrieval-Grounded Reasoning for Universal Multimodal Embeddings
- arxiv url: http://arxiv.org/abs/2609.15296v1
- Date: Mon, 14 Sep 2026 09:48:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.228002
- Title: Reason What Matters: Retrieval-Grounded Reasoning for Universal Multimodal Embeddings
- Title(参考訳): ユニバーサル・マルチモーダル・エンベディングにおける検索型推論
- Abstract要約: Retrieval-Aware Self-Distillation (RASD) は、入力支援された証拠から特権化されたガイダンスを構築し、正の項目を検索された強陰性と区別する。
検索適応推論(RAI)は、部分CoTの残りの検索ユーティリティを推定するために、検索信頼ヘッドを使用する。
ReWAMは、競合する明示的CoT UME法の推論スループットを最大5倍にし、最先端の検索性能を実現する。
- 参考スコア(独自算出の注目度): 18.705254311226565
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Universal multimodal embedding (UME) learns unified representations across modalities, enabling a single model to support diverse retrieval tasks. Recent methods use Chain-of-Thought (CoT) reasoning to better interpret multimodal inputs before generating embeddings for complex retrieval tasks and further optimize this reasoning process through GRPO with retrieval-based rewards. However, two limitations hinder corpus-scale deployment. GRPO assigns all CoT tokens the same advantage, without identifying input-supported claims or evidence that distinguishes the positive from negatives. Moreover, generating a complete CoT before each embedding introduces substantial latency, even when a partial trace already provides sufficient retrieval evidence. To address these limitations, we propose Reason What Matters (ReWAM), a retrieval-grounded reasoning framework that uses retrieval feedback to guide both credit assignment and reasoning computation. Specifically, we introduce Retrieval-aware Self-Distillation (RASD), which constructs privileged guidance from input-supported evidence that distinguishes the positive item from retrieved hard negatives. An on-policy self-teacher uses this guidance to refine trajectory-level feedback into token-specific supervision for retrieval-relevant reasoning. We further develop Retrieval-adaptive Inference (RAI), which uses a retrieval confidence head to estimate the remaining retrieval utility of a partial CoT. It stops unproductive traces early and accelerates useful continuations with speculative decoding. Extensive experiments on MMEB-V2 and MRMR demonstrate that ReWAM achieves state-of-the-art retrieval performance while delivering up to 5x the inference throughput of competitive explicit-CoT UME methods. These results bridge the gap between retrieval quality and inference efficiency, making reasoning-enhanced UME practical for large-scale deployment.
- Abstract(参考訳): ユニバーサルマルチモーダル埋め込み(UME)は、モダリティ間の統一表現を学習し、単一のモデルが多様な検索タスクをサポートすることを可能にする。
近年の手法では、Chain-of-Thought(CoT)推論を用いて、複雑な検索タスクの埋め込みを生成する前にマルチモーダル入力をよりよく解釈し、検索に基づく報酬を伴うGRPOによる推論プロセスを最適化している。
しかし、2つの制限は、コーパススケールの展開を妨げる。
GRPOは全てのCoTトークンに同じ利点を割り当てるが、入力支援されたクレームや正と負を区別する証拠を特定できない。
さらに、各埋め込みの前に完全なCoTを生成すると、部分的トレースが既に十分な証拠を提供していても、かなりの遅延が発生する。
これらの制約に対処するために、検索に基礎を置く推論フレームワークReWAMを提案し、そのフレームワークは、検索フィードバックを用いて、クレジット代入と推論計算の両方をガイドする。
具体的には、入力支援された証拠から特権的なガイダンスを構築できる検索型自己蒸留(RASD)を導入し、その正の項目を検索された強陰性から区別する。
オンラインの自己学習者は、このガイダンスを用いて、軌道レベルのフィードバックを、検索関連推論のためのトークン固有の監視に洗練する。
さらに、検索信頼ヘッドを用いて部分CoTの残りの検索ユーティリティを推定するRetrieval-Adaptive Inference (RAI) を開発する。
非生産的トレースを早期に停止し、投機的復号化で有用な継続を加速する。
MMEB-V2とMRMRの大規模な実験により、ReWAMは最先端の検索性能を実現し、競合する明示的CoT UME法の推論スループットを最大5倍に向上することを示した。
これらの結果は,検索品質と推論効率のギャップを埋めるものであり,大規模展開のための推論強化UMEが実用化されている。
関連論文リスト
- Retrieval Grounding Latent Reasoning for Dense Retrieval [30.66182684102075]
推論集約的な検索は、与えられた命令の下で関連性を決定するのに必要な推論を必要とする。
本稿では,RGLT(Retrieval Grounding Latent Reasoning)を提案する。
推論集約型検索ベンチマークの実験は、RGLTが強いベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-08-14T09:08:03Z) - Generative Universal Multimodal Retrieval with Dual-role Identifiers [1.0981910170846492]
本稿ではDrIGを提案する。DrIGはDual-role Identifierを特徴とするユニバーサルマルチモーダル検索のための新しい生成フレームワークである。
DrIGは、多種多様なタスクにまたがって、最先端のマルチモーダルベースラインを一貫して上回り、一方、ハイブリッドリグレードは、強い高密度レトリバーに対して好適な効率効率効率のトレードオフを実現する。
論文 参考訳(メタデータ) (2026-08-13T09:10:09Z) - Learning from Failures: Retrieval-Centric CoT via Hard Negatives for Unified Multimodal Retrieval [17.695551248974215]
UniME-R1は、最初に検索された候補を推論することを学ぶ組込みアドバイザフレームワークである。
UniME-R1は、強いベースライン上での検索性能を一貫して改善する。
論文 参考訳(メタデータ) (2026-08-06T14:04:56Z) - WhisperRec: Latent Reasoning for Efficient Foundation Recommendation Models [51.88075626243057]
基礎推薦モデル(FRM)のための効率的な潜在推論フレームワークであるWhisperRecを提案する。
WhisperRecは教師生成のChain-of-Thought(CoT)を学習可能な潜在推論トークンに圧縮する。
WhisperRecは明示的なCoT法と従来のベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-07-29T08:48:35Z) - PLUME: Latent Reasoning Based Universal Multimodal Embedding [52.35354073629127]
ユニバーサルマルチモーダル埋め込み(UME)は、異種入力を単一のモデルで共有検索空間にマッピングする。
最近のアプローチでは、埋め込みを抽出する前に明確なチェーン・オブ・シント(CoT)論理を生成することにより、UMEを改善している。
PLUMEは,言語化されたCoTを連続的潜伏状態の短時間の自己回帰ロールアウトに置き換えることで,UMEを進化させる潜在的推論フレームワークである。
論文 参考訳(メタデータ) (2026-04-02T14:04:53Z) - Search-R2: Enhancing Search-Integrated Reasoning via Actor-Refiner Collaboration [49.9937230730202]
本稿では,新たなアクター・リファイナ・コラボレーション・フレームワークであるSearch-R2を提案する。
提案手法は,生成過程をアクターに分解し,最初の推論軌道を生成する。
本稿では,検索-R2がモデルスケール全体にわたって強力なRAGとRLベースのベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-02-03T15:32:09Z) - Reinforced Efficient Reasoning via Semantically Diverse Exploration [73.41112984160992]
検証可能な報酬(RLVR)による強化学習は,大規模言語モデル(LLM)の推論の強化に有効であることが証明された。
本研究では,LLMのための意味的多様性探索,すなわちROSEによる効率的な推論手法を提案する。
本手法は,意味エントロピーに基づく分岐戦略と$varepsilon$-exploration機構を組み込んだものである。
論文 参考訳(メタデータ) (2026-01-08T15:56:44Z) - Adversarial Yet Cooperative: Multi-Perspective Reasoning in Retrieved-Augmented Language Models [72.4149653187766]
本稿ではAdrialversa Reasoning RAG(ARR)というReasoner-Verifierフレームワークを提案する。
ReasonerとVerifierは、回収された証拠を推論し、プロセス認識の利点によってガイドされながら、互いの論理を批判する。
複数のベンチマーク実験により,本手法の有効性が示された。
論文 参考訳(メタデータ) (2026-01-08T06:57:03Z) - Thinking Forward and Backward: Multi-Objective Reinforcement Learning for Retrieval-Augmented Reasoning [137.33138614095435]
Retrieval-augmented Generation (RAG) は、大規模言語モデルにおける幻覚の緩和に有効であることが証明されている。
近年、検索に基づく対話をRAGに組み込んで、リアルタイム検索による反復推論を可能にしている。
提案するBi-RARは,各中間ステップを前方方向と後方方向の両方で共同で評価する,新たな検索拡張推論フレームワークである。
論文 参考訳(メタデータ) (2025-11-12T08:29:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。