論文の概要: Retrieval Grounding Latent Reasoning for Dense Retrieval
- arxiv url: http://arxiv.org/abs/2608.14107v1
- Date: Fri, 14 Aug 2026 09:08:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.334592
- Title: Retrieval Grounding Latent Reasoning for Dense Retrieval
- Title(参考訳): 深度検索のための検索接地潜時推論
- Abstract要約: 推論集約的な検索は、与えられた命令の下で関連性を決定するのに必要な推論を必要とする。
本稿では,RGLT(Retrieval Grounding Latent Reasoning)を提案する。
推論集約型検索ベンチマークの実験は、RGLTが強いベースラインを一貫して上回っていることを示している。
- 参考スコア(独自算出の注目度): 30.66182684102075
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reasoning-intensive retrieval requires text representations to capture not only semantic similarity, but also the reasoning needed to determine relevance under a given retrieval instruction. Existing reasoning-enhanced embedding models improve retrieval by incorporating reasoning information into dense representations, yet their supervision is typically dominated by the final retrieval objective. As a result, latent reasoning trajectories may learn shortcut reasoning patterns that preserve retrieval performance without producing meaningful incremental retrieval gains. We propose Retrieval Grounding Latent Reasoning (RGLT), a latent reasoning framework for dense retrieval that explicitly connects intermediate latent transitions with retrieval improvements. RGLT performs non-autoregressive reasoning in hidden space through an instruction-conditioned latent reasoning trajectory constructed from silent tokens. It combines process-supervised explicit-to-implicit distillation with retrieval-grounded supervision, using stage-wise CoT reconstruction to shape intermediate latent states and retrieval-effect credit to optimize incremental retrieval gains across the latent reasoning trajectories. Experiments on reasoning-intensive retrieval benchmarks show that RGLT consistently outperforms strong baselines while preserving efficient embedding inference.
- Abstract(参考訳): 推論集約的な検索は、意味的類似性だけでなく、与えられた検索命令の下で関連性を決定するのに必要な推論を捉えるために、テキスト表現を必要とする。
既存の推論強化埋め込みモデルは、推論情報を高密度表現に組み込むことで、検索を改善するが、それらの監督は、通常、最終的な検索目的によって支配される。
その結果、潜在推論軌跡は、有意義な漸進的検索ゲインを発生させることなく、検索性能を保ったショートカット推論パターンを学習することができる。
RGLT(Retrieval Grounding Latent Reasoning)は、高密度検索のための潜在的推論フレームワークである。
RGLTは、無声トークンから構築された命令条件付き潜在推論軌道を介して隠れ空間で非自己回帰推論を行う。
プロセスが指示する明示的な蒸留と、段階的にCoTを再構築して中間の潜伏状態と検索効果クレジットを形成し、潜伏する推理軌道を横断する漸進的な検索ゲインを最適化する。
推論集約型検索ベンチマークの実験では、RGLTは効率的な埋め込み推論を保ちながら、強いベースラインを一貫して上回っている。
関連論文リスト
- Reason What Matters: Retrieval-Grounded Reasoning for Universal Multimodal Embeddings [18.705254311226565]
Retrieval-Aware Self-Distillation (RASD) は、入力支援された証拠から特権化されたガイダンスを構築し、正の項目を検索された強陰性と区別する。
検索適応推論(RAI)は、部分CoTの残りの検索ユーティリティを推定するために、検索信頼ヘッドを使用する。
ReWAMは、競合する明示的CoT UME法の推論スループットを最大5倍にし、最先端の検索性能を実現する。
論文 参考訳(メタデータ) (2026-09-14T09:48:05Z) - WhisperRec: Latent Reasoning for Efficient Foundation Recommendation Models [51.88075626243057]
基礎推薦モデル(FRM)のための効率的な潜在推論フレームワークであるWhisperRecを提案する。
WhisperRecは教師生成のChain-of-Thought(CoT)を学習可能な潜在推論トークンに圧縮する。
WhisperRecは明示的なCoT法と従来のベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-07-29T08:48:35Z) - R$^2$-Searcher: Calibrating Retrieval and Reasoning Boundaries for Agentic Search [59.034878430183305]
R$2$-Searcherは、検索と推論の境界を明示的に探索し、校正する。
R$2$-Searcherは,解答精度と検索品質において,最先端のエージェント検索法よりも優れていることを示す。
論文 参考訳(メタデータ) (2026-06-26T19:44:34Z) - ReGuLaR: Relation-Grounded Latent Reasoning for Large Vision-Language Models [5.030873315667928]
思考の連鎖(CoT)推論は、自然言語の中間的推論ステップを言語化することによって、大きな視覚言語モデル(LVLM)の推論能力を大幅に向上させた。
最近の研究は、推論を連続的な潜在空間に移すことによって、この制限に対処している。
ReGuLaRは、視覚的証拠に潜伏状態を明確に根拠付ける潜在状態推論フレームワークである。
論文 参考訳(メタデータ) (2026-05-28T21:34:40Z) - LaSER: Internalizing Explicit Reasoning into Latent Space for Dense Retrieval [74.72139580745511]
LaSERは、レトリバーの潜在空間に明示的な推論を内部化する、新しい自己蒸留フレームワークである。
提案手法は, 明示的なCoTパイプラインの推論深度と, 標準的な高密度検索器の推論効率をうまく組み合わせる。
論文 参考訳(メタデータ) (2026-03-02T04:11:18Z) - Reasoning-Augmented Representations for Multimodal Retrieval [27.4146940988752]
Universal Multimodal Retrieval (UMR) は、テキストと視覚を横断する任意の検索を求める。
画像が“サイレント”なエビデンスを持ち、クエリがキーセマンティクスを暗黙的に残す場合、単一の埋め込みパスは理由と圧縮の両方でなければならない。
本稿では、検索前の推論を外部化することで、これらの役割を分離するデータ中心のフレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-06T19:01:54Z) - ReGuLaR: Variational Latent Reasoning Guided by Rendered Chain-of-Thought [49.203970812338916]
明示的な推論連鎖は、かなりの計算冗長性をもたらす。
近年の潜時推論法は、推理過程を潜時空間に圧縮することによりこれを緩和しようとする。
我々はRendered CoT-Guided Variational Latent Reasoning (ReGuLaR)を提案する。
論文 参考訳(メタデータ) (2026-01-30T17:08:06Z) - Reinforced Efficient Reasoning via Semantically Diverse Exploration [73.41112984160992]
検証可能な報酬(RLVR)による強化学習は,大規模言語モデル(LLM)の推論の強化に有効であることが証明された。
本研究では,LLMのための意味的多様性探索,すなわちROSEによる効率的な推論手法を提案する。
本手法は,意味エントロピーに基づく分岐戦略と$varepsilon$-exploration機構を組み込んだものである。
論文 参考訳(メタデータ) (2026-01-08T15:56:44Z) - Directional Attractors in LLM Reasoning: How Similarity Retrieval Steers Iterative Summarization Based Reasoning [0.0]
InftyThink with Cross-Chain Memoryは、以前成功した推論パターンの埋め込みベースのセマンティックキャッシュで反復推論を強化する拡張である。
実験により、意味補題検索は、不均一なドメインを含むテストにおいて、障害モードを露呈しながら、構造化ドメインの精度を向上させることが示された。
論文 参考訳(メタデータ) (2025-12-22T00:26:54Z) - ClueAnchor: Clue-Anchored Knowledge Reasoning Exploration and Optimization for Retrieval-Augmented Generation [82.54090885503287]
Retrieval-Augmented Generationは、外部知識を持つ大規模言語モデルを拡張して、事実性を改善する。
既存のRAGシステムは、忠実で解釈可能な推論をサポートするために必要な重要な手がかりを抽出して統合することができない。
本稿では,手掛かり付き推論探索と最適化によるRAG向上のための新しいフレームワークであるClueAnchorを提案する。
論文 参考訳(メタデータ) (2025-05-30T09:18:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。