論文の概要: Re$^3$Rank: Listwise Reranking with Reasoning-Conditioned Retrieval Heads
- arxiv url: http://arxiv.org/abs/2611.02550v1
- Date: Mon, 02 Nov 2026 05:24:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.566802
- Title: Re$^3$Rank: Listwise Reranking with Reasoning-Conditioned Retrieval Heads
- Title(参考訳): Re$3$Rank: Reasoning-Conditioned Retrieval Heads
- Abstract要約: 推論条件付き検索ヘッド(RRHeads)上に構築されたリストワイズリランカであるRe$3$Rankを提案する。
ジェネレータはまず、質問と候補に関する推論トレースを書き、スコアラは、いくつかの選択されたRRHeadsのアテンションクエリとしてトレーストークンを使用する。
- 参考スコア(独自算出の注目度): 25.46120010810895
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Attention-based rerankers score each candidate by the attention mass that retrieval heads route to it from the question, but the question, serving as a fixed query, carries limited information for locating relevant evidence. We propose Re$^3$Rank, a listwise reranker built on reasoning-conditioned retrieval heads (RRHeads). A generator first writes a reasoning trace over the question and the candidates, and a scorer then uses the trace tokens as the attention query of a few selected RRHeads, reading relevance as continuous scores. We present a straight-through estimator to propagate the ranking loss through the discrete trace, so that the generator and the scorer can be trained jointly for ranking. Averaged over 9 benchmarks, Re$^3$Rank outperforms 11 baseline rerankers: our 4B variant exceeds the strongest baseline by 3.11 NDCG@10 points on average, and even our 0.6B variant surpasses rerankers with up to 32B parameters.
- Abstract(参考訳): アテンションベースのリランカーは、質問からそれへのルートを検索するアテンションマスによって各候補をスコアするが、その質問は、一定のクエリとして、関連する証拠を見つけるための限られた情報を持っている。
本稿では、推論条件付き検索ヘッド(RRHeads)上に構築されたリストワイズリランカであるRe$3$Rankを提案する。
ジェネレータはまず質問と候補に関する推論トレースを書き、スコアラはトレーストークンをいくつかの選択されたRRHeadsのアテンションクエリとして使用し、関連性を読み取る。
離散トレースを用いてランキング損失を伝搬するストレートスルー推定器を提案する。
平均9ベンチマークでは、Re$^3$Rankは11のベースラインリランカより優れています。
関連論文リスト
- Agentic RAG Evaluation: Budget Allocation Across Questions, Trajectories, and Reads [0.49644055902166656]
エージェント検索強化世代における評価予算は、質問、探索軌跡、繰り返し回答にまたがる。
我々はHotpotQAとMuSiQueの検索フィードバック比較を用いて、割当精度、読み出し効率、コスト境界を測定する。
論文 参考訳(メタデータ) (2026-10-04T07:55:34Z) - Rank-Deviation Quality: A Distance-Aware Metric for Multi-Answer Retrieval and Ranking Evaluation [51.55909067323666]
Rank-Deviation Quality (RDQ) は、検索およびランキングシステムの評価指標である。
検索された基準項目はそれぞれ、ランクずれペナルティによって乗算された出力位置重みに寄与する。
RDQは順序付きランキングで動作し、アノテータはペアワイドまたはリストワイドの判断によって生成することができる。
論文 参考訳(メタデータ) (2026-08-26T03:00:18Z) - Recursive Agentic Reasoning [4.7490116928645065]
反復精製、分解、繰り返しサンプリングといったテスト時間推論手法は、しばしば分離して評価される。
エージェントの推論トレース上の再帰演算子として,これらの手法の統一ビューを導入する。
同一のプロンプト、トークン予算、グレーディングコードを持つ共有ハーネスの下で、3つの演算子全てをシングルパスチェーン・オブ・ソートベースラインに対して評価する。
論文 参考訳(メタデータ) (2026-08-25T01:34:08Z) - Difficulty-Gated Fusion of Reasoning Views for Temporal Retrieval [22.82938587928396]
推論集約的な時間的検索は、共有時間的推論に依存している文書とクエリをマッチングする必要がある。
そこで本研究では,問合せに難渋した推論ビューの融合を提案する。
論文 参考訳(メタデータ) (2026-08-09T22:31:49Z) - Financial Evidence Crowding: Diagnosing and Mitigating Constraint-Induced Displacement in Retrieval-Augmented Generation [4.993768489511845]
得られたセットレベルの注文失敗を調査し、それを金融証拠集団と呼ぶ。
FinDeCrowd-Stressは一致した、互換性のない候補プールを通じて、この障害を分離する。
我々はFinDeCrowd-RAGを導入する。これは、固定関係スコアと型付き互換性と局所語彙競合を組み合わせた学習スコア補正である。
論文 参考訳(メタデータ) (2026-08-06T09:12:31Z) - Logit-Contribution Scoring Identifies Non-Literal Retrieval Heads [19.588124754970142]
我々は,OV回路出力の投射によって各頭部を解答不能な方向に向けてスコアする書き込み認識検出器であるLogit-Contribution Scoring(LOCOS)を紹介する。
NoLiMaノンリテラル検索ベンチマークの上位LOCOSヘッドを平均で比較すると、3つのモデルファミリーでROUGE-Lは従来の注意に基づく検出よりも低いカウントで崩壊する。
論文 参考訳(メタデータ) (2026-07-01T14:41:07Z) - Found in the Middle: Permutation Self-Consistency Improves Listwise Ranking in Large Language Models [63.714662435555674]
大規模言語モデル(LLM)は、文脈の使い方に位置バイアスを示す。
我々は,ブラックボックスLLMのランキングリスト出力に対して,自己整合性(permutation self-consistency)を提案する。
LLaMA v2 (70B) では GPT-3.5 では 7-18% , LLaMA v2 (70B) では 8-16% である。
論文 参考訳(メタデータ) (2023-10-11T17:59:02Z) - ReFIT: Relevance Feedback from a Reranker during Inference [109.33278799999582]
Retrieve-and-Rerankは、ニューラル情報検索の一般的なフレームワークである。
本稿では,リランカを利用してリコールを改善する手法を提案する。
論文 参考訳(メタデータ) (2023-05-19T15:30:33Z) - Self-Evaluation Guided Beam Search for Reasoning [61.523627290397556]
我々は,Large Language Model (LLM) の推論プロセスのガイドと校正を行うための段階的自己評価機構を導入する。
本稿では,ビームサーチによる自己評価ガイダンスを統合した復号アルゴリズムを提案する。
我々のアプローチは、GSM8K、AQuA、StrategyQAにおいて、対応するCodexバックボンドベースラインをわずかに精度6.34%、9.56%、および5.46%で上回る。
論文 参考訳(メタデータ) (2023-05-01T02:37:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。