論文の概要: DecisionRank: On-Policy Distillation for Decision-Model Rerankers
- arxiv url: http://arxiv.org/abs/2610.42128v1
- Date: Fri, 30 Oct 2026 17:56:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.864424
- Title: DecisionRank: On-Policy Distillation for Decision-Model Rerankers
- Title(参考訳): DecisionRank: 決定モデルリランカのためのオン・ポリシィ蒸留
- Abstract要約: オンライン蒸留(OPD)を通じて学習した意思決定モデルであるDecisionRankを紹介する。
アイテムスペースOPDは、文書のスコアをランク付けシーケンスにソートすることで、学生のロールアウトを構成する。
生成教師は、結果のランキングリストを入力として、それらのスコアを直接監督する条件フィードバックを提供する。
DecisionRank は TREC DL,BEIR,BRIGHT などの一般および推論集約型検索ベンチマーク上で,最先端のパフォーマンスを実現している。
- 参考スコア(独自算出の注目度): 38.30809563448002
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Decision models target structured tasks by directly predicting choices or scores, avoiding autoregressive decoding latency. However, transferring a generative LLM's ranking knowledge to a decision model remains challenging: the teacher expresses preferences through a ranked list of document ID sequences, while the student determines the ranking using scores from the first-token position. To bridge this gap, we introduce DecisionRank, a decision model trained through item-space on-policy distillation (OPD). Item-space OPD constructs the student's rollout by sorting its document scores into a ranked sequence. A generative teacher takes the resulting ranking list as inputs and provides conditional feedback to directly supervise those scores. Combined with offline ranking supervision, DecisionRank achieves state-of-the-art performance on both general and reasoning-intensive retrieval benchmarks such as TREC DL, BEIR, and BRIGHT. Across four benchmarks, item-space OPD consistently outperforms alternative training objectives. Even at 1.7B parameters, DecisionRank surpasses its 27B generative teacher on TREC DL19--23. At 8B, it outperforms its generative listwise counterpart while running $24.5\times$ faster on TREC DL and $16.7\times$ faster on BRIGHT.
- Abstract(参考訳): 決定モデルは、選択やスコアを直接予測することで構造化されたタスクをターゲットにし、自動回帰復号遅延を回避する。
しかし、生成的LCMのランキング知識を意思決定モデルに転送することは依然として困難であり、教師は文書IDシーケンスのランキングリストを通じて好みを表現し、学生は最初の位置からスコアを用いてランキングを決定する。
このギャップを埋めるために、我々は、アイテム空間のオンライン蒸留(OPD)を通じて訓練された決定モデルであるDecisionRankを紹介する。
アイテムスペースOPDは、文書のスコアをランク付けシーケンスにソートすることで、学生のロールアウトを構成する。
生成教師は、結果のランキングリストを入力として、それらのスコアを直接監督する条件フィードバックを提供する。
DecisionRankは、オフラインのランキング管理と組み合わせて、TREC DL、BEIR、BRIGHTといった一般および推論集約型のベンチマークで最先端のパフォーマンスを達成する。
4つのベンチマークで、アイテムスペースOPDは、代替のトレーニング目標よりも一貫して優れています。
1.7B のパラメータであっても、DecisionRank は TREC DL19--23 で27B の生成教師を上回っている。
8Bでは、TREC DLで24.5\times$、BRIGHTで16.7\times$を高速で実行しながら、ジェネレーティブなリストワイドを上回ります。
関連論文リスト
- BOUND: Brief-Guided Corrective Preference Distillation at Search-Control Boundaries [82.41764922522565]
BOUNDは、永続的な探索ドリフトのための短いガイド付き修正選好蒸留フレームワークである。
Trajectory SFT は Bamboogle で 5.6 EM 、BrowseComp-Plus で 4.8 の精度で上回っている。
論文 参考訳(メタデータ) (2026-08-09T15:32:16Z) - On-Policy Distillation with Best-of-N Teacher Rollout Selection [54.91780727674628]
本報告では, オンライン蒸留のためのベスト・オブ・Nロールアウト教員選抜フレームワークBRTSを提案する。
BRTSは、教師軌道から構築された教師コンテキスト管理ブランチで、標準の学生コンテキストOPDを強化する。
BRTSは、挑戦的な推論ベンチマークにおいて、標準的なPDよりも改善されており、より難しいデータセットに対して最大の利益がある。
論文 参考訳(メタデータ) (2026-05-10T19:49:00Z) - One Pass, Any Order: Position-Invariant Listwise Reranking for LLM-Based Recommendation [2.5827686695037335]
大規模言語モデル(LLM)は、再ランク付けにますます使用されるが、それらのリストワイズ予測は、候補が提示される順序に依存する可能性がある。
これにより、セットベースのレコメンデーションとデコーダのみのLLMのシーケンスベースの計算のミスマッチが生成される。
InvariRankは、アーキテクチャレベルでこの依存に対処する置換不変なリストワイド・リグレード・フレームワークである。
論文 参考訳(メタデータ) (2026-04-30T08:49:44Z) - HLTCOE Evaluation Team at TREC 2025: VQA Track [76.85337417923331]
HLT評価チームはTREC VQAのAnswer Generation (AG)タスクに参加した。
回答生成における意味的精度とランキングの整合性を改善することを目的としたリストワイズ学習フレームワークを開発した。
論文 参考訳(メタデータ) (2025-12-08T17:25:13Z) - OG-Rank: Learning to Rank Fast and Slow with Uncertainty and Reward-Trend Guided Adaptive Exploration [5.524931642256774]
臨床医は、リアルタイムで機能し、選択を正当化するランキングシステムが必要です。
OG-Rank は単復号器方式で、プールされた第一音素信号と不確実な説明ステップとをペアリングする。
モデルは、全ての候補を1回のパスでスコア付けし、リストが真に曖昧である場合にのみ、短い構造化された論理を生成する。
論文 参考訳(メタデータ) (2025-10-20T15:00:02Z) - ERank: Fusing Supervised Fine-Tuning and Reinforcement Learning for Effective and Efficient Text Reranking [33.25740773392183]
ERankは、多種多様な関連シナリオにまたがるLLMから構築された、非常に効率的で効率的なポイントワイド・リランカである。
スーパーバイザードファインチューニング(SFT)から始まる新しい2段階トレーニングパイプラインを提案する。
この段階では、二進ラベルを超えてモデルを生成的に訓練し、微粒な整数スコアを出力し、妥当性の識別を大幅に向上させる。
BRIGHT, FollowIR, TREC DL, BEIRベンチマークにおけるERankリランカの評価を行い, 既存手法と比較して優れた有効性と堅牢性を示した。
論文 参考訳(メタデータ) (2025-08-30T14:56:53Z) - ReasonRank: Empowering Passage Ranking with Strong Reasoning Ability [83.16850534680505]
本稿では,自動推論集約型トレーニングデータ合成フレームワークを提案する。
自己整合性データフィルタリング機構は、データ品質を保証するために設計されている。
トレーニングされた推論集約型リランカ textbfReasonRank は,BRIGHT のリーダボード上での最先端 (SOTA) のパフォーマンス40.6 を達成する。
論文 参考訳(メタデータ) (2025-08-09T17:26:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。