論文の概要: Test-Time Optimization of Query Embeddings with Ranking Aware Reward Maximization
- arxiv url: http://arxiv.org/abs/2608.12569v1
- Date: Wed, 12 Aug 2026 20:24:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.31956
- Title: Test-Time Optimization of Query Embeddings with Ranking Aware Reward Maximization
- Title（参考訳）: ランク付けアウェア・リワード最大化を用いたクエリ埋め込みのテスト時間最適化
- Abstract要約: TTT-Embedは、冷凍モデルの出力埋め込み空間内の学習ベクトルにランキング報酬を蒸留するフレームワークである。
単一のスコープパラメータが再利用(グローバル、タスク、クエリ)を制御し、固定された報酬計算予算の下で再利用可能性と特異性の間の原則的なトレードオフを可能にする。
- 参考スコア（独自算出の注目度）: 13.137370980012525
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dense retrievers rank documents using vector similarity between a frozen encoder and a precomputed index. While test-time ranking rewards from a reranker or LLM judge can improve results, existing methods discard this signal after a single query. Updating the retriever's weights makes rewards reusable, but this requires parameter access, which is unavailable for closed-source models, and is computationally prohibitive. We propose TTT-Embed (Test-Time Tuning of Embeddings), a framework that distills ranking rewards into a lightweight, learned vector within the output embedding space of a frozen model. This vector is optimized purely from scalar ranking scores assigned to the retriever's own candidate documents, requiring no access to model weights, ground-truth labels, or modifications to index. A single scope parameter controls rewards reuse (global, task, or query), enabling a principled trade-off between reusability and specificity under a fixed reward computation budget. We demonstrate that as the available reward budget scales, the optimal sharing scope shifts dynamically from global-wise to task-wise and finally to query-wise. Evaluated across five embedding models and 15 MTEB retrieval tasks, TTT-Embed improves test-time retrieval by up to +8.36 nDCG@10. Crucially, the learned states generalize effectively to unseen queries (up to +8.57 nDCG@10) and unseen tasks (up to +4.71 nDCG@10). Furthermore, TTT-Embed successfully resolves catastrophic forgetting: by leaving base weights entirely frozen, it recovers degraded general capabilities (up to +8.00 nDCG@10, even surpassing the original base model) while preserving in-domain specialization. These results establish ranking rewards as a reusable test-time state, enabling budget-efficient adaptation for any embedding model, including closed-source APIs.
- Abstract（参考訳）: デンスレトリバーは、凍結エンコーダとプリ計算インデックスのベクトル類似性を用いて文書をランク付けする。
リランカやLLMの審査員によるテストタイムランキングの報酬は結果を改善することができるが、既存の方法は単一クエリの後にこの信号を破棄する。
しかし、これはパラメータアクセスが必要であり、これはクローズドソースモデルでは利用できないものであり、計算的に禁止されている。
冷凍モデルの出力埋め込み空間内において,評価報酬を軽量で学習されたベクトルに蒸留するフレームワークであるTT-Embed(Test-Time Tuning of Embeddings)を提案する。
このベクターは、検索者の候補文書に割り当てられたスカラーランキングスコアから純粋に最適化されており、モデルウェイト、グランドトラストラベル、インデックスの変更は不要である。
単一のスコープパラメータが再利用(グローバル、タスク、クエリ)を制御し、固定された報酬計算予算の下で再利用可能性と特異性の間の原則的なトレードオフを可能にする。
利用可能な報酬予算がスケールするにつれて、最適な共有範囲はグローバルワイドからタスクワイドへと動的に変化し、最後にクエリワイズへと変化することを示す。
5つの埋め込みモデルと15のMTEB検索タスクで評価され、TTT-Embedはテスト時間検索を+8.36 nDCG@10まで改善した。
重要なことに、学習された状態は、目に見えないクエリ(+8.57 nDCG@10)と見えないタスク(+4.71 nDCG@10)に効果的に一般化する。
さらに、TT-Embedは破滅的な忘れを解決し、ベースウェイトを完全に凍結することで、ドメイン内の特殊化を保ちながら、劣化した一般的な能力(+8.00 nDCG@10まで)を回復する。
これらの結果は、再利用可能なテストタイム状態としてランキング報酬を確立し、クローズドソースAPIを含む埋め込みモデルに予算効率の高い適応を可能にする。
関連論文リスト
- OrderGrad: Optimizing Beyond the Mean with Order-Statistic Policy Gradient Estimation [38.52509364819271]
OrderGradは、オーダー統計目的のための確率に基づく勾配推定器のファミリーである。
VaR、CVaR、トリミングされた手段、中央値、トップm/ベスト・オブ・Kといった目標を、ランクの重みだけを変えることで回収する。
推定器の分散挙動を推定し、平均最適化が配置目標と一致していないタスクで評価する。
論文 参考訳（メタデータ） (2026-06-04T12:34:15Z) - Test-Time Training for Zero-Resource Dense Retrieval Reranking [3.498051445282382]
既存のアプローチは基本的なジレンマに直面している。クロスエンコーダは、強いリランク品質を提供するが、高価な教師付きトレーニングと高いレイテンシを必要とする。
本稿では,DART(Dense Adaptive Re rank at Test-time)を提案する。
6つのBEIRベンチマークで、DARTはデータベース毎の相対的なNDCG@10ゲイン(+2.1%)を高密度検索ベースラインで達成し、クエリ毎のレイテンシは10ミリ秒以下である。
論文 参考訳（メタデータ） (2026-05-31T07:26:40Z) - Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳（メタデータ） (2026-04-11T10:47:22Z) - RewardRank: Optimizing True Learning-to-Rank Utility [28.662272762911325]
本稿では,RewardRankを紹介した。
この結果から, 対実的ユーティリティの直接最適化として, 学習からランクへの変換が可能であることが示唆された。
論文 参考訳（メタデータ） (2025-08-19T18:08:35Z) - Maximally-Informative Retrieval for State Space Model Generation [59.954191072042526]
テスト時に特定のクエリに対するモデル不確実性を最小化するために、Retrieval In-Context Optimization (RICO)を導入する。
文書検索に外部に依存した従来の検索強化生成(RAG)とは異なり,本手法はモデルから直接のフィードバックを利用する。
モデル勾配を用いた標準のトップ$kの検索は、最適化手順を近似し、残余損失への接続を提供することを示す。
論文 参考訳（メタデータ） (2025-06-13T18:08:54Z) - AcuRank: Uncertainty-Aware Adaptive Computation for Listwise Reranking [35.685682379377134]
大規模言語モデル (LLMs) によるリストのランク付けは、検索ベースのアプリケーションにおいて上位のランク付けされた結果を強化する。
AcuRank は文書関連性に対する不確実性推定に基づいて動的に計算量と目標を調節する適応型再ランクフレームワークである。
TREC-DLとBEIRのベンチマークの結果から,提案手法は精度・効率のトレードオフを一貫して達成し,固定計算ベースラインよりも計算能力に優れることがわかった。
論文 参考訳（メタデータ） (2025-05-24T05:15:49Z) - ReasonIR: Training Retrievers for Reasoning Tasks [139.54343970560103]
ReasonIR-8Bは一般的な推論タスクのために特別に訓練された最初のレトリバーである。
新たに29.9 nDCG@10をリランカなしで、36.9 nDCG@10をリランカで達成している。
論文 参考訳（メタデータ） (2025-04-29T09:49:28Z) - Rank-R1: Enhancing Reasoning in LLM-based Document Rerankers via Reinforcement Learning [76.50690734636477]
ランキングタスクを実行する前にユーザクエリと候補文書の両方を推論する新しいLCMベースのリランカである Rank-R1 を導入する。
TREC DL と BRIGHT データセットを用いた実験により,Ranc-R1 が特に複雑なクエリに対して非常に有効であることが判明した。
論文 参考訳（メタデータ） (2025-03-08T03:14:26Z) - Gumbel Reranking: Differentiable End-to-End Reranker Optimization [61.16471123356738]
RAGシステムは関連する文書を識別するためにリランカーに依存している。
注釈付きクエリ-ドキュメントペアが不足しているため、これらのモデルの微調整は依然として難しい。
我々は,トレーニングと推論のギャップを最小限に抑えることを目的とした,リランカーのためのエンドツーエンドのトレーニングフレームワークであるGumbel Re rankを提案する。
論文 参考訳（メタデータ） (2025-02-16T13:23:39Z) - Rank-DETR for High Quality Object Detection [52.82810762221516]
高性能なオブジェクト検出器は、バウンディングボックス予測の正確なランキングを必要とする。
本研究では, 簡易かつ高性能なDETR型物体検出器について, 一連のランク指向設計を提案して紹介する。
論文 参考訳（メタデータ） (2023-10-13T04:48:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。