論文の概要: AdaWidth: Query-Adaptive Embedding Width for Dense Retrieval
- arxiv url: http://arxiv.org/abs/2608.23862v1
- Date: Mon, 24 Aug 2026 22:10:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.643451
- Title: AdaWidth: Query-Adaptive Embedding Width for Dense Retrieval
- Title（参考訳）: AdaWidth:Dense Retrieval用のクエリ適応型埋め込みウィジェット
- Abstract要約: 我々はAdaWidthを導入し、共有プレフィックス表現内の各クエリに評価された次元の数を適応させる。
AdaWidthは、クエリあたりの次元を55%から84%減らして、最先端の次元削減のNDCG@10と一致する。
- 参考スコア（独自算出の注目度）: 0.7770535067924795
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: High-dimensional embeddings are central to dense retrieval, but not all of these dimensions need to be evaluated at retrieval time. Existing methods reduce dimensions in two ways: truncating the same leading dimensions for every query, or masking a different subset for each query while still storing and accessing the full embedding. Yet queries within a single task differ widely in the number of dimensions they need for their rankings to stabilize. We introduce AdaWidth, which adapts the number of evaluated dimensions to each query within a shared prefix representation. An orthogonal prefix adapter applies a single learned rotation to queries and documents alike, concentrating discriminative signal in leading coordinates while leaving every full width inner product unchanged. A lightweight router then reads order statistics off the ranking a query has already produced, and evaluates more dimensions only for the queries whose top results would change. We further derive a prefix sufficiency analysis showing that the required number of dimensions is set by the competing documents at the retrieval cutoff: it grows logarithmically with corpus size, decreases logarithmically with retrieval depth, and remains heavy-tailed across queries. Across six retrieval tasks and five frozen encoders, AdaWidth matches the NDCG@10 of state-of-the-art dimensionality reduction using 55% to 84% fewer dimensions per query.
- Abstract（参考訳）: 高次元埋め込みは高密度検索の中心であるが、これらすべての次元を検索時に評価する必要はない。
既存のメソッドでは、クエリ毎に同じリードディメンションをトラッピングするか、クエリ毎に異なるサブセットをマスキングし、完全な埋め込みを保存およびアクセスする、という2つの方法がある。
しかし、単一のタスク内のクエリは、ランク付けの安定化に必要な次元数で大きく異なる。
我々はAdaWidthを導入し、共有プレフィックス表現内の各クエリに評価された次元の数を適応させる。
直交プレフィックスアダプタは、クエリやドキュメントも同様に単一の学習された回転を施し、すべての全幅の内積をそのまま残しながら、先頭座標における識別的信号に集中する。
軽量ルータは、すでに生成したクエリのランキングから順序統計を読み出し、上位結果が変更されるクエリに対してのみ、より多くの次元を評価する。
さらに,検索カットオフ時に要求される寸法が競合する文書によって設定されていること,コーパスサイズと対数的に増加し,検索深度と対数的に減少し,クエリ間で重み付けされたままであることを示す。
AdaWidthは6つの検索タスクと5つの凍結エンコーダにまたがって、55%から84%のクエリで、最先端の次元削減のNDCG@10と一致する。
関連論文リスト
- Retrieve Only Relevant Tables Whether Few or Many: Adaptive Table Retrieval Method [49.38787814788666]
既存のテーブル検索アプローチでは、クエリに最も近いkテーブルの事前決定セットを選択する。
必要なテーブルの数はクエリによって異なり、事前に知ることはできない。
本稿では,各クエリの要求に応じて検索されたテーブル数を調整する適応テーブル検索手法を提案する。
論文 参考訳（メタデータ） (2026-04-12T14:53:56Z) - LITTA: Late-Interaction and Test-Time Alignment for Visually-Grounded Multimodal Retrieval [0.0]
LITTAは、エビデンスページ検索のためのクエリ拡張中心の検索フレームワークである。
ユーザクエリが与えられた後、LITTAは大きな言語モデルを使用して補完的なクエリ変種を生成する。
拡張されたクエリからの候補は、エビデンスカバレッジを改善するために、相互のランクフュージョンを通じて集約される。
論文 参考訳（メタデータ） (2026-03-10T13:25:39Z) - Learning to Select: Query-Aware Adaptive Dimension Selection for Dense Retrieval [37.24586920652237]
クエリアウェア適応次元選択フレームワークを提案する。
まず、教師付きレバレンスラベルを用いて、埋め込み次元よりも重要な次元を構築し、次に、これらのラベルに埋め込まれた重要度スコアにクエリを埋め込むように予測器を訓練する。
推測において、予測子は、擬似関連フィードバックなしで、クエリ埋め込みのみに基づく類似性のために、ディメンションのクエリ対応サブセットを選択する。
論文 参考訳（メタデータ） (2026-02-03T09:32:21Z) - Statistical Foundations of DIME: Risk Estimation for Practical Index Selection [20.096777655785736]
最近提案されたDIMEは、埋め込みのインフォメーションコンポーネントを特定するためのクエリ依存スコアを提供する。
我々の研究は統計的に定位された基準を提供し、推論時に各クエリに対して最適な次元の集合を直接識別する。
論文 参考訳（メタデータ） (2026-01-09T09:11:05Z) - Hierarchical Retrieval: The Geometry and a Pretrain-Finetune Recipe [42.35197658021889]
一致するクエリとドキュメントのペアを類似したベクトル表現に埋め込んだデュアルエンコーダ(DE)モデルは、情報検索に広く利用されている。
本稿では,階層的検索(HR)の文脈において,文書集合が階層構造を持ち,クエリに適合する文書がすべてその祖先であるような制約について検討する。
近い文書の性能を犠牲にすることなく、長距離検索を大幅に改善するプレトレインファインチューンレシピを提案する。
論文 参考訳（メタデータ） (2025-09-19T20:35:58Z) - Reasoning-enhanced Query Understanding through Decomposition and Interpretation [87.56450566014625]
ReDIは、分解と解釈によるクエリ理解のための推論強化アプローチである。
我々は,大規模検索エンジンから実世界の複雑なクエリの大規模データセットをコンパイルした。
BRIGHT と BEIR の実験により、ReDI はスパースと密度の高い検索パラダイムの両方において、強いベースラインを一貫して超えることを示した。
論文 参考訳（メタデータ） (2025-09-08T10:58:42Z) - Chain of Retrieval: Multi-Aspect Iterative Search Expansion and Post-Order Search Aggregation for Full Paper Retrieval [68.71038700559195]
The Chain of Retrieval (COR) is a novel repeaterative framework for full-paper search。
SCIBENCH(SCIBENCH)は、クエリと候補のための全論文の完全なコンテキストとセグメント化されたコンテキストを提供するベンチマークである。
論文 参考訳（メタデータ） (2025-07-14T08:41:53Z) - Database-Augmented Query Representation for Information Retrieval [71.41745087624528]
データベース拡張クエリ表現(DAQu)と呼ばれる新しい検索フレームワークを提案する。
DAQuは、元のクエリを複数のテーブルにまたがるさまざまな(クエリ関連の)メタデータで拡張する。
我々はDAQuを多様な検索シナリオで検証し、全体の検索性能を大幅に向上させることを示した。
論文 参考訳（メタデータ） (2024-06-23T05:02:21Z) - How Does Generative Retrieval Scale to Millions of Passages? [68.98628807288972]
各種コーパス尺度における生成的検索手法の実証的研究を行った。
我々は8.8Mパスのコーパスで数百万のパスに生成検索をスケールし、モデルサイズを最大11Bパラメータまで評価する。
生成的検索は、小さなコーパス上の最先端のデュアルエンコーダと競合するが、数百万のパスへのスケーリングは依然として重要で未解決の課題である。
論文 参考訳（メタデータ） (2023-05-19T17:33:38Z) - Query Resolution for Conversational Search with Limited Supervision [63.131221660019776]
本稿では,双方向トランスフォーマに基づくニューラルクエリ解決モデルQuReTeCを提案する。
我々はQuReTeCが最先端モデルより優れており、また、QuReTeCのトレーニングに必要な人為的なデータ量を大幅に削減するために、我々の遠隔監視手法が有効であることを示す。
論文 参考訳（メタデータ） (2020-05-24T11:37:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。