論文の概要: Embedding Surgery: Localized Updates for Adaptive Ranking Correction in Dense Retrieval
- arxiv url: http://arxiv.org/abs/2609.05110v1
- Date: Fri, 04 Sep 2026 13:06:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.042183
- Title: Embedding Surgery: Localized Updates for Adaptive Ranking Correction in Dense Retrieval
- Title(参考訳): インプラント手術:Dense Retrievalにおける適応的ランク付け補正のための局所的アップデート
- Abstract要約: 密集検索における適応的ランキング補正のための軽量なアプローチであるエンケベディング手術を導入する。
この方法は、クエリ時に選択されたドキュメントの埋め込みに対して、ローカル化され最小限のアップデートを適用し、編集フィードバックやユーザインタラクション、あるいは大きな言語モデルからの擬似ラベルによってガイドされる。
埋め込み手術を標準の高密度検索パイプラインに統合し,TREC Deep Learning, TREC Robust, TREC CAsT, MS MARCOベンチマークで評価する。
- 参考スコア(独自算出の注目度): 7.977161233209229
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dense retrieval systems are core components of modern search engines, recommendation platforms, and retrieval-augmented generation pipelines. They encode documents and queries into dense embeddings, enabling efficient semantic search via vector similarity. However, because document embeddings are computed offline and stored in static indexes, these systems struggle to adapt to user feedback or evolving search intent. To address this limitation, we introduce \emph{embedding surgery}, a lightweight approach for adaptive ranking correction in dense retrieval. The method applies localized, minimal updates to selected document embeddings at query time, guided by editorial feedback, user interactions, or pseudo-labels from large language models. We formulate embedding surgery as a convex optimization problem that enforces ranking constraints while minimizing modifications to the affected document representations. We integrate embedding surgery into standard dense retrieval pipelines and evaluate it on TREC Deep Learning, TREC Robust, TREC CAsT, and MS MARCO benchmarks. Results show consistent improvements (e.g., up to +60.64\% relative improvement in nDCG@10 on DL-Hard under editorial feedback), even under noisy or shifting feedback, with low computational cost and without disrupting the global structure of the embedding space. Extensive experiments show that ranking corrections propagate to semantically related queries and that embedding updates can be applied safely and efficiently to scalable Approximate Nearest Neighbor indexes via simple in-place overwriting, without requiring costly index reconstruction. Finally, embedding surgery complements query adaptation methods such as CoRocchio, yielding additional gains while being more robust to noisy feedback.
- Abstract(参考訳): デンス検索システムは、現代の検索エンジン、レコメンデーションプラットフォーム、検索強化された生成パイプラインのコアコンポーネントである。
ドキュメントやクエリを密な埋め込みにエンコードし、ベクトル類似性による効率的なセマンティック検索を可能にする。
しかし、ドキュメントの埋め込みはオフラインで計算され静的インデックスに格納されるため、これらのシステムはユーザーのフィードバックに適応したり、検索意図を進化させるのに苦労する。
この制限に対処するために,高密度検索における適応的ランキング補正のための軽量なアプローチである 'emph{embedding surgery} を導入する。
この方法は、クエリ時に選択されたドキュメントの埋め込みに対して、ローカル化され最小限のアップデートを適用し、編集フィードバックやユーザインタラクション、あるいは大きな言語モデルからの擬似ラベルによってガイドされる。
コンベックス最適化問題として埋め込み手術を定式化し,文書表現の修正を最小化しながらランキング制約を強制する。
埋め込み手術を標準の高密度検索パイプラインに統合し,TREC Deep Learning, TREC Robust, TREC CAsT, MS MARCOベンチマークで評価する。
結果は、連続的な改善(例えば、DL-Hard上でのnDCG@10の相対的な改善+60.64\%)を示し、ノイズやシフトのフィードバックの下でも、計算コストが低く、埋め込み空間のグローバルな構造を損なわない。
広範囲な実験により、ランキング修正はセマンティック関連クエリに伝播し、埋め込み更新は、コストのかかるインデックス再構築を必要とせず、単純なインプレース上書きによるスケーラブルな近似近傍インデックスに安全かつ効率的に適用可能であることが示されている。
最後に、埋め込み手術は、CoRocchioのようなクエリ適応手法を補完し、ノイズの多いフィードバックをより堅牢にしながら、さらなるゲインを得る。
関連論文リスト
- Reward-Guided Semantic Evolution for Test-time Adaptive Object Detection [82.2968697030677]
Grounding DINOのような視覚言語モデル(VLM)を用いたオープン語彙オブジェクト検出は、テスト時間分布シフト時の性能劣化に悩まされる。
Reward-Guided Semantic Evolution (RGSE) は、テスト時にテキストの埋め込みを直接洗練するトレーニング不要のフレームワークである。
論文 参考訳(メタデータ) (2026-05-06T06:17:41Z) - A Parametric Memory Head for Continual Generative Retrieval [52.66674234249913]
生成情報検索(GenIR)は、検索を単一のニューラルモデルに統合し、クエリから直接ドキュメント識別子(ドシデント)をデコードする。
逐次適応は、新たに追加された文書の検索を改善するが、以前のスライスの性能は著しく低下することを示す。
本稿では,モジュール型パラメトリックメモリヘッドで適応モデルを拡張するメモリのみの安定化ステージである,後適応メモリチューニング(PAMT)を提案する。
論文 参考訳(メタデータ) (2026-04-25T17:38:51Z) - Align then Train: Efficient Retrieval Adapter Learning [16.855103318831073]
本稿では,自己教師付きアライメントと教師付きアライメントの2つの段階において,検索アダプタを訓練するラベル効率のフレームワークを提案する。
MAIRベンチマークの実験は、6つのドメインで126の検索タスクにまたがっており、ERAが低ラベル設定での検索を改善することを示している。
論文 参考訳(メタデータ) (2026-04-03T19:04:42Z) - Improving Document Retrieval Coherence for Semantically Equivalent Queries [63.97649988164166]
同じ文書を検索する際のモデルのコヒーレンスを改善する訓練DRにおける多段階ランク付け損失のバリエーションを提案する。
この損失は、多様だがセマンティックな等価なクエリのために検索されたトップkランクのドキュメント間の不一致を罰する。
論文 参考訳(メタデータ) (2025-08-11T13:34:59Z) - Query Drift Compensation: Enabling Compatibility in Continual Learning of Retrieval Embedding Models [18.67755359053732]
インデクシングを必要とせずに,すでにインデックス付け済みのコーパスを効果的に利用できるかを検討した。
安定性を維持するために,クエリとドキュメントの埋め込みの両方に埋込み蒸留を用いる。
本稿では,検索中に新しいクエリドリフト補償手法を提案し,新しいモデルクエリ埋め込みを従来の埋め込み空間に提案する。
論文 参考訳(メタデータ) (2025-05-27T14:52:52Z) - Gumbel Reranking: Differentiable End-to-End Reranker Optimization [61.16471123356738]
RAGシステムは関連する文書を識別するためにリランカーに依存している。
注釈付きクエリ-ドキュメントペアが不足しているため、これらのモデルの微調整は依然として難しい。
我々は,トレーニングと推論のギャップを最小限に抑えることを目的とした,リランカーのためのエンドツーエンドのトレーニングフレームワークであるGumbel Re rankを提案する。
論文 参考訳(メタデータ) (2025-02-16T13:23:39Z) - Corrective Retrieval Augmented Generation [36.04062963574603]
Retrieval-augmented Generation (RAG) は、検索された文書の関連性に大きく依存しており、検索が失敗した場合のモデルがどのように振る舞うかについての懸念を提起する。
生成の堅牢性を改善するために,CRAG(Corrective Retrieval Augmented Generation)を提案する。
CRAGはプラグアンドプレイであり、様々なRAGベースのアプローチとシームレスに結合できる。
論文 参考訳(メタデータ) (2024-01-29T04:36:39Z) - Noise-Robust Dense Retrieval via Contrastive Alignment Post Training [89.29256833403167]
Contrastive Alignment POst Training (CAPOT) は、指数再生を必要とせず、モデルロバスト性を改善する高効率な微調整法である。
CAPOTはドキュメントエンコーダを凍結することで堅牢な検索を可能にし、クエリエンコーダはノイズの多いクエリを修正されていないルートに整列させる。
MSMARCO、Natural Questions、Trivia QAパス検索のCAPOTノイズ変動を評価し、CAPOTがオーバーヘッドを伴わないデータ増大に類似した影響があることを発見した。
論文 参考訳(メタデータ) (2023-04-06T22:16:53Z) - Autoregressive Search Engines: Generating Substrings as Document
Identifiers [53.0729058170278]
自動回帰言語モデルは、回答を生成するデファクト標準として現れています。
これまでの研究は、探索空間を階層構造に分割する方法を探究してきた。
本研究では,検索空間の任意の構造を強制しない代替として,経路内のすべてのngramを識別子として使用することを提案する。
論文 参考訳(メタデータ) (2022-04-22T10:45:01Z) - Improving Query Representations for Dense Retrieval with Pseudo
Relevance Feedback [29.719150565643965]
本稿では,疑似関連性フィードバック(PRF)を用いて高密度検索のためのクエリ表現を改善する新しいクエリエンコーダであるANCE-PRFを提案する。
ANCE-PRF は BERT エンコーダを使用し、検索モデルである ANCE からクエリとトップ検索されたドキュメントを消費し、関連ラベルから直接クエリの埋め込みを生成する。
PRFエンコーダは、学習された注意機構でノイズを無視しながら、PRF文書から関連および補完的な情報を効果的にキャプチャする。
論文 参考訳(メタデータ) (2021-08-30T18:10:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。