論文の概要: Do Neural Retrievers Prefer Certain Documents? Evidence of Learned Relevance Priors

• arxiv url: http://arxiv.org/abs/2606.02814v1
• Date: Mon, 01 Jun 2026 19:31:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:04.566092
• Title: Do Neural Retrievers Prefer Certain Documents? Evidence of Learned Relevance Priors
• Title（参考訳）: ニューラルレトリバーは特定の文書を優先するか?
• Authors: Francisco Valentini, Edgar Altszyler, Martin Fajcik,
• Abstract要約: 教師付きバイエンコーダレトリバーが文書レベルの関連性を暗黙的に学習するかどうかを検討する。 教師付きニューラルレトリバーは、参照できないドキュメントに一般化し、モデル間で一貫性のある関連性を符号化する。 判断された関連文書は、主流トピックの包括的で自己完結した要約である傾向があり、ニッチ、断片的、あるいは非常に技術的な内容は、しばしば未判断のままである。
• 参考スコア（独自算出の注目度）: 2.5681874692250193
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural retrievers are trained to estimate query-document relevance from annotated query-document pairs. Yet annotation protocols may not purely reflect relevance: they select only a subset of documents for labeling, and this selection can favor certain document types over others. We investigate whether supervised bi-encoder retrievers implicitly learn a document-level relevance prior: a query-independent signal encoded in their representation space as a side effect of training on annotated data. We estimate this prior by training simple classifiers on frozen document embeddings and evaluate three state-of-the-art retrievers across multiple IR benchmarks. We find that supervised neural retrievers encode relevance priors that generalize to unseen documents and are consistent across models. These priors create a findability gap: documents with lower prior are systematically harder to retrieve, even when genuinely relevant. This effect appears in supervised dense retrievers but is weaker and less consistent in BM25, and it persists under controlled matched-document comparisons. Using LLM-based explanations, we find that judged-relevant documents tend to be comprehensive, self-contained summaries of mainstream topics, while niche, fragmentary, or highly technical content is often left unjudged. Retrievers internalize this bias, ranking documents with these favored features higher than documents that lack them, independently of their actual relevance. Our findings expose a structural limitation of supervised retrieval: models trained on annotated data do not just learn relevance, but also the implicit document preferences in their training data.
• Abstract（参考訳）: ニューラルレトリバーは、注釈付きクエリ-ドキュメントペアからクエリ-ドキュメント関係を推定するように訓練される。 しかし、アノテーションプロトコルは、関連性を純粋に反映するものではなく、ラベル付けのためのドキュメントのサブセットだけを選択し、この選択は、他のものよりも特定のドキュメントタイプを好む。 教師付きバイエンコーダレトリバーが文書レベルの関連性を暗黙的に学習するかどうかを,アノテーション付きデータに対するトレーニングの副作用として,その表現空間に符号化されたクエリ非依存信号について検討する。 凍結した文書埋め込みの単純な分類器を訓練し、複数のIRベンチマークで3つの最先端の検索器を評価する。 教師付きニューラルレトリバーは、参照できないドキュメントに一般化し、モデル間で一貫性のある関連性を符号化する。 これらの先行はファインダビリティのギャップを生じさせます。前の低いドキュメントは、真に関連性のあるドキュメントであっても、体系的に取得するのが困難です。 この効果は、監督された密集したレトリバーに現れるが、BM25では弱く、一貫性が低く、整合した文書比較の下で持続する。 LLMに基づく説明を用いて、判断された関連文書は、主流トピックの包括的で自己完結した要約であることが多いが、ニッチ、断片的、あるいは非常に技術的な内容は、しばしば未判断のままである。 レトリバーはこのバイアスを内包し、これらの好ましい特徴を持つ文書を実際の関連性とは無関係に、それらが欠落している文書よりも高くランク付けする。 注釈付きデータに基づいて訓練されたモデルは、関連性を学習するだけでなく、トレーニングデータにおける暗黙の文書嗜好も学習する。

関連論文リスト

• Dual-View Training for Instruction-Following Information Retrieval [9.741583305127994]
  極性反転に基づく2視点データ合成戦略を提案する。 提案手法はFollowIRベンチマークの性能を45%向上させる。
  論文  参考訳（メタデータ） (2026-04-20T21:10:29Z)
• Beyond Contrastive Learning: Synthetic Data Enables List-wise Training with Multiple Levels of Relevance [30.879299174443812]
  本研究では,実際の文書やアノテーションを定式化し,大規模な言語モデルを用いて合成文書を生成する。 MARCO と BEIR のベンチマーク実験により,提案手法は従来の InfoNCE を用いたトレーニングよりも高い性能を示した。
  論文  参考訳（メタデータ） (2025-03-29T22:33:22Z)
• Collapse of Dense Retrievers: Short, Early, and Literal Biases Outranking Factual Evidence [56.09494651178128]
  検索モデルは、Retrieval-Augmented Generation (RAG)のような情報検索(IR)アプリケーションで一般的に使用される。 我々は、Dragon+やContrieverのようなリトリーバーに対する、短いドキュメントの好みなどのバイアスの影響を定量化する。 私たちは大きな脆弱性を発見し、リトリバーが短いドキュメント、早い位置、繰り返しのエンティティ、リテラルマッチを好んで、答えの存在を無視しながら表示します。
  論文  参考訳（メタデータ） (2025-03-06T23:23:13Z)
• Learning Refined Document Representations for Dense Retrieval via Deliberate Thinking [58.69615583599489]
  Deliberate Thinking based Retriever (Debater) は、段階的な思考プロセスを導入することで文書表現を強化する新しいアプローチである。 Debaterは、いくつかのベンチマークで既存のメソッドよりも大幅に優れています。
  論文  参考訳（メタデータ） (2025-02-18T15:56:34Z)
• DAPR: A Benchmark on Document-Aware Passage Retrieval [57.45793782107218]
  我々は,このタスクemphDocument-Aware Passage Retrieval (DAPR)を提案する。 State-of-The-Art(SoTA)パスレトリバーのエラーを分析しながら、大きなエラー(53.5%)は文書コンテキストの欠如に起因する。 提案するベンチマークにより,検索システムの開発・比較を今後行うことができる。
  論文  参考訳（メタデータ） (2023-05-23T10:39:57Z)
• Improving Query Representations for Dense Retrieval with Pseudo Relevance Feedback [29.719150565643965]
  本稿では,疑似関連性フィードバック(PRF)を用いて高密度検索のためのクエリ表現を改善する新しいクエリエンコーダであるANCE-PRFを提案する。 ANCE-PRF は BERT エンコーダを使用し、検索モデルである ANCE からクエリとトップ検索されたドキュメントを消費し、関連ラベルから直接クエリの埋め込みを生成する。 PRFエンコーダは、学習された注意機構でノイズを無視しながら、PRF文書から関連および補完的な情報を効果的にキャプチャする。
  論文  参考訳（メタデータ） (2021-08-30T18:10:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。