論文の概要: Non-negative Elastic Net Decoding for Information Retrieval
- arxiv url: http://arxiv.org/abs/2606.17910v1
- Date: Tue, 16 Jun 2026 13:32:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-17 17:15:32.454372
- Title: Non-negative Elastic Net Decoding for Information Retrieval
- Title(参考訳): 情報検索のための非負弾性ネットデコーディング
- Authors: Koki Okajima, Yasutoshi Ida, Tsukasa Yoshida, Yasuaki Nakamura,
- Abstract要約: 非負の弾性ネット(NNN)デコーディングを提案し,非負の線形結合としてクエリ埋め込みを共同で再構築する文書を選択する。
我々の研究は、内積スコアリングの標準的実践を超えて、情報検索に密着した埋め込みを活用するための新しいパラダイムを確立します。
- 参考スコア(独自算出の注目度): 5.539128209356211
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Dense retrieval has become the dominant paradigm in information retrieval, in which each document is scored against a query by the inner product of their vector embeddings, and the top-$k$ documents by score are retrieved for this query. However, since each document's score depends solely on the embedding of the query and itself, the retrieval process is oblivious to the content of the entire corpus. Therefore, dense retrieval cannot avoid selecting semantically similar documents from the corpus, which may result in a non-diverse, redundant set of retrieved documents. To this end, we approach retrieval as a joint decoding problem, in which documents are selected as a set with regard to the context of the rest of the corpus. To achieve this, we propose Non-Negative elastic Net (NNN) decoding, which selects documents whose embeddings jointly reconstruct the query embedding as a sparse non-negative linear combination. Our main theoretical result establishes a strict separation between dense retrieval and NNN decoding. For any corpus, every query correctly handled by dense retrieval is also handled by NNN decoding, while on corpora containing correlated documents, NNN decoding additionally handles queries that dense retrieval cannot. Experimental results indicate that applying NNN decoding to frozen embeddings trained for inner-product scoring yields consistent improvements across several benchmarks. Moreover, we introduce an end-to-end training procedure which optimizes the embeddings for NNN decoding, producing significant performance gains surpassing in all metrics and benchmarks compared to dense retrieval. Our work establishes a new paradigm for leveraging dense embeddings in information retrieval, beyond the standard practice of inner-product scoring.
- Abstract(参考訳): デンス検索は情報検索において支配的なパラダイムとなり、各文書はベクトル埋め込みの内部積によってクエリに対してスコアされ、このクエリに対して上位の$kのドキュメントが検索される。
しかし、各文書のスコアはクエリの埋め込みとそれ自身にのみ依存するため、検索プロセスはコーパス全体の内容に依存しない。
したがって、厳密な検索は、コーパスから意味論的に類似した文書を選択することを避けることはできない。
そこで本稿では,コーパスの他のコンテキストに関して,文書を集合として選択する共同復号問題として検索にアプローチする。
これを実現するために,非負の弾性ネット(NNN)デコーディングを提案する。
我々の理論的な結果は、高密度検索とNNN復号の厳密な分離を確立している。
あらゆるコーパスに対して、密検索によって正しく処理される全てのクエリは、NNNデコードによって処理される一方、関連ドキュメントを含むコーパスでは、密検索ができないクエリをNNNデコードで処理する。
実験結果から,NNNデコーディングを内積評価のために訓練した凍結埋め込みに適用すると,複数のベンチマークで一貫した改善が得られた。
さらに,NNNデコーディングの埋め込みを最適化するエンドツーエンドのトレーニング手法を導入する。
我々の研究は、内積スコアリングの標準的実践を超えて、情報検索に密着した埋め込みを活用するための新しいパラダイムを確立します。
関連論文リスト
- Chain of Retrieval: Multi-Aspect Iterative Search Expansion and Post-Order Search Aggregation for Full Paper Retrieval [68.71038700559195]
The Chain of Retrieval (COR) is a novel repeaterative framework for full-paper search。
SCIBENCH(SCIBENCH)は、クエリと候補のための全論文の完全なコンテキストとセグメント化されたコンテキストを提供するベンチマークである。
論文 参考訳(メタデータ) (2025-07-14T08:41:53Z) - Logical Consistency is Vital: Neural-Symbolic Information Retrieval for Negative-Constraint Queries [36.93438185371322]
現在の密集した検索者は、類似性を埋め込むことで、コーパス内の関連文書を検索する。
本研究では,ニューラルシンボリックな情報検索手法である textbfNS-IR を提案し,ナイーブな自然言語の埋め込みを最適化する。
実験により、NS-IRは、Web検索および低リソース検索タスクにおいて、より優れたゼロショット検索性能が得られることを示した。
論文 参考訳(メタデータ) (2025-05-28T12:37:09Z) - Learning Refined Document Representations for Dense Retrieval via Deliberate Thinking [58.69615583599489]
Deliberate Thinking based Retriever (Debater) は、段階的な思考プロセスを導入することで文書表現を強化する新しいアプローチである。
Debaterは、いくつかのベンチマークで既存のメソッドよりも大幅に優れています。
論文 参考訳(メタデータ) (2025-02-18T15:56:34Z) - Cognitive-Aligned Document Selection for Retrieval-augmented Generation [2.9060210098040855]
本稿では,クエリを動的に更新し,高品質で信頼性の高い検索文書をフィルタリングするGGatrievalを提案する。
ユーザクエリを構文コンポーネントにパースし、検索したドキュメントときめ細かいグラウンドアライメントを実行する。
提案手法では,検索した文書をフィルタリングするための新しい基準を導入し,ターゲット情報を取得するための人的戦略を密にエミュレートする。
論文 参考訳(メタデータ) (2025-02-17T13:00:15Z) - Generative Retrieval as Multi-Vector Dense Retrieval [71.75503049199897]
生成検索は、文書の識別子をエンドツーエンドで生成する。
それまでの研究は、原子識別子による生成的検索が単一ベクトル密度検索と等価であることを示した。
生成的検索と多ベクトル高密度検索は,文書の問合せに対する関連性を測定するのと同じ枠組みを共有していることを示す。
論文 参考訳(メタデータ) (2024-03-31T13:29:43Z) - Dense X Retrieval: What Retrieval Granularity Should We Use? [56.90827473115201]
しばしば見過ごされる設計選択は、コーパスが索引付けされる検索単位である。
本稿では,高密度検索のための新しい検索ユニット,命題を提案する。
実験により、提案のような細粒度単位によるコーパスのインデックス付けは、検索タスクにおける通過レベル単位を著しく上回っていることが明らかとなった。
論文 参考訳(メタデータ) (2023-12-11T18:57:35Z) - Improving Query Representations for Dense Retrieval with Pseudo
Relevance Feedback [29.719150565643965]
本稿では,疑似関連性フィードバック(PRF)を用いて高密度検索のためのクエリ表現を改善する新しいクエリエンコーダであるANCE-PRFを提案する。
ANCE-PRF は BERT エンコーダを使用し、検索モデルである ANCE からクエリとトップ検索されたドキュメントを消費し、関連ラベルから直接クエリの埋め込みを生成する。
PRFエンコーダは、学習された注意機構でノイズを無視しながら、PRF文書から関連および補完的な情報を効果的にキャプチャする。
論文 参考訳(メタデータ) (2021-08-30T18:10:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。