論文の概要: Xetrieval: Mechanistically Explaining Dense Retrieval
- arxiv url: http://arxiv.org/abs/2605.29507v1
- Date: Thu, 28 May 2026 07:29:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:55.948427
- Title: Xetrieval: Mechanistically Explaining Dense Retrieval
- Title(参考訳): Xetrieval: メカニカルに説明できるDense Retrieval
- Authors: Zhixin Cai, Jun Bai, Yang Liu, Jiaqi Li, Yichi Zhang, Taichuan Li, Zhuofan Chen, Zixia Jia, Zilong Zheng, Wenge Rong,
- Abstract要約: 密集検索を説明するための埋め込み型力学フレームワークである textitXetrieval を提案する。
textitXetrievalはまず、埋め込み空間で直接Chain-of-Thought推論を近似する軽量な推論内在化器を導入する。
すると、これら推論の強化された埋め込みをスパースで人間の解釈可能な特徴に分解し、それぞれが一貫性のある自然言語記述と関連付けられている。
- 参考スコア(独自算出の注目度): 36.8058388046157
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Explaining why dense retrievers assign high relevance scores remains challenging because retrieval decisions are made through opaque high-dimensional embeddings. Existing explanations often focus on surface signals, such as lexical matches, token alignments, or post-hoc textual rationales, and thus provide limited insight into the latent factors that shape dense retrieval behavior at the embedding level. We propose \textit{Xetrieval}, an embedding-level mechanistic framework for explaining dense retrieval. \textit{Xetrieval} first introduces a lightweight reasoning internalizer that approximates Chain-of-Thought reasoning directly in the embedding space with a single forward pass, enriching sentence embeddings with reasoning-oriented information while avoiding expensive autoregressive generation. It then decomposes these reasoning-enhanced embeddings into sparse, human-interpretable features, each associated with a coherent natural language description. By aggregating sparse feature overlaps across multiple document-side views, \textit{Xetrieval} provides feature-level explanations of individual retrieval decisions. Experiments on diverse retrievers and benchmarks show that \textit{Xetrieval} uncovers coherent interpretable features, yields stronger pair-level intervention effects, and supports task-level feature steering. The project page and source code are available at https://hihiczx.github.io/Xetrieval .
- Abstract(参考訳): 検索決定は不透明な高次元埋め込みによって行われるため,高信頼度レトリバーが高信頼度スコアを割り当てる理由を説明することは依然として困難である。
既存の説明は、しばしば語彙マッチング、トークンアライメント、ポストホックテキストの有理性といった表面信号に焦点を合わせ、埋め込みレベルで密度の高い検索行動を形作る潜在因子についての限られた洞察を与える。
密集検索を説明するための埋め込み型力学フレームワークである「textit{Xetrieval}」を提案する。
最初は軽量な推論インタライザを導入し、単一のフォワードパスで埋め込み空間の連鎖推論を直接近似し、高価な自己回帰生成を避けながら推論指向の情報で文埋め込みを強化する。
すると、これら推論の強化された埋め込みをスパースで人間の解釈可能な特徴に分解し、それぞれが一貫性のある自然言語記述と関連付けられている。
複数のドキュメント側ビューにオーバーラップするスパース機能を集約することで、 \textit{Xetrieval} は個々の検索決定に関する機能レベルの説明を提供する。
多様なレトリバーとベンチマークの実験によると、 \textit{Xetrieval} はコヒーレントな解釈可能な特徴を明らかにし、より強力なペアレベルの介入効果をもたらし、タスクレベルの機能ステアリングをサポートする。
プロジェクトページとソースコードはhttps://hihiczx.github.io/Xetrieval で公開されている。
関連論文リスト
- Chain of Evidence: Pixel-Level Visual Attribution for Iterative Retrieval-Augmented Generation [19.889854990300595]
反復検索拡張生成(iRAG)は、複雑なマルチホップ問題に答える強力なパラダイムとして登場した。
Evidence (CoE) の textbfChain について述べる。
論文 参考訳(メタデータ) (2026-05-02T06:40:42Z) - DeepRead: Document Structure-Aware Reasoning to Enhance Agentic Search [23.447631421934847]
DeepReadは、ドキュメントネイティブな構造的事前を動作可能な推論機能に運用するために設計された、構造対応のドキュメント推論エージェントである。
DeepReadは、従来の検索手法に固有のコンテキストの断片化を効果的に軽減する、人間のような位置読み取りの推論パラダイムを提供する。
論文 参考訳(メタデータ) (2026-02-04T20:03:28Z) - Context-Aware Hierarchical Merging for Long Document Summarization [56.96619074316232]
本論文では,階層的なマージをソース文書からコンテキストと統合する手法を提案する。
法的および物語的領域を表すデータセットの実験結果は、文脈的拡張がゼロショットと階層的な融合ベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2025-02-03T01:14:31Z) - Interpret and Control Dense Retrieval with Sparse Latent Features [18.843817998618384]
本稿では,スパース・オートエンコーダ (SAE) を用いた新しい手法を提案する。
実験結果から, 学習した潜在スパース特徴と再構成された埋め込みはともに, 元の高密度ベクトルとほぼ同じ精度を保っていることが明らかとなった。
論文 参考訳(メタデータ) (2024-10-17T14:59:48Z) - Dense X Retrieval: What Retrieval Granularity Should We Use? [56.90827473115201]
しばしば見過ごされる設計選択は、コーパスが索引付けされる検索単位である。
本稿では,高密度検索のための新しい検索ユニット,命題を提案する。
実験により、提案のような細粒度単位によるコーパスのインデックス付けは、検索タスクにおける通過レベル単位を著しく上回っていることが明らかとなった。
論文 参考訳(メタデータ) (2023-12-11T18:57:35Z) - Explanation Selection Using Unlabeled Data for Chain-of-Thought
Prompting [80.9896041501715]
非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。
本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
論文 参考訳(メタデータ) (2023-02-09T18:02:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。