論文の概要: From Association to Causation: Improving Retrieval Precision of Retrieval-Augmented Generation via Causal Relations and an Attention Mechanism
- arxiv url: http://arxiv.org/abs/2608.21702v1
- Date: Sat, 22 Aug 2026 00:31:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.410326
- Title: From Association to Causation: Improving Retrieval Precision of Retrieval-Augmented Generation via Causal Relations and an Attention Mechanism
- Title(参考訳): 因果関係から因果関係へ--因果関係と注意機構による検索・拡張生成の検索精度の向上
- Authors: Jing Liu, Yongxing Qi, Muchen Jiang, Chengnan Hu, Qingqing Peng, Haoming Wang, Yuqing Wang, Yang Yu, Xu Zhang, Ting Wu,
- Abstract要約: 我々は,ライヒェンバッハの共通原因原理に基づく因果グラフを用いて,終端検索段階をモデル化する。
検索された文書はコライダー(A−>d−B)であるため、検索自体がクエリとBの関連経路を開く。
知識内容内の因果関係をモデル化する因果関係強化RAG変種とは異なり、我々のグラフは検索プロセス自体の因果構造をモデル化する。
- 参考スコア(独自算出の注目度): 23.0538048682894
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-Augmented Generation (RAG) grounds LLM generation on retrieved documents, but the standard terminal retrieval stage--dense-vector similarity, optionally followed by reranking--often returns documents that share keywords with the query without containing the needed information, a failure mode that grows with the knowledge base. We trace it to a conceptual gap: similarity captures only associational relations, whereas the documents that matter are linked to the query causally. We model the terminal retrieval stage with a causal graph grounded in Reichenbach's common cause principle: the keywords shared by the query and a retrieved document form a latent common cause A, and the document's residual keywords form a latent set B linking the document to the ideal output. Since a retrieved document is a collider (A -> d <- B), retrieval itself opens an associational path between the query and B, which licenses a training-free, attention-style re-scoring rule: the cosine similarity between the query embedding and the weighted centroid embedding of B. Unlike causality-enhanced RAG variants that model causal relations inside the knowledge content, our graph models the causal structure of the retrieval process itself. On a real 471-document enterprise knowledge base, the method promotes a relevant guideline from rank 6 to the top 3; on a controlled diagnostic corpus reproducing the keyword-stuffing regime, it improves the mean target rank from 2.88 to 1.25, while a trained cross-encoder reranker barely helps (2.63). Conversely, on three BEIR benchmarks the score underperforms the similarity baseline, delineating the applicability boundary: the method guards the keyword-stuffing regime of growing proprietary knowledge bases and complements neural rerankers; a corpus-level calibration gate selects the correct regime with >= 95% reliability. A fully local testbed demonstrates deployability.
- Abstract(参考訳): Retrieval-Augmented Generation (RAG) は、検索したドキュメントに LLM 生成を基盤とするが、標準端末検索ステージ-dense-vector 類似性は、オプションとして、クエリとキーワードを共有するドキュメントを、必要な情報を含むことなく返却する。
類似性は関連関係のみを捉え、重要な文書はクエリに因果的に関連付けられている。
本稿では,Reichenbach の共通因数原理に基づく因数グラフを用いた終端検索段階をモデル化する。クエリと検索された文書が共有するキーワードは潜在共通因数Aを形成し,文書の残余キーワードは文書を理想的な出力にリンクする潜在集合Bを形成する。
検索された文書はコライダー (A -> d <- B) であるため、検索自体がクエリとBの間の関連経路を開き、クエリの埋め込みとBの重み付きセントロイド埋め込みのコサイン類似性(cosine similarity)をライセンスする。
実際の471文書の企業知識ベースでは、関連するガイドラインをランク6からトップ3までプロモートし、キーワードスタッフィングレジームを再生する制御された診断コーパスでは、平均目標ランクを2.88から1.25に改善し、訓練されたクロスエンコーダリランカは、ほとんど役に立たない(2.63)。
逆に、BEIRの3つのベンチマークでは、スコアは類似性のベースラインを過小評価し、適用可能性の境界を規定している。このメソッドは、プロプライエタリな知識ベースを成長させ、ニューラルリランカを補完するキーワードスタッフィング体制を守り、コーパスレベルのキャリブレーションゲートは >=95% の信頼性で正しい状態を選択する。
完全にローカルなテストベッドは、デプロイ性を示している。
関連論文リスト
- ICICLE: Expanding Retrieval with In-Context Documents [28.99813139934325]
生成検索(GR)は、パラメトリック知識を用いてクエリを直接ドキュメント識別子(ドクト)にマッピングする。
我々は、パラメトリックメモリとコンテキストが提供する文書とドキュメントのペアの両方に対して、ソース・アウェア・ドシド生成を行う、コンテキスト内インデクシングフレームワークICICLEを提案する。
論文 参考訳(メタデータ) (2026-05-26T12:01:44Z) - CHOP: Chunkwise Context-Preserving Framework for RAG on Multi Documents [6.134883925217888]
大規模言語モデル(LLM)によるチャンク関係を反復的に評価するフレームワークであるCHOPを提案する。
CHOPはCNM-ExtractorとContinuity Decision Moduleという2つの重要なコンポーネントを統合している。
ベンチマークデータセットの実験では、CHOPは検索の混乱を緩和し、高品質な知識ベースを構築するためのスケーラブルなアプローチを提供する。
論文 参考訳(メタデータ) (2026-04-17T08:05:17Z) - Evoking User Memory: Personalizing LLM via Recollection-Familiarity Adaptive Retrieval [59.295767860331004]
RF-Memは、親しみやすい不確実性誘導デュアルパスメモリレトリバーである。
それは、人間のようなデュアルプロセス認識をレトリバーに埋め込む。
一定の予算とレイテンシの制約の下で、ワンショット検索とフルコンテキスト推論を一貫して上回る。
論文 参考訳(メタデータ) (2026-03-10T06:31:44Z) - What Papers Don't Tell You: Recovering Tacit Knowledge for Automated Paper Reproduction [57.86097956633207]
Methodは、学術論文から実行可能なコードを生成するグラフベースのエージェントフレームワークである。
3つのドメイン、10のタスク、10の最近の論文にまたがる拡張ReproduceBenchでは、公式実装に対する平均的なパフォーマンスギャップが10.04%に達する。
論文 参考訳(メタデータ) (2026-03-02T12:33:31Z) - TeaRAG: A Token-Efficient Agentic Retrieval-Augmented Generation Framework [62.66056331998838]
TeaRAGは、検索内容と推論ステップの両方を圧縮できるトークン効率のエージェントRAGフレームワークである。
報奨関数は,過剰な推論ステップをペナルティ化しながら,知識マッチング機構によって知識満足度を評価する。
論文 参考訳(メタデータ) (2025-11-07T16:08:34Z) - Constrained Auto-Regressive Decoding Constrains Generative Retrieval [71.71161220261655]
ジェネレーティブ検索は、従来の検索インデックスデータ構造を1つの大規模ニューラルネットワークに置き換えようとしている。
本稿では,制約とビームサーチという2つの本質的な視点から,制約付き自己回帰生成の固有の制約について検討する。
論文 参考訳(メタデータ) (2025-04-14T06:54:49Z) - Multi-Facet Blending for Faceted Query-by-Example Retrieval [5.156059061769101]
本稿では,多面体ブレンディング(FaBle)拡張法を提案する。
モジュール化によって、事前に定義されたファセットの知識やラベルが不要になります。
1K文書上のFaBle拡張は、ファセット条件埋め込みの訓練を著しく支援する。
論文 参考訳(メタデータ) (2024-12-02T12:32:19Z) - GERE: Generative Evidence Retrieval for Fact Verification [57.78768817972026]
本稿では,ジェネレーション方式で証拠を検索する最初のシステムであるGEREを提案する。
FEVERデータセットの実験結果は、GEREが最先端のベースラインよりも大幅に改善されていることを示している。
論文 参考訳(メタデータ) (2022-04-12T03:49:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。