論文の概要: FCPRAG: Fusion-Controller Parametric Retrieval-Augmented Generation for Stable Multi-Passage LoRA Injection
- arxiv url: http://arxiv.org/abs/2608.21750v1
- Date: Sat, 22 Aug 2026 03:13:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 18:24:36.919805
- Title: FCPRAG: Fusion-Controller Parametric Retrieval-Augmented Generation for Stable Multi-Passage LoRA Injection
- Title(参考訳): FCPRAG:安定多相ロラインジェクション用核融合制御パラメトリック検索器
- Abstract要約: パラメトリック検索拡張生成(PRAG)は、パス固有のLoRAアダプタを通じて、検索した証拠を大きな言語モデル(LLM)に注入する。
本稿では、検索条件付きサンプルレベルアダプタ融合のための軽量コントローラを付加した、融合制御RAGフレームワークFCPRAGを提案する。
HotpotQA, 2WikiMultiHopQA, PopQA, ComplexWebQuestionsの実験では、FCPRAGは標準RAGとパラメトリックRAGベースラインよりも一貫してF1を改善している。
- 参考スコア(独自算出の注目度): 13.769845174883438
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Parametric retrieval-augmented generation (PRAG) injects retrieved evidence into a large language model (LLM) through passage-specific LoRA adapters, reducing reliance on long in-context prompts. When multiple passages are retrieved for the same query, however, evidence-level fusion becomes a bottleneck: equal-weight merging can amplify weak or conflicting evidence, and translating retrieval signals into fusion weights often requires fragile global tuning. We propose FCPRAG, a fusion-controlled parametric RAG framework that adds a lightweight controller for retrieval-conditioned, sample-level adapter fusion. The controller predicts per-passage fusion scores together with sample-level calibration signals, including a mixing gate and an adaptive temperature, enabling fusion that stays selective under informative retrieval signals and conservative under uncertainty. FCPRAG is trained with merge-aware supervision derived from each adapter's marginal contribution within a multi-adapter merge, using training data only. We further show that a single dataset-level temperature is suboptimal under heteroscedastic retrieval uncertainty, motivating sample-level adaptation. Experiments on HotpotQA, 2WikiMultiHopQA, PopQA, and ComplexWebQuestions (CWQ) across three LLM backbones show that FCPRAG consistently improves F1 over standard RAG and parametric RAG baselines, with gains of up to 4.65% on 2WikiMultiHopQA and 7.55% on CWQ, while also reducing tuning cost and improving robustness under retrieval perturbations.
- Abstract(参考訳): パラメトリック検索拡張生成(PRAG)は、パス固有のLoRAアダプタを通じて、検索した証拠を大きな言語モデル(LLM)に注入し、長いインコンテキストプロンプトへの依存を減らす。
しかし、同じクエリに対して複数のパスが検索されると、エビデンスレベルの融合がボトルネックとなる。
本稿では, FCPRAGを提案する。このフレームワークは, 検索条件付き, サンプルレベルのアダプタ融合のための軽量なコントローラを付加する。
コントローラは、混合ゲートや適応温度を含むサンプルレベルの校正信号とともに、パス毎の融合スコアを予測し、情報検索信号の下で選択的に保持され、不確実な状態で保守的な融合を可能にする。
FCPRAGは、訓練データのみを使用して、マルチアダプタマージ内の各アダプタの限界貢献から導かれるマージアウェアインスペクションで訓練される。
さらに, サンプルレベルの適応を動機づけたヘテロセダスティック検索の不確実性の下で, データセットレベルの1つの温度が最適であることを示す。
ホットポットQA、2WikiMultiHopQA、PopQA、複合WebQuestions(CWQ)を3つのLCMバックボーンで実験した結果、FCPRAGは標準RAGとパラメトリックRAGベースラインよりもF1を一貫して改善し、2WikiMultiHopQAは最大4.65%、CWQは7.55%、また、検索摂動によるチューニングコストの低減と堅牢性の向上が示されている。
関連論文リスト
- S$^3$AM: A Single-Stream SAM with Reliability-Calibrated Frequency Adapter for Multi-modal Salient Object Detection [74.15663758681849]
シングルストリームフレームワークは、信頼性キャリブレーションされた周波数適応をMSOD用のSAMバックボーンに組み込む。
RGB-D、RGB-T、RGB-NIRの正当性オブジェクト検出ベンチマークの実験により、提案フレームワークが競合性能を達成することを確認した。
論文 参考訳(メタデータ) (2026-08-18T08:05:00Z) - Dissecting Agentic RAG: A Component Ablation for Multi-Hop QA with a Local 7B Model [0.0]
5000の質問に対して評価したフルエージェントRAGパイプラインのアブレーション制御を行った。
相互階数融合による固定ハイブリッド検索は規則に基づく適応的ルーティングよりも一貫して優れていることがわかった。
論文 参考訳(メタデータ) (2026-06-19T15:50:35Z) - Efficient RAG with Intent-Aware Retrieval and Semantics-Preserving Chunking [18.698122955613584]
InSemRAGは、検索拡張世代(RAG)システムのためのフレームワークである。
IARは、クエリインテントに基づいて、検索チャネルを適応的に重み付けする動的ハイブリッド検索手法を実装している。
SPCは、意味的整合性を維持するために破損した証拠チャンクの検出と修復を行う。
提案手法は,HotPotQAではF1が2.65ポイント,FEVERでは1.5ポイントの精度向上を実現した。
論文 参考訳(メタデータ) (2026-05-31T13:42:36Z) - BalanceRAG: Joint Risk Calibration for Cascaded Retrieval-Augmented Generation [8.129733777508434]
大規模言語モデル(LLM)は、検索強化世代(RAG)を通して事実性を高めることができる
モデルのみの回答が信頼できる場合には、すべてのクエリにRAGを適用する必要はない。
我々は、しきい値ペアを目標リスクレベルで認証する BalanceRAG を開発した。
論文 参考訳(メタデータ) (2026-05-19T16:38:55Z) - Beyond Relevance: On the Relationship Between Retrieval and RAG Information Coverage [89.58253972744531]
Retrieval-augmented Generation (RAG) システムは、文書検索と生成モデルを組み合わせて、レポート生成のような複雑な情報を求める課題に対処する。
我々は,上流の検索指標が,最終生成応答の情報カバレッジの信頼性の高い早期指標として機能するかどうかを検討する。
本研究は,トピックとシステムレベルの両方で生成した応答におけるカバレッジベース検索指標とナゲットカバレッジとの間に強い相関関係を示した。
論文 参考訳(メタデータ) (2026-03-09T18:20:20Z) - ReFilter: Improving Robustness of Retrieval-Augmented Generation via Gated Filter [21.74343337071446]
本稿ではトークンレベルのフィルタリングと融合を行う新しい潜伏型融合フレームワークを提案する。
ReFilterは、コンテキスト特徴をエンコードするコンテキストエンコーダ、トークンを重み付けするゲートフィルタ、トークン融合モジュールの3つの重要なコンポーネントで構成されている。
実験の結果、ReFilterはドメイン内適応とドメイン外転送の両方で、常に最高の平均性能を達成できることがわかった。
論文 参考訳(メタデータ) (2026-02-13T08:25:26Z) - MARAG-R1: Beyond Single Retriever via Reinforcement-Learned Multi-Tool Agentic Retrieval [50.30107119622642]
大規模言語モデル(LLM)は推論と生成において優れているが、本質的には静的事前学習データによって制限されている。
Retrieval-Augmented Generation (RAG)は、LLMを外部知識に基盤を置くことでこの問題に対処する。
MarAG-R1は、LLMが複数の検索機構を動的に調整できる強化学習型マルチツールRAGフレームワークである。
論文 参考訳(メタデータ) (2025-10-31T15:51:39Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳(メタデータ) (2025-09-26T23:40:47Z) - Hybrid Deep Searcher: Integrating Parallel and Sequential Search Reasoning [57.78245296980122]
本稿では,自然質問から自動生成されるデータセットであるHDS-QA(Hybrid Deep Search QA)を紹介する。
並列化可能な独立サブクエリ(同時に実行可能)と逐次依存サブクエリ(ステップバイステップの解決を必要とする)を組み合わせたハイブリッドホップ質問を含む。
モデルの名称はHybridDeepSearcherで、複数のベンチマークで最先端のベースラインを上回っています。
論文 参考訳(メタデータ) (2025-08-26T15:15:17Z) - Improving Retrieval-Augmented Generation through Multi-Agent Reinforcement Learning [88.55095746156428]
Retrieval-augmented Generation (RAG) は、外部知識を大規模言語モデルに組み込むために広く利用されている。
標準的なRAGパイプラインは、クエリ書き換え、文書検索、文書フィルタリング、回答生成など、いくつかのコンポーネントで構成されている。
本稿では,複数コンポーネントからなる複雑なRAGパイプラインを多エージェント協調作業として扱うことを提案する。
論文 参考訳(メタデータ) (2025-01-25T14:24:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。