論文の概要: Less can be More: Relieving RAG Bottlenecks via Evidence Frontloading and Pressure-Adaptive Budgeting
- arxiv url: http://arxiv.org/abs/2608.25115v1
- Date: Tue, 25 Aug 2026 20:10:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.428998
- Title: Less can be More: Relieving RAG Bottlenecks via Evidence Frontloading and Pressure-Adaptive Budgeting
- Title(参考訳): RAGボタネックのエビデンス・フロントローディングと圧力適応型予算による救済
- Abstract要約: 上流の再ランク付けは、高いクエリ率や大規模な再ランクの予算の下で支配的なボトルネックとなる可能性があることを示す。
予算の見直しは、このボトルネックを和らげる可能性があるが、支持する証拠を減らし、リコールを低下させる可能性がある。
本報告では,textitevidence Frontloading と textitpressure-adaptive budgeting を組み合わせたトレーニングフリーフレームワーク textbftextsfPACE を提案する。
- 参考スコア(独自算出の注目度): 3.685453775072903
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing methods for improving Retrieval-Augmented Generation (RAG) efficiency mainly optimize downstream LLM generation, such as context compression or serving optimization. However, RAG is an end-to-end system, and its bottleneck can shift between upstream reranking and downstream generation under different serving loads and reranking budgets.In this paper, we first empirically characterize this shifting-bottleneck behavior and show that upstream reranking can become the dominant bottleneck under high query rates or large reranking budgets. Reducing the reranking budget can relieve this bottleneck, but it may also drop supporting evidence and degrade recall. To address this problem, we propose \textbf{\textsf{PACE}} (\textbf{P}rioritized \textbf{A}daptive \textbf{C}overage of \textbf{E}vidence), a training-free framework that combines \textit{evidence frontloading} with \textit{pressure-adaptive budgeting}. \textsf{PACE} first reorders candidates by marginal evidence coverage, prioritizing documents that are query-relevant, complementary, and useful for forming multi-hop evidence chains. We show that this objective is monotone submodular, giving greedy selection a $(1-1/e)$ approximation guarantee. \textsf{PACE} then dynamically adjusts the reranking budget according to the relative pressure of the reranker and the LLM. Experiments on three multi-hop QA datasets and online serving simulations show that \textsf{PACE} improves evidence recall, reduces p95 latency under ranking-heavy workloads. More importantly, the two components together reveal that \textit{less can be more}: an evidence-dense top-ranked candidates enable higher final recall with fewer reranked documents.
- Abstract(参考訳): Retrieval-Augmented Generation (RAG) の効率を改善するための既存の手法は、主にコンテキスト圧縮やサービス最適化などの下流 LLM 生成を最適化する。
しかし、RAGはエンド・ツー・エンドのシステムであり、そのボトルネックは異なるサービス負荷下で上流のリグレードと下流のリグレードの予算の間でシフトしうる。
予算の見直しは、このボトルネックを和らげる可能性があるが、支持する証拠を減らし、リコールを低下させる可能性がある。
この問題に対処するために, \textit{evidence frontloading} と \textit{pressure-adaptive budgeting} を組み合わせたトレーニングフリーフレームワークである \textbf{A}daptive \textbf{C}overage of \textbf{E}vidence を提案する。
クエリ関連で補完的で、マルチホップエビデンスチェーンを形成するのに有用なドキュメントを優先順位付けする。
この目的は単調な部分モジュラーであることを示し、グリーディ選択に1-1/eの近似保証を与える。
次に、textsf{PACE} はリランカと LLM の相対的な圧力に応じて、リランクされた予算を動的に調整する。
3つのマルチホップQAデータセットとオンラインサービスシミュレーションの実験によると、‘textsf{PACE}’はエビデンスリコールを改善し、ランキング重負荷下でのp95レイテンシを低減する。
さらに重要なことは、2つのコンポーネントが連携して \textit{less がより多くなる可能性があることを明らかにしている。
関連論文リスト
- TRACE: Trajectory-robust Admission with Evidence Ordering for Efficient GUI Agents [54.88208747581851]
トレーニング不要のビジュアルトークンプルーニングは、このコストを削減することができるが、キャッシュ再利用には基本的な制約が伴う。
我々は,emphtextbfTrajectory-textbfrobust textbfAdmission と textbfCoverage-aware textbfEvidence ordering のためのトレーニング不要フレームワーク textbfmethod を提案する。
論文 参考訳(メタデータ) (2026-09-09T15:12:48Z) - ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。
候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-08-25T11:25:55Z) - Lightweight Chunk Selection for Mobile Retrieval-Augmented Generation [8.227745781139634]
証拠アライメント問題として軽量RAGチャンク選択について検討する。
我々のセレクタは、3つの補完的特徴源を組み合わせる: LLM側のクエリ意図を表す質問隠蔽状態、ジェネレータの内部ルーティング構造をキャプチャするMoEルーティングに基づくエキスパート信号、および候補側のエビデンスを保存したチャンク埋め込み。
実験の結果、提案したセレクタは、モバイル適用可能なベースラインに対するランク1のエビデンス選択を平均2.5%改善することがわかった。
論文 参考訳(メタデータ) (2026-08-04T05:26:25Z) - miniReranker: Efficient Multimodal Reranking through Visual Cache Reuse and Interaction Sparsity [21.54829080388454]
MLLM(Multimodal large language model)は、最近ポイントワイド・リランカとして大きな可能性を示している。
しかし、ポイントワイドリグレードは、クエリーとドキュメントのペア間で大幅に繰り返される計算に悩まされる。
本稿では,キャッシュ再利用の効率化と性能の見直しを両立させる,$textitvision-first$の定式化を提案する。
論文 参考訳(メタデータ) (2026-06-09T12:11:02Z) - Learning to Solve, Forgetting to Retain: Correct-Set Turnover in RLVR [16.681943272535104]
検証可能な報酬(RLVR)による強化学習は、大きな言語モデルの能力を向上させるが、見出し精度の向上は隠れたコストを隠蔽することが多い。
我々は、マスタされたプロンプトを追跡し、それを定期的に再導入して、過去のソリューションのモデルをtextbfremindに再導入するリテンション対応レビューメカニズムであるtextbfmethodを提案する。
論文 参考訳(メタデータ) (2026-06-02T03:17:34Z) - F-GRPO: Factorized Group-Relative Policy Optimization for Unified Candidate Generation and Ranking [79.49893545611779]
大規模言語モデル(LLM)はサブセットを生成し、それを1つの自己回帰パス内で順序付けることができる。
この柔軟性は、新しい最適化課題をもたらす: モデルが出力空間を検索し、完全なランクリストが生成された後にのみユーティリティフィードバックを受けなければならない。
このクレジット割り当てギャップは、エンドツーエンドの最適化を不安定にし、サンプル非効率にする。
本稿では,単一自己回帰的ロールアウト内の両方を実行する統一フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-13T04:52:33Z) - PAR$^2$-RAG: Planned Active Retrieval and Reasoning for Multi-Hop Question Answering [57.89576196160413]
大規模言語モデル (LLM) はマルチホップ質問応答 (MHQA) において脆弱のままである。
textbfPlanned Active Retrieval and Reasoning RAG (PAR$2-RAG)を提案する。
論文 参考訳(メタデータ) (2026-03-30T23:52:54Z) - Less is More for RAG: Information Gain Pruning for Generator-Aligned Reranking and Evidence Selection [26.57845149504473]
RAGは、外部のエビデンスを持つ大きな言語モデルを基盤としているが、限られたコンテキスト予算の下では、どのパスを注入すべきかを判断することが重要な課題である。
検索関連度指標は, エンドツーエンドQA品質と相関が低く, マルチパスインジェクションにおいて負の相関が生じることも示している。
このモジュールは,ジェネレータに整列したユーティリティ信号を用いてエビデンスを選択し,切断前に弱い経路や有害経路をフィルタリングする。
論文 参考訳(メタデータ) (2026-01-24T17:14:10Z) - High-Rank Structured Modulation for Parameter-Efficient Fine-Tuning [57.85676271833619]
低ランク適応 (LoRA) は、全パラメータの微調整をシミュレートするために低ランク更新法を用いる。
textbfStructured textbfMOdulation textbfAdapterは、より高いランクを維持しながらトレーニング可能なパラメータを少なくする。
論文 参考訳(メタデータ) (2026-01-12T13:06:17Z) - When, What, and How: Rethinking Retrieval-Enhanced Speculative Decoding [29.402164743559]
ReSpecは、ドラフト作成を適応的な意思決定に変換する新しいフレームワークである。
Spec-Benchの実験では、ReSpecの最先端アクセラレーションはそれぞれ33%以上と25%以上を達成している。
論文 参考訳(メタデータ) (2025-11-03T06:57:16Z) - Enhancing Retrieval-Augmented Generation with Two-Stage Retrieval: FlashRank Reranking and Query Expansion [0.0]
RAGは、大きな言語モデル(LLM)とレトリバーを結合して、外部のエビデンスで生成された応答を接地する。
LLM駆動型クエリ拡張を統合して候補リコールを改善する2段階検索パイプラインを提案する。
FlashRankは、トークン予算の下で最適な証拠のサブセットを動的に選択する高速な限界効用リランカである。
論文 参考訳(メタデータ) (2025-10-17T15:08:17Z) - On-the-Fly Adaptive Distillation of Transformer to Dual-State Linear Attention [53.22963042513293]
大規模言語モデル(LLM)は、自己アテンションを通じてグローバルトークンの依存関係をキャプチャするが、長い入力に対する計算とメモリコストに直面する。
まず,二状態線形注意(Dual-state linear attention, A)を提案する。これは2つの隠れ状態を保持する設計であり,その1つは,リニアアテンションアーキテクチャの典型的な短距離バイアスを緩和し,リニアアテンションを追尾するものである。
本稿では,DSLA層を段階的に置き換えるオンライン適応蒸留フレームワークであるDSLA-Serveを紹介する。
論文 参考訳(メタデータ) (2025-06-11T01:25:06Z) - Gumbel Reranking: Differentiable End-to-End Reranker Optimization [61.16471123356738]
RAGシステムは関連する文書を識別するためにリランカーに依存している。
注釈付きクエリ-ドキュメントペアが不足しているため、これらのモデルの微調整は依然として難しい。
我々は,トレーニングと推論のギャップを最小限に抑えることを目的とした,リランカーのためのエンドツーエンドのトレーニングフレームワークであるGumbel Re rankを提案する。
論文 参考訳(メタデータ) (2025-02-16T13:23:39Z) - HiRE: High Recall Approximate Top-$k$ Estimation for Efficient LLM
Inference [68.59839755875252]
HiREは2つの新しいコンポーネントから構成される: (i) (i) (i) (i) (i) (i) (i) (i) (i) (i) (ii) DA-TOP-$k$: 効率的なマルチデバイス近似トップ-k$演算子) (i) (i) (i) (i) (i) (i) (i) DA-TOP-$k$演算子) 。
我々は、10億のパラメータモデルにおいて、HiREがソフトマックスとフィードフォワード層の両方に適用され、ほぼ一致した事前学習と下流の精度を実現し、1台のTPUv5eデバイスで1.47Times$の推論遅延を高速化することを示した。
論文 参考訳(メタデータ) (2024-02-14T18:04:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。