論文の概要: REVA: Reusable Evidence View Aggregation for Context-Efficient RAG Serving
- arxiv url: http://arxiv.org/abs/2609.11209v1
- Date: Thu, 10 Sep 2026 08:14:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.250587
- Title: REVA: Reusable Evidence View Aggregation for Context-Efficient RAG Serving
- Title(参考訳): REVA: コンテキスト効率の良いRAGサービングのための再利用可能なエビデンスビューアグリゲーション
- Abstract要約: 我々は,データマイニングの観点からRAG圧縮を再考し,過去のクエリー-ドキュメント-モデル相互作用を再利用可能なエビデンスビューに集約する。
提案するReusable Evidence View Aggregation(REVA)は,ターゲットジェネレータの歴史的注意をマイニングするフレームワークで,文書キーで予算に依存しないスコアストアにトレースする。
REVAは、既存の進歩よりも1.0--5.8ポイント向上し、圧縮オーバーヘッドを5.3から15.6に削減し、40ミリ秒未満のレイテンシを追加した。
- 参考スコア(独自算出の注目度): 15.623665127929414
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-augmented generation (RAG) improves knowledge-intensive large language model (LLM) applications by conditioning generation on retrieved documents, but longer contexts increase latency, key-value (KV) cache memory, and token cost. Post-retrieval compression can reduce this cost, yet existing compressors often operate independently for each query, rely on auxiliary models or rewriting, and introduce online overhead that can offset the benefit of shorter prompts. We revisit RAG compression from a data-mining perspective by aggregating historical query--document--model interactions into reusable evidence views. We first show that modern compressors have unstable gains over simple truncation and can add substantial inference-time latency. We then propose Reusable Evidence View Aggregation (REVA), a framework that mines the target generator's historical attention traces into a document-keyed, budget-agnostic score store. REVA maps token-level attention to readable word units, aggregates importance across repeated document accesses, and renders budget-specific plain-text views that preserve document order and the standard RAG interface. Across four representative benchmarks and modern LLMs, REVA improves generation quality by 1.0--5.8 points over existing advances, while reducing compression overhead by a factor of 5.3 to 15.6, adding less than 40 ms of latency.
- Abstract(参考訳): Retrieval-augmented Generation (RAG)は、検索したドキュメントに生成を条件付けすることで、知識集約型大規模言語モデル(LLM)アプリケーションを改善するが、より長いコンテキストではレイテンシ、キー値(KV)キャッシュメモリ、トークンコストが増大する。
検索後圧縮はこのコストを削減できるが、既存の圧縮機はクエリごとに独立して動作し、補助モデルや書き換えに依存し、短いプロンプトの利点を相殺できるオンラインオーバーヘッドを導入する。
我々は,データマイニングの観点からRAG圧縮を再考し,過去のクエリー-ドキュメント-モデル相互作用を再利用可能なエビデンスビューに集約する。
まず,現代の圧縮機は単純なトランケーションよりも不安定なゲインを持つことを示す。
次に、ターゲットジェネレータの歴史的注意をマイニングするフレームワークであるReusable Evidence View Aggregation (REVA)を提案する。
REVAはトークンレベルの注意を読みやすい単語単位にマッピングし、繰り返し文書アクセスにまたがる重要度を集約し、文書の順序と標準RAGインターフェースを保存するための予算固有のプレーンテキストビューを表示する。
4つの代表的なベンチマークと現代のLCMで、REVAは既存の進歩よりも1.0~5.8ポイント、圧縮オーバーヘッドを5.3から15.6に削減し、40ミリ秒未満のレイテンシを追加した。
関連論文リスト
- RAGMark: A Comprehensive Framework for Benchmarking Retrieval-Augmented Generation Systems [32.97108456220722]
本稿では,RAG(Retrieval-Augmented Generation)システムのベンチマークフレームワークであるRAGMarkを紹介する。
RAGMarkは、レトリバー、ベクトルデータベース、プロンプト処理方法、ジェネレータモデルを含む多様なRAGコンポーネントを評価する。
自動回帰生成は、ナイーブパイプラインの遅延を支配しているが、コンテキストベースの手法は、計算、メモリ帯域幅、前処理ステージのボトルネックをシフトさせる。
論文 参考訳(メタデータ) (2026-09-04T22:44:05Z) - Shadow Queries for Private Retrieval in Vector Databases [22.541206283544586]
組込み反転攻撃(EIA)に対するセマンティック分解および組込み分離防御であるSHAQを提案する。
ドキュメントの埋め込みを直接格納する代わりに、SHAQは生成言語モデルを使用して、各ドキュメントの異なるセマンティックな側面をキャプチャする多様なシャドウクエリを生成する。
実験により、SHAQは検索ユーティリティを保ちながら、プライバシーを大幅に改善することが示された。
論文 参考訳(メタデータ) (2026-09-04T05:59:54Z) - RAGOCR: Optical Compression of Retrieval-Augmented Text via Visual Representation [7.540266838459537]
RAGOCRは、検索した文書を入力クエリで条件付けられたコンパクトな視覚表現に圧縮する新しいフレームワークである。
RAGOCRは、入力トークンの8分の1しか必要とせず、素数RAGを15%以上精度で上回ることを示す。
論文 参考訳(メタデータ) (2026-08-01T16:59:49Z) - Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。
より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。
我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
論文 参考訳(メタデータ) (2026-07-30T02:42:51Z) - Multi-Vector Index Compression in Any Modality [73.7330345057813]
後期の相互作用は、テキスト、画像、ビジュアルドキュメント、ビデオにおける情報検索の主要なパラダイムとして現れてきた。
インデックス圧縮には,シーケンスリサイズ,メモリトークン,階層プール,新しいアテンション誘導クラスタリング(AGC)の4つのアプローチを導入する。
AGCは、ドキュメントの最もセマンティックな領域をクラスタセントロイドとして識別し、トークンの集合を重み付けするために注意誘導機構を使用する。
論文 参考訳(メタデータ) (2026-02-24T18:57:33Z) - $A^3$: Attention-Aware Accurate KV Cache Fusion for Fast Large Language Model Serving [42.02864241423696]
大きな言語モデル(LLM)は、長いコンテキストを処理する上で強力な能力を示している。
長いシーケンスを処理できるにもかかわらず、結果としてデコーディングのレイテンシとメモリオーバーヘッドは大きいままである。
KVキャッシュの再利用の最近の進歩は、これらのコストを軽減する可能性を示しているが、それでも顕著なパフォーマンス劣化に悩まされている。
論文 参考訳(メタデータ) (2025-11-13T07:28:59Z) - REFRAG: Rethinking RAG based Decoding [67.4862300145604]
REFRAGは効率的なデコードフレームワークで、RAGアプリケーションの遅延を圧縮し、感知し、拡張し、改善する。
本稿では,RAG,マルチターン会話,長期文書要約など,多種多様な長文タスクを対象としたREFRAGの厳密な検証を行う。
論文 参考訳(メタデータ) (2025-09-01T03:31:44Z) - Enhancing Document VQA Models via Retrieval-Augmented Generation [1.6769365072542683]
ドキュメントVQAは数十ページに及ぶドキュメントに対処しなければならないが、主要なシステムは依然として非常に大きな視覚言語モデルに依存している。
Retrieval-Augmented Generation (RAG) は魅力的な代替手段を提供する。
論文 参考訳(メタデータ) (2025-08-26T12:32:55Z) - BRIEF: Bridging Retrieval and Inference for Multi-hop Reasoning via Compression [91.23933111083389]
Retrieval-augmented Generation (RAG)は、外部知識を統合することで、大きな言語モデル(LLM)を補完することができる。
本稿では,クエリ対応マルチホップ推論を行う軽量なアプローチであるBRIEFを提案する。
オープンソースモデルで構築した合成データに基づいて,BRIEFはより簡潔な要約を生成する。
論文 参考訳(メタデータ) (2024-10-20T04:24:16Z) - Accelerating Inference of Retrieval-Augmented Generation via Sparse Context Selection [28.15184715270483]
大きな言語モデル (LLM) は、検索によって強化され、堅牢な性能と広範な汎用性を示す。
本稿では,スパースRAGという新しいパラダイムを提案する。
Sparse RAGは、検索したドキュメントを並列にエンコードする。
論文 参考訳(メタデータ) (2024-05-25T11:10:04Z) - RaFe: Ranking Feedback Improves Query Rewriting for RAG [83.24385658573198]
アノテーションを使わずにクエリ書き換えモデルをトレーニングするためのフレームワークを提案する。
公開されているリランカを活用することで、フィードバックはリライトの目的とよく一致します。
論文 参考訳(メタデータ) (2024-05-23T11:00:19Z) - RECOMP: Improving Retrieval-Augmented LMs with Compression and Selective
Augmentation [61.53695868960846]
テキスト内統合に先立って,検索した文書をテキスト要約に圧縮する手法を提案する。
これにより、計算コストを削減できるだけでなく、長期検索された文書の関連情報を識別する上で、LMの負担を軽減できる。
本研究では,あるLMに対して訓練した圧縮機を言語モデリングタスク上で他のLMに転送し,検索した文書にほぼ忠実な要約を提供することを示す。
論文 参考訳(メタデータ) (2023-10-06T17:55:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。