論文の概要: SAFE-KV: Causal Suffix Repair for Behavior-Preserving Non-Prefix KV Cache Reuse in RAG
- arxiv url: http://arxiv.org/abs/2610.15186v1
- Date: Sat, 10 Oct 2026 21:19:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 02:07:12.339413
- Title: SAFE-KV: Causal Suffix Repair for Behavior-Preserving Non-Prefix KV Cache Reuse in RAG
- Title(参考訳): SAFE-KV:RAGにおける動作保存型KVキャッシュ再利用のための因果補修法
- Abstract要約: 選択した開始文書から因果接尾辞を巻き戻すことで、合成キャッシュを修復するSAFE-KVを導入する。
修復なしでの再利用は、正確に4つの文書と16で分解され、そこで接尾辞修復は98-100%回復する。
- 参考スコア(独自算出の注目度): 1.3858917056188202
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval-augmented generation (RAG) reuses the same documents across many requests, making non-prefix KV-cache reuse attractive. Yet a cached document state is not reusable text: it is a context-conditioned causal state whose keys and values depend on the prefix, position, and preceding documents under which it was computed. We formulate non-prefix KV reuse as a behavior-preservation problem with full prefill on the exact prompt as the reference, and introduce SAFE-KV, which repairs a composed cache by re-encoding the causal suffix from a selected start document. On Qwen2.5-7B-Instruct, prefix-conditioned composition preserves only 47.2% of HotpotQA-500 and 37.8% of 2Wiki-500 full-prefill answers; SAFE-KV with risk-guided K2 selection restores 99.8%/98.4% (donor-copy protocol) and 100.0%/98.4% with actual suffix forwarding. Document-only and fixed-window repairs recover far less, because the document states after the repaired region keep histories that omit it. Reuse without repair is exact up to four documents and degrades at sixteen, where suffix repair recovers 98-100%. Faithful repair re-encodes most of the context, so in a single-request L40S study SAFE-KV's operating rule serves every workload by full prefill. SAFE-KV thus establishes the causal-state contract for non-prefix reuse and a validated repair mechanism that meets it.
- Abstract(参考訳): Retrieval-augmented Generation (RAG)は、多くの要求に対して同じ文書を再利用し、非修正KV-cacheの再利用を魅力的なものにする。
しかし、キャッシュされた文書状態は再利用可能なテキストではない。これはコンテキスト条件付き因果状態であり、キーと値が計算されたプレフィックス、位置、および前回の文書に依存している。
本稿では,参照として正確なプロンプトをフルプリフィルした動作保存問題として非プリフィックスKVの再利用を定式化し,選択した開始文書から因果接尾辞を再エンコードすることで,構成キャッシュを修復するSAFE-KVを導入する。
Qwen2.5-7B-インストラクションでは、プレフィックス条件付き組成物はHotpotQA-500の47.2%と2Wiki-500の完全なプリフィル回答の37.8%しか保存していない。
修復された領域の履歴が削除された後に記録されているので、ドキュメントのみの修復と固定ウィンドウの修復ははるかに少ない。
修復なしでの再利用は、正確に4つの文書と16で分解され、そこで接尾辞修復は98-100%回復する。
忠実な修復は、ほとんどのコンテキストを再エンコードするので、単一要求のL40S研究において、SAFE-KVの運用ルールはすべてのワークロードを完全なプリフィルで処理する。
このため、SAFE-KVは、非修正再利用のための因果状態契約と、それを満たす検証済みの修復機構を確立する。
関連論文リスト
- Budgeted KV-Cache Repair for Evolving Contexts [29.496757518672737]
維持接尾辞のユーザ・コセン分を再計算することでタスク性能を回復する。
我々は、リフレッシュなコヒーレントな領域が、リフレッシュな孤立トークンよりも大幅に優れていることを発見した。
Scientist-Unit Refresh (SUR) は、安価な埋め込みスコアを使用して、クエリ関連テキスト領域に予算を割り当てる。
論文 参考訳(メタデータ) (2026-10-12T19:44:57Z) - EviRepair: Evidence-Driven Agents for Reliable Vulnerability Repair [55.22600943144124]
リポジトリレベルの脆弱性修復のためのエビデンス駆動型マルチエージェントフレームワークであるEviRepairを提案する。
EviRepairは、エージェントが協力して証拠を収集できるようにすることによって、修復プロセスにエビデンスレビューを導入する。
PatchEvalとSecBenchベンチマークの実験は、EviRepairが既存のエージェントベースのベースラインを一貫して上回ることを示した。
論文 参考訳(メタデータ) (2026-10-09T12:22:43Z) - RelaxKV: Recomputation Guided by the Query with Sparse Context Attention for Efficient KV Cache Reuse [11.49301528421843]
クロスリクエストKVキャッシングはレトリーバル拡張ジェネレーション(RAG)のプリフィルコストを低減させる
RelaxKVは、修復目標と再計算コンテキストに対する共同割り当て問題として選択的なキャッシュ修復を定式化する。
論文 参考訳(メタデータ) (2026-09-27T12:12:00Z) - DoPR: Reusable Compressed Document Prefixes for Efficient LLM Reranking [43.35035343197748]
大規模言語モデル(LLM)は効果的な再ランカであるが、ポイントワイドで同じドキュメントを異なるクエリで繰り返し処理する。
オンライン更新からオフライン文書処理を分離する圧縮文書プレフィックスフレームワークである textbfDoPR を提案する。
DoPRは最大8.0$times$オンラインドキュメント側メモリ削減と8.04$times$レイテンシスピードアップを実現し、マッチしたフルドキュメントリランカのNDCG@10の平均値の1.1%-99.5%を維持している。
論文 参考訳(メタデータ) (2026-09-03T03:02:48Z) - PatchKV: Efficient KV Cache Recovery for Dynamically Edited LLM Contexts [24.13656412709201]
PatchKVは、サフィックス保存リビジョンのためのプロファイル誘導リカバリシステムである。
オフライン長条件ドリフトモデルを用いて、編集ローカルな汚れ領域を予測する。
保存された注意から選択された緩やかな非局所ブロックでこの領域を拡大し、それらのユニオンを固定された修復セットにブロックする。
論文 参考訳(メタデータ) (2026-08-18T11:17:02Z) - RestoreKV: Recovering Full-Cache Behavior Under Aggressive Query-Agnostic KV Cache Eviction [10.668136973950453]
KVキャッシュ消去はコンテキストを一度圧縮し、結果のキャッシュを任意の将来のクエリに再利用するが、パフォーマンスは厳しい予算の下で崩壊する可能性がある。
本稿では,この選択に基づく定式化を補完するRestoreKVを紹介する。
我々の重要な洞察は、排除によって失った情報は文脈固有であるが、そのコンパクトな補完を生成するメカニズムはコンテキスト間で共有できるということである。
論文 参考訳(メタデータ) (2026-08-02T13:58:42Z) - Stage-Replay Divergence Follows the KV Cache: Fixed-Prefix Precision Controls and Bidirectional Cache Transplantation [51.56484100374058]
Stage-replayは中間トークンプレフィックスを再構築し、プレフィックスに最初に到達したデコーダ状態からの継続として、新しいプリフィル継続を処理する。
一致した200itemの実験では、保持されたライブキャッシュと同一の整数トークンのワンショットプリフィルを比較し、両側に正確なレプリカを配置する。
論文 参考訳(メタデータ) (2026-07-30T16:41:40Z) - One Rewrite to Fix Them All? Type-Aware Repair Allocation for Text-to-Image Prompt Optimization [59.164665622252016]
テキスト・トゥ・イメージ(T2I)ジェネレータは、間違ったカウント、スワップされた属性、あいまいな関係、不可解なテキストを生成し、そのプロンプトに忠実に従わないことが多い。
Prompt最適化は、ユーザプロンプトを書き換えて、ジェネレータの再トレーニングを必要としないことで、このような障害を修復する。
失敗する各命題は、結果のローカル制約が1つの実行可能なプロンプトにコンパイルされる前に、タイプ条件の修復演算子にルーティングされる。
論文 参考訳(メタデータ) (2026-07-21T05:31:43Z) - How Far Is Document Parsing from Solved? PureDocBench: A Source-TraceableBenchmark across Clean, Degraded, and Real-World Settings [56.70440596502351]
昨年は20以上のオープンドキュメントパースモデルが見られたが、ベンチマークはほぼOmniDocBenchにのみ依存している。
HTML/CSSのドキュメントイメージをレンダリングするベンチマークであるPureDocBenchは、10のドメイン、66ページ、1,475ページをカバーしています。
論文 参考訳(メタデータ) (2026-05-08T09:30:31Z) - MEMOREPAIR: Barrier-First Cascade Repair in Agentic Memory [6.860488391361694]
エージェント記憶のためのバリアファーストカスケード修復契約を提示する。
修理イベントは、無効化された子孫状態から検証された後継者状態への制御された遷移を誘導する。
本研究では, 発刊問題を最大重み付き前者閉鎖に還元し, 単一のs-t min-cutで正確に解けることを示す。
論文 参考訳(メタデータ) (2026-05-08T04:57:29Z) - Outcome-Conditioned Reasoning Distillation for Resolving Software Issues [49.16055123488827]
本稿では, 検証済みパッチを監督として, リポジトリ内問題を解決したO-CRD(Outcome-Conditioned Reasoning Distillation)フレームワークを提案する。
歴史的修正から始まり、検証結果から段階的な修理トレースを後方に再構築する。
SWE-Bench Liteでは、GPT-4oではPass@1が10.4%、DeepSeek-V3では8.6%、GPT-5では10.3%増加する。
論文 参考訳(メタデータ) (2026-01-30T18:25:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。