論文の概要: Contiguity, Not Importance: Budgeted Repair of Stale KV Caches After Document Edits
- arxiv url: http://arxiv.org/abs/2609.17983v1
- Date: Wed, 16 Sep 2026 01:13:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.587147
- Title: Contiguity, Not Importance: Budgeted Repair of Stale KV Caches After Document Edits
- Title(参考訳): 連続性、重要でない: ドキュメント編集後の静的KVキャッシュの予算削減
- Abstract要約: KV-cacheの再利用は、検索強化された生成およびエージェントシステムにおける推論コストを削減できる。
完全なre-prefillは一貫性を確実に復元するが、コストがかかる。
施設の補修を予算化された再計算として定式化し、トレーニング不要の位置選択ポリシーと比較する。
- 参考スコア(独自算出の注目度): 1.9785872350085878
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: KV-cache reuse can reduce inference cost in retrieval-augmented generation and agentic systems, but cached contexts may become stale when retrieved knowledge, working memory, or user state is edited. Under causal self-attention, even a local edit can affect downstream KV states. A full re-prefill reliably restores consistency but is costly, whereas refreshing only the edited span can leave downstream dependencies stale. We formulate in-place repair as budgeted recomputation and compare training-free position-selection policies on a factual RAG benchmark with matched direct and derived edits. Across three model families, all policies repair direct cases, but derived cases clearly separate them. At the primary budget, a contiguous edit-local window recovers at least 0.94 of the post-edit answer margin and substantially outperforms attention-based, KV-deviation, and structural selectors. Mechanistic analysis shows that position sets effective under clean-state transplantation can fail under actual recomputation because scattered positions inherit surrounding staleness. The edit-local advantage also depends on adjacency and largely disappears when the answer-bearing text moves downstream. Because answer-relevant edits almost always corrupt model behavior, failure severity is difficult to predict, and repair is 13-21 times faster than full re-prefill, our results support unconditional edit-local repair when the dependent text remains adjacent to the edit.
- Abstract(参考訳): KV-cacheの再利用は、検索強化された生成およびエージェントシステムにおける推論コストを削減することができるが、キャッシュされたコンテキストは、検索された知識、ワーキングメモリ、またはユーザ状態が編集されたときに不安定になる可能性がある。
因果自認の下では、局所的な編集でさえ下流のKV状態に影響を与えることがある。
完全なre-prefillは一貫性を確実に復元するが、コストがかかる。
そこで,本研究では,現場での補修を予算計算として定式化し,実際のRAGベンチマークにおけるトレーニング不要位置選択ポリシーと一致した直接および導出編集とを比較した。
3つのモデルファミリーにまたがって、すべてのポリシーが直接のケースを修復するが、派生したケースは明確にそれらを分離する。
一次予算では、連続した編集ローカルウィンドウは、編集後の回答マージンの少なくとも0.94を回復し、注意ベース、KV偏差、構造セレクタを大幅に上回る。
メカニカル解析により, クリーンステート移植で有効となる位置集合は, 散乱した位置が周囲の安定度を継承するため, 実際の再計算で失敗する可能性が示唆された。
編集ローカルのアドバンテージは隣接性にも依存しており、回答を含むテキストが下流に移動すると、ほとんど消える。
解答関連編集は, ほぼ常にモデル動作が劣化しているため, 故障重大度予測は困難であり, 完全補修よりも13~21倍高速である。
関連論文リスト
- RESKILL: Explicit Failure Attribution and Structured Repair for Interactive Language Agents [19.541361999948858]
本稿では,修復ラウンド全体にわたって明示的な修復状態を維持する構造的修復フレームワークRESKILLを紹介する。
ALFWorld と TextCraft の RESKILL を固定修理予算下で3つのモデルサイズで評価した。
論文 参考訳(メタデータ) (2026-09-14T14:55:13Z) - PURA: Provably Unbiased and Robust Multi-Bit Watermarking for AI-Generated Text Attribution [83.66032773976904]
PURAは、テキスト属性に対する不偏で頑健なマルチビット透かし方式である。
PURAはトークンの確率を直接摂動するのではなく、鍵付き逆変換サンプリングによって潜在サンプリング空間にペイロードを埋め込む。
PURAは、高負荷体制において、既存の非バイアスベースラインを大幅に上回ることを示す。
論文 参考訳(メタデータ) (2026-08-23T04:44:27Z) - Independent Patch Verification for Coding Agents with a Bidirectional Reconstruct-and-Verify Framework [49.16055123488827]
大規模言語モデルを利用したコーディングエージェントは、バグレポートから直接コードパッチを生成することができる。
報告された問題を真に解決するかどうかを独立に検証するメカニズムは存在しない。
本稿では,RETRACE をトレーニング不要なポストジェネレーション検証フレームワークとして提案する。
論文 参考訳(メタデータ) (2026-08-09T22:59:13Z) - Agentic Skill Optimization over Lie Algebroids [1.3295383263113112]
本稿では,Lie Algebroid SKill Optimization のための LASKO と呼ばれる新しいスキル最適化フレームワークを提案する。
LASKOモデルはタイプされ、Markdownスキルを基本カテゴリとしてアンカーし、編集ポリシーをコントロールされたLie algebroidのセクションとして利用できる。
本論文で示すように、LASKOは、大規模な言語モデルの実行を必要とする高価な検証に投資する前に、マイクロ秒で実行される安価なLie-bracketスクリーニングテストに代えて、前回のベンチマーク結果において、スキル最適化のオーダー・オブ・マグニチュード・スピードアップを実現している。
論文 参考訳(メタデータ) (2026-07-13T12:48:09Z) - Repair Before Veto: Repair-Augmented Constraint Learning for Contextual Decisions [6.016090674751934]
我々は、既知の修理作業者をセマンティクスに引き上げる文脈決定フレームワークである修復制約学習(RACL)を導入する。
候補者は、手頃な修理が十分に実現可能で好まれる場合に受け入れられる。そうでなければ、システムは構造化された拒絶債権を返却し、適用すれば、修理計画を立てる。
制御されたDB1B由来のベンチマークで、RACLは意図した信用と修復構造を回復する。
論文 参考訳(メタデータ) (2026-06-01T14:38:04Z) - Relative Repairability: A Calibration-Based Diagnostic for High-Sparsity Post-Pruning Allocation [12.288779306467768]
相対修復性 (RR) はキャリブレーションに基づく診断であり、層状プルーニングによる生の活性化歪みとチャネル状分散整合修復後の残留歪みを比較する。
RRはアーキテクチャ依存の回復可能性遷移(Recoverability transition)の近くで最も有用であり、標準的な構造や大きさに基づくアロケーションが信頼性を失い始めるが、修復後のリカバリはまだ完全には崩壊していない。
これらの結果から, 高い疎水性プルーニングは, 保持重量だけでなく, 修復性にも寄与することが示唆された。
論文 参考訳(メタデータ) (2026-05-25T07:12:38Z) - How Sparsity Allocation Shapes Label-Free Post-Pruning Recoverability [4.9112670395105305]
プレニング後の修復法は部分的に崩壊したスパースモデルを復元できるが、その有効性は上流のプルースアロケーションが残したスパースモデルに依存する。
本稿では, 固定されたアクティベーション統計補修バックエンドにおいて, 空間配置が修復後の回復性にどう影響するかを考察する。
論文 参考訳(メタデータ) (2026-05-21T04:03:24Z) - IMPACT-CYCLE: A Contract-Based Multi-Agent System for Claim-Level Supervisory Correction of Long-Video Semantic Memory [73.22944697933603]
既存のパイプラインは不透明でエンドツーエンドの出力を生成し、検査の中間状態は公開しない。
IMPACT-Cycleは,マルチモーダル反復クレームレベルのメンテナンスとして,長時間ビデオ理解を再構築するマルチエージェントシステムである。
論文 参考訳(メタデータ) (2026-04-22T03:03:33Z) - QiMeng-PRepair: Precise Code Repair via Edit-Aware Reward Optimization [50.722636027998]
大規模言語モデル (LLM) はプログラム修復性能が高いが、しばしば過剰な編集に悩まされる。
オーバー編集を軽減し,修復精度を向上させるフレームワークであるPRepairを提案する。
論文 参考訳(メタデータ) (2026-04-07T14:56:38Z) - Outcome-Conditioned Reasoning Distillation for Resolving Software Issues [49.16055123488827]
本稿では, 検証済みパッチを監督として, リポジトリ内問題を解決したO-CRD(Outcome-Conditioned Reasoning Distillation)フレームワークを提案する。
歴史的修正から始まり、検証結果から段階的な修理トレースを後方に再構築する。
SWE-Bench Liteでは、GPT-4oではPass@1が10.4%、DeepSeek-V3では8.6%、GPT-5では10.3%増加する。
論文 参考訳(メタデータ) (2026-01-30T18:25:39Z) - Factual Error Correction for Abstractive Summaries Using Entity
Retrieval [57.01193722520597]
本稿では,エンティティ検索後処理に基づく効率的な事実誤り訂正システムRFECを提案する。
RFECは、原文と対象要約とを比較して、原文から証拠文を検索する。
次に、RFECは、エビデンス文を考慮し、要約中のエンティティレベルのエラーを検出し、エビデンス文から正確なエンティティに置換する。
論文 参考訳(メタデータ) (2022-04-18T11:35:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。