論文の概要: Aborted but Not Forgotten: KV-Cache Retention Breaks Rollback Consistency in Language Agents
- arxiv url: http://arxiv.org/abs/2608.15939v1
- Date: Sun, 16 Aug 2026 21:49:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.476057
- Title: Aborted but Not Forgotten: KV-Cache Retention Breaks Rollback Consistency in Language Agents
- Title（参考訳）: KVキャッシュの保持が言語エージェントのロールバック一貫性を損なう
- Abstract要約: ステートフルな言語エージェントは、削除されたブランチをアプリケーションの書き起こしから削除することで取り返すことができると仮定する。
サービスセッションが論理的中断点を越えてキー/値(KV)状態を保持する場合、このブレークスルーを示す。
トランザクションローカルキャッシュの復元は,グローバルキャッシュのフラッシュを必要とせずに,チャネルをクローズすることを示す。
- 参考スコア（独自算出の注目度）: 5.717981279944186
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Stateful language agents assume a rejected branch can be taken back by clearing it from the application transcript. We show this breaks when the serving session retains key/value (KV) state across the logical abort: the model can continue attending to content the application believes it discarded. We formalize the missing guarantee as rollback consistency: a complete abort must restore the state the model attends, not just the transcript. The key failure is cross-layer: a correct logical rollback need not compose with retained inference state, and the gap can remain invisible to the application. To isolate cache effects from text effects, we introduce a same-token/different-cache audit that holds decision-step tokens identical while varying only whether the cached prefix is stale or rebuilt from committed state. Across seven open-weight families (3.8B-36B), retained KV alone flips a typed protected effect in 25 of 63 audited cells, while attacker tokens are absent from the served request in all 63; rebuilding the cache closes every cell. The channel reproduces in an end-to-end session application, on the default Hugging Face Transformers cache-reuse path, and under LangGraph time-travel, where verified logical rollback can still leave attended KV stale. Susceptibility varies across models, but the underlying attended-state integrity violation is structural. We rule out position and length confounds, generalize across protected effects, policy structures, and a cache-isolated Mixture-of-Experts model, and show that transaction-local cache restoration closes the channel without requiring a global cache flush. All headline results are deterministic and reproducible from released artifacts.
- Abstract（参考訳）: ステートフルな言語エージェントは、削除されたブランチをアプリケーションの書き起こしから削除することで取り返すことができると仮定する。
サービスセッションが論理的中断点を越えてキー/値(KV)状態を保持する場合、このブレークスルーが示されます。
完全な中止は、スクリプティングだけでなく、モデルが参加する状態を復元する必要があります。
正しい論理ロールバックは、保持された推論状態を構成する必要はなく、ギャップはアプリケーションには見えません。
テキスト効果からキャッシュ効果を分離するために、キャッシュされたプレフィックスが古いかコミット状態から再構築されているかのみ変化しながら、決定ステップのトークンを同一に保持する、同一のトークン/差分キャッシュ監査を導入する。
7つのオープンウェイトファミリー(3.8B-36B)にまたがってKVが保持され、63の細胞のうち25の細胞でタイプされた保護効果を反転させる一方、攻撃者のトークンは63の全てのセルでサーブリクエストから欠落し、キャッシュの再構築はすべてのセルを閉じる。
チャネルはエンドツーエンドのセッションアプリケーション、デフォルトのHugging Face Transformersキャッシュ再利用パス、LangGraphタイムトラバーで再生される。
感受性はモデルによって異なるが、従属状態の整合性違反は構造的である。
我々は、位置と長さの制約を除外し、保護効果、ポリシー構造、キャッシュアイソレーションされたMixture-of-Expertsモデルを一般化し、トランザクションローカルキャッシュ復元がグローバルキャッシュフラッシュを必要とせずにチャネルを閉じることを示す。
すべての見出し結果は決定論的であり、リリースされた成果物から再現可能である。
関連論文リスト
- Forgetting Without Restarting: Execution-State Unlearning for Stateful LLM Agents [12.985773309621964]
Provenance-Guided Selective Replayは、プロンプト、圧縮メモリ、キャッシュにまたがるクロスレイヤコントラクトとしてバインドされる。
我々は,3つのエージェントスイート,9つのベースライン,3つのモデルファミリに対して,エレケーション,キャッシュ,文字列フリーな動作テストで監査を行った。
論文 参考訳（メタデータ） (2026-09-04T08:31:40Z) - ANCHOR: A Vision for Secure Persistent Key-Value Stores in Disaggregated Data Centers [5.04954154165985]
ANCHORは、分解されたPKVSにおけるエンドツーエンドの整合性と鮮度に対するビジョンである。
本稿では,PKVSにおけるエンドツーエンドの整合性と鮮度に対するビジョンであるANCHORについて述べる。
論文 参考訳（メタデータ） (2026-08-28T01:37:51Z) - KeyPooling: Measuring Where LLM API Relay Paths Collapse Prompt Cache Isolation [53.952294884822955]
大規模言語モデル(LLM)APIは、顧客の認証を別々に行うが、多くの場合、共有プロバイダ認証を通じて要求を転送する。
KeyPoolingは、キャッシュのルックアップと書き込みを通じて顧客のアイデンティティをトレースする測定方法である。
すべての顧客がプロバイダ強化されたドメインに入る必要があります。
論文 参考訳（メタデータ） (2026-08-18T08:12:34Z) - Archer: Adaptive Reuse of Cached Hidden States for Efficient Rollback in Diffusion Language Models [28.20034213862415]
拡散言語モデル(DLM)は反復的にシーケンスを洗練し、コンテキストが進化するにつれて、以前の予測を修正できる。
更新毎にグローバルコンテキストが変更され、プロンプト状態とレスポンス状態の両方が再コンパイルされる。
効率的なロールバック(アーチャー)のための隠れた状態の適応的再利用について紹介する。
Archerは、ロールバック可能なDLMのためのトレーニング不要なKVキャッシュ手法である。
論文 参考訳（メタデータ） (2026-08-08T12:13:10Z) - Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。
より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。
我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
論文 参考訳（メタデータ） (2026-07-30T02:42:51Z) - Remembering Distinct Items, Not Tokens: A Learnable Dirichlet-Process Cache Between State-Space Models and Attention [0.48342038441006796]
本稿では,入力が新規である場合にのみスロットを割り当てるスパースキャッシュについて検討する。
固定濃度の静的キャッシュと,最近の新規性率に追従したサプライズ適応変種という2つの形態で開発する。
論文 参考訳（メタデータ） (2026-07-10T18:28:21Z) - Position Rebinding Cache Reuse: Replay-Free Visual Revisiting for Interleaved Multimodal Reasoning [51.563653495547335]
マルチモーダル推論は、マルチステップ生成中に視覚的証拠を再考することによって、視覚的接地を改善する。
再生不要な視覚的再考のためのキャッシュレベルフレームワークであるPlace Rebinding Cache Reuse (PRCR)を提案する。
PRCRはリプレイレベルまたはパフォーマンスの向上を実現し、平均精度を5%向上し、視覚的再考を最大数万倍削減する。
論文 参考訳（メタデータ） (2026-06-25T05:47:52Z) - Agent-Assisted Side-Channel Attacks on Non-Prefix KV Cache in RAG [17.045113249152234]
非KVキャッシュ融合をターゲットとした、最初のエンドツーエンドのサイドチャネルアタックを導入する。
SpliceLeakは、システマティックな2フェーズのプライバシ侵害を実行する。
SpliceDefenseは、非許容スループットオーバーヘッドでサイドチャネル信号(Delta TTFT 0)を効果的にフラットにする。
論文 参考訳（メタデータ） (2026-06-20T02:28:28Z) - Make Each Token Count: Towards Improving Long-Context Performance with KV Cache Eviction [65.710271475739]
我々は,各トークンの将来のユーティリティを統一メモリ予算の下で学習する,グローバルな保持に基づくKV消去手法を提案する。
提案手法は,フルキャッシュ推論に適合したり,超えたりしながら,KVメモリを大幅に削減することを示す。
これらの結果から,世界規模で校正されたKV消去は圧縮技術であるだけでなく,長文推論を改善するメカニズムでもあることが示唆された。
論文 参考訳（メタデータ） (2026-05-10T16:47:50Z) - Sparse Prefix Caching for Hybrid and Recurrent LLM Serving [0.7284556903703034]
重なり合う深さの分布の下で,スパースプレフィックスキャッシングをチェックポイント配置として定式化する。
リクエストが非自明なプレフィックスを共有する場合、実世界のデータ上で標準非対称性によって追跡されるフロンティアを一貫して改善することを示す。
正確な出力を保持し、リカレント計算自体を変更したり、新しいリカレント更新カーネルを必要としたりしない。
論文 参考訳（メタデータ） (2026-04-17T09:24:58Z) - PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。
効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
論文 参考訳（メタデータ） (2026-01-07T19:51:06Z) - vCache: Verified Semantic Prompt Caching [95.16654660556975]
本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。
オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。
我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
論文 参考訳（メタデータ） (2025-02-06T04:16:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。