論文の概要: To Cache or Not to Cache: Understanding and Mitigating Safety Incompatibility in Cross-Model KV Cache Reuse

• arxiv url: http://arxiv.org/abs/2610.15721v1
• Date: Sun, 11 Oct 2026 16:00:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-19 17:05:27.49462
• Title: To Cache or Not to Cache: Understanding and Mitigating Safety Incompatibility in Cross-Model KV Cache Reuse
• Title（参考訳）: To Cache or not to Cache: クロスモデルKVキャッシュ再利用における安全性の非互換性の理解と軽減
• Abstract要約: クロスモデルKVキャッシュ共有は、レシーバモデルが関連する送信者モデルによって生成されたKV状態を再利用できるようにすることで、プリフィル計算を減らす。 既存の手法では、そのような再利用をレイテンシと生成品質で最適化するが、その安全性は依然として不明である。
• 参考スコア（独自算出の注目度）: 28.573607135216534
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Cross-model KV cache sharing reduces prefill computation by allowing a receiver model to reuse prefix KV states generated by a related sender model. Existing methods optimize such reuse for latency and generation quality, but its safety implications remain unclear. In this work, we systematically evaluate this issue across diverse sender-receiver pairs and reuse configurations. We refer to deviations from the receiver's native safety behavior as safety incompatibility. Our study shows that both the direction and magnitude of safety incompatibility depend on the model pair and reuse configuration, with value reuse causing substantially larger deviations than key reuse across all evaluated pairs. Furthermore, we propose VReparo, a technique that learns per-layer and per-KV-head affine maps offline to align reused sender value tensors with their receiver-native counterparts before decoding. Across two model pairs under full KV reuse and the state-of-the-art selective reuse setting, VReparo reduces the average HarmBench attack success rate (ASR) from 57.28% to 39.21% and the average StrongREJECT score from 0.4215 to 0.2163 upon our benchmarks, while retaining an average Time to First Token (TTFT) reduction of 85.62%.
• Abstract（参考訳）: クロスモデルKVキャッシュ共有は、受信モデルが関連する送信者モデルによって生成されたプレフィックスKV状態を再利用できるようにすることで、プリフィル計算を減らす。 既存の手法では、そのような再利用をレイテンシと生成品質で最適化するが、その安全性は依然として不明である。 本研究では,この問題を多様な送受信者対と再利用構成で体系的に評価する。 我々は、受信機のネイティブな安全行動からの逸脱を、安全性の非互換性として言及する。 本研究は, 安全性の両立がモデルペアと再利用構成に依存していることを示す。 さらに,VReparoという,レイヤごとのアフィンマップとKV単位のアフィンマップをオフラインで学習し,再利用可能な送信値テンソルと受信側ネイティブのテンソルをデコードする手法を提案する。 フルKVの再利用と最先端の選択的再利用設定の下で、VReparoは平均HarmBench攻撃成功率(ASR)を57.28%から39.21%に下げ、ベンチマークではStrongREJECTスコアを0.4215から0.2163に下げ、平均タイム・ツー・ファースト・トークン(TTFT)の85.62%を下げた。

関連論文リスト

• CacheLink: Functional KV Transport for Zero-Prefill Cross-Model Context Handoff [15.78364388319058]
  KVキャッシュは、過去の計算を再利用することで、長いコンテキストの計算を効率的にするが、モデルスイッチングはこの再利用を損なう。 送信側キャッシュを受信側互換状態に変換することで、受信側が同じコンテキストをプリフィルすることなく直接継続できるようにする。 既存のアフィン輸送法は、受信機KV状態が送信側キャッシュから実質的に再構成可能であることを示している。
  論文  参考訳（メタデータ） (2026-10-11T10:19:31Z)
• Rethinking Generative Image Compression at Extremely Low Bitrates [56.035931340138006]
  本稿では、圧縮された表現とソース表現を直接アライメントする表現オートエンコーダ(RAE)空間上に構築された圧縮指向拡散(CoD)であるRAE-CoDを紹介する。 5つの視覚基盤モデル(VFM)と視覚言語モデルプロトコルを用いて,この枠組みを評価する。
  論文  参考訳（メタデータ） (2026-09-30T08:53:11Z)
• HijackKV: New Threat in Position-Independent KV Cache Reuse [18.183961370228833]
  キーバリュー(KV)キャッシュは、大規模言語モデル(LLM)の推論遅延を低減する この設計には新たな脅威であるKVキャッシュハイジャックが導入されている。 この脆弱性を体系的に活用する最初のアタックフレームワークであるHIJACKKVを紹介する。
  論文  参考訳（メタデータ） (2026-07-22T09:32:45Z)
• AgentKVShift: Efficient KV Cache Reuse for Agentic Memory Systems [15.913507689262573]
  AgentKVShift(エージェントKVShift)は、検索したメモリ単位ごとに動作させる訓練不要のプローブ誘導残差補正手法である。 我々は,AgentKVShiftがキャッシュの10～30%をリフレッシュしながら,ほぼ完全な再計算性能を実現することを示す。 このほぼフルに近いパフォーマンスに達するには最大5倍の低い再計算が必要で、以前の再利用メソッドは45～55%のリフレッシュしか得られない。
  論文  参考訳（メタデータ） (2026-05-15T16:29:36Z)
• ReCoSplat: Autoregressive Feed-Forward Gaussian Splatting Using Render-and-Compare [53.16118137855849]
  本稿では,自動回帰フィードフォワードガウススプラッティングモデルであるReCoSplatについて述べる。 コードと事前訓練されたモデルがリリースされる。
  論文  参考訳（メタデータ） (2026-03-10T17:58:08Z)
• ProphetKV: User-Query-Driven Selective Recomputation for Efficient KV Cache Reuse in Retrieval-Augmented Generation [22.835149054167122]
  本稿では,RAGシナリオに対するユーザクエリ駆動型KVキャッシュ再利用手法であるProphet KVを提案する。 Prophet KVは、ユーザクエリに対するセマンティックな関連性に基づいてトークンを優先順位付けする。 以上の結果から, Prophet KVの完全補充精度は96%-101%であり,再計算率は20%に過ぎなかった。
  論文  参考訳（メタデータ） (2026-01-31T09:53:31Z)
• CommonKV: Compressing KV Cache with Cross-layer Parameter Sharing [54.34080239841088]
  CommonKVは、隣接パラメータ共有による層間KVキャッシュ圧縮のトレーニング不要な方法である。 提案手法は,様々な圧縮比で既存の低ランクおよびクロスレイヤーの手法より一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2025-08-22T06:55:45Z)
• KV-Latent: Dimensional-level KV Cache Reduction with Frequency-aware Rotary Positional Embedding [72.12756830560217]
  Transformer Decodersをベースとした大規模言語モデル(LLM)が、会話生成AIの選択肢として好まれている。 デコーダアーキテクチャの全体的な優位性にもかかわらず、推論中にキーバリューキャッシュが徐々に増加し、主要な効率ボトルネックとなっている。 キーバリューベクトル次元を潜在空間にダウンサンプリングすることで、KVキャッシュのフットプリントを大幅に削減し、推論速度を向上させることができる。
  論文  参考訳（メタデータ） (2025-07-15T12:52:12Z)
• Adversarial Training with Rectified Rejection [114.83821848791206]
  本稿では,信頼度(T-Con)を確実性オラクルとして利用し,信頼度を補正してT-Conを予測することを提案する。 軽度の条件下では、正当性(R-Con)拒絶器と信頼性(R-Con)拒絶器を結合して、不正に分類された入力と正しく分類された入力を区別できることを示す。
  論文  参考訳（メタデータ） (2021-05-31T08:24:53Z)
• Second-Order Provable Defenses against Adversarial Attacks [63.34032156196848]
  ネットワークの固有値が有界であれば、凸最適化を用いて$l$ノルムの証明を効率的に計算できることを示す。 認証精度は5.78%,44.96%,43.19%であった。
  論文  参考訳（メタデータ） (2020-06-01T05:55:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。