論文の概要: Close Enough is Nowhere Near: Fidelity-Consumability Decoupling in KV Caches
- arxiv url: http://arxiv.org/abs/2610.22016v1
- Date: Thu, 15 Oct 2026 14:56:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.136192
- Title: Close Enough is Nowhere Near: Fidelity-Consumability Decoupling in KV Caches
- Title(参考訳): KVキャッシュにおけるフィデリティ-Consumabilityのデカップリング
- Abstract要約: どちらのモデルも凍結状態であり、送信者のキャッシュは、何の訓練もせずに、読者のキャッシュに代わる。
フリーズしたトランスフォーマーは、自身で記述したキャッシュに近いキャッシュのみを読み取る。
そのキャッシュと幾何学的類似性は、リーダがそれを使用することができるかどうかを予測せず、障害は段階的ではない。
- 参考スコア(独自算出の注目度): 21.387312729118364
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent LLM systems communicate in text, which is lossy and wasteful: the sender throws away the reading it already did. A growing literature instead transmits the KV cache, the natural carrier of that reading. We study the most appealing form of the idea: both models stay frozen and the sender's cache is substituted for the reader's with nothing trained. It does not work, and the obstruction belongs to the reader. A frozen transformer reads only caches close to the one it would have written itself, a region we call its tolerable set. We show that geometric similarity to that cache does not predict whether the reader can use it, and the failure is not gradual, so a more faithful substitute is not the remedy it appears to be. We explain this phenomenon with competitive attention. Experimentally, we test eight diverse substitution methods against two measured anchors: an uninformative cache baseline and the reader's own accuracy from having read the passage. All sit at the baseline. That turns a long tail of separate negative results into one outcome with a stated condition for overturning it. A different design does work: if the reader keeps its own cache and attends over the sender's as extra context, adapting only its queries, it beats its own baseline, and also clears the baseline with eight senders pooled where undirected attention over the same union falls below it. We offer this as a characterization on one probe, not a leaderboard claim. Our central contribution is a redirection: pursuing faithful substitute caches is the wrong target; adding a cache to what the reader already has is the promising one.
- Abstract(参考訳): マルチエージェントのLLMシステムはテキストで通信するが、これはロスが多く、無駄である。
増大する文献は、その読み取りの自然なキャリアであるKVキャッシュを送信します。
どちらのモデルも凍結状態であり、送信者のキャッシュは、何の訓練もせずに、読者のキャッシュに代わる。
動作せず、障害は読者のものだ。
フリーズしたトランスフォーマーは、自身で記述したキャッシュに近いキャッシュのみを読み取る。
そのキャッシュと幾何学的類似性は、リーダがそれを使用することができるかどうかを予測せず、障害は段階的ではない。
我々はこの現象を競争の注意を払って説明する。
実験では,2つのアンカーに対して,不定形キャッシュベースラインと,読み出しの正確さを比較検討した。
全員がベースラインに座る。
これにより、異なる負の結果の長い尾が、1つの結果に変わり、それを覆す条件が記述される。
読者が自身のキャッシュを保持して、送信者の余分なコンテキストに従えば、クエリのみに適応し、独自のベースラインを破り、同じユニオン上の無方向の注意がそれより下にある8つの送信者によってベースラインをクリアする。
私たちはこれを、リーダーボードのクレームではなく、あるプローブのキャラクタリゼーションとして提供します。
私たちの中心的なコントリビューションはリダイレクトです – 忠実な代替キャッシュの追求が間違ったターゲットです。
関連論文リスト
- Augment the Cache, Replace the Activation: A 2x2 Study of Internal-State Sharing [21.387312729118364]
マルチエージェントシステムはテキストを介して通信し、送信側が既に計算した内部状態を破棄し、受信側がそれを再構築するために支払う。
キーバリューキャッシュは入れ替わるのではなく、拡張されなければならない。
アクティベーションは直接レシーバーに書き込まれ、ブリッジもアダプタもトレーニングもない。
論文 参考訳(メタデータ) (2026-10-15T15:04:27Z) - KVShareArena: KV-Cache Reuse Across Contexts and Model Checkpoints [14.86076891340077]
KVShare-cacheは、取得したチャンクとエージェントレポートのプロンプトコンテキストとモデルチェックポイントをまたいだ再利用を行う。
再計算を必要としない修正位置は、質問が一度に複数の情報源を必要とするまで十分である。
KVArena-cacheはキャッシュなしと完全再計算の間のギャップを割ってすべてのメソッドをスコアする。
論文 参考訳(メタデータ) (2026-09-09T14:53:45Z) - Tracing Provenance and Detecting Tampering with Complementary LLM Watermarks [68.64050157343334]
既存の透かしは編集の際は残されているが、このような堅牢性は、敵が帰属を維持しながら重要な内容を変更することを可能にする。
実証と改ざんの証拠を共同で提供する革新的な透かしを導入する。
信号は同じメカニズムを共有するが、独立キーと正規化テキスト上の異なるシードウィンドウを使用するため、一方は編集に耐性があり、もう一方は読み取り可能な変更に敏感である。
論文 参考訳(メタデータ) (2026-08-13T01:55:16Z) - The Announcement Carries the Cue: Markup, Boundaries, and the Notation of Pre-Training Corpora [0.0]
ドキュメントのアレンジメントの書き方、表記法は、データセットカードの記録を持たないトレーニング変数である。
クリーン・ウインドウ・サバイバル(クリーン・ウインドウ・サバイバル)は、ストリームのどれだけがまだ境界推定を要求しているかを決定論的にカウントし、3つのフロントでの表記を計測する。
論文 参考訳(メタデータ) (2026-08-10T03:43:30Z) - Whose Refusal Is It? The Unmeasured Contribution of Black-Box Multimodal Guardrails [24.794304039477495]
ガードレールの実際の安全のシェアは、そのすべてから本質的には、どれにも及ばない。
ガードブロックがモデルの応答を置き換えるため、スプリットは余分なコストでリカバリ可能である。
論文 参考訳(メタデータ) (2026-08-09T11:19:30Z) - When Does Latent Communication Pay? A Causal Audit of Relayed KV Caches in Multi-Agent LLMs [5.329759624351636]
マルチエージェントLLMシステムは、テキストの代わりにキー値キャッシュをリレーし、その利得を交換された潜在思想に信用する」。
リリースされたシステムで慎重に監査します。
論文 参考訳(メタデータ) (2026-08-05T14:18:42Z) - Is the Top Still Spinning? Evaluating Subjectivity in Narrative Understanding [40.78154629252038]
曖昧なクレームにバイナリラベルを強制すると、評価の信頼性が低下する。
請求項のニュアンス評価を提供する方法として,LCM生成した要約の編集を紹介する。
我々は,ARMが主張の忠実性に関するアノテータ合意において,絶対的な21%の改善をもたらすことを示す。
論文 参考訳(メタデータ) (2025-04-01T19:08:24Z) - vCache: Verified Semantic Prompt Caching [95.16654660556975]
本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。
オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。
我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
論文 参考訳(メタデータ) (2025-02-06T04:16:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。