論文の概要: Positions Are Not Facts: The Mismatch Between KV Caches and Memory

• arxiv url: http://arxiv.org/abs/2609.33759v1
• Date: Sun, 27 Sep 2026 16:56:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 17:00:20.693841
• Title: Positions Are Not Facts: The Mismatch Between KV Caches and Memory
• Title（参考訳）: 位置が問題ではない:KVキャッシュとメモリのミスマッチ
• Abstract要約: レコード全体を隠蔽し、置換された値だけを隠蔽し、古いテキストを削除し、キャッシュを再計算する。 マスキングは8つのモデル全てに新しい値を強く好ませるが、6つのモデルはユニットエラーや停止失敗によって完全な答えを失う。 その後の州は、以前の記録から有用な情報も保持している。
• 参考スコア（独自算出の注目度）: 26.404635510613943
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a fact changes, how should a language model update the history stored in its key-value (KV) cache? Hiding the old record is cheap, but it may still contain needed details or answer questions about the past. We compare hiding whole records, hiding only replaced values, and deleting old text and recomputing the cache. In a controlled quantity task, masking makes all eight models prefer the new value more strongly, yet six lose complete answers through unit errors or failure to stop; keeping the unit preserves all current answers. Later states also retain useful information from earlier records: on multi-hop updates, rebuilding these states at unchanged positions lowers historical accuracy by 20-41 percentage points, whereas moving the existing states has little effect. Keeping object dependencies and unchanged revision passages prevents many losses. Recognition is a separate challenge. Learned readouts recover distinctions missed by fixed cache similarities on synthetic record pairs. On natural text, text-detector-selected masks show no clear advantage over random masks at the same rate in 14 same-model detector-generator comparisons. Query-dependent access can avoid some losses, with additional storage or access costs. These findings identify what must be preserved beyond the replaced value when using a KV cache as updatable memory.
• Abstract（参考訳）: 事実が変わった場合、言語モデルはどのようにしてキー値(KV)キャッシュに格納された履歴を更新すべきか? 古いレコードの保存は安いが、それでも必要な詳細や過去の質問に答えることができる。 レコード全体を隠蔽し、置換された値だけを隠蔽し、古いテキストを削除し、キャッシュを再計算する。 制御量タスクにおいて、マスキングは8つのモデル全てに新しい値をより強く好ませるが、6つのモデルはユニットエラーや停止失敗によって完全な答えを失う。 マルチホップ更新では、変化のない位置でこれらの状態を再構築すると、過去の精度が20-41ポイント低下する一方、既存の状態の移動は効果がほとんどない。 オブジェクトの依存関係と変更のパスを変更せずに保持することは、多くの損失を防ぎます。 認識は別の課題です。 学習された読み出しは、合成レコード対上の固定キャッシュ類似性によって欠落した区別を回復する。 自然文では、テキスト検出器選択マスクは、14の同モデル検出器とジェネレーターの比較において、同じ速度でランダムマスクに対して明確な優位性を示す。 クエリに依存したアクセスは、追加のストレージやアクセスコストで多少の損失を避けることができる。 これらの結果は、KVキャッシュをアップダブルメモリとして使用する場合、交換値を超えて保存すべきものを特定する。

関連論文リスト

• KVShareArena: KV-Cache Reuse Across Contexts and Model Checkpoints [14.86076891340077]
  KVShare-cacheは、取得したチャンクとエージェントレポートのプロンプトコンテキストとモデルチェックポイントをまたいだ再利用を行う。 再計算を必要としない修正位置は、質問が一度に複数の情報源を必要とするまで十分である。 KVArena-cacheはキャッシュなしと完全再計算の間のギャップを割ってすべてのメソッドをスコアする。
  論文  参考訳（メタデータ） (2026-09-09T14:53:45Z)
• MoM: Memory of Memory [10.647842476494423]
  メモリトラックは、自身のエントリの内容だけでなく、出典、ステータス、履歴も形式化します。 MoM を textscProvenant Memory (P-Mem) としてインスタンス化する そのターンレベルの読み取りは、最も高い検索メモリの精度を$sim$4$times$ less read tokensと一致させる。
  論文  参考訳（メタデータ） (2026-09-07T11:59:46Z)
• What It Costs to Compose, Rebuild, and Correct Precomputed Memory [0.0]
  言語モデルは、あらかじめ計算されたメモリ、モデルが保存した素材の読み出しから答えることができる。 本論文は、その実践が正しさと失敗する条件をどこに保存するかを図示する。
  論文  参考訳（メタデータ） (2026-08-31T11:49:42Z)
• TARL: Transaction-Aware Reliable Ledgers for Executable Memory Management in Long-Term Agents [20.123133746969398]
  メモリ状態更新フレームワークであるTARLを導入し、各ステートメントを5つの実行可能なアクションのうちの1つにマップする。 TARLは、影響を受けるメモリを特定し、その時間的スコープを解決し、ソースの信頼性を比較し、受け入れ、保留、拒否された台帳を更新する。 また、粒度の細かいアクションラベルと次の状態目標を持つベンチマークであるTARL-Memについても紹介する。
  論文  参考訳（メタデータ） (2026-08-04T14:02:55Z)
• Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
  近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。 より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。 我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
  論文  参考訳（メタデータ） (2026-07-30T02:42:51Z)
• MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
  ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。 MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。 長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
  論文  参考訳（メタデータ） (2026-07-14T15:33:44Z)
• Position Rebinding Cache Reuse: Replay-Free Visual Revisiting for Interleaved Multimodal Reasoning [51.563653495547335]
  マルチモーダル推論は、マルチステップ生成中に視覚的証拠を再考することによって、視覚的接地を改善する。 再生不要な視覚的再考のためのキャッシュレベルフレームワークであるPlace Rebinding Cache Reuse (PRCR)を提案する。 PRCRはリプレイレベルまたはパフォーマンスの向上を実現し、平均精度を5%向上し、視覚的再考を最大数万倍削減する。
  論文  参考訳（メタデータ） (2026-06-25T05:47:52Z)
• FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion [59.207505503284715]
  FadeMemは、歴史的なKVブロックを固定キャッシュ予算の下で時間階層に整理する。 新しい歴史はきめ細かいエントリとして挿入され、古い隣のエントリは徐々にマージされる。 実験では、既存の有界キャッシュ戦略よりも、被験者の一貫性、背景安定性、時間的コヒーレンスが改善された。
  論文  参考訳（メタデータ） (2026-06-09T10:22:18Z)
• HistAlign: Improving Context Dependency in Language Generation by Aligning with History [96.35214682008701]
  言語モデル(LM)は、その弱いコンテキスト依存性を強調する幻覚や一貫性のない出力を生成することができる。 近年のメモリでLMを増大させるキャッシュ-LMは、コンテキスト依存性を増大させる可能性がある。 HistAlignはキャッシュの整合性を確保するための新しいトレーニング手法だ。
  論文  参考訳（メタデータ） (2023-05-08T15:34:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。