論文の概要: What It Costs to Compose, Rebuild, and Correct Precomputed Memory
- arxiv url: http://arxiv.org/abs/2608.30647v1
- Date: Mon, 31 Aug 2026 11:49:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.374314
- Title: What It Costs to Compose, Rebuild, and Correct Precomputed Memory
- Title（参考訳）: プリコンプリートメモリの作成、再ビルド、修正に要するコスト
- Abstract要約: 言語モデルは、あらかじめ計算されたメモリ、モデルが保存した素材の読み出しから答えることができる。
本論文は、その実践が正しさと失敗する条件をどこに保存するかを図示する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Language models can answer from precomputed memory, a model's saved reading of a body of material, reused across requests instead of read again at each. This paper maps where that practice preserves correctness and the conditions under which it fails. Across experiments on Llama-3.1-8B-Instruct using both saved key-value caches and trained compressions of them, precomputed memory degrades when assembled from separately prepared parts, stays current only through rebuilds costing a large fraction of full preparation in our measurements, and ignores corrections served beside it conditional on phrasing. If precomputed memories can be served alongside one another, be cost-efficiently rebuilt, and be superseded by new information arriving in real-time, they can serve as a way to avoid re-feeding context to a model over repeated queries. The implication of our results for a deployed system that deals with a variety of queries is that precomputed memories are best rebuilt on the cadence at which new information changes what the memory was originally computed from. Both warm-rebuilding trained compressions of key-value caches and serving specifically-phrased updates beside a memory, as pasted text or injected cache state, show particular promise for keeping precomputed memories current, the latter as an interim measure between rebuilds, and we measure the cost and name the remaining questions associated with each.
- Abstract（参考訳）: 言語モデルは、あらかじめ計算されたメモリ、モデルが保存した素材の読み出しから答えることができる。
本論文は、その実践が正しさと失敗する条件をどこに保存するかを図示する。
Llama-3.1-8B-Instructでは、保存されたキー値キャッシュとトレーニングされた圧縮の両方を使用し、予備計算されたメモリは、別々に準備された部分から組み立てられたときに劣化し、リビルドによってのみ電流が持続する。
事前計算された記憶が互いに同時に提供され、コスト効率が良く再構築され、リアルタイムで到着する新しい情報に取って代わることができれば、繰り返しクエリよりもモデルに再送されるコンテキストを避ける方法として機能する。
各種クエリに対処するデプロイシステムにおいて,本研究の結果が意味することは,前処理したメモリは,新しい情報によって元のメモリが変換されるケイデンスに最もよく再構築されるということだ。
暖かく再構築されたキーバリューキャッシュの圧縮と,ペーストしたテキストやインジェクトされたキャッシュ状態などのメモリの横に特別に記述された更新を提供する。
関連論文リスト
- Mitigating Over-Personalization in LLMs via Structured Memory [8.188066927114779]
メモリ拡張LDMにおける2つの障害モードについて検討した。
モデルやメモリの内容を変更することなく、モデルにどのようにメモリを提示するかを単純な推論時間で変更する。
論文 参考訳（メタデータ） (2026-08-08T19:23:12Z) - Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。
より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。
我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
論文 参考訳（メタデータ） (2026-07-30T02:42:51Z) - PReM: Learning What to Preserve and When to Refresh for Context Compression [24.88582494682977]
PReM(Preserve and Refresh Memory)は、長文推論のためのコンテキスト圧縮フレームワークである。
モデルの内部レイヤ単位のKVメモリとして長いコンテキストを維持し、何を保存するか、いつリフレッシュするかを学ぶ。
32Kのコンテキストでの実験では、PReMは16xと32xの圧縮において強いベースラインよりも優れていた。
論文 参考訳（メタデータ） (2026-07-15T19:46:10Z) - MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。
MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。
長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
論文 参考訳（メタデータ） (2026-07-14T15:33:44Z) - Echo-Memory: A Controlled Study of Memory in Action World Models [58.77172260403133]
本研究では,行動条件付き世界モデルにおける記憶機構の制御に関する研究を行う。
既存のメモリ設計と比較するのは難しいのは、ゲインにはバックボーン、トレーニング、検索、評価の違いが絡み合っているからである。
我々はEcho-Memoryを使ってアクション・ツー・ビデオのインタフェースを修正し、生成元によって履歴が保存され読み込まれるかだけを変える。
論文 参考訳（メタデータ） (2026-06-08T17:54:10Z) - EM-Vid: Training-Free Entity-Centric Memory for Efficient and Consistent Multi-Shot Video Generation [18.052867824594347]
マルチショットビデオ生成には、ショット間で連続的なエンティティの出現を維持する必要がある。
最近の自己回帰手法は、以前生成されたフレームをメモリとして再利用する。
我々は、潜伏パッチのエンティティインデックスバンクという形でエンティティ中心のメモリを提案する。
論文 参考訳（メタデータ） (2026-05-22T13:20:29Z) - A Parametric Memory Head for Continual Generative Retrieval [52.66674234249913]
生成情報検索(GenIR)は、検索を単一のニューラルモデルに統合し、クエリから直接ドキュメント識別子(ドシデント)をデコードする。
逐次適応は、新たに追加された文書の検索を改善するが、以前のスライスの性能は著しく低下することを示す。
本稿では,モジュール型パラメトリックメモリヘッドで適応モデルを拡張するメモリのみの安定化ステージである,後適応メモリチューニング(PAMT)を提案する。
論文 参考訳（メタデータ） (2026-04-25T17:38:51Z) - NextMem: Towards Latent Factual Memory for LLM-based Agents [58.35585202907478]
NextMemは、自動回帰型オートエンコーダを使用して、潜時メモリを効率的に構築する、潜時ファクトメモリフレームワークである。
大規模な実験は、NextMemが優れたパフォーマンスを達成することを示す。
論文 参考訳（メタデータ） (2026-02-26T14:35:27Z) - Memory Retention Is Not Enough to Master Memory Tasks in Reinforcement Learning [44.94110361062394]
実世界の意思決定は、安定かつ適応性のあるメモリに依存する。
既存の強化学習ベンチマークとメモリ拡張エージェントは、主に保持に焦点を当てている。
部分的な可観測性の下で連続的なメモリ更新を明示的にテストするベンチマークを導入する。
論文 参考訳（メタデータ） (2026-01-21T15:27:23Z) - Pre-Storage Reasoning for Episodic Memory: Shifting Inference Burden to Memory for Personalized Dialogue [13.558061425427688]
PreMemは、複雑な推論プロセスを推論からメモリ構築に移行する新しいアプローチである。
これは、相互作用中の計算要求を減らしながら、リッチな表現を生成する。
実験では、すべてのモデルサイズで大幅にパフォーマンスが向上した。
論文 参考訳（メタデータ） (2025-09-13T15:18:08Z) - Memory Replay with Data Compression for Continual Learning [80.95444077825852]
古いトレーニングサンプルの記憶コストを低減するため,データ圧縮によるメモリリプレイを提案する。
我々はこれを、クラスインクリメンタル学習のいくつかのベンチマークと、自律運転のためのオブジェクト検出の現実的なシナリオにおいて、広範囲に検証する。
論文 参考訳（メタデータ） (2022-02-14T10:26:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。