論文の概要: Consolidator: Learning Persistent Routed Memory Across Context Boundaries
- arxiv url: http://arxiv.org/abs/2608.11701v1
- Date: Wed, 12 Aug 2026 06:26:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.480895
- Title: Consolidator: Learning Persistent Routed Memory Across Context Boundaries
- Title（参考訳）: Consolidator: コンテキスト境界を越えた永続的ルーティングメモリの学習
- Abstract要約: 我々は、ルート付きSTMを長期メモリ(LTM)に蓄積する前に変換する共有スロットローカル演算子をテストする。
我々は,この機構を,第2セグメントが同じメモリアドレスでマッピングを更新する2段階のModulo-10マッピングタスクで評価する。
同じSTM予行チェックポイントからの5対のランで、ダイレクトLTMルーティングは4.38pm1.94%$から8.7.02pm1.76%$$+42.64pm1.10$%ポイントに更新されたリコールを上昇させる。
- 参考スコア（独自算出の注目度）: 3.0459410574367314
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Copying short-term memory (STM) into a slower store can preserve state across a context boundary, but persistence alone does not ensure that the retained state influences subsequent memory access. We test this distinction in a Phasor Memory Network (PMNet) using Consolidator, a shared slot-local operator that transforms routed STM before accumulating it into long-term memory (LTM), without replaying the source tokens. After each consolidation, the KV cache and STM are cleared. The retained LTM can still be read and is also fed into the hierarchical router, thereby conditioning which explicit-memory slots subsequent inputs access. We evaluate this mechanism on a two-segment modulo-10 mapping task in which the second segment updates the mapping at the same memory address. Following a second consolidation and reset, a held-out query must recover the updated mapping from LTM. The backbone and memory interface are frozen, leaving only 12.35K Consolidator parameters trainable (0.041\% of a 29.95M model). Across five paired runs from the same STM-pretraining checkpoint, direct LTM routing raises updated-mapping recall from $44.38\pm1.94\%$ to $87.02\pm1.76\%$ ($+42.64\pm1.10$ percentage points), while immediate STM recall remains 89.90\% in both conditions; both train separate Consolidators and retain the same LTM read paths. Learned consolidation outperforms forced identity accumulation by $21.40\pm1.91$ percentage points without routing and $68.70\pm1.76$ with routing. Thus, on this task, consolidated LTM serves as both retrievable content and an access state that shapes subsequent slot selection.
- Abstract（参考訳）: 短期記憶(STM)を遅いストアにコピーすることは、コンテキスト境界を越えて状態を保存できるが、持続性だけでは、保持状態がその後のメモリアクセスに影響を与えることを保証しない。
本研究では,Phasor Memory Network (PMNet) において,ソーストークンを再生することなく,経路付きSTMを長期記憶(LTM)に変換する共有スロットローカル演算子 Consolidator を用いて,この区別を検証した。
各統合後、KVキャッシュとSTMをクリアする。
保持されたLTMは読み取り可能であり、階層的なルータに入力されるため、明示的なメモリスロットが後続の入力にアクセスするように条件付けされる。
我々は,この機構を,第2セグメントが同じメモリアドレスでマッピングを更新する2段階のModulo-10マッピングタスクで評価する。
2回目の統合とリセットの後、ホールドアウトされたクエリは、更新されたマッピングをLTMから復元する必要がある。
バックボーンとメモリインターフェースは凍結されており、コンソリエーターパラメータは12.35K(29.95Mモデルの0.041\%)しか訓練できない。
同じSTM予行チェックポイントから5対の走行で、ダイレクトLTMルーティングは4.38\pm1.94\%$から8.7.02\pm1.76\%$$+42.64\pm1.10$%まで更新されたマッピングリコールを上昇させる。
学習された統合は、ルーティングなしで21.40\pm1.91$パーセンテージポイント、ルーティングなしで68.70\pm1.76$のID蓄積を強制的に上回る。
このようにして、統合LTMは、検索可能なコンテンツと、その後のスロット選択を形作るアクセス状態の両方として機能する。
関連論文リスト
- Shared KV Caching for Replicated 27B Inference: Correctness Failures and Performance Boundaries [6.185334606321749]
256 GiB LMCacheプールを共有する2つのシングルGPU 27B vLLMレプリカについて検討した。
複製を交互に行う6ターン合成セッションは、32kと128kの初期文脈で約35%と45%改善した。
論文 参考訳（メタデータ） (2026-09-14T04:37:44Z) - LycheeMemory V2: Efficient Long-Term Memory for LLM Agents via Semantic Segment-Level Consolidation [27.436221279026856]
LycheeMemory V2は、ターンレベルの統合をセマンティックセグメントレベルの統合に置き換える、効率的な長期記憶フレームワークである。
LycheeMemoryは、LoCoMoでGPT-4.12%、LongMemEval-Sで92.20%、最先端のパフォーマンスを実現している。
論文 参考訳（メタデータ） (2026-08-13T09:13:15Z) - Addressable Memory for Video World Models [50.40232922140905]
インタラクティブなビデオワールドモデルにおける視覚的永続性について研究する。
長時間の視覚的永続性のためのトレーニング不要なメモリフレームワーク WorldTrace を提案する。
論文 参考訳（メタデータ） (2026-08-07T16:55:57Z) - Caching for the Future: Scrub Jay Episodic Memory Principles for Agent Memory Systems [5.321970297768025]
既存の記憶アーキテクチャは、全ての記憶を、時代遅れの事実と共に、保存されたコンテキストを均等に永続的で体系的に汚染したものとして扱う。
メモリ当たりの時間減衰は,外部LLMエージェントメモリストアにおいて,自動分類係数$_i$として操作可能であることを示す。
本稿では,時間的一般化テスト(TGT)と,保持間隔を保ったベンチマーク,一般化ギャップ(GenGap)メトリクスを紹介する。
論文 参考訳（メタデータ） (2026-08-05T12:12:44Z) - Latent Recurrent Transformer: Architecture Exploration, Training Strategies, and Scaling Behavior [107.2098567818173]
Latent Recurrent Transformer (LRT) は自己回帰変換器の軽量化である。
LRTは、次のトークンのリカレントメモリとして、前のトークンから高レベルなソース層隠れステートを再利用する。
論文 参考訳（メタデータ） (2026-05-26T10:10:26Z) - AgentKVShift: Efficient KV Cache Reuse for Agentic Memory Systems [15.913507689262573]
AgentKVShift(エージェントKVShift)は、検索したメモリ単位ごとに動作させる訓練不要のプローブ誘導残差補正手法である。
我々は,AgentKVShiftがキャッシュの10～30%をリフレッシュしながら,ほぼ完全な再計算性能を実現することを示す。
このほぼフルに近いパフォーマンスに達するには最大5倍の低い再計算が必要で、以前の再利用メソッドは45～55%のリフレッシュしか得られない。
論文 参考訳（メタデータ） (2026-05-15T16:29:36Z) - Echo: KV-Cache-Free Associative Recall with Spectral Koopman Operators [45.88028371034407]
スペクトルクープマン注意(SKA)を中心に構築されたKV-cacheフリー連想リコールアーキテクチャ
我々は、SKA(Spectral Koopman Attention)を中心に構築されたKV-cacheフリーな連想型リコールアーキテクチャであるEchoを紹介する。
論文 参考訳（メタデータ） (2026-05-07T22:26:27Z) - MemRouter: Memory-as-Embedding Routing for Long-Term Conversational Agents [20.000127976303606]
我々は、下流の応答バックボーンからメモリの入力を分離する書き込み側メモリルータであるMemを紹介する。
Memは、12Mパラメータのみをトレーニングしながら、軽量な分類ヘッドを使用してターンを格納すべきかどうかを予測する。
論文 参考訳（メタデータ） (2026-05-01T02:33:50Z) - MemMA: Coordinating the Memory Cycle through Multi-Agent Reasoning and In-Situ Self-Evolution [52.29303869050117]
メモリ拡張LDMエージェントは、長期の相互作用をサポートするために外部メモリバンクを保持する。
MemMAはプラグアンドプレイのマルチエージェントフレームワークで、前方と後方の両方の経路に沿ってメモリサイクルを調整する。
論文 参考訳（メタデータ） (2026-03-19T10:15:59Z) - AMV-L: Lifecycle-Managed Agent Memory for Tail-Latency Control in Long-Running LLM Systems [0.0]
本稿では,エージェントメモリを管理システムリソースとして扱うメモリ管理フレームワークであるAMV-Lを提案する。
AMV-Lはスループットを3.1倍改善し、レイテンシを4.2倍 (median)、4.7倍 (p95)、4.4倍 (p99) 削減する。
論文 参考訳（メタデータ） (2026-02-22T00:11:20Z) - LiVOS: Light Video Object Segmentation with Gated Linear Matching [116.58237547253935]
LiVOSはリニアアテンションによるリニアマッチングを利用する軽量メモリネットワークである。
長くて高解像度のビデオでは、STMベースのメソッドと53%のGPUメモリで一致し、32Gの消費者向けGPU上で4096pの推論をサポートする。
論文 参考訳（メタデータ） (2024-11-05T05:36:17Z) - Mini-Sequence Transformer: Optimizing Intermediate Memory for Long Sequences Training [78.93900796545523]
ミニシーケンス変換器(Mini-Sequence Transformer, MsT)は、非常に長いシーケンスを持つ高速かつ高精度なLLMトレーニング手法である。
MsTは入力シーケンスを分割し、中間メモリ使用量を減らすためにミニシーケンスを反復的に処理する。
huggingfaceライブラリと統合され、MsTはQwen、Mistral、Gemma-2の最大コンテキスト長を12-24倍に拡張した。
論文 参考訳（メタデータ） (2024-07-22T01:52:30Z) - RMM: Reinforced Memory Management for Class-Incremental Learning [102.20140790771265]
クラスインクリメンタルラーニング(CIL)は、厳格な記憶予算の下で分類器を訓練する。
既存のメソッドは静的およびアドホックな戦略を使ってメモリ割り当てを行うが、これはしばしば準最適である。
本稿では,段階的な段階と異なるオブジェクトクラスに最適化された動的メモリ管理戦略を提案する。
論文 参考訳（メタデータ） (2023-01-14T00:07:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。