論文の概要: Persistent Context Graphs for Efficient Memory Compaction in LLM Agents

• arxiv url: http://arxiv.org/abs/2609.40118v1
• Date: Wed, 30 Sep 2026 16:43:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:28.099962
• Title: Persistent Context Graphs for Efficient Memory Compaction in LLM Agents
• Title（参考訳）: LLMエージェントの効率的なメモリ圧縮のための永続的コンテキストグラフ
• Abstract要約: 既存の方法は履歴を要約するか、KVキャッシュを圧縮する。 ReCAPは注目に起因した重要度スコアと依存関係のリンクを、軽量で永続的なコンテキストグラフに格納する。 Codexのデフォルトの要約ベースの圧縮と比較すると、ReCAPは圧縮と低温回復の予測遅延を約95%削減する。
• 参考スコア（独自算出の注目度）: 36.77935189537971
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As LLM capabilities advance, agents are tackling increasingly complex tasks over longer horizons. Their growing interaction histories make memory compaction essential for staying within context windows and reducing prefill cost. Existing methods summarize the history or compress its KV cache, often adding model computation to preserve information for future requests. A new user request can change which history matters, but reassessing that history with the model requires re-encoding it if the KV cache has expired. Past attention provides signals of historical importance and dependencies between messages, while relevance to the current task must be assessed using the new user request. We introduce ReCAP, a memory compaction method that stores attention-derived importance scores and dependency links in a lightweight, persistent context graph. For each new request, ReCAP combines stored importance with relevance cues from the request and follows dependency links to select messages and their supporting context, without additional model calls for selection. Compared with Codex's default summarization-based compaction, ReCAP reduces estimated latency for compaction and cold restoration by approximately 95% on both Qwen3-Coder and gpt-oss. It also roughly halves the historical context per call on SWE-Together at comparable task quality and improves accuracy on the code tasks of Lost-in-Conversation over full history by 19.8 and 41.2 points.
• Abstract（参考訳）: LLMの能力が向上するにつれ、エージェントはより長い地平線上でますます複雑なタスクに取り組むようになる。 相互作用履歴の増大により、メモリの圧縮はコンテキストウィンドウ内に留まり、プリフィルコストを削減できる。 既存の方法では、履歴を要約したり、KVキャッシュを圧縮したりし、しばしば将来の要求のために情報を保存するためにモデル計算を追加する。 新しいユーザリクエストは、どの履歴が重要かを変更できるが、その履歴をモデルで再評価するには、KVキャッシュが終了すると再エンコードする必要がある。 過去の注意は、メッセージ間の歴史的重要性と依存関係のシグナルを提供する一方で、現在のタスクへの関連性は、新しいユーザリクエストを使って評価する必要がある。 本稿では,注目に起因した重要度スコアと依存性リンクを,軽量で永続的なコンテキストグラフに格納するメモリ圧縮手法ReCAPを紹介する。 新しいリクエスト毎に、ReCAPは格納された重要度と、リクエストからの関連キューを組み合わせ、選択したメッセージとそのサポートコンテキストへの依存性リンクを、選択のための追加モデルコールなしでフォローする。 Codexのデフォルトの要約ベースの圧縮と比較すると、ReCAPはQwen3-Coderとgpt-ossの両方で、圧縮と低温回復の予測遅延を約95%削減する。 また、SWE-Togetherの呼び出し毎の履歴コンテキストを同等のタスク品質で拡張し、全履歴におけるLost-in-Conversationのコードタスクの精度を19.8ポイントと41.2ポイント向上させる。

関連論文リスト

• RelaxKV: Recomputation Guided by the Query with Sparse Context Attention for Efficient KV Cache Reuse [11.49301528421843]
  クロスリクエストKVキャッシングはレトリーバル拡張ジェネレーション(RAG)のプリフィルコストを低減させる RelaxKVは、修復目標と再計算コンテキストに対する共同割り当て問題として選択的なキャッシュ修復を定式化する。
  論文  参考訳（メタデータ） (2026-09-27T12:12:00Z)
• Memory Control Signals Emerge Before Action in Long Horizon Agents [55.84813053778976]
  各エージェントアクションの直前に隠された状態を調べ、圧縮とリコールの要求がモデルの内部表現にすでにエンコードされていることを確認する。 本研究では,状態誘導圧縮と外部エビデンス検索を組み合わせたPreaction Memory with Evidence Retrieval (PaMER)を提案する。
  論文  参考訳（メタデータ） (2026-09-23T03:23:34Z)
• Dynamic Compression in Recurrent Networks [10.562527255330536]
  リカレントモデルは、履歴を固定サイズの状態に圧縮することで、長いコンテキストを効率的に処理する。 動的圧縮を導入し、過去のトークンを選択的に再検討し、その固定サイズの状態を修正できるようにする。 動的圧縮は, 正確な再利用に必要な再帰状態を著しく低減し, 保存関数の数が増加するにつれて, より良好にスケールする。
  論文  参考訳（メタデータ） (2026-08-18T15:29:18Z)
• Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
  近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。 より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。 我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
  論文  参考訳（メタデータ） (2026-07-30T02:42:51Z)
• Akashic: A Low-Overhead LLM Inference Service with MemAttention [24.632531185056262]
  本稿では,MemAttentionを中心に構築された低オーバーヘッドメモリシステムであるAkashicを提案する。 Akashicはコンテキストを境界チャンクに整理し、チャンク間のセマンティックな関係をモデル化する。 Akashicはタスクの精度を最大10.2ポイント、スループットを最大1.21倍、リクエストレートを最大1.88倍改善する。
  論文  参考訳（メタデータ） (2026-07-07T00:06:22Z)
• Kwai Summary Attention Technical Report [69.40814939510126]
  長文の能力は、次世代の大規模言語モデルの最も重要な方向性の1つになっている。 標準ソフトマックスアテンションは、シーケンスの長さに関して2次時間複雑性を示す。 歴史的文脈を圧縮することでシーケンスモデリングコストを削減する新しいアテンションメカニズムであるKwai Summary Attention (KSA)を提案する。
  論文  参考訳（メタデータ） (2026-04-27T12:59:53Z)
• AMA: Adaptive Memory via Multi-Agent Collaboration [54.490349689939166]
  複数の粒度にまたがるメモリ管理に協調エージェントを活用する新しいフレームワークであるAMA(Adaptive Memory via Multi-Agent Collaboration)を提案する。 AMAは、ステート・オブ・ザ・アートのベースラインを著しく上回り、トークンの消費をフルコンテキストの手法と比べて約80%削減する。
  論文  参考訳（メタデータ） (2026-01-28T08:09:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。