論文の概要: Decoupling Memory from Context: Structured Memory for Token-Efficient Test-Time Continual Learning

• arxiv url: http://arxiv.org/abs/2610.02687v2
• Date: Tue, 06 Oct 2026 02:39:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.266958
• Title: Decoupling Memory from Context: Structured Memory for Token-Efficient Test-Time Continual Learning
• Title（参考訳）: コンテキストからメモリを分離する:Token-Efficient Test-Time連続学習のための構造化メモリ
• Abstract要約: 大規模言語モデル (LLMs) は、企業、科学、医療の分野でますます普及している。 コンテキストエンジニアリングは、推論時に提供される指示、戦略、エビデンスを通じてモデルの振る舞いを改善することで、重み付け更新の実践的な代替手段を提供する。 メモリシステムは、インタラクション間で情報を保持することでこの制限に対処するが、共有コンテキストに情報を継続的に付加するアプローチは、トークンコストの増大に直面している。 我々はコンテキスト最適化の統一的な定式化を導入し、エージェントメモリシステムの更新をモデルコンテキスト上での最適化更新手順として解釈可能であることを示す。
• 参考スコア（独自算出の注目度）: 10.507557899958902
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are increasingly deployed in enterprise, scientific, and medical applications, where agents must incorporate domain-specific knowledge and adapt from experience. Context engineering offers a practical alternative to weight updates by improving model behavior through instructions, strategies, and evidence supplied at inference time. However, adapting context online typically requires a costly trial-and-error process, while queries are often processed independently, preventing useful experience from carrying forward. Memory systems address this limitation by retaining information across interactions, but approaches that continually append information to a shared context face increasing token costs, context-window limits, and performance degradation as the context expands. We introduce a unified formulation of context optimization and show that an agent memory system update can be interpreted as an optimization update procedure over the model's context. This perspective attempts to provide a principled framework for studying memory design and its efficiency. We then propose GraphMemory, a lightweight graph-based memory that accumulates, refines, organizes, and connects reusable strategies. For each query, GraphMemory retrieves only the relevant subgraph, enabling online context adaptation without exposing the model to the entire memory. Under bounded retrieval, the amount of retrieved memory remains constant as the number of processed examples grows. Experiments show that GraphMemory achieves competitive downstream performance while using approximately 81-85% fewer memory-construction tokens than our baselines.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、企業、科学、医療アプリケーションにますます導入され、エージェントはドメイン固有の知識を取り入れ、経験から適応しなければならない。 コンテキストエンジニアリングは、推論時に提供される指示、戦略、エビデンスを通じてモデルの振る舞いを改善することで、重み付け更新の実践的な代替手段を提供する。 しかし、オンラインでのコンテキスト適応は通常、コストのかかる試行錯誤処理を必要とするが、クエリは独立して処理されることが多く、有用なエクスペリエンスが前進しない。 メモリシステムは、インタラクション間での情報を保持することでこの制限に対処するが、共有コンテキストに情報を継続的に付加するアプローチは、コンテキストが拡大するにつれてトークンコストの増加、コンテキストウィンドウの制限、パフォーマンスの低下に直面している。 我々はコンテキスト最適化の統一的な定式化を導入し、エージェントメモリシステムの更新をモデルコンテキスト上での最適化更新手順として解釈可能であることを示す。 この観点は、メモリ設計とその効率を研究するための原則的なフレームワークを提供しようとしている。 次に、再利用可能な戦略を蓄積し、洗練し、整理し、接続する軽量なグラフベースのメモリであるGraphMemoryを提案する。 クエリ毎に、GraphMemoryは関連するサブグラフのみを取得し、モデルをメモリ全体に公開することなく、オンラインコンテキスト適応を可能にする。 有界検索の下では、検索されたメモリの量は、処理されたサンプルの数が増えるにつれて一定である。 実験によると、GraphMemoryは、ベースラインよりも81～85%少ないメモリ構成トークンを使用しながら、競争力のあるダウンストリームパフォーマンスを実現している。

関連論文リスト

• MemEvo: Automatic Discovery of Streaming Video Memory Mechanisms [9.703594445570292]
  ストリーミングビデオ理解は、将来のクエリが知られる前に、無限に成長するビジュアルストリームを境界メモリに圧縮する視覚言語モデルを必要とする。 実行可能メモリプログラムに対する探索問題としてメモリ設計を定式化する。 本稿では,構造化プリミティブによるメモリ機構を表現する軽量なドメイン固有言語を提案する。
  論文  参考訳（メタデータ） (2026-09-29T02:59:42Z)
• Hierarchical Graph Memory for LLM Agents with Path-level Localization and Rewrite [12.046084242297423]
  経路レベルのローカライズと書き換えが可能な階層型グラフメモリフレームワークであるHiGramを提案する。 具体的には、まず階層的なグラフメモリを提案し、メモリを上位レベルのノードとMemoryUnitで構成される粗大なアーキテクチャに整理する。 さらに,マイクログラフに基づくパスレベルのローカライゼーションを提案し,クエリと更新条件付きマイクログラフを利用して,書き直し前のサポートサブグラフとエビデンスパスを識別する。
  論文  参考訳（メタデータ） (2026-08-05T17:32:43Z)
• Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents [72.3752981234916]
  大きな言語モデル(LLM)エージェントは、タスク間の経験を蓄積するために、外部メモリシステムに依存している。 メモリ操作をマルコフ決定プロセスとしてモデル化するフレームワークである制御プロセス(MemCon)としてメモリを提示する。 MemConは、複数のメモリベースラインのタスク成功率を最大15.2ポイント上回り、トークン消費量を5-20%削減している。
  論文  参考訳（メタデータ） (2026-07-15T08:32:40Z)
• Graph-based Agent Memory: Taxonomy, Techniques, and Applications [63.70340159016138]
  メモリはLarge Language Model(LLM)ベースのエージェントの中核モジュールとして出現する。 さまざまなパラダイムの中でグラフは、関係依存をモデル化する本質的な能力のため、エージェントメモリの強力な構造として際立っている。 本調査では, エージェントメモリの総合的な検討について, グラフベースの観点から述べる。
  論文  参考訳（メタデータ） (2026-02-05T13:49:05Z)
• Evo-Memory: Benchmarking LLM Agent Test-time Learning with Self-Evolving Memory [89.65731902036669]
  Evo-Memoryは、大規模言語モデル(LLM)エージェントで自己進化型メモリを評価するための、ストリーミングベンチマークとフレームワークである。 10以上の代表的なメモリモジュールを評価し、10種類の多ターンゴール指向およびシングルターン推論およびQAデータセットで評価した。
  論文  参考訳（メタデータ） (2025-11-25T21:08:07Z)
• MemOS: A Memory OS for AI System [116.87568350346537]
  大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。 既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。 MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
  論文  参考訳（メタデータ） (2025-07-04T17:21:46Z)
• Quantifying Memory Utilization with Effective State-Size [73.52115209375343]
  「我々は、テキスト・メモリ利用の尺度を策定する。」 この計量は、textitinput-invariant および textitinput-variant linear operator を持つシステムの基本的なクラスに適合する。
  論文  参考訳（メタデータ） (2025-04-28T08:12:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。