論文の概要: From Long Context to Selective Memory:A Survey of Memory-Centric Compression for Large Language Models

• arxiv url: http://arxiv.org/abs/2610.21165v1
• Date: Thu, 15 Oct 2026 03:24:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.158802
• Title: From Long Context to Selective Memory:A Survey of Memory-Centric Compression for Large Language Models
• Title（参考訳）: 長期記憶から選択記憶へ:大規模言語モデルにおける記憶中心圧縮に関する調査
• Abstract要約: このサーベイは、長文圧縮を推論時間リソースを割り当てるためのメモリ管理問題として再設定する。 情報ライフサイクル内の状態遷移として、書き込み、オフロード、リコール、検索とインジェクション、物質化、排除、統合、忘れ忘れを定式化します。 結果として生じるフレームワークは、短期的なコンテキスト圧縮、長期記憶管理、およびそれらの間の遷移を統一する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Long-context capability has become essential for large language models (LLMs) to handle complex tasks, yet continuously expanding the context window does not remove the computational, storage, and information-selection pressures incurred at inference time. Existing work on prompt compression, KV-cache management, efficient serving, retrieval augmentation, and agent memory is usually discussed in isolation, leaving the flow of information between storage and computation insufficiently understood. This survey reframes long-context compression as a memory-management problem for allocating inference-time resources. We distinguish compute-active memory, which directly participates in model computation, from compute-inactive memory, which lies outside the computation path but can be stored, retrieved, updated, or forgotten, and we characterize offloaded KV caches, persistent prefix caches, and precomputed KV states as intermediate states on the activation path. On this basis, we formulate writing, offloading, recall, retrieval-and-injection, materialization, eviction, consolidation, and forgetting as state transitions within an information lifecycle, and introduce a budgeted cost model that places these operations in a single cost account. The resulting framework unifies short-term context compression, long-term memory management, and the transitions between them, and shows that the central challenge is not merely reducing information volume but deciding which information should participate in costly inference, when, and in what form. We further summarize evaluation dimensions, benchmark gaps, and open challenges, and argue that future research should move from static, pointwise compression toward dynamic, governable, lifecycle-aware memory management.
• Abstract（参考訳）: 大規模言語モデル(LLM)が複雑なタスクを処理するためには、長いコンテキスト能力が不可欠になっているが、コンテキストウィンドウを継続的に拡張しても、推論時に発生する計算、記憶、情報選択のプレッシャーは取り除けない。 高速圧縮、KVキャッシュ管理、効率的なサービス、検索強化、エージェントメモリに関する既存の作業は、通常は独立して議論され、記憶と計算の間の情報の流れは十分に理解されていない。 このサーベイは、長文圧縮を推論時間リソースを割り当てるためのメモリ管理問題として再設定する。 我々は、計算経路の外にあるが保存、検索、更新、または忘れられる計算非活性メモリと直接モデル計算に参加する計算活性メモリを区別し、活性化経路上の中間状態として、オフロードされたKVキャッシュ、永続的なプレフィックスキャッシュ、プリ計算されたKV状態を特徴付ける。 本研究では,情報ライフサイクル内の状態遷移として記述・オフロード・リコール・リコール・検索・インジェクション・物質化・省略・統合・忘れを定式化し,これらの操作を単一コストアカウントに配置する費用モデルを導入する。 結果として得られたフレームワークは、短期的なコンテキスト圧縮、長期記憶管理、およびそれらの間の遷移を統一し、その中心となる課題は、単に情報量を減らすだけでなく、どの情報がコストのかかる推論、いつ、どの形式で参加すべきかを決定することである。 さらに評価次元、ベンチマークギャップ、オープンな課題を要約し、将来の研究は静的、ポイントワイドな圧縮から動的、管理可能な、ライフサイクル対応のメモリ管理に移行するべきだと論じる。

関連論文リスト

• Event-Centric Memory with Query-Aware Graph Augmentation for Long-Term Conversational Agents [51.804747364500344]
  本稿では,人間の記憶を動機とした新しいメモリ構築とアクティベーションフレームワークQGMemを提案する。 QGMemは、長い対話履歴を個々の体験を保存するイベントインデックス化された原子記憶ユニットに変換する。 検索,マルチホップエビデンス構成,コンフリクト解決,コンパクトな文脈による超長文対話推論において,一貫した利得を示す。
  論文  参考訳（メタデータ） (2026-10-08T13:17:59Z)
• Memory Control Signals Emerge Before Action in Long Horizon Agents [55.84813053778976]
  各エージェントアクションの直前に隠された状態を調べ、圧縮とリコールの要求がモデルの内部表現にすでにエンコードされていることを確認する。 本研究では,状態誘導圧縮と外部エビデンス検索を組み合わせたPreaction Memory with Evidence Retrieval (PaMER)を提案する。
  論文  参考訳（メタデータ） (2026-09-23T03:23:34Z)
• VikingMem: A Memory Base Management System for Stateful LLM-based Applications [22.527701567108195]
  本稿では,長期的相互作用の持続状態を管理するための新しいデータ管理パラダイムであるMemory Baseを紹介する。 本稿では,VikingDBベクタエンジン上に実装されたエンドツーエンドメモリベース管理システムであるVikingMemを紹介する。
  論文  参考訳（メタデータ） (2026-05-28T09:07:42Z)
• MemOS: A Memory OS for AI System [116.87568350346537]
  大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。 既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。 MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
  論文  参考訳（メタデータ） (2025-07-04T17:21:46Z)
• Cognitive Memory in Large Language Models [8.059261857307881]
  本稿では,Large Language Models (LLMs) における記憶機構について検討し,文脈に富む応答の重要性,幻覚の減少,効率の向上などを強調した。 メモリは、インプットプロンプト、短期記憶処理の即時コンテキスト、外部データベースや構造を介して実装された長期記憶に対応して、インプットプロンプト、短期記憶、長期記憶に分類する。
  論文  参考訳（メタデータ） (2025-04-03T09:58:19Z)
• CORM: Cache Optimization with Recent Message for Large Language Model Inference [57.109354287786154]
  メモリフットプリントを大幅に最小化するKVキャッシュを最適化する革新的な手法を提案する。 KVキャッシュ消去ポリシーであるCORMは、モデル微調整を必要とせずに、推論に必要なキーと値のペアを動的に保持する。 検証の結果,CORMはKVキャッシュの推論メモリ使用量を最大70%削減し,LongBenchの6つのタスクで性能劣化を無視できることがわかった。
  論文  参考訳（メタデータ） (2024-04-24T16:11:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。