論文の概要: LiveMem: Maintaining Memory State Continuity in Long-Running LLM Inference
- arxiv url: http://arxiv.org/abs/2608.02515v2
- Date: Fri, 07 Aug 2026 09:41:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 14:11:30.949521
- Title: LiveMem: Maintaining Memory State Continuity in Long-Running LLM Inference
- Title(参考訳): LiveMem: 長期LLM推論におけるメモリ状態継続性を維持する
- Abstract要約: 長期にわたるアシスタントとエージェントは計算ストリームを消費し、最終的にコンテキストを上回る。
既存のコンテキスト保持、要約、検索は、選択した履歴へのアクセスを保存するが、作業コンテキストが変化すると、ライフサイクル全体にわたって永続的な状態を提供しない。
そこで本研究では,事前学習したフルアテンション LLM をメモリ状態で拡張し,ライフサイクル全体にわたって履歴情報を保存する,固有のメモリ方式 textbfLiveMem を提案する。
- 参考スコア(独自算出の注目度): 6.324239367257621
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long-running assistants and agents consume interaction streams that eventually outgrow the context. Existing context retention, summarization, and retrieval preserve access to selected history, but do not provide a persistent state over the full lifecycle when working context changes. We formulate this missing inference capability as \emph{state continuity under context turnover}: carrying computation forward through a fixed-capacity memory state whose lifetime is independent of the active context. We introduce an intrinsic memory method, \textbf{LiveMem}, which augments a pretrained full-attention LLM with a memory state that preserves the historical information over the whole lifecycle while the main attention path retains a bounded KV window. Context turnover and memory state maintaining, memory-oriented post-training, and state-aware serving jointly make this memory state load bearing after its originating tokens are released. Our experiments show that LiveMem achieves leading overall performance among evaluated systems and other intrinsic memory methods. Experiments on LongMemEval show that LiveMem is able to answer the question based on the memory state, even when the supporting evidence has been removed from the current context, and evidence-distance analysis shows that useful information persists beyond the active window. LiveMem thus establishes state continuity as a distinct and complementary abstraction for continual LLM inference.
- Abstract(参考訳): 長期にわたるアシスタントとエージェントはインタラクションストリームを消費し、最終的にコンテキストを上回ります。
既存のコンテキスト保持、要約、検索は、選択した履歴へのアクセスを保存するが、作業コンテキストが変化すると、ライフサイクル全体にわたって永続的な状態を提供しない。
我々は、この欠落した推論能力を 'emph{state continuity under context turnover}: carry compute forward through a fixed-capacity memory state that lifetime is independent from the active context。
そこで本研究では,事前学習したフルアテンションLDMをメモリ状態で拡張し,ライフサイクル全体にわたって履歴情報を保存し,メインアテンションパスがバウンドされたKVウィンドウを保持する,固有のメモリ手法である‘textbf{LiveMem} を導入する。
コンテクストのターンオーバーとメモリ状態の維持、メモリ指向のポストトレーニング、およびステートアウェアサービスにより、元のトークンが解放された後に、このメモリ状態のロードベアリングを共同で行う。
実験の結果,LiveMemは評価されたシステムや本質的なメモリ手法の全体的な性能を向上することがわかった。
LongMemEvalの実験は、LiveMemが現在の状況から支持された証拠が取り除かれたとしても、メモリ状態に基づいて質問に答えることができることを示している。
これにより、LiveMemは連続LLM推論のための独立かつ補完的な抽象化として状態連続性を確立する。
関連論文リスト
- LifeFuse-Mem: Lifecycle-Aware State Fusion Against Temporary Overwriting for Long-Term Memory [16.775600156252096]
LLMエージェントは相互作用間のコヒーレントな内部状態を維持するメモリ機構を必要とする。
LifeFuse-Memは、時間的コミットメントに従って情報を分離するニューラルメモリフレームワークである。
LifeFuse-Memは、取得管理された保持を改善し、一時的な上書きを減らす。
論文 参考訳(メタデータ) (2026-09-11T04:56:48Z) - Beyond Retrieval: Progressive Latent Memory Evolution for Streaming Video Understanding [64.34948094316685]
latentStreamは、ストリーミングメモリをストア・アンド・レトリーブから検索・インターナライズへシフトする、プログレッシブな潜伏型ワーキングメモリフレームワークです。
LatentStreamは、既存のオンラインおよびオフラインビデオベンチマークで、最先端の新たな結果を達成する。
論文 参考訳(メタデータ) (2026-09-03T17:28:14Z) - MemPrism: Task-Conditioned Relational Memory Views for Long-Horizon Agents [14.296334759650918]
ロングホライゾンエージェントは、経験を再利用するためにメモリに依存しているが、既存のメモリシステムは、エビデンスを固定表現によって直接消費できると仮定している。
MemPrismはタスク条件付きリレーショナルメモリフレームワークで、永続的なエクスペリエンスストレージと意思決定時のワーキングメモリを分離する。
MemPrismは、特にトラジェクトリが長くなり、メモリトークンの消費が減少するにつれて、タスクパフォーマンスを継続的に改善する。
論文 参考訳(メタデータ) (2026-08-07T03:13:43Z) - UniMem: Complementary Episodic-to-Parametric Memory for Boundary-Agnostic Task Streams [77.52140119830241]
自律型メモリ管理のためのセルフルーティングフレームワークUniMemを提案する。
UniMemは学習可能なルーティングトークンをメモリコントローラとして使用し、相補的なメモリ経路間の適応的な調整を可能にする。
長距離ストリーミングタスクシーケンスの実験では、UniMemは実行の忠実さを維持しながらベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-07-28T17:28:21Z) - Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents [72.3752981234916]
大きな言語モデル(LLM)エージェントは、タスク間の経験を蓄積するために、外部メモリシステムに依存している。
メモリ操作をマルコフ決定プロセスとしてモデル化するフレームワークである制御プロセス(MemCon)としてメモリを提示する。
MemConは、複数のメモリベースラインのタスク成功率を最大15.2ポイント上回り、トークン消費量を5-20%削減している。
論文 参考訳(メタデータ) (2026-07-15T08:32:40Z) - MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。
MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。
長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
論文 参考訳(メタデータ) (2026-07-14T15:33:44Z) - Is One Score Enough? Rethinking the Evaluation of Sequentially Evolving LLM Memory [50.857546269660276]
本稿では,大規模言語モデル(LLM)メモリを逐次進化させる診断評価フレームワークであるSeqMem-Evalを紹介する。
最終的なパフォーマンスのみに焦点を当てるのではなく、SeqMem-Evalは、シーケンシャル推論において、メモリ状態がどのように進化し、一般化し、エクスペリエンスを集約し、有用な情報を保持するかを評価する。
論文 参考訳(メタデータ) (2026-05-14T20:15:22Z) - Mem-W: Latent Memory-Native GUI Agents [50.87647372904382]
本稿では,メモリをエージェントの連続的コンテキストの一部として扱う,潜在メモリネイティブなGUIエージェントであるMem-Wを紹介する。
4つのWebおよびモバイルナビゲーションベンチマークで、Mem-Wはさまざまなバックボーンとメモリ拡張ベースラインを一貫して改善している。
論文 参考訳(メタデータ) (2026-05-10T04:31:23Z) - Learning to Remember: End-to-End Training of Memory Agents for Long-Context Reasoning [18.621823772319154]
本稿では,メモリ操作と質問応答を一つのポリシーで統一するエンドツーエンド強化学習フレームワークを提案する。
UMAは、グローバルコンテキストのためのコンパクトなコアサマリと、明示的なCRUDをサポートする構造化メモリバンクという、二重メモリ表現を維持している。
Ledger-QA、Test-Time Learning、そしてCurcurate Retrievalにまたがる13のデータセットのうち、UMAは動的推論と学習タスクの長いコンテキストとRAGベースラインを大幅に上回っている。
論文 参考訳(メタデータ) (2026-02-13T16:54:23Z) - EverMemOS: A Self-Organizing Memory Operating System for Structured Long-Horizon Reasoning [42.339841548168565]
大きな言語モデル(LLM)は、長期の対話エージェントとしてますますデプロイされているが、その限られたコンテキストウィンドウは、拡張された相互作用よりもコヒーレントな振舞いを維持するのが困難である。
本稿では,EverMemOSについて紹介する。EverMemOSは,計算メモリにエミュレートされたライフサイクルを実装した自己組織型メモリオペレーティングシステムである。
EverMemOSは、メモリ拡張推論タスクで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-01-05T14:39:43Z) - Evo-Memory: Benchmarking LLM Agent Test-time Learning with Self-Evolving Memory [89.65731902036669]
Evo-Memoryは、大規模言語モデル(LLM)エージェントで自己進化型メモリを評価するための、ストリーミングベンチマークとフレームワークである。
10以上の代表的なメモリモジュールを評価し、10種類の多ターンゴール指向およびシングルターン推論およびQAデータセットで評価した。
論文 参考訳(メタデータ) (2025-11-25T21:08:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。