論文の概要: LazyMem: Retrieve Broadly, Construct Selectively for Efficient Long-Term Agent Memory
- arxiv url: http://arxiv.org/abs/2607.22690v2
- Date: Tue, 28 Jul 2026 04:54:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:39.028731
- Title: LazyMem: Retrieve Broadly, Construct Selectively for Efficient Long-Term Agent Memory
- Title(参考訳): LazyMem: 広範囲に検索し、効率的な長期エージェントメモリを選択的に構築する
- Abstract要約: クエリ時間にすべてのメモリ構成を遅延させるLazyMemを紹介します。
LongMemEvalでは、LazyMem-4B は LLM-judge の精度 0.85 を達成し、最強の非線形ベースラインを上回っている。
さらに、ターゲットドメイントレーニングなしでLoCoMoに一般化し、以前のクエリ時間ベースラインと比較して平均レイテンシを低減する。
- 参考スコア(独自算出の注目度): 10.916121108457537
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Long-term memory enables LLM agents to leverage past interactions, but dialogue histories quickly exceed the context window, forcing agents to retrieve relevant subsets at query time. Because useful evidence is sparse and scattered across verbose conversations, retrieval faces a fundamental tension: broadening recall improves coverage but floods downstream reasoning with noise, while compressing memories at write time eases retrieval but irreversibly discards details that future queries may need. We introduce LazyMem, which resolves this tension by deferring all memory construction to query time. Given a retrieved candidate pool, a lightweight model processes it in overlapping parallel windows, selectively retaining and compressing only query-relevant content. The model is trained with supervised fine-tuning followed by reinforcement learning, using a reward that jointly encourages the identification of relevant messages and the generation of compressions that are faithful to the source and useful for answering the query. On LongMemEval, LazyMem-4B achieves an LLM-judge accuracy of 0.85, outperforming the strongest non-oracle baseline while using only 213 answer-context memory tokens, 21.0 times fewer than the baseline. It further generalizes to LoCoMo without target-domain training and reduces mean latency relative to the prior query-time baseline. Code is available at https://github.com/allacnobug/LazyMem.
- Abstract(参考訳): 長期記憶により、LLMエージェントは過去のインタラクションを活用することができるが、対話履歴はすぐにコンテキストウィンドウを超え、クエリ時に関連するサブセットを検索せざるを得なくなる。
リコールの拡大はカバレッジを改善するが、ノイズによる下流への洪水を引き起こす。一方、書き込み時のメモリの圧縮は検索を容易にするが、将来のクエリが必要とする詳細を不可逆的に破棄する。
これは、全てのメモリ構成をクエリ時間に遅延させることで、この緊張を解消します。
検索された候補プールが与えられた場合、軽量モデルはそれを並列ウィンドウで処理し、クエリ関連コンテンツのみを選択的に保持し、圧縮する。
モデルは教師付き微調整と強化学習で訓練され、関連するメッセージの識別と、ソースに忠実で、クエリに応答するのに有用な圧縮の生成を共同で促進する報酬を使用する。
LongMemEvalでは、LazyMem-4B は LLM-judge の精度 0.85 を達成し、213個の応答コンテキストメモリトークンを使用しながら最強の非線形ベースラインを上回り、ベースラインよりも21.0 倍小さい。
さらに、ターゲットドメイントレーニングなしでLoCoMoに一般化し、以前のクエリ時間ベースラインと比較して平均レイテンシを低減する。
コードはhttps://github.com/allacnobug/LazyMem.comで入手できる。
関連論文リスト
- LeanMem: Simple and Efficient Long-Term Memory for LLM Agents [21.43772050088654]
軽量な長期記憶フレームワークであるLeanMemを提案する。
推論中、LeanMemは動的にメモリタイプを選択し、クエリ固有のエビデンス要求に従って検索予算を割り当てる。
GPT-4.1-miniとQwen3-8BのLoCoMoとLongMemEval-Sでは、LeanMemは全ての設定において最強のメモリベースベースラインよりも精度を向上させる。
論文 参考訳(メタデータ) (2026-08-04T10:59:49Z) - Zero-Mem: Zero-Token Memory Operations for LLM Agents [17.228305588778]
Zero-Memは、元の相互作用トレースをレコードのソースとして保存する。
Zero-Memは、長期メモリと長期コンテキストの問合せベンチマークで競合するパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-07-31T13:01:06Z) - Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents [72.3752981234916]
大きな言語モデル(LLM)エージェントは、タスク間の経験を蓄積するために、外部メモリシステムに依存している。
メモリ操作をマルコフ決定プロセスとしてモデル化するフレームワークである制御プロセス(MemCon)としてメモリを提示する。
MemConは、複数のメモリベースラインのタスク成功率を最大15.2ポイント上回り、トークン消費量を5-20%削減している。
論文 参考訳(メタデータ) (2026-07-15T08:32:40Z) - ReContext: Recursive Evidence Replay as LLM Harness for Long-Context Reasoning [78.94047086588078]
長文推論のための LLM Harness として再帰的証拠を提案する。
長文推論を改善するための訓練不要推論法である。
128Kのコンテキスト長を持つ8つの長文データセットの実験は、エビデンスの利用を一貫して改善していることを示している。
論文 参考訳(メタデータ) (2026-07-02T17:59:26Z) - PACMS: Submodular Context Selection as a Pluggable Engine for LLM Agents [0.9134244356393664]
LLMエージェントは、複数の方向から同時に満たされるコンテキストウィンドウ上で動作する。
一般的なメカニズムは、時として周期的な要約と組み合わせて、直流の切り離しである。
Retrieval拡張生成は、外部文書をプロンプトにフェッチするが、エージェントの空白表示されたコンテキストを仲裁しない。
論文 参考訳(メタデータ) (2026-06-18T10:22:57Z) - DeferMem: Query-Time Evidence Distillation via Reinforcement Learning for Long-Term Memory QA [3.56156695760535]
大規模言語モデル(LLM)エージェントは、依然として長期記憶疑問応答に苦慮している。
本稿では,この問題をハイリコール候補検索とクエリ条件のエビデンス蒸留に分離する長期記憶フレームワークであるDederMemを紹介する。
LoCoMoとLongMemEval-Sでは、DeferMemはQAの精度とメモリシステムの効率性において強力なベースラインを超えている。
論文 参考訳(メタデータ) (2026-05-21T12:36:46Z) - MemSearch-o1: Empowering Large Language Models with Reasoning-Aligned Memory Growth in Agentic Search [59.98962867649009]
本稿では,メモリ成長とリトラシングに基づくエージェント検索フレームワークであるMemSearch-o1を提案する。
MemSearch-o1はクエリからメモリシードトークンからきめ細かいメモリフラグメントを成長させ、コントリビューション関数を通じてメモリを再トレースし、深く洗練し、最終的にグローバルに接続されたメモリパスを再編成する。
論文 参考訳(メタデータ) (2026-04-19T05:35:06Z) - Panini: Continual Learning in Token Space via Structured Memory [4.979820180013486]
言語モデルは、トレーニングされていないコンテンツを推論するために、ますます使われています。
一般的なアプローチは検索拡張生成(RAG)であり、これは動詞の文書を(チャンクとして)外部に保存し、推論時に関連するサブセットのみを取得する。
本稿では,基本モデルを固定したままで,新たな経験を外部セマンティックメモリ状態に統合することで学習を行う,人間のような非パラメトリック連続学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-16T19:58:03Z) - SwiftMem: Fast Agentic Memory via Query-aware Indexing [45.27116353623848]
我々は,時間的・意味的次元の特殊インデックス化によるサブ線形検索を実現する,クエリ対応のエージェントメモリシステムであるSwiftMemを提案する。
DAG-Tagインデックスは、階層的なタグ構造を通して、クエリを関連するトピックにマッピングする。
LoCoMoとLongMemEvalベンチマークの実験では、SwiftMemは最先端のベースラインに比べて47$times$高速検索を実現している。
論文 参考訳(メタデータ) (2026-01-13T02:51:04Z) - MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning [73.27233666920618]
本稿では,メモリを反復的に保持し,現在のターンと組み合わせたエージェントワークフローであるMemSearcherを提案する。
それぞれのターンで、MemSearcherはユーザーの質問をメモリに融合させ、推論トレースを生成し、検索アクションを実行し、メモリを更新してタスクの解決に必要な情報のみを保持する。
我々は,MemSearcher Agents の推論,検索戦略,メモリ管理を協調的に最適化する,エンドツーエンドの RL フレームワークである Multi-context GRPO を紹介する。
論文 参考訳(メタデータ) (2025-11-04T18:27:39Z) - From Single to Multi-Granularity: Toward Long-Term Memory Association and Selection of Conversational Agents [79.87304940020256]
大言語モデル(LLM)は会話エージェントで広く採用されている。
MemGASは、多粒度アソシエーション、適応選択、検索を構築することにより、メモリ統合を強化するフレームワークである。
4つの長期メモリベンチマークの実験により、MemGASは質問応答と検索タスクの両方において最先端の手法より優れていることが示された。
論文 参考訳(メタデータ) (2025-05-26T06:13:07Z) - Walking Down the Memory Maze: Beyond Context Limit through Interactive
Reading [63.93888816206071]
我々は,長いコンテキストを要約ノードのツリーに処理する手法であるMemWalkerを紹介した。クエリを受信すると,モデルがこのツリーをナビゲートして関連する情報を検索し,十分な情報を収集すると応答する。
その結果,MemWalkerは,テキストを対話的に読み取る際の推論ステップを強調し,クエリに関連するテキストセグメントをピンポイントすることで,説明性の向上を図っている。
論文 参考訳(メタデータ) (2023-10-08T06:18:14Z) - Recursively Summarizing Enables Long-Term Dialogue Memory in Large Language Models [30.48902594738911]
長い会話をすると、大きな言語モデル(LLM)は過去の情報を思い出さず、一貫性のない応答を生成する傾向がある。
本稿では,長期記憶能力を高めるために,大規模言語モデル(LLM)を用いて要約/メモリを生成することを提案する。
論文 参考訳(メタデータ) (2023-08-29T04:59:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。