論文の概要: MemDuet: Learning Dual-Process Memory for Long-Context Reasoning
- arxiv url: http://arxiv.org/abs/2610.19928v1
- Date: Wed, 14 Oct 2026 10:16:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.098111
- Title: MemDuet: Learning Dual-Process Memory for Long-Context Reasoning
- Title(参考訳): MemDuet: ロングコンテキスト推論のためのデュアルプロシージャメモリの学習
- Abstract要約: 本稿では,2プロセスメモリフレームワークであるMemDuetを提案する。このフレームワークは,生のコンテキストチャンクから高速かつ並列なエビデンスを選択するために,小さな言語モデルをコーディネートすることを学ぶ。
MemDuetは、RL-MemAgentと比較して、9.74xのエンドツーエンド推論速度アップと73.91%の出力トーケン還元を実現している。
- 参考スコア(独自算出の注目度): 34.87450274103619
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reasoning over infinitely long documents is becoming a reality with recurrent memory agents. However, increasing context length exacerbates the trade-off between reasoning performance and inference efficiency. Inspired by Kahneman's account of fast and slow thinking, we propose MemDuet, a dual-process memory framework that learns to coordinate a small language model for fast, parallel evidence selection from raw context chunks (System 1) with a large language model for memory-update verification and memory updates in document order (System 2). We train MemDuet in three stages: supervised fine-tuning of System 1 for evidence selection, Group Relative Policy Optimization (GRPO) of System 2 for verification and memory rewriting, and joint optimization of both policies to coordinate selection and updating for long-context reasoning. Experiments on diverse long-context reasoning benchmarks (RULER-HQA, LongBench v2, and 2WikiMultiHopQA) demonstrate a favorable accuracy-efficiency trade-off as context length grows. Averaged across evaluation settings on the three datasets, MemDuet achieves an end-to-end inference speedup of 9.74x and an output-token reduction of 73.91% relative to RL-MemAgent.
- Abstract(参考訳): 無限に長いドキュメントに対する推論は、リカレントメモリエージェントによって現実化しつつある。
しかし、文脈長の増大は推論性能と推論効率のトレードオフを悪化させる。
MemDuetは,文順のメモリ更新検証とメモリ更新のための大規模言語モデルと,生のコンテキストチャンクから選択した高速で並列なエビデンスをコーディネートするために,小さな言語モデルをコーディネートすること(システム1)を提案する。
我々はMemDuetを3段階に分けて訓練する: 証拠選択のためのシステム1の教師付き微調整、検証とメモリ書き換えのためのシステム2のグループ相対ポリシー最適化(GRPO)、および長文推論のための選択と更新の協調最適化である。
様々な長期コンテキスト推論ベンチマーク(RULER-HQA、LongBench v2、および2WikiMultiHopQA)の実験は、コンテキスト長が増加するにつれて、良好な精度と効率のトレードオフを示す。
3つのデータセットの評価設定で平均されたMemDuetは、エンドツーエンドの推論スピードアップ9.74xと、RL-MemAgentと比較して73.91%のアウトプットダウンを達成した。
関連論文リスト
- Recall What Is Missing: Composing Evidence from Long-Term Agent Memory [24.592499205332413]
限られたコンテキスト予算の下では、長期的なエージェントは、個々の関連性のある記憶だけでなく、現在のクエリに十分な証拠を思い出さなければならない。
私たちはこの操作をMemPursuitでインスタンス化します。これは、スパース凸クエリ再構築の残余を、現在のメモリセットが欠落している部分の表現空間プロキシとして使用する、トレーニング不要のメカニズムです。
論文 参考訳(メタデータ) (2026-10-11T14:18:11Z) - Test-Time Memory Construction [50.916768004131505]
大きな言語モデル(LLM)は、長いインタラクション履歴に関する質問に答えるのに苦労しています。
既存のメモリシステムは通常、ユーザクエリが観測される前に、オフラインで洗練されたメモリ表現を構築し維持する。
テスト時間メモリ構築フレームワークであるT$2$Memを提案する。
論文 参考訳(メタデータ) (2026-10-09T10:24:51Z) - PI-Mem: Pushing Long-Context Reasoning to 3.6M Tokens with Parallel-Iterative Memory [30.188604861823823]
本稿では,チャンクの並列処理機構であるPI-Memを提案する。
我々は,HotpotQAベンチマークにおいて,最大360万トークンのPI-MemをQwen3.5-35B-A3B,Qwen2.5-7Bで評価した。
論文 参考訳(メタデータ) (2026-08-04T02:59:16Z) - Learning How and What to Memorize: Cognition-Inspired Two-Stage Optimization for Evolving Memory [53.8372503928207]
大規模言語モデル(LLM)エージェントは、一貫したパーソナライゼーションのために長期のユーザメモリを必要とする。
既存のメモリシステムは、主に静的で手作りの更新ルールに依存している。
MemCoEは認知にインスパイアされた2段階最適化フレームワークで、どのようにメモリを整理し、どの情報を更新すべきかを学ぶ。
論文 参考訳(メタデータ) (2026-05-01T14:45:20Z) - AdaMem: Adaptive User-Centric Memory for Long-Horizon Dialogue Agents [49.63422082885992]
長軸対話エージェントのための適応型ユーザ中心メモリフレームワークであるAdaMemを提案する。
AdaMemは対話履歴をワーキング、エピソディック、ペルソナ、グラフメモリに整理する。
LoCoMo と PERSONAMEM ベンチマーク上での AdaMem の評価を行った。
論文 参考訳(メタデータ) (2026-03-17T13:22:54Z) - Beyond the Context Window: A Cost-Performance Analysis of Fact-Based Memory vs. Long-Context LLMs for Persistent Agents [0.0]
永続型AIシステムは、長いコンテキストの大規模言語モデル(LLM)に完全な会話履歴を渡すことと、構造化された事実を抽出して検索する専用のメモリシステムを維持することの選択肢に直面している。
我々は,Mem0フレームワーク上に構築されたファクトベースのメモリシステムと,3つのメモリ中心ベンチマーク上でのLLMの長文推論を比較した。
論文 参考訳(メタデータ) (2026-03-05T05:01:30Z) - EverMemBench: Benchmarking Long-Term Interactive Memory in Large Language Models [16.865998112859604]
EverMemBenchは、100万以上のトークンにまたがる多人数のマルチグループ会話を特徴とするベンチマークである。
EverMemBenchは、1000以上のQAペアを通じて3次元にわたるメモリシステムを評価する。
論文 参考訳(メタデータ) (2026-02-01T16:13:08Z) - SimpleMem: Efficient Lifelong Memory for LLM Agents [73.74399447715052]
セマンティックロスレス圧縮に基づく効率的なメモリフレームワークSimpleMemを紹介する。
本稿では,情報密度とトークン利用量の最大化を目的とした3段階パイプラインを提案する。
ベンチマークデータセットを用いた実験により,提案手法は精度,検索効率,推論コストにおいて,ベースラインアプローチを一貫して上回っていることがわかった。
論文 参考訳(メタデータ) (2026-01-05T21:02:49Z) - From Single to Multi-Granularity: Toward Long-Term Memory Association and Selection of Conversational Agents [79.87304940020256]
大言語モデル(LLM)は会話エージェントで広く採用されている。
MemGASは、多粒度アソシエーション、適応選択、検索を構築することにより、メモリ統合を強化するフレームワークである。
4つの長期メモリベンチマークの実験により、MemGASは質問応答と検索タスクの両方において最先端の手法より優れていることが示された。
論文 参考訳(メタデータ) (2025-05-26T06:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。