論文の概要: MemFold: Learning Compact Soft Memory for Long-Context Personalization via On-Policy Optimization
- arxiv url: http://arxiv.org/abs/2609.36435v1
- Date: Tue, 29 Sep 2026 00:52:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.081244
- Title: MemFold: Learning Compact Soft Memory for Long-Context Personalization via On-Policy Optimization
- Title（参考訳）: MemFold: オンデマンド最適化による長期パーソナライゼーションのためのコンパクトなソフトメモリの学習
- Abstract要約: 本稿では,その動作によって固定予算のソフトメモリを最適化するMemFoldを提案する。
3つのQwenバックボーンの中で、MemFoldは私たちが測定した最も高い精度を実現した。
- 参考スコア（独自算出の注目度）: 27.318407913758577
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: An assistant that serves the same user over a long horizon has to answer from what that user has revealed: which preferences still hold, which were revised, and which constraints apply now. Retaining that information is not the same as acting on it, and the two are usually optimized as if they were. Keeping the information as text makes the reader's input grow with the retained history, while compressing it into a fixed number of latent vectors bounds the interface but is typically trained to reconstruct text or imitate reference answers, both of which are scored on sequences the reader never produced. We present MemFold, which optimizes a fixed-budget soft memory by the behavior it supports. A query-conditioned textual memory is compressed into K continuous vectors that form the reader's memory interface, and the reader is then trained on its own rollouts under two complementary signals: group-relative rewards for task outcomes, and confidence-gated on-policy distillation in which a frozen textual-memory teacher re-scores the student's sampled tokens under the textual memory. The teacher is never sampled from, so supervision stays on the student's current distribution and adds no autoregressive decoding; at inference it is removed entirely. Across three Qwen backbones, MemFold attains the highest accuracy we measure on PersonaMem-32K and PersonaMem-128K, with margins that widen at the longer history length, and transfers to PrefEval and LongMemEval without target-domain training. Ablations attribute most of the task gain to the reward term and a smaller additional gain to the teacher signal, and memory interventions show that the reader depends on the instance-specific content of its soft memory.
- Abstract（参考訳）: 長い視野で同じユーザーに仕えるアシスタントは、ユーザーが明らかにしたもの、どの好みがまだ保持されているか、どの制約が適用されているか、に答えなければならない。
その情報を維持することは、その情報に作用するのと同じではなく、通常2つは、あたかもそのように最適化される。
情報をテキストとして保持することで、読者の入力は保持された履歴とともに増大するが、それを一定の数の潜在ベクトルに圧縮するとインターフェースがバウンドされるが、典型的にはテキストを再構築したり、参照された回答を模倣するように訓練される。
本稿では,その動作によって固定予算のソフトメモリを最適化するMemFoldを提案する。
クエリ条件付きテキストメモリは、読者のメモリインターフェースを形成するK連続ベクトルに圧縮され、読み手は、タスク結果に対するグループ相対的な報酬と、凍結したテキストメモリ教師が生徒のサンプルトークンをテキストメモリの下で再スコアする自信付きオンライン蒸留という2つの補完的な信号の下で、自身のロールアウトでトレーニングされる。
教師はサンプリングされることはないので、監督は生徒の現在の分布に留まり、自己回帰的復号を付加しない。
3つのQwenのバックボーンの中で、MemFoldはPersonaMem-32KとPersonaMem-128Kで測定した最高精度を達成し、長い長さで幅を広げ、ターゲットドメイントレーニングなしでPrefEvalとLongMemEvalに転送する。
アブレーションは、タスクの獲得のほとんどは報奨期間と教師信号への追加利得に起因しており、メモリ介入は、読者がそのソフトメモリのインスタンス固有の内容に依存していることを示している。
関連論文リスト
- When Memory Takes Gradients: Collaborative Vector Memory for Agentic Recommender Systems [6.12907469209873]
エージェントレコメンデータシステムは、大きな言語モデルのそれぞれの決定を、ユーザの永続的なメモリに根拠付ける。
エージェントのメモリの協調コアをベクトル化するCoVeMemを提案する。
論文 参考訳（メタデータ） (2026-08-27T09:51:18Z) - Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents [72.3752981234916]
大きな言語モデル(LLM)エージェントは、タスク間の経験を蓄積するために、外部メモリシステムに依存している。
メモリ操作をマルコフ決定プロセスとしてモデル化するフレームワークである制御プロセス(MemCon)としてメモリを提示する。
MemConは、複数のメモリベースラインのタスク成功率を最大15.2ポイント上回り、トークン消費量を5-20%削減している。
論文 参考訳（メタデータ） (2026-07-15T08:32:40Z) - From Passive Retrieval to Active Memory Navigation: Learning to Use Memory as a Structured Action Space [27.456426188493094]
NapMemは、ユーザ履歴をリンクされた多粒度メモリピラミッドにまとめる。
エージェントはクエリと中間的なエビデンスに従ってメモリを選択するように訓練される。
論文 参考訳（メタデータ） (2026-07-07T03:47:12Z) - AdaMem: Learning What to Remember for Personalized Long-Horizon LLM Agents [79.03892269184145]
我々は、記憶に値するものはロール依存であり、 textbfAdaMem (Adaptive Memory)を提案する。
AdaMemは、メモリ容量をtextbf9%削減しながら、均一なMem0ベースライン上で textbf+9.0% まで精度を向上する。
論文 参考訳（メタデータ） (2026-06-19T06:35:52Z) - Learning User-Aware Recall: Personalized Retrieval in Long-Term Conversational Memory [15.297367578990903]
プロファイル誘導型パーソナライズド検索最適化(PPRO)は対話履歴からエピソードおよびセマンティックメモリバンクを構築する。
PPROはメモリランキングにおいて明示的なパーソナライズされた先行として機能し、検索は安定したユーザー属性、好み、関係を考慮できる。
LoCoMoとLongMemEval-Sの実験では、トレーニング不要のメモリシステムよりも一貫した利得を示している。
論文 参考訳（メタデータ） (2026-05-28T06:47:48Z) - Is One Score Enough? Rethinking the Evaluation of Sequentially Evolving LLM Memory [50.857546269660276]
本稿では,大規模言語モデル(LLM)メモリを逐次進化させる診断評価フレームワークであるSeqMem-Evalを紹介する。
最終的なパフォーマンスのみに焦点を当てるのではなく、SeqMem-Evalは、シーケンシャル推論において、メモリ状態がどのように進化し、一般化し、エクスペリエンスを集約し、有用な情報を保持するかを評価する。
論文 参考訳（メタデータ） (2026-05-14T20:15:22Z) - Mem-W: Latent Memory-Native GUI Agents [50.87647372904382]
本稿では,メモリをエージェントの連続的コンテキストの一部として扱う,潜在メモリネイティブなGUIエージェントであるMem-Wを紹介する。
4つのWebおよびモバイルナビゲーションベンチマークで、Mem-Wはさまざまなバックボーンとメモリ拡張ベースラインを一貫して改善している。
論文 参考訳（メタデータ） (2026-05-10T04:31:23Z) - Learning How and What to Memorize: Cognition-Inspired Two-Stage Optimization for Evolving Memory [53.8372503928207]
大規模言語モデル(LLM)エージェントは、一貫したパーソナライゼーションのために長期のユーザメモリを必要とする。
既存のメモリシステムは、主に静的で手作りの更新ルールに依存している。
MemCoEは認知にインスパイアされた2段階最適化フレームワークで、どのようにメモリを整理し、どの情報を更新すべきかを学ぶ。
論文 参考訳（メタデータ） (2026-05-01T14:45:20Z) - MemReader: From Passive to Active Extraction for Long-Term Agent Memory [31.356554918209568]
本稿では,エージェントシステムにおけるアクティブな長期メモリ抽出のためのMemReaderファミリについて紹介する。
MemReader-4Bは、行動前の情報値、参照あいまいさ、完全性を明確に評価する。
MemReaderはMemOSに統合され、現実世界のアプリケーションにデプロイされている。
論文 参考訳（メタデータ） (2026-04-09T06:47:17Z) - Mem-α: Learning Memory Construction via Reinforcement Learning [20.916677456417464]
大きな言語モデル(LLM)エージェントは、限られたコンテキストウィンドウによって制約される。
現在のメモリ拡張エージェントは、メモリ更新のための事前に定義された命令とツールに依存している。
Mem-alphaは、エージェントに複雑なメモリシステムを効果的に管理するように訓練する強化学習フレームワークである。
論文 参考訳（メタデータ） (2025-09-30T08:02:34Z) - Learning to Rehearse in Long Sequence Memorization [107.14601197043308]
既存の推論タスクは、しばしば、推論中に入力内容が常にアクセス可能であるという重要な仮定を持つ。
メモリ拡張ニューラルネットワークは、人間のような書き込み読み取りメモリを導入し、1回のパスで長い入力シーケンスを圧縮し記憶する。
しかし、2つの重大な欠点がある: 1) メモリを現在の情報から継続的に更新し、必然的に初期の内容を忘れる; 2) 重要な情報を区別せず、全てのコンテンツを平等に扱う。
本稿では,履歴サンプリング装置を用いた自己教師型リハーサルによる長期記憶向上のためのリハーサルメモリを提案する。
論文 参考訳（メタデータ） (2021-06-02T11:58:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。