論文の概要: Heavy-Tailed Memory Traces in Long-Horizon Language Agents
- arxiv url: http://arxiv.org/abs/2610.00010v1
- Date: Thu, 09 Jul 2026 15:00:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-05 14:48:16.307961
- Title: Heavy-Tailed Memory Traces in Long-Horizon Language Agents
- Title(参考訳): 長軸言語エージェントにおける重管型メモリトレース
- Abstract要約: エージェントメモリは、予測エラーが蓄積される長い尾に希少な状態を残しながら、小さなコアに集中できることを示す。
本稿では,階層型メモリコントローラであるCore-Tail World Model (CTWM)を提案する。
- 参考スコア(独自算出の注目度): 2.571318992830046
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long-horizon language agents increasingly rely on external memory as a frozen world model, yet current memory systems are usually judged only by task success or token cost. We argue that the missing object is the shape of memory use: under finite context and repeated retrieval, agent memory can concentrate on a small core while leaving rare states in a long tail where prediction errors accumulate. We study this effect through a conservative tail audit and find that concentration is reproducible but policy-dependent. Random-walk agents produce log-normal-compatible retrieval artifacts, whereas semantic LLM policies yield the strongest truncated-power-law-compatible core--tail traces. Motivated by this audit, we propose Core--Tail World Model (CTWM), a rank-based memory controller that allocates prompt budget with a single exponent $τ$ while retaining a summarized tail. On Synthetic Graph World, CTWM preserves full state and transition coverage, reduces prompt tokens by 5.9%, and lowers bottom-half tail prediction error by 13.6% relative to a graph-memory baseline. The same paired comparison gives consistent token savings on ALFWorld and a 24.48% token reduction on LongMemEval with aggregate accuracy parity. These results suggest that heavy-tailed memory traces are not only a diagnostic of finite retrieval, but also a practical control signal for token-efficient agent world models.
- Abstract(参考訳): 長期の言語エージェントは、フリーズワールドモデルとして外部メモリに依存していることが多いが、現在のメモリシステムはタスクの成功やトークンコストによってのみ判断される。
有限コンテキストと繰り返しの検索では、エージェントメモリは小さなコアに集中でき、予測エラーが蓄積される長い尾に希少な状態を残すことができる。
我々は,この効果を保守的なテール監査を通じて検討し,再現性はあるが政策に依存していることがわかった。
ランダムウォークエージェントは対数正規互換の検索アーティファクトを生成するが、セマンティックLSMポリシーは最強のトラクション付きパワーロッド互換コアテールトレースを生成する。この監査で動機づけられた我々は、単一指数のτ$でプロンプト予算を割り当てるランクベースのメモリコントローラであるCore-Tail World Model (CTWM)を提案する。
Synthetic Graph Worldでは、CTWMは完全な状態と遷移のカバレッジを保持し、プロンプトトークンを5.9%削減し、グラフメモリベースラインと比較してボトムハーフテール予測エラーを13.6%低減する。
同じペア比較により、ALFWorldでは一貫したトークンの保存が可能となり、LongMemEvalでは24.48%のトークンの削減が可能になった。
これらの結果は,重み付きメモリトレースは有限検索の診断だけでなく,トークン効率のエージェントワールドモデルのための実用的な制御信号でもあることを示唆している。
関連論文リスト
- D$^2$ACCI: A Dual-Loop Diagnostic Protocol for Evidence-Preserving Agent Memory [10.177699115336425]
D$2$ACCIプロトコルは、ペア化されたエビデンス、保護されたスライス監視、トレースレベルのローカライズ可能性に基づいて、メモリ介入を促進、機能フラグ、拒否する。
我々はMemStackでプロトコルをインスタンス化し、3つの公開ベンチマークで評価し、LoCoMoで93.59%、LongMemEvalで90.93%、PersonaMem-V2で57.20%を達成した。
論文 参考訳(メタデータ) (2026-08-18T13:18:38Z) - Memory-Bounded Continuation of Greedy Sampling for Continual Anomaly Detection [18.65032498197127]
ContCoreはMVTecADとVisAで11のタスクスケジュールで最先端のパフォーマンスを実現している。
本研究は, より厳密なメモリ制限下での表現性を効果的に保ちつつ, 先行したグリーディサンプリングよりもグリーディ選択を反復的に適用した連続グリーディサンプリングを観察する。
論文 参考訳(メタデータ) (2026-08-15T15:19:12Z) - Remembering Distinct Items, Not Tokens: A Learnable Dirichlet-Process Cache Between State-Space Models and Attention [0.48342038441006796]
本稿では,入力が新規である場合にのみスロットを割り当てるスパースキャッシュについて検討する。
固定濃度の静的キャッシュと,最近の新規性率に追従したサプライズ適応変種という2つの形態で開発する。
論文 参考訳(メタデータ) (2026-07-10T18:28:21Z) - DMF: A Deterministic Memory Framework for Conversational AI Agents [0.0]
我々は、生成メモリ圧縮を完全な決定論的パイプラインに置き換えるCPUファーストアプローチである決定論的メモリフレームワーク(DMF)を提案する。
DMFは、決定論的コンテンツ信号、会話の手がかり、構造化された前兆から計算されたSurvival Scoreを、ロジスティック・プロジェクションで組み合わせて割り当てる。
LoCoMoとLongMemEvalのデータセットを使用して、目的を組み込んだベンチマークで実験を行う。
論文 参考訳(メタデータ) (2026-06-02T10:41:28Z) - Meta-Cognitive Memory Policy Optimization for Long-Horizon LLM Agents [13.846550145896314]
メモリ拡張LDMエージェントは、相互作用軌跡をコンパクトメモリに要約することにより、複雑な長距離タスクに対処する。
既存のアプローチでは、結果に基づく強化学習を使用してこれらのメモリポリシーをトレーニングし、中間メモリ品質が低下する場所のローカライズに失敗する。
メモリ最適化は、単なる軌道レベルの成功ではなく、中間要約によって引き起こされる信念の明確さに焦点をあてるべきである。
論文 参考訳(メタデータ) (2026-05-28T16:17:19Z) - Belief Memory: Agent Memory Under Partial Observability [56.41506249481312]
本稿では,メモリパラダイムを観測毎に1つの結論にシフトし,その確率で複数の結論を導出するBeliefMemを提案する。
BeliefMemは決定論的パラダイムが破棄されるという不確実性を保ち、エージェントが高い信頼を持って行動することを可能にする。
LoCoMoとALFWorldベンチマークの実証的な評価は、限られたデータであっても、BeliefMemが最高の平均パフォーマンスを達成することを示している。
論文 参考訳(メタデータ) (2026-05-07T02:03:13Z) - Score-Repellent Monte Carlo: Toward Efficient Non-Markovian Sampler with Constant Memory in General State Spaces [48.37754141688874]
本稿では,スコアと状態表現の次元である$Rd$のスコア評価の実行平均で履歴を要約するフレームワークを提案する。
この歴史は指数的なスコア傾きによって代理対象に変換され、歴史に基づく反発の大きさを制御する際の反発の強さを表す$$がインデックス付けされる。
連続目標モデルと離散エネルギーベースモデルの実験では、メモリ使用率を$O(d)$に抑えつつ、推定値の分散とモードカバレッジを改善した。
論文 参考訳(メタデータ) (2026-04-24T18:39:50Z) - MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning [73.27233666920618]
本稿では,メモリを反復的に保持し,現在のターンと組み合わせたエージェントワークフローであるMemSearcherを提案する。
それぞれのターンで、MemSearcherはユーザーの質問をメモリに融合させ、推論トレースを生成し、検索アクションを実行し、メモリを更新してタスクの解決に必要な情報のみを保持する。
我々は,MemSearcher Agents の推論,検索戦略,メモリ管理を協調的に最適化する,エンドツーエンドの RL フレームワークである Multi-context GRPO を紹介する。
論文 参考訳(メタデータ) (2025-11-04T18:27:39Z) - Cut Your Losses in Large-Vocabulary Language Models [102.6981011879656]
我々は,全トークンのロジットをグローバルメモリに実体化することなく,クロスエントロピー損失を計算する手法であるカットクロスエントロピー(CCE)を提案する。
CCEはロスのメモリフットプリントを24GBから1MBに減らし、ヘッドのトレーニング時間のメモリ消費を28GBから1GBに短縮する。
論文 参考訳(メタデータ) (2024-11-13T20:30:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。