論文の概要: Compact-Memory LLM Agents via Online Max-Member Clustering and Atom-Aware Packing
- arxiv url: http://arxiv.org/abs/2609.04915v1
- Date: Fri, 04 Sep 2026 09:19:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:23.993717
- Title: Compact-Memory LLM Agents via Online Max-Member Clustering and Atom-Aware Packing
- Title(参考訳): オンラインMax-MemberクラスタリングとAtom-AwareパッケージングによるコンパクトメモリLDMエージェント
- Abstract要約: 我々は、強力な品質のParetoポイントのために設計されたオンラインクラスタ化されたメモリパイプラインであるbfRSM-fullを紹介する。
主要なコンパクトメモリベンチマークであるAMA-Benchでは、RSM-fullがフルコンテキスト品質の83%ドル、トークンコストの32%を4ドルという予算で達成しています。
厳格な予算の下では、コンパクトメモリのパフォーマンスは、主にストリーミングメモリのマージ方法と、検索されたコンテンツの組み立て方法によって駆動されます。
- 参考スコア(独自算出の注目度): 10.952145049465424
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many long-horizon LLM deployments face tight prompt budgets: latency, cost, and context limits make full-context prompting impractical as interaction length grows. The key question is then not raw recall alone, but which memory design gives the best quality--token trade-off in the compact-memory regime. We present \textbf{RSM-full}, an online clustered-memory pipeline designed for a strong quality--token Pareto point. RSM-full combines two design choices: a cosine-gated \emph{max-member merge} write rule and an atom-aware grouped context packer. On AMA-Bench, our primary compact-memory benchmark, it reaches $83%$ of Full-Context quality at $32%$ of the token cost at a $4$k budget; under four-seed averaging it beats the closest streaming-clustered baseline (Online K-Means) by $+3.5$--$6.0$,pp ($p{<}.001$) across the whole ${\sim}2.6$k--${\sim}5$k regime. Three-seed ablations show most of this gain comes from the merge rule ($+5.7$,pp over Online K-Means and matched-$τ$ DP-means) and the grouped packer ($+5.0$,pp over flat concatenation). The pattern reproduces on RealMem, an independent long-horizon persona-memory benchmark: RSM-full improves on Budget-RAG ($+0.69$,pp, $p{=}.006$), is on par with BM25-RAG (paired $Δ{=}{+}0.27$,pp, $p{=}.47$; we do \emph{not} claim BM25 equivalence in the equivalence-test sense), and significantly outperforms Streaming-Proto ($+2.97$,pp) and the closest reproduced 2025 agentic-memory baseline A-MEM ($+1.65$,pp, $p{<}.001$). Across benchmarks the message is consistent: under tight budgets, compact-memory performance is driven mainly by how streaming memories are merged and how retrieved content is assembled. Overall, RSM-full is most useful when answeroughly $2k$--$5k$ prompt tokens, where itdefines a strong compact-memory Pareto point; higher-token baselines remain stronger outside this regime.
- Abstract(参考訳): レイテンシ、コスト、コンテキスト制限は、インタラクションの長さが増加するにつれて、フルコンテキストを非現実的に促します。
重要な疑問は、生のリコールのみではなく、どのメモリ設計が最高の品質を提供するかである。
本稿では,高品質なParetoポイントを設計したオンラインクラスタメモリパイプラインであるtextbf{RSM-full}について紹介する。
RSM-fullは、コサイン付き \emph{max-member merge} 書き込みルールと、原子を意識したグループ化されたコンテキストパッカーの2つの設計選択を組み合わせている。
私たちの主要なコンパクトメモリベンチマークであるAMA-Benchでは、トークンコストの32%のフルコンテキスト品質を$4$kの予算で83%まで到達し、平均4シード平均で$+3.5$-6.0$,pp$p{<}.001$)のストリーミングクラスタベースライン(Online K-Means)を$$$2.6$k-${\sim}5$kの体制で破る。
3列のアブリゲーションは、オンラインK平均(+5.7$,pp)と一致(-τ$ DP-means)のマージルール(+5.0$,pp)と、フラットコンカニオン(flat concatenation)のグルーピングパッカー(+5.0$,pp)から得られる。
RSM-full improves on Budget-RAG ($+0.69$,pp, $p{=}.006$), is on BM25-RAG (paired $Δ{=}{+}0.27$,pp, $p{=}.47$; we do \emph{not} claim BM25 equivalence in the equivalence-test sense), and significantly outforms Streaming-Proto ($+2.97$,pp) and the mostred 2025 agentic-centric baseline A-MEM ($+1.65$,pp, $p{<001$)。
厳格な予算の下では、コンパクトメモリのパフォーマンスは、主にストリーミングメモリのマージ方法と、検索されたコンテンツの組み立て方法によって駆動されます。
全体として、RSM-fullは、強いコンパクトメモリのParetoポイントを定義するプロンプトトークンが2k$--5k$である場合に最も有用である。
関連論文リスト
- GraniKV: Asymmetric Granularity KV-Cache Paging for Multi-Agent Systems with Long Shared Prefix [9.188178438603975]
GraniKVは生産用ページドサービスエンジンのKVキャッシュに非対称なページング粒度を適用した最初のシステムである。
記憶層だけは 新聞を動機づける政権の勝利を 担っている
論文 参考訳(メタデータ) (2026-08-16T07:19:49Z) - Omni2LoRA: Coherence-Preserving Parametric Memory for Efficient Omni Language Models [65.49950267695267]
我々はコヒーレンス保存コンテクスト蒸留によるパラメトリックメモリの効率的な圧縮フレームワークであるOmni2LoRAを紹介する。
本手法は,マルチモーダルメモリを固定予算で再利用可能なパラメータ状態に変換することにより,応答時間のマルチモーダルトーケン負荷をゼロにする。
論文 参考訳(メタデータ) (2026-08-10T07:49:10Z) - Maglev: Sliding Recurrent Memory [8.788753986099902]
我々のアーキテクチャは、スライディングウインドウの注意を一般化する固定サイズのメモリを備えたリカレントトランスフォーマーアーキテクチャである。
私たちは、$m_t$と$m'_t$を一致させるメモリ一貫性の損失でトレーニングします。
論文 参考訳(メタデータ) (2026-08-03T20:40:49Z) - Structured Memory for Edge Language Models: Persistent Context and Corpus Retrieval via O(1) SSM State Injection [0.0]
ステートスペースモデル(SSM)は、建設によるプレフィルコストを回避する。
文書コーパスをSSM隠蔽状態としてオフラインでプリエンコードする。
プリフィルレイテンシは、エッジハードウェアで$sim$27 sから$6 msに削減される。
論文 参考訳(メタデータ) (2026-08-03T17:43:36Z) - Pruning Deep Neural Networks via the Marchenko--Pastur Distribution [0.0]
提案手法は,超小型の切削後微調整予算を持つ深層ニューラルネットワークにおけるランダム・マトリクス手法である。
主な実用的貢献は、短いキャリブレーションと微調整スケジュールの下での精度維持である。
論文 参考訳(メタデータ) (2026-05-23T19:44:02Z) - Minimax Optimal Variance-Aware Regret Bounds for Multinomial Logistic MDPs [56.28491566735463]
既存のマルコフ決定過程のアルゴリズムは、$smashtildeO(dH2sqrtT)$を後悔する。
本稿では,最悪の場合において既存の境界を復元し,構造化されたMDPに対して改善する,$smashtildeO(dH2bar_TsqrtT)$の後悔を実現するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-05-19T12:39:32Z) - ZenBrain: A Neuroscience-Inspired 7-Layer Memory Architecture for Autonomous AI Systems [51.56484100374058]
LongMemEval-500では、ZenBrainは長いコンテキストのオラクルのバイナリ・ジャッジの精度を4.5pp以内と一致させる。
ZenBrainは7層の神経科学にインスパイアされたメモリアーキテクチャである。
論文 参考訳(メタデータ) (2026-04-26T20:39:19Z) - Dynamic Large Concept Models: Latent Reasoning in an Adaptive Semantic Space [56.37266873329401]
大規模言語モデル (LLM) は、高度に一様でない情報密度を示す言語にもかかわらず、全てのトークンに一様計算を適用する。
我々は,潜在表現から意味境界を学習し,トークンから推論がより効率的である圧縮概念空間へ移行する階層型言語モデリングフレームワークである$textbfDynamic Large Concept Models (DLCM)$を提案する。
論文 参考訳(メタデータ) (2025-12-31T04:19:33Z) - Multiple-play Stochastic Bandits with Prioritized Arm Capacity Sharing [52.124267908936396]
このモデルは、$M$armと$K$playで構成されている。
各アームには複数の能力があり、各ユニットの能力は報酬関数に関連付けられている。
複数のプレーがアームキャパシティを競う場合、アームキャパシティは第1の優先重みで割り当てられる。
論文 参考訳(メタデータ) (2025-12-25T11:19:09Z) - Reward-Mixing MDPs with a Few Latent Contexts are Learnable [75.17357040707347]
報酬混合マルコフ決定過程(RMMDP)におけるエピソード強化学習の検討
我々のゴールは、そのようなモデルにおける時間段階の累積報酬をほぼ最大化する、ほぼ最適に近いポリシーを学ぶことである。
論文 参考訳(メタデータ) (2022-10-05T22:52:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。