論文の概要: Lightweight LLM Agent Memory with Small Language Models

• arxiv url: http://arxiv.org/abs/2604.07798v1
• Date: Thu, 09 Apr 2026 04:51:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-10 18:34:05.699164
• Title: Lightweight LLM Agent Memory with Small Language Models
• Title（参考訳）: 小言語モデルを用いた軽量LDMエージェントメモリ
• Authors: Jiaquan Zhang, Chaoning Zhang, Shuxu Chen, Zhenzhen Huang, Pengcheng Zheng, Zhicheng Wang, Ping Guo, Fan Mo, Sung-Ho Bae, Jie Zou, Jiwei Wei, Yang Yang,
• Abstract要約: LightMemは、Small Language Models (SLM)によって駆動されるより優れたエージェントメモリのための軽量メモリシステムである。 我々は,記憶を即時会話のための短期記憶(STM),再利用可能な対話要約のための中期記憶(MTM),統合された知識のための長期記憶(LTM)に整理する。 実験の結果,LoCoMoではF1が平均2.5向上し,より効率的で中央値の低いレイテンシ(83ms検索,581msエンドツーエンド)が得られた。
• 参考スコア（独自算出の注目度）: 27.343533336242913
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Although LLM agents can leverage tools for complex tasks, they still need memory to maintain cross-turn consistency and accumulate reusable information in long-horizon interactions. However, retrieval-based external memory systems incur low online overhead but suffer from unstable accuracy due to limited query construction and candidate filtering. In contrast, many systems use repeated large-model calls for online memory operations, improving accuracy but accumulating latency over long interactions. We propose LightMem, a lightweight memory system for better agent memory driven by Small Language Models (SLMs). LightMem modularizes memory retrieval, writing, and long-term consolidation, and separates online processing from offline consolidation to enable efficient memory invocation under bounded compute. We organize memory into short-term memory (STM) for immediate conversational context, mid-term memory (MTM) for reusable interaction summaries, and long-term memory (LTM) for consolidated knowledge, and uses user identifiers to support independent retrieval and incremental maintenance in multi-user settings. Online, LightMem operates under a fixed retrieval budget and selects memories via a two-stage procedure: vector-based coarse retrieval followed by semantic consistency re-ranking. Offline, it abstracts reusable interaction evidence and incrementally integrates it into LTM. Experiments show gains across model scales, with an average F1 improvement of about 2.5 on LoCoMo, more effective and low median latency (83 ms retrieval; 581 ms end-to-end).
• Abstract（参考訳）: LLMエージェントは複雑なタスクにツールを利用することができるが、クロスターン一貫性を維持し、長い水平相互作用で再利用可能な情報を蓄積するためにはメモリが必要である。 しかし、検索ベースの外部メモリシステムは、オンラインオーバーヘッドが低いが、クエリ構築の制限や候補フィルタリングによる不安定な精度に悩まされている。 対照的に、多くのシステムはオンラインメモリ操作のために繰り返し大きなモデルコールを使用し、精度は向上するが、長時間の相互作用よりも遅延を蓄積する。 我々は,Small Language Models (SLM) によって駆動されるエージェントメモリを改善する軽量メモリシステム LightMem を提案する。 LightMemは、メモリ検索、書き込み、長期の統合をモジュール化し、オフラインの統合からオンライン処理を分離し、バウンドコンピューティングの下で効率的なメモリ呼び出しを可能にする。 メモリを会話環境の短期記憶(STM)、再利用可能な対話要約のための中期記憶(MTM)、統合知識のための長期記憶(LTM)に整理し、ユーザ識別子を用いて、マルチユーザ設定における独立検索と漸進的保守をサポートする。 オンラインでは、LightMemは固定された検索予算の下で動作し、2段階の手順でメモリを選択する。 オフラインでは、再利用可能な相互作用のエビデンスを抽象化し、徐々にLTMに統合する。 モデルスケールでの実験では、平均的なF1改善がLoCoMoで2.5、より効率的で中央値のレイテンシが低い(83msの検索、581msのエンドツーエンド)。

関連論文リスト

• Agentic Memory: Learning Unified Long-Term and Short-Term Memory Management for Large Language Model Agents [57.38404718635204]
  大規模言語モデル (LLM) エージェントは、有限コンテキストウィンドウによる長距離推論において基本的な制限に直面している。 既存のメソッドは通常、長期記憶(LTM)と短期記憶(STM)を独立したコンポーネントとして扱う。 本稿では,エージェントのポリシーに LTM と STM 管理を直接統合する統合フレームワークである Agentic Memory (AgeMem) を提案する。
  論文  参考訳（メタデータ） (2026-01-05T08:24:16Z)
• LightMem: Lightweight and Efficient Memory-Augmented Generation [72.21680105265824]
  我々は、メモリシステムの性能と効率のバランスをとるLightMemという新しいメモリシステムを紹介した。 人間の記憶のアトキンソン・シフリンモデルにインスパイアされたLightMemは、メモリを3つの相補的なステージにまとめる。 GPTとQwenのバックボーンを用いたLongMemEvalの実験では、LightMemは高いベースライン(最大10.9%のゲイン)を上回り、トークンの使用量を最大117倍に削減している。
  論文  参考訳（メタデータ） (2025-10-21T17:58:17Z)
• From Single to Multi-Granularity: Toward Long-Term Memory Association and Selection of Conversational Agents [79.87304940020256]
  大言語モデル(LLM)は会話エージェントで広く採用されている。 MemGASは、多粒度アソシエーション、適応選択、検索を構築することにより、メモリ統合を強化するフレームワークである。 4つの長期メモリベンチマークの実験により、MemGASは質問応答と検索タスクの両方において最先端の手法より優れていることが示された。
  論文  参考訳（メタデータ） (2025-05-26T06:13:07Z)
• MEMO: Fine-grained Tensor Management For Ultra-long Context LLM Training [24.066283519769968]
  大規模言語モデル(LLM)は、よりクリエイティブなアプリケーションを促進するために、拡張コンテキスト長を使用して訓練されている。 本稿では,メモリ管理を微粒化するための新しいフレームワークであるMEMOを提案する。 MeMOはMegatron-LMやDeepSpeedと比べて平均1.97倍と1.80倍のMFUを達成している。
  論文  参考訳（メタデータ） (2024-07-16T18:59:49Z)
• SCM: Enhancing Large Language Model with Self-Controlled Memory Framework [54.33686574304374]
  大きな言語モデル(LLM)は、長い入力を処理できないため、重要な歴史的情報が失われる。 本稿では,LLMが長期記憶を維持し,関連する情報をリコールする能力を高めるための自己制御メモリ(SCM)フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-04-26T07:25:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。