論文の概要: Understanding Stage-Wise Utility-Risk Trade-offs in LLM Agent Memory

• arxiv url: http://arxiv.org/abs/2608.30177v1
• Date: Mon, 31 Aug 2026 02:57:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.204159
• Title: Understanding Stage-Wise Utility-Risk Trade-offs in LLM Agent Memory
• Title（参考訳）: LLMエージェントメモリにおけるステージワイズユーティリティ-リスクトレードオフの理解
• Abstract要約: より多くの情報を保持し、変換し、公開するメモリメカニズムは、良性の有用性と、メモリ中毒に対する感受性の両方に影響を与える可能性がある。 本報告では, 毒性条件下での書込み, 管理方針, 検索露出を別々に変化させる制御可能なフレームワークであるtextscMemGaugeについて述べる。
• 参考スコア（独自算出の注目度）: 21.71796784567462
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Long-term memory is becoming a core capability of LLM agents, enabling personalization and long-horizon interaction. However, memory mechanisms that retain, transform, or expose more information can affect both benign utility and susceptibility to memory poisoning. Existing evaluations typically measure memory utility or attack risk in isolation under fixed configurations, providing limited insight into how stage-specific design choices reshape their trade-off. We present \textsc{MemGauge}, a controllable framework that separately varies writing admission, management policy, and retrieval exposure under matched clean and poisoned conditions. Across 11 LLMs and two long-term memory benchmarks, controlled evaluations reveal three distinct profiles: a threshold-like risk transition during writing, policy-dependent local decoupling during management, and coupled growth of utility and risk during retrieval. We further apply analogous stage-level measurements to four existing memory systems and observe diagnostic associations qualitatively consistent with these profiles. These results show that targeted poisoning risk varies across memory operations and motivate stage-aware evaluation and control of LLM-agent memory.
• Abstract（参考訳）: 長期記憶はLLMエージェントの中核機能となり、パーソナライズと長期の相互作用を可能にしている。 しかし、より多くの情報を保持し、変換し、公開するメモリメカニズムは、良性の有用性と、メモリ中毒に対する感受性の両方に影響を与える可能性がある。 既存の評価は、通常、固定された構成下でのメモリ使用率や攻撃リスクを計測し、ステージ固有の設計選択がトレードオフをどのように作り直すかについての限られた洞察を提供する。 クリーンで有毒な条件下での書込み,管理方針,検索露出を別々に変化させる,制御可能なフレームワークであるtextsc{MemGauge} を提示する。 11のLCMと2つの長期メモリベンチマークで、制御された評価では、書き込み中のしきい値のようなリスク遷移、管理中のポリシー依存のローカルデカップリング、検索時のユーティリティとリスクの複合化の3つの異なるプロファイルが示されている。 さらに,4つの既存メモリシステムに類似のステージレベル測定を適用し,これらのプロファイルと定性的に一致した診断関連を観察する。 これらの結果から, 標的毒のリスクは記憶操作によって異なり, ステージアウェア評価とLCMエージェントメモリの制御を動機付けることが示唆された。

関連論文リスト

• Harness the Memory: A Holistic Evaluation of Memory Substrates in Memory Agents [97.19033877543522]
  本稿では,メモリ拡張剤のメモリ基板の制御ハーネス評価について述べる。 統一されたハーネスの下で26のパフォーマンスと効率のメトリクスを計測する。 これらの知見は、アダプティブエージェントメモリシステムに必要なコンポーネントとして、基質ルーティングを動機付けている。
  論文  参考訳（メタデータ） (2026-08-15T03:29:48Z)
• Controlled Memory Interference in Continual LLM Agents [19.630594179909156]
  長期記憶により、AIエージェントはセッション間の連続性を維持し、振る舞いをパーソナライズし、蓄積された経験を通じて進化することができる。 既存のシステムは、主にメモリ構築と関連性に基づく検索を強調しているが、いくつかの記憶は、状態、時間的妥当性、権限において異なるが、同時に関連している。 我々は,異なるメモリ関係下でのエージェントメモリの進化を研究するための,制御された診断・データ生成フレームワークである制御型メモリ干渉(CMI)を紹介する。
  論文  参考訳（メタデータ） (2026-08-07T09:46:19Z)
• Remembering More, Risking More: Longitudinal Safety Risks in Memory-Equipped LLM Agents [18.83666486835137]
  デプロイでは、単一のエージェントが長い水平線上で多くの独立したタスクを処理し、初期のタスクの間に蓄積されたメモリは、後続の無関係なタスクの振る舞いに影響を与える可能性がある。 本稿では,リードオンリーのメモリスナップショットに対して,プレフィックス長の異なる固定プローブセットを評価するトリガプローブプロトコルを提案する。 このプロトコルは、レコード、メモ、フォーム、Eメール対応、および8つのメモリアーキテクチャにまたがる3つのデプロイメントシナリオに適用する。
  論文  参考訳（メタデータ） (2026-05-18T04:06:34Z)
• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• AMemGym: Interactive Memory Benchmarking for Assistants in Long-Horizon Conversations [61.6579785305668]
  AMemGymは、メモリ駆動型パーソナライゼーションのためのオンライン評価と最適化を可能にする対話型環境である。 我々のフレームワークは、対話エージェントのメモリ能力を向上するためのスケーラブルで診断に富んだ環境を提供する。
  論文  参考訳（メタデータ） (2026-03-02T15:15:11Z)
• Agentic Memory: Learning Unified Long-Term and Short-Term Memory Management for Large Language Model Agents [57.38404718635204]
  大規模言語モデル (LLM) エージェントは、有限コンテキストウィンドウによる長距離推論において基本的な制限に直面している。 既存のメソッドは通常、長期記憶(LTM)と短期記憶(STM)を独立したコンポーネントとして扱う。 本稿では,エージェントのポリシーに LTM と STM 管理を直接統合する統合フレームワークである Agentic Memory (AgeMem) を提案する。
  論文  参考訳（メタデータ） (2026-01-05T08:24:16Z)
• MemOS: A Memory OS for AI System [116.87568350346537]
  大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。 既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。 MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
  論文  参考訳（メタデータ） (2025-07-04T17:21:46Z)
• How Memory Management Impacts LLM Agents: An Empirical Study of Experience-Following Behavior [65.70584076918679]
  メモリは、大きな言語モデル(LLM)ベースのエージェントにおいて重要なコンポーネントである。 本稿では,メモリ管理の選択がLLMエージェントの行動,特に長期的パフォーマンスに与える影響について検討する。
  論文  参考訳（メタデータ） (2025-05-21T22:35:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。