論文の概要: Governing Evolving Memory in LLM Agents: Risks, Mechanisms, and the Stability and Safety Governed Memory (SSGM) Framework

• arxiv url: http://arxiv.org/abs/2603.11768v1
• Date: Thu, 12 Mar 2026 10:16:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-13 14:46:26.014546
• Title: Governing Evolving Memory in LLM Agents: Risks, Mechanisms, and the Stability and Safety Governed Memory (SSGM) Framework
• Title（参考訳）: LLMエージェントにおけるGoverning Evolving Memory: Risks, Mechanisms, and the stability and Safety Governed Memory (SSGM) Framework
• Authors: Chingkwun Lam, Jiaxin Li, Lingfei Zhang, Kuo Zhao,
• Abstract要約: 長期記憶は、自律型大規模言語モデル(LLM)エージェントの基礎コンポーネントとして登場した。 メモリガバナンス、セマンティックドリフト、プライバシ脆弱性に関する重要な懸念が浮上しました。 本稿では,概念的ガバナンスアーキテクチャであるSSGM(Stable and Safety-Governed Memory)フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 18.46738022193615
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Long-term memory has emerged as a foundational component of autonomous Large Language Model (LLM) agents, enabling continuous adaptation, lifelong multimodal learning, and sophisticated reasoning. However, as memory systems transition from static retrieval databases to dynamic, agentic mechanisms, critical concerns regarding memory governance, semantic drift, and privacy vulnerabilities have surfaced. While recent surveys have focused extensively on memory retrieval efficiency, they largely overlook the emergent risks of memory corruption in highly dynamic environments. To address these emerging challenges, we propose the Stability and Safety-Governed Memory (SSGM) framework, a conceptual governance architecture. SSGM decouples memory evolution from execution by enforcing consistency verification, temporal decay modeling, and dynamic access control prior to any memory consolidation. Through formal analysis and architectural decomposition, we show how SSGM can mitigate topology-induced knowledge leakage where sensitive contexts are solidified into long-term storage, and help prevent semantic drift where knowledge degrades through iterative summarization. Ultimately, this work provides a comprehensive taxonomy of memory corruption risks and establishes a robust governance paradigm for deploying safe, persistent, and reliable agentic memory systems.
• Abstract（参考訳）: 長期記憶は、自律型大規模言語モデル(LLM)エージェントの基礎的な構成要素として現れ、継続的な適応、生涯にわたるマルチモーダル学習、洗練された推論を可能にしている。 しかし、メモリシステムが静的検索データベースから動的エージェント機構へ移行するにつれて、メモリガバナンス、セマンティックドリフト、プライバシ脆弱性に関する重要な懸念が表面化している。 最近の調査では、メモリの検索効率に焦点が当てられているが、非常にダイナミックな環境では、メモリの破損が突然起こる危険性を概ね見落としている。 これらの課題に対処するため、我々は、概念的ガバナンスアーキテクチャである、安定性と安全性を優先したメモリ(SSGM)フレームワークを提案する。 SSGMは、メモリ統合前の整合性検証、時間減衰モデリング、動的アクセス制御を強制することにより、メモリの進化を実行から切り離す。 形式解析とアーキテクチャの分解により,SSGMは長期記憶にセンシティブなコンテキストが固化されるようなトポロジによる知識漏洩を緩和し,知識が反復的な要約によって劣化するセマンティックドリフトを防ぐことができることを示す。 最終的に、この研究は、メモリ破損リスクの包括的な分類を提供し、安全で永続的で信頼性の高いエージェントメモリシステムをデプロイするための堅牢なガバナンスパラダイムを確立します。

関連論文リスト

• AMA: Adaptive Memory via Multi-Agent Collaboration [54.490349689939166]
  複数の粒度にまたがるメモリ管理に協調エージェントを活用する新しいフレームワークであるAMA(Adaptive Memory via Multi-Agent Collaboration)を提案する。 AMAは、ステート・オブ・ザ・アートのベースラインを著しく上回り、トークンの消費をフルコンテキストの手法と比べて約80%削減する。
  論文  参考訳（メタデータ） (2026-01-28T08:09:49Z)
• Beyond Heuristics: A Decision-Theoretic Framework for Agent Memory Management [49.71055327567513]
  メモリ管理は、不確実性の下でのシーケンシャルな意思決定問題と見なされるべきである。 私たちの貢献は、新しいアルゴリズムではなく、アプローチの限界を明確にする原則的なリフレーミングです。
  論文  参考訳（メタデータ） (2025-12-25T08:23:03Z)
• SEDM: Scalable Self-Evolving Distributed Memory for Agents [23.182291416527764]
  SEDMは、メモリをパッシブリポジトリからアクティブな自己最適化コンポーネントに変換する検証可能で適応的なフレームワークである。 また,SEDMは,強いメモリベースラインに比べてトークンオーバーヘッドを低減しつつ,推論精度を向上することを示した。 結果は、SEDMをオープンエンドのマルチエージェントコラボレーションのためのスケーラブルで持続可能なメモリメカニズムとして強調する。
  論文  参考訳（メタデータ） (2025-09-11T14:37:37Z)
• MemOS: A Memory OS for AI System [116.87568350346537]
  大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。 既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。 MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
  論文  参考訳（メタデータ） (2025-07-04T17:21:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。