論文の概要: A Survey on the Security of Long-Term Memory in LLM Agents: Toward Mnemonic Sovereignty

• arxiv url: http://arxiv.org/abs/2604.16548v1
• Date: Fri, 17 Apr 2026 06:28:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.065865
• Title: A Survey on the Security of Long-Term Memory in LLM Agents: Toward Mnemonic Sovereignty
• Title（参考訳）: LLMエージェントの長期記憶の安全性に関する調査研究:Mnmonic Sovereignityに向けて
• Authors: Zehao Lin, Chunyu Li, Kai Chen,
• Abstract要約: 認知神経科学と記憶哲学に基づいて、エージェント記憶は順応的で、再編集可能で、社会的に伝播していると特徴付けている。 我々は、Write、Store、Retrieve、Execute、Share、Forget/Rollbackという6つのフェーズで構成されたメモリライフサイクルフレームワークを開発しています。 文献は書き込み時と検索時の整合性攻撃に集中しているが、機密性、可用性、ストア/フォゲット、良性パーシステンス障害は軽微に研究されている。
• 参考スコア（独自算出の注目度）: 12.941302388928841
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Research on large language model (LLM) security is shifting from "will the model leak training data" to a more consequential question: can an agent with persistent, long-term memory be continuously shaped, cross-session poisoned, accessed without authorization, and propagated across shared organizational state? Recent surveys cover memory architectures and agent mechanisms, but fewer center the epistemic and governance properties of persistent, writable memory as the reason memory is an independent security problem. This survey addresses that gap. Drawing on cognitive neuroscience and the philosophy of memory, we characterize agent memory as malleable, rewritable, and socially propagating, and develop a memory-lifecycle framework organized around six phases -- Write, Store, Retrieve, Execute, Share, Forget/Rollback -- cross-tabulated against four security objectives: integrity, confidentiality, availability, governance. We organize the literature on memory poisoning, extraction, retrieval corruption, control-flow hijacking, cross-agent propagation, rollback, and governance, and situate representative architectures as determinants of which phases are explicitly governable. Three findings stand out: the literature concentrates on write- and retrieve-time integrity attacks, while confidentiality, availability, store/forget, and benign-persistence failures remain sparsely studied; no published architecture covers all nine governance primitives we identify; and using LLMs themselves for memory security remains sparse yet essential. We unify these under mnemonic sovereignty -- verifiable, recoverable governance over what may be written, who may read, when updates are authorized, and which states may be forgotten -- arguing future secure agents will be differentiated not only by recall capacity, but by memory governance quality.
• Abstract（参考訳）: 大規模言語モデル(LLM)のセキュリティの研究は、"モデルリークトレーニングデータ"から、より簡潔な質問へと移行している。 永続的長期記憶を持つエージェントは、継続的に形成され、クロスセッションで汚染され、許可なくアクセスされ、共有された組織状態を越えて伝播することが可能になるか? 最近の調査では、メモリアーキテクチャとエージェントメカニズムがカバーされているが、メモリが独立したセキュリティ問題である理由として、永続的で不安定なメモリの疫学的およびガバナンス的特性が低い。 この調査はそのギャップに対処します。 認知神経科学と記憶の哲学に基づいて、我々はエージェントメモリを順応性、再編集性、社会的に伝播するものとして特徴付け、書き込み、ストア、検索、共有、フォーク/ロールバックという6つのフェーズで構成されたメモリライフサイクルフレームワークを開発します。 本稿では, メモリ中毒, 抽出, 回収汚職, 制御-フローハイジャック, エージェント間伝播, ロールバック, ガバナンスに関する文献を整理し, どの段階が明示的に支配可能であるかを決定要因として, 代表的アーキテクチャを定式化する。 文献は書き込みと検索時の整合性攻撃に集中しているが、機密性、可用性、ストア/フォゲット、および良質なパーシステンス障害は依然としてわずかに研究されており、私たちが特定した9つのガバナンスプリミティブすべてをカバーするアーキテクチャは公開されていない。 我々はこれらを、ムネモニックな主権の下で統一する -- 書かれるかもしれないこと、誰が読むことができるか、更新が認可されたとき、どの州が忘れられるか、検証可能な、回復可能なガバナンス -- は、将来の安全なエージェントは、リコール能力だけでなく、メモリガバナンスの品質によって差別化される、と主張する。

関連論文リスト

• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• Memory poisoning and secure multi-agent systems [5.987250983212102]
  エージェントAIとマルチエージェントシステム(MAS)のメモリ中毒攻撃が最近注目を集めている。 まず,これらのメモリシステムにおけるメモリ障害攻撃の可能性について検討し,その軽減策を提案する。 本稿では,セマンティックメモリに対するメモリ中毒の緩和戦略の例として,プライベート知識検索に基づく局所推論を実装することを提案する。
  論文  参考訳（メタデータ） (2026-03-20T14:27:46Z)
• Governing Evolving Memory in LLM Agents: Risks, Mechanisms, and the Stability and Safety Governed Memory (SSGM) Framework [18.46738022193615]
  長期記憶は、自律型大規模言語モデル(LLM)エージェントの基礎コンポーネントとして登場した。 メモリガバナンス、セマンティックドリフト、プライバシ脆弱性に関する重要な懸念が浮上しました。 本稿では,概念的ガバナンスアーキテクチャであるSSGM(Stable and Safety-Governed Memory)フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-12T10:16:52Z)
• Memory for Autonomous LLM Agents:Mechanisms, Evaluation, and Emerging Frontiers [0.42061757959666934]
  大きな言語モデル(LLM)エージェントは、単一のコンテキストウィンドウが小さすぎて何が起きているのかをキャプチャできないような環境で、ますます運用される。 メモリはステートレステキストジェネレータを真に適応的なエージェントに変える。 この調査は、メモリがどのように設計され、実装され、現代のLCMベースのエージェントで評価されるかという構造化された説明を提供する。
  論文  参考訳（メタデータ） (2026-03-08T15:08:01Z)
• ActMem: Bridging the Gap Between Memory Retrieval and Reasoning in LLM Agents [14.695250837875454]
  本稿では,ActMemと呼ばれる新しい動作可能なメモリフレームワークを提案する。 ActMemは非構造化対話履歴を構造化因果グラフと意味グラフに変換する。 エージェントは暗黙の制約を推論し、過去の状態と現在の意図の間の潜在的な衝突を解決することができる。
  論文  参考訳（メタデータ） (2026-02-04T00:54:53Z)
• Beyond Heuristics: A Decision-Theoretic Framework for Agent Memory Management [49.71055327567513]
  メモリ管理は、不確実性の下でのシーケンシャルな意思決定問題と見なされるべきである。 私たちの貢献は、新しいアルゴリズムではなく、アプローチの限界を明確にする原則的なリフレーミングです。
  論文  参考訳（メタデータ） (2025-12-25T08:23:03Z)
• Memory in the Age of AI Agents [217.9368190980982]
  この研究は、現在のエージェントメモリ研究の最新の展望を提供することを目的としている。 我々は,エージェントメモリ,すなわちトークンレベル,パラメトリック,潜時メモリの3つの支配的実現を同定する。 実用的な開発を支援するため、メモリベンチマークとオープンソースフレームワークの包括的な概要をコンパイルする。
  論文  参考訳（メタデータ） (2025-12-15T17:22:34Z)
• MemOS: A Memory OS for AI System [116.87568350346537]
  大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。 既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。 MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
  論文  参考訳（メタデータ） (2025-07-04T17:21:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。