論文の概要: SAFE-Mem: Secure Agentic Memory with Fine-Grained Authority and Governance-Aware Retrieval

• arxiv url: http://arxiv.org/abs/2610.22959v2
• Date: Tue, 20 Oct 2026 06:30:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.221633
• Title: SAFE-Mem: Secure Agentic Memory with Fine-Grained Authority and Governance-Aware Retrieval
• Title（参考訳）: SAFE-Mem: きめ細かい権限とガバナンスを考慮したセキュアなエージェントメモリ
• Abstract要約: メモリ管理フレームワークSAFE-Memを提案する。 正当性のあるメモリ使用を保ちながら、セキュリティを改善します。 正統な記憶を維持している守備隊の中では最も低い攻撃成功率、少なくとも77%以下であり、評価された全ての守備隊の回答精度が最も高く、最大で15ポイント向上している。
• 参考スコア（独自算出の注目度）: 14.336664582531263
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM) agents increasingly rely on persistent memory to support long-term reasoning and personalized interactions. However, information collected from external sources can introduce security risks when untrusted claims (i.e., atomic statements) are later treated as authorized preferences, policies, or permissions. Existing defenses typically rely on content-based filtering or coarse-grained provenance tracking, which either fail to prevent unauthorized memory use or block legitimate information, sacrificing memory utility. To address these limitations, we propose SAFE-Mem, a fine-grained memory governance framework that improves security while preserving legitimate memory use. First, SAFE-Mem annotates each claim with three governance labels (i.e., kind, authority, and scope) to capture its provenance and permitted use. Second, governance-aware retrieval matches query requirements with claim permissions to block unauthorized influence while retaining legitimate information. Third, a governance-enabled memory graph connects source sentences, claims, and entities to support provenance tracking and efficient retrieval. Across four LLM backbones on MPBench and LoCoMo, SAFE-Mem attains the lowest attack success among defenses that retain legitimate memory, at least 77% below the strongest of them, and the highest answer accuracy of all evaluated defenses, improving it by up to 15 points. The code is available at https://github.com/LVenum/SAFE-Mem.
• Abstract（参考訳）: 大きな言語モデル(LLM)エージェントは、長期的な推論とパーソナライズされたインタラクションをサポートするために、永続的なメモリに依存している。 しかしながら、外部ソースから収集された情報は、信頼できないクレーム(すなわち、アトミックステートメント)が後に承認された嗜好、ポリシー、パーミッションとして扱われる場合にセキュリティリスクを導入することができる。 既存の防御は、通常、コンテンツベースのフィルタリングや粗粒度のプロファイランストラッキングに依存しており、不正なメモリ使用を防ぐか、正当な情報をブロックし、メモリユーティリティを犠牲にする。 これらの制限に対処するために,正当性のあるメモリ使用を保ちながらセキュリティを改善する,きめ細かいメモリガバナンスフレームワークSAFE-Memを提案する。 まず、SAFE-Memは、各クレームに3つのガバナンスラベル(種類、権限、範囲)をアノテートして、その証明と使用をキャプチャする。 第二に、ガバナンス対応の検索は、クエリ要求とクレーム権限とを一致させ、正当な情報を保持しながら、不正な影響をブロックする。 第三に、ガバナンス可能なメモリグラフは、ソース文、クレーム、エンティティを接続し、プロビタンス追跡と効率的な検索をサポートする。 MPBenchとLoCoMoの4つのLDMバックボーンの中で、SAFE-Memは、正統な記憶を保ったディフェンスの中では最小の攻撃成功を達成している。 コードはhttps://github.com/LVenum/SAFE-Mem.comで入手できる。

関連論文リスト

• Agent Memory Is a Surface for Endogenous Authorization Laundering [0.764671395172401]
  長期にわたるLLMエージェントは、相互作用間の状態を運ぶために永続メモリに依存している。 記憶が進化する認可状態を示すと、エージェント自身の記録は、基礎となる歴史が許されていない権限を与えることができる。 我々は、この障害を内在的な認可洗浄と呼び、急激な許可がメモリに書き込まれ、無許可の行動につながる。
  論文  参考訳（メタデータ） (2026-09-01T20:12:08Z)
• MAPLE-Guard: Memory-Aware Link Enforcement Against Memory-Link Poisoning in Multi-Agent Systems [38.58713997316864]
  MAPLE-Guardはメモリ対応マルチエージェントシステムのためのメモリリンクガードである。 メモリライフサイクルを監視し、書き込み、検索、プロモーション、エージェント間の再利用でゲートを配置する。 その結果,メモリ・アウェア・リンクの実施は,プロンプトレベルとトポロジレベルの防御によって残されたギャップをカバーすることが示唆された。
  論文  参考訳（メタデータ） (2026-08-01T03:55:13Z)
• Memory Provenance Laundering in LLM Agents: A Non-Amplification Firewall for Persistent Memory [2.98985980237058]
  Provenance-Preserving Memory Fire Wall (PPMF) は、プラットフォームの保守された前兆を保存し、アクション関連メモリの権威にアクションリスクを合わせることでツールコールを認可する軽量メモリである。 プラットフォームに保持された証明、確認、リスクラベルはそのままであり、評価されていないハイリスクアクションはPPMFゲートを通過しない。
  論文  参考訳（メタデータ） (2026-07-31T08:46:27Z)
• When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents [55.87577638514179]
  我々は、リモートのブラックボックスが1つのメールペイロードを送信し、エージェントに有毒なメモリを誘導しなければならない、ステルスメモリインジェクションとして脅威を調査する。 我々は,ワンショットペイロード生成フレームワークであるMemGhostを提案する。 56のテストケースで、MemGhostはGPT-5.4でOpenClawで87.5%、Sonnet 4.6でClaude Code SDKで71.4%を達成している。
  論文  参考訳（メタデータ） (2026-07-06T15:08:58Z)
• MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
  我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。 我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。 私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
  論文  参考訳（メタデータ） (2026-06-23T13:52:46Z)
• GateMem: Benchmarking Memory Governance in Multi-Principal Shared-Memory Agents [61.50171793000712]
  GateMemはマルチプリンシパル共有メモリエージェントのベンチマークである。 医療、事務、教育、家庭の領域にまたがる。 強力なユーティリティ、堅牢なアクセス制御、信頼性のある忘れを同時に実現する方法は存在しない。
  論文  参考訳（メタデータ） (2026-06-17T09:06:15Z)
• Beyond Similarity: Trustworthy Memory Search for Personal AI Agents [25.265839311088516]
  個人AIエージェントにおける信頼境界としてのメモリ探索について検討する。 MemGateは、信頼性の高いメモリ検索のための軽量でデプロイ可能なメモリプラグインである。
  論文  参考訳（メタデータ） (2026-06-04T11:54:29Z)
• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• A Survey on the Security of Long-Term Memory in LLM Agents: Toward Mnemonic Sovereignty [12.941302388928841]
  認知神経科学と記憶哲学に基づいて、エージェント記憶は順応的で、再編集可能で、社会的に伝播していると特徴付けている。 我々は、Write、Store、Retrieve、Execute、Share、Forget/Rollbackという6つのフェーズで構成されたメモリライフサイクルフレームワークを開発しています。 文献は書き込み時と検索時の整合性攻撃に集中しているが、機密性、可用性、ストア/フォゲット、良性パーシステンス障害は軽微に研究されている。
  論文  参考訳（メタデータ） (2026-04-17T06:28:22Z)
• AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management [47.49917373646469]
  既存の防御は肥大した記憶を与えられたまま扱い、回復力を維持することに集中する。 我々は、明示的なメモリ管理を通じて間接的なインジェクションを防御するフレームワークであるAgentSysを紹介する。
  論文  参考訳（メタデータ） (2026-02-07T06:28:51Z)
• Agentic Memory: Learning Unified Long-Term and Short-Term Memory Management for Large Language Model Agents [57.38404718635204]
  大規模言語モデル (LLM) エージェントは、有限コンテキストウィンドウによる長距離推論において基本的な制限に直面している。 既存のメソッドは通常、長期記憶(LTM)と短期記憶(STM)を独立したコンポーネントとして扱う。 本稿では,エージェントのポリシーに LTM と STM 管理を直接統合する統合フレームワークである Agentic Memory (AgeMem) を提案する。
  論文  参考訳（メタデータ） (2026-01-05T08:24:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。