論文の概要: Revoked but Still Authoritative: An Empirical Study of Revocation Enforcement in Agent-Memory Systems
- arxiv url: http://arxiv.org/abs/2609.08258v1
- Date: Tue, 08 Sep 2026 05:03:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.584914
- Title: Revoked but Still Authoritative: An Empirical Study of Revocation Enforcement in Agent-Memory Systems
- Title（参考訳）: Revoked but still Authoritative: an empirical Study of Revocation Enforcement in Agent-Memory Systems
- Abstract要約: エージェントメモリのシステムは5つあり、デフォルトではリコールを強制するシステムは見つからない。
エージェントと任意のメモリバックエンドの間に位置するガードを開発し、取り消されたり、置換に反するレコードを保持します。
- 参考スコア（独自算出の注目度）: 1.3891530345631953
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long-running language-model agents depend on persistent memory. Many agent-memory systems preserve history through soft revocation: a contradicted fact is marked invalid and retained rather than deleted. However, whether that mark is enforced at retrieval time is unexamined. In this paper, we measure five such systems: we load each with a revoked policy and its replacement, track whether the revoked fact is returned at retrieval and whether the agent then acts on it across nine policy scenarios and nine models, and score every trial under six defense conditions. We find that no system enforces revocation by default: the revoked fact is returned wherever the revocation label is visible to the retrieval layer, outranks its replacement, and leads agents to the unsafe action. Based on these findings, we develop a guard that sits between the agent and any memory backend and withholds records that are revoked or conflict with their replacement.
- Abstract（参考訳）: 長期にわたる言語モデルエージェントは永続メモリに依存する。
多くのエージェントメモリシステムは、ソフトな取り消しによって歴史を保存している。
しかし、そのマークが検索時に強制されるか否かは未確認である。
本稿では, 取り消しポリシーとその代替品をロードし, 取り消し事実が検索時に返却されるかどうか, そして, エージェントが9つの政策シナリオと9つのモデルにまたがって処理を行い, 6つの防衛条件下で全てのトライアルをスコアリングする。
取り消しされた事実は、取り消しラベルが検索層に表示され、そのリプレースをオーバーランクし、エージェントを安全でないアクションに導く。
これらの知見に基づき、エージェントと任意のメモリバックエンドの間に位置するガードを開発し、取り消されたり、置換に反するレコードを保持する。
関連論文リスト
- Forgetting Without Restarting: Execution-State Unlearning for Stateful LLM Agents [12.985773309621964]
Provenance-Guided Selective Replayは、プロンプト、圧縮メモリ、キャッシュにまたがるクロスレイヤコントラクトとしてバインドされる。
我々は,3つのエージェントスイート,9つのベースライン,3つのモデルファミリに対して,エレケーション,キャッシュ,文字列フリーな動作テストで監査を行った。
論文 参考訳（メタデータ） (2026-09-04T08:31:40Z) - Hindsight Memory-PRM: Supervising Memory Management with Auditable Hindsight Credit [48.811961095386]
Hindsight Memory-PRMはこの監査パスを2回利用します。
オフラインで操作条件付きメモリユーティリティの批判をトレーニングする。
オンラインでは、検索、引用、および1つの制御された削除と再回答が、介入校正されたエントリーレベルのプレゼンスクレジットを確定する。
論文 参考訳（メタデータ） (2026-08-30T06:53:13Z) - From Faulty Memories to Corrected Actions: Dependency-Guided Rollback Repair for Memory-Augmented Agents [19.125716338799545]
textbfdependency-guided rollback repairは、出所からの型付きメモリ対アクショングラフを構築し、明示的な下流依存性をトレースし、応答関連処理のみを選択的に再生する。
本手法は,3つのツール使用領域と4つのメモリ障害タイプにまたがる150ケースのベンチマークで評価する。
論文 参考訳（メタデータ） (2026-08-11T05:19:55Z) - When Memory Becomes Authority: Benchmarking Authority Collapse at the Memory Consolidation Boundary [12.82709779460352]
LLMエージェントは不均一な相互作用履歴を再利用可能な事実、嗜好、観察、規則に集約することでタスクに適応する。
我々は、権限の崩壊を特定し、統合は、その認可された使用を規制するソース制約を消去しながら、クレームを保護します。
メモリ駆動型適応は、学習したものだけでなく、再利用される可能性のある権威も保持しなければならないことを示す。
論文 参考訳（メタデータ） (2026-08-03T04:15:40Z) - MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。
MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。
長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
論文 参考訳（メタデータ） (2026-07-14T15:33:44Z) - Always-OnAgents:A Survey of Persistent Memory, State, and Governance in LLMAgents [14.13381700671035]
常にオンエージェントは、将来の振舞いが以前の相互作用にまたがって蓄積された耐久性状態に依存するシステムである。
私たちは、これらのガバナンス要件を具体化するパイロット評価契約であるAlways-On Evaluation Protocol (AOEP-v0)を紹介します。
結果のアジェンダは、常時オンのエージェントをデータベース、分散システム、フォーマルなメソッド、機能セキュリティ、マシンアンラーニングに接続する。
論文 参考訳（メタデータ） (2026-06-29T13:47:42Z) - MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。
我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。
私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
論文 参考訳（メタデータ） (2026-06-23T13:52:46Z) - WorldMemArena: Evaluating Multimodal Agent Memory Through Action-World Interaction [72.1620416874118]
マルチモーダルな言語モデルは、長距離エージェントとしてますます多くデプロイされている。
既存のベンチマークは、静的対話上のリコールを測定し、メモリを1つのタスクの精度に分解し、キャプションに対する視覚的な観察を減らす。
マルチモーダルエージェントメモリを,観測可能な4段階ライフサイクルを持つアクションワールドインタラクションループとして定式化する。
論文 参考訳（メタデータ） (2026-05-28T04:27:20Z) - Your Agents Are Aging Too: Agent Lifespan Engineering for Deployed Systems [60.79651380135334]
長寿命のAIエージェントは、永続的な運用システムとしてますますデプロイされる。
エージェントはデプロイ後、いつまで信頼できるのか?
エージェントライフスパンエンジニアリングのための縦型信頼性ベンチマークであるAgingBenchを紹介する。
論文 参考訳（メタデータ） (2026-05-25T19:55:12Z) - ACRFence: Preventing Semantic Rollback Attacks in Agent Checkpoint-Restore [3.0122754959023115]
LLMエージェントフレームワークは、エラーリカバリと探索のためのチェックポイントリストアをますます提供する。
このアドバイスは、リトライされた呼び出しは、従来のプログラムには当てはまるが、LLMエージェントには失敗する仮定である元の呼び出しと同じであると仮定する。
サーバは、これらの再生成要求を新しいものとして扱い、重複支払い、消費された資格情報の不正な再利用、その他の不可逆的な副作用を可能にする。
本稿では,不可逆的なツール効果を記録し,復元時に再生・不可知の意味を強制するフレームワークであるACRFenceを提案する。
論文 参考訳（メタデータ） (2026-03-21T03:39:36Z) - Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
セルフ進化エージェントはセッション間で内部状態を更新する。
我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。
我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-17T15:28:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。