論文の概要: The Compliance Trap: Diagnosing How AI Agents Consume Conflicting Memory
- arxiv url: http://arxiv.org/abs/2607.10608v1
- Date: Sun, 12 Jul 2026 07:05:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.480319
- Title: The Compliance Trap: Diagnosing How AI Agents Consume Conflicting Memory
- Title（参考訳）: コンプライアンスのトラップ:AIエージェントがメモリを競合する原因を診断する
- Authors: Yixiong Chen, Xinyi Bai, Alan Yuille,
- Abstract要約: メモリは、長年にわたるAIエージェントの中核的なコンポーネントになりつつある。これにより、エージェントは、Webブラウザやソフトウェアツール、その他のインタラクティブな環境を操作する際に、過去の経験を再利用することができる。
既存の作業は、主にメモリを供給問題として扱い、どのエクスペリエンスを書くか、どのように保存するか、どのエントリを次のタスクに取得するかを尋ねる。
しかし、モデルが取得したメモリをどのように消費するかについては、まだ明確な説明がありません。
- 参考スコア（独自算出の注目度）: 9.041305193333434
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Memory is becoming a core component of long-horizon AI agents, allowing agents to reuse past experience when operating web browsers, software tools, and other interactive environments. Existing work mostly treats memory as a supply problem, asking what experience to write, how to store it, and which entry to retrieve for the next task. Yet we still lack a clear account of how models consume retrieved memory across a multi-step action trajectory. This consumption process matters because it determines not only what memories should be retrieved, but also what models and control policies are needed to use them safely. To diagnose this process, we propose Entry--Propagation--Recovery (E-P-R), a trajectory-level framework that asks where memory first changes an action, whether that change carries forward, and whether the agent can recover after leaving a correct path. We instantiate E-P-R on WebArena and on MemTrapBench, a controlled benchmark we build to isolate these phases. We find that the main failure often begins at entry: agents adopt conflicting memory at the first exposed decision point even when it is task-wrong. Repeated exposure then amplifies this early error, while recovery after divergence is weak. Together, these effects create a compliance trap: across models, conflicting memory induces similar compliance rates, but once agents comply, their success rates collapse to a low floor. Stronger agents therefore suffer larger absolute damage because each compliance event erases more baseline capability. These results suggest that memory-augmented agents should be evaluated not only by retrieval quality or final success rate, but by how they consume memory throughout the trajectory.
- Abstract（参考訳）: メモリは、長年にわたるAIエージェントの中核的なコンポーネントになりつつある。これにより、エージェントは、Webブラウザやソフトウェアツール、その他のインタラクティブな環境を操作する際に、過去の経験を再利用することができる。
既存の作業は、主にメモリを供給問題として扱い、どのエクスペリエンスを書くか、どのように保存するか、どのエントリを次のタスクに取得するかを尋ねる。
しかし、モデルが取得したメモリをどのように消費するかについては、まだ明確な説明がありません。
この消費プロセスは、検索すべきメモリだけでなく、安全に使用するために必要なモデルやコントロールポリシーも決定するので重要である。
この過程を診断するために、メモリが最初にアクションを変更する場所、その変更が進行するかどうか、正しいパスを残した後、エージェントが回復できるかどうかを問う軌跡レベルのフレームワークであるEntry--Propagation-Recovery (E-P-R)を提案する。
WebArenaとMemTrapBenchでE-P-Rをインスタンス化する。
エージェントは、タスク記述である場合でも、最初の露見した決定ポイントで競合するメモリを採用します。
繰り返し露光すると、この早期エラーが増幅され、分岐後の回復は弱くなる。
モデル間で競合するメモリは、同様のコンプライアンスレートを誘導するが、エージェントが従えば、その成功率は低いフロアに崩壊する。
したがって、より強いエージェントは、コンプライアンスイベントによってベースライン能力が失われるため、より大きな絶対的なダメージを被る。
これらの結果から, 記憶増強剤は検索品質や最終成功率だけでなく, トラジェクトリを通して記憶を消費する方法によって評価されるべきであることが示唆された。
関連論文リスト
- MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。
我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。
私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
論文 参考訳（メタデータ） (2026-06-23T13:52:46Z) - Memory is Reconstructed, Not Retrieved: Graph Memory for LLM Agents [51.30250860677378]
本稿では,連想記憶グラフとアクティブな再構成機構を組み合わせたフレームワークであるMRAgentを提案する。
Cue-Tag-Contentグラフ上で実行することで,メモリアクセスに直接推論を統合する。
LoCoMoベンチマークとLongMemEvalベンチマークの実験は、強いベースラインよりも大幅に改善されている。
論文 参考訳（メタデータ） (2026-06-04T11:29:46Z) - MemAudit: Post-hoc Auditing of Poisoned Agent Memory via Causal Attribution and Structural Anomaly Detection [15.403262505444454]
本稿では,大規模言語モデルエージェントのための時間後因果記憶監査フレームワークを提案する。
MemAuditは、現実的なポストホック監査シナリオ下での攻撃成功率を大幅に削減する。
論文 参考訳（メタデータ） (2026-05-22T15:03:13Z) - The Trap of Trajectory: Towards Understanding and Mitigating Spurious Correlations in Agentic Memory [7.707732051915869]
エージェントメモリシステムの診断では、メモリはクリーンな入力の推論を改善するが、それらが存在するときのスプリアスパターンへの依存を増幅する。
本稿では,CAMELを提案する。CAMELは,書き込み時間と検索時間の両方で,多様なメモリアーキテクチャ間で動作可能な,プラグアンドプレイキャリブレーション方式である。
全体として、CAMELはより信頼性の高いエージェントメモリデプロイメントに対して、原則的で軽量なソリューションを提供する。
論文 参考訳（メタデータ） (2026-05-10T05:04:13Z) - MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。
汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。
MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
論文 参考訳（メタデータ） (2026-04-17T07:29:52Z) - MemMA: Coordinating the Memory Cycle through Multi-Agent Reasoning and In-Situ Self-Evolution [52.29303869050117]
メモリ拡張LDMエージェントは、長期の相互作用をサポートするために外部メモリバンクを保持する。
MemMAはプラグアンドプレイのマルチエージェントフレームワークで、前方と後方の両方の経路に沿ってメモリサイクルを調整する。
論文 参考訳（メタデータ） (2026-03-19T10:15:59Z) - MemoryArena: Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks [55.145729491377374]
メモリを持つエージェントの既存の評価は、通常、単独で記憶と行動を評価する。
マルチセッションメモリ-エージェント環境ループにおけるエージェントメモリのベンチマークのための統合評価ジムであるMemoryArenaを紹介する。
MemoryArenaは、Webナビゲーション、優先制約付き計画、プログレッシブ情報検索、シーケンシャルなフォーマルな推論を含む評価をサポートする。
論文 参考訳（メタデータ） (2026-02-18T09:49:14Z) - ActMem: Bridging the Gap Between Memory Retrieval and Reasoning in LLM Agents [14.695250837875454]
本稿では,ActMemと呼ばれる新しい動作可能なメモリフレームワークを提案する。
ActMemは非構造化対話履歴を構造化因果グラフと意味グラフに変換する。
エージェントは暗黙の制約を推論し、過去の状態と現在の意図の間の潜在的な衝突を解決することができる。
論文 参考訳（メタデータ） (2026-02-04T00:54:53Z) - A-MemGuard: A Proactive Defense Framework for LLM-Based Agent Memory [31.673865459672285]
大規模言語モデル(LLM)エージェントは、過去のインタラクションから学習するためにメモリを使用する。
敵は、エージェントのメモリに一見無害なレコードを注入して、その将来の振る舞いを操作できる。
A-MemGuard は LLM エージェントメモリのための最初のプロアクティブな防御フレームワークである。
論文 参考訳（メタデータ） (2025-09-29T16:04:15Z) - How Memory Management Impacts LLM Agents: An Empirical Study of Experience-Following Behavior [65.70584076918679]
メモリは、大きな言語モデル(LLM)ベースのエージェントにおいて重要なコンポーネントである。
本稿では,メモリ管理の選択がLLMエージェントの行動,特に長期的パフォーマンスに与える影響について検討する。
論文 参考訳（メタデータ） (2025-05-21T22:35:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。