論文の概要: Accept Changes, Reject Attacks: Robust Memory Management for LLM Agents

• arxiv url: http://arxiv.org/abs/2610.41056v1
• Date: Thu, 29 Oct 2026 22:54:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.54918
• Title: Accept Changes, Reject Attacks: Robust Memory Management for LLM Agents
• Title（参考訳）: LLMエージェントのロバストメモリ管理
• Abstract要約: メモリマネージャは、各入力がこのメモリをどのように変更し、どのエージェントが動作しているかを決定する。 メモリのロバスト性は、他の入力を悪くすることなく、両方を扱うものとして形式化します。 我々は、単純なワンショットレシピによって、単一の会話で合成されたエピソードのマネージャを微調整し、挿入された変更やアタックで堅牢性を向上させる。
• 参考スコア（独自算出の注目度）: 27.564924459355424
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Since large language model (LLM) agents rely on long-term memory, what they store now shapes what they do later. A memory manager decides how each input changes this memory and which records the agent acts on. It can fail in two ways: keeping a fact that has since changed (outdated memory), or storing a planted passage or injected instruction (memory poisoning). Most prior work studies them separately, yet they call for opposite write decisions, so no fixed write rule handles both. We therefore formalize memory robustness as handling both without doing worse on other inputs. Since accuracy checks only the answer, we measure robustness with evidence-conditioned accuracy (ECA), which also checks that the records the manager selects include all the evidence the answer needs, updated and free of attacks. However, existing memory systems and defenses are not more robust than an untuned manager on our test sets. We improve robustness with a simple one-shot recipe that fine-tunes the manager on episodes synthesized around a single conversation with inserted changes and attacks. On three backbones, it improves every category score on our test sets and more than doubles the untuned manager's overall ECA, though robustness remains incomplete.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは長期記憶に依存しているため、保存したものは後で何をするかを形作る。 メモリマネージャは、各入力がこのメモリをどのように変更し、どのエージェントが動作しているかを決定する。 それは、その後変化した事実(古い記憶)を維持するか、植えられた通路を保管するか、または命令を注入する(メモリ中毒)という2つの方法で失敗する可能性がある。 以前のほとんどの作業ではこれらを別々に研究していますが、反対の書き込み決定を要求するため、固定書き込みルールは両方を処理しません。 したがって、メモリのロバスト性は他の入力を悪くすることなく、両方を扱うものとして形式化します。 精度は答えのみをチェックするので、エビデンス条件の精度(ECA)でロバストネスを測定します。 しかし、既存のメモリシステムとディフェンスは、テストセットの未チューニングマネージャほど堅牢ではない。 我々は、単純なワンショットレシピによって、単一の会話で合成されたエピソードのマネージャを微調整し、挿入された変更やアタックで堅牢性を向上させる。 3つのバックボーンでは、テストセットのすべてのカテゴリスコアを改善し、修正されていないマネージャの全体的なECAを2倍以上にします。

関連論文リスト

• DuplexLedger: Benchmarking Transactional Memory in Full-Duplex Speech Agents [52.50536965397534]
  フルメモリ音声エージェントは、リスニングと会話を継続的に更新する必要がある。 強い制御とコヒーレントなコヒーレントステートメモリを組み合わせたシステムは存在しない。 本稿では,型付きレトリバーを備えたイベントコントローラACTMemを提案する。
  論文  参考訳（メタデータ） (2026-10-20T03:47:06Z)
• MemDev-Bench: Does Memory Help Code Agents?Benchmarking Memory Systems over Real Repository Histories [51.50022165666403]
  本稿では,メモリシステムがさまざまなリポジトリ履歴に対してコードエージェントに与える影響を評価するためにMemDev-Benchを提案する。 MemDev-Benchをベースとして,メモリシステムの系統的評価を行った。
  論文  参考訳（メタデータ） (2026-10-20T02:39:26Z)
• Memory That Changes Action Is Not Memory That Guides It: Counterfactual Auditing of History-Conditioned Robot Policies [15.339579037728901]
  ロボットは、2つのタスク一貫性のある過去に遭遇し、同じ入力に再収束するが、異なる動作を保証できる。 本稿では,2つの履歴を相互に横断するメモリ・ポリティクス評価プロトコルを提案する。 ロボットは、記憶を用いて過去の保証事項を確実に選択することなく、記憶と反応が可能であることを示す。
  論文  参考訳（メタデータ） (2026-09-23T02:31:53Z)
• A-TMA: Decoupling State-Aware Memory Failures in Long-Term Agent Memory [7.7803190371583]
  我々は,記憶バンク内に共存する古い,現在の,遷移の事実が検索中に混在している状態調整障害であるemphghostメモリについて検討し,その解答モデルを誤導する。 我々は,既存のメモリシステムのための状態認識オーバレイであるATMAを提案する。ATMAは,銀行内における過大評価とトランジションの記録を保持し,現在,歴史,およびトランジションラベルをQAに公開する。
  論文  参考訳（メタデータ） (2026-07-02T09:28:29Z)
• MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
  我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。 我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。 私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
  論文  参考訳（メタデータ） (2026-06-23T13:52:46Z)
• AdaMem: Learning What to Remember for Personalized Long-Horizon LLM Agents [79.03892269184145]
  我々は、記憶に値するものはロール依存であり、 textbfAdaMem (Adaptive Memory)を提案する。 AdaMemは、メモリ容量をtextbf9%削減しながら、均一なMem0ベースライン上で textbf+9.0% まで精度を向上する。
  論文  参考訳（メタデータ） (2026-06-19T06:35:52Z)
• WorldMemArena: Evaluating Multimodal Agent Memory Through Action-World Interaction [72.1620416874118]
  マルチモーダルな言語モデルは、長距離エージェントとしてますます多くデプロイされている。 既存のベンチマークは、静的対話上のリコールを測定し、メモリを1つのタスクの精度に分解し、キャプションに対する視覚的な観察を減らす。 マルチモーダルエージェントメモリを,観測可能な4段階ライフサイクルを持つアクションワールドインタラクションループとして定式化する。
  論文  参考訳（メタデータ） (2026-05-28T04:27:20Z)
• Is Agent Memory a Database? Rethinking Data Foundations for Long-Term AI Agent Memory [3.263386002412657]
  長時間稼働するAIエージェントは永続的なメモリを必要とする。 現在のエージェントメモリシステムとデータベースパラダイムはメモリを記憶として扱う。 私たちのビジョンでは、長期エージェントメモリは新しいデータ管理ワークロードです。
  論文  参考訳（メタデータ） (2026-05-25T18:22:42Z)
• MemAudit: Post-hoc Auditing of Poisoned Agent Memory via Causal Attribution and Structural Anomaly Detection [15.403262505444454]
  本稿では,大規模言語モデルエージェントのための時間後因果記憶監査フレームワークを提案する。 MemAuditは、現実的なポストホック監査シナリオ下での攻撃成功率を大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-22T15:03:13Z)
• A-MemGuard: A Proactive Defense Framework for LLM-Based Agent Memory [31.673865459672285]
  大規模言語モデル(LLM)エージェントは、過去のインタラクションから学習するためにメモリを使用する。 敵は、エージェントのメモリに一見無害なレコードを注入して、その将来の振る舞いを操作できる。 A-MemGuard は LLM エージェントメモリのための最初のプロアクティブな防御フレームワークである。
  論文  参考訳（メタデータ） (2025-09-29T16:04:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。