論文の概要: Forgetting is Not Always Bad: A Neuro-Inspired Memory Repair Mechanism for Poisoned LLM Agents

• arxiv url: http://arxiv.org/abs/2610.13267v1
• Date: Fri, 09 Oct 2026 09:17:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.503696
• Title: Forgetting is Not Always Bad: A Neuro-Inspired Memory Repair Mechanism for Poisoned LLM Agents
• Title（参考訳）: LLM薬剤の神経刺激による記憶修復機構
• Abstract要約: 大規模言語モデル(LLM)エージェントは、メモリ汚染攻撃に対して非常に脆弱である。 そこで本研究では,有毒記憶の選択的機能的忘れを可能とした,エージェント固有のトレーニングフリーメモリ修復フレームワークDREAMを提案する。
• 参考スコア（独自算出の注目度）: 18.7318310301167
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) agents are highly vulnerable to memory-poisoning attacks. Existing defenses primarily rely on external modules for either static memory isolation or continuous online auditing, resulting in low memory efficiency and high computational overhead. To address these limitations, inspired by neuroscientific mechanisms that weak reactivation can destabilize memories and induce decay in the absence of reinforcement, we propose an agent-intrinsic training-free memory repair framework, DREAM (Dynamic Reactivation for Engram Attenuation in Memory), that enables selective functional forgetting of poisoned memories. Specifically, DREAM implements a three-stage pipeline: perturbation-induced implicit reactivation to reveal the structural fragility of malicious memories, adaptive anomaly diagnosis based on multi-dimensional activation patterns to detect topological anomalies, and a dynamic memory repair module that selectively suppresses harmful memories while reinforcing benign ones. Extensive experiments across diverse attackers and real-world tasks demonstrate that DREAM reduces attack success rates by over 95\% against backdoor poisoning while preserving strong benign utility. DREAM also achieves competitive robustness against injection attacks. In terms of runtime and token consumption, DREAM achieves up to a 2.13$\times$ speedup and a 37.7\% reduction in token consumption compared with A-MemGuard. Furthermore, DREAM also achieves a task success rate of 92.96\% on poisoned multi-agent systems.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、メモリ汚染攻撃に対して非常に脆弱である。 既存のディフェンスは主に、静的メモリアイソレーションまたは継続的なオンライン監査のための外部モジュールに依存しており、結果としてメモリ効率が低く、計算オーバーヘッドが高い。 これらの制約に対処するために、弱い再活性化が記憶を不安定にし、強化がなければ劣化を誘発する神経科学的なメカニズムに着想を得た、本研究では、有毒な記憶の選択的機能的忘れを可能とした、エージェント固有のトレーニング不要記憶修復フレームワークであるDREAM(Dynamic Reactivation for Engram Attenuation in Memory)を提案する。 特に、DREAMは、3段階のパイプラインを実装している: 摂動誘発暗黙的反応により、悪意のある記憶の構造的不安定性を明らかにすること、多次元のアクティベーションパターンに基づく適応的異常診断により、トポロジカルな異常を検出すること、および、良性な記憶を補強しながら、有害な記憶を選択的に抑制する動的メモリ修復モジュール。 多様な攻撃者や現実世界のタスクにわたる大規模な実験により、DREAMは強力な良識を保ちながら、バックドア中毒に対する攻撃成功率を95%以上削減することを示した。 DREAMはまた、インジェクション攻撃に対する競合的堅牢性も達成する。 ランタイムとトークン消費の面では、DREAMはA-MemGuardと比較して最大2.13$\times$スピードアップと37.7\%のトークン消費削減を実現している。 さらに、DREAMは、有毒多剤系において92.96 %のタスク成功率も達成している。

関連論文リスト

• MemVenom: Triggered Poisoning of Multimodal Memories in Web Agents [74.64265314956441]
  そこで我々は,グラフ構造化外部メモリにテキスト画像のコーディネートを施したブラックボックス攻撃フレームワークを提案する。 MemVenomは、GPT-5ファミリーのWebエージェントで最大99.15%に達する、良質なパフォーマンスに最小限の影響を伴って、強力なエンドツーエンド攻撃を成功させる。
  論文  参考訳（メタデータ） (2026-06-09T11:53:25Z)
• From Untrusted Input to Trusted Memory: A Systematic Study of Memory Poisoning Attacks in LLM Agents [3.3489120273076876]
  メモリはAIエージェントの中核的なコンポーネントであり、対話を通じて知識を蓄積し、パフォーマンスを向上させることができる。 本研究は, LLM系薬剤の記憶障害に関する系統的研究である。 モデル機能,システムプロンプト設計,エージェントシステムアーキテクチャにおいて,4つのメモリ書き込みチャネルと9つの構造的脆弱性を識別する。
  論文  参考訳（メタデータ） (2026-06-03T01:04:13Z)
• Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction [3.809725488301918]
  大規模言語モデル(LLM)エージェントは、永続的で自律的なタスク実行をサポートするために、長期記憶を活用する傾向にある。 既存のメモリ中毒攻撃は、インジェクトされたコンテンツが直接メモリに格納され、選択的な抽出と書き換えの段階を見渡せると仮定する。 メカニスティック分析は、攻撃が埋め込み空間の異方性を悪用し、注意パターンを変えることを示唆している。
  論文  参考訳（メタデータ） (2026-05-28T14:02:00Z)
• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• Self-Purification Mitigates Backdoors in Multimodal Diffusion Language Models [74.1970982768771]
  確立されたデータポゾンパイプラインは,MDLMにバックドアを埋め込むことに成功した。 拡散自己浄化(Diffusion Self-Purification)と呼ばれるMDLMのバックドア防御フレームワークについて紹介する。
  論文  参考訳（メタデータ） (2026-02-24T15:47:52Z)
• Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
  セルフ進化エージェントはセッション間で内部状態を更新する。 我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。 我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-17T15:28:24Z)
• Dual Latent Memory for Visual Multi-agent System [69.29799381195592]
  Visual Multi-Agent Systems (VMAS)は、エージェント間のコラボレーションを通じて包括的な能力を強化することを約束する。 増量剤は、指数関数的にトークンコストを膨らませながら、しばしば性能を低下させる。 L$2$-VMASは,2つの潜在記憶を用いたエージェント間コラボレーションを実現する新しいモデルに依存しないフレームワークである。
  論文  参考訳（メタデータ） (2026-01-31T02:49:10Z)
• Memory Poisoning Attack and Defense on Memory Based LLM-Agents [3.7127635602605014]
  永続メモリを備えた大規模言語モデルエージェントは、メモリ中毒攻撃に対して脆弱である。 近年の研究では、MINJA (Memory Injection Attack) が95%以上のインジェクション成功率を達成した。 本研究は,記憶障害攻撃と防御の系統的評価を通じてギャップに対処する。
  論文  参考訳（メタデータ） (2026-01-09T03:26:10Z)
• Neural Antidote: Class-Wise Prompt Tuning for Purifying Backdoors in CLIP [51.04452017089568]
  CBPT(Class-wise Backdoor Prompt Tuning)は、テキストプロンプトでCLIPを間接的に浄化する効率的な防御機構である。 CBPTは、モデルユーティリティを保持しながら、バックドアの脅威を著しく軽減する。
  論文  参考訳（メタデータ） (2025-02-26T16:25:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。