論文の概要: MemPoison: Uncovering Persistent Memory Threats and Structural Blind Spots in LLM Agents
- arxiv url: http://arxiv.org/abs/2607.14651v1
- Date: Thu, 16 Jul 2026 07:19:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:33.023175
- Title: MemPoison: Uncovering Persistent Memory Threats and Structural Blind Spots in LLM Agents
- Title（参考訳）: MemPoison: LLMエージェントにおける永続的メモリ脅威と構造的ブラインドスポットの発見
- Abstract要約: 筆者らは4つの攻撃タイプにまたがる1227件のケースを網羅した総合的なベンチマークと分析フレームワークを提案する。
本稿では, (L1) 直接的単一記録的腐敗, (L2) 構成的多記録的腐敗, (L3) 文脈追従型休眠的腐敗という3階層の分類法を紹介する。
整合性チェックなどのベースライン書き込み時防御は直接L1攻撃を著しく抑制するが、L2およびL3攻撃を確実に抑制することができない。
- 参考スコア（独自算出の注目度）: 20.418842618724607
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Persistent external memory enhances agent continuity but introduces persistent security vulnerabilities: adversarial content can be injected via standard interaction channels, retained across turns, and later distort downstream behavior. To address this challenge, we propose MemPoison, a comprehensive benchmark and analysis framework featuring 1227 hand-validated cases across four attack types, three injection channels, and three representative memory substrates, evaluated on seven open-weight and three closed-weight model families. We introduce a three-tier taxonomy: (L1) direct single-record corruption, (L2) compositional multi-record corruption and (L3) context-triggered dormant corruption. Our evaluations reveal a distinct defense frontier: while baseline write-time defenses, such as consistency checks, substantially suppress direct L1 attacks, they fail to reliably suppress L2 and L3 attacks. Through mechanistic influence decomposition (MID), we demonstrate structural blind spots in write-time defenses, which admit seemingly benign records that later become harmful through joint retrieval composition or trigger-conditioned activation. Our findings advocate for shifting from static filtering to adaptive, context-sensitive memory defense strategies.
- Abstract（参考訳）: 永続的な外部メモリはエージェントの連続性を高めるが、永続的なセキュリティ上の脆弱性をもたらす。
この課題に対処するために,4つの攻撃タイプ,3つのインジェクションチャネル,3つの代表記憶基板にまたがる1227のハンドバリデーションケースと,7つのオープンウェイトおよび3つのクローズドウェイトモデルファミリを対象とする,包括的なベンチマークおよび分析フレームワークであるMemPoisonを提案する。
本稿では, (L1) 直接的単一記録的腐敗, (L2) 構成的多記録的腐敗, (L3) 文脈追従型休眠的腐敗という3階層の分類法を紹介する。
整合性チェックなどのベースライン書き込み時防御は直接L1攻撃を著しく抑制するが、L2およびL3攻撃を確実に抑制することができない。
メカニスティック・インフルエンス・コンフィグレーション (MID) を通じて, 書き込み時防衛における構造的盲点を実証し, 共同検索やトリガー条件付アクティベーションによって有害になると思われる異常な記録を認めた。
本研究は,静的フィルタリングから適応的,文脈に敏感なメモリ防衛戦略への移行を提唱する。
関連論文リスト
- InceptionRAG: Stealthy Poisoning Attack Against Retrieval-Augmented Generation [23.65420330011369]
InceptionRAGは、標準的な攻撃パラダイムを覆すステルス攻撃機構である。
インセプションRAGは厳格な敵対的制約の下でも80%以上の攻撃成功率を達成する。
LLMの強い推論能力は、推論に基づく中毒攻撃に対する脆弱性を増大させる。
論文 参考訳（メタデータ） (2026-09-15T08:22:10Z) - MemVenom: Triggered Poisoning of Multimodal Memories in Web Agents [74.64265314956441]
そこで我々は,グラフ構造化外部メモリにテキスト画像のコーディネートを施したブラックボックス攻撃フレームワークを提案する。
MemVenomは、GPT-5ファミリーのWebエージェントで最大99.15%に達する、良質なパフォーマンスに最小限の影響を伴って、強力なエンドツーエンド攻撃を成功させる。
論文 参考訳（メタデータ） (2026-06-09T11:53:25Z) - Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction [3.809725488301918]
大規模言語モデル(LLM)エージェントは、永続的で自律的なタスク実行をサポートするために、長期記憶を活用する傾向にある。
既存のメモリ中毒攻撃は、インジェクトされたコンテンツが直接メモリに格納され、選択的な抽出と書き換えの段階を見渡せると仮定する。
メカニスティック分析は、攻撃が埋め込み空間の異方性を悪用し、注意パターンを変えることを示唆している。
論文 参考訳（メタデータ） (2026-05-28T14:02:00Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳（メタデータ） (2026-04-30T13:44:01Z) - TraceGuard: Process-Guided Firewall against Reasoning Backdoors in Large Language Models [19.148124494194317]
我々は,小規模モデルを堅牢な推論ファイアウォールに変換するプロセス誘導型セキュリティフレームワークであるTraceGuardを提案する。
提案手法は,推理トレースを信頼できないペイロードとして扱い,詳細な防衛戦略を確立する。
グレーボックス設定における適応的敵に対する堅牢性を実証し、TraceGuardを実用的で低レイテンシなセキュリティプリミティブとして確立する。
論文 参考訳（メタデータ） (2026-03-02T22:19:13Z) - Memory Poisoning Attack and Defense on Memory Based LLM-Agents [3.7127635602605014]
永続メモリを備えた大規模言語モデルエージェントは、メモリ中毒攻撃に対して脆弱である。
近年の研究では、MINJA (Memory Injection Attack) が95%以上のインジェクション成功率を達成した。
本研究は,記憶障害攻撃と防御の系統的評価を通じてギャップに対処する。
論文 参考訳（メタデータ） (2026-01-09T03:26:10Z) - HealSplit: Towards Self-Healing through Adversarial Distillation in Split Federated Learning [2.8115115690134744]
Split Federated Learning (SFL)は、プライバシ保護のための分散学習のための新興パラダイムである。
ローカルな特徴、ラベル、スマッシュデータ、モデルウェイトをターゲットとした高度なデータ中毒攻撃には、依然として脆弱である。
本稿では,SFL用に開発された最初の統一防衛フレームワークであるHealSplitについて述べる。
論文 参考訳（メタデータ） (2025-11-14T12:42:11Z) - Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。
私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。
Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
論文 参考訳（メタデータ） (2025-06-04T01:23:35Z) - Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。
自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。
LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文 参考訳（メタデータ） (2025-05-23T08:13:59Z) - On Trace of PGD-Like Adversarial Attacks [77.75152218980605]
敵対的攻撃は、ディープラーニングアプリケーションに対する安全性とセキュリティ上の懸念を引き起こす。
モデルの勾配一貫性を反映した適応応答特性(ARC)特性を構築する。
私たちの方法は直感的で、軽量で、非侵襲的で、データ不要です。
論文 参考訳（メタデータ） (2022-05-19T14:26:50Z) - A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。
本稿では,入力空間における自己教師型対向学習機構を提案する。
これは、反逆攻撃に対する強力な堅牢性を提供する。
論文 参考訳（メタデータ） (2020-06-08T20:42:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。