論文の概要: Memory Provenance Laundering in LLM Agents: A Non-Amplification Firewall for Persistent Memory

• arxiv url: http://arxiv.org/abs/2607.29167v1
• Date: Fri, 31 Jul 2026 08:46:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 14:29:40.655088
• Title: Memory Provenance Laundering in LLM Agents: A Non-Amplification Firewall for Persistent Memory
• Title（参考訳）: LLMエージェントにおけるメモリ不足:永続記憶のための非増幅ファイアウォール
• Abstract要約: Provenance-Preserving Memory Fire Wall (PPMF) は、プラットフォームの保守された前兆を保存し、アクション関連メモリの権威にアクションリスクを合わせることでツールコールを認可する軽量メモリである。 プラットフォームに保持された証明、確認、リスクラベルはそのままであり、評価されていないハイリスクアクションはPPMFゲートを通過しない。
• 参考スコア（独自算出の注目度）: 2.98985980237058
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Long-term memory lets large language model(LLM) agents reuse prior preferences and work flows, but it also turns untrusted observations into persistent action context. We identify memory provenance laundering: during LLM-based memory consolidation, an external observation may be rewritten as apparent user history or workflow support, preserving an action trigger while erasing the low-trust source that should limit its authority. Existing prompt filters, content sanitizers, and tool guards do not enforce source-authority non-amplification after lossy memory consolidation. We formalize this boundary and instantiate it as Provenance-Preserving Memory Fire wall (PPMF), a lightweight memory middleware that preserves platform-maintained provenance and authorizes tool calls by matching action risk to the authority of action-relevant memories. In our schema-grounded evaluation with fixed risk policies, vulnerable consolidated memories reach up to 1.000 attack success rate(ASR); with intact platform-maintained provenance, confirmation, and risk labels, no evaluated unauthorized high-risk action passes the PPMF gate while confirmed benign actions and targeted low-risk memory use remain executable.
• Abstract（参考訳）: 長期記憶により、大きな言語モデル(LLM)エージェントは、事前の嗜好や作業フローを再利用できるが、信頼できない観察を永続的なアクションコンテキストに変換する。 LLMベースのメモリ統合の間、外部観察は明らかなユーザ履歴またはワークフローサポートとして書き直され、その権限を制限する低信頼のソースを消去しながらアクショントリガを保存することができる。 既存のプロンプトフィルタ、コンテンツサニタイザ、ツールガードは、失われたメモリ統合後のソース権限の非増幅を強制しない。 我々は、この境界を形式化し、それをPPMF(Provenance-Preserving Memory Fire Wall)としてインスタンス化する。 固定リスクポリシを用いたスキーマグラウンド評価では、脆弱な統合メモリは最大1.000の攻撃成功率(ASR)に達するが、プラットフォーム維持の証明、確認、リスクラベルはそのままであり、評価されていないハイリスクアクションはPPMFゲートを通過せず、良質な動作を確認し、ターゲットの低リスクメモリの使用は引き続き実行可能である。

関連論文リスト

• When Malicious Instructions Persist: Persistent Memory Poisoning Attack on Harness-Based Agents [17.320527773100732]
  我々は、ハーネスベースのエージェントに対する永続的メモリポジショニング攻撃であるPMPAを提案する。 PMPAは悪質な命令を良質な外部ソースに埋め込み、被害者のエージェントに永続的なメモリに書き込むよう誘導する。 すべての設定において、PMPAは平均注入成功率(ISR)とクロスセッション攻撃成功率(C-ASR)を、OpenClawでは73.7%/55.5%、Claude Codeでは66.9%/81.7%と達成している。
  論文  参考訳（メタデータ） (2026-09-12T11:27:53Z)
• When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents [55.87577638514179]
  我々は、リモートのブラックボックスが1つのメールペイロードを送信し、エージェントに有毒なメモリを誘導しなければならない、ステルスメモリインジェクションとして脅威を調査する。 我々は,ワンショットペイロード生成フレームワークであるMemGhostを提案する。 56のテストケースで、MemGhostはGPT-5.4でOpenClawで87.5%、Sonnet 4.6でClaude Code SDKで71.4%を達成している。
  論文  参考訳（メタデータ） (2026-07-06T15:08:58Z)
• MemVenom: Triggered Poisoning of Multimodal Memories in Web Agents [74.64265314956441]
  そこで我々は,グラフ構造化外部メモリにテキスト画像のコーディネートを施したブラックボックス攻撃フレームワークを提案する。 MemVenomは、GPT-5ファミリーのWebエージェントで最大99.15%に達する、良質なパフォーマンスに最小限の影響を伴って、強力なエンドツーエンド攻撃を成功させる。
  論文  参考訳（メタデータ） (2026-06-09T11:53:25Z)
• Beyond Similarity: Trustworthy Memory Search for Personal AI Agents [25.265839311088516]
  個人AIエージェントにおける信頼境界としてのメモリ探索について検討する。 MemGateは、信頼性の高いメモリ検索のための軽量でデプロイ可能なメモリプラグインである。
  論文  参考訳（メタデータ） (2026-06-04T11:54:29Z)
• Memory is Reconstructed, Not Retrieved: Graph Memory for LLM Agents [51.30250860677378]
  本稿では,連想記憶グラフとアクティブな再構成機構を組み合わせたフレームワークであるMRAgentを提案する。 Cue-Tag-Contentグラフ上で実行することで,メモリアクセスに直接推論を統合する。 LoCoMoベンチマークとLongMemEvalベンチマークの実験は、強いベースラインよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2026-06-04T11:29:46Z)
• Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction [3.809725488301918]
  大規模言語モデル(LLM)エージェントは、永続的で自律的なタスク実行をサポートするために、長期記憶を活用する傾向にある。 既存のメモリ中毒攻撃は、インジェクトされたコンテンツが直接メモリに格納され、選択的な抽出と書き換えの段階を見渡せると仮定する。 メカニスティック分析は、攻撃が埋め込み空間の異方性を悪用し、注意パターンを変えることを示唆している。
  論文  参考訳（メタデータ） (2026-05-28T14:02:00Z)
• Remembering More, Risking More: Longitudinal Safety Risks in Memory-Equipped LLM Agents [18.83666486835137]
  デプロイでは、単一のエージェントが長い水平線上で多くの独立したタスクを処理し、初期のタスクの間に蓄積されたメモリは、後続の無関係なタスクの振る舞いに影響を与える可能性がある。 本稿では,リードオンリーのメモリスナップショットに対して,プレフィックス長の異なる固定プローブセットを評価するトリガプローブプロトコルを提案する。 このプロトコルは、レコード、メモ、フォーム、Eメール対応、および8つのメモリアーキテクチャにまたがる3つのデプロイメントシナリオに適用する。
  論文  参考訳（メタデータ） (2026-05-18T04:06:34Z)
• Learning When to Remember: Risk-Sensitive Contextual Bandits for Abstention-Aware Memory Retrieval in LLM-Based Coding Agents [0.0]
  コーディングエージェントは、以前の経験、トレースの修復、リポジトリローカルな運用知識を再利用するために、ますます外部メモリに依存している。 本稿では、純トップk検索問題ではなく、選択的かつリスクに敏感な制御問題として、イシューメモリの使用を再検討する。 リスクに敏感なコンテキスト帯域メモリコントローラであるRSCB-MCを導入し,メモリ使用の有無を判断し,トップレゾリューションを注入し,複数の候補を要約し,高精度または高速リコール検索,停止,あるいはフィードバックを求める。
  論文  参考訳（メタデータ） (2026-04-30T00:32:53Z)
• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
  セルフ進化エージェントはセッション間で内部状態を更新する。 我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。 我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-17T15:28:24Z)
• Memory Injection Attacks on LLM Agents via Query-Only Interaction [49.14715983268449]
  我々は,攻撃者がエージェントのメモリバンクを直接変更できると仮定することなく,新たなメモリインジェクション攻撃(MINJA)を提案する。 攻撃者は、クエリと出力観察を通してエージェントとのみ対話することで、悪意のあるレコードをメモリバンクに注入する。 MINJAは、任意のユーザがエージェントメモリに影響を与え、リスクを強調します。
  論文  参考訳（メタデータ） (2025-03-05T17:53:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。