論文の概要: BMA: Backchain Memory Attacks Create Unauthorized Control Paths in LLM Agents

• arxiv url: http://arxiv.org/abs/2609.32186v1
• Date: Sat, 26 Sep 2026 03:22:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 19:05:51.738569
• Title: BMA: Backchain Memory Attacks Create Unauthorized Control Paths in LLM Agents
• Title（参考訳）: BMA: LLMエージェントで不正な制御パスを生成するバックチェーンメモリ攻撃
• Abstract要約: 永続メモリにより、LLMエージェントは以前の経験を再利用できるが、新しいセキュリティ境界を作ることができる。 我々は、編集された低信頼の証拠を永続記憶に統合し、クリーンなタスクで検索し、保護されたアクションを駆動する無許可の制御経路を公開する。 Backchain Memory Attack (BMA)は、グレーボックスのLCM駆動の逆計画攻撃で、ターゲットアクションからメモリへ逆行してトリガし、それを形成するエビデンスを編集する。
• 参考スコア（独自算出の注目度）: 16.949753329459796
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Persistent memory enables LLM agents to reuse prior experience, but creates a new security boundary: what an agent may remember is not what it should act on. We expose an unauthorized control path where edited low-trust evidence is consolidated into persistent memory, retrieved on a clean task, and used to drive a protected action. Crucially, the adversary neither writes memory nor alters the task. We introduce Backchain Memory Attack (BMA), a grey-box, LLM-driven inverse-planning attack that reasons backward from the target action to the memory that would trigger it, then to the evidence edit that would form it. BMA has two phases: preparation uses resettable trials to localize the first failed link and build experience; execution uses the frozen experience to rank and commit candidate edits without feedback. We introduce the Pathway-Certified Attack Success Rate (Path-CASR) to separate memory-mediated from coincidental hits: registered memory must form, be retrieved, drive the target behavior, and pass matched-intervention checks. Across four substrates and three decision backbones, BMA achieves 18.8% Macro Path-CASR, compared with 13.4% for the strongest access-matched baseline. Of BMA's behavioral hits, 60.3% pass all registered pathway and intervention checks versus 36.7% for the baseline. Frozen BMA edits retain 78.0% of their certified effect on average across four held-out consolidation policies. Representative memory-side controls leave 11.0% Path-CASR, whereas provenance-bound authorization reduces it to 2.0% while preserving 92.1% legitimate-action success.
• Abstract（参考訳）: 永続メモリは、LLMエージェントが以前の経験を再利用することを可能にするが、新しいセキュリティバウンダリを生成する。 我々は、編集された低信頼の証拠を永続記憶に統合し、クリーンなタスクで検索し、保護されたアクションを駆動する無許可の制御経路を公開する。 必然的に、敵はメモリを書き込みもタスクの変更もしない。 Backchain Memory Attack (BMA)は、グレーボックスのLCM駆動の逆計画攻撃で、ターゲットアクションからメモリへ逆戻りしてトリガし、それを形成するエビデンスを編集する。 BMAには2つのフェーズがある: 準備はリセット可能なトライアルを使用して最初の失敗したリンクとビルドエクスペリエンスをローカライズする。 そこで我々はPath-CASR(Pathway-Certified Attack Success Rate)を導入し,同時ヒットからメモリを介する攻撃成功率(Path-CASR:Path-CASR:Path-Certified Attack Success Rate)を分離する。 4つの基質と3つの決定バックボーンにまたがって、BMAは18.8%のマクロパスCASRを達成している。 BMAの行動的ヒットのうち、60.3%が登録パスと介入チェックをすべてパスし、36.7%がベースラインである。 冷凍BMA編集は、4つの保持された統合政策の平均で78.0%の認定効果を維持している。 代表的なメモリサイドコントロールは11.0%のPath-CASRを離脱する一方、プロビデンスバウンドの承認は92.1%の合法的な成功を維持しながら2.0%まで減少する。

関連論文リスト

• COUNTERMEM: World-Model Verified Counter-Factual Memory for Language Agents [40.59788210629839]
  COUNTERMEMは、タスク間で検証済みの反ファクトメモリの構築と使用のための強化学習フレームワークである。 動作が失敗した後、COUNTERMEMは元の状態のコピーまたはリセットからローカル代替品を評価する。 オリジナルと修正されたアクション、チェック結果、再利用条件の改善を格納する。
  論文  参考訳（メタデータ） (2026-09-25T18:12:38Z)
• Hindsight Memory-PRM: Supervising Memory Management with Auditable Hindsight Credit [48.811961095386]
  Hindsight Memory-PRMはこの監査パスを2回利用します。 オフラインで操作条件付きメモリユーティリティの批判をトレーニングする。 オンラインでは、検索、引用、および1つの制御された削除と再回答が、介入校正されたエントリーレベルのプレゼンスクレジットを確定する。
  論文  参考訳（メタデータ） (2026-08-30T06:53:13Z)
• MAPLE-Guard: Memory-Aware Link Enforcement Against Memory-Link Poisoning in Multi-Agent Systems [38.58713997316864]
  MAPLE-Guardはメモリ対応マルチエージェントシステムのためのメモリリンクガードである。 メモリライフサイクルを監視し、書き込み、検索、プロモーション、エージェント間の再利用でゲートを配置する。 その結果,メモリ・アウェア・リンクの実施は,プロンプトレベルとトポロジレベルの防御によって残されたギャップをカバーすることが示唆された。
  論文  参考訳（メタデータ） (2026-08-01T03:55:13Z)
• Voice Memory for Agentic Speech Recognition [66.69623133635868]
  エージェント音声認識のための推論専用スキームであるVoice Memoryを提案する。 同期的に、スコア付き例は、境界編集を通じてそのファイルを更新する。 10のHyPoradiseドメインにオープン修正器、Voice Memory、重み付き単語エラー率8.36%から7.52%の10のドメインがある。
  論文  参考訳（メタデータ） (2026-07-29T02:42:56Z)
• The Compliance Trap: Diagnosing How AI Agents Consume Conflicting Memory [9.041305193333434]
  メモリは、長年にわたるAIエージェントの中核的なコンポーネントになりつつある。これにより、エージェントは、Webブラウザやソフトウェアツール、その他のインタラクティブな環境を操作する際に、過去の経験を再利用することができる。 既存の作業は、主にメモリを供給問題として扱い、どのエクスペリエンスを書くか、どのように保存するか、どのエントリを次のタスクに取得するかを尋ねる。 しかし、モデルが取得したメモリをどのように消費するかについては、まだ明確な説明がありません。
  論文  参考訳（メタデータ） (2026-07-12T07:05:31Z)
• MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
  我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。 我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。 私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
  論文  参考訳（メタデータ） (2026-06-23T13:52:46Z)
• RAMPART: Registry-based Agentic Memory with Priority-Aware Runtime Transformation [0.0]
  RAMPARTはコンパイル時のメモリモデルであり、LLMベースのエージェントのための純粋なRAMブロックレジストリである。 5つの構成可能なプリミティブが名前付きアドレス可能なブロックに作用する。 Qwen3-8B Q4で制御されたプローブは、コンパイル時の配置とブロックとタスククエリの構造的関係がタスクの成功に影響を与えることを示している。
  論文  参考訳（メタデータ） (2026-06-03T09:01:46Z)
• ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models [60.14219417402433]
  LLMエージェントの既存のメモリベンチマークは、事実の明示的なリコールを評価するが、意識的な検索なしに、経験が自動的な振る舞いになる暗黙の記憶を見落としている。 IndicitMemBenchは、非宣言的メモリの標準的な認知科学のアカウントから引き出された3つの構造を通して暗黙的メモリを評価する最初の体系的なベンチマークである。 当社の300イテムスイートでは,初動採点を備えたLearning/Priming-Interfere-Testプロトコルを統一しています。
  論文  参考訳（メタデータ） (2026-04-09T10:26:32Z)
• MemMA: Coordinating the Memory Cycle through Multi-Agent Reasoning and In-Situ Self-Evolution [52.29303869050117]
  メモリ拡張LDMエージェントは、長期の相互作用をサポートするために外部メモリバンクを保持する。 MemMAはプラグアンドプレイのマルチエージェントフレームワークで、前方と後方の両方の経路に沿ってメモリサイクルを調整する。
  論文  参考訳（メタデータ） (2026-03-19T10:15:59Z)
• A-MemGuard: A Proactive Defense Framework for LLM-Based Agent Memory [31.673865459672285]
  大規模言語モデル(LLM)エージェントは、過去のインタラクションから学習するためにメモリを使用する。 敵は、エージェントのメモリに一見無害なレコードを注入して、その将来の振る舞いを操作できる。 A-MemGuard は LLM エージェントメモリのための最初のプロアクティブな防御フレームワークである。
  論文  参考訳（メタデータ） (2025-09-29T16:04:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。