論文の概要: MemLineage: Lineage-Guided Enforcement for LLM Agent Memory

• arxiv url: http://arxiv.org/abs/2605.14421v1
• Date: Thu, 14 May 2026 06:07:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.655431
• Title: MemLineage: Lineage-Guided Enforcement for LLM Agent Memory
• Title（参考訳）: MemLineage: LLMエージェントメモリのリニアガイドによる強化
• Authors: Ciyan Ouyang, Rui Hou,
• Abstract要約: 我々は,LLMエージェントメモリの防衛機能であるMemLineageを紹介した。 最近のコンカレントな作業は、信頼できないコンテンツを永続的なエージェントの状態に書き込むことができ、後続のセッションを命令として再入力できることを示している。 MemLineageは、これをフィルタリング問題ではなく、チェーンオブカストディ問題として扱う。
• 参考スコア（独自算出の注目度）: 3.058164432275431
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce MemLineage, a defense for LLM agent memory that attaches both cryptographic provenance and LLM-mediated derivation lineage to every entry. Recent and concurrent work shows that untrusted content can be written into persistent agent state and re-enter later sessions as an instruction; the remaining systems question is how to preserve useful memory recall while preventing such state from justifying sensitive actions. MemLineage treats this as a chain-of-custody problem rather than a filtering problem. It is a six-module design around an RFC-6962 Merkle log over per-principal Ed25519-signed entries: a weighted derivation DAG records which retrieved entries influenced each new memory, and a max-of-strong-edges propagation rule makes Untrusted-Path Persistence hold for any chain whose attribution edges remain above threshold. The sensitive-action gate then refuses dispatches whose active justification descends from an external ancestor, while still allowing benign recall. We evaluate three defense cells against three memory-poisoning workloads on a deterministic mechanism-isolation harness; MemLineage is the only configuration in that harness that drives all three columns to zero ASR, while sub-millisecond per-operation overhead keeps it well below the noise floor of any LLM call. A Codex-backed AgentDojo bridge further separates strong-model behavior from defense-layer behavior: under an intentionally vulnerable tool-output profile, no-defense and signature-only baselines fail on all six banking pairs, while all MemLineage rows reduce strict AgentDojo ASR to zero. The core deterministic artifacts are byte-equal CI-verified; hosted-model AgentDojo and live-model sweeps are recorded as auditable logs rather than byte-pinned artifacts.
• Abstract（参考訳）: 我々は,LLMエージェントメモリの防衛機能であるMemLineageを紹介した。 最近のコンカレントワークでは、信頼できないコンテンツを永続的なエージェント状態に書き込むことができ、後続のセッションを命令として再入力することができる。 MemLineageは、これをフィルタリング問題ではなく、チェーンオブカストディ問題として扱う。 RFC-6962 の Merkle ログを基本とする Ed25519 の符号付きエントリに関する 6 つのモジュール設計である: 重み付き導出DAG レコードは、各新しいメモリに影響を与えるエントリを検索し、最大値のエッジの伝搬ルールは、属性エッジがしきい値を超えている任意のチェーンに対して、信頼できないパーシステンスを保持させる。 敏感な行動ゲートは、アクティブな正当化が外部の祖先から引き継がれているディスパッチを拒否するが、それでも良心的なリコールを許す。 MemLineageは、すべての3列をASR0に駆動するハーネスにおいて唯一の構成であり、サブミリ秒毎の動作オーバーヘッドは、いかなるLLMコールのノイズフロアよりもはるかに低い。 Codexが支援するAgentDojoブリッジは、強力なモデル動作と防衛層動作をさらに分離する: 意図的に脆弱なツールアウトプットプロファイルの下では、no-defenseとシグネチャのみのベースラインが6つのバンキングペアすべてでフェールし、すべてのMemLineage行が厳格なAgentDojo ASRをゼロに削減する。 中心となる決定論的アーティファクトは、バイト単位のCI検証、ホストモデルAgentDojo、ライブモデルスイープは、バイトピン化されたアーティファクトではなく監査可能なログとして記録される。

関連論文リスト

• Autonomous LLM Agent Worms: Cross-Platform Propagation, Automated Discovery and Temporal Re-Entry Defense [10.105892979517622]
  ファイル支援型マルチエージェントLPMエコシステムにおける永続的ワーム伝播の自動解析のための最初の体系的フレームワークを提案する。 プラットフォーム固有の適応、エージェント間特権、データ抽出を伴わない、ゼロクリックの自律伝搬、3ホップのクロスプラットフォームトランスミッションを実証する。
  論文  参考訳（メタデータ） (2026-05-04T16:49:29Z)
• Bit-Flip Vulnerability of Shared KV-Cache Blocks in LLM Serving Systems [0.17188280334580197]
  vLLMのPrefix Cachingでは、共有KV-cacheブロックは、整合性を保護することなく単一の物理コピーとして存在する。 最悪の場合の重大さを特徴付け、サイレントな発散、選択的伝播、持続的な増幅の3つの特性を識別する。 永続的整合性に基づく対策は、スケジューリング時に単一ビットの破損を検出し、ブロックのキャッシュ寿命に依存しない1つのバッチに累積的なダメージをバウンドする。
  論文  参考訳（メタデータ） (2026-04-19T04:31:12Z)
• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• MemMA: Coordinating the Memory Cycle through Multi-Agent Reasoning and In-Situ Self-Evolution [52.29303869050117]
  メモリ拡張LDMエージェントは、長期の相互作用をサポートするために外部メモリバンクを保持する。 MemMAはプラグアンドプレイのマルチエージェントフレームワークで、前方と後方の両方の経路に沿ってメモリサイクルを調整する。
  論文  参考訳（メタデータ） (2026-03-19T10:15:59Z)
• AttriGuard: Defeating Indirect Prompt Injection in LLM Agents via Causal Attribution of Tool Invocations [38.49666480491258]
  LLMエージェントは間接プロンプト注入(IPI)に対して非常に脆弱である 本稿では,特定のツールコールが生成される理由を問うことでエージェントをセキュアにする,アクションレベルの因果属性という新しいパラダイムを提案する。 我々はこのパラダイムを、並列対実テストに基づくランタイムディフェンスであるAttriGuardでインスタンス化する。
  論文  参考訳（メタデータ） (2026-03-11T13:23:46Z)
• AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management [47.49917373646469]
  既存の防御は肥大した記憶を与えられたまま扱い、回復力を維持することに集中する。 我々は、明示的なメモリ管理を通じて間接的なインジェクションを防御するフレームワークであるAgentSysを紹介する。
  論文  参考訳（メタデータ） (2026-02-07T06:28:51Z)
• AlignTree: Efficient Defense Against LLM Jailbreak Attacks [48.805151796878505]
  大規模言語モデル(LLM)は、安全ガイドラインをバイパスし有害なコンテンツを生成する敵攻撃に対して脆弱である。 最小限の計算オーバーヘッドを維持しながらモデルアライメントを向上させるAlignTreeディフェンスを導入する。
  論文  参考訳（メタデータ） (2025-11-15T13:42:22Z)
• A-MemGuard: A Proactive Defense Framework for LLM-Based Agent Memory [31.673865459672285]
  大規模言語モデル(LLM)エージェントは、過去のインタラクションから学習するためにメモリを使用する。 敵は、エージェントのメモリに一見無害なレコードを注入して、その将来の振る舞いを操作できる。 A-MemGuard は LLM エージェントメモリのための最初のプロアクティブな防御フレームワークである。
  論文  参考訳（メタデータ） (2025-09-29T16:04:15Z)
• Memory-R1: Enhancing Large Language Model Agents to Manage and Utilize Memories via Reinforcement Learning [89.55738101744657]
  大規模言語モデル(LLM)は、幅広いNLPタスクで印象的な機能を示しているが、基本的にはステートレスである。 本稿では,LLMに外部メモリを積極的に管理・活用する機能を備えた強化学習フレームワークであるMemory-R1を提案する。
  論文  参考訳（メタデータ） (2025-08-27T12:26:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。