論文の概要: Agent Memory Is a Surface for Endogenous Authorization Laundering

• arxiv url: http://arxiv.org/abs/2609.01836v1
• Date: Tue, 01 Sep 2026 20:12:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:17.981553
• Title: Agent Memory Is a Surface for Endogenous Authorization Laundering
• Title（参考訳）: エージェントメモリは内因性認証洗浄のためのサーフェス
• Abstract要約: 長期にわたるLLMエージェントは、相互作用間の状態を運ぶために永続メモリに依存している。 記憶が進化する認可状態を示すと、エージェント自身の記録は、基礎となる歴史が許されていない権限を与えることができる。 我々は、この障害を内在的な認可洗浄と呼び、急激な許可がメモリに書き込まれ、無許可の行動につながる。
• 参考スコア（独自算出の注目度）: 0.764671395172401
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Long-running LLM agents rely on persistent memory to carry state across interactions, including permissions, restrictions, and revocations. When memory misrepresents this evolving authorization state, the agent's own records can grant authority that the underlying history never permitted, resulting in misaligned behavior without any external attacks. We term this failure endogenous authorization laundering, where spurious permissions written into memory lead to unauthorized actions as their provenance is washed away. We then introduce EAL-Bench, which measures how accurately persistent memory preserves evolving authorization state and whether errors propagate to downstream unauthorized actions. We evaluate five LLMs as memory writers and two as executors across procurement, cybersecurity, and finance. We find that under incremental memory updates, writers create false authority for up to 50.2% of unauthorized requests; once false authority is present, executors act on it in 98.6% of trials. Two safeguards, requiring stored permissions to be backed by valid source events, and tracking permission changes through bounded event sourcing, substantially reduce laundering, but both also reject more legitimate actions, exposing a safety-utility tradeoff. Persistent memory is therefore not merely a performance component, but a part of an LLM agent's effective authorization policy.
• Abstract（参考訳）: 長期にわたるLLMエージェントは、パーミッション、制限、取り消しを含む、インタラクションをまたがる状態を運ぶために永続的なメモリに依存している。 メモリがこの進化する認可状態を誤って表現した場合、エージェント自身のレコードは、基礎となる履歴が決して許可されない権限を与え、結果として外部からの攻撃なしに不整合な振る舞いを引き起こす。 私たちは、この失敗を内在的な認可洗浄と呼びます。そこでは、メモリに書き込まれた急激な許可が、その証明が洗い流されるため、無許可のアクションにつながります。 次に、EAL-Benchを導入し、永続メモリが進行する認可状態を正確に保持し、下流の不正な動作にエラーが伝播するかどうかを計測する。 我々は5つのLCMをメモリライターとして、2つを調達、サイバーセキュリティ、ファイナンスにまたがって実行者として評価する。 インクリメンタルメモリの更新により、作家は最大50.2%の未承認の要求に対して偽の権限を創出し、一度偽の権限が存在すると、執行者は98.6%のトライアルでその権限を行使する。 2つのセーフガード、有効なソースイベントによるストアドパーミッションのバックアップ、バウンドイベントソーシングによるパーミッション変更の追跡、ランダリングの大幅な削減、そしてどちらもより合法なアクションを拒否し、安全ユーティリティのトレードオフを露呈する。 したがって、永続メモリは単なるパフォーマンスコンポーネントではなく、LLMエージェントの効果的な認証ポリシーの一部である。

関連論文リスト

• Hindsight Memory-PRM: Supervising Memory Management with Auditable Hindsight Credit [48.811961095386]
  Hindsight Memory-PRMはこの監査パスを2回利用します。 オフラインで操作条件付きメモリユーティリティの批判をトレーニングする。 オンラインでは、検索、引用、および1つの制御された削除と再回答が、介入校正されたエントリーレベルのプレゼンスクレジットを確定する。
  論文  参考訳（メタデータ） (2026-08-30T06:53:13Z)
• When Memory Becomes Authority: Benchmarking Authority Collapse at the Memory Consolidation Boundary [12.82709779460352]
  LLMエージェントは不均一な相互作用履歴を再利用可能な事実、嗜好、観察、規則に集約することでタスクに適応する。 我々は、権限の崩壊を特定し、統合は、その認可された使用を規制するソース制約を消去しながら、クレームを保護します。 メモリ駆動型適応は、学習したものだけでなく、再利用される可能性のある権威も保持しなければならないことを示す。
  論文  参考訳（メタデータ） (2026-08-03T04:15:40Z)
• Memory Provenance Laundering in LLM Agents: A Non-Amplification Firewall for Persistent Memory [2.98985980237058]
  Provenance-Preserving Memory Fire Wall (PPMF) は、プラットフォームの保守された前兆を保存し、アクション関連メモリの権威にアクションリスクを合わせることでツールコールを認可する軽量メモリである。 プラットフォームに保持された証明、確認、リスクラベルはそのままであり、評価されていないハイリスクアクションはPPMFゲートを通過しない。
  論文  参考訳（メタデータ） (2026-07-31T08:46:27Z)
• When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents [55.87577638514179]
  我々は、リモートのブラックボックスが1つのメールペイロードを送信し、エージェントに有毒なメモリを誘導しなければならない、ステルスメモリインジェクションとして脅威を調査する。 我々は,ワンショットペイロード生成フレームワークであるMemGhostを提案する。 56のテストケースで、MemGhostはGPT-5.4でOpenClawで87.5%、Sonnet 4.6でClaude Code SDKで71.4%を達成している。
  論文  参考訳（メタデータ） (2026-07-06T15:08:58Z)
• MemAudit: Post-hoc Auditing of Poisoned Agent Memory via Causal Attribution and Structural Anomaly Detection [15.403262505444454]
  本稿では,大規模言語モデルエージェントのための時間後因果記憶監査フレームワークを提案する。 MemAuditは、現実的なポストホック監査シナリオ下での攻撃成功率を大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-22T15:03:13Z)
• Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
  我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。 LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。 emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
  論文  参考訳（メタデータ） (2026-05-16T12:53:31Z)
• Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
  セルフ進化エージェントはセッション間で内部状態を更新する。 我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。 我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-17T15:28:24Z)
• AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management [47.49917373646469]
  既存の防御は肥大した記憶を与えられたまま扱い、回復力を維持することに集中する。 我々は、明示的なメモリ管理を通じて間接的なインジェクションを防御するフレームワークであるAgentSysを紹介する。
  論文  参考訳（メタデータ） (2026-02-07T06:28:51Z)
• Memory Injection Attacks on LLM Agents via Query-Only Interaction [49.14715983268449]
  我々は,攻撃者がエージェントのメモリバンクを直接変更できると仮定することなく,新たなメモリインジェクション攻撃(MINJA)を提案する。 攻撃者は、クエリと出力観察を通してエージェントとのみ対話することで、悪意のあるレコードをメモリバンクに注入する。 MINJAは、任意のユーザがエージェントメモリに影響を与え、リスクを強調します。
  論文  参考訳（メタデータ） (2025-03-05T17:53:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。