論文の概要: Transferable End-to-End Optimization for Indirect Long-Term Memory Poisoning in LLM Agents

• arxiv url: http://arxiv.org/abs/2609.00523v1
• Date: Tue, 01 Sep 2026 00:41:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:36.17584
• Title: Transferable End-to-End Optimization for Indirect Long-Term Memory Poisoning in LLM Agents
• Title（参考訳）: LLMエージェントにおける間接的長期記憶ポジショニングのための転送可能エンド・ツー・エンド最適化
• Authors: Chuanchao Zang, Jianing Wang, Wenyu Chen, Xiangtao Meng, Li Wang, Xinyu Gao, Zheng Li, Shanqing Guo,
• Abstract要約: 長期記憶は、信頼できない外部コンテンツをLLMエージェントの将来的な決定に対する永続的な影響に変換することができる。 我々は、ローカルシャドウシステムからきめ細かいステージフィードバックを収集し、エンド・ツー・エンドの成功のボトルネックとなるステージを特定し、最適化するtextscPipePoisonを提案する。
• 参考スコア（独自算出の注目度）: 21.944459747448974
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Long-term memory can turn untrusted external content into persistent influence over an LLM agent's future decisions, creating the threat of indirect memory poisoning. A successful attack must survive a multi-stage pipeline comprising memory writing, retrieval, and utilization. Existing attacks largely rely on intra-stage optimization, optimizing individual stages in isolation while overlooking inter-stage coupling. Specifically, these stages impose different requirements on the same poisoning content, and each stage operates on the transformed output of its predecessor. Consequently, optimizing one stage may undermine the effectiveness of other stages, while upstream transformations may erase improvements intended for downstream stages. Indirect memory poisoning should therefore be viewed as an end-to-end optimization problem. Based on this insight, we present \textsc{PipePoison}, which collects fine-grained stage feedback from local shadow systems, uses chain-structured losses to identify and optimize the stage bottlenecking end-to-end success, and applies stability-calibrated stage and configuration weights to improve transferability. Across three agent frameworks and four memory mechanisms, \textsc{PipePoison} improves attack utilization rate by 19.1 percentage points. Even on fully unseen victim configurations, it outperforms the strongest baseline by 16 percentage points and remains effective under eight representative defenses.
• Abstract（参考訳）: 長期記憶は、信頼できない外部コンテンツをLLMエージェントの将来的な決定に対する永続的な影響に変換し、間接記憶中毒の脅威を生み出す。 成功した攻撃は、メモリ書き込み、検索、利用を含む多段階パイプラインを生き残る必要がある。 既存の攻撃は段内最適化に大きく依存し、段間カップリングを見下ろしながら個別ステージを最適化する。 具体的には、これらの段階は同じ毒分に対して異なる要求を課し、各段階は前者の変換された出力で作用する。 その結果、一方のステージの最適化は他のステージの有効性を損なう可能性があり、一方上流の変換は下流のステージを意図した改善を消去する可能性がある。 したがって、間接的なメモリ中毒はエンドツーエンドの最適化問題と見なされるべきである。 この知見に基づき、局所影システムからきめ細かなステージフィードバックを収集し、チェーン構造的損失を利用して、エンドツーエンドの成功をボトルネックとするステージを特定し、最適化し、安定性を調整したステージと構成の重みを適用し、転送性を向上させる。 3つのエージェントフレームワークと4つのメモリメカニズムのうち、 \textsc{PipePoison} は攻撃利用率を19.1ポイント改善する。 完全に見えない犠牲者構成であっても、最強のベースラインを16ポイント上回り、8つの代表的防御の下で有効である。

関連論文リスト

• Agentic Recommender System with Hierarchical Belief-State Memory [29.122434746467544]
  本稿では,部分的に観察可能な問題としてレコメンデーションを扱い,ノイズの多い行動観察をユーザ嗜好のコンパクトな推定に抽象化する構造化された信念状態を維持する枠組みを提案する。 イベントメモリは生の信号をバッファし、選好メモリは明示的な強度とエビデンス追跡を備えたきめ細かい変更可能なチャンクを維持し、プロファイルメモリは全ての選好を一貫性のある自然な物語に蒸留する。 実験の結果,MARSはHR@1では26.4%,NDCG@10では10.3%向上し,エージェントスケジューリングの進化によってさらに向上した。
  論文  参考訳（メタデータ） (2026-05-14T05:38:24Z)
• Adversarial Attacks Against MLLMs via Progressive Resolution Processing and Adaptive Feature Alignment [56.085182951399496]
  敵対的摂動は、特定の対象物として良性画像を認識するマルチモーダル大言語モデル(MLLM)を誤解させる可能性がある。 これにより、ブラックボックスMLLMの堅牢性を理解し改善するために、転送ベースのターゲットアタックが重要である。 マルチスケールなグローバルなセマンティックガイダンスとロバストな中間層局所アライメントを統合した,トランスファーベースの攻撃フレームワークであるPRAF-Attackを提案する。
  論文  参考訳（メタデータ） (2026-05-11T02:45:48Z)
• Learning How and What to Memorize: Cognition-Inspired Two-Stage Optimization for Evolving Memory [53.8372503928207]
  大規模言語モデル(LLM)エージェントは、一貫したパーソナライゼーションのために長期のユーザメモリを必要とする。 既存のメモリシステムは、主に静的で手作りの更新ルールに依存している。 MemCoEは認知にインスパイアされた2段階最適化フレームワークで、どのようにメモリを整理し、どの情報を更新すべきかを学ぶ。
  論文  参考訳（メタデータ） (2026-05-01T14:45:20Z)
• AdaExplore: Failure-Driven Adaptation and Diversity-Preserving Search for Efficient Kernel Generation [59.964989458924585]
  AdaExploreは、パフォーマンスクリティカルなカーネルコード生成のための蓄積された実行フィードバックによる自己改善を可能にするエージェントフレームワークである。 適応段階では、エージェントはタスクを合成し、繰り返し発生する障害を有効ルールの再利用可能なメモリに変換する。 探索段階では、候補核を木として整理し、小さな局所精製とより大きな構造再生を交互に行う。
  論文  参考訳（メタデータ） (2026-04-17T18:25:03Z)
• AutoQRA: Joint Optimization of Mixed-Precision Quantization and Low-rank Adapters for Efficient LLM Fine-Tuning [23.59600455731982]
  混合量子化微調整プロセスにおいて,各レイヤのビット幅とLoRAランク設定を同時に最適化する共同最適化フレームワークを提案する。 実験によると、AutoQRAは、均一な4ビットメソッドに匹敵するメモリフットプリントで、完全精度の微調整に近いパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-02-25T07:18:08Z)
• POP: Prefill-Only Pruning for Efficient Large Model Inference [5.743318651374061]
  大規模言語モデル (LLM) と視覚言語モデル (VLM) は目覚ましい能力を示している。 既存の構造化プルーニング法はハードウェア効率が良いが、しばしばかなりの精度の劣化に悩まされる。 この失敗は、プリフィルとデコードステージの間の非対称的な役割を無視する、ステージに依存しないプルーニングアプローチに起因している、と我々は主張する。
  論文  参考訳（メタデータ） (2026-02-03T09:22:26Z)
• TokenSeek: Memory Efficient Fine Tuning via Instance-Aware Token Ditching [82.13572707265513]
  ファインチューニングは、下流タスクに大規模言語モデルを適用するためのデファクトアプローチとみなされてきた。 TokenSeekは,様々なトランスフォーマーモデルに対する汎用的なプラグインソリューションで,インスタンス認識型トークン探索と破棄を実現する。
  論文  参考訳（メタデータ） (2026-01-27T15:58:36Z)
• Sequential Difference Maximization: Generating Adversarial Examples via Multi-Stage Optimization [6.225208440906177]
  逐次差分最大化(SDM)と呼ばれる勾配に基づく攻撃手法を提案する。 SDMは「サイクルステージ段階」の3層最適化フレームワークを確立する 実験により、SDMはより強力な攻撃性能を示すだけでなく、より高い攻撃コスト効果が得られることが示された。
  論文  参考訳（メタデータ） (2025-08-31T12:52:49Z)
• SafeSieve: From Heuristics to Experience in Progressive Pruning for LLM-based Multi-Agent Communication [19.633176635669397]
  プログレッシブで適応的なマルチエージェント・プルーニングアルゴリズムであるSafeSieveを提案する。 SafeSieveの平均精度は94.01%であり、トークン使用率を12.4%から27.8%削減している。 これらの結果はSafeSieveを実用マルチエージェントシステムのための堅牢で効率的でスケーラブルなフレームワークとして確立している。
  論文  参考訳（メタデータ） (2025-08-15T13:44:50Z)
• SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
  本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。 初期経路では、中間出力は反冗長動作によって統合される。 遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
  論文  参考訳（メタデータ） (2024-07-10T10:22:35Z)
• Latent-Optimized Adversarial Neural Transfer for Sarcasm Detection [50.29565896287595]
  サーカズム検出のための共通データセットを活用するために,転送学習を適用する。 異なる損失が互いに対応できる汎用的な潜時最適化戦略を提案します。 特に、isarcasmデータセットの以前の状態よりも10.02%の絶対性能向上を達成している。
  論文  参考訳（メタデータ） (2021-04-19T13:07:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。