論文の概要: EvolvAttack: Backdooring self Evolving VLM Agents

• arxiv url: http://arxiv.org/abs/2610.15244v1
• Date: Sun, 11 Oct 2026 00:33:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.180126
• Title: EvolvAttack: Backdooring self Evolving VLM Agents
• Title（参考訳）: EvolvAttack: 自己進化型VLMエージェントのバックドア化
• Abstract要約: 自己進化型バックドアは、視覚言語モデル(VLM)エージェントを進化するメモリを通じて継続的に適応させる。 我々は,初期エージェントでペイロードが休眠状態に留まり,エージェントが進化するにつれて徐々に活性化する新たな攻撃面,自己進化バックドアを導入する。 我々はこれを、エージェントの進化するメモリとアクティベーションを結合し、トリガーがペイロード関連のメモリと共起しない限り良性行動を保存するメモリ対応のバックドアトレーニングを通じて実現した。
• 参考スコア（独自算出の注目度）: 15.909536802873989
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-evolving mechanisms let vision-language model (VLM) agents continually adapt through evolving memory, but they also allow malicious behavior to emerge only after deployment. We introduce a new attack surface, the self-evolving backdoor, whose payload stays dormant in the initial agent and is progressively activated as the agent evolves. Unlike conventional backdoors, which can be exposed by testing triggered inputs on a static model, our attack requires both a visual trigger and a sufficiently evolved memory state; static scanning with clean memory thus yields near-zero attack success and may deem the agent benign. We realize this through memory-aware backdoor training, which couples trigger activation with the agent's evolving memory while preserving benign behavior unless the trigger co-occurs with payload-related memory. Across three VLM backbones, four agent pipelines, and recency-, semantic-, and reward-based memory evolution, the attack preserves normal functionality and stays nearly inactive before evolution (0.5% attack success rate), yet exceeds 95% attack success within 100 interactions, revealing a stealthy threat unique to self-evolving agents.
• Abstract（参考訳）: 自己進化メカニズムにより、視覚言語モデル(VLM)エージェントは進化するメモリを通じて継続的に適応できるが、悪意のある振る舞いはデプロイ後にのみ現れる。 我々は,初期エージェントでペイロードが休眠状態に留まり,エージェントが進化するにつれて徐々に活性化する新たな攻撃面,自己進化バックドアを導入する。 静的モデル上でトリガ入力をテストすることで露呈できる従来のバックドアとは異なり、我々の攻撃にはビジュアルトリガーと十分に進化したメモリ状態の両方が必要である。 我々はこれを、エージェントの進化するメモリとアクティベーションを結合し、トリガーがペイロード関連のメモリと共起しない限り良性行動を保存するメモリ対応のバックドアトレーニングを通じて実現した。 3つのVLMバックボーン、4つのエージェントパイプライン、recency-, semantic-, reward-based memory evolutionにまたがって、攻撃は正常な機能を保ち、進化前(0.5%の攻撃成功率)にほとんどアクティブに留まる。

関連論文リスト

• Forgetting is Not Always Bad: A Neuro-Inspired Memory Repair Mechanism for Poisoned LLM Agents [18.7318310301167]
  大規模言語モデル(LLM)エージェントは、メモリ汚染攻撃に対して非常に脆弱である。 そこで本研究では,有毒記憶の選択的機能的忘れを可能とした,エージェント固有のトレーニングフリーメモリ修復フレームワークDREAMを提案する。
  論文  参考訳（メタデータ） (2026-10-09T09:17:00Z)
• OPD-Evolver: Cultivating Holistic Agent Evolver via On-Policy Distillation [71.57258488733974]
  メモリは、自己進化エージェントの標準的な基盤になっているが、その経験を維持することは、それを通して進化する方法を学ぶことと同じではない。 OPD-Evolver(英語版)は、政策上の自己蒸留を通じて、そのようなエージェントを進化させる緩やかな共進化フレームワークである。
  論文  参考訳（メタデータ） (2026-06-16T07:33:53Z)
• MemVenom: Triggered Poisoning of Multimodal Memories in Web Agents [74.64265314956441]
  そこで我々は,グラフ構造化外部メモリにテキスト画像のコーディネートを施したブラックボックス攻撃フレームワークを提案する。 MemVenomは、GPT-5ファミリーのWebエージェントで最大99.15%に達する、良質なパフォーマンスに最小限の影響を伴って、強力なエンドツーエンド攻撃を成功させる。
  論文  参考訳（メタデータ） (2026-06-09T11:53:25Z)
• Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction [3.809725488301918]
  大規模言語モデル(LLM)エージェントは、永続的で自律的なタスク実行をサポートするために、長期記憶を活用する傾向にある。 既存のメモリ中毒攻撃は、インジェクトされたコンテンツが直接メモリに格納され、選択的な抽出と書き換えの段階を見渡せると仮定する。 メカニスティック分析は、攻撃が埋め込み空間の異方性を悪用し、注意パターンを変えることを示唆している。
  論文  参考訳（メタデータ） (2026-05-28T14:02:00Z)
• Self-Purification Mitigates Backdoors in Multimodal Diffusion Language Models [74.1970982768771]
  確立されたデータポゾンパイプラインは,MDLMにバックドアを埋め込むことに成功した。 拡散自己浄化(Diffusion Self-Purification)と呼ばれるMDLMのバックドア防御フレームワークについて紹介する。
  論文  参考訳（メタデータ） (2026-02-24T15:47:52Z)
• Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
  セルフ進化エージェントはセッション間で内部状態を更新する。 我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。 我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-17T15:28:24Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases [73.04652687616286]
  本稿では,RAG とRAG をベースとした LLM エージェントを標的とした最初のバックドア攻撃である AgentPoison を提案する。 従来のバックドア攻撃とは異なり、AgentPoisonは追加のモデルトレーニングや微調整を必要としない。 エージェントごとに、AgentPoisonは平均攻撃成功率を80%以上達成し、良質なパフォーマンスに最小限の影響を与える。
  論文  参考訳（メタデータ） (2024-07-17T17:59:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。