論文の概要: ElasticBack: Stealthy Conditional Backdoor in LLM-Agent Skills via Coupled Trigger-Rule Optimization

• arxiv url: http://arxiv.org/abs/2608.09577v1
• Date: Mon, 10 Aug 2026 13:12:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:37.283166
• Title: ElasticBack: Stealthy Conditional Backdoor in LLM-Agent Skills via Coupled Trigger-Rule Optimization
• Title（参考訳）: ElasticBack: Coupled Trigger-Rule OptimizationによるLLM-Agentスキルのステルス条件バックドア
• Abstract要約: ElasticBackは条件付きシングルスキルバックドアで、スキルドキュメントにルールRを、ユーザクエリに良質なトリガーTを配置する。 その後、Rを凍結し、ステルス拘束された遺伝子探索でTを進化させ、有効性とステルスを最適化する。 実験によると、ElasticBackは、クリーンな正確さ、モデル間の転送、デプロイ時の防御を回避することで、ほぼゼロの偽陽性率で高い攻撃成功率を達成した。
• 参考スコア（独自算出の注目度）: 19.596331768742925
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agent skills, bundles of instructions and resources that an LLM agent loads on demand, form an emerging supply chain where a single poisoned skill can persistently compromise every agent that installs it. However, existing skill attacks either fire on every request or rely on fine-tuned weights or multiple skills, leaving a conditional and low-cost backdoor unexplored. In this work, we present ElasticBack, an effective conditional single-skill backdoor that plants a rule R in the skill document and a benign-looking trigger T in the user query, so the malicious payload fires only when both co-occur. ElasticBack binds the two sides through a trigger-as-switch construction, generating R via semantic-anchored rule injection. It then freezes R and evolves T against it with a stealth-constrained genetic search, so that effectiveness and stealth are optimized, keeping the backdoor weight-free and dormant on benign inputs. Extensive experiments across three target behaviors (50 skills each) and four agent LLMs show that ElasticBack attains a high attack success rate at a near-zero false-positive rate with preserved clean accuracy, transfers across models, and evades deployment-time defenses. These results motivate stronger defenses for the skill supply chain.
• Abstract（参考訳）: エージェントスキル、LLMエージェントが要求に応じてロードするインストラクションとリソースのバンドルは、単一の有毒なスキルがそれをインストールするすべてのエージェントを永続的に妥協する、新たなサプライチェーンを形成する。 しかし、既存のスキルアタックは、要求ごとに発火するか、微調整の重みや複数のスキルに依存しているため、条件付きで低コストのバックドアは未調査のままである。 本稿では,ユーザクエリにおいて,ルールRをスキルドキュメントに,良質なトリガTをユーザクエリに配置する,効果的な条件付きシングルスキルバックドアであるElasticBackを紹介する。 ElasticBackはトリガ・アズ・スウィッチ・コンストラクションを通じて両側をバインドし、セマンティック・アチョレッド・ルール・インジェクションを介してRを生成する。 するとRを凍結し、ステルスに制約された遺伝子探索でTを進化させ、有効性とステルスを最適化し、バックドアの重量を不要にし、良心的な入力に休息を保ちます。 3つの目標行動(それぞれ50のスキル)と4つのエージェントLDMにわたる大規模な実験によると、ElasticBackは、ほぼゼロに近い偽陽性率で攻撃の成功率に達し、保存されたクリーンな精度、モデル間の転送、デプロイメント時の防御を回避することができる。 これらの結果は、スキルサプライチェーンに対するより強力な防御を動機付けている。

関連論文リスト

• Reachability-Based Capability Confinement for LLM Agents under Indirect Prompt Injection [8.339789704552706]
  SkillGuardは、汚染を汚染として扱い、結果として生じる状態をデプロイが定義した禁止状態から切り離す機能を制限するハーネスレベルの執行層である。 我々は、Gmini 2.5 FlashとLlama3.3-70Bの4つのAgentDojoスイート上で、LLMのみのNo Defenseベースラインと異なるシステム層での3つのディフェンスに対してSkillGuardを評価した。
  論文  参考訳（メタデータ） (2026-08-30T20:57:47Z)
• BehaviorGuard: Online Backdoor Defense for Deep Reinforcement Learning [32.53874142863277]
  バックドア攻撃は深層強化学習(DRL)に深刻な脅威をもたらす 現在の防衛は、バックドアを除去するためのリバースエンジントリガーやファインタニングのモデルへの報酬異常に依存している。 本稿では,DRLのための行動に基づくバックドア検出・緩和フレームワークであるBehavimentGuardを提案する。
  論文  参考訳（メタデータ） (2026-05-07T10:21:14Z)
• MAGIC: A Co-Evolving Attacker-Defender Adversarial Game for Robust LLM Safety [28.246225272659917]
  本稿では,新しいマルチターンマルチエージェント強化学習フレームワークであるtextbfMAGICを紹介する。 大規模言語モデルの安全性アライメントを敵非対称ゲームとして定式化する。 本フレームワークは, モデルの有用性を損なうことなく, 優れた防衛成功率を示す。
  論文  参考訳（メタデータ） (2026-02-02T02:12:28Z)
• Towards Effective, Stealthy, and Persistent Backdoor Attacks Targeting Graph Foundation Models [62.87838888016534]
  Graph Foundation Models(GFM)は、さまざまなソースドメインで事前トレーニングされ、目に見えないターゲットに適応する。 GFMに対するバックドア攻撃は、3つの主要な課題のために簡単ではない。 グラフ基礎モデルに対する新たなバックドア攻撃モデルであるGFM-BAを提案する。
  論文  参考訳（メタデータ） (2025-11-22T08:52:09Z)
• Visual Backdoor Attacks on MLLM Embodied Decision Making via Contrastive Trigger Learning [89.1856483797116]
  MLLMをベースとした組込みエージェントに視覚的バックドアを注入する最初のフレームワークであるBEATを紹介する。 テキストトリガーとは異なり、オブジェクトトリガーは視点や照明の幅が広いため、確実に移植することは困難である。 BEATは攻撃の成功率を最大80%まで達成し、強い良識のあるタスクパフォーマンスを維持します。
  論文  参考訳（メタデータ） (2025-10-31T16:50:49Z)
• Chain-of-Trigger: An Agentic Backdoor that Paradoxically Enhances Agentic Robustness [34.05393029429323]
  チェイン・オブ・トリガー・バックドア (Chain-of-Trigger Backdoor, CoTri) は、長距離エージェント制御用に設計された多段バックドア攻撃である。 CoTriは、ほぼゼロの偽トリガーレート(FTR)を維持しながら、ほぼ完璧な攻撃成功率(ASR)を達成する
  論文  参考訳（メタデータ） (2025-10-09T14:01:43Z)
• Chasing Moving Targets with Online Self-Play Reinforcement Learning for Safer Language Models [64.47869632167284]
  従来の言語モデル(LM)の安全性アライメントは、リアクティブで非結合な手順に依存している。 このシーケンシャルなアプローチはミスマッチを生み出し、攻撃者は時代遅れの防御に過度に適合する一方、守備側は出現する脅威に常に遅れをとどめている。 我々は,攻撃者と防御エージェントが継続的なインタラクションを通じて共進化するオンラインセルフプレイ強化学習アルゴリズムであるSelf-RedTeamを提案する。
  論文  参考訳（メタデータ） (2025-06-09T06:35:12Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• BLAST: A Stealthy Backdoor Leverage Attack against Cooperative Multi-Agent Deep Reinforcement Learning based Systems [14.936720751131434]
  協調型多エージェント深層強化学習(c-MADRL)は、バックドア攻撃の脅威にさらされている。 我々は,c-MADRLに対して,単一のエージェントに唯一のバックドアを埋め込むことで,マルチエージェントチーム全体を攻撃する新しいバックドアレバレッジアタックを提案する。
  論文  参考訳（メタデータ） (2025-01-03T01:33:29Z)
• AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases [73.04652687616286]
  本稿では,RAG とRAG をベースとした LLM エージェントを標的とした最初のバックドア攻撃である AgentPoison を提案する。 従来のバックドア攻撃とは異なり、AgentPoisonは追加のモデルトレーニングや微調整を必要としない。 エージェントごとに、AgentPoisonは平均攻撃成功率を80%以上達成し、良質なパフォーマンスに最小限の影響を与える。
  論文  参考訳（メタデータ） (2024-07-17T17:59:47Z)
• CASSOCK: Viable Backdoor Attacks against DNN in The Wall of Source-Specific Backdoor Defences [29.84771472633627]
  バックドア攻撃はディープニューラルネットワーク(DNN)にとって重要な脅威だった 既存のほとんどの対策はソース非依存のバックドアアタック(SABA)に焦点を当てており、ソース固有のバックドアアタック(SSBA)を倒さない。
  論文  参考訳（メタデータ） (2022-05-31T23:09:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。