論文の概要: Query-Only Backdoor Attacks on Self-Evolving Skills via Trajectory Poisoning

• arxiv url: http://arxiv.org/abs/2608.08303v1
• Date: Sat, 08 Aug 2026 19:31:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.763795
• Title: Query-Only Backdoor Attacks on Self-Evolving Skills via Trajectory Poisoning
• Title（参考訳）: トラジェクトリ中毒による自己進化スキルに対するクエリオンリーバックドアアタック
• Abstract要約: エージェントスキルは、複雑なタスクの再利用手順をエンコードすることで、大きな言語モデル(LLM)エージェントを改善する。 自己進化型スキルシステムは、実行軌跡からスキルを自動構築および更新するために開発された。 提案するトラジェクティブ・バックドア・アタック(TBA)は,信頼性の高いスキル進化パイプラインをバックドアのスキルを生み出すためのクエリ専用アタックである。
• 参考スコア（独自算出の注目度）: 23.79611349616925
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agentic skills improve large language model (LLM) agents by encoding reusable procedures for complex tasks. However, manually authored skills often adapt poorly to long-horizon tasks and changing environments. To address the limitation, self-evolving skill systems have been developed to automatically construct and update skills from execution trajectories, shifting skill acquisition from external marketplaces to a trusted evolution pipeline. By replacing external skill acquisition with trusted internal construction, self-evolving skill systems reduce exposure to skill injection attacks that rely on direct skill manipulation. However, this skill evolution pipeline may introduce a new attack surface in which an attacker can indirectly steer skill evolution by inducing compromised trajectories through agent interactions. To demonstrate the threat, we propose Trajectory Backdoor Attack (TBA), a query-only attack that steers a trusted skill-evolution pipeline toward producing a backdoored skill. Specifically, we craft attacker-submitted queries to lead the agent to perform the target action and explicitly state the corresponding activation condition in the trajectory. We repeat the same condition-action pattern across diverse triggered tasks, while leaving clean queries unchanged, encouraging the evolver to consolidate the pattern as a reusable trigger-dependent rule into the evolved skill. Experiments on three benchmarks across two skill-evolution systems using four open- and closed-source backbone models demonstrate that TBA reliably implants conditional backdoors while preserving clean-task utility, matching or even surpassing direct skill injection. The results reveal a critical vulnerability in trajectory-driven skill evolution.
• Abstract（参考訳）: エージェントスキルは、複雑なタスクの再利用手順をエンコードすることで、大きな言語モデル(LLM)エージェントを改善する。 しかし、手書きのスキルは長期のタスクや環境の変化によく適応する。 この制限に対処するため、自己進化型スキルシステムは、実行軌跡からスキルを自動構築および更新し、スキル獲得を外部市場から信頼性のある進化パイプラインに移行するために開発されている。 外部スキル獲得を信頼された内部構造に置き換えることで、自己進化型スキルシステムは、直接スキル操作に依存するスキルインジェクション攻撃への露出を減らすことができる。 しかし、このスキル進化パイプラインは、エージェントの相互作用を通じて妥協された軌跡を誘導することにより、攻撃者が間接的にスキル進化を操ることのできる新たな攻撃面を導入する可能性がある。 この脅威を示すために、我々は、信頼性の高いスキル進化パイプラインをバックドアスキルを生み出すためのクエリオンリーの攻撃であるTorjectory Backdoor Attack (TBA)を提案する。 具体的には、攻撃者が送信したクエリを作成し、エージェントを誘導してターゲットアクションを実行し、対応するアクティベーション条件をトラジェクトリに明示的に記述する。 多様なトリガタスクにまたがって同じ条件アクションパターンを繰り返しながら、クリーンなクエリをそのまま残し、進化主義者はパターンを再利用可能なトリガ依存ルールとして、進化したスキルに統合するように促します。 4つのオープンソースとクローズドソースのバックボーンモデルを用いた2つのスキル進化システムを対象とした3つのベンチマーク実験では、TAAが条件付きバックドアを確実に移植し、クリーンタスクのユーティリティを保持し、マッチするか、あるいは直接的なスキル注入を超越することを示した。 その結果、軌道駆動型スキル進化の重大な脆弱性が明らかになった。

関連論文リスト

• EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents [18.945601649519478]
  自己進化型エージェントは、過去の経験からスキルを生成し、洗練し、再利用することで、継続的な能力進化を可能にする。 しかし、自律的なスキル進化は、悪意のある能力を生成、保存、再利用する新たな攻撃面を導入している。 本稿では,自己進化エージェントの自律的スキル生成と進化パイプラインを対象とした脅威モデルとして,EvoSkill Injectionを定義する。
  論文  参考訳（メタデータ） (2026-08-31T08:25:03Z)
• When Experience Becomes Instruction: Trajectory Poisoning in Self-Evolving Agent Skill Systems [9.77811063571131]
  SES (Self-evolving skill) システムは、信頼できない経験を信頼できない指導にすることを可能にした。 本稿では,この促進プロセスに対するトラジェクティブ・ポジショニング・アタックであるPoisonedEvolutionを紹介する。 スキルヴィジブルなブラックボックス攻撃者は、目標とするスキルを検査し、有界な証拠を提供することができるが、プライベートプールや進化ロジックを観察したり、スキルバンクを編集することはできない。
  論文  参考訳（メタデータ） (2026-08-06T03:32:43Z)
• Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills [53.15216425100295]
  本稿では,提案者,解決者,スキルコントローラからなる共進化型フレームワークであるスキルセルフプレイ(スキルSP)を紹介する。 プロジェクタは動的にサンプリングされたスキルを前提とした挑戦的なタスクを生成し、ソルバは能力境界を押し上げるための候補ソリューションを探索し、スキルコントローラは実行フィードバックを収集してスキルライブラリを更新および拡張する。 このインタラクティブな共進化は、構造化された検証とオープンな調査の間のギャップを効果的に埋める。
  論文  参考訳（メタデータ） (2026-07-24T17:59:22Z)
• SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction [89.03272793385054]
  エージェントスキルはエージェントワークフローにおける特権的な位置を占め、サードパーティスキルを脆弱な攻撃面にする。 我々はスキルベースアタックのベンチマークであるSkillHarmを紹介した。 攻撃成功率はFPPが86.3%、SMPが69.3%である。
  論文  参考訳（メタデータ） (2026-06-01T17:45:39Z)
• SkillSmith: Co-Evolving Skills and Tools for Self-Improving Agent Systems [36.96247516261787]
  SkillSmithは、シナジー対応のスキルツールの共同進化フレームワークである。 スキル進化が再利用可能な機能ギャップを特定すると、ツールをラップ、編集、構成、分割、または廃止することが可能になります。 失敗の署名、因果帰属、治療を含むアンチパターンを記録し、既知の誤りを繰り返す診断と拒否提案を加速させる。
  論文  参考訳（メタデータ） (2026-05-31T16:01:19Z)
• SkillOS: Learning Skill Curation for Self-Evolving Agents [67.94374107466957]
  本稿では,自己進化エージェントのスキルキュレーションを学習するための,経験駆動型RLトレーニングレシピであるSkillOSを提案する。 SkillOSは、凍結したエージェントエグゼキュータとトレーニング可能なスキルキュレーターを組み合わせて、蓄積したエクスペリエンスから外部SkillRepoを更新する。 SkillOSは、メモリフリーと強力なメモリベースラインを、有効性と効率の両方で一貫して上回っていることを示す。
  論文  参考訳（メタデータ） (2026-05-07T17:31:50Z)
• SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement [66.44008181092832]
  LLMベースのエージェントシステムは、その能力を拡張するためにオープンレジストリからのエージェントスキルにますます依存している。 SkillAttackは、敵のプロンプトを通じて、スキル脆弱性の脆弱性を検証できるフレームワークである。
  論文  参考訳（メタデータ） (2026-04-05T06:25:11Z)
• EvoSkills: Self-Evolving Agent Skills via Co-Evolutionary Verification [85.3692584167951]
  Anthropicは、LLMエージェントが多段階のプロフェッショナルタスクに取り組むためのスキルの概念を提案する。 ツールは単一の自己完結型関数であり、スキルは相互依存型多ファイルアーティファクトの構造化バンドルである。 EvoSkillsは、エージェントが複雑なマルチファイルスキルパッケージを自律的に構築できる自己進化型スキルフレームワークである。
  論文  参考訳（メタデータ） (2026-04-02T06:43:20Z)
• SkillRL: Evolving Agents via Recursive Skill-Augmented Reinforcement Learning [83.98129545309277]
  生経験と政策改善のギャップを埋めるフレームワークであるSkillRLを提案する。 本手法では,階層型スキルライブラリであるSkillBankを構築するために,経験に基づく蒸留機構を導入する。 ALF、WebShop、および7つの検索強化タスクの実験結果は、SkillRLが最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2026-02-09T03:17:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。