論文の概要: EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents

• arxiv url: http://arxiv.org/abs/2608.30429v1
• Date: Mon, 31 Aug 2026 08:25:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.313603
• Title: EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents
• Title（参考訳）: EvoSkill Injection: 自己進化エージェントの自律的スキル生成と進化を再現する
• Abstract要約: 自己進化型エージェントは、過去の経験からスキルを生成し、洗練し、再利用することで、継続的な能力進化を可能にする。 しかし、自律的なスキル進化は、悪意のある能力を生成、保存、再利用する新たな攻撃面を導入している。 本稿では,自己進化エージェントの自律的スキル生成と進化パイプラインを対象とした脅威モデルとして,EvoSkill Injectionを定義する。
• 参考スコア（独自算出の注目度）: 18.945601649519478
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM-based agent systems increasingly adopt skill-based architectures to reduce repetitive reasoning costs and improve stable, efficient task execution. Recent studies propose self-evolving agents that autonomously generate, refine, and reuse skills from past experiences to enable continuous capability evolution. However, autonomous skill evolution introduces a new attack surface in which malicious capabilities are generated, stored, and reused as legitimate skills. In this paper, we define EvoSkill Injection as a threat model targeting the autonomous skill generation and evolution pipeline of self-evolving agents. We further propose SARGE (Red-teaming Autonomous Skill Generation and Evolution in self-evolving agents), a red-teaming framework for evaluating this threat model through iterative generation, escalation, and reinforcement interactions. To support our framework, we construct EvoSkillBench, a benchmark dataset of malicious interaction trajectories for inducing malicious skill formation in self-evolving agents, and introduce EvoSkillSafetyBench, a post-attack benchmark for evaluating whether injected malicious skills are subsequently retrieved and activated as harmful behaviors. Our evaluation shows that SARGE induces malicious skill formation and that injected skills are persistently stored and repeatedly activated, highlighting the risk of persistent capability corruption.
• Abstract（参考訳）: LLMベースのエージェントシステムは、繰り返し推論コストを削減し、安定的で効率的なタスク実行を改善するために、スキルベースのアーキテクチャを採用する傾向にある。 近年の研究では、過去の経験からスキルを自律的に生成し、洗練し、再利用し、継続的な能力進化を可能にする自己進化型エージェントを提案する。 しかし、自律的なスキル進化は、悪意のある能力を生成、保存、再利用する新たな攻撃面を導入している。 本稿では,自己進化エージェントの自律的スキル生成と進化パイプラインを対象とした脅威モデルとして,EvoSkill Injectionを定義する。 SARGE(Red-teaming Autonomous Skill Generation and Evolution in Self-evolving Agent)は、反復生成、エスカレーション、強化相互作用を通じて脅威モデルを評価するためのレッドチームフレームワークである。 本フレームワークをサポートするために,自己進化エージェントにおける悪意あるスキル形成を誘導する,悪意あるインタラクショントラジェクトリのベンチマークデータセットであるEvoSkillBenchを構築し,その後,悪意のあるスキルが検索され,有害な振る舞いとして活性化されるかどうかを評価するポストアタックベンチマークであるEvoSkillSafetyBenchを紹介した。 評価の結果、SARGEは悪意あるスキル形成を誘導し、注射されたスキルは持続的に保存され、繰り返し活性化され、持続的な能力低下のリスクを浮き彫りにすることがわかった。

関連論文リスト

• Query-Only Backdoor Attacks on Self-Evolving Skills via Trajectory Poisoning [23.79611349616925]
  エージェントスキルは、複雑なタスクの再利用手順をエンコードすることで、大きな言語モデル(LLM)エージェントを改善する。 自己進化型スキルシステムは、実行軌跡からスキルを自動構築および更新するために開発された。 提案するトラジェクティブ・バックドア・アタック(TBA)は,信頼性の高いスキル進化パイプラインをバックドアのスキルを生み出すためのクエリ専用アタックである。
  論文  参考訳（メタデータ） (2026-08-08T19:31:19Z)
• Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills [53.15216425100295]
  本稿では,提案者,解決者,スキルコントローラからなる共進化型フレームワークであるスキルセルフプレイ(スキルSP)を紹介する。 プロジェクタは動的にサンプリングされたスキルを前提とした挑戦的なタスクを生成し、ソルバは能力境界を押し上げるための候補ソリューションを探索し、スキルコントローラは実行フィードバックを収集してスキルライブラリを更新および拡張する。 このインタラクティブな共進化は、構造化された検証とオープンな調査の間のギャップを効果的に埋める。
  論文  参考訳（メタデータ） (2026-07-24T17:59:22Z)
• SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction [89.03272793385054]
  エージェントスキルはエージェントワークフローにおける特権的な位置を占め、サードパーティスキルを脆弱な攻撃面にする。 我々はスキルベースアタックのベンチマークであるSkillHarmを紹介した。 攻撃成功率はFPPが86.3%、SMPが69.3%である。
  論文  参考訳（メタデータ） (2026-06-01T17:45:39Z)
• MobEvolve: An Agentic Self-Evolving Heuristic System for Interpretable Human Mobility Generation [51.824145170051516]
  MobEvolveは、人間のモビリティ生成のための自己進化フレームワークである。 エージェントを使用して、内部ロジックを反復的に進化させる。 最先端の深層生成法とLLMベースの手法を著しく上回っている。
  論文  参考訳（メタデータ） (2026-06-01T03:46:25Z)
• Learning Without Losing Identity: Capability Evolution for Embodied Agents [14.412476605788482]
  エンボディエージェントのための機能中心進化パラダイムを提案する。 我々はロボットが認知的アイデンティティとして永続的なエージェントを維持するべきだと主張する。 エージェントアイデンティティから機能進化を分離する統合されたフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-09T04:51:07Z)
• EvoSkills: Self-Evolving Agent Skills via Co-Evolutionary Verification [85.3692584167951]
  Anthropicは、LLMエージェントが多段階のプロフェッショナルタスクに取り組むためのスキルの概念を提案する。 ツールは単一の自己完結型関数であり、スキルは相互依存型多ファイルアーティファクトの構造化バンドルである。 EvoSkillsは、エージェントが複雑なマルチファイルスキルパッケージを自律的に構築できる自己進化型スキルフレームワークである。
  論文  参考訳（メタデータ） (2026-04-02T06:43:20Z)
• SkillRL: Evolving Agents via Recursive Skill-Augmented Reinforcement Learning [83.98129545309277]
  生経験と政策改善のギャップを埋めるフレームワークであるSkillRLを提案する。 本手法では,階層型スキルライブラリであるSkillBankを構築するために,経験に基づく蒸留機構を導入する。 ALF、WebShop、および7つの検索強化タスクの実験結果は、SkillRLが最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2026-02-09T03:17:17Z)
• Your Agent May Misevolve: Emergent Risks in Self-evolving LLM Agents [58.69865074060139]
  エージェントの自己進化が意図しない方法で逸脱し、望ましくない結果や有害な結果に至る場合について検討する。 我々の経験から、誤進化は広範囲にわたるリスクであり、最上位のLSM上に構築されたエージェントにも影響を及ぼすことが判明した。 我々は、より安全で信頼性の高い自己進化型エージェントを構築するためのさらなる研究を促すための潜在的な緩和戦略について議論する。
  論文  参考訳（メタデータ） (2025-09-30T14:55:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。