論文の概要: Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems
- arxiv url: http://arxiv.org/abs/2609.30383v1
- Date: Thu, 24 Sep 2026 18:00:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.081604
- Title: Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems
- Title（参考訳）: ステルス・アパルトとハーム・アパルト:スキルベースエージェントシステムにおけるスキルカスケード攻撃
- Abstract要約: スキルカスケード攻撃では、悪意のある目的が複数のスキルに分散され、それぞれの変更が独立して良さそうに見えるが、それらの組み合わせの実行は有害である。
本研究は, コンポーネントレベルの完全性とシステムレベルの安全性のギャップを浮き彫りにし, 個別のスキルではなく, クロススキルの相互作用を理由とする防御を呼び掛けた。
- 参考スコア（独自算出の注目度）: 79.08507314067253
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A skill is a modular package of natural-language instructions, executable scripts, and reference resources that an agent can load at runtime to extend its capabilities for a specific task. Skill-based agent systems therefore enable flexible reuse of third-party capabilities, but the openness of this skill ecosystem also opens up a new attack surface. Prior work has focused on vulnerabilities within individual skills, but little attention has been paid to risks that arise from interactions across skills. In this paper, we introduce skill cascading attacks, a threat paradigm in which a malicious objective is distributed across multiple skills so that each modification looks benign in isolation, yet their combined execution is harmful. For instance, in a prescription-review pipeline, the first skill weakens signals of recently discontinued medications in the extracted history, the second downgrades the severity of any drug interaction tied to them, and the third suppresses the resulting low-priority alert in the final summary, so that a severe drug-interaction warning silently disappears before reaching the physician. To systematically study this safety blind spot, we develop SkillCascade, an automated multi-agent red-teaming framework, and release SkillCascade-Bench, a benchmark of 213 validated cascading test cases across multiple agent systems and domains. Across representative agents (e.g., OpenClaw, Claude Code, Codex) and LLM backbones, cascaded interactions reliably induce harmful behaviors while evading existing per-skill scanners and runtime monitors. Our findings highlight a gap between component-level integrity and system-level safety, and call for defenses that reason over cross-skill interactions rather than individual skills in isolation.
- Abstract（参考訳）: スキルとは、自然言語命令、実行可能スクリプト、および特定のタスクの能力を拡張するためにエージェントが実行時にロードできる参照リソースのモジュールパッケージである。
したがって、スキルベースのエージェントシステムは、サードパーティ機能の柔軟な再利用を可能にするが、このスキルエコシステムのオープン性はまた、新たな攻撃面を開く。
以前の作業では個々のスキル内の脆弱性に重点を置いていたが、スキル間の相互作用から生じるリスクにはほとんど注意が払われていない。
本稿では,複数のスキルに悪質な目標を分散させ,それぞれの変更が単独で良さそうに見えるようにし,それらを組み合わせた実行が有害な脅威パラダイムである,スキルカスケード攻撃を導入する。
例えば、処方薬レビューパイプラインにおいて、第1のスキルは、抽出された歴史において最近廃止された薬物のシグナルを弱め、第2のスキルは、それらに結びついた薬物相互作用の重症度を低下させ、第3のスキルは、最終要約において結果として生じる低優先度の警告を抑圧し、重度の薬物相互作用警告が医師に到達する前に静かに消える。
この安全盲点を体系的に研究するために、自動マルチエージェント赤チームフレームワークであるSkillCascadeを開発し、複数のエージェントシステムとドメインにわたる213の検証されたカスケードテストケースのベンチマークであるSkillCascade-Benchをリリースする。
代表エージェント(例:OpenClaw、Claude Code、Codex)とLLMバックボーン間の相互作用は、既存のスキルごとのスキャナとランタイムモニターを回避しながら、確実に有害な振る舞いを引き起こす。
本研究は, コンポーネントレベルの完全性とシステムレベルの安全性のギャップを浮き彫りにし, 個別のスキルではなく, クロススキルの相互作用を理由とする防御を呼び掛けた。
関連論文リスト
- AgentLeak: Cloning Stronger LLM Agent Capabilities onto Weaker Agents Beyond Skill Stealing [18.52239289354215]
より弱いエージェントは、同じスキルを持っているかもしれないが、より強いエージェントによって暗黙的に認識される手続き的行動が欠けているため、失敗する可能性がある。
私たちの重要な洞察は、スキル実行ギャップ自体が、欠落した振る舞いが露呈する漏洩面を形成していることです。
我々は,これらの実行の違いから,機能クリティカルな動作を識別し,攻撃側のスキルに組み込むブラックボックス機能閉鎖攻撃であるAgentLeakを提案する。
論文 参考訳（メタデータ） (2026-09-07T07:30:02Z) - ColluSkill: Adversarial Cross-Skill Composition for Evading Agent Skill Scanners [23.03858552822385]
LLMベースのエージェントシステムにおいて,エージェントスキルが重要な攻撃面として浮上している。
現在の防衛は、主に個々のスキルを検査し、クロススキル構成からのリスクを十分に検査する。
完全悪意のある意図を相互依存サブペイロードに分解する,コルーシブなマルチスキルチェーンアタックフレームワークであるColruSkillを提案する。
論文 参考訳（メタデータ） (2026-08-10T15:32:44Z) - SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction [89.03272793385054]
エージェントスキルはエージェントワークフローにおける特権的な位置を占め、サードパーティスキルを脆弱な攻撃面にする。
我々はスキルベースアタックのベンチマークであるSkillHarmを紹介した。
攻撃成功率はFPPが86.3%、SMPが69.3%である。
論文 参考訳（メタデータ） (2026-06-01T17:45:39Z) - SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement [66.44008181092832]
LLMベースのエージェントシステムは、その能力を拡張するためにオープンレジストリからのエージェントスキルにますます依存している。
SkillAttackは、敵のプロンプトを通じて、スキル脆弱性の脆弱性を検証できるフレームワークである。
論文 参考訳（メタデータ） (2026-04-05T06:25:11Z) - CIBER: A Comprehensive Benchmark for Security Evaluation of Code Interpreter Agents [27.35968236632966]
LLMベースのコードインタプリタエージェントは、ますます重要な状況にデプロイされている。
既存のベンチマークでは、動的コード実行、ツールインタラクション、マルチターンコンテキストから生じるセキュリティリスクをキャプチャできない。
動的アタック生成、分離されたセキュアサンドボックス、状態認識評価を組み合わせた自動ベンチマークであるCIBERを紹介する。
論文 参考訳（メタデータ） (2026-02-23T06:41:41Z) - SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。
フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。
本手法は,現実的な環境下で高い攻撃成功率を達成する。
論文 参考訳（メタデータ） (2026-02-15T16:09:48Z) - AdvEvo-MARL: Shaping Internalized Safety through Adversarial Co-Evolution in Multi-Agent Reinforcement Learning [78.5751183537704]
AdvEvo-MARLは、タスクエージェントに安全性を内部化する、共進化型マルチエージェント強化学習フレームワークである。
外部ガードに頼るのではなく、AdvEvo-MARLは攻撃者と防御者を共同で最適化する。
論文 参考訳（メタデータ） (2025-10-02T02:06:30Z) - Towards Unifying Quantitative Security Benchmarking for Multi Agent Systems [0.0]
AIシステムの進化 自律エージェントが協力し、情報を共有し、プロトコルを開発することでタスクを委譲するマルチエージェントアーキテクチャをますます展開する。
そのようなリスクの1つはカスケードリスクである。あるエージェントの侵入はシステムを通してカスケードし、エージェント間の信頼を利用して他人を妥協させる。
ACI攻撃では、あるエージェントに悪意のあるインプットまたはツールエクスプロイトが注入され、そのアウトプットを信頼するエージェント間でカスケードの妥協とダウンストリーム効果が増幅される。
論文 参考訳（メタデータ） (2025-07-23T13:51:28Z) - AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases [73.04652687616286]
本稿では,RAG とRAG をベースとした LLM エージェントを標的とした最初のバックドア攻撃である AgentPoison を提案する。
従来のバックドア攻撃とは異なり、AgentPoisonは追加のモデルトレーニングや微調整を必要としない。
エージェントごとに、AgentPoisonは平均攻撃成功率を80%以上達成し、良質なパフォーマンスに最小限の影響を与える。
論文 参考訳（メタデータ） (2024-07-17T17:59:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。