論文の概要: Detecting Insecure Compositions of Clean Agent Skills via Capability-Flow Graph Analysis
- arxiv url: http://arxiv.org/abs/2610.32155v1
- Date: Fri, 23 Oct 2026 04:47:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.389667
- Title: Detecting Insecure Compositions of Clean Agent Skills via Capability-Flow Graph Analysis
- Title（参考訳）: キャパビリティフローグラフ解析によるクリーンエージェントスキルの安全成分の検出
- Abstract要約: AIエージェントは、必要に応じてエージェントを実行するために、各スキルが命令、スクリプト、リソースをカプセル化する、サードパーティのスキルを呼び出すことによって、その能力をますます拡張する。
本稿では,多くの良心的スキルを同時に展開することで,構成的セキュリティリスクがもたらされることを示す。
我々は,スキルを型付き能力流として扱うことにより,安全でないスキル構成を検出するKnotScryerを開発した。
- 参考スコア（独自算出の注目度）: 33.44200039601178
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AI agents increasingly extend their capabilities by invoking third-party skills, where each skill encapsulates instructions, scripts, and resources for agents to execute on demand. This paper reveals that deploying many benign skills together introduces compositional security risks: multiple individually clean skills can compose into safety-violation chains, because the agent passes an upstream skill's output to a downstream skill's input across invocations. The risk arises not from any single skill, but from the agent's runtime orchestration, and thus cannot be captured by existing malicious skill detection methods. To this end, we develop KnotScryer to detect insecure skill compositions by treating skills as typed capability flows. In particular, we abstract each skill into a capability summary, and construct the Skill Capability-Flow Graph (SCFG), where edges denote cross-skill information flow. Moreover, we design a search policy that tracks protected or untrusted data along handoff edges to locate paths reaching insecure operations. Finally, a two-layer verification method replays the insecure information flow for reachability analysis and applies a task-anchored LLM chain audit to confirm the semantic plausibility of the identified violation chains. We deploy KnotScryer to analyze 13,598 clean skills from ClawHub, and validate the detected chains across three agent frameworks and three LLMs. KnotScryer identifies 612 insecure compositions, which are consistently exploited across agent frameworks. Meanwhile, under GLM-5.1, it outperforms tag-match and graph-only baselines by improving the exploitation rate from 16.5%-18.2% to 85.6%, while reducing the search space by 85.3%. Furthermore, 13.7% of the detected chains consist entirely of skills labeled safe by a single-skill scanner, showing that KnotScryer effectively identifies insecure compositions that per-skill auditing cannot.
- Abstract（参考訳）: AIエージェントは、必要に応じてエージェントを実行するために、各スキルが命令、スクリプト、リソースをカプセル化する、サードパーティのスキルを呼び出すことによって、その能力をますます拡張する。
エージェントが上流のスキルの出力を下流のスキルの入力に渡すので、個別にクリーンなスキルが安全違反の連鎖を構成することができる。
このリスクは、単一のスキルではなく、エージェントのランタイムオーケストレーションから発生し、既存の悪意のあるスキル検出方法では捕捉できない。
そこで我々はKnotScryerを開発し,スキルを型付き能力フローとして扱うことにより,安全でないスキル構成を検出する。
特に,各スキルを機能要約に抽象化し,エッジがクロススキル情報の流れを示すスキル能力フローグラフ(SCFG)を構築する。
さらに,安全でない操作に到達した経路を特定するために,ハンドオフエッジに沿って保護されたデータや信頼されていないデータを追跡する検索ポリシーを設計する。
最後に、二層検証法は、到達可能性分析のための安全でない情報フローを再生し、タスクアンコールされたLCMチェーン監査を適用して、識別された違反チェーンのセマンティックな妥当性を確認する。
我々は、ClawHubから13,598のクリーンスキルを分析するためにKnotScryerをデプロイし、3つのエージェントフレームワークと3つのLLMで検出されたチェーンを検証する。
KnotScryerは612のセキュアでないコンポジションを識別する。
一方、GLM-5.1では、エクスプロイトレートを16.5%-18.2%から85.6%に改善し、検索スペースを85.3%削減することで、タグマッチとグラフのみのベースラインを上回っている。
さらに、検出されたチェーンの13.7%は、シングルスキルスキャナーによって安全とラベル付けされたスキルで構成されており、KnotScryerは、スキルごとの監査ができない安全でない組成物を効果的に識別することを示している。
関連論文リスト
- Can Agents Trust Their Skills? Uncovering Unsafe Chains of Trust in Skill-Based LLM Agents [33.534136523746106]
TrustProbeは、スキルベースのLLMエージェントに対する安全でない信頼の連鎖を明らかにするためのフレームワークである。
エージェントソースコードを分析して、スキル制御された入力からセキュリティに敏感な操作まで、ソースからシンクまでのコールパスを識別する。
11のオープンソースエージェントにまたがる104のtaintスタイルの脆弱性を特定する。
論文 参考訳（メタデータ） (2026-09-30T06:04:44Z) - Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems [79.08507314067253]
スキルカスケード攻撃では、悪意のある目的が複数のスキルに分散され、それぞれの変更が独立して良さそうに見えるが、それらの組み合わせの実行は有害である。
本研究は, コンポーネントレベルの完全性とシステムレベルの安全性のギャップを浮き彫りにし, 個別のスキルではなく, クロススキルの相互作用を理由とする防御を呼び掛けた。
論文 参考訳（メタデータ） (2026-09-24T18:00:18Z) - ColluSkill: Adversarial Cross-Skill Composition for Evading Agent Skill Scanners [23.03858552822385]
LLMベースのエージェントシステムにおいて,エージェントスキルが重要な攻撃面として浮上している。
現在の防衛は、主に個々のスキルを検査し、クロススキル構成からのリスクを十分に検査する。
完全悪意のある意図を相互依存サブペイロードに分解する,コルーシブなマルチスキルチェーンアタックフレームワークであるColruSkillを提案する。
論文 参考訳（メタデータ） (2026-08-10T15:32:44Z) - SkillAudit: Ground-Truth-Free Skill Evolution via Paired Trajectory Auditing [81.51044612408793]
SkillAuditは、地味なフィードバックなしにエージェントスキルを進化させるフレームワークである。
行動の違いを編集指導に変換するために、SkillAuditはProcess-Aligned Contrastive Evaluationを使用する。
Refineはノイズや無関係なガイダンスを広く有用なスキルから取り除き、修復はタスクと競合するパスを置き換える。
論文 参考訳（メタデータ） (2026-06-12T08:20:09Z) - What Should a Skill Remember? Quality--Cost Trade-offs in Cost-Aware Skill Rewriting for Language Model Agents [58.87681796862133]
我々は経済的なレンズを通してスキルの書き直しを勉強する。
我々のフレームワークは、情報保存戦略を用いて、スキル構造をプロファイルし、スキルを書き換える。
SkillsBenchの実験は、戦略間の異なる品質とコストのトレードオフを明らかにしている。
論文 参考訳（メタデータ） (2026-06-08T12:36:51Z) - Behavioral Integrity Verification for AI Agent Skills [9.127363793428119]
我々はこれを行動整合性検証(BIV)問題として定式化する。
OpenClawレジストリの49,943のスキルでは、逸脱分類が広範な記述と実装のギャップを明らかにしている。
906スキルの悪質なスキル検出ベンチマークでは、BIVは0.946のF1に達し、最先端のルールベースとシングルパスのLCMベースラインを上回っている。
論文 参考訳（メタデータ） (2026-05-12T08:41:09Z) - Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry [49.83108591873481]
SKILL.md - エージェントスキルライフサイクルの3つのステージを対象とするアタックのみを調査する。
SKILL.mdは受動的ドキュメントではなく、サードパーティのエージェントが発見し、信頼し、使用する機能を形成する運用テキストであることを示す。
論文 参考訳（メタデータ） (2026-05-12T02:11:54Z) - SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement [66.44008181092832]
LLMベースのエージェントシステムは、その能力を拡張するためにオープンレジストリからのエージェントスキルにますます依存している。
SkillAttackは、敵のプロンプトを通じて、スキル脆弱性の脆弱性を検証できるフレームワークである。
論文 参考訳（メタデータ） (2026-04-05T06:25:11Z) - Credential Leakage in LLM Agent Skills: A Large-Scale Empirical Study [51.717224133855886]
サードパーティのスキルはLLMエージェントを強力な能力で拡張するが、特権のある環境では機密情報を扱うことが多い。
静的解析,サンドボックステスト,手動検査を用いて17,022のスキル(SkillsMPで170,226からサンプリング)を分析した。
我々は,1,708の課題で520の脆弱なスキルを識別し,10の漏洩パターン(事故4件,反対6件)の分類を導出する。
論文 参考訳（メタデータ） (2026-04-03T14:50:16Z) - Agent Skills in the Wild: An Empirical Study of Security Vulnerabilities at Scale [26.757365536859453]
AIエージェントフレームワークの台頭はエージェントスキル、命令を含むモジュールパッケージ、エージェント機能を動的に拡張する実行可能なコードを導入した。
このアーキテクチャは強力なカスタマイズを可能にするが、スキルは暗黙の信頼と最小限の拒否によって実行され、重要なが不適合なアタックサーフェスを生み出す。
2つの主要な市場から42,447のスキルを収集し、この新興エコシステムの最初の大規模な経験的セキュリティ分析を行います。
論文 参考訳（メタデータ） (2026-01-15T12:31:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。