論文の概要: From Instructions to Exploits: Applying Program Analysis to Malicious Agent Skills Across Natural Language and Code
- arxiv url: http://arxiv.org/abs/2610.33489v1
- Date: Sat, 24 Oct 2026 06:35:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.343015
- Title: From Instructions to Exploits: Applying Program Analysis to Malicious Agent Skills Across Natural Language and Code
- Title（参考訳）: インストラクションからエクスプロイットへ:プログラム分析を自然言語とコード全体にわたる悪意あるエージェントスキルに適用する
- Abstract要約: supply-Chain Scanner for Agent Skills (SCS)は、セキュリティ分析のための命令とコードを統一する静的分析フレームワークである。
117の悪意と117の良識のベンチマークでは、SCSは最高平均精度(85.6%)、リコール(95.2%)、F1スコア(86.9%)を達成している。
NL-to-IRコンパイラは、400の人間注釈の命令ステップに対して92.5%-94.5%のステップレベルの正しさを達成している。
- 参考スコア（独自算出の注目度）: 2.363393641505191
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM-powered agents increasingly rely on third-party skills that combine natural-language instructions with executable code, creating supply-chain risks that may span both artifacts. Existing skill scanners often rely on rule matching or direct LLM judgments and provide limited support for tracing such cross-domain behavior. We present the Supply-Chain Scanner for Agent Skills (SCS), a static analysis framework that unifies instructions and code for security analysis. SCS compiles natural-language instructions into a constrained Python-style intermediate representation using a limited set of security-oriented APIs. It then constructs program dependence graphs for instructions and bundled code and connects them into a cross-domain graph (xPDG). A Trust-Sensitivity-Capability (TSC) model propagates security properties over the graph to support structured, largely deterministic risk detection. On a manually verified benchmark of 117 malicious and 117 benign skills, SCS achieves the highest average accuracy (85.6%), recall (95.2%), and F1-score (86.9%) among evaluated methods across five LLMs, with 80.2% precision and average token consumption of 13.7 million. Its NL-to-IR compiler achieves 92.5%-94.5% step-level correctness on 400 human-annotated instruction steps. Finally, analyzing 66,157 real-world ClawHub skills yields 2,473 candidates, of which 627 are confirmed malicious through auxiliary dynamic validation and manual review.
- Abstract（参考訳）: LLMを動力とするエージェントは、自然言語命令と実行可能なコードを組み合わせたサードパーティのスキルにますます依存し、両方のアーティファクトにまたがるサプライチェーンリスクを生み出している。
既存のスキルスキャナはルールマッチングや直接LLM判定に頼り、ドメイン間動作のトレースを限定的にサポートすることが多い。
本稿では,エージェントスキルのためのサプライチェーンスキャナ(SCS)について紹介する。
SCSは、限定されたセキュリティ指向APIセットを使用して、自然言語命令を制約付きPythonスタイルの中間表現にコンパイルする。
その後、命令とバンドルされたコードのためのプログラム依存グラフを構築し、それらをクロスドメイングラフ(xPDG)に接続する。
Trust-Sensitivity-Capability (TSC)モデルは、構造化された決定論的リスク検出をサポートするために、グラフ上のセキュリティ特性を伝搬する。
手作業による117の悪意と117の良識のベンチマークでは、SCSは5つのLSMで評価された平均精度(85.6%)、リコール(95.2%)、F1スコア(86.9%)を80.2%の精度で達成し、平均トークン消費量は13.7百万である。
NL-to-IRコンパイラは、400の人間注釈の命令ステップに対して92.5%-94.5%のステップレベルの正しさを達成している。
最後に、66,157の現実世界のClawHubスキルを解析すると、2,473の候補が得られる。
関連論文リスト
- SEEK: Agentic Knowledge Graph Retrieval for Secure Code Generation [52.549964800555124]
大きな言語モデル(LLM)は、悪用可能なセキュリティ脆弱性を導入しながら、機能的に正しいコードを生成することができる。
本稿では,セキュリティ知識グラフを構成するセキュアコード生成のためのエージェントグラフRAGフレームワークであるSEEKを提案する。
我々は、C、C++、PythonにまたがるCodeGuard+とCyberSecEvalの配布外設定でSEEKを評価した。
論文 参考訳（メタデータ） (2026-10-10T14:37:22Z) - SkillConsist: Detecting Inconsistencies in Agent Skills via Bidirectional Graph Alignment [8.140228855572433]
エージェントスキルの不整合は、未公表の危険な行動を公開するか、間違ったスキル選択を引き起こす。
最近のエージェントスキル研究は、エージェントスキル一貫性の検出をますます調査している。
両課題に対処するため,SkillConsistを提示する。
論文 参考訳（メタデータ） (2026-08-07T16:04:21Z) - SkillSentry: Adaptive Honey Worlds for Dynamic Safety Testing of Agent Skills [8.77014008687218]
SkillSentryは、適応的なハニーワールドに基づいた動的安全テストフレームワークである。
我々は適応的な蜂蜜世界に基づく動的安全テストフレームワークであるSkillSentryを紹介する。
論文 参考訳（メタデータ） (2026-08-04T11:22:22Z) - Beyond the Syntax: Do Security Experts Trust LLMs for NIDS Rule Engineering? [70.17374586573033]
本稿では,Large Language Models(LLMs)に基づくNIDSルールエンジニアリングを人間中心で調査する。
LLMは構文的に正しい規則を生成するが、専門家は部分的にしか展開できないと考えている。
大規模モデルは構文的に有効な規則を一貫して生成するが、小型モデルはIDSルールの生成にはほとんど効果がない。
論文 参考訳（メタデータ） (2026-07-07T07:09:56Z) - Runtime Skill Audit: Targeted Runtime Probing for Agent Skill Security [42.77195311830774]
スキル監査(Skill Audit、RSA)は、スキル仲介エージェントがターゲットランタイム条件下で実際に何をするかを問うことによって、スキルを監査する動的分析手法である。
RSA 90.0%の精度が88.0%の真正レートと8.0%の偽正レートで、最高の静的ベースラインよりも13.0ポイント精度が向上した。
自己進化攻撃の下では、静的検出器は1、2ラウンド後に崩壊し、RSAはラウンド全体で20の悪意のあるスキルのうち19-20を検知し続けている。
論文 参考訳（メタデータ） (2026-06-10T05:29:34Z) - Behavioral Integrity Verification for AI Agent Skills [9.127363793428119]
我々はこれを行動整合性検証(BIV)問題として定式化する。
OpenClawレジストリの49,943のスキルでは、逸脱分類が広範な記述と実装のギャップを明らかにしている。
906スキルの悪質なスキル検出ベンチマークでは、BIVは0.946のF1に達し、最先端のルールベースとシングルパスのLCMベースラインを上回っている。
論文 参考訳（メタデータ） (2026-05-12T08:41:09Z) - SkillSieve: A Hierarchical Triage Framework for Detecting Malicious AI Agent Skills [0.0]
SkillSieveは3層検出フレームワークで、必要に応じてより深く分析する。
400スキルのラベル付きベンチマークでは、SkillSieveは0.800 F1を達成し、ClawVetの0.421を上回った。
論文 参考訳（メタデータ） (2026-04-08T00:58:48Z) - SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。
しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。
我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
論文 参考訳（メタデータ） (2026-04-04T04:29:11Z) - Credential Leakage in LLM Agent Skills: A Large-Scale Empirical Study [51.717224133855886]
サードパーティのスキルはLLMエージェントを強力な能力で拡張するが、特権のある環境では機密情報を扱うことが多い。
静的解析,サンドボックステスト,手動検査を用いて17,022のスキル(SkillsMPで170,226からサンプリング)を分析した。
我々は,1,708の課題で520の脆弱なスキルを識別し,10の漏洩パターン(事故4件,反対6件)の分類を導出する。
論文 参考訳（メタデータ） (2026-04-03T14:50:16Z) - RedSage: A Cybersecurity Generalist LLM [45.91667919408369]
RedSageは、ドメイン認識事前トレーニングとポストトレーニングを備えた、オープンソースでローカルにデプロイ可能なサイバーセキュリティアシスタントである。
フレームワーク、攻撃的テクニック、セキュリティツールにまたがる28.6Kのドキュメントにまたがって、大規模なWebフィルタリングと高品質なリソースのマニュアルコレクションを使用します。
RedSageは、確立されたサイバーセキュリティベンチマーク(例えば、CTI-Bench、CyberMetric、SECURE)と一般的なLCMベンチマークで評価され、より広範な一般化を評価する。
論文 参考訳（メタデータ） (2026-01-29T18:59:57Z) - Can LLM Prompting Serve as a Proxy for Static Analysis in Vulnerability Detection [9.269926508651091]
大規模言語モデル(LLM)は、脆弱性検出などの安全クリティカルなコードタスクに制限があることを示している。
本稿では,脆弱性の自然言語命令を,対照的な連鎖推論と統合する戦略を提案する。
本研究は,静的アナライザの厳格な手作りルールに代えて,セキュリティ対応のプロンプト技術が有効であることを示す。
論文 参考訳（メタデータ） (2024-12-16T18:08:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。