論文の概要: SKILLLITE: Evidence-Guided Malicious Skill Auditing with Compact LLMs

• arxiv url: http://arxiv.org/abs/2609.36879v1
• Date: Tue, 29 Sep 2026 07:11:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.260254
• Title: SKILLLITE: Evidence-Guided Malicious Skill Auditing with Compact LLMs
• Title（参考訳）: SKILLLITE: コンパクトLLMを用いたエビデンスガイドによる悪意スキル監査
• Abstract要約: サードパーティのSkillsの採用が拡大し、新たなサプライチェーンアタックサーフェスが導入されている。 悪意のあるスキルは、エージェントの特権を乱用し、エージェントの実行環境を損なう有害な振る舞いを埋め込むことができる。 我々は,悪意あるスキル検出のための証拠誘導型エージェントフレームワークであるSKILLLITEを提案する。
• 参考スコア（独自算出の注目度）: 33.42948072760854
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As LLM-based agents perform increasingly complex tasks, Agent Skills have emerged as a flexible mechanism for extending their capabilities. An Agent Skill packages task-specific instructions with executable components and auxiliary resources to provide specialized functionalities. However, the growing adoption of third-party Skills introduces a new supply-chain attack surface. Malicious Skills can embed harmful behaviors that abuse agent privileges and compromise the agent execution environment or accessible resources. Although recent LLM-based malicious Skill auditing approaches have achieved promising performance, they often rely on capable commercial LLMs. How to achieve effective auditing with compact, locally deployable LLMs in security-sensitive and resource-constrained settings remains largely unexplored. Our investigation reveals that compact LLMs struggle to identify malicious behaviors hidden in complex Skill packages. This difficulty arises from both the implicit nature of such behaviors and the limited reasoning capacity of compact LLMs. To address these challenges, we propose SKILLLITE, an evidence-guided agentic framework for malicious Skill detection. SKILLLITE effectively extracts security-relevant behaviors and infers the intended functionality from complex Skill packages. It then employs a compact LLM to assess the maliciousness of the Skill based on the observed behaviors and their functional context. Experiments show that SKILLLITE improves malicious Skill detection across different compact LLM backbones and outperforms existing representative auditing baselines. Its effectiveness generalizes to behaviorally confirmed in-the-wild malicious Skills. Meanwhile, SKILLLITE maintains a low inference latency, supporting its practical deployment.
• Abstract（参考訳）: LLMベースのエージェントがますます複雑なタスクを実行するにつれて、エージェントスキルはその能力を拡張するための柔軟なメカニズムとして現れてきた。 Agent Skillはタスク固有の命令を実行可能コンポーネントと補助リソースでパッケージし、特殊機能を提供します。 しかし、サードパーティのスキルの採用が増えているため、新たなサプライチェーンアタックサーフェスが導入されている。 悪意のあるスキルは、エージェントの特権を悪用し、エージェントの実行環境やアクセス可能なリソースを侵害する有害な振る舞いを埋め込むことができる。 最近のLSMベースの悪意あるスキル監査手法は有望な性能を達成しているが、有能な商用LSMに依存していることが多い。 セキュリティに敏感でリソースに制約のある環境で、コンパクトでローカルにデプロイ可能なLLMによる効果的な監査を実現するには、ほとんど未検討のままである。 我々の研究は、コンパクトLLMが複雑なスキルパッケージに隠された悪意のある行動を特定するのに苦労していることを明らかにした。 この困難は、そのような挙動の暗黙の性質とコンパクト LLM の限定的推論能力の両方から生じる。 これらの課題に対処するために,悪意のあるスキル検出のための証拠誘導型エージェントフレームワークであるSKILLLITEを提案する。 SKILLLITEはセキュリティ関連の振る舞いを効果的に抽出し、複雑なスキルパッケージから意図した機能を推測する。 次に、観察された振る舞いとその機能的コンテキストに基づいて、Skillの悪意を評価するために、コンパクトなLLMを使用する。 実験により、SKILLLITEは、異なるコンパクトなLDMバックボーン間の悪意あるスキル検出を改善し、既存の代表監査ベースラインより優れていることが示された。 その効果は、行動に確認された悪質なスキルに一般化する。 一方、SKILLLITEは低推論レイテンシを維持し、実際のデプロイメントをサポートする。

関連論文リスト

• From Chasing Ghosts to Missed Attacks: Perspectives and Perceptions of SOC Practitioners on LLM Integration, Risks, and Readiness [9.803413284017138]
  セキュリティオペレーションセンター(SOC)は大量のセキュリティイベントを処理する。 LLM(Large Language Models)の最近の進歩は、セキュリティオペレーションの潜在的なメリットを示唆している。 懸念にもかかわらず、実践者はLSMを採用する意志を強く表している。
  論文  参考訳（メタデータ） (2026-08-01T13:47:44Z)
• SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement [66.44008181092832]
  LLMベースのエージェントシステムは、その能力を拡張するためにオープンレジストリからのエージェントスキルにますます依存している。 SkillAttackは、敵のプロンプトを通じて、スキル脆弱性の脆弱性を検証できるフレームワークである。
  論文  参考訳（メタデータ） (2026-04-05T06:25:11Z)
• LLMs as verification oracles for Solidity [1.3887048755037537]
  本稿では,この役割において,最先端の推論LLMである GPT-5 を初めて体系的に評価する。 我々は,大規模な検証タスクのデータセット上でその性能をベンチマークし,その出力を確立された形式的検証ツールと比較し,実世界の監査シナリオにおける実効性を評価する。 我々の研究は、AIの収束における新たなフロンティアと、セキュアなスマートコントラクト開発と監査のための形式的手法を示唆している。
  論文  参考訳（メタデータ） (2025-09-23T15:32:13Z)
• ICLShield: Exploring and Mitigating In-Context Learning Backdoor Attacks [61.06621533874629]
  In-context Learning (ICL)は、大規模言語モデル(LLM)において顕著な成功を収めた。 本稿では,LLMがタスク関連潜伏概念とバックドア関連潜伏概念の両方を同時に学習する,という二重学習仮説を初めて提案する。 そこで本研究では,概念選好比を動的に調整する防衛機構であるICLShieldを提案する。
  論文  参考訳（メタデータ） (2025-07-02T03:09:20Z)
• Review of Case-Based Reasoning for LLM Agents: Theoretical Foundations, Architectural Components, and Cognitive Integration [0.0]
  ケースベース推論(CBR)は、過去の経験を参照することによって、新しい問題を解決する戦略である。 本稿では、過去の経験を参照して新しい問題を解決する戦略であるケースベース推論(CBR)を大規模言語モデルに組み込む方法について考察する。
  論文  参考訳（メタデータ） (2025-04-09T14:51:02Z)
• Re-TASK: Revisiting LLM Tasks from Capability, Skill, and Knowledge Perspectives [54.14429346914995]
  CoT(Chain-of-Thought)は、大規模言語モデル(LLM)による複雑な問題を解決する重要な方法となっている。 本稿では,LLMタスクを能力,スキル,知識の観点から再考する理論モデルであるRe-TASKフレームワークを紹介する。 多様な領域にわたる実験は、Re-TASKの有効性を示す。
  論文  参考訳（メタデータ） (2024-08-13T13:58:23Z)
• Recognizing Limits: Investigating Infeasibility in Large Language Models [7.321802034308729]
  大規模言語モデル(LLM)は、様々なタスクにおいて顕著なパフォーマンスを示しているが、多くの場合、その知識や能力を超えるクエリを処理できない。 本稿は,LLMが機能を超えた要求により,実現不可能なタスクを認識し,拒否する必要性に対処する。
  論文  参考訳（メタデータ） (2024-08-11T22:58:23Z)
• AgentBench: Evaluating LLMs as Agents [99.12825098528212]
  エージェントとしてのLarge Language Model (LLM)は近年広く認知されている。 我々は,LLM-as-Agentの推論と意思決定能力を評価するために,8つの異なる環境からなるベンチマークであるAgentBenchを提案する。
  論文  参考訳（メタデータ） (2023-08-07T16:08:11Z)
• Skills-in-Context Prompting: Unlocking Compositionality in Large Language Models [68.18370230899102]
  大規模言語モデル(LLM)における構成一般化能力の活用法について検討する。 我々は,これらのスキルに基礎を置く基礎的スキルと構成的事例の両方を同じプロンプト・コンテキストで示すことが重要であることを発見した。 SKiC型データを用いた微調整LDMは、ゼロショット弱強一般化を導出できることを示す。
  論文  参考訳（メタデータ） (2023-08-01T05:54:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。