論文の概要: SkillScreen: High-Recall Screening of Malicious Agent Skills with Decision Models

• arxiv url: http://arxiv.org/abs/2610.17727v2
• Date: Wed, 14 Oct 2026 04:56:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.523161
• Title: SkillScreen: High-Recall Screening of Malicious Agent Skills with Decision Models
• Title（参考訳）: SkillScreen: 決定モデルによる悪意のあるエージェントスキルのハイリコールスクリーニング
• Abstract要約: SkillScreenは、1回のフォワードパスでSKILL$.$mdから直接スキルの悪質性を評価するために訓練されたコンパクトな決定モデルである。 MaliciousSkillBenchでは、SkillScreenが20-25%の良識を99%でフラグ付けしている。 本結果は,ハイリコールスキルスクリーニングにおけるタスク学習決定モデルの有効性を示す。
• 参考スコア（独自算出の注目度）: 7.742465418648632
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agent skills turn natural-language instructions into actions, creating a security challenge: legitimate automation and malicious behaviour can look deceptively similar. A practical screen must catch nearly every attack while keeping the review load manageable. We present SkillScreen, a compact decision model trained to score skill maliciousness directly from SKILL$.$md in a single forward pass. On MaliciousSkillBench, SkillScreen flags 20-25% of benign skills at 99% recall on unseen attack families, substantially fewer than the word-level classifier and prompted LLM judges tested. Under the same training protocol, it also generalizes better than a fully fine-tuned encoder to unseen sources. Yet unfamiliar benign sources sharply increase false positives, showing that recognizing new attacks does not ensure reliable screening of new skill collections. Our results demonstrate the value of task-trained decision models for high-recall skill screening. Project page: https://jerroldh.github.io/SkillScreen-webpage/
• Abstract（参考訳）: エージェントスキルは自然言語の指示をアクションに変え、セキュリティ上の課題を生み出す。 実際のスクリーンは、レビューの負荷を管理しながら、ほぼすべての攻撃をキャッチしなければなりません。 SkillScreenは、SKILL$から直接スキルの悪質性を評価するために訓練された、コンパクトな決定モデルである。 1回のフォワードパスで$md MaliciousSkillBenchでは、SkillScreenが20～25%の良心的スキルを99%でリコールし、ワードレベルの分類器よりも大幅に少なく、LSMの審査員がテストした。 同じトレーニングプロトコルの下では、完全に微調整されたエンコーダよりも、見当たらないソースを一般化する。 しかし、不慣れな良識ソースは、偽陽性を急激に増加させ、新しい攻撃を認識することは、新しいスキルコレクションの確実なスクリーニングを保証するものではないことを示している。 本結果は,ハイリコールスキルスクリーニングにおけるタスク学習決定モデルの有効性を示す。 プロジェクトページ:https://jerroldh.github.io/SkillScreen-webpage/

関連論文リスト

• Encrypted Skills Can Become New Security Exploits If AI Agents Know How to Decipher [52.39206752229672]
  サードパーティのスキルは、LLMエージェントをエンコーディングによって隠された悪意のある命令に公開することができる。 本稿では,Ciphered Skill Injection (CSI)を紹介した。 8種類のモデルと139種類のインジェクション・タスク・ペアで,CaesarおよびLayered variantを評価した。
  論文  参考訳（メタデータ） (2026-10-13T12:25:46Z)
• Pretext: Defeating Malicious Skill Detection Frameworks for AI Agents [0.9453554184019107]
  スキルは、コンテキストに命令と情報を注入することでエージェントの機能を拡張する。 以前の調査では、サードパーティのマーケットプレースは悪意のあるスキルをホストしており、攻撃者は被害者のエージェントに直接的な影響力を与える。 このような防御は、検知器を知っている攻撃者によって行われる。
  論文  参考訳（メタデータ） (2026-09-30T12:26:33Z)
• SkillSecurer: Detecting and Patching Prompt-Injection Vulnerabilities in AI Agent Skills [0.6263481844384228]
  SkillSecurerは、エージェントスキルのセキュリティリスクの生成、検出、ローカライズ、更新を行うフレームワークである。 レッドエージェントは、正確な修正を記録しながら、9つの脅威タイプにわたるコンテキスト互換のインジェクションを生成する。 ブルーエージェントは完全なスキルパッケージを分析し、根拠付きエビデンスを生成し、パッチを提案する。
  論文  参考訳（メタデータ） (2026-09-12T17:52:06Z)
• MalSkillBench: A Runtime-Verified Benchmark of Malicious Agent Skills [24.371534406647978]
  MalSkillBenchは、悪質なエージェントスキルの最初のランタイム検証ベンチマークである。 コードインジェクションは94.5%に達するが、迅速なインジェクションは75.8%に過ぎない。 データセット、パイプライン、ベースライン、結果をリリースしています。
  論文  参考訳（メタデータ） (2026-06-05T10:43:19Z)
• SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction [89.03272793385054]
  エージェントスキルはエージェントワークフローにおける特権的な位置を占め、サードパーティスキルを脆弱な攻撃面にする。 我々はスキルベースアタックのベンチマークであるSkillHarmを紹介した。 攻撃成功率はFPPが86.3%、SMPが69.3%である。
  論文  参考訳（メタデータ） (2026-06-01T17:45:39Z)
• SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement [66.44008181092832]
  LLMベースのエージェントシステムは、その能力を拡張するためにオープンレジストリからのエージェントスキルにますます依存している。 SkillAttackは、敵のプロンプトを通じて、スキル脆弱性の脆弱性を検証できるフレームワークである。
  論文  参考訳（メタデータ） (2026-04-05T06:25:11Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Does Few-shot Learning Suffer from Backdoor Attacks? [63.9864247424967]
  数発の学習がバックドアアタックに対して脆弱であることは明らかです。 本手法は,FSLタスクにおける攻撃成功率(ASR)を,異なる数発の学習パラダイムで示す。 この研究は、数発の学習がまだバックドア攻撃に悩まされており、そのセキュリティに注意を払う必要があることを明らかにしている。
  論文  参考訳（メタデータ） (2023-12-31T06:43:36Z)
• MPAF: Model Poisoning Attacks to Federated Learning based on Fake Clients [51.973224448076614]
  本稿では,MPAF と呼ばれる Fake クライアントをベースとした最初のモデルポジショニング攻撃を提案する。 MPAFは、たとえ古典的な防御とノルムクリッピングが採用されたとしても、グローバルモデルのテスト精度を著しく低下させることができる。
  論文  参考訳（メタデータ） (2022-03-16T14:59:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。