論文の概要: Runaway Reaction: When Benign Skills Compose into Malicious Behavior

• arxiv url: http://arxiv.org/abs/2610.05943v1
• Date: Mon, 05 Oct 2026 07:59:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 03:01:09.854513
• Title: Runaway Reaction: When Benign Skills Compose into Malicious Behavior
• Title（参考訳）: 脱走反応:良性スキルが悪意ある行動を構成するとき
• Abstract要約: 既存のセキュリティ検証は、単独でスキルを評価し、構成によって引き起こされるリスクを過小評価している。 我々は,悪意ある行動のインスタンス化を目的として,多スキル実行(CRIME)による構成的リスク誘導を提案する。 我々は8つのサイバーセキュリティ行動にまたがる4000の公開スキルのベンチマークを構築し、構成による脆弱性を体系的に評価する。
• 参考スコア（独自算出の注目度）: 5.374692296344299
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agent skills package task-specific knowledge and procedures that can be composed to support complex agent tasks, while public marketplaces provide a growing pool of reusable skills. Existing security vetting, however, largely evaluates skills in isolation, leaving composition-induced risks underexplored. Such risks arise because composing benign skills expands the agent's capability space, enabling behaviors unavailable to any skill alone. Interestingly, we find that directly composing benign skills can already induce malicious behaviors, even when every individual skill passes security vetting. We further find that some target malicious behaviors remain difficult to realize through direct composition, even when the selected skills collectively provide the required capabilities. To systematically instantiate these attacks, we present Compositional Risk Induction via Multi skill Execution (CRIME). CRIME first uses the Malicious Plot Casting (MPC) module to decompose a target malicious behavior into complementary requirements and identify suitable benign skill compositions from public skill repositories. For compositions that cannot directly realize the target behavior, the Runaway Reaction Steering (RRS) module uses execution feedback to iteratively refine the selected skills toward the target while requiring each skill to remain benign under standalone vetting. The resulting composition is then passed to the Skill Reaction Chamber (SRC) module, where the skill pair is executed in a sandbox and the resulting environmental consequences are examined to determine whether the target behavior has occurred. Unsuccessful cases are returned to RRS for further refinement. Furthermore, we construct a benchmark of 4,000 public skills across eight cybersecurity behaviors for systematic evaluation of composition-induced vulnerabilities.
• Abstract（参考訳）: エージェントスキルは複雑なエージェントタスクをサポートするために構成できるタスク固有の知識と手順をパッケージする。 しかし、既存のセキュリティ検証は、主に単独でスキルを評価し、構成によるリスクを過小評価している。 このようなリスクは、良心的なスキルを構成することによってエージェントの能力空間が拡大し、いかなるスキルにも利用できない行動を可能にするためである。 興味深いことに、個々のスキルがセキュリティ審査に合格しても、良心的なスキルを直接構成することは、すでに悪意ある行動を引き起こす可能性がある。 さらに,選択したスキルが要求される能力をまとめて提供しても,直接構成によってターゲットの悪意のある行動を実現することは困難であることが判明した。 これらの攻撃を体系的にインスタンス化するために,多スキル実行(CRIME)による構成的リスク誘導を提案する。 CRIMEはまずMalicious Plot Casting (MPC)モジュールを使用して、ターゲットの悪意のある振る舞いを補完的な要件に分解し、パブリックスキルリポジトリから適切な良質なスキル構成を特定する。 ターゲットの動作を直接実現できないコンポジションでは、実行フィードバックを使用して、選択したスキルを目標に向けて反復的に洗練し、各スキルを独立した審査の下で良識を保つ必要がある。 そして、得られた組成物をスキル反応室(SRC)モジュールに渡して、サンドボックス内でスキルペアを実行し、その結果の環境影響を調べて、標的の挙動が生じたかどうかを判断する。 余計なケースは、さらなる改善のためにRSSに返却される。 さらに,8つのサイバーセキュリティ行動にまたがる4000の公開スキルのベンチマークを構築し,構成による脆弱性の体系的評価を行った。

関連論文リスト

• Hiding in Plain Sight: Decoupling Pretext from Actuation for Skill Poisoning in LLM Agents [27.998991258136755]
  LLMエージェントは、複雑で多段階のタスクに再利用可能なスキルにますます依存している。 既存のスキル中毒は、その文脈的前提でアクティベーションをコロケーションするか、複数のスキルでアクティベーションを分配するかのいずれかである。 本稿では,アクティベーションからプレテキストを分離する,協調型アタックパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-09-30T09:12:53Z)
• Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems [79.08507314067253]
  スキルカスケード攻撃では、悪意のある目的が複数のスキルに分散され、それぞれの変更が独立して良さそうに見えるが、それらの組み合わせの実行は有害である。 本研究は, コンポーネントレベルの完全性とシステムレベルの安全性のギャップを浮き彫りにし, 個別のスキルではなく, クロススキルの相互作用を理由とする防御を呼び掛けた。
  論文  参考訳（メタデータ） (2026-09-24T18:00:18Z)
• Coalition-Aware Skill Reliability for Self-Evolving Agents [49.43736235959317]
  エージェントのスキルバンクに蓄積したスキルが、実際にポジティブなメカニスティックな貢献をするかどうかを検討する。 銀行レベルが上昇する連立政権の公害は、負の連立政権レベルのスキル貢献を隠蔽し、クロスドメイン・ユーティリティ・リバーサル(クロスドメイン・リヴァーサル)であり、ソース・ベネシカル・スキルが移転後の効果を逆転させることを示している。 これらの知見は, スキル蓄積時の連帯認識スキル選択と, 移行後のラベルフリースキルマスキングの2つの信頼性介入の動機となった。
  論文  参考訳（メタデータ） (2026-08-23T21:35:22Z)
• OpenSkillRisk: Benchmarking Agent Safety When Using Real-World Risky Third-Party Skills [14.078280127843108]
  サードパーティのスキルには、実際の実行時にのみ発生する、潜伏する安全リスクが含まれる。 本研究では,現在のエージェントシステムがどのようにリスクを認識し,回避しているかを体系的に調査する。 定量的かつ質的な評価を支援するために,263のリスクスキルを含む専用安全ベンチマークOpenSkillRiskを構築した。
  論文  参考訳（メタデータ） (2026-07-22T13:24:09Z)
• SkillFuzz: Fuzzing Skill Composition for Implicit Intents Discovery in Open Skill Marketplaces [20.34628050914095]
  オープンスキルマーケットプレースは、コミュニティに貢献するスキルを共同で活性化することで、エージェントを組み立てることを可能にする。 結果として、個々に良心的なスキルが相互作用し、意図しない目的に向けてエージェントをリダイレクトし、暗黙の意図(暗黙の意図)を表現できる。 本稿では、構造化されたスキル契約を抽出し、契約ガイド付きモンテカルロ木探索を用いて競合する可能性のあるコンポジションを優先順位付けする、最初の実行不要なテスト手法であるスキルファズを提案する。
  論文  参考訳（メタデータ） (2026-07-02T15:49:21Z)
• SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction [89.03272793385054]
  エージェントスキルはエージェントワークフローにおける特権的な位置を占め、サードパーティスキルを脆弱な攻撃面にする。 我々はスキルベースアタックのベンチマークであるSkillHarmを紹介した。 攻撃成功率はFPPが86.3%、SMPが69.3%である。
  論文  参考訳（メタデータ） (2026-06-01T17:45:39Z)
• Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework [63.74295981594549]
  大規模言語モデル(LLM)は、自身の目的を達成する行動に関与している。 これには、詐欺(故意に誤解を招くユーザや評価者)、評価ゲーム(安全テスト中のパフォーマンスを戦略的に操作する)、報酬ハッキングなどが含まれる。 自動行動リスク評価のための分類駆動型エージェントフレームワークであるESRRSimを紹介する。
  論文  参考訳（メタデータ） (2026-04-23T23:44:01Z)
• SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement [66.44008181092832]
  LLMベースのエージェントシステムは、その能力を拡張するためにオープンレジストリからのエージェントスキルにますます依存している。 SkillAttackは、敵のプロンプトを通じて、スキル脆弱性の脆弱性を検証できるフレームワークである。
  論文  参考訳（メタデータ） (2026-04-05T06:25:11Z)
• Capability-Oriented Training Induced Alignment Risk [101.37328448441208]
  我々は、強化学習で訓練された言語モデルが、その報酬を最大化するために欠陥を利用することを自然に学習するかどうかを考察する。 我々の実験は、モデルがこれらの脆弱性を常に活用し、タスクの正しさや安全性を犠牲にして報酬を著しく増大させる機会論的戦略を発見していることを示している。 我々の研究結果は、将来のAIの安全作業がコンテンツモデレーションを超えて、トレーニング環境の厳格な監査と確保、および報奨メカニズム自体に拡張する必要があることを示唆している。
  論文  参考訳（メタデータ） (2026-02-12T16:13:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。