論文の概要: MMSkillRisk: Can Agents Stay Safe When Multimodal Skills Become Traps?
- arxiv url: http://arxiv.org/abs/2609.35912v1
- Date: Mon, 28 Sep 2026 08:07:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:46.888262
- Title: MMSkillRisk: Can Agents Stay Safe When Multimodal Skills Become Traps?
- Title（参考訳）: MMSkillRisk:マルチモーダルスキルがトラップになるとき、エージェントは安全か?
- Abstract要約: 我々はMMSkillRiskを紹介した。MMSkillRiskは、マルチモーダルスキルにおける画像による攻撃のエンドツーエンド安全性評価のための最初のベンチマークである。
28のキュレートされたクリーンスキルから構築されたMMSkillRiskには、36のアタックパッケージと、5つのアタック目標にまたがる108の実行可能なケースが含まれている。
攻撃成功率は36.5%で、GPT-5.6-solは72.2%、Codexは72.2%だった。
- 参考スコア（独自算出の注目度）: 20.554629787408754
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agent skills are shareable packages of procedural instructions, tools, and examples. Multimodal skills additionally include visual references that agents retrieve and inspect during execution. Because these images guide actions, attackers can disguise malicious instructions as ordinary visual guidance within otherwise legitimate skills. Existing skill-security research primarily examines text-carried attacks or scanner detection, leaving the runtime effects of image-borne attacks insufficiently evaluated. We introduce MMSkillRisk, to our knowledge the first publicly available benchmark dedicated to end-to-end safety evaluation of image-borne attacks in multimodal skills. To instantiate this attack surface, we design Native-Context Visual Attack (NCVA), which disguises malicious instructions as native components of teaching images, such as annotations and interface labels. The accompanying SKILL.md provides auxiliary guidance toward relevant visual regions without explicitly stating the malicious operation. Built from 28 curated clean skills, MMSkillRisk contains 36 attack packages and 108 executable cases spanning five attack objectives, with separate checks for attack success and legitimate-task completion. Across nine model-harness configurations evaluated in isolated sandboxes, NCVA induces unauthorized operations in every configuration. Its pooled attack success rate (ASR) reaches 43.1%, exceeding the matched text-carrier baseline by 16.4 percentage points, with higher ASR in all nine configurations. Attack success and legitimate-task completion co-occur in 36.5% of cases, reaching 72.2% for GPT-5.6-sol with Codex. These results show that skill-bundled images can induce unauthorized actions even as agents complete legitimate tasks, so task success alone does not establish safe skill use. Our code and data are available at https://github.com/kaill-jlq/MMSkillRisk.
- Abstract（参考訳）: エージェントスキルは、手続き的な指示、ツール、サンプルの共有可能なパッケージである。
マルチモーダルスキルには、実行中にエージェントが検索して検査する視覚参照も含まれている。
これらの画像はアクションを誘導するので、攻撃者は悪意のある指示を通常の視覚的指示として正当なスキルで偽装することができる。
既存の技術セキュリティ研究は、主にテキストによる攻撃やスキャナー検出を調べ、画像による攻撃のランタイム効果を十分に評価していない。
我々はMMSkillRiskを紹介し、マルチモーダルスキルにおける画像による攻撃のエンド・ツー・エンドの安全性評価に特化した最初の公開ベンチマークについて紹介する。
この攻撃面をインスタンス化するために、アノテーションやインターフェースラベルなどの画像のネイティブコンポーネントとして悪意のある命令を偽装するNative-Context Visual Attack (NCVA)を設計する。
付随するSKILL.mdは、悪意のある操作を明示することなく、関連する視覚領域への補助的なガイダンスを提供する。
MMSkillRiskは28のキュレートされたクリーンスキルから構築され、36のアタックパッケージと5つのアタック目標にまたがる108の実行可能なケースを含んでいる。
独立したサンドボックスで評価された9つのモデルハーネス構成のうち、NCVAはすべての構成において不正な操作を誘導する。
プール攻撃成功率(ASR)は43.1%に達し、マッチしたテキストキャリアベースラインを16.4ポイント上回る。
攻撃成功率は36.5%で、GPT-5.6-solは72.2%、Codexは72.2%だった。
これらの結果から, エージェントが正常なタスクを完了しても, スキル満載画像は不正行為を誘発し, タスク成功だけでは安全なスキル使用が確立されないことがわかった。
私たちのコードとデータはhttps://github.com/kaill-jlq/MMSkillRisk.comで公開されています。
関連論文リスト
- SIR: Self-improving Red-teaming for Compute Use Agents [71.71987044117371]
コンピュータ・ユース・エージェント(CUA、Computer use agent)は、マウス、キーボード、端末を通じて画面を認識し、実際のオペレーティングシステムに作用する視覚言語モデルである。
操作中に信頼できないコンテンツに晒されるため、間接的プロンプトインジェクション(IPI)に弱い。
SIRは,平易な言語で記述された再利用原則の小さなライブラリからステルスインジェクションを構成するブラックボックスIPIアタックである。
論文 参考訳（メタデータ） (2026-08-31T03:39:43Z) - Cloak and Detonate: Scanner Evasion and Dynamic Detection of Agent Skill Malware [15.064889350201511]
悪意のあるスキルは、認証情報を盗んだり、ソースコードを流出させたり、バックドアをインストールしたりできる。
既存の防御はパターンマッチングやLSM-as-judge分析を用いる。
サンドボックスでスキルを実行する行動中心の監査ツールであるSkillDetonateを提案する。
論文 参考訳（メタデータ） (2026-07-02T16:00:52Z) - Seeing Is Not Screening: Multimodal Hidden Instruction Attacks on Agent Skill Scanners [34.485920220166285]
LLMベースのシステムではエージェントスキルが重要な攻撃面として浮上している。
現在の防衛は、セキュリティ分析の主要な信号として、テキスト記述、マニフェスト、ソースコードに依存している。
本稿では,文書を介するマルチモーダル・インストラクション・アタックであるSkillCamoを提案する。
また,インテント抽出,行動再構成,虐待評価,熟考的実行シミュレーションを行う,実行地上マルチモーダルスキャンモジュールであるExecScanを提案する。
論文 参考訳（メタデータ） (2026-06-16T17:29:11Z) - SkillMutator: Benchmarking and Defending Language-and-Code Cross-modal Attacks on LLM Agent Skills [7.465256215885481]
大きな言語モデル(LLM)エージェントは、エージェントスキルをロードすることで、実行時にその機能を拡張する。
スキルの振る舞いは自然言語命令と実行可能コードの両方に依存しているため、その安全性を評価するにはクロスモーダル推論が必要である。
我々は、Agent Skillsに対する言語とコードのクロスモーダル攻撃をインストール時に検出する最初のベンチマークであるSkillMutatorを紹介した。
論文 参考訳（メタデータ） (2026-06-12T06:27:12Z) - SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction [89.03272793385054]
エージェントスキルはエージェントワークフローにおける特権的な位置を占め、サードパーティスキルを脆弱な攻撃面にする。
我々はスキルベースアタックのベンチマークであるSkillHarmを紹介した。
攻撃成功率はFPPが86.3%、SMPが69.3%である。
論文 参考訳（メタデータ） (2026-06-01T17:45:39Z) - Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry [49.83108591873481]
SKILL.md - エージェントスキルライフサイクルの3つのステージを対象とするアタックのみを調査する。
SKILL.mdは受動的ドキュメントではなく、サードパーティのエージェントが発見し、信頼し、使用する機能を形成する運用テキストであることを示す。
論文 参考訳（メタデータ） (2026-05-12T02:11:54Z) - Supply-Chain Poisoning Attacks Against LLM Coding Agent Skill Ecosystems [35.65937852381774]
Document-Driven Implicit Payload Execution (DDIPE)は、コード例や設定テンプレートに悪意のあるロジックを埋め込む。
我々は15のMITRE ATTACKカテゴリで81種から1,070の対逆スキルを生成した。
DDIPEは11.6%から33.5%のバイパス率を獲得し、明示的な命令攻撃は強い防御下で0%を達成する。
論文 参考訳（メタデータ） (2026-04-03T14:58:58Z) - How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition [48.32744727426218]
LLMベースのエージェントは、電子メール、ドキュメント、コードリポジトリなどの外部データソースを処理する高利得設定にますますデプロイされている。
これにより間接的なプロンプトインジェクション攻撃が発生し、外部コンテンツに埋め込まれた敵の命令は、ユーザの意識なしにエージェントの動作を操作できる。
この2つの目的を3つのエージェント設定で評価した。
論文 参考訳（メタデータ） (2026-03-16T14:49:36Z) - Document Screenshot Retrievers are Vulnerable to Pixel Poisoning Attacks [72.4498910775871]
ヴィジュアル言語モデル(VLM)ベースのレトリバーは、ベクターとして埋め込まれた文書のスクリーンショットを活用して、効率的な検索を可能にし、従来のテキストのみの手法よりも単純化されたパイプラインを提供する。
本研究では,VLMをベースとしたレトリバーを危険にさらすために,3つのピクセル中毒攻撃手法を提案する。
論文 参考訳（メタデータ） (2025-01-28T12:40:37Z) - Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。
我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。
AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
論文 参考訳（メタデータ） (2024-06-18T17:32:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。