論文の概要: MobileInject: Evaluating Reasoning-to-Action Security of MLLM-Based Mobile Agents under Cross-Modal Consistency Injection

• arxiv url: http://arxiv.org/abs/2610.23307v1
• Date: Fri, 16 Oct 2026 11:10:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.90047
• Title: MobileInject: Evaluating Reasoning-to-Action Security of MLLM-Based Mobile Agents under Cross-Modal Consistency Injection
• Title（参考訳）: Mobile Inject: MLLMをベースとした移動体エージェントの相互整合性注入による推論と動作の安全性の評価
• Abstract要約: モバイルエージェントをマルチモーダル・インジェクション・アタック(マルチモーダル・インジェクション・アタック)や推論・ツー・アクションのセキュリティリスクに対して評価する最初のベンチマークであるMobileInjectを紹介する。 MobileInjectは、11のシナリオ、9のセキュリティリスクカテゴリ、108の実行可能なリスクインスタンスをカバーする、高忠実なインタラクティブなモバイル評価フレームワークを提供する。
• 参考スコア（独自算出の注目度）: 27.900286895630018
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal large language model (MLLM)-based mobile agents are rapidly evolving from conversational assistants into autonomous systems that perceive, reason over, and act on smartphone environments. This capability also exposes a new security risk: adversaries can embed malicious objectives in cross-application mobile content and steer agent behavior through indirect multimodal injection. Although prompt injection has been studied in desktop and web settings, its cross-modal properties in mobile ecosystems remain poorly understood, and existing security analyses are still limited. To close this gap, we introduce MobileInject, the first benchmark for evaluating mobile agents against multimodal injection attacks and reasoning-to-action security risks. MobileInject provides a high-fidelity interactive mobile evaluation framework covering 11 scenarios, 9 security-risk categories, and 108 executable risk instances. It further introduces Cross-Modal Consistency Injection to exploit corroboration across modalities, two enhanced attack methods, Multi-Role Collaborative Deception and Reasoning-Camouflage Injection, to intensify trust manipulation and reasoning hijacking, and a Reasoning Security Diagnosis Framework for fine-grained failure analysis. Systematic experiments show that mobile agents are broadly vulnerable to multimodal injection, and that many failures stem from reasoning hijacking at early stages. These findings establish MobileInject as a systematic cross-modal benchmark for studying and improving the security of mobile agents. Code release details are provided in the Appendix Open Science section.
• Abstract（参考訳）: MLLM(Multimodal large language model)ベースのモバイルエージェントは、会話アシスタントから、スマートフォン環境において知覚、推論、行動する自律システムへと急速に進化している。 敵は、間接的なマルチモーダルインジェクションを通じて、クロスアプリケーションなモバイルコンテンツやステアエージェントの動作に悪意のある目的を埋め込むことができる。 デスクトップやWeb環境では迅速なインジェクションが研究されているが、モバイルエコシステムにおけるクロスモーダルな性質は理解されていないままであり、既存のセキュリティ分析はまだ限られている。 このギャップを埋めるために、MobileInjectは、マルチモーダルインジェクション攻撃に対するモバイルエージェントの評価と、セキュリティリスクの推論のための最初のベンチマークである。 MobileInjectは、11のシナリオ、9のセキュリティリスクカテゴリ、108の実行可能なリスクインスタンスをカバーする、高忠実なインタラクティブなモバイル評価フレームワークを提供する。 さらに、モダリティ間のコロンボレーションを利用するクロスモーダル・一貫性注入(Cross-Modal Consistency Injection)、マルチロール・コラボレーティブ・デセプション(Multi-Role Collaborative Deception)とReasoning-Camouflage Injection(Reasoning-Camouflage Injection)の2つの強化された攻撃方法、信頼操作と推論ハイジャックの強化、きめ細かな障害解析のためのReasoning Security Diagnostic Framework(Reasoning Analysis Framework)も導入されている。 システム実験により、移動体エージェントは多モーダル注入に対して広範囲に脆弱であり、多くの障害は早期のハイジャックによるものであることが示された。 これらの結果から,MobileInjectは,モバイルエージェントのセキュリティを研究・改善するための,体系的なクロスモーダルベンチマークとして確立されている。 コードリリースの詳細はAppendix Open Scienceのセクションで提供されている。

関連論文リスト

• AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
  大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。 既存の安全機構は主に外部ガードレールに依存している。 我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
  論文  参考訳（メタデータ） (2026-06-21T21:13:55Z)
• PI-Hunter: Automated Red-Teaming for Exposing and Localizing Prompt Injections [51.8246149916068]
  大きな言語モデル(LLM)は、外部のツールや環境と相互作用するエージェントシステムへと急速に進化しています。 LLMエージェントのプロアクティブな脆弱性暴露のための自動エージェント監査フレームワークPI-Hunterを提案する。
  論文  参考訳（メタデータ） (2026-06-10T22:57:02Z)
• DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
  DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。 DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。 DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
  論文  参考訳（メタデータ） (2026-05-06T11:59:48Z)
• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• Measuring the Security of Mobile LLM Agents under Adversarial Prompts from Untrusted Third-Party Channels [20.06531064708478]
  大規模言語モデル(LLM)はソフトウェア開発を変革し、さまざまなアプリやベクターでタスクを自動化するAIベースのアプリケーションを可能にした。 しかし、このようなエージェントを敵の移動環境に配置する際のセキュリティ上の意味はよく分かっていない。 モバイルLLMエージェントのセキュリティリスクに関する最初の体系的研究について述べる。
  論文  参考訳（メタデータ） (2025-10-31T03:35:59Z)
• OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows [77.95511352806261]
  VLM(Vision-Language Models)を利用したコンピュータ利用エージェントは、モバイルプラットフォームのようなデジタル環境を操作する上で、人間のような能力を実証している。 我々は,明示的なシステムレベルの違反を検出するための形式検証器と,文脈的リスクとエージェント行動を評価するコンテキスト判断器を組み合わせた,新しいハイブリッド安全検出フレームワークOS-Sentinelを提案する。
  論文  参考訳（メタデータ） (2025-10-28T13:22:39Z)
• SafeMobile: Chain-level Jailbreak Detection and Automated Evaluation for Multimodal Mobile Agents [58.21223208538351]
  本研究は,モバイルマルチモーダルエージェントを取り巻くセキュリティ問題について考察する。 行動シーケンス情報を組み込んだリスク識別機構の構築を試みる。 また、大規模言語モデルに基づく自動アセスメントスキームも設計している。
  論文  参考訳（メタデータ） (2025-07-01T15:10:00Z)
• Systematic Categorization, Construction and Evaluation of New Attacks against Multi-modal Mobile GUI Agents [16.559272781032632]
  本稿では,マルチモーダルなモバイルGUIエージェントのセキュリティを体系的に調査し,既存の文献におけるこの重大なギャップに対処する。 我々は,(1)新たな脅威モデリング手法を提案し,34件の未報告攻撃の発見・実現可能性分析を行い,(2)これらの脅威を体系的に構築・評価するアタック・フレームワークを設計する。
  論文  参考訳（メタデータ） (2024-07-12T14:30:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。