論文の概要: MobileProbe: Adaptive Security Evaluation of Mobile Agents via Trajectory-Aware Injection
- arxiv url: http://arxiv.org/abs/2611.16693v1
- Date: Thu, 12 Nov 2026 12:08:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.463271
- Title: MobileProbe: Adaptive Security Evaluation of Mobile Agents via Trajectory-Aware Injection
- Title(参考訳): MobileProbe: 軌道認識注入による移動体エージェントの適応的セキュリティ評価
- Abstract要約: モバイルエージェントは、携帯電話の画面を読み、ユーザの代理でアプリを操作して、オンラインショッピングやメッセージングなどのマルチステップタスクを完了させる。
エージェントは画面に表示されているものすべてに作用するため、攻撃者は悪意のある命令を通常のUIコンテンツに埋め込むことができ、そのアクションをリダイレクトすることができる。
既存のベンチマークでは、手作りのペイロードを固定タスクの固定ステップに固定することで、このリスクを測定する。
我々は,移動エージェントを適応的に評価する軌道対応赤チームフレームワークであるMobileProbeを提案する。
- 参考スコア(独自算出の注目度): 19.279132699872402
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mobile GUI agents read the screen of a phone and operate apps on a user's behalf to complete multi-step tasks such as online shopping or messaging. Because the agent acts on whatever the screen shows, an attacker can embed malicious instructions into ordinary UI content and redirect its actions. We refer to this threat as environmental injection attack (EIA). Existing benchmarks measure this risk by pinning hand-crafted payloads to a fixed step of a fixed task. This approach faces two limitations. First, each payload is bound to one task in one app and does not transfer without manual redesign. Second, agents given the same task may follow different routes, so an agent that never reaches the injected page is recorded as safe without being tested. This insufficient test coverage can cause fixed-point benchmarks to underestimate the security risk of deployed mobile agents. In this work, we propose MobileProbe, a trajectory-aware red-teaming framework that evaluates mobile agents adaptively. MobileProbe discovers attacker-controllable content surfaces through automated pentesting, localizes vulnerable decision points along the agent's trajectory, and iteratively refines context-aware payloads through a surrogate-filtered evolutionary loop. We construct a benchmark of 83 long-horizon attack instances spanning 12 mobile applications. Each is annotated with a Confidentiality, Integrity, or Availability (CIA) attack goal to cover the principal categories of security threats facing mobile agents. On three representative agent architectures, MobileProbe attains higher attack success rates than human-written, zero-shot LLM, and prior automated red-teaming baselines adapted to the mobile domain. MobileProbe can serve as a pre-deployment auditing tool to systematically uncover vulnerabilities and inform security hardening of mobile agents.
- Abstract(参考訳): モバイルGUIエージェントは、携帯電話の画面を読み、ユーザの代理でアプリを操作して、オンラインショッピングやメッセージングなどのマルチステップタスクを完了させる。
エージェントは画面に表示されているものすべてに作用するため、攻撃者は悪意のある命令を通常のUIコンテンツに埋め込むことができ、そのアクションをリダイレクトすることができる。
この脅威を環境注入攻撃(EIA)と呼ぶ。
既存のベンチマークでは、手作りのペイロードを固定タスクの固定ステップに固定することで、このリスクを測定する。
このアプローチには2つの制限がある。
まず、各ペイロードは1つのアプリで1つのタスクにバインドされ、手動の再設計なしでは転送されない。
第二に、同じタスクを与えられたエージェントは異なる経路をたどることができるため、注入されたページに到達しないエージェントは、テストされることなく安全に記録される。
このテストカバレッジが不十分なため、固定ポイントベンチマークは、デプロイされたモバイルエージェントのセキュリティリスクを過小評価する可能性がある。
本研究では,移動エージェントを適応的に評価する軌道対応型赤チームフレームワークであるMobileProbeを提案する。
MobileProbeは自動ペンテストを通じてアタッカー制御可能なコンテンツ表面を発見し、エージェントの軌道に沿って脆弱な決定ポイントをローカライズし、サロゲートフィルタされた進化ループを通じてコンテキスト認識ペイロードを反復的に洗練する。
12のモバイルアプリケーションにまたがる83のロングホライゾンアタックインスタンスのベンチマークを構築した。
それぞれに機密性、統合性、またはアベイラビリティ(CIA)攻撃目標がアノテートされ、モバイルエージェントが直面しているセキュリティ脅威の主要なカテゴリをカバーする。
3つの代表的エージェントアーキテクチャでは、MobileProbeは、人間が書いたゼロショットのLDMや、モバイルドメインに適合した以前の自動リピートベースラインよりも高い攻撃成功率を達成する。
MobileProbeはデプロイ前監査ツールとして機能し、脆弱性を体系的に発見し、モバイルエージェントのセキュリティ強化を通知する。
関連論文リスト
- SIR: Self-improving Red-teaming for Compute Use Agents [71.71987044117371]
コンピュータ・ユース・エージェント(CUA、Computer use agent)は、マウス、キーボード、端末を通じて画面を認識し、実際のオペレーティングシステムに作用する視覚言語モデルである。
操作中に信頼できないコンテンツに晒されるため、間接的プロンプトインジェクション(IPI)に弱い。
SIRは,平易な言語で記述された再利用原則の小さなライブラリからステルスインジェクションを構成するブラックボックスIPIアタックである。
論文 参考訳(メタデータ) (2026-08-31T03:39:43Z) - MobileWorldSafety: Benchmarking GUI Agent Safety Against Environmental Injection Attacks in Android Apps [26.50307679295416]
実際のAndroidアプリケーション上に構築されたリスクタスクのベンチマークであるMobileWorldSafetyを紹介します。
各タスクに対して、最終システム状態に対する検証可能なリスク指標を定義する。
これは、安全性障害と能力障害を区別し、客観的かつ再現可能な評価を可能にする。
論文 参考訳(メタデータ) (2026-08-18T11:33:22Z) - (A)I Sees What You Don't: Exploiting New Attack Surfaces in Third-Party Mobile Agents [6.848663048236236]
VLM(Vision-Language Models)を利用したサードパーティのモバイルエージェントが,スマートフォンインタラクションを自動化する上で有望なパラダイムとして登場した。
本稿では,環境とのインタラクションにおいて,サードパーティのモバイルエージェントアプリと一般アプリの主な違いを要約し,エージェントのセキュリティ姿勢を分析し,2つのユニークな攻撃面を特定する。
我々は,サブリミナルテキストインジェクションや見えないピクセルゾーンエクスプロイト,スクリーンショット改ざん,ホストPCコマンドインジェクションなど,7つの具体的な攻撃を設計,実装する。
論文 参考訳(メタデータ) (2026-07-01T02:17:19Z) - Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。
この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。
クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
論文 参考訳(メタデータ) (2025-06-16T08:09:32Z) - From Assistants to Adversaries: Exploring the Security Risks of Mobile LLM Agents [17.62574693254363]
モバイル大言語モデル(LLM)の総合的セキュリティ解析について紹介する。
言語ベースの推論,GUIベースのインタラクション,システムレベルの実行という,3つのコア機能領域にわたるセキュリティ上の脅威を特定します。
分析の結果,11個の異なる攻撃面が明らかとなり,それぞれが移動型LDMエージェントのユニークな機能と相互作用パターンに根ざしていることがわかった。
論文 参考訳(メタデータ) (2025-05-19T11:17:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。