論文の概要: (A)I Sees What You Don't: Exploiting New Attack Surfaces in Third-Party Mobile Agents
- arxiv url: http://arxiv.org/abs/2607.00333v1
- Date: Wed, 01 Jul 2026 02:17:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.681508
- Title: (A)I Sees What You Don't: Exploiting New Attack Surfaces in Third-Party Mobile Agents
- Title（参考訳）: A) サードパーティのモバイルエージェントに新たな攻撃面を爆発させる
- Abstract要約: VLM(Vision-Language Models)を利用したサードパーティのモバイルエージェントが,スマートフォンインタラクションを自動化する上で有望なパラダイムとして登場した。
本稿では,環境とのインタラクションにおいて,サードパーティのモバイルエージェントアプリと一般アプリの主な違いを要約し,エージェントのセキュリティ姿勢を分析し,2つのユニークな攻撃面を特定する。
我々は,サブリミナルテキストインジェクションや見えないピクセルゾーンエクスプロイト,スクリーンショット改ざん,ホストPCコマンドインジェクションなど,7つの具体的な攻撃を設計,実装する。
- 参考スコア（独自算出の注目度）: 6.848663048236236
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Third-party mobile agents powered by Vision-Language Models (VLMs) have emerged as a promising paradigm for automating smartphone interactions. These agents act as high-privilege decision-makers, perceiving device states through screenshots and executing actions via VLM reasoning, transforming how an agent app interacts with the environment (i.e., other apps or the OS). Correspondingly, this transformation introduces new attack surfaces or transforms benign/harmless interfaces into exploitable ones for mobile devices. In this paper, we summarize key differences between third-party mobile agent apps and general apps when interacting with the environment, analyze the security posture of agents, and identify two unique attack surfaces compared to general mobile apps: the Screen Perception Attack Surface, which exploits the gap between human and machine vision, and the Misused Channel Attack Surface, which intercepts or manipulates the agent's execution pipeline. We design and implement seven concrete attacks, from subliminal text injection and invisible pixel zone exploitation to screenshot tampering and host PC command injection. Our evaluation of five popular mobile agent frameworks demonstrates that a malicious app can hijack agent actions and achieve arbitrary command execution even without any privilege permissions, while remaining visually indistinguishable to users. These findings reveal a fundamental trust mismatch in autonomous agent design and highlight the urgent need for perception-aware security models on multi-tenant platforms.
- Abstract（参考訳）: VLM(Vision-Language Models)を利用したサードパーティのモバイルエージェントが,スマートフォンインタラクションを自動化する上で有望なパラダイムとして登場した。
これらのエージェントは、高特権の意思決定者として機能し、スクリーンショットを通してデバイス状態を認識し、VLM推論を通じてアクションを実行し、エージェントアプリが環境(例えば他のアプリやOS)とどのように相互作用するかを変換する。
これに対応して、この変換は新たなアタックサーフェスを導入したり、良性/無害なインターフェースをモバイルデバイスに活用可能なインターフェースに変換する。
本稿では、環境とのインタラクションにおいて、サードパーティのモバイルエージェントアプリと一般的なアプリの主な違いを要約し、エージェントのセキュリティ姿勢を分析し、一般的なモバイルアプリと比較して2つのユニークな攻撃面を識別する。
我々は,サブリミナルテキストインジェクションや見えないピクセルゾーンエクスプロイト,スクリーンショット改ざん,ホストPCコマンドインジェクションなど,7つの具体的な攻撃を設計,実装する。
5つの人気のあるモバイルエージェントフレームワークを評価したところ、悪意のあるアプリがエージェントアクションをハイジャックし、特権の許可なく任意のコマンド実行が可能であり、ユーザにとって視覚的に区別できないままであることがわかった。
これらの結果は、自律エージェント設計における基本的な信頼ミスマッチを明らかにし、マルチテナントプラットフォーム上での認識対応セキュリティモデルに対する緊急の必要性を強調している。
関連論文リスト
- Not an A11y: How Android Accessibility Exposes Mobile AI Agents to Indirect Prompt Injection [12.408125305560269]
敵のプロンプトは、自律エージェントが元の目的を放棄し、コンテキスト境界に違反し、不正なデバイスアクションを実行させる可能性があることを示す。
本稿では,これらの攻撃を分類し,ゼロトラスト入力検証,専用セキュリティエージェント,モバイルエージェントアーキテクチャにおける厳密なコンテキスト分離の必要性について論じる。
論文 参考訳（メタデータ） (2026-08-09T22:13:55Z) - DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。
DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。
DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
論文 参考訳（メタデータ） (2026-05-06T11:59:48Z) - WebAgentGuard: A Reasoning-Driven Guard Model for Detecting Prompt Injection Attacks in Web Agents [117.65855863464863]
Webエージェントはインジェクション攻撃に対して非常に脆弱である。
システム・プロンプト・ディフェンス(英語版)やエージェントの直接微調整を含む既存の防御は、効果が限られている。
本稿では,WebAgentGuardを導入し,インジェクション検出のためのマルチモーダルガードモデルを提案する。
論文 参考訳（メタデータ） (2026-04-14T04:50:35Z) - AgentRAE: Remote Action Execution through Notification-based Visual Backdoors against Screenshots-based Mobile GUI Agents [18.82273534480229]
モバイルグラフィカルユーザインタフェース(GUI)エージェントは、アプリケーションとオペレーティングシステム(OS)を自律的に制御する
本稿では,視覚的に自然なトリガを用いたモバイルGUIエージェントにおけるリモートアクション実行を誘導する新しいバックドアアタックであるAgentRAEを提案する。
評価の結果,提案したバックドアは10個のモバイル操作に対して90%以上の攻撃成功率でクリーンな性能を保っていることが明らかとなった。
論文 参考訳（メタデータ） (2026-03-24T09:51:43Z) - Blind Gods and Broken Screens: Architecting a Secure, Intent-Centric Mobile Agent Operating System [30.443894673057816]
我々は,Doubao Mobile Assistantを用いて,最先端のモバイルエージェントのシステムセキュリティ分析を行う。
我々は脅威の風景をエージェントアイデンティティ、外部インタフェース、内部推論、アクション実行の4つの次元に分解する。
クリーンスレート安全なエージェントOSであるAuraを提案する。
論文 参考訳（メタデータ） (2026-02-11T14:52:27Z) - Effective and Stealthy One-Shot Jailbreaks on Deployed Mobile Vision-Language Agents [29.62914440645731]
アプリ内のプロンプトインジェクションを活用する一発のjailbreak攻撃を提示する。
悪意のあるアプリはUIテキストに短いプロンプトを埋め込むが、エージェントがADBを介してUIを駆動すると明らかになる。
当社のフレームワークは,(1)悪質なアプリへのペイロードをエージェントの視覚入力として注入する低プライバシー認識チェーンターゲティング,(2)物理的タッチ属性を用いてエージェントを識別し,エージェント操作時にのみペイロードを公開するタッチベーストリガ,(3)ステルス誘導された文字レベルのワンショットプロンプトエフェクト,の3つの重要なコンポーネントから構成される。
論文 参考訳（メタデータ） (2025-10-09T05:34:57Z) - VisualTrap: A Stealthy Backdoor Attack on GUI Agents via Visual Grounding Manipulation [73.92237451442752]
この研究は、GUI要素に対するGUIエージェントをマッピングするテキストプランの視覚的基盤が脆弱性をもたらすことを明らかにしている。
視覚的接地を目的としたバックドア攻撃では、適切なタスク解決計画が与えられた場合でもエージェントの行動が損なわれる可能性がある。
そこで我々は,エージェントが意図したターゲットではなく,意図した位置をトリガーするテキストプランを見つけることをミスリードすることで,グラウンドディングをハイジャックできるVisualTrapを提案する。
論文 参考訳（メタデータ） (2025-07-09T14:36:00Z) - Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。
この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。
クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
論文 参考訳（メタデータ） (2025-06-16T08:09:32Z) - VPI-Bench: Visual Prompt Injection Attacks for Computer-Use Agents [74.6761188527948]
完全なシステムアクセスを持つコンピュータ利用エージェント(CUA)は、セキュリティとプライバシの重大なリスクを負う。
我々は、悪意のある命令がレンダリングされたユーザーインターフェイスに視覚的に埋め込まれた視覚的プロンプトインジェクション(VPI)攻撃について検討する。
実験により,現在のCUAとBUAは,それぞれのプラットフォーム上で最大51%,100%の速度で騙すことができることがわかった。
論文 参考訳（メタデータ） (2025-06-03T05:21:50Z) - MIP against Agent: Malicious Image Patches Hijacking Multimodal OS Agents [60.92962583528122]
オペレーティングシステム(OS)エージェントの最近の進歩により、視覚言語モデル(VLM)がユーザのコンピュータを直接制御できるようになった。
これらのOSエージェントに対する新たなアタックベクターを発見した:MIP(Malicious Image Patches)
MIPは、OSエージェントにキャプチャされたとき、特定のAPIを活用することで有害なアクションを誘導する画面領域を逆向きに乱した。
論文 参考訳（メタデータ） (2025-03-13T18:59:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。