論文の概要: MobileJailBench: Red Queen Jailbreak Benchmarking for Mobile Agents

• arxiv url: http://arxiv.org/abs/2610.23303v1
• Date: Fri, 16 Oct 2026 11:06:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.898803
• Title: MobileJailBench: Red Queen Jailbreak Benchmarking for Mobile Agents
• Title（参考訳）: MobileJailBench: モバイルエージェントのレッドクイーンジェイルブレイクベンチマーク
• Abstract要約: MLLMベースのモバイルエージェントは、動的モバイル環境での認識、計画、クローズドループ実行において、急速に自律性を高めている。 既存のジェイルブレイク評価は、モバイルエージェントに3つの重要なギャップを残している。 私たちはMobileJailBenchを紹介します。
• 参考スコア（独自算出の注目度）: 26.14176817940725
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: MLLM-based mobile agents are rapidly gaining autonomy in perception, planning, and closed-loop execution in dynamic mobile environments. However, this autonomy also broadens the attack surface and amplifies the risks of malicious misuse, including privacy leakage, device compromise, and large-scale phishing. Existing jailbreak evaluations leave three critical gaps for mobile agents: they focus on conversational attacks instead of mobile workflows, use static task sets with fixed difficulty, and rely narrowly on attack success rate rather than comprehensive security assessment. To close these gaps, we present MobileJailBench, the first evolving jailbreak benchmark for mobile agents, comprising three key components: (1) a benchmark comprising 520 tasks spanning three jailbreak paradigms and 14 risk categories, built on a high-fidelity mobile sandbox that we construct, enabling realistic workflows across over 20 widely used apps; (2) Dual-Dynamic Evolution, which combines Failure-Distilled Jailbreak Evolution with Weakness-Driven Benchmark Expansion; and (3) Stratified Adjudication Framework for assessing security awareness, execution behavior, and risk consequences. Extensive experiments show that current mobile agents are particularly vulnerable to implicit jailbreaks, as their safety alignment remains largely superficial and fails to generalize from conversational refusal to dynamic mobile interactions. Moreover, our dynamic evolution mechanism sharpens practical threat boundaries by continually uncovering new vulnerabilities, reaching a 100% ASR on Qwen3.5-122B. MobileJailBench provides a reproducible, continuously evolving framework for tracking the true security boundaries of mobile agents.
• Abstract（参考訳）: MLLMベースのモバイルエージェントは、動的モバイル環境での認識、計画、クローズドループ実行において、急速に自律性を高めている。 しかし、この自律性は攻撃面を広げ、プライバシーの漏洩、デバイスの侵入、大規模なフィッシングなどの悪意ある誤用のリスクを増大させる。 既存のジェイルブレイク評価は、モバイルエージェントにとって重要な3つのギャップを残している。それらは、モバイルワークフローではなく会話による攻撃に焦点を当て、固定された困難を伴う静的タスクセットを使用し、包括的なセキュリティアセスメントよりも攻撃成功率に狭く依存する。 これらのギャップを埋めるために、モバイルエージェントのための最初のジェイルブレイクベンチマークであるMobileJailBenchを紹介します。1) ジェイルブレイクパラダイム3つと14のリスクカテゴリにまたがる520のタスクからなるベンチマークで、私たちが構築した高忠実なモバイルサンドボックス上に構築され、20以上の広く使用されているアプリで現実的なワークフローを可能にします。 大規模な実験は、現在のモバイルエージェントが特に暗黙のジェイルブレイクに対して脆弱であることを示しており、安全アライメントは表面的であり、会話の拒絶から動的なモバイルインタラクションへの一般化に失敗している。 さらに,我々の動的進化機構は,新たな脆弱性を継続的に発見し,Qwen3.5-122B上で100%ASRに達することにより,実用上の脅威境界を鋭くする。 MobileJailBenchは、モバイルエージェントの真のセキュリティ境界を追跡するための再現可能な、継続的な進化中のフレームワークを提供する。

関連論文リスト

• MobileInject: Evaluating Reasoning-to-Action Security of MLLM-Based Mobile Agents under Cross-Modal Consistency Injection [27.900286895630018]
  モバイルエージェントをマルチモーダル・インジェクション・アタック(マルチモーダル・インジェクション・アタック)や推論・ツー・アクションのセキュリティリスクに対して評価する最初のベンチマークであるMobileInjectを紹介する。 MobileInjectは、11のシナリオ、9のセキュリティリスクカテゴリ、108の実行可能なリスクインスタンスをカバーする、高忠実なインタラクティブなモバイル評価フレームワークを提供する。
  論文  参考訳（メタデータ） (2026-10-16T11:10:30Z)
• SoK: Rethinking Jailbreaking in the Era of Agentic AI: Attacks, Defenses, and Practical Consideration [1.5019059201577258]
  大規模言語モデル(LLM)は、会話アシスタントからエージェントAIシステムへと急速に進化している。 現代のモデルは、当初多くのジェイルブレイク攻撃や防衛が研究されていた初期の世代よりも、はるかに強力なネイティブの安全アライメントを示す。 我々は,ユーザインタラクション,計画,メモリ,ツール使用,エージェント間通信にまたがる攻撃と防御の統合を開発する。
  論文  参考訳（メタデータ） (2026-09-11T04:04:11Z)
• Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies [62.65225104423404]
  自己進化エージェントシステムは、敵の影響力が永久に符号化される、質的に新しい脅威の風景を導入します。 モジュール・ライフサイクル・アタック・サーフェス・マトリックスを中心に組織化されたセキュリティとプライバシの分析を行った。 その結果, 自己進化は, 既知のすべての攻撃カテゴリをセッションバウンドからラインパーシスタントに変換することがわかった。
  論文  参考訳（メタデータ） (2026-06-22T09:23:50Z)
• Benchmarking Autonomous Agents against Temporal, Spatial, and Semantic Evasions [15.535628544812326]
  LLMをベースとしたエージェントシステムを対象とした,新しい多次元回避フレームワークを提案する。 これらの脅威を定量化するために,2,254個の実世界のエージェント実行軌跡からなる総合ベンチマークであるA3S-Benchを構築した。 我々の回避フレームワークは平均リスクトリガー率を28.3%から52.6%に引き上げる。
  論文  参考訳（メタデータ） (2026-05-21T11:07:51Z)
• OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows [77.95511352806261]
  VLM(Vision-Language Models)を利用したコンピュータ利用エージェントは、モバイルプラットフォームのようなデジタル環境を操作する上で、人間のような能力を実証している。 我々は,明示的なシステムレベルの違反を検出するための形式検証器と,文脈的リスクとエージェント行動を評価するコンテキスト判断器を組み合わせた,新しいハイブリッド安全検出フレームワークOS-Sentinelを提案する。
  論文  参考訳（メタデータ） (2025-10-28T13:22:39Z)
• Effective and Stealthy One-Shot Jailbreaks on Deployed Mobile Vision-Language Agents [29.62914440645731]
  アプリ内のプロンプトインジェクションを活用する一発のjailbreak攻撃を提示する。 悪意のあるアプリはUIテキストに短いプロンプトを埋め込むが、エージェントがADBを介してUIを駆動すると明らかになる。 当社のフレームワークは,(1)悪質なアプリへのペイロードをエージェントの視覚入力として注入する低プライバシー認識チェーンターゲティング,(2)物理的タッチ属性を用いてエージェントを識別し,エージェント操作時にのみペイロードを公開するタッチベーストリガ,(3)ステルス誘導された文字レベルのワンショットプロンプトエフェクト,の3つの重要なコンポーネントから構成される。
  論文  参考訳（メタデータ） (2025-10-09T05:34:57Z)
• Hijacking JARVIS: Benchmarking Mobile GUI Agents against Unprivileged Third Parties [19.430061128447022]
  本稿では,モバイルGUIエージェントの脆弱性に関する最初の系統的研究について述べる。 本稿では,スケーラブルな攻撃シミュレーションフレームワークであるAgentHazardを紹介した。 動的タスク実行環境と攻撃シナリオの静的データセットの両方からなるベンチマークスイートを開発する。 以上の結果から, 調査対象となったエージェントは, 誤解を招く第三者コンテンツに大きく影響していることが判明した。
  論文  参考訳（メタデータ） (2025-07-06T03:31:36Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。