論文の概要: Are Android GUI Agents Robust Against Runtime Anomalies? AnTrap: Evaluating Agents in Dynamic Adversarial Environments
- arxiv url: http://arxiv.org/abs/2608.24099v1
- Date: Tue, 25 Aug 2026 05:57:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.824877
- Title: Are Android GUI Agents Robust Against Runtime Anomalies? AnTrap: Evaluating Agents in Dynamic Adversarial Environments
- Title（参考訳）: Android GUIエージェントは実行時異常に対してロバストか?AnTrap:動的逆境環境におけるエージェントの評価
- Abstract要約: エージェントの実行軌跡に動的摂動を注入する総合ベンチマークAnTrapを導入する。
本研究では,現実世界の異常を4つの層(状態,思考,行動,ラウンド)に分類する分類法を提案する。
また,現実的な対向条件を導入しながら,課題解決可能性を維持する構築パイプラインも開発している。
- 参考スコア（独自算出の注目度）: 19.009627117174947
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: GUI agents often encounter dynamic anomalies when deployed on Android devices, from unexpected pop-ups to action misuse, yet existing benchmarks lack systematic evaluation of agent robustness against runtime anomalies. We introduce AnTrap, a comprehensive benchmark that injects dynamic perturbations into agent execution trajectories. We propose a taxonomy organizing real-world anomalies into four layers (State, Thinking, Action and Round) with ten fine-grained subcategories, and develop a construction pipeline that preserves task solvability while introducing realistic adversarial conditions. Evaluating 16 leading GUI models, we reveal universal vulnerability to dynamic anomalies, with even the strongest models suffering significant performance degradation. Furthermore, we conduct GRPO training in both original and adversarial environments to validate our benchmark, separating environment-learnable anomalies from reasoning-bottlenecked ones. Our findings show that while single-step traps at state and action layers are largely addressable through adversarial reinforcement learning, deep contextual traps, like state deadlock, expose intrinsic limitations that cannot be resolved by training in environments with traps alone.
- Abstract（参考訳）: GUIエージェントは、予期せぬポップアップからアクションの誤用まで、Androidデバイスにデプロイするときに動的異常に遭遇することが多いが、既存のベンチマークでは、実行時異常に対するエージェントの堅牢性の体系的な評価が欠如している。
エージェントの実行軌跡に動的摂動を注入する総合ベンチマークAnTrapを導入する。
本研究では,現実世界の異常を10の細粒度のサブカテゴリで4つの層(状態,思考,行動,ラウンド)に分類する分類法を提案する。
16の主要なGUIモデルを評価することで、動的異常に対する普遍的な脆弱性を明らかにし、最強のモデルでさえ、大幅な性能低下を経験する。
さらに,本ベンチマークの有効性を検証するために,オリジナル環境と逆環境の両方でGRPOトレーニングを実施し,環境学習可能な異常と推論可能な異常を分離した。
その結果、状態層と動作層におけるシングルステップトラップは、敵の強化学習によって対処可能であるが、状態デッドロックのような深いコンテキストトラップは、トラップ単独の環境でのトレーニングでは解決できない固有の制限を露呈することがわかった。
関連論文リスト
- Defending against Model Extraction for GNNs with Model Reprogramming [57.82196268649236]
グラフニューラルネットワーク(GNN)は、ML(Machine-Learning-as-a-Service)における高スループットアプリケーションのバックボーンとして機能する。
それでも、ブラックボックスのデプロイメントは、モデル抽出(ME)攻撃に晒される。
既存の防衛は「ユークリッドバイアス」に苦しむ
セキュリティのためにモデル再プログラミングを再利用するプロアクティブディフェンスフレームワークであるGraphRPを提案する。
論文 参考訳（メタデータ） (2026-08-11T23:20:15Z) - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳（メタデータ） (2026-08-03T15:07:46Z) - Can Agents Generalize to the Open World? Unveiling the Fragility of Static Training in Tool Use [14.813603277906623]
我々は、クエリ、アクション、観察、ドメイン次元の分散シフトを特徴とするOpenAgentを定式化した。
分析の結果, エージェントがスーパーバイザード・ファイン・チューニング(SFT)と強化学習(Reinforcement Learning)の両方で訓練された場合, 性能劣化の程度が異なることが判明した。
本研究では,実環境におけるエージェントの堅牢性向上と実用性向上の基盤となる,SFTの妨害に基づく介入戦略であるPerturbation-Augmented Fine-Tuningを提案する。
論文 参考訳（メタデータ） (2026-07-01T15:40:25Z) - Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents [93.19140872946842]
大規模言語モデル(LLM)によって駆動されるWebエージェントは、現実の環境にますますデプロイされる。
これにより、一見良質なコンテンツがエージェントの振る舞いを操作する敵の命令を埋め込む、プロンプト・インジェクション・アタックに対して脆弱になる。
実世界のWebエージェントシステムにおいて,損害を体系的に分類し,属性付けするベンチマークである textbfsysname を導入する。
論文 参考訳（メタデータ） (2026-06-11T14:12:43Z) - Don't Fool Me Twice: Adapting to Adversity in the Wild with Experience-Driven Reasoning [2.3555777010480337]
ロボット工学では、危険と逆転モードは、しばしば具体的であり、各エージェントに対して相対的である。
本稿では,障害から学習し,異常な動作を原因とみなすための,移動体具体化エージェントのための連続学習フレームワークを提案する。
本研究は,4つの仮説を提示し,シミュレーションおよびハードウェア上での逆数モードおよび逆数モードによる検証を行う。
論文 参考訳（メタデータ） (2026-05-29T10:30:02Z) - AgentHijack: Benchmarking Computer Use Agent Robustness to Common Environment Corruptions [78.49000936275773]
我々は、一般的な汚職下でのコンピュータ利用エージェントの堅牢性を評価するために設計されたベンチマークであるAgentHijackを紹介する。
MLLMをベースとした各種デスクトップタスクを評価し, 汚職の小さな事例であっても, 大幅な性能劣化が生じることを確認した。
本稿では,動作の要約と環境チェックに責任を負う見物人として,アクションジェネレータと接地機能を統合したフレームワークであるAgent Hijack-Agentを提案する。
論文 参考訳（メタデータ） (2026-05-25T11:09:22Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳（メタデータ） (2026-03-23T14:48:54Z) - AgentNoiseBench: Benchmarking Robustness of Tool-Using LLM Agents Under Noisy Condition [72.24180896265192]
本稿では,騒音環境下でのエージェントモデルのロバスト性を評価するためのフレームワークであるAgentNoiseBenchを紹介する。
まず、実世界のシナリオにおけるバイアスと不確実性の詳細な分析を行う。
次に,環境騒音をユーザノイズとツールノイズの2つの主要なタイプに分類する。
この分析に基づいて,既存のエージェント中心ベンチマークに制御可能なノイズを注入する自動パイプラインを開発した。
論文 参考訳（メタデータ） (2026-02-11T20:33:10Z) - GhostEI-Bench: Do Mobile Agents Resilience to Environmental Injection in Dynamic On-Device Environments? [30.170538068791263]
VLM(Vision-Language Models)は,モバイルグラフィカルユーザインターフェース(GUI)をナビゲートする自律エージェントとして,ますます普及している。
環境注入は、GUIに直接敵のUI要素を挿入することで、エージェントの視覚的知覚を損なう。
GhostEI-Benchは、動的に実行可能な環境で環境注入攻撃を受けるモバイルエージェントを評価するための最初のベンチマークである。
論文 参考訳（メタデータ） (2025-10-23T08:33:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。