論文の概要: AgentHijack: Benchmarking Computer Use Agent Robustness to Common Environment Corruptions

• arxiv url: http://arxiv.org/abs/2605.25707v1
• Date: Mon, 25 May 2026 11:09:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:19.826737
• Title: AgentHijack: Benchmarking Computer Use Agent Robustness to Common Environment Corruptions
• Title（参考訳）: AgentHijack: 一般的な環境破壊に対するコンピュータ使用エージェントのロバストネスのベンチマーク
• Authors: Jingwei Sun, Jianing Zhu, Yuanyi Li, Tongliang Liu, Xia HU, Bo Han,
• Abstract要約: 我々は、一般的な汚職下でのコンピュータ利用エージェントの堅牢性を評価するために設計されたベンチマークであるAgentHijackを紹介する。 MLLMをベースとした各種デスクトップタスクを評価し, 汚職の小さな事例であっても, 大幅な性能劣化が生じることを確認した。 本稿では,動作の要約と環境チェックに責任を負う見物人として,アクションジェネレータと接地機能を統合したフレームワークであるAgent Hijack-Agentを提案する。
• 参考スコア（独自算出の注目度）: 78.49000936275773
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autonomous computer use agents that powered by multimodal large language models (MLLMs) are emerging as capable assistants for completing complex digital workflows. However, real-world execution environments are far from ideal: pop-ups, resolution changes, and competing applications frequently interfere with agent perception and control. We introduce AgentHijack, a benchmark designed to evaluate the robustness of computer-use agents under common corruptions, where the uncertainties in dynamic environment disrupt the execution flow without direct adversarial intent. Specifically, AgentHijack introduces 9 configurable common corruptions to replicate realistic imperfect scenarios. We evaluate a variety of desktop tasks that utilize MLLM-based agents and discover that even minor instances of corruption can result in substantial performance degradation, which emphasizes the fragility of agents and underscores the necessity of robustness evaluation. Afterward, we propose AgentHijack-Agent, a framework that integrates an action generator with enhanced grounding capabilities and an onlooker responsible for behavior summarization and environment checking. Extensive experiments validate its effectiveness. Our code, environment, baseline models and data are publicly available at: https://AgentHijack.github.io.
• Abstract（参考訳）: マルチモーダル大言語モデル(MLLM)を利用した自律型コンピュータ利用エージェントが、複雑なデジタルワークフローを完了するための有能なアシスタントとして登場している。 しかし、実際の実行環境は理想的なものではない。ポップアップ、解像度の変更、競合するアプリケーションはエージェントの認識と制御に頻繁に干渉する。 本稿では,コンピュータ利用エージェントの汚職時の堅牢性を評価するためのベンチマークであるAgenHijackを紹介し,動的環境の不確実性が直接の敵意を示さずに実行フローを妨害する。 具体的には、AgentHijackは、現実的な不完全なシナリオを再現するために、9つの設定可能な共通汚職を導入している。 MLLMをベースとした各種デスクトップタスクの評価を行い, 汚職事例であっても, エージェントの脆弱性を重視し, 堅牢性評価の必要性を浮き彫りにし, 大幅な性能劣化を招きかねないことを確かめる。 その後,動作の要約と環境チェックに責任を持つ見物人とともに,作用発生器と接地機能を統合したフレームワークであるAgentHijack-Agentを提案する。 大規模な実験は、その有効性を検証する。 私たちのコード、環境、ベースラインモデル、データは、https://AgentHijack.github.io.comで公開されています。

関連論文リスト

• DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
  DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。 DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。 DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
  論文  参考訳（メタデータ） (2026-05-06T11:59:48Z)
• Stop Wasting Your Tokens: Towards Efficient Runtime Multi-Agent Systems [11.42175340352007]
  SupervisorAgentは、ランタイムと適応的な監視のための軽量でモジュール化されたフレームワークです。 SupervisorAgentは、エラーを積極的に修正し、非効率な振る舞いを誘導し、観察を浄化するために、臨界点に介入する。 挑戦的なGAIAベンチマークでは、SupervisorAgentは成功率を損なうことなく、Smolagentフレームワークのトークン消費を平均29.45%削減した。
  論文  参考訳（メタデータ） (2025-10-30T15:12:59Z)
• VeriOS: Query-Driven Proactive Human-Agent-GUI Interaction for Trustworthy OS Agents [39.3943822850841]
  We introduced VeriOS-Agent, a trustworthy OS agent training with a two-stage learning paradigm。 VeriOS-Agentは、最先端技術に対する信頼できないシナリオにおいて、平均的なステップワイドの成功率を20.64%改善することを示す。
  論文  参考訳（メタデータ） (2025-09-09T09:46:01Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• Caution for the Environment: Multimodal LLM Agents are Susceptible to Environmental Distractions [50.5976989558411]
  本稿では,GUI環境におけるマルチモーダル大規模言語モデル(MLLM)エージェントの忠実さについて検討する。 ユーザとエージェントの両方が良性であり、環境は悪質ではないが、無関係なコンテンツを含んでいる、という一般的なシナリオが提案されている。 実験結果から、ジェネラリストエージェントや専門的なGUIエージェントなど、最も強力なモデルでさえ、気晴らしの影響を受けやすいことが明らかとなった。
  論文  参考訳（メタデータ） (2024-08-05T15:16:22Z)
• Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
  我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。 我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。 AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
  論文  参考訳（メタデータ） (2024-06-18T17:32:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。