論文の概要: Before Acting, Change the State: Prospective State Intervention for Web Agents under Deceptive Interfaces
- arxiv url: http://arxiv.org/abs/2609.34974v1
- Date: Mon, 28 Sep 2026 11:53:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 18:11:16.426387
- Title: Before Acting, Change the State: Prospective State Intervention for Web Agents under Deceptive Interfaces
- Title（参考訳）: 行動前, 状態の変化: 認知インタフェース下でのWebエージェントの先進的状態介入
- Abstract要約: 既存の防御は、主にブロッキング、ガイダンス、または再計画を通じてエージェントの動作に介入する。
これは、タスクプランニングをベースエージェントに任せ、提案されたアクションが不正な結果をもたらす場合、Web状態に介入するエージェントサイドのランタイムディフェンスである。
- 参考スコア（独自算出の注目度）: 17.209608352839776
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLM-based Web agents can autonomously complete user tasks, yet deceptive interfaces can steer them toward outcomes that conflict with users' interests. Existing defenses primarily intervene on agent behavior through blocking, guidance, or replanning. We identify a distinct failure mode: a task-valid action can still realize an unauthorized consequence because of the current Web state. This motivates treating task-relevant Web state itself as a runtime control target. We introduce Veer, an agent-side runtime defense that leaves task planning to the base agent and intervenes on Web state when a proposed action would produce an unauthorized consequence. Before modifying the live environment, Veer constructs a prospective intervention trajectory toward a safe task-relevant state and executes it with runtime grounding and verification. Across TrickyArena and WebDecept, Veer achieves the highest safe task completion in all three evaluation settings, exceeding the next-best defense by 15.9 and 25.0 percentage points on TrickyArena-Single and TrickyArena-Multi, respectively, while reducing dark-pattern success on WebDecept to 0.3%. These gains persist across dark-pattern types and all 12 agent, model, and benchmark configurations. Ablations show that active state intervention provides the largest gain, while prospective rollout and temporal evidence contribute additional improvements. These results establish task-relevant Web state as an effective runtime control target for protecting Web agents from deceptive outcomes.
- Abstract（参考訳）: LLMベースのWebエージェントは、自律的にユーザタスクを完遂できるが、偽りのインターフェイスは、ユーザの関心に反する結果に向けてそれらを操ることができる。
既存の防御は、主にブロッキング、ガイダンス、または再計画を通じてエージェントの動作に介入する。
タスク検証アクションは、現在のWeb状態のため、まだ許可されていない結果を実現することができます。
これは、タスク関連Webステート自体をランタイムコントロールターゲットとして扱う動機となります。
これは、タスクプランニングをベースエージェントに任せ、提案されたアクションが不正な結果をもたらす場合、Web状態に介入するエージェントサイドのランタイムディフェンスである。
ライブ環境を変更する前に、Veer氏は、安全なタスク関連状態に向けて先進的な介入軌道を構築し、実行時のグラウンディングと検証で実行する。
TrickyArena-Single と TrickyArena-Multi でそれぞれ 15.9 と 25.0 のパーセンテージを達成し、WebDecept のダークパターンの成功を 0.3% に減らした。
これらのゲインはダークパターンタイプと12のエージェント、モデル、ベンチマーク設定にまたがって持続する。
アブレーションは、アクティブな国家介入が最大の利益をもたらし、将来的なロールアウトと時間的証拠がさらなる改善に寄与していることを示している。
これらの結果から,Webエージェントを欺く結果から保護するための効果的なランタイム制御ターゲットとして,タスク関連Web状態が確立される。
関連論文リスト
- Benchmarking Web Agent Safety under E-commerce Deceptive Interfaces [44.063707111215216]
我々は,既存のWeb環境に認知インターフェースパターンを制御的に注入できるフレームワークであるWebDeceptを紹介した。
ターゲット広告やドメインリダイレクト,ショッピング操作など,オープンなWeb上で一般的に見られる7つの偽装パターンをインスタンス化する。
以上の結果から,現在のWebエージェントは,複数の型認識インターフェースのクラスに対して非常に感受性が高く,これらの障害を軽減するために,プロンプトベースの制約が不十分であることが示唆された。
論文 参考訳（メタデータ） (2026-04-26T17:46:28Z) - WebAgentGuard: A Reasoning-Driven Guard Model for Detecting Prompt Injection Attacks in Web Agents [117.65855863464863]
Webエージェントはインジェクション攻撃に対して非常に脆弱である。
システム・プロンプト・ディフェンス(英語版)やエージェントの直接微調整を含む既存の防御は、効果が限られている。
本稿では,WebAgentGuardを導入し,インジェクション検出のためのマルチモーダルガードモデルを提案する。
論文 参考訳（メタデータ） (2026-04-14T04:50:35Z) - Atomicity for Agents: Exposing, Exploiting, and Mitigating TOCTOU Vulnerabilities in Browser-Use Agents [15.381306470663695]
ブラウザ利用エージェントにおけるTOCTOU脆弱性に関する大規模な実証的研究を行った。
動的または敵対的なWebコンテンツは、意図しないアクションを誘発するためにこのウィンドウを利用することができる。
我々は、事前実行検証に基づく軽量な緩和を設計する。
論文 参考訳（メタデータ） (2026-02-28T05:25:03Z) - Optimizing Agent Planning for Security and Autonomy [12.331954186269106]
既存の評価は、人間の監視への依存を減らすという、システムレベルの防衛の重要な利点を欠いている、と我々は主張する。
このメリットを定量化するために、自律的なメトリクスを導入します。
実験によると、このアプローチはユーティリティを犠牲にすることなく、より高い自律性をもたらす。
論文 参考訳（メタデータ） (2026-02-11T22:37:02Z) - When Actions Go Off-Task: Detecting and Correcting Misaligned Actions in Computer-Use Agents [50.5814495434565]
この研究は、コンピュータ利用エージェント(CUA)における不整合検出を定義し、研究する最初の試みである。
実世界のCUAデプロイメントにおける3つの一般的なカテゴリを特定し、人間の注釈付きアクションレベルのアライメントラベルを用いたリアルな軌跡のベンチマークであるMisActBenchを構築した。
本稿では,実行前に不整合を検知し,構造化されたフィードバックによって繰り返し修正する,実用的で普遍的なガードレールであるDeActionを提案する。
論文 参考訳（メタデータ） (2026-02-09T18:41:15Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z) - It's a TRAP! Task-Redirecting Agent Persuasion Benchmark for Web Agents [52.81924177620322]
大規模な言語モデルを利用したWebベースのエージェントは、メール管理やプロフェッショナルネットワーキングといったタスクにますます利用されている。
動的Webコンテンツへの依存は、インジェクション攻撃の引き金に弱い: インターフェース要素に隠された敵対的命令は、エージェントが元のタスクから逸脱するように説得する。
本稿では,タスクリダイレクトエージェントの説得ベンチマーク(TRAP)について紹介する。
論文 参考訳（メタデータ） (2025-12-29T01:09:10Z) - WebOperator: Action-Aware Tree Search for Autonomous Agents in Web Environment [11.364916354844938]
LLMをベースとしたエージェントは、現在の観察に基づいてのみ行動を選択する、欲張りのステップバイステップで動作する。
明確な追跡機構がなければ、エージェントはエラーの修正や代替経路の体系的な探索に苦労する。
我々は、信頼性の高いバックトラックと戦略的探索を可能にする、ツリー検索フレームワークであるWebOperatorを紹介した。
論文 参考訳（メタデータ） (2025-12-14T13:56:54Z) - Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。
我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。
AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
論文 参考訳（メタデータ） (2024-06-18T17:32:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。