Fugu-MT 論文翻訳(概要): Benchmarking Web Agent Safety under E-commerce Deceptive Interfaces

論文の概要: Benchmarking Web Agent Safety under E-commerce Deceptive Interfaces

arxiv url: http://arxiv.org/abs/2606.13686v1
Date: Sun, 26 Apr 2026 17:46:28 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-27 00:46:12.883594
Title: Benchmarking Web Agent Safety under E-commerce Deceptive Interfaces
Title（参考訳）: E-Commerce Deceptive Interface による Web Agent Safety のベンチマーク
Abstract要約: 我々は,既存のWeb環境に認知インターフェースパターンを制御的に注入できるフレームワークであるWebDeceptを紹介した。ターゲット広告やドメインリダイレクト,ショッピング操作など,オープンなWeb上で一般的に見られる7つの偽装パターンをインスタンス化する。以上の結果から,現在のWebエージェントは,複数の型認識インターフェースのクラスに対して非常に感受性が高く,これらの障害を軽減するために,プロンプトベースの制約が不十分であることが示唆された。
参考スコア（独自算出の注目度）: 44.063707111215216
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: As autonomous web agents are increasingly deployed to perform real-world tasks, ensuring their safety has become a critical concern. In this work, we study web agent behavior under realistic deceptive interfaces in the e-commerce domain. We introduce WebDecept, a lightweight and configurable plugin framework that enables controlled injection of deceptive interface patterns into existing web environments. Using WebDecept, we instantiate seven deceptive patterns commonly observed on the open web, including targeted advertisements, domain redirection, and shopping manipulation. By injecting these patterns into the frontend during task execution, we perform controlled evaluation of multiple multimodal web agents. Our results show that current web agents are highly susceptible to multiple classes of deceptive interfaces, and that prompt-based constraints are often insufficient to mitigate these failures. We further analyze how the design choices of deceptive patterns influence the success of such manipulations. These findings highlight safety challenges that should be addressed as web agents are scaled toward real-world deployment.
Abstract（参考訳）: 自律的なWebエージェントが現実世界のタスクを実行するためにますますデプロイされるにつれて、それらの安全性が重要な関心事になっている。本研究は,eコマース領域における現実的な偽装インタフェース下でのWebエージェントの挙動について考察する。 WebDeceptは軽量で構成可能なプラグインフレームワークで、既存のWeb環境に認知インターフェースパターンの制御された注入を可能にする。 WebDeceptを用いて、ターゲット広告、ドメインリダイレクト、ショッピング操作を含む、オープンウェブ上でよく見られる7つの偽装パターンをインスタンス化する。タスク実行中にこれらのパターンをフロントエンドに注入することにより、複数のマルチモーダルWebエージェントの制御評価を行う。以上の結果から,現在のWebエージェントは,複数の型認識インタフェースのクラスに非常に敏感であり,これらの障害を緩和するためには,プロンプトベースの制約が不十分であることが示唆された。さらに, 擬似パターンの設計選択がこのような操作の成功にどう影響するかを解析する。これらの発見は、Webエージェントが現実世界のデプロイに向けてスケールされているときに対処すべき安全上の課題を浮き彫りにしている。

関連論文リスト

CAP: A Scalable Benchmark for Evaluating Cross-Site Browser Agents with Complex Actions and Perception [22.620664364045286]
大規模な言語モデルは、ブラウザを介してWebと対話する自律的なエージェントとして、ますます多くデプロイされている。我々は、クロスサイト、ヒューマンライクなWebタスク上でブラウザエージェントを評価するためのスケーラブルなベンチマークであるCAPを紹介した。 108の現実世界のWebサイトと24のドメインに420のタスクを構築し、注意深く品質管理します。
論文参考訳（メタデータ） (2026-08-09T01:08:19Z)
MIRAGE: Stealthy Visual Prompt Injection for Vulnerability Detection in Web Agents [21.863110073132773]
マルチモーダル大言語モデル(MLLM)ベースのWebエージェントは、視覚的ブラウザ自動化のための実用的で高精度なソリューションを提供する。それらは本質的に攻撃面を拡張し、新しい視覚ベースの脆弱性を導入している。 MIRAGEは、ターゲットの次アクションハイジャックのための視覚的間接的プロンプトインジェクションフレームワークである。
論文参考訳（メタデータ） (2026-06-16T15:31:33Z)
WebAgentGuard: A Reasoning-Driven Guard Model for Detecting Prompt Injection Attacks in Web Agents [117.65855863464863]
Webエージェントはインジェクション攻撃に対して非常に脆弱である。システム・プロンプト・ディフェンス(英語版)やエージェントの直接微調整を含む既存の防御は、効果が限られている。本稿では,WebAgentGuardを導入し,インジェクション検出のためのマルチモーダルガードモデルを提案する。
論文参考訳（メタデータ） (2026-04-14T04:50:35Z)
Atomicity for Agents: Exposing, Exploiting, and Mitigating TOCTOU Vulnerabilities in Browser-Use Agents [15.381306470663695]
ブラウザ利用エージェントにおけるTOCTOU脆弱性に関する大規模な実証的研究を行った。動的または敵対的なWebコンテンツは、意図しないアクションを誘発するためにこのウィンドウを利用することができる。我々は、事前実行検証に基づく軽量な緩和を設計する。
論文参考訳（メタデータ） (2026-02-28T05:25:03Z)
Avenir-Web: Human-Experience-Imitating Multimodal Web Agents with Mixture of Grounding Experts [59.68272935616536]
Avenir-Webは、現実世界のデプロイにおいて、Online-Mind2Webベンチマークの新たなオープンソース状態を達成するWebエージェントである。 Avenir-Web on Online-Mind2Web, a rigorous benchmark of live and user-centered web task。
論文参考訳（メタデータ） (2026-02-02T18:50:07Z)
It's a TRAP! Task-Redirecting Agent Persuasion Benchmark for Web Agents [52.81924177620322]
大規模な言語モデルを利用したWebベースのエージェントは、メール管理やプロフェッショナルネットワーキングといったタスクにますます利用されている。動的Webコンテンツへの依存は、インジェクション攻撃の引き金に弱い: インターフェース要素に隠された敵対的命令は、エージェントが元のタスクから逸脱するように説得する。本稿では,タスクリダイレクトエージェントの説得ベンチマーク(TRAP)について紹介する。
論文参考訳（メタデータ） (2025-12-29T01:09:10Z)
Investigating the Impact of Dark Patterns on LLM-Based Web Agents [16.297159088186888]
LLMベースのジェネラリストWebエージェントの意思決定過程に暗黒パターンが与える影響について検討する。 LiteAgentは、エージェントがタスクを実行するように自動的に促す軽量なフレームワークです。また、eコマース、ストリーミングサービス、ニュースプラットフォームといったドメインからWebアプリケーションを構成する制御環境であるTrickyArenaについても紹介する。
論文参考訳（メタデータ） (2025-10-20T21:26:26Z)
Build the web for agents, not agents for the web [27.969222950526703]
本稿では,エージェントがWebサイトをナビゲートするためのインターフェースであるAWI(Agentic Web Interface)の概念を紹介する。 AWI設計の原則を6つ確立し,安全性,効率,標準化を重視した。このリフレーミングは、既存のインターフェイスの基本的な制限を克服し、より効率的で信頼性があり透明なWebエージェント設計への道を開くことを目的としています。
論文参考訳（メタデータ） (2025-06-12T17:53:58Z)
WebCoT: Enhancing Web Agent Reasoning by Reconstructing Chain-of-Thought in Reflection, Branching, and Rollback [78.55946306325914]
有効なWebエージェントに必要な重要な推論スキルを同定する。我々はエージェントの推論アルゴリズムを連鎖論理に再構成する。このアプローチは、複数のベンチマークで大幅に改善される。
論文参考訳（メタデータ） (2025-05-26T14:03:37Z)
WebVoyager: Building an End-to-End Web Agent with Large Multimodal Models [65.18602126334716]
既存のWebエージェントは1つの入力モダリティしか処理せず、単純化されたWebシミュレータや静的なWebスナップショットでのみ評価される。我々は,WebVoyagerを紹介した。LMM(Large Multimodal Model)を利用したWebエージェントで,現実世界のWebサイトと対話することで,エンド・ツー・エンドでのユーザ指示を完了することができる。 GPT-4(All Tools)とWebVoyager(text-only)の両方のパフォーマンスを大幅に上回る、59.1%のタスク成功率を実現していることを示す。
論文参考訳（メタデータ） (2024-01-25T03:33:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。