論文の概要: ScamWorld: An Interactive Environment for Evaluating Web Agents Against Online Fraud

• arxiv url: http://arxiv.org/abs/2611.04879v1
• Date: Tue, 03 Nov 2026 13:31:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:57.77708
• Title: ScamWorld: An Interactive Environment for Evaluating Web Agents Against Online Fraud
• Title（参考訳）: ScamWorld: オンライン詐欺に対するWebエージェント評価のためのインタラクティブ環境
• Abstract要約: ScamWorldは、報告された詐欺ウェブサイトを再構築するインタラクティブな環境である。 再建された各ウェブサイトは、文書化された詐欺機構を再現する。 ベースラインの偽装率はモデル全体で11%から35%の範囲であることがわかった。
• 参考スコア（独自算出の注目度）: 32.33509313738504
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Web agents increasingly browse, shop, and manage accounts on behalf of their users. Prior work has shown that they can be misled by adversarial content, including prompt injections and deceptive interfaces. Beyond such attacks, agents operating on the open web also encounter online fraud designed to deceive humans, including fraudulent online stores, fake investment platforms, and advance-fee schemes. How web agents respond to such fraud during task execution remains underexplored, in part because scam websites are short-lived, making systematic evaluation difficult. To address this gap, we introduce ScamWorld, an interactive environment that reconstructs reported scam websites across diverse scenarios, fraud mechanisms, and languages. Each reconstructed website reproduces documented fraud mechanisms, making relevant signs of fraud observable before the agent's final action and enabling controlled, repeatable evaluation. Through an extensive study of web agents powered by six frontier LLMs, we find that baseline deception rates range from 11% to 35% across models. Agents proceed more readily with payments than with requests for credentials or wallet information. A closer analysis of agent trajectories shows that some agents acknowledge suspicious conditions yet proceed, at times treating the user's instructions as authorisation to accept additional terms imposed by the website. ScamWorld provides a reusable testbed for systematically evaluating and stress-testing web agents against real-world online fraud.
• Abstract（参考訳）: Webエージェントは、ユーザーに代わってアカウントを閲覧し、購入し、管理するようになっている。 以前の研究は、インジェクションや騙しのインターフェイスを含む、敵対的なコンテンツによって、それらが誤解される可能性があることを示した。 このような攻撃以外にも、オープンウェブで運営されているエージェントは、不正なオンラインストア、偽の投資プラットフォーム、前払い計画など、人間を騙すために設計されたオンライン詐欺に遭遇する。 詐欺サイトが短命であり、体系的な評価が難しいこともあって、Webエージェントがタスク実行中にこのような詐欺にどう反応するかは未解明のままである。 このギャップに対処するため,様々なシナリオ,詐欺機構,言語にまたがって,報告された詐欺サイトを再構築するインタラクティブな環境であるScamWorldを紹介した。 再建された各ウェブサイトは、文書化された不正行為のメカニズムを再現し、エージェントの最終的な行動の前に関連する不正行為の兆候を観察し、制御され繰り返し可能な評価を可能にする。 6つのフロンティア LLM をベースとした Web エージェントの広範な研究により,ベースラインの偽装率はモデル全体で 11% から 35% であることがわかった。 エージェントは、認証情報やウォレット情報に対する要求よりも、支払いがより容易になる。 エージェント・トラジェクトリの詳細な分析によると、一部のエージェントは疑わしい条件をまだ認めていないが、時には、ウェブサイトによって課される追加の条件を受け入れるために、ユーザの指示を認可として扱う。 ScamWorldは、実世界のオンライン詐欺に対するWebエージェントを体系的に評価し、ストレステストするための再利用可能なテストベッドを提供する。

関連論文リスト

• AgentPhishing: A Benchmark of LLM Email Agents Under Adaptive Attack [36.92634416372316]
  本研究では,偽フィッシング攻撃が検出を回避し,メールエージェントに悪意ある要求に従わせることができるかどうかを評価するベンチマークを開発する。 我々はCialdiniの説得原理を用いて生成されたメールを分析し、エージェント障害に関連する戦略を特定する。 評価の結果、エージェントは既存のフィッシングメールを安全に扱えるが、エージェントの行動に適応した攻撃には影響しないことが明らかとなった。
  論文  参考訳（メタデータ） (2026-10-22T15:07:49Z)
• CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents [58.28055202832338]
  言語モデルエージェントは日々のデジタル雑用を自動化するためにますますデプロイされている。 この機能は、フィッシングに機密情報を公開する。 CredLeak-Benchは、ヒューマンタスクの効果的かつセキュアなエージェントの自動化を評価するために設計されたベンチマークである。
  論文  参考訳（メタデータ） (2026-10-06T05:07:33Z)
• Benchmarking Web Agent Safety under E-commerce Deceptive Interfaces [44.063707111215216]
  我々は,既存のWeb環境に認知インターフェースパターンを制御的に注入できるフレームワークであるWebDeceptを紹介した。 ターゲット広告やドメインリダイレクト,ショッピング操作など,オープンなWeb上で一般的に見られる7つの偽装パターンをインスタンス化する。 以上の結果から,現在のWebエージェントは,複数の型認識インターフェースのクラスに対して非常に感受性が高く,これらの障害を軽減するために,プロンプトベースの制約が不十分であることが示唆された。
  論文  参考訳（メタデータ） (2026-04-26T17:46:28Z)
• It's a TRAP! Task-Redirecting Agent Persuasion Benchmark for Web Agents [52.81924177620322]
  大規模な言語モデルを利用したWebベースのエージェントは、メール管理やプロフェッショナルネットワーキングといったタスクにますます利用されている。 動的Webコンテンツへの依存は、インジェクション攻撃の引き金に弱い: インターフェース要素に隠された敵対的命令は、エージェントが元のタスクから逸脱するように説得する。 本稿では,タスクリダイレクトエージェントの説得ベンチマーク(TRAP)について紹介する。
  論文  参考訳（メタデータ） (2025-12-29T01:09:10Z)
• When AI Agents Collude Online: Financial Fraud Risks by Collaborative LLM Agents on Social Platforms [101.2197679948061]
  大規模言語モデル(LLM)エージェントを用いた大規模マルチエージェントシステムにおける集団金融詐欺のリスクについて検討する。 金融詐欺シナリオをシミュレーションするための大規模ベンチマークであるMultiAgentFraudBenchを提案する。
  論文  参考訳（メタデータ） (2025-11-09T16:30:44Z)
• BrowserArena: Evaluating LLM Agents on Real-World Web Navigation Tasks [51.803138848305814]
  我々はBrowserArenaを紹介した。BrowserArenaは、ユーザから送信されたタスクを収集するオープンソースのエージェント評価プラットフォームである。 Captcha解決、ポップアップバナー削除、URLへのダイレクトナビゲーションの3つの一貫した障害モードを特定します。 本研究は,Webエージェントの多様性と脆性の両方を明らかにする。
  論文  参考訳（メタデータ） (2025-10-02T15:22:21Z)
• Detection of AI Deepfake and Fraud in Online Payments Using GAN-Based Models [3.2510005425417523]
  本研究では,GAN(Generative Adversarial Networks)を用いて,オンライン決済システムにおけるAIディープフェイクや不正行為を検出する。 支払い画像の微妙な操作を識別することで、オンライン決済のセキュリティを高める新しいGANモデルを提案する。
  論文  参考訳（メタデータ） (2025-01-13T03:10:54Z)
• Fraud Detection using Data-Driven approach [0.0]
  最初のオンラインバンキングは1980年に始まった。 インターネットバンキングの利用が絶え間なく増加し、多くのオンライン取引も不正行為を増やした。 本研究では,顧客行動に適応した効率的な不正検出モデルの構築を目的とする。
  論文  参考訳（メタデータ） (2020-09-08T20:58:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。