論文の概要: BrowseSafe++: Benchmarking Prompt Injection Detection Across Web Contexts, Languages, and Browser Views
- arxiv url: http://arxiv.org/abs/2610.17457v1
- Date: Mon, 12 Oct 2026 22:17:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 18:50:00.343519
- Title: BrowseSafe++: Benchmarking Prompt Injection Detection Across Web Contexts, Languages, and Browser Views
- Title（参考訳）: BrowseSafe++: Webコンテキスト、言語、ブラウザビュー間のベンチマークプロンプトインジェクション検出
- Abstract要約: BrowseSafe++は、BrowseSafeを14,719ページから38,675ページまで拡張します。
プロンプトインジェクションのほとんどは、本番Webサイトで観察されました。各インジェクションは変更せず、その周りの機密部分を書き直して、プライバシを保護します。
ベンチマークには、ニュース記事から共有ドキュメント、フォーラムまで、12種類のWebサイトが含まれており、24の攻撃タイプが1ページに18の異なる場所に表示される。
どちらもフロンティアモデルに基づく検出器よりも高いF1スコアを達成すると同時に、良質なページに対する偽陽性率と推論コストを低く保っている。
- 参考スコア（独自算出の注目度）: 9.895930642502169
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Browser agents need to make decisions and execute actions on behalf of users while consuming untrusted webpages, creating opportunities for malicious instructions embedded in webpages to redirect legitimate tasks. We introduce BrowseSafe++, which extends BrowseSafe from 14,719 pages to 38,675 pairs of pages. Most of its prompt injections were observed in the wild on production websites. We keep each injection unchanged and rewrite the sensitive parts of the page around it to protect privacy. Each attacked page has a clean copy of the same page as its control. Both are provided as HTML, Markdown, an accessibility tree, and a screenshot. Every pair includes a user task and its expected answer. The benchmark includes twelve types of websites, from news articles to shared documents and forums, with 24 attack types appearing in 18 different locations on a page. We use these paired pages to train BrowseSafe-Guard, two 0.8B-parameter detectors for text and screenshots. Both achieve higher F1 scores than the detector based on frontier models, while keeping false-positive rates on benign pages and inference cost low. BrowseSafe-Adapt revises benchmark injections from browser-agent feedback, and attacks that succeed on only a few percent of tasks when replayed directly reach up to 95.41% success once adapted.
- Abstract（参考訳）: ブラウザエージェントは、信頼できないWebページを消費しながら、決定を下し、ユーザーに代わってアクションを実行する必要がある。
BrowseSafe++は、BrowseSafeを14,719ページから38,675ページまで拡張します。
プロンプトインジェクションのほとんどは、プロダクションのウェブサイトで野生で観察された。
各インジェクションは変更せず、ページの機密部分を書き換えてプライバシを保護します。
各攻撃されたページは、その制御と同じページをクリーンにコピーする。
どちらもHTML、Markdown、アクセシビリティツリー、スクリーンショットとして提供されている。
それぞれのペアには、ユーザタスクとその期待される回答が含まれます。
ベンチマークには、ニュース記事から共有ドキュメント、フォーラムまで、12種類のWebサイトが含まれており、24の攻撃タイプが1ページに18の異なる場所に表示される。
このペアページを使ってBrowseSafe-Guardをトレーニングしています。
どちらもフロンティアモデルに基づく検出器よりも高いF1スコアを達成すると同時に、良質なページに対する偽陽性率と推論コストを低く保っている。
BrowseSafe-Adaptは、ブラウザエージェントからのフィードバックからベンチマークインジェクションを修正し、リプレイされたタスクのわずか数パーセントで成功した攻撃は、一度適応した時点で95.41%の成功を収めた。
関連論文リスト
- A Computer Vision Approach to Visual Fraud Detection in Phishing Websites Using YOLOv8 [0.10742675209112622]
本稿では、レンダリングされたWebページを、信頼されたブランドと一致するか、そうでない図として扱うフィッシング検出の視覚的アプローチについて述べる。
YOLOv8畳み込みニューラルネットワークは、レイアウト、ロゴ配置、カラースキーム、ログインフォーム構造に基づいて、フルページのWebサイトのスクリーンショットをフィッシングまたは合法に分類するように訓練された。
システムはホールドアウトテストセットで92%の精度に達し、100ミリ秒で1枚のスクリーンショットを処理し、前処理ベースラインと比較して偽陽性率を11%削減した。
論文 参考訳（メタデータ） (2026-09-27T23:19:12Z) - PIIGuard: Mitigating PII Harvesting under Adversarial Sanitization [2.581858346414243]
PIIGuardは、間接的なプロンプトインジェクションを保護メカニズムとして再利用するWebページレベルのディフェンスである。
PIIGuardは、ルールベースのリークスコア、進化的突然変異、最終判断に基づく復元可能性評価を用いて、断片テキストと挿入位置を検索する。
論文 参考訳（メタデータ） (2026-05-04T20:13:22Z) - SnapGuard: Lightweight Prompt Injection Detection for Screenshot-Based Web Agents [32.00656418129339]
本稿では,Webページのスクリーンショットからインジェクション攻撃を検出する軽量かつ高精度なSnapGuardを提案する。
我々は、SnapGuardがF1スコア0.75を達成し、GPT-4o-promptを8倍高速(1.81s vs. 14.50s)で上回り、メモリオーバーヘッドを追加しないことを示した。
論文 参考訳（メタデータ） (2026-04-28T12:32:21Z) - WebAgentGuard: A Reasoning-Driven Guard Model for Detecting Prompt Injection Attacks in Web Agents [117.65855863464863]
Webエージェントはインジェクション攻撃に対して非常に脆弱である。
システム・プロンプト・ディフェンス(英語版)やエージェントの直接微調整を含む既存の防御は、効果が限られている。
本稿では,WebAgentGuardを導入し,インジェクション検出のためのマルチモーダルガードモデルを提案する。
論文 参考訳（メタデータ） (2026-04-14T04:50:35Z) - WebSP-Eval: Evaluating Web Agents on Website Security and Privacy Tasks [10.738768990548428]
WebSP-EvalはWebエージェントのパフォーマンスをWebサイトのセキュリティとプライバシのタスクで測定するための評価フレームワークである。
WebSP-Evalは、1)28のWebサイトにわたる200のタスクインスタンスからなる手作業によるタスクデータセット、2)カスタムのGoogle Chromeエクステンションを使用して実行中のアカウントと初期状態管理をサポートする堅牢なエージェントシステム、3)自動評価器で構成される。
我々は、最先端のマルチモーダル言語モデルを用いて8つのWebエージェントのインスタンス化を評価し、Webサイト、タスクカテゴリ、UI要素間できめ細かい分析を行う。
論文 参考訳（メタデータ） (2026-04-07T18:43:21Z) - Atomicity for Agents: Exposing, Exploiting, and Mitigating TOCTOU Vulnerabilities in Browser-Use Agents [15.381306470663695]
ブラウザ利用エージェントにおけるTOCTOU脆弱性に関する大規模な実証的研究を行った。
動的または敵対的なWebコンテンツは、意図しないアクションを誘発するためにこのウィンドウを利用することができる。
我々は、事前実行検証に基づく軽量な緩和を設計する。
論文 参考訳（メタデータ） (2026-02-28T05:25:03Z) - AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。
LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。
本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
論文 参考訳（メタデータ） (2025-12-23T08:42:09Z) - BrowserArena: Evaluating LLM Agents on Real-World Web Navigation Tasks [51.803138848305814]
我々はBrowserArenaを紹介した。BrowserArenaは、ユーザから送信されたタスクを収集するオープンソースのエージェント評価プラットフォームである。
Captcha解決、ポップアップバナー削除、URLへのダイレクトナビゲーションの3つの一貫した障害モードを特定します。
本研究は,Webエージェントの多様性と脆性の両方を明らかにする。
論文 参考訳（メタデータ） (2025-10-02T15:22:21Z) - VPI-Bench: Visual Prompt Injection Attacks for Computer-Use Agents [74.6761188527948]
完全なシステムアクセスを持つコンピュータ利用エージェント(CUA)は、セキュリティとプライバシの重大なリスクを負う。
我々は、悪意のある命令がレンダリングされたユーザーインターフェイスに視覚的に埋め込まれた視覚的プロンプトインジェクション(VPI)攻撃について検討する。
実験により,現在のCUAとBUAは,それぞれのプラットフォーム上で最大51%,100%の速度で騙すことができることがわかった。
論文 参考訳（メタデータ） (2025-06-03T05:21:50Z) - Document Screenshot Retrievers are Vulnerable to Pixel Poisoning Attacks [72.4498910775871]
ヴィジュアル言語モデル(VLM)ベースのレトリバーは、ベクターとして埋め込まれた文書のスクリーンショットを活用して、効率的な検索を可能にし、従来のテキストのみの手法よりも単純化されたパイプラインを提供する。
本研究では,VLMをベースとしたレトリバーを危険にさらすために,3つのピクセル中毒攻撃手法を提案する。
論文 参考訳（メタデータ） (2025-01-28T12:40:37Z) - Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。
我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。
AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
論文 参考訳（メタデータ） (2024-06-18T17:32:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。