論文の概要: DPAgent-in-the-Middle: Agentic Defense and Repair Against AI-Groomed Deceptive Patterns

• arxiv url: http://arxiv.org/abs/2606.06914v1
• Date: Fri, 05 Jun 2026 05:26:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-08 14:33:29.575486
• Title: DPAgent-in-the-Middle: Agentic Defense and Repair Against AI-Groomed Deceptive Patterns
• Title（参考訳）: DPAgent-in-the-Middle: エージェント防御とAIによる知覚パターンの修復
• Authors: Zewei Shi, Ruoxi Sun, Haoyang Li, Seong Oun Hwang, Feng Liu, Minhui Xue, Xingliang Yuan,
• Abstract要約: DPAgentはエージェントと推論を意識したフレームワークで、AI Groomingの脅威を軽減するために4つの専門エージェントを編成する。 DPAgentは、手入れされたサンプルの90.98%を検出し、マイクロF1の0.816で最先端のプライバシー侵害パターン検出を実現する。 485のウェブサイトを大規模に調査したところ、最大98%が少なくとも1つのプライバシー侵害パターンを含んでいることがわかった。
• 参考スコア（独自算出の注目度）: 26.785953823532818
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Privacy deceptive patterns in web interfaces systematically manipulate users into disclosing personal data, yet existing defenses are fragmented, static, and increasingly vulnerable to manipulation by large language models. Moreover, data voids, areas of information scarcity within the web ecosystem, create fertile ground for adversaries to inject misleading content that can be scraped and learned by AI systems, thereby amplifying both deceptive design and model misbehavior. In this paper, we formalize a new threat model, AI grooming, where attackers exploit data voids to seed benign-looking but malicious samples that corrupt model reasoning and normalize deceptive practices. To address this threat in privacy deceptive patterns, we present DPAgent, an agentic and reasoning-aware framework that orchestrates four specialized agents to mitigate the AI Grooming threat via a proactive defense that combines latent space purification with defensive prompting and operates directly in live web environments to proactively explore, detect, and repair privacy deceptive user interfaces before they reach end users. Extensive evaluations show that DPAgent detects 90.98% of groomed samples, achieves state-of-the-art privacy deceptive pattern detection with a micro F1 of 0.816, explores over 80% of pattern types while visiting only about 10% of the pages required by baselines, and successfully repairs 77% of detected deceptive interfaces. A large-scale study of 485 websites in the wild reveals that up to 98% contain at least one privacy deceptive pattern, over 90% of which can be mitigated by DPAgent. User studies further confirm that DPAgent effectively reduces privacy risks while preserving browsing experience. Our results demonstrate the promise of agent-in-the-middle defenses for securing the web UI supply chain against deceptive design and emerging AI threats rooted in data void exploitation.
• Abstract（参考訳）: Webインターフェースのプライバシ侵害パターンは、ユーザを体系的に操作して個人情報を開示するが、既存の防御は断片化され、静的であり、大規模言語モデルによる操作に対してますます脆弱になっている。 さらに、データ空白、Webエコシステム内の情報不足の領域、敵がAIシステムによって取り除かれたり学習されたりする誤解を招くコンテンツを注入するための肥大した土台を作ることにより、偽造設計とモデル誤動作の両方を増幅する。 本稿では,AIグルーミングという新たな脅威モデルを定式化し,攻撃者がデータヴォイドを利用して悪質なサンプルをシードし,モデル推論を悪用し,偽装行為を正規化する。 プライバシー侵害のパターンにおけるこの脅威に対処するため、我々はDPAgentを提示する。DPAgentは、AI Groomingの脅威を積極的に防御することで、AI Groomingの脅威を緩和する4つのエージェントを編成するエージェントおよび推論対応フレームワークである。 大規模な評価によると、DPAgentは手入れされたサンプルの90.98%を検知し、0.816のマイクロF1で最先端のプライバシー侵害パターン検出を実現し、ベースラインで必要とされるページの約10%を訪問しながら、パターンタイプの80%以上を探索し、検出された詐欺的インターフェースの77%を修復することに成功した。 485のウェブサイトを大規模に調査したところ、最大98%が少なくとも1つのプライバシー侵害パターンを含んでおり、90%以上がDPAgentによって緩和されていることがわかった。 ユーザ調査は、DPAgentがブラウジングエクスペリエンスを維持しながら、プライバシーリスクを効果的に低減することを確認する。 以上の結果から,Web UIサプライチェーンを偽設計から保護するエージェント・イン・ザ・ミドルディフェンスの実現と,データ不正利用に根ざしたAI脅威の出現が示唆された。

関連論文リスト

• Indirect Prompt Injection in the Wild: An Empirical Study of Prevalence, Techniques, and Objectives [15.03910974112065]
  LLMは、Webコンテンツを閲覧、検索、要約、動作させるシステムに統合されつつある。 これにより、サイトオーナー、コントリビュータ、および敵が直接Webリソースに命令を埋め込むことができる。 本稿では,WebページやHTTP応答における間接的インジェクションの大規模解析について紹介する。
  論文  参考訳（メタデータ） (2026-04-29T21:09:21Z)
• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
  BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。 BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
  論文  参考訳（メタデータ） (2025-08-11T16:04:47Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• The Hidden Dangers of Browsing AI Agents [0.0]
  本稿では,複数のアーキテクチャ層にまたがるシステム的脆弱性に着目し,このようなエージェントの総合的なセキュリティ評価を行う。 本研究は,ブラウジングエージェントのエンド・ツー・エンドの脅威モデルについて概説し,実環境への展開を確保するための実用的なガイダンスを提供する。
  論文  参考訳（メタデータ） (2025-05-19T13:10:29Z)
• BEEAR: Embedding-based Adversarial Removal of Safety Backdoors in Instruction-tuned Language Models [57.5404308854535]
  大型言語モデル(LLM)における安全バックドア攻撃は、正常な相互作用中の検出を回避しながら、安全でない振る舞いをステルス的に引き起こすことができる。 モデル埋め込み空間において,バックドアトリガーが比較的均一なドリフトを引き起こすという知見を活かした緩和手法であるBEEARを提案する。 両レベル最適化手法は、不要な振る舞いを誘発する普遍的な埋め込み摂動を特定し、モデルパラメータを調整し、これらの摂動に対する安全な振舞いを強化する。
  論文  参考訳（メタデータ） (2024-06-24T19:29:47Z)
• Backdoor Defense via Deconfounded Representation Learning [17.28760299048368]
  我々は、信頼性の高い分類のための非定型表現を学ぶために、因果性に着想を得たバックドアディフェンス(CBD)を提案する。 CBDは、良性サンプルの予測において高い精度を維持しながら、バックドアの脅威を減らすのに有効である。
  論文  参考訳（メタデータ） (2023-03-13T02:25:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。