論文の概要: Hidden Ads: Behavior Triggered Semantic Backdoors for Advertisement Injection in Vision Language Models

• arxiv url: http://arxiv.org/abs/2603.27522v1
• Date: Sun, 29 Mar 2026 05:14:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.00084
• Title: Hidden Ads: Behavior Triggered Semantic Backdoors for Advertisement Injection in Vision Language Models
• Title（参考訳）: 隠れ広告:視覚言語モデルにおける超音波注入のための行動トリガー付きセマンティックバックドア
• Abstract要約: 私たちはHidden Adsを紹介します。Hidden Adsは、レコメンデーション検索行動を利用するバックドア攻撃の新しいクラスです。 Hidden Adsは、ユーザーが興味のあるセマンティックコンテンツを含む画像をアップロードする際に、自然なユーザー行動にアクティベートする。 その結果,Hidden Adsはタスク精度を維持しつつ,ほぼゼロの偽陽性で高い注入効果が得られた。
• 参考スコア（独自算出の注目度）: 25.882289708786796
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Vision-Language Models (VLMs) are increasingly deployed in consumer applications where users seek recommendations about products, dining, and services. We introduce Hidden Ads, a new class of backdoor attacks that exploit this recommendation-seeking behavior to inject unauthorized advertisements. Unlike traditional pattern-triggered backdoors that rely on artificial triggers such as pixel patches or special tokens, Hidden Ads activates on natural user behaviors: when users upload images containing semantic content of interest (e.g., food, cars, animals) and ask recommendation-seeking questions, the backdoored model provides correct, helpful answers while seamlessly appending attacker-specified promotional slogans. This design preserves model utility and produces natural-sounding injections, making the attack practical for real-world deployment in consumer-facing recommendation services. We propose a multi-tier threat framework to systematically evaluate Hidden Ads across three adversary capability levels: hard prompt injection, soft prompt optimization, and supervised fine-tuning. Our poisoned data generation pipeline uses teacher VLM-generated chain-of-thought reasoning to create natural trigger--slogan associations across multiple semantic domains. Experiments on three VLM architectures demonstrate that Hidden Ads achieves high injection efficacy with near-zero false positives while maintaining task accuracy. Ablation studies confirm that the attack is data-efficient, transfers effectively to unseen datasets, and scales to multiple concurrent domain-slogan pairs. We evaluate defenses including instruction-based filtering and clean fine-tuning, finding that both fail to remove the backdoor without causing significant utility degradation.
• Abstract（参考訳）: VLM(Vision-Language Models)は、ユーザが製品、ダイニング、サービスに関するレコメンデーションを求めるコンシューマアプリケーションに、ますます多くデプロイされている。 我々は、このレコメンデーション検索行動を利用して無許可広告を注入する新しい種類のバックドア攻撃であるHidden Adsを紹介した。 ピクセルパッチや特別なトークンなどの人工的なトリガーに依存する従来のパターントリガーバックドアとは異なり、Hidden Adsは、ユーザーが興味のあるセマンティックコンテンツ(例えば、食べ物、車、動物)を含む画像をアップロードし、レコメンデーションを問うとき、バックドアドモデルは、攻撃者が特定したプロモーションスローガンをシームレスに追加しながら、正しい有用な回答を提供する。 この設計は、モデルユーティリティを保存し、自然なサウンドインジェクションを発生させ、コンシューマー向けレコメンデーションサービスにおける現実のデプロイに実用的な攻撃を実現する。 本稿では,ハードプロンプトインジェクション,ソフトプロンプト最適化,教師付き微調整という3つの能力レベルにおいて,隠れた広告を体系的に評価する多層脅威フレームワークを提案する。 我々の有毒データ生成パイプラインは、教師によるVLM生成連鎖推論を使用して、複数の意味領域にまたがる自然なトリガー-スローガン関連を生成する。 3つのVLMアーキテクチャの実験により、Hidden Adsはタスク精度を維持しつつ、ほぼゼロの偽陽性で高いインジェクション効果が得られることが示された。 アブレーション研究は、攻撃がデータ効率が高く、見つからないデータセットに効果的に転送し、複数の同時ドメインスローガンペアにスケールすることを確認した。 我々は,命令ベースのフィルタリングやクリーンな微調整を含む防御効果を評価し,両者が大きな実用性低下を引き起こすことなく,バックドアの除去に失敗することを発見した。

関連論文リスト

• WebAgentGuard: A Reasoning-Driven Guard Model for Detecting Prompt Injection Attacks in Web Agents [117.65855863464863]
  Webエージェントはインジェクション攻撃に対して非常に脆弱である。 システム・プロンプト・ディフェンス(英語版)やエージェントの直接微調整を含む既存の防御は、効果が限られている。 本稿では,WebAgentGuardを導入し,インジェクション検出のためのマルチモーダルガードモデルを提案する。
  論文  参考訳（メタデータ） (2026-04-14T04:50:35Z)
• Test-Time Attention Purification for Backdoored Large Vision Language Models [23.890959327899925]
  大規模視覚言語モデル(LVLM)におけるバックドア行動の新しい力学的理解を提供する。 テスト時に純粋に動作するトレーニングフリーのプラグアンドプレイディフェンスであるCleanSightを提案する。 CleanSightは、さまざまなデータセットとバックドアアタックタイプで、既存のピクセルベースの浄化防御を著しく上回る。
  論文  参考訳（メタデータ） (2026-03-13T13:45:06Z)
• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• PromptSleuth: Detecting Prompt Injection via Semantic Intent Invariance [10.105673138616483]
  大規模言語モデル(LLM)は、仮想アシスタントから自律エージェントに至るまで、現実のアプリケーションにますます統合されている。 攻撃者がパラフレーズ、難読化、マルチタスクのインジェクション戦略で進化するにつれて、既存のベンチマークは、出現する脅威の全スペクトルを捉えるのに十分ではない。 PromptSleuthは,表面的特徴ではなくタスクレベルの意図を推論することで,迅速なインジェクションを検出するセマンティック指向の防衛フレームワークである。
  論文  参考訳（メタデータ） (2025-08-28T15:19:07Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• Backdoor Attack on Vision Language Models with Stealthy Semantic Manipulation [32.24294112337828]
  BadSemは、トレーニング中に画像とテキストのペアを意図的に間違えることでバックドアを注入するデータ中毒攻撃だ。 実験の結果,BadSemは平均的ASRの98%以上を達成し,アウト・オブ・ディストリビューション・データセットに最適化し,有害なモダリティをまたいで転送可能であることがわかった。 我々の発見は、より安全なデプロイメントのためにビジョン言語モデルにおけるセマンティックな脆弱性に対処する緊急の必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-06-08T16:40:40Z)
• VL-Trojan: Multimodal Instruction Backdoor Attacks against Autoregressive Visual Language Models [65.23688155159398]
  VLM(Autoregressive Visual Language Models)は、マルチモーダルなコンテキストにおいて、驚くべき数ショットの学習機能を示す。 近年,マルチモーダル・インストラクション・チューニングが提案されている。 敵は、指示や画像に埋め込まれたトリガーで有毒なサンプルを注入することで、バックドアを埋め込むことができる。 本稿では,マルチモーダルなバックドア攻撃,すなわちVL-Trojanを提案する。
  論文  参考訳（メタデータ） (2024-02-21T14:54:30Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Defending Our Privacy With Backdoors [29.722113621868978]
  本稿では,視覚言語モデルから個人情報を除去するためのバックドア攻撃に基づく,容易かつ効果的な防御手法を提案する。 具体的には, テキストエンコーダにバックドアを戦略的に挿入することにより, センシティブなフレーズの埋め込みを, 人名ではなく「人」の言葉と整合させる。 このアプローチは、バックドア攻撃に対する新たな"デュアルユース"な視点を提供し、未計算のWebスクラッドデータでトレーニングされたモデル内の個人のプライバシを高めるための、有望な道を示す。
  論文  参考訳（メタデータ） (2023-10-12T13:33:04Z)
• Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection [64.67495502772866]
  大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。 本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。 我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
  論文  参考訳（メタデータ） (2023-02-23T17:14:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。