論文の概要: Region-Level Black-Box Defense Against Stealthy Embedding-Space Backdoors in CLIP

• arxiv url: http://arxiv.org/abs/2609.31558v1
• Date: Fri, 25 Sep 2026 17:26:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.518527
• Title: Region-Level Black-Box Defense Against Stealthy Embedding-Space Backdoors in CLIP
• Title（参考訳）: CLIPにおけるステルス性埋め込み空間バックドアに対する地域レベルブラックボックス防御
• Abstract要約: 本稿では,CLIPエンコーダにおける埋め込み空間のバックドアの軽減を目的とした,軽量で完全なブラックボックスディフェンスを提案する。 CLIPGuardは、セグメントワイドな埋め込み摂動を測定して悪意のある領域を特定し、セマンティックインペイントによって疑似セグメントのみを選択的に浄化する。
• 参考スコア（独自算出の注目度）: 0.45835414225547183
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Contrastive Language--Image Pretraining (CLIP) has emerged as a dominant vision backbone due to its strong transferability and zero-shot capabilities. However, recent studies reveal a critical vulnerability: embedding-space backdoor attacks. By poisoning only a tiny fraction of image--text pairs, adversaries can implant stealthy triggers that induce targeted shifts in CLIP's joint embedding space. Unlike conventional backdoors that manipulate classifier logits, these attacks corrupt representations directly, making them highly effective under extremely low poisoning ratios and difficult to detect. Existing defenses require access to model parameters, gradients, logits, or clean validation data---assumptions that rarely hold in realistic black-box deployments. Moreover, current black-box methods struggle to accurately localize small or out-of-distribution triggers. We propose CLIPGuard, a lightweight and fully black-box defense specifically designed to mitigate embedding-space backdoors in CLIP encoders. CLIPGuard identifies malicious regions by measuring segment-wise embedding perturbations and selectively purifies only suspicious segments via semantic inpainting, preserving benign visual content and alignment quality. Extensive experiments on STL-10, ImageNet, and diverse trigger families---including BadCLIP, BadNets, blended, patch-based, and typographic attacks---demonstrate that CLIPGuard reduces attack success rates to as low as 1.05% while maintaining clean accuracy up to 86.34%, consistently outperforming existing black-box defenses, including CleanCLIP and CleanerCLIP. Our code is available https://github.com/wsu-cyber-security-lab-ai/CLIPGuard.git
• Abstract（参考訳）: Contrastive Language-- Image Pretraining (CLIP) は、強力な転送性とゼロショット機能のために、視覚バックボーンの主流として登場した。 しかし、最近の研究では、埋め込みスペースのバックドア攻撃という重大な脆弱性が明らかになっている。 少数の画像テキストペアだけを中毒させることで、敵はCLIPのジョイント埋め込みスペースのターゲットシフトを誘導するステルスシートリガーを埋め込むことができる。分類器のロジットを操作する従来のバックドアとは異なり、これらのバックドアは直接的に不正表現を攻撃し、非常に低い毒性比で非常に効果的であり、検出しにくい。既存の防御はモデルパラメータ、勾配、ロジット、クリーンなバリデーションデータへのアクセスを必要とする。 さらに、現在のブラックボックス法では、小さなまたはアウト・オブ・ディストリビューショントリガを正確にローカライズするのに苦労している。 私たちはCLIPエンコーダの埋め込みスペースバックドアを緩和するために設計された軽量で完全なブラックボックスディフェンスであるCLIPGuardを提案する。 CLIPGuardは、セグメントワイドな埋め込み摂動を測定して悪意のある領域を識別し、セマンティックインペイント、良質な視覚的内容の保存、アライメント品質による疑わしいセグメントのみを選択的に浄化する。 BadCLIP、BadNets、ブレンド、パッチベース、タイポグラフィー攻撃を含むSTL-10、ImageNet、および多様なトリガーファミリーに関する大規模な実験--CLIPGuardが攻撃成功率を最大1.05%まで下げると同時に、86.34%までクリーンな精度を維持し、クリーンCLIPやクリーンなCLIPを含む既存のブラックボックス防御を一貫して上回っている。 私たちのコードはhttps://github.com/wsu-cyber-security-lab-ai/CLIPGuard.gitで利用可能です。

関連論文リスト

• Beyond Small Patches: Black-Box Detection and Purification of Diverse Backdoor Triggers [0.45835414225547183]
  ディープニューラルネットワーク(DNN)は、現実のビジョンシステムにますます多くデプロイされている。 バックドア攻撃は 悪意のあるトリガーによって 隠蔽される 提案手法は,後方からのトリガを推論時に検出し,選択的に除去する,配置指向のブラックボックスディフェンスである。
  論文  参考訳（メタデータ） (2026-09-02T20:24:25Z)
• CLIP-Guided Backdoor Defense through Entropy-Based Poisoned Dataset Separation [10.162187097557576]
  ディープニューラルネットワーク(Deep Neural Networks, DNN)は、バックドア攻撃の影響を受ける。 有毒データに対する現在のバックドア防御は、しばしば高い計算コストや、クリーンラベルやクリーンイメージバックドアのような高度な攻撃に対する低い効果に悩まされる。 CLIP誘導型バックドアディフェンス(CGD)は,様々なバックドア攻撃を軽減し,効率的かつ効果的な方法である。
  論文  参考訳（メタデータ） (2025-07-07T15:29:26Z)
• Neural Antidote: Class-Wise Prompt Tuning for Purifying Backdoors in CLIP [51.04452017089568]
  CBPT(Class-wise Backdoor Prompt Tuning)は、テキストプロンプトでCLIPを間接的に浄化する効率的な防御機構である。 CBPTは、モデルユーティリティを保持しながら、バックドアの脅威を著しく軽減する。
  論文  参考訳（メタデータ） (2025-02-26T16:25:15Z)
• Detecting Backdoor Samples in Contrastive Language Image Pretraining [32.85582585781569]
  対照的に、CLIP (Contrastive Language-image Pretraining) は、バックドア攻撃の危険性が指摘されている。 これにより、CLIPを使用して未調査のWebデータ上で大規模なモデルを事前トレーニングする現在のプラクティスに対するセキュリティ上の懸念が高まる。
  論文  参考訳（メタデータ） (2025-02-03T14:21:05Z)
• CleanerCLIP: Fine-grained Counterfactual Semantic Augmentation for Backdoor Defense in Contrastive Learning [53.766434746801366]
  バックドアトリガの特徴的接続を遮断するための細粒な textbfText textbfAlignment textbfCleaner (TA-Cleaner) を提案する。 TA-Cleanerは、ファインタニングベースの防御技術の中で最先端の防御性を達成している。
  論文  参考訳（メタデータ） (2024-09-26T07:35:23Z)
• BadCLIP: Trigger-Aware Prompt Learning for Backdoor Attacks on CLIP [55.33331463515103]
  BadCLIPは、CLIPに対するバックドア攻撃において、新しく効果的なメカニズムの上に構築されている。 画像に適用される学習可能なトリガーとトリガー対応コンテキストジェネレータで構成されており、トリガーはトリガー対応プロンプトを通じてテキスト機能を変更することができる。
  論文  参考訳（メタデータ） (2023-11-26T14:24:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。