論文の概要: Beyond Small Patches: Black-Box Detection and Purification of Diverse Backdoor Triggers

• arxiv url: http://arxiv.org/abs/2609.03139v1
• Date: Wed, 02 Sep 2026 20:24:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:38.847921
• Title: Beyond Small Patches: Black-Box Detection and Purification of Diverse Backdoor Triggers
• Title（参考訳）: 小さめのパッチを超える:ブラックボックス検出と異種バックドアトリガーの精製
• Abstract要約: ディープニューラルネットワーク(DNN)は、現実のビジョンシステムにますます多くデプロイされている。 バックドア攻撃は 悪意のあるトリガーによって 隠蔽される 提案手法は,後方からのトリガを推論時に検出し,選択的に除去する,配置指向のブラックボックスディフェンスである。
• 参考スコア（独自算出の注目度）: 0.45835414225547183
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep neural networks (DNNs) are increasingly deployed in real-world vision systems, yet their predictions can be covertly manipulated by backdoor attacks, in which malicious triggers cause targeted misclassification while preserving high clean accuracy. Existing defenses often rely on model internals, training data, or clean validation samples, making them difficult to deploy when only black-box access to a trained model is available. We propose TRIM (Trigger Removal by Identifying Manipulated Regions), a deployment-oriented black-box defense that detects and selectively removes backdoor triggers at inference time without requiring model internals, training data, or clean samples. The key insight behind TRIM is to identify image regions that are responsible for anomalous model behavior and purify only those regions while preserving benign content. TRIM innovates via three key components: (i) region-based segmentation with deep feature representations, (ii) adaptive trigger discovery through inpainting and diffusion-based reconstruction to isolate regions responsible for misclassification---without assumptions about trigger type, shape, or location, and (iii) selective region purification that cleans poisoned regions while retaining benign content. To support practical deployment, TRIM further caches feature embeddings of previously identified triggers, enabling efficient recognition and avoiding redundant detection and purification. Extensive experiments across diverse datasets and backdoor types, including blended, sparse, varying-size, and multiple triggers, show that TRIM consistently outperforms existing black-box defenses, reducing attack success rates (ASR) to as low as 1.16% while preserving clean accuracy of up to 87.87%. These results demonstrate that effective backdoor mitigation is possible at inference time even when the defender has no access to any auxiliary data.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、現実世界の視覚システムにますます多くデプロイされているが、悪質なトリガーがターゲットの誤分類を引き起こすようなバックドア攻撃によって、それらの予測を隠蔽的に操作することができる。 既存のディフェンスはモデル内部やトレーニングデータ、クリーンなバリデーションサンプルに依存していることが多いため、トレーニングされたモデルへのブラックボックスアクセスしか利用できない場合、デプロイが困難になる。 TRIM(Trigger removal by Identifying Manipulated Regions)は、モデル内部やトレーニングデータ、クリーンサンプルを必要とせずに、推論時にバックドアトリガを検出し、選択的に除去するデプロイメント指向のブラックボックスディフェンスである。 TRIMの背後にある重要な洞察は、異常モデル行動の原因となる画像領域を特定し、良質なコンテンツを保存しながら、それらの領域のみを浄化することである。 TRIMは3つの重要なコンポーネントを通して革新する。 (i)深い特徴表現を持つ地域ベースのセグメンテーション 二 誤分類に係る地域を分離するための塗布及び拡散による再建による適応的トリガー発見--トリガータイプ、形状、位置に関する前提なしに- 三 良性成分を保持しつつ、毒を盛った地域を浄化する選択的地域浄化。 実用的なデプロイメントをサポートするため、TRIMは、事前に特定されたトリガのフィーチャー埋め込みをキャッシュし、効率的な認識を可能にし、冗長な検出と浄化を避ける。 ブレンド、スパース、可変サイズ、および複数のトリガーを含む多様なデータセットやバックドアタイプにわたる広範な実験により、TRIMは既存のブラックボックス防御を一貫して上回り、攻撃成功率(ASR)は最大1.16%まで低下し、清潔な精度は87.87%にまで低下した。 これらの結果は、ディフェンダーが補助データにアクセスできない場合でも、推論時に効果的なバックドア緩和が可能であることを示している。

関連論文リスト

• SCRUB-FL: Sanitizing and Cleansing Representations via Unlearning of Backdoors [9.273743530407977]
  Federated Learning (FL)は、生データを共有せずに協調的なモデルトレーニングを可能にする。 悪意のあるクライアントがモデル予測を操作するために、ローカルのトレーニングデータに隠れたトリガーを埋め込むバックドア攻撃に対して脆弱である。 SCRUB-FL, SCRUB-FLを提案する。
  論文  参考訳（メタデータ） (2026-06-21T22:34:34Z)
• Test-Time Attention Purification for Backdoored Large Vision Language Models [23.890959327899925]
  大規模視覚言語モデル(LVLM)におけるバックドア行動の新しい力学的理解を提供する。 テスト時に純粋に動作するトレーニングフリーのプラグアンドプレイディフェンスであるCleanSightを提案する。 CleanSightは、さまざまなデータセットとバックドアアタックタイプで、既存のピクセルベースの浄化防御を著しく上回る。
  論文  参考訳（メタデータ） (2026-03-13T13:45:06Z)
• Self-Purification Mitigates Backdoors in Multimodal Diffusion Language Models [74.1970982768771]
  確立されたデータポゾンパイプラインは,MDLMにバックドアを埋め込むことに成功した。 拡散自己浄化(Diffusion Self-Purification)と呼ばれるMDLMのバックドア防御フレームワークについて紹介する。
  論文  参考訳（メタデータ） (2026-02-24T15:47:52Z)
• Backdoor Collapse: Eliminating Unknown Threats via Known Backdoor Aggregation in Language Models [75.29749026964154]
  Ourmethodは、複数のベンチマークで平均的な攻撃成功率を4.41%に下げる。 クリーンな精度と実用性はオリジナルのモデルの0.5%以内に保存される。 防衛はさまざまな種類のバックドアをまたいで一般化し、実際のデプロイメントシナリオにおける堅牢性を確認します。
  論文  参考訳（メタデータ） (2025-10-11T15:47:35Z)
• Backdoor Cleaning without External Guidance in MLLM Fine-tuning [76.82121084745785]
  Believe Your Eyes (BYE)は、アテンションエントロピーパターンを自己教師信号として活用して、バックドアサンプルを特定してフィルタリングするデータフィルタリングフレームワークである。 クリーンタスクのパフォーマンスを維持しながら、ほぼゼロの攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2025-05-22T17:11:58Z)
• Neural Antidote: Class-Wise Prompt Tuning for Purifying Backdoors in CLIP [51.04452017089568]
  CBPT(Class-wise Backdoor Prompt Tuning)は、テキストプロンプトでCLIPを間接的に浄化する効率的な防御機構である。 CBPTは、モデルユーティリティを保持しながら、バックドアの脅威を著しく軽減する。
  論文  参考訳（メタデータ） (2025-02-26T16:25:15Z)
• Proactive Adversarial Defense: Harnessing Prompt Tuning in Vision-Language Models to Detect Unseen Backdoored Images [0.0]
  バックドア攻撃は、隠れたトリガーを入力に埋め込むことで重大な脅威となり、モデルがそれらをターゲットラベルに誤って分類する。 トレーニングと推論の両方において、未確認のバックドア画像を検出するための画期的な手法を提案する。 われわれのアプローチは、学習可能なテキストプロンプトを訓練し、クリーンな画像と隠れたバックドアトリガーを区別する。
  論文  参考訳（メタデータ） (2024-12-11T19:54:14Z)
• Unified Neural Backdoor Removal with Only Few Clean Samples through Unlearning and Relearning [4.623498459985644]
  ULRL(UnLearn and ReLearn for backdoor removal)を提案する。 提案手法はまず,ネットワークの損失を小さなクリーンデータセット上で意図的に最大化する未学習フェーズを用いる。 再学習段階では、これらの疑わしいニューロンは、標的の再初期化とコサイン類似性規則化を用いて再分類される。
  論文  参考訳（メタデータ） (2024-05-23T16:49:09Z)
• BadActs: A Universal Backdoor Defense in the Activation Space [14.042905759502267]
  アクティベーション空間におけるバックドアサンプルを浄化するユニバーサルバックドアディフェンスを導入する。 アクティベーション空間で操作することで、単語のような表面的な情報から構文のような高レベルのセマンティックな概念までをキャプチャする。 本稿では,異常なアクティベーションの統計情報に基づく検出モジュールを提案する。
  論文  参考訳（メタデータ） (2024-05-18T08:32:37Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。