論文の概要: SemPurify: Semantics-Aware Data Purification for Black-box Backdoor Defense

• arxiv url: http://arxiv.org/abs/2610.23589v1
• Date: Fri, 16 Oct 2026 15:09:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.98285
• Title: SemPurify: Semantics-Aware Data Purification for Black-box Backdoor Defense
• Title（参考訳）: SemPurify:ブラックボックスバックドア防衛のためのセマンティックス対応データ浄化
• Abstract要約: バックドア攻撃は、機械学習における重要なセキュリティ脅威として浮上している。 ブラックボックスバックドア防御のためのセマンティクス対応データ浄化フレームワークを提案する。 SemPurifyは、下流タスクのセマンティック情報を効果的に保存しながら、バックドアを確実に除去する。
• 参考スコア（独自算出の注目度）: 14.186060900483973
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Backdoor attacks have emerged as a critical security threat in machine learning, where adversaries embed triggers within poisoned training samples to manipulate a model's predictions on targeted inputs while leaving its general behavior unaffected. This stealthy nature makes backdoor attacks difficult to detect, as the model functions normally until activated by a specific malicious trigger. Current purification-based defenses use image transformations (e.g., blurring) to disrupt trigger patterns but often degrade image quality. Even with advanced restoration techniques like diffusion models, these approaches can still alter visual or semantic information, reducing utility for downstream tasks. To address this, we propose the first semantics-aware data purification framework for black-box backdoor defense, SemPurify, which explicitly incorporates multi-level semantics (i.e., low-level semantic embeddings and high-level image tags) within a text-to-image (T2I) framework to guide image restoration during purification. Using this semantic information, the T2I model subsequently refines the transformed samples, helping preserve visual details and semantic information during restoration. Extensive experiments spanning multiple backdoor scenarios, i.e., classification models, CLIP-style encoders, and generative models, demonstrate that SemPurify reliably removes backdoors while effectively preserving semantic information for downstream tasks.
• Abstract（参考訳）: バックドア攻撃は機械学習において重要なセキュリティ上の脅威として現れており、敵が有害なトレーニングサンプルにトリガーを埋め込んで、ターゲットの入力に対するモデルの予測を操作し、一般的な振る舞いに影響を与えないままにしている。 このステルスな性質は、特定の悪意のあるトリガーによってアクティベートされるまでモデルが正常に機能するため、バックドア攻撃を検出するのを難しくする。 現在の浄化ベースの防御は、トリガーパターンを乱すために画像変換(例えば、ぼやけ)を用いるが、しばしば画質を劣化させる。 拡散モデルのような高度な復元技術であっても、これらのアプローチは視覚的あるいは意味的な情報を変更できるため、下流タスクの利便性は低下する。 そこで我々は,ブラックボックスバックドアディフェンスのための最初のセマンティックス対応データ浄化フレームワークSemPurifyを提案する。これは,マルチレベルセマンティックス(低レベルセマンティック埋め込みと高レベルイメージタグ)をテキスト・ツー・イメージ(T2I)フレームワークに明示的に組み込んだもので,浄化中の画像復元をガイドするものだ。 この意味情報を用いて、T2Iモデルはその後、変換されたサンプルを洗練し、修復中の視覚的詳細と意味情報を保存するのに役立つ。 複数のバックドアシナリオ、すなわち分類モデル、CLIPスタイルエンコーダ、生成モデルにまたがる大規模な実験では、SemPurifyがバックドアを確実に削除し、下流タスクのセマンティック情報を効果的に保存することを示した。

関連論文リスト

• Test-Time Attention Purification for Backdoored Large Vision Language Models [23.890959327899925]
  大規模視覚言語モデル(LVLM)におけるバックドア行動の新しい力学的理解を提供する。 テスト時に純粋に動作するトレーニングフリーのプラグアンドプレイディフェンスであるCleanSightを提案する。 CleanSightは、さまざまなデータセットとバックドアアタックタイプで、既存のピクセルベースの浄化防御を著しく上回る。
  論文  参考訳（メタデータ） (2026-03-13T13:45:06Z)
• Sealing The Backdoor: Unlearning Adversarial Text Triggers In Diffusion Models Using Knowledge Distillation [3.54387829918311]
  学習データに知覚不可能なテキストトリガーを注入することで、モデルが操作された出力を生成する。 本稿では, 対人的テキストトリガと有毒なアウトプットの関連を除去するために, クロスアテンション誘導による自己知識蒸留(SKD-CAG)を提案する。 本手法は,画素バックドアの除去精度を100%,スタイルベース攻撃の93%で達成し,ロバスト性や画像の忠実さを犠牲にしない。
  論文  参考訳（メタデータ） (2025-08-20T00:57:21Z)
• BURN: Backdoor Unlearning via Adversarial Boundary Analysis [73.14147934175604]
  Backdoor Unlearningは、モデル本来の機能を保持しながら、バックドア関連の情報を削除することを目的としている。 本稿では, 偽相関疎結合, プログレッシブデータリファインメント, モデル浄化を統合した新しい防御フレームワーク, BURNによるバックドア・アンラーニングを提案する。
  論文  参考訳（メタデータ） (2025-07-14T17:13:06Z)
• SRD: Reinforcement-Learned Semantic Perturbation for Backdoor Defense in VLMs [57.880467106470775]
  攻撃者は、トレーニングデータに知覚不能な摂動を注入することができ、モデルが悪意のある攻撃的制御されたキャプションを生成する。 本稿では,引き金の事前知識を伴わずにバックドア動作を緩和する強化学習フレームワークであるセマンティック・リワード・ディフェンス(SRD)を提案する。 SRDはDeep Q-Networkを使用して、機密画像領域に個別の摂動を適用するためのポリシーを学習し、悪意ある経路の活性化を妨害することを目的としている。
  論文  参考訳（メタデータ） (2025-06-05T08:22:24Z)
• Proactive Adversarial Defense: Harnessing Prompt Tuning in Vision-Language Models to Detect Unseen Backdoored Images [0.0]
  バックドア攻撃は、隠れたトリガーを入力に埋め込むことで重大な脅威となり、モデルがそれらをターゲットラベルに誤って分類する。 トレーニングと推論の両方において、未確認のバックドア画像を検出するための画期的な手法を提案する。 われわれのアプローチは、学習可能なテキストプロンプトを訓練し、クリーンな画像と隠れたバックドアトリガーを区別する。
  論文  参考訳（メタデータ） (2024-12-11T19:54:14Z)
• Mask and Restore: Blind Backdoor Defense at Test Time with Masked Autoencoder [50.1394620328318]
  既存のバックドア防御手法では、いくつかのバリデーションデータとモデルパラメータにアクセスする必要があることが多い。 Masked AutoEncoder (BDMAE) を用いたブラインドバックドアディフェンスの提案 BDMAEは、画像の構造的類似性と、テスト画像とMAE復元の間のラベルの整合性を用いて、可能な局所的なトリガを検出する。
  論文  参考訳（メタデータ） (2023-03-27T19:23:33Z)
• Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
  Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。 我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。 実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
  論文  参考訳（メタデータ） (2021-03-06T05:50:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。