論文の概要: TED-LaST: Towards Robust Backdoor Defense Against Adaptive Attacks

• arxiv url: http://arxiv.org/abs/2506.10722v1
• Date: Thu, 12 Jun 2025 14:12:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-13 15:37:22.771287
• Title: TED-LaST: Towards Robust Backdoor Defense Against Adaptive Attacks
• Title（参考訳）: TED-LaST:アダプティブアタックに対するロバストなバックドア防衛を目指す
• Authors: Xiaoxing Mo, Yuxuan Cheng, Nan Sun, Leo Yu Zhang, Wei Luo, Shang Gao,
• Abstract要約: 深部ニューラルネットワーク(DNN)におけるバックドア攻撃検出のための強力なツールとして、トポロジカル進化ダイナミクス(TED)が登場した。 TEDは、ネットワーク層間のトポロジ的表現分布を適応的に歪ませるバックドア攻撃に対して脆弱である。 本稿では,TEDのアダプティブアタックに対する堅牢性を高める新しい防衛戦略であるTED-LaSTを提案する。
• 参考スコア（独自算出の注目度）: 9.664747681518465
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep Neural Networks (DNNs) are vulnerable to backdoor attacks, where attackers implant hidden triggers during training to maliciously control model behavior. Topological Evolution Dynamics (TED) has recently emerged as a powerful tool for detecting backdoor attacks in DNNs. However, TED can be vulnerable to backdoor attacks that adaptively distort topological representation distributions across network layers. To address this limitation, we propose TED-LaST (Topological Evolution Dynamics against Laundry, Slow release, and Target mapping attack strategies), a novel defense strategy that enhances TED's robustness against adaptive attacks. TED-LaST introduces two key innovations: label-supervised dynamics tracking and adaptive layer emphasis. These enhancements enable the identification of stealthy threats that evade traditional TED-based defenses, even in cases of inseparability in topological space and subtle topological perturbations. We review and classify data poisoning tricks in state-of-the-art adaptive attacks and propose enhanced adaptive attack with target mapping, which can dynamically shift malicious tasks and fully leverage the stealthiness that adaptive attacks possess. Our comprehensive experiments on multiple datasets (CIFAR-10, GTSRB, and ImageNet100) and model architectures (ResNet20, ResNet101) show that TED-LaST effectively counteracts sophisticated backdoors like Adap-Blend, Adapt-Patch, and the proposed enhanced adaptive attack. TED-LaST sets a new benchmark for robust backdoor detection, substantially enhancing DNN security against evolving threats.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、トレーニング中に隠れたトリガーを埋め込み、モデル動作を悪意ある制御を行うバックドア攻撃に対して脆弱である。 トポロジカル進化ダイナミクス(TED)は、最近DNNのバックドア攻撃を検出する強力なツールとして登場した。 しかし、TEDはネットワーク層間のトポロジ的表現分布を適応的に歪ませるバックドア攻撃に対して脆弱である。 この制限に対処するため,TED-LaST(Topological Evolution Dynamics against Laundry, Slow Release, Target Mapping attack Strategy)を提案する。 TED-LaSTでは、ラベル管理されたダイナミックストラッキングとアダプティブ層強調という、2つの重要なイノベーションが導入されている。 これらの強化により、トポロジカル空間の分離不能や微妙なトポロジカル摂動の場合であっても、従来のTEDベースの防御を回避できるステルスの脅威が特定できる。 我々は,現在最先端の適応攻撃におけるデータ中毒対策の検証と分類を行い,悪意のあるタスクを動的にシフトし,適応攻撃が持つステルス性を完全に活用できるターゲットマッピングによる適応攻撃を提案する。 複数のデータセット(CIFAR-10、GTSRB、ImageNet100)とモデルアーキテクチャ(ResNet20、ResNet101)に関する包括的な実験により、TED-LaSTは、Adap-Blend、Adapt-Patch、提案された拡張適応攻撃のような洗練されたバックドアを効果的に対処することを示した。 TED-LaSTは、堅牢なバックドア検出のための新しいベンチマークを設定し、進化する脅威に対するDNNセキュリティを大幅に強化した。

関連論文リスト

• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Spear and Shield: Adversarial Attacks and Defense Methods for Model-Based Link Prediction on Continuous-Time Dynamic Graphs [40.01361505644007]
  本稿では,連続時間動的グラフ上でのリンク予測のための,単純かつ効果的な逆攻撃手法T-SPEARを提案する。 本稿では,T-SPEARがリンク予測タスクにおいて,被害者モデルの性能を著しく低下させることを示す。 我々の攻撃は他のTGNNに転送可能であり、攻撃者が想定する被害者モデルとは異なる。
  論文  参考訳（メタデータ） (2023-08-21T15:09:51Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
  入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。 我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
  論文  参考訳（メタデータ） (2021-06-21T21:42:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。