論文の概要: A general approach to enhance the survivability of backdoor attacks by decision path coupling

• arxiv url: http://arxiv.org/abs/2403.02950v1
• Date: Tue, 5 Mar 2024 13:21:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-06 14:49:39.136937
• Title: A general approach to enhance the survivability of backdoor attacks by decision path coupling
• Title（参考訳）: 決定経路結合によるバックドア攻撃の生存性向上のための一般的アプローチ
• Authors: Yufei Zhao, Dingji Wang, Bihuan Chen, Ziqian Chen, Xin Peng
• Abstract要約: 本研究は,モデル再構築型防衛に対する既存のバックドア攻撃の生存性を改善するための,初の汎用バックドア攻撃であるVenomを提案する。 第2の課題を実現するため,有毒試料の決定経路と良性試料の重要な決定経路とを対応させるため,注意模倣損失を提案する。 2つのエンハンサーと3つのデータセットに対する評価は、Venomが8つの最先端防御に対する8つの最先端攻撃の生存可能性を大幅に改善することを示した。
• 参考スコア（独自算出の注目度）: 8.361829415535018
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Backdoor attacks have been one of the emerging security threats to deep neural networks (DNNs), leading to serious consequences. One of the mainstream backdoor defenses is model reconstruction-based. Such defenses adopt model unlearning or pruning to eliminate backdoors. However, little attention has been paid to survive from such defenses. To bridge the gap, we propose Venom, the first generic backdoor attack enhancer to improve the survivability of existing backdoor attacks against model reconstruction-based defenses. We formalize Venom as a binary-task optimization problem. The first is the original backdoor attack task to preserve the original attack capability, while the second is the attack enhancement task to improve the attack survivability. To realize the second task, we propose attention imitation loss to force the decision path of poisoned samples in backdoored models to couple with the crucial decision path of benign samples, which makes backdoors difficult to eliminate. Our extensive evaluation on two DNNs and three datasets has demonstrated that Venom significantly improves the survivability of eight state-of-the-art attacks against eight state-of-the-art defenses without impacting the capability of the original attacks.
• Abstract（参考訳）: バックドア攻撃はディープニューラルネットワーク(DNN)に対する新たなセキュリティ脅威の1つであり、深刻な結果をもたらしている。 主要なバックドア防御の1つはモデル再構築に基づくものである。 このような防御は、バックドアを排除するためにモデルアンラーニングまたはプルーニングを採用する。 しかし、そのような防御から生き残るためにはほとんど注意が払われていない。 このギャップを埋めるため,我々は,モデル再構成に基づく防御に対する既存のバックドア攻撃の生存性を改善する最初の汎用バックドアアタックエンハンサーであるvenomを提案する。 我々はvenomをバイナリタスク最適化問題として定式化する。 1つ目は元の攻撃能力を維持するためのバックドア攻撃タスクであり、もう1つは攻撃の生存性を改善するための攻撃強化タスクである。 第2の課題を実現するために,バックドアモデルにおける有毒試料の決定経路を,バックドアの除去が困難となる良性試料の決定経路に合わせるように,注意模倣損失を提案する。 2つのDNNと3つのデータセットに対する広範囲な評価は、Venomが元の攻撃能力に影響を与えることなく、8つの最先端攻撃の生存可能性を大幅に改善することを示した。

関連論文リスト

• Towards Unified Robustness Against Both Backdoor and Adversarial Attacks [31.846262387360767]
  ディープニューラルネットワーク(DNN)は、バックドアと敵の攻撃の両方に対して脆弱であることが知られている。 本稿では,バックドアと敵の攻撃との間には興味深い関係があることを明らかにする。 バックドアと敵の攻撃を同時に防御する新しいプログレッシブ統一防衛アルゴリズムが提案されている。
  論文  参考訳（メタデータ） (2024-05-28T07:50:00Z)
• Breaking the False Sense of Security in Backdoor Defense through Re-Activation Attack [32.74007523929888]
  防衛後のバックドアモデルの特徴を再検討する。 既存の訓練後防衛戦略から派生した防衛モデルには,元のバックドアが現存していることが判明した。 我々は,これらの休眠バックドアを推論中に簡単に再活性化できることを実証的に示す。
  論文  参考訳（メタデータ） (2024-05-25T08:57:30Z)
• Mitigating Backdoor Attack by Injecting Proactive Defensive Backdoor [63.84477483795964]
  データ中毒のバックドア攻撃は、機械学習モデルにとって深刻なセキュリティ上の脅威である。 本稿では,トレーニング中のバックドアディフェンスに着目し,データセットが有害になりうる場合でもクリーンなモデルをトレーニングすることを目的とした。 PDB(Proactive Defensive Backdoor)と呼ばれる新しい防衛手法を提案する。
  論文  参考訳（メタデータ） (2024-05-25T07:52:26Z)
• BELT: Old-School Backdoor Attacks can Evade the State-of-the-Art Defense with Backdoor Exclusivity Lifting [21.91491621538245]
  本稿では,バックドア攻撃の新たな特徴,すなわちバックドア排他性について検討する。 バックドアの排他性は、入力変動の存在下で有効なバックドアトリガーの能力を測定する。 提案手法は, 従来の4つのバックドア攻撃のステルス性を大幅に向上させ, 攻撃成功率と通常の実用性にはほとんど費用がかからない。
  論文  参考訳（メタデータ） (2023-12-08T08:35:16Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Beating Backdoor Attack at Its Own Game [10.131734154410763]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 既存の防御方法は、攻撃の成功率を大幅に低下させた。 有害な試料を標的とした非敵のバックドアを注入する高効率な枠組みを提案する。
  論文  参考訳（メタデータ） (2023-07-28T13:07:42Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• On the Effectiveness of Adversarial Training against Backdoor Attacks [111.8963365326168]
  バックドアモデルは、事前に定義されたトリガーパターンが存在する場合、常にターゲットクラスを予測する。 一般的には、敵の訓練はバックドア攻撃に対する防御であると信じられている。 本稿では,様々なバックドア攻撃に対して良好な堅牢性を提供するハイブリッド戦略を提案する。
  論文  参考訳（メタデータ） (2022-02-22T02:24:46Z)
• Rethink Stealthy Backdoor Attacks in Natural Language Processing [35.6803390044542]
  盗んだバックドア攻撃の能力は、バックドア攻撃に分類されると過大評価される。 クリーン状態と毒素状態モデルとのASR差を測定するASRD(Attack successful rate difference)と呼ばれる新しい指標を提案する。 本手法は,ステルスなバックドア攻撃に対する最先端の防御方法よりも優れた性能を実現する。
  論文  参考訳（メタデータ） (2022-01-09T12:34:12Z)
• On Certifying Robustness against Backdoor Attacks via Randomized Smoothing [74.79764677396773]
  ランダム化平滑化法(ランダム化平滑化)と呼ばれる最近の手法を用いて,バックドア攻撃に対するロバスト性検証の有効性と有効性を検討した。 本研究は, バックドア攻撃に対するロバスト性を証明するために, ランダムな平滑化を用いた理論的実現可能性を示すものである。 既存の無作為な平滑化手法は、バックドア攻撃に対する防御効果に限界がある。
  論文  参考訳（メタデータ） (2020-02-26T19:15:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。