論文の概要: An Effective and Resilient Backdoor Attack Framework against Deep Neural Networks and Vision Transformers

• arxiv url: http://arxiv.org/abs/2412.06149v1
• Date: Mon, 09 Dec 2024 02:03:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-10 14:56:03.314378
• Title: An Effective and Resilient Backdoor Attack Framework against Deep Neural Networks and Vision Transformers
• Title（参考訳）: 深部ニューラルネットワークと視覚変換器に対する効果的でレジリエントなバックドアアタックフレームワーク
• Authors: Xueluan Gong, Bowei Tian, Meng Xue, Yuan Wu, Yanjiao Chen, Qian Wang,
• Abstract要約: 本稿では,最適なトリガ形状と位置を探索する,注目に基づく新しいマスク生成手法を提案する。 また、損失関数にQuality-of-Experienceという用語を導入し、トリガの透明性値を慎重に調整する。 提案したバックドア攻撃フレームワークは,最先端のバックドア防御に対する堅牢性を示す。
• 参考スコア（独自算出の注目度）: 22.77836113915616
• License:
• Abstract: Recent studies have revealed the vulnerability of Deep Neural Network (DNN) models to backdoor attacks. However, existing backdoor attacks arbitrarily set the trigger mask or use a randomly selected trigger, which restricts the effectiveness and robustness of the generated backdoor triggers. In this paper, we propose a novel attention-based mask generation methodology that searches for the optimal trigger shape and location. We also introduce a Quality-of-Experience (QoE) term into the loss function and carefully adjust the transparency value of the trigger in order to make the backdoored samples to be more natural. To further improve the prediction accuracy of the victim model, we propose an alternating retraining algorithm in the backdoor injection process. The victim model is retrained with mixed poisoned datasets in even iterations and with only benign samples in odd iterations. Besides, we launch the backdoor attack under a co-optimized attack framework that alternately optimizes the backdoor trigger and backdoored model to further improve the attack performance. Apart from DNN models, we also extend our proposed attack method against vision transformers. We evaluate our proposed method with extensive experiments on VGG-Flower, CIFAR-10, GTSRB, CIFAR-100, and ImageNette datasets. It is shown that we can increase the attack success rate by as much as 82\% over baselines when the poison ratio is low and achieve a high QoE of the backdoored samples. Our proposed backdoor attack framework also showcases robustness against state-of-the-art backdoor defenses.
• Abstract（参考訳）: 近年の研究では、バックドア攻撃に対するDeep Neural Network(DNN)モデルの脆弱性が明らかにされている。 しかし、既存のバックドア攻撃ではトリガーマスクを任意に設定したり、ランダムに選択されたトリガーを使用すれば、生成されたバックドアトリガーの有効性と堅牢性を制限することができる。 本稿では,最適なトリガ形状と位置を探索する新しい注目型マスク生成手法を提案する。 また、損失関数にQoE(Quality-of-Experience)という用語を導入し、バックドア標本をより自然にするためにトリガーの透明性値を慎重に調整する。 被害者モデルの予測精度をさらに向上するため,バックドアインジェクションプロセスにおける交互リトレーニングアルゴリズムを提案する。 被害者モデルは、混入した有毒なデータセットをイテレーションでも、奇抜なイテレーションでは良質なサンプルのみで再訓練される。 さらに、バックドアトリガとバックドアモデルとを交互に最適化し、攻撃性能をさらに向上する、同時最適化アタックフレームワークの下でバックドアアタックを起動する。 また,DNNモデルとは別に,視覚変換器に対する攻撃手法も拡張した。 提案手法は,VGG-Flower, CIFAR-10, GTSRB, CIFAR-100, ImageNetteのデータセットを広範囲に実験して評価した。 その結果, 毒性比が低い場合, ベースラインを82 %以上越えて攻撃成功率を高めることができ, バックドア試料のQoEが高いことがわかった。 提案したバックドア攻撃フレームワークは,最先端のバックドア防御に対する堅牢性を示す。

関連論文リスト

• Efficient Backdoor Defense in Multimodal Contrastive Learning: A Token-Level Unlearning Method for Mitigating Threats [52.94388672185062]
  本稿では,機械学習という概念を用いて,バックドアの脅威に対する効果的な防御機構を提案する。 これは、モデルがバックドアの脆弱性を迅速に学習するのを助けるために、小さな毒のサンプルを戦略的に作成することを必要とする。 バックドア・アンラーニング・プロセスでは,新しいトークン・ベースの非ラーニング・トレーニング・システムを提案する。
  論文  参考訳（メタデータ） (2024-09-29T02:55:38Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Backdoor Defense via Deconfounded Representation Learning [17.28760299048368]
  我々は、信頼性の高い分類のための非定型表現を学ぶために、因果性に着想を得たバックドアディフェンス(CBD)を提案する。 CBDは、良性サンプルの予測において高い精度を維持しながら、バックドアの脅威を減らすのに有効である。
  論文  参考訳（メタデータ） (2023-03-13T02:25:59Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Kallima: A Clean-label Framework for Textual Backdoor Attacks [25.332731545200808]
  マイメシススタイルのバックドアサンプルを合成するための,最初のクリーンラベルフレームワークKallimaを提案する。 我々は,対象クラスに属する入力を逆方向の摂動で修正し,モデルがバックドアトリガに依存するようにした。
  論文  参考訳（メタデータ） (2022-06-03T21:44:43Z)
• Adversarial Fine-tuning for Backdoor Defense: Connect Adversarial Examples to Triggered Samples [15.57457705138278]
  本稿では,バックドアトリガを除去する新たなAFT手法を提案する。 AFTは、クリーンサンプルの性能劣化を明白にすることなく、バックドアトリガを効果的に消去することができる。
  論文  参考訳（メタデータ） (2022-02-13T13:41:15Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)
• Rethinking the Trigger of Backdoor Attack [83.98031510668619]
  現在、既存のバックドア攻撃のほとんどは、トレーニングとテスト用の画像は同じ外観で、同じエリアに置かれている。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、このような攻撃パラダイムが脆弱であることを示す。
  論文  参考訳（メタデータ） (2020-04-09T17:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。