論文の概要: Shortcuts Everywhere and Nowhere: Exploring Multi-Trigger Backdoor Attacks

• arxiv url: http://arxiv.org/abs/2401.15295v3
• Date: Thu, 28 Nov 2024 06:28:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-02 15:16:44.274199
• Title: Shortcuts Everywhere and Nowhere: Exploring Multi-Trigger Backdoor Attacks
• Title（参考訳）: あらゆる場所と場所のショートカット:マルチトリガーバックドア攻撃の探索
• Authors: Yige Li, Jiabo He, Hanxun Huang, Jun Sun, Xingjun Ma, Yu-Gang Jiang,
• Abstract要約: ディープニューラルネットワーク(DNN)の事前トレーニングとデプロイに対して、バックドア攻撃は重大な脅威となっている。 本研究では,マルチトリガーバックドア攻撃(MTBA)の概念について検討し,複数の敵が異なる種類のトリガーを利用して同一のデータセットを毒する。
• 参考スコア（独自算出の注目度）: 64.68741192761726
• License:
• Abstract: Backdoor attacks have become a significant threat to the pre-training and deployment of deep neural networks (DNNs). Although numerous methods for detecting and mitigating backdoor attacks have been proposed, most rely on identifying and eliminating the ``shortcut" created by the backdoor, which links a specific source class to a target class. However, these approaches can be easily circumvented by designing multiple backdoor triggers that create shortcuts everywhere and therefore nowhere specific. In this study, we explore the concept of Multi-Trigger Backdoor Attacks (MTBAs), where multiple adversaries leverage different types of triggers to poison the same dataset. By proposing and investigating three types of multi-trigger attacks including \textit{parallel}, \textit{sequential}, and \textit{hybrid} attacks, we demonstrate that 1) multiple triggers can coexist, overwrite, or cross-activate one another, and 2) MTBAs easily break the prevalent shortcut assumption underlying most existing backdoor detection/removal methods, rendering them ineffective. Given the security risk posed by MTBAs, we have created a multi-trigger backdoor poisoning dataset to facilitate future research on detecting and mitigating these attacks, and we also discuss potential defense strategies against MTBAs. Our code is available at \url{https://github.com/bboylyg/Multi-Trigger-Backdoor-Attacks}.
• Abstract（参考訳）: バックドア攻撃は、ディープニューラルネットワーク(DNN)の事前トレーニングとデプロイに対する重大な脅威となっている。 バックドア攻撃を検知し緩和する多くの方法が提案されているが、ほとんどの場合、特定のソースクラスをターゲットクラスにリンクするバックドアによって生成された `shortcut" を識別して排除することに依存している。 しかし、これらのアプローチは複数のバックドアトリガーを設計することで容易に回避できる。 本研究では,マルチトリガーバックドア攻撃(MTBA)の概念について検討し,複数の敵が異なる種類のトリガーを利用して同一のデータセットを毒する。 マルチトリガー攻撃の3つのタイプ,例えば \textit{parallel}, \textit{sequential}, \textit{hybrid} 攻撃を提案し, 検討することにより, 1) 複数のトリガーが共存し、上書きし、相互に活性化し、 2)MTBAは,既存のバックドア検出・除去手法の根底にある一般的なショートカット仮定を破りやすく,非効率である。 MTBAによるセキュリティリスクを考慮し,これらの攻撃の検出・緩和に関する今後の研究を促進するために,マルチトリガーバックドア中毒データセットを作成し,MTBAに対する防衛戦略についても検討した。 私たちのコードは \url{https://github.com/bboylyg/Multi-Trigger-Backdoor-Attacks} で利用可能です。

関連論文リスト

• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• Dual Model Replacement:invisible Multi-target Backdoor Attack based on Federal Learning [21.600003684064706]
  本稿では,フェデレート学習に基づくバックドア攻撃手法を設計する。 バックドアトリガの隠蔽を目的としたエンコーダデコーダ構造を備えたトロイジャンガンステガノグラフィーモデルが設計されている。 フェデレート学習に基づく二重モデル置換バックドア攻撃アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2024-04-22T07:44:02Z)
• LOTUS: Evasive and Resilient Backdoor Attacks through Sub-Partitioning [49.174341192722615]
  バックドア攻撃は、ディープラーニングアプリケーションに重大なセキュリティ脅威をもたらす。 近年の研究では、特殊な変換機能によって作られたサンプル特異的に見えないトリガーを用いた攻撃が導入されている。 我々は、回避性とレジリエンスの両方に対処するために、新しいバックドアアタックLOTUSを導入する。
  論文  参考訳（メタデータ） (2024-03-25T21:01:29Z)
• From Shortcuts to Triggers: Backdoor Defense with Denoised PoE [51.287157951953226]
  言語モデルは、しばしば多様なバックドア攻撃、特にデータ中毒の危険にさらされる。 既存のバックドア防御手法は主に明示的なトリガーによるバックドア攻撃に焦点を当てている。 我々は,様々なバックドア攻撃を防御するために,エンド・ツー・エンドアンサンブルに基づくバックドア防御フレームワークDPoEを提案する。
  論文  参考訳（メタデータ） (2023-05-24T08:59:25Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Backdoor Defense via Suppressing Model Shortcuts [91.30995749139012]
  本稿では,モデル構造の角度からバックドア機構を探索する。 攻撃成功率 (ASR) は, キースキップ接続の出力を減少させると著しく低下することを示した。
  論文  参考訳（メタデータ） (2022-11-02T15:39:19Z)
• Adaptive Perturbation Generation for Multiple Backdoors Detection [29.01715186371785]
  本稿では,複数種類のバックドア攻撃を検出するための適応摂動生成(APG)フレームワークを提案する。 まず,複数種類のバックドアトリガに適合するグローバル・ローカル戦略を設計する。 摂動注入の効率をさらに高めるため,勾配誘導マスク生成戦略を導入する。
  論文  参考訳（メタデータ） (2022-09-12T13:37:06Z)
• Dual-Key Multimodal Backdoors for Visual Question Answering [26.988750557552983]
  マルチモーダルネットワークは、Dual-Key Multimodal Backdoorsと呼ばれる新しいタイプの攻撃に対して脆弱であることを示す。 この攻撃は、最先端のネットワークが使用する複雑な融合機構を利用して、効果的でステルス的なバックドアを埋め込む。 本稿では,視覚的質問応答(VQA)タスクにおけるマルチモーダルバックドアについて,複数のアーキテクチャと視覚的特徴バックボーンを用いた広範な検討を行う。
  論文  参考訳（メタデータ） (2021-12-14T18:59:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。