論文の概要: CASSOCK: Viable Backdoor Attacks against DNN in The Wall of Source-Specific Backdoor Defences

• arxiv url: http://arxiv.org/abs/2206.00145v1
• Date: Tue, 31 May 2022 23:09:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-02 13:09:07.512560
• Title: CASSOCK: Viable Backdoor Attacks against DNN in The Wall of Source-Specific Backdoor Defences
• Title（参考訳）: cassock: ソース固有のバックドア防御の壁におけるdnnに対する実行可能なバックドア攻撃
• Authors: Shang Wang, Yansong Gao, Anmin Fu, Zhi Zhang, Yuqing Zhang, Willy Susilo
• Abstract要約: バックドア攻撃はディープニューラルネットワーク(DNN)にとって重要な脅威だった 既存のほとんどの対策はソース非依存のバックドアアタック(SABA)に焦点を当てており、ソース固有のバックドアアタック(SSBA)を倒さない。
• 参考スコア（独自算出の注目度）: 29.84771472633627
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Backdoor attacks have been a critical threat to deep neural network (DNN). However, most existing countermeasures focus on source-agnostic backdoor attacks (SABAs) and fail to defeat source-specific backdoor attacks (SSBAs). Compared to an SABA, an SSBA activates a backdoor when an input from attacker-chosen class(es) is stamped with an attacker-specified trigger, making itself stealthier and thus evade most existing backdoor mitigation. Nonetheless, existing SSBAs have trade-offs on attack success rate (ASR, a backdoor is activated by a trigger input from a source class as expected) and false positive rate (FPR, a backdoor is activated unexpectedly by a trigger input from a non-source class). Significantly, they can still be effectively detected by the state-of-the-art (SOTA) countermeasures targeting SSBAs. This work overcomes efficiency and effectiveness deficiencies of existing SSBAs, thus bypassing the SOTA defences. The key insight is to construct desired poisoned and cover data during backdoor training by characterising SSBAs in-depth. Both data are samples with triggers: the cover/poisoned data from non-source/source class(es) holds ground-truth/target labels. Therefore, two cover/poisoned data enhancements are developed from trigger style and content, respectively, coined CASSOCK. First, we leverage trigger patterns with discrepant transparency to craft cover/poisoned data, enforcing triggers with heterogeneous sensitivity on different classes. The second enhancement chooses the target class features as triggers to craft these samples, entangling trigger features with the target class heavily. Compared with existing SSBAs, CASSOCK-based attacks have higher ASR and low FPR on four popular tasks: MNIST, CIFAR10, GTSRB, and LFW. More importantly, CASSOCK has effectively evaded three defences (SCAn, Februus and extended Neural Cleanse) already defeat existing SSBAs effectively.
• Abstract（参考訳）: バックドア攻撃はディープニューラルネットワーク(DNN)にとって重要な脅威である。 しかし、既存の対策のほとんどはソース非依存のバックドア攻撃(sabas)とソース固有のバックドア攻撃(ssbas)の打倒に失敗している。 SABAと比較して、SSBAはアタッカー・チョウン・クラスからの入力が攻撃者特定トリガーでスタンプされたときにバックドアを起動し、ステルス性を高め、既存のバックドアの緩和を回避する。 それでも、既存のSSBAは、攻撃成功率(ASR、ソースクラスからのトリガ入力によりバックドアが活性化される)と偽陽性率(FPR、非ソースクラスからのトリガ入力によりバックドアが予期せず活性化される)にトレードオフがある。 重要なことは、SSBAを標的としたSOTA(State-of-the-art)対策によって検出することができる。 この研究は既存のSSBAの効率性と効果の欠如を克服し、SOTA防衛を回避した。 重要な洞察は、バックドアトレーニング中にSSBAを詳細に特徴付けることで、望ましい毒と覆いのデータを構築することである。 非ソース/ソースクラス(es)からのカバー/汚染されたデータは、接地/ターゲットラベルを保持します。 そのため、それぞれCASSOCKと呼ばれるトリガースタイルとコンテンツから2つのカバー/ポゾンデータ拡張を開発する。 まず,異なるクラスに対して異種感度のトリガーを強制することにより,異なる透過性を持つトリガーパターンを用いてカバー/汚染データを作成する。 第2の強化は、これらのサンプルを作成するトリガとしてターゲットクラス機能を選択し、ターゲットクラスにトリガ機能を深く絡ませる。 既存のSSBAと比較して、CASSOCKベースの攻撃は、MNIST、CIFAR10、GTSRB、LFWの4つの一般的なタスクにおいて、より高いASRと低いFPRを持つ。 さらに重要なことは、CASSOCKは既存のSSBAを効果的に倒した3つの防衛(SCAn、Februus、拡張ニューラルクリーンス)を効果的に回避したことである。

関連論文リスト

• A4O: All Trigger for One sample [10.78460062665304]
  提案されたバックドアディフェンダーは、トリガーが統一された方法で現れるという仮定に依存することが多い。 本稿では,この単純な仮定が抜け穴を生じさせ,より洗練されたバックドア攻撃を回避できることを示す。 我々は,複数の種類のバックドアトリガーを組み込んだ新たなバックドア攻撃機構を設計し,ステルスネスと有効性に着目した。
  論文  参考訳（メタデータ） (2025-01-13T10:38:58Z)
• Does Few-shot Learning Suffer from Backdoor Attacks? [63.9864247424967]
  数発の学習がバックドアアタックに対して脆弱であることは明らかです。 本手法は,FSLタスクにおける攻撃成功率(ASR)を,異なる数発の学習パラダイムで示す。 この研究は、数発の学習がまだバックドア攻撃に悩まされており、そのセキュリティに注意を払う必要があることを明らかにしている。
  論文  参考訳（メタデータ） (2023-12-31T06:43:36Z)
• BELT: Old-School Backdoor Attacks can Evade the State-of-the-Art Defense with Backdoor Exclusivity Lifting [21.91491621538245]
  本稿では,バックドア攻撃の新たな特徴,すなわちバックドア排他性について検討する。 バックドアの排他性は、入力変動の存在下で有効なバックドアトリガーの能力を測定する。 提案手法は, 従来の4つのバックドア攻撃のステルス性を大幅に向上させ, 攻撃成功率と通常の実用性にはほとんど費用がかからない。
  論文  参考訳（メタデータ） (2023-12-08T08:35:16Z)
• Towards Sample-specific Backdoor Attack with Clean Labels via Attribute Trigger [60.91713802579101]
  サンプル特異的バックドアアタック (SSBA) は, 有毒なラベルの性質のため, 十分にステルス性がないことを示す。 クリーンラベルのSSBAを設計するためのトリガパターンとして,コンテンツ関連機能である$a.k.a.$(ヒューマン信頼性)属性を活用することを提案する。
  論文  参考訳（メタデータ） (2023-12-03T09:12:14Z)
• From Shortcuts to Triggers: Backdoor Defense with Denoised PoE [51.287157951953226]
  言語モデルは、しばしば多様なバックドア攻撃、特にデータ中毒の危険にさらされる。 既存のバックドア防御手法は主に明示的なトリガーによるバックドア攻撃に焦点を当てている。 我々は,様々なバックドア攻撃を防御するために,エンド・ツー・エンドアンサンブルに基づくバックドア防御フレームワークDPoEを提案する。
  論文  参考訳（メタデータ） (2023-05-24T08:59:25Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Sleeper Agent: Scalable Hidden Trigger Backdoors for Neural Networks Trained from Scratch [99.90716010490625]
  バックドア攻撃者は、トレーニングデータを改ざんして、そのデータに基づいてトレーニングされたモデルに脆弱性を埋め込む。 この脆弱性は、モデル入力に"トリガー"を配置することで、推論時にアクティベートされる。 我々は,工芸過程において,勾配マッチング,データ選択,ターゲットモデル再トレーニングを利用した新しい隠れトリガ攻撃,Sleeper Agentを開発した。
  論文  参考訳（メタデータ） (2021-06-16T17:09:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。