Fugu-MT 論文翻訳(概要): Megatron: Evasive Clean-Label Backdoor Attacks against Vision Transformer

論文の概要: Megatron: Evasive Clean-Label Backdoor Attacks against Vision Transformer

arxiv url: http://arxiv.org/abs/2412.04776v1
Date: Fri, 06 Dec 2024 04:39:41 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-09 15:56:50.853754
Title: Megatron: Evasive Clean-Label Backdoor Attacks against Vision Transformer
Title（参考訳）: Megatron:視覚変換器に対するクリーンラベルのバックドア攻撃
Authors: Xueluan Gong, Bowei Tian, Meng Xue, Shuike Li, Yanjiao Chen, Qian Wang,
Abstract要約: 本稿では,視覚変換器に対するクリーンラベルバックドア攻撃であるMegatronを提案する。効果的なトリガを生成するため、トランスフォーマーネットワークで使用される注意機構に基づいて2つの損失項をカスタマイズする。 CIFAR-10、GTSRB、CIFAR-100、Tiny ImageNetの実験はメガトロンの有効性を実証した。
参考スコア（独自算出の注目度）: 18.7577367616979
License:
Abstract: Vision transformers have achieved impressive performance in various vision-related tasks, but their vulnerability to backdoor attacks is under-explored. A handful of existing works focus on dirty-label attacks with wrongly-labeled poisoned training samples, which may fail if a benign model trainer corrects the labels. In this paper, we propose Megatron, an evasive clean-label backdoor attack against vision transformers, where the attacker injects the backdoor without manipulating the data-labeling process. To generate an effective trigger, we customize two loss terms based on the attention mechanism used in transformer networks, i.e., latent loss and attention diffusion loss. The latent loss aligns the last attention layer between triggered samples and clean samples of the target label. The attention diffusion loss emphasizes the attention diffusion area that encompasses the trigger. A theoretical analysis is provided to underpin the rationale behind the attention diffusion loss. Extensive experiments on CIFAR-10, GTSRB, CIFAR-100, and Tiny ImageNet demonstrate the effectiveness of Megatron. Megatron can achieve attack success rates of over 90% even when the position of the trigger is slightly shifted during testing. Furthermore, Megatron achieves better evasiveness than baselines regarding both human visual inspection and defense strategies (i.e., DBAVT, BAVT, Beatrix, TeCo, and SAGE).
Abstract（参考訳）: ビジョントランスフォーマーは様々な視覚関連タスクにおいて素晴らしいパフォーマンスを達成しているが、バックドアアタックに対する脆弱性は未調査である。既存のいくつかの研究は、不正にラベル付けされた有毒なトレーニングサンプルによる汚いラベルの攻撃に焦点を当てており、良心的なモデルトレーナーがラベルを修正すれば失敗する可能性がある。本稿では,視覚変換器に対するクリーンラベルバックドア攻撃であるMegatronを提案し,攻撃者はデータラベル処理を操作せずにバックドアを注入する。実効トリガを生成するために、トランスフォーマーネットワークで使用される注意機構、すなわち潜時損失と注意拡散損失に基づいて2つの損失項をカスタマイズする。遅延損失は、最後の注意層をトリガーサンプルとターゲットラベルのクリーンサンプルの間に整列させる。注意拡散損失は、引き金を含む注意拡散領域を強調する。注意拡散損失の根拠となる理論的解析が提供される。 CIFAR-10、GTSRB、CIFAR-100、Tiny ImageNetの大規模な実験はメガトロンの有効性を実証している。 Megatronは、テスト中にトリガーの位置がわずかにシフトしても、90%以上の攻撃成功率を達成することができる。さらに、Megatronは人間の視覚検査と防衛戦略(DBAVT、BAVT、Beatrix、TeCo、SAGE)に関して、ベースラインよりも回避性が高い。

関連論文リスト

Backdoor Attack Against Vision Transformers via Attention Gradient-Based Image Erosion [4.036142985883415]
ビジョントランスフォーマー(ViT)は、様々なコンピュータビジョンタスクで従来の畳み込みニューラルネットワーク(CNN)を上回っている。 ViTはバックドア攻撃に対して脆弱で、敵がバックドアを被害者のモデルに埋め込む。 Intention Gradient-based Erosion Backdoor (AGEB) を提案する。
論文参考訳（メタデータ） (2024-10-30T04:06:12Z)
DMGNN: Detecting and Mitigating Backdoor Attacks in Graph Neural Networks [30.766013737094532]
我々は,DMGNNを,アウト・オブ・ディストリビューション(OOD)およびイン・ディストリビューション(ID)グラフバックドア攻撃に対して提案する。 DMGNNは、偽説明に基づいてラベル遷移を予測することによって、隠されたIDとOODトリガを容易に識別できる。 DMGNNは最新技術(SOTA)防衛法をはるかに上回り、モデル性能のほとんど無視できる劣化を伴って攻撃成功率を5%に低下させる。
論文参考訳（メタデータ） (2024-10-18T01:08:03Z)
ViTGuard: Attention-aware Detection against Adversarial Examples for Vision Transformer [8.71614629110101]
本稿では,視覚変換器(ViT)モデルを敵攻撃に対して防御するための一般的な検出方法として,ViTGuardを提案する。 ViTGuardはMasked Autoencoder(MAE)モデルを使用して、ランダムにマスキングされたパッチを非マッシュ領域から回収する。しきい値に基づく検出器は、注意マップやトークン表現(トークン表現)の分類など、ViT特有の特徴を活用して、通常のサンプルと反対のサンプルを区別する。
論文参考訳（メタデータ） (2024-09-20T18:11:56Z)
Any Target Can be Offense: Adversarial Example Generation via Generalized Latent Infection [83.72430401516674]
GAKerは任意のターゲットクラスに対して逆例を構築することができる。本手法は,未知のクラスに対する攻撃成功率を約14.13%で達成する。
論文参考訳（メタデータ） (2024-07-17T03:24:09Z)
UltraClean: A Simple Framework to Train Robust Neural Networks against Backdoor Attacks [19.369701116838776]
バックドア攻撃は、ディープニューラルネットワークに対する脅威を生じさせている。彼らは通常、毒を盛ったサンプルを注入することで、悪意のある行動を被害者のモデルに埋め込む。有毒試料の同定を簡略化する枠組みであるUltraCleanを提案する。
論文参考訳（メタデータ） (2023-12-17T09:16:17Z)
Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。バックドアアタックは、訓練段階の脅威を脅かしている。軽度で目に見えないバックドアアタック(SIBA)を提案する。
論文参考訳（メタデータ） (2023-05-11T10:05:57Z)
Untargeted Backdoor Attack against Object Detection [69.63097724439886]
我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
論文参考訳（メタデータ） (2022-11-02T17:05:45Z)
BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
論文参考訳（メタデータ） (2022-11-02T16:03:43Z)
DBIA: Data-free Backdoor Injection Attack against Transformer Networks [6.969019759456717]
CV指向トランスネットワークに対するデータフリーバックドア攻撃であるDBIAを提案する。弊社のアプローチでは、バックドアを高い成功率で埋め込むことができ、被害者のトランスフォーマーの性能への影響も低い。
論文参考訳（メタデータ） (2021-11-22T08:13:51Z)
Towards Transferable Adversarial Attacks on Vision Transformers [110.55845478440807]
視覚変換器(ViT)は、コンピュータビジョンの一連のタスクにおいて印象的なパフォーマンスを示してきたが、それでも敵の例に悩まされている。本稿では、PNA攻撃とPatchOut攻撃を含むデュアルアタックフレームワークを導入し、異なるViT間での対向サンプルの転送性を改善する。
論文参考訳（メタデータ） (2021-09-09T11:28:25Z)
Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
論文参考訳（メタデータ） (2021-03-06T05:50:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。