論文の概要: An Invisible Backdoor Attack Based On Semantic Feature

• arxiv url: http://arxiv.org/abs/2405.11551v1
• Date: Sun, 19 May 2024 13:50:40 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-21 15:22:21.018032
• Title: An Invisible Backdoor Attack Based On Semantic Feature
• Title（参考訳）: 意味的特徴に基づく見えないバックドア攻撃
• Authors: Yangming Chen,
• Abstract要約: 過去数年間、バックドア攻撃はディープニューラルネットワーク(DNN)モデルに深刻な脅威を与えてきた。 我々は、新しいバックドア攻撃を提案し、不可避な変更を行う。 我々は3つの画像分類データセットに対する攻撃を評価した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Backdoor attacks have severely threatened deep neural network (DNN) models in the past several years. These attacks can occur in almost every stage of the deep learning pipeline. Although the attacked model behaves normally on benign samples, it makes wrong predictions for samples containing triggers. However, most existing attacks use visible patterns (e.g., a patch or image transformations) as triggers, which are vulnerable to human inspection. In this paper, we propose a novel backdoor attack, making imperceptible changes. Concretely, our attack first utilizes the pre-trained victim model to extract low-level and high-level semantic features from clean images and generates trigger pattern associated with high-level features based on channel attention. Then, the encoder model generates poisoned images based on the trigger and extracted low-level semantic features without causing noticeable feature loss. We evaluate our attack on three prominent image classification DNN across three standard datasets. The results demonstrate that our attack achieves high attack success rates while maintaining robustness against backdoor defenses. Furthermore, we conduct extensive image similarity experiments to emphasize the stealthiness of our attack strategy.
• Abstract（参考訳）: 過去数年間、バックドア攻撃はディープニューラルネットワーク(DNN)モデルに深刻な脅威を与えてきた。 これらの攻撃は、ディープラーニングパイプラインのほぼすべての段階で起こりうる。 攻撃されたモデルは、通常、良性サンプルで振る舞うが、トリガーを含むサンプルに対して間違った予測を行う。 しかし、既存の攻撃のほとんどは目に見えるパターン(パッチや画像変換など)をトリガーとして使用しており、人間の検査に弱い。 本稿では,新たなバックドア攻撃を提案する。 具体的には、まず、訓練済みの被害者モデルを用いて、クリーンな画像から低レベル、高レベルな意味的特徴を抽出し、チャネルの注意に基づく高レベルな特徴に関連するトリガーパターンを生成する。 そして、そのトリガーに基づいて有毒画像を生成し、特徴損失を生じさせることなく低レベルの意味特徴を抽出する。 3つの標準データセットにわたる3つの画像分類DNNに対する攻撃を評価する。 その結果,バックドア防御に対する堅牢性を保ちながら高い攻撃成功率を達成できた。 さらに,攻撃戦略のステルス性を強調するため,画像類似性実験を実施している。

関連論文リスト

• NoiseAttack: An Evasive Sample-Specific Multi-Targeted Backdoor Attack Through White Gaussian Noise [0.19820694575112383]
  ディープラーニング開発にサードパーティのデータを使用する場合、バックドア攻撃は重大な脅威となる。 我々は,新しいサンプル特異的なマルチターゲットバックドアアタック,すなわちNossAttackを紹介した。 この作業は、複数のターゲットクラスを生成する目的でビジョンバックドアアタックを起動する、この種の最初のものだ。
  論文  参考訳（メタデータ） (2024-09-03T19:24:46Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• SATBA: An Invisible Backdoor Attack Based On Spatial Attention [7.405457329942725]
  バックドア攻撃には、隠れたトリガーパターンを含むデータセットに対するDeep Neural Network(DNN)のトレーニングが含まれる。 既存のバックドア攻撃のほとんどは、2つの重大な欠点に悩まされている。 空間的注意とU-netモデルを用いてこれらの制限を克服するSATBAという新しいバックドアアタックを提案する。
  論文  参考訳（メタデータ） (2023-02-25T10:57:41Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Imperceptible and Robust Backdoor Attack in 3D Point Cloud [62.992167285646275]
  本稿では、この課題に対処するために、新しい非受容的で堅牢なバックドアアタック(IRBA)を提案する。 我々は、重み付き局所変換(WLT)と呼ばれる非線形局所変換を用いて、ユニークな変換を持つ有毒試料を構築する。 3つのベンチマークデータセットと4つのモデルによる実験により、IRBAは前処理技術でもほとんどの場合80%以上のASRを達成することが示された。
  論文  参考訳（メタデータ） (2022-08-17T03:53:10Z)
• Imperceptible Backdoor Attack: From Input Space to Feature Representation [24.82632240825927]
  バックドア攻撃はディープニューラルネットワーク(DNN)への脅威が急速に高まっている 本稿では,既存の攻撃手法の欠点を分析し,新たな非受容的バックドア攻撃を提案する。 我々のトリガーは、良性画像の1%以下のピクセルしか変更せず、大きさは1。
  論文  参考訳（メタデータ） (2022-05-06T13:02:26Z)
• Poison Ink: Robust and Invisible Backdoor Attack [122.49388230821654]
  我々はポゾン・インクと呼ばれる頑丈で目に見えないバックドア攻撃を提案する。 具体的には、まず、画像構造を標的の中毒領域として利用し、それらを毒インク(情報)で満たしてトリガーパターンを生成する。 既存の一般的なバックドア攻撃方法と比較して、Poison Inkはステルスネスとロバストネスの両方で優れている。
  論文  参考訳（メタデータ） (2021-08-05T09:52:49Z)
• Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
  Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。 我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。 実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
  論文  参考訳（メタデータ） (2021-03-06T05:50:29Z)
• Rethinking the Trigger of Backdoor Attack [83.98031510668619]
  現在、既存のバックドア攻撃のほとんどは、トレーニングとテスト用の画像は同じ外観で、同じエリアに置かれている。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、このような攻撃パラダイムが脆弱であることを示す。
  論文  参考訳（メタデータ） (2020-04-09T17:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。