論文の概要: Poison Ink: Robust and Invisible Backdoor Attack

• arxiv url: http://arxiv.org/abs/2108.02488v1
• Date: Thu, 5 Aug 2021 09:52:49 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-06 14:34:35.325980
• Title: Poison Ink: Robust and Invisible Backdoor Attack
• Title（参考訳）: Poison Ink:頑丈で目に見えないバックドア攻撃
• Authors: Jie zhang, Dongdong Chen, Jing Liao, Qidong Huang, Gang Hua, Weiming Zhang, Nenghai Yu
• Abstract要約: 我々はポゾン・インクと呼ばれる頑丈で目に見えないバックドア攻撃を提案する。 具体的には、まず、画像構造を標的の中毒領域として利用し、それらを毒インク(情報)で満たしてトリガーパターンを生成する。 既存の一般的なバックドア攻撃方法と比較して、Poison Inkはステルスネスとロバストネスの両方で優れている。
• 参考スコア（独自算出の注目度）: 122.49388230821654
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent research shows deep neural networks are vulnerable to different types of attacks, such as adversarial attack, data poisoning attack and backdoor attack. Among them, backdoor attack is the most cunning one and can occur in almost every stage of deep learning pipeline. Therefore, backdoor attack has attracted lots of interests from both academia and industry. However, most existing backdoor attack methods are either visible or fragile to some effortless pre-processing such as common data transformations. To address these limitations, we propose a robust and invisible backdoor attack called ``Poison Ink''. Concretely, we first leverage the image structures as target poisoning areas, and fill them with poison ink (information) to generate the trigger pattern. As the image structure can keep its semantic meaning during the data transformation, such trigger pattern is inherently robust to data transformations. Then we leverage a deep injection network to embed such trigger pattern into the cover image to achieve stealthiness. Compared to existing popular backdoor attack methods, Poison Ink outperforms both in stealthiness and robustness. Through extensive experiments, we demonstrate Poison Ink is not only general to different datasets and network architectures, but also flexible for different attack scenarios. Besides, it also has very strong resistance against many state-of-the-art defense techniques.
• Abstract（参考訳）: 最近の研究によると、ディープニューラルネットワークは、敵攻撃、データ中毒攻撃、バックドア攻撃など、さまざまなタイプの攻撃に対して脆弱である。 中でもバックドア攻撃は最も厄介な攻撃であり、ディープラーニングパイプラインのほぼすべての段階で起こりうる。 そのため、バックドア攻撃は学界と産業の両方から多くの関心を集めている。 しかし、既存のバックドアアタックメソッドの多くは、一般的なデータ変換のような、無力な事前処理で見えるか脆弱である。 これらの制限に対処するため、我々は ``Poison Ink'' と呼ばれる堅牢で見えないバックドア攻撃を提案する。 具体的には、まず画像構造を標的の中毒領域として利用し、それらを毒インク(情報)で満たしてトリガーパターンを生成する。 画像構造はデータ変換中に意味を保てるため、そのようなトリガーパターンは本質的にデータ変換に対して堅牢である。 次に,このトリガパターンをカバー画像に埋め込み,ステルス性を実現するために,ディープインジェクションネットワークを利用する。 既存の一般的なバックドア攻撃方法と比較して、Poison Inkはステルス性と堅牢性の両方で優れている。 広範な実験を通じて、Poison Inkは異なるデータセットやネットワークアーキテクチャに対して一般的なだけでなく、異なる攻撃シナリオに対して柔軟であることを示す。 また、多くの最先端の防衛技術に対して強い抵抗力を持つ。

関連論文リスト

• Robustness-Inspired Defense Against Backdoor Attacks on Graph Neural Networks [30.82433380830665]
  グラフニューラルネットワーク(GNN)は,ノード分類やグラフ分類といったタスクにおいて,有望な結果を達成している。 最近の研究で、GNNはバックドア攻撃に弱いことが判明し、実際の採用に重大な脅威をもたらしている。 本研究では,裏口検出にランダムなエッジドロップを用いることにより,汚染ノードとクリーンノードを効率的に識別できることを理論的に示す。
  論文  参考訳（メタデータ） (2024-06-14T08:46:26Z)
• An Invisible Backdoor Attack Based On Semantic Feature [0.0]
  過去数年間、バックドア攻撃はディープニューラルネットワーク(DNN)モデルに深刻な脅威を与えてきた。 我々は、新しいバックドア攻撃を提案し、不可避な変更を行う。 我々は3つの画像分類データセットに対する攻撃を評価した。
  論文  参考訳（メタデータ） (2024-05-19T13:50:40Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Just Rotate it: Deploying Backdoor Attacks via Rotation Transformation [48.238349062995916]
  回転に基づく画像変換により,高い効率のバックドアを容易に挿入できることが判明した。 私たちの研究は、バックドア攻撃のための、新しく、シンプルで、物理的に実現可能で、非常に効果的なベクターに焦点を当てています。
  論文  参考訳（メタデータ） (2022-07-22T00:21:18Z)
• Backdoor Attack in the Physical World [49.64799477792172]
  ディープニューラルネットワーク(DNN)に隠れたバックドアを注入するバックドア攻撃 既存のバックドア攻撃のほとんどは、トレーニングおよびテスト画像にまたがる静的トリガ、すなわち$$トリガの設定を採用した。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、この攻撃パラダイムは脆弱であることを示す。
  論文  参考訳（メタデータ） (2021-04-06T08:37:33Z)
• Deep Feature Space Trojan Attack of Neural Networks by Controlled Detoxification [21.631699720855995]
  トロイの木馬攻撃(Trojan attack)は、ディープニューラルネットワークに対する敵攻撃の一種である。 5つの特徴を持つ新しい深部特徴空間トロイの木馬攻撃を提案する。
  論文  参考訳（メタデータ） (2020-12-21T09:46:12Z)
• Clean-Label Backdoor Attacks on Video Recognition Models [87.46539956587908]
  画像バックドア攻撃は、ビデオでははるかに効果が低いことを示す。 本稿では,映像認識モデルに対するバックドアトリガとして,ユニバーサル・ディバイサル・トリガーを提案する。 提案したバックドア攻撃は,最先端のバックドア防御・検出手法に耐性がある。
  論文  参考訳（メタデータ） (2020-03-06T04:51:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。