論文の概要: Defending against Backdoor Attack on Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2002.12162v2
• Date: Mon, 21 Jun 2021 16:13:32 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-28 15:54:39.527118
• Title: Defending against Backdoor Attack on Deep Neural Networks
• Title（参考訳）: ディープニューラルネットワークのバックドア攻撃に対する防御
• Authors: Kaidi Xu, Sijia Liu, Pin-Yu Chen, Pu Zhao, Xue Lin
• Abstract要約: トレーニングデータの一部にバックドアトリガーを注入する、いわゆるテキストバックドア攻撃について検討する。 実験の結果,本手法は攻撃成功率を効果的に低減し,クリーン画像の分類精度も高いことがわかった。
• 参考スコア（独自算出の注目度）: 98.45955746226106
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although deep neural networks (DNNs) have achieved a great success in various computer vision tasks, it is recently found that they are vulnerable to adversarial attacks. In this paper, we focus on the so-called \textit{backdoor attack}, which injects a backdoor trigger to a small portion of training data (also known as data poisoning) such that the trained DNN induces misclassification while facing examples with this trigger. To be specific, we carefully study the effect of both real and synthetic backdoor attacks on the internal response of vanilla and backdoored DNNs through the lens of Gard-CAM. Moreover, we show that the backdoor attack induces a significant bias in neuron activation in terms of the $\ell_\infty$ norm of an activation map compared to its $\ell_1$ and $\ell_2$ norm. Spurred by our results, we propose the \textit{$\ell_\infty$-based neuron pruning} to remove the backdoor from the backdoored DNN. Experiments show that our method could effectively decrease the attack success rate, and also hold a high classification accuracy for clean images.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は様々なコンピュータビジョンタスクで大きな成功を収めているが、最近は敵の攻撃に弱いことが判明した。 本稿では,トレーニングデータ(データ中毒とも呼ばれる)のごく一部にバックドアトリガを注入し,トレーニングされたdnnが,このトリガで例を例示しながら誤分類を誘発する,いわゆる \textit{backdoor attack}に注目した。 具体的には、Gard-CAMレンズによるバニラおよびバックドアDNNの内部反応に対するリアルおよび合成バックドアアタックの効果を慎重に検討する。 さらに、バックドア攻撃は、活性化マップの$\ell_\infty$ノルムと$\ell_1$および$\ell_2$ノルムとで、ニューロンの活性化に大きなバイアスをもたらすことを示した。 そこで本研究では,バックドアのDNNからバックドアを取り除くために,textit{$\ell_\infty$-based neuron pruning}を提案する。 実験により,提案手法は攻撃成功率を効果的に低減し,クリーン画像の分類精度も高いことがわかった。

関連論文リスト

• "No Matter What You Do!": Mitigating Backdoor Attacks in Graph Neural Networks [33.07926413485209]
  GNNのバックドア攻撃は、攻撃者がトリガーを埋め込むことでグラフデータの一部を修正したという事実にある。 GNNにおける最初のバックドア緩和手法であるGCleanerを提案する。 GCleanerは、クリーンデータのわずか1%でバックドア攻撃の成功率を10%に下げることができ、ほぼ無視できるモデル性能の低下がある。
  論文  参考訳（メタデータ） (2024-10-02T06:30:49Z)
• Reconstructive Neuron Pruning for Backdoor Defense [96.21882565556072]
  本稿では, バックドアニューロンの露出とプルーンの抑制を目的とした, emphReconstructive Neuron Pruning (RNP) という新しい防御法を提案する。 RNPでは、アンラーニングはニューロンレベルで行われ、リカバリはフィルタレベルで行われ、非対称再構成学習手順を形成する。 このような非対称なプロセスは、少数のクリーンサンプルだけが、広範囲の攻撃によって移植されたバックドアニューロンを効果的に露出し、刺激することができることを示す。
  論文  参考訳（メタデータ） (2023-05-24T08:29:30Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Look, Listen, and Attack: Backdoor Attacks Against Video Action Recognition [53.720010650445516]
  有毒ラベル画像のバックドア攻撃は静的かつ動的に2つの時間的拡張が可能であることを示す。 さらに、ビデオ領域におけるこの脆弱性の深刻さを強調するために、自然なビデオバックドアを探索する。 また,ビデオ行動認識モデルに対するマルチモーダル(オービジュアル)バックドアアタックを初めて検討した。
  論文  参考訳（メタデータ） (2023-01-03T07:40:28Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Imperceptible and Multi-channel Backdoor Attack against Deep Neural Networks [9.931056642574454]
  本稿では,Deep Neural Networksに対する新たな非受容・マルチチャネルバックドアアタックを提案する。 具体的には、カラー画像に対して、DCTステガノグラフィーを用いて、画像の異なるチャネルにトリガを構築する。 実験の結果、N-to-Nバックドア攻撃の平均攻撃成功率は、CIFAR-10データセットで93.95%、TinyImageNetデータセットで91.55%であることがわかった。
  論文  参考訳（メタデータ） (2022-01-31T12:19:28Z)
• Test-Time Detection of Backdoor Triggers for Poisoned Deep Neural Networks [24.532269628999025]
  深層ニューラルネットワーク(DNN)に対するバックドア(トロイの木馬)攻撃が出現 本稿では,画像分類に対するバックドア攻撃に対する「飛行中」防御法を提案する。
  論文  参考訳（メタデータ） (2021-12-06T20:52:00Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Handcrafted Backdoors in Deep Neural Networks [33.21980707457639]
  トレーニング済みモデルのパラメータを直接操作してバックドアを注入する手工芸攻撃を導入する。 バックドアは4つのデータセットと4つのネットワークアーキテクチャで有効であり、成功率は96%を超えています。 以上の結果から,サプライチェーンバックドア攻撃の完全な空間を理解するためには,さらなる研究が必要であることが示唆された。
  論文  参考訳（メタデータ） (2021-06-08T20:58:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。