論文の概要: Learning Defense Transformers for Counterattacking Adversarial Examples

• arxiv url: http://arxiv.org/abs/2103.07595v1
• Date: Sat, 13 Mar 2021 02:03:53 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-16 13:49:36.917800
• Title: Learning Defense Transformers for Counterattacking Adversarial Examples
• Title（参考訳）: 敵攻撃に対する防衛変圧器の学習
• Authors: Jincheng Li, Jiezhang Cao, Yifan Zhang, Jian Chen, Mingkui Tan
• Abstract要約: ディープニューラルネットワーク(DNN)は、小さな摂動を伴う逆例に対して脆弱である。 既存の防御メソッドは、特定のタイプの敵の例に焦点を当てており、現実世界のアプリケーションでは防御に失敗する可能性がある。 敵対例を元のクリーンな分布に戻すことで、敵対例に対して防御できるかどうかという新たな視点から、敵対例を研究します。
• 参考スコア（独自算出の注目度）: 43.59730044883175
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) are vulnerable to adversarial examples with small perturbations. Adversarial defense thus has been an important means which improves the robustness of DNNs by defending against adversarial examples. Existing defense methods focus on some specific types of adversarial examples and may fail to defend well in real-world applications. In practice, we may face many types of attacks where the exact type of adversarial examples in real-world applications can be even unknown. In this paper, motivated by that adversarial examples are more likely to appear near the classification boundary, we study adversarial examples from a new perspective that whether we can defend against adversarial examples by pulling them back to the original clean distribution. We theoretically and empirically verify the existence of defense affine transformations that restore adversarial examples. Relying on this, we learn a defense transformer to counterattack the adversarial examples by parameterizing the affine transformations and exploiting the boundary information of DNNs. Extensive experiments on both toy and real-world datasets demonstrate the effectiveness and generalization of our defense transformer.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、小さな摂動を伴う逆例に対して脆弱である。 したがって、敵防衛は、敵の例に対抗してDNNの堅牢性を向上する重要な手段である。 既存の防御メソッドは、特定のタイプの敵の例に焦点を当てており、現実世界のアプリケーションでは防御に失敗する可能性がある。 実際、現実世界のアプリケーションにおける正確なタイプの敵の例が不明な多くのタイプの攻撃に直面する可能性がある。 本論文では, 対人事例が分類境界付近に出現する可能性が高いことを動機として, 対人事例を元のクリーン分布に戻すことで, 対人例を防御できるか否かを新たな視点から検討する。 反逆例を復元する防衛アフィン変換の存在を理論的および実証的に検証する。 そこで我々は,アフィン変換をパラメータ化し,DNNの境界情報を活用することで,敵の例に対抗できるディフェンストランスフォーマーを学習する。 おもちゃと実世界のデータセットに関する広範な実験は、防衛変圧器の有効性と一般化を示しています。

関連論文リスト

• Detecting Adversarial Examples [24.585379549997743]
  本稿では,Deep Neural Networks の層出力を解析して,敵のサンプルを検出する手法を提案する。 提案手法はDNNアーキテクチャと互換性が高く,画像,ビデオ,オーディオなど,さまざまな領域にまたがって適用可能である。
  論文  参考訳（メタデータ） (2024-10-22T21:42:59Z)
• The Enemy of My Enemy is My Friend: Exploring Inverse Adversaries for Improving Adversarial Training [72.39526433794707]
  敵の訓練とその変種は、敵の例に対抗して最も効果的なアプローチであることが示されている。 本稿では,モデルが類似した出力を生成することを奨励する,新たな対角訓練手法を提案する。 本手法は,最先端のロバスト性および自然な精度を実現する。
  論文  参考訳（メタデータ） (2022-11-01T15:24:26Z)
• TREATED:Towards Universal Defense against Textual Adversarial Attacks [28.454310179377302]
  本稿では,様々な摂動レベルの攻撃に対して,仮定なしに防御できる汎用的対向検出手法であるTREATEDを提案する。 3つの競合するニューラルネットワークと2つの広く使われているデータセットの大規模な実験により、本手法はベースラインよりも優れた検出性能が得られることが示された。
  論文  参考訳（メタデータ） (2021-09-13T03:31:20Z)
• Towards Defending against Adversarial Examples via Attack-Invariant Features [147.85346057241605]
  ディープニューラルネットワーク(DNN)は敵の雑音に弱い。 敵の強靭性は、敵の例を利用して改善することができる。 目に見えない種類の敵の例に基づいて訓練されたモデルは、一般的に、目に見えない種類の敵の例にうまく一般化できない。
  論文  参考訳（メタデータ） (2021-06-09T12:49:54Z)
• Internal Wasserstein Distance for Adversarial Attack and Defense [40.27647699862274]
  本研究では,サンプルと対比例の画像類似度を測定するための内部Wasserstein距離(IWD)を提案する。 原試料中のパッチの分布を捉えた新しい攻撃手法を開発した。 我々はまた,未知の敵の例から守るためのロバストなモデルを学ぶための新しい防御手法も構築する。
  論文  参考訳（メタデータ） (2021-03-13T02:08:02Z)
• Detecting Adversarial Examples by Input Transformations, Defense Perturbations, and Voting [71.57324258813674]
  畳み込みニューラルネットワーク(CNN)は、視覚認識タスクにおいて超人的性能に達することが証明されている。 CNNは敵の例、すなわち不正な出力をネットワークに強制する悪意のある画像によって簡単に騙される。 本稿では,画像変換による敵例の検出を幅広く検討し,新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-01-27T14:50:41Z)
• Advocating for Multiple Defense Strategies against Adversarial Examples [66.90877224665168]
  ニューラルネットワークを$ell_infty$敵の例から保護するために設計された防御機構が、性能の低下を実証的に観察されている。 本稿では,この観測を検証した幾何学的解析を行う。 そこで本研究では,この現象の実際的影響を説明するための実証的な知見を多数提示する。
  論文  参考訳（メタデータ） (2020-12-04T14:42:46Z)
• Can We Mitigate Backdoor Attack Using Adversarial Detection Methods? [26.8404758315088]
  我々は,Deep Neural Networksの敵対的事例とバックドア事例の関連性について包括的に研究する。 我々の知見は, 逆行例と逆行例の両方が推論過程中に異常を有するという観察に基づいている。 バックドアの事例を検出するために,既存の4つの対角防御法を改訂した。
  論文  参考訳（メタデータ） (2020-06-26T09:09:27Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。