論文の概要: Detection of Iterative Adversarial Attacks via Counter Attack

• arxiv url: http://arxiv.org/abs/2009.11397v2
• Date: Tue, 23 Mar 2021 14:21:02 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-15 15:18:22.471945
• Title: Detection of Iterative Adversarial Attacks via Counter Attack
• Title（参考訳）: 対向攻撃による反復的対向攻撃の検出
• Authors: Matthias Rottmann, Kira Maag, Mathis Peyron, Natasa Krejic and Hanno Gottschalk
• Abstract要約: ディープニューラルネットワーク(DNN)は、非構造化データを処理する強力なツールであることが証明されている。 画像のような高次元データの場合、それらは本質的に敵対的な攻撃に対して脆弱である。 本研究では、CW攻撃が検出器自体として使用できるという数学的証明を概説する。
• 参考スコア（独自算出の注目度）: 4.549831511476249
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) have proven to be powerful tools for processing unstructured data. However for high-dimensional data, like images, they are inherently vulnerable to adversarial attacks. Small almost invisible perturbations added to the input can be used to fool DNNs. Various attacks, hardening methods and detection methods have been introduced in recent years. Notoriously, Carlini-Wagner (CW) type attacks computed by iterative minimization belong to those that are most difficult to detect. In this work we outline a mathematical proof that the CW attack can be used as a detector itself. That is, under certain assumptions and in the limit of attack iterations this detector provides asymptotically optimal separation of original and attacked images. In numerical experiments, we experimentally validate this statement and furthermore obtain AUROC values up to 99.73% on CIFAR10 and ImageNet. This is in the upper part of the spectrum of current state-of-the-art detection rates for CW attacks.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、非構造化データを処理する強力なツールであることが証明されている。 しかし、画像のような高次元データでは、本質的に敵の攻撃に弱い。 入力に追加されるほとんど見えない小さな摂動は、DNNを騙すのに使うことができる。 近年,様々な攻撃,硬化方法,検出方法が紹介されている。 歴史的に、カルリーニ・ワグナー(CW)型攻撃は反復最小化によって計算され、最も検出が難しい攻撃に属する。 本研究では,cw攻撃を検知器として使用できることを数学的に証明する。 すなわち、特定の仮定と攻撃反復の限界の下で、この検出器は漸近的に原画像と攻撃画像の分離を提供する。 数値実験では、このステートメントを実験的に検証し、さらにcifar10とimagenet上で最大99.73%のauroc値を得る。 これは、CW攻撃の現在の最先端検出率のスペクトルの上部にある。

関連論文リスト

• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• New Adversarial Image Detection Based on Sentiment Analysis [37.139957973240264]
  敵攻撃モデル、例えばDeepFoolは、敵のサンプル検出技術の増加とアウトランの段階にある。 本稿では,画像データセットに対する最新の対角攻撃を特定するために,最先端の検出器よりも優れた新しい対角検出法を提案する。
  論文  参考訳（メタデータ） (2023-05-03T14:32:21Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• On Trace of PGD-Like Adversarial Attacks [77.75152218980605]
  敵対的攻撃は、ディープラーニングアプリケーションに対する安全性とセキュリティ上の懸念を引き起こす。 モデルの勾配一貫性を反映した適応応答特性(ARC)特性を構築する。 私たちの方法は直感的で、軽量で、非侵襲的で、データ不要です。
  論文  参考訳（メタデータ） (2022-05-19T14:26:50Z)
• PiDAn: A Coherence Optimization Approach for Backdoor Attack Detection and Mitigation in Deep Neural Networks [22.900501880865658]
  バックドア攻撃はディープニューラルネットワーク(DNN)に新たな脅威をもたらす 汚染されたデータを浄化するコヒーレンス最適化に基づくアルゴリズムであるPiDAnを提案する。 当社のPiDAnアルゴリズムは90%以上の感染クラスを検出でき、95%の有毒サンプルを識別できる。
  論文  参考訳（メタデータ） (2022-03-17T12:37:21Z)
• AntidoteRT: Run-time Detection and Correction of Poison Attacks on Neural Networks [18.461079157949698]
  画像分類ネットワークに対する バックドア毒殺攻撃 本稿では,毒殺攻撃に対する簡易な自動検出・補正手法を提案する。 我々の手法は、一般的なベンチマークにおいて、NeuralCleanseやSTRIPといった既存の防御よりも優れています。
  論文  参考訳（メタデータ） (2022-01-31T23:42:32Z)
• Adversarially Robust One-class Novelty Detection [83.1570537254877]
  既存のノベルティ検出器は敵の例に感受性があることが示される。 本稿では, 新規性検知器の潜伏空間を制御し, 敵に対する堅牢性を向上する防衛戦略を提案する。
  論文  参考訳（メタデータ） (2021-08-25T10:41:29Z)
• Detect and Defense Against Adversarial Examples in Deep Learning using Natural Scene Statistics and Adaptive Denoising [12.378017309516965]
  本稿では,DNN を敵のサンプルから守るためのフレームワークを提案する。 この検出器は、自然の景観統計を利用してAEを検出することを目的としている。 提案手法は最先端の防御技術より優れている。
  論文  参考訳（メタデータ） (2021-07-12T23:45:44Z)
• Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
  Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。 我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。 実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
  論文  参考訳（メタデータ） (2021-03-06T05:50:29Z)
• Anomaly Detection-Based Unknown Face Presentation Attack Detection [74.4918294453537]
  異常検出に基づくスプーフ攻撃検出は、顔提示攻撃検出の最近の進歩である。 本稿では,異常検出に基づくスプーフ攻撃検出のためのディープラーニングソリューションを提案する。 提案手法はCNNの表現学習能力の恩恵を受け,fPADタスクの優れた特徴を学習する。
  論文  参考訳（メタデータ） (2020-07-11T21:20:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。