Fugu-MT 論文翻訳(概要): Detecting and Recovering Adversarial Examples from Extracting Non-robust and Highly Predictive Adversarial Perturbations

論文の概要: Detecting and Recovering Adversarial Examples from Extracting Non-robust and Highly Predictive Adversarial Perturbations

arxiv url: http://arxiv.org/abs/2206.15128v1
Date: Thu, 30 Jun 2022 08:48:28 GMT
ステータス: 処理完了
システム内更新日: 2022-07-01 14:45:30.331297
Title: Detecting and Recovering Adversarial Examples from Extracting Non-robust and Highly Predictive Adversarial Perturbations
Title（参考訳）: 非破壊・高予測摂動からの逆解析例の検出と復元
Authors: Mingyu Dong and Jiahao Chen and Diqun Yan and Jingxing Gao and Li Dong and Rangding Wang
Abstract要約: 敵の例(AE)は、ターゲットモデルを騙すために悪質に設計されている。ディープニューラルネットワーク(DNN)は、敵の例に対して脆弱であることが示されている。本稿では,被害者モデルに問い合わせることができないモデルフリーなAE検出手法を提案する。
参考スコア（独自算出の注目度）: 15.669678743693947
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep neural networks (DNNs) have been shown to be vulnerable against adversarial examples (AEs) which are maliciously designed to fool target models. The normal examples (NEs) added with imperceptible adversarial perturbation, can be a security threat to DNNs. Although the existing AEs detection methods have achieved a high accuracy, they failed to exploit the information of the AEs detected. Thus, based on high-dimension perturbation extraction, we propose a model-free AEs detection method, the whole process of which is free from querying the victim model. Research shows that DNNs are sensitive to the high-dimension features. The adversarial perturbation hiding in the adversarial example belongs to the high-dimension feature which is highly predictive and non-robust. DNNs learn more details from high-dimension data than others. In our method, the perturbation extractor can extract the adversarial perturbation from AEs as high-dimension feature, then the trained AEs discriminator determines whether the input is an AE. Experimental results show that the proposed method can not only detect the adversarial examples with high accuracy, but also detect the specific category of the AEs. Meanwhile, the extracted perturbation can be used to recover the AEs to NEs.
Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、ターゲットモデルを騙すために悪質に設計された敵の例(AE)に対して脆弱であることが示されている。通常の例(NE)は、知覚不能な逆境の摂動で追加され、DNNに対するセキュリティ上の脅威となる。既存のaes検出手法は高い精度を達成したが、検出されたaesの情報を活用できなかった。そこで本研究では,高次元摂動抽出に基づくモデルフリーなAE検出手法を提案する。研究によると、DNNは高次元の特徴に敏感である。対向的な例に隠れている対向的摂動は、高い予測的かつ非破壊的な高次元の特徴に属する。 DNNは、他のものよりも高次元データから詳細を学ぶ。この方法では, 摂動抽出器は, AEsから高次元の特徴として逆方向の摂動を抽出し, トレーニングされたAEs判別器が入力がAEであるか否かを判定する。実験の結果,提案手法は高い精度で敵のサンプルを検出できるだけでなく,AEsの特定のカテゴリも検出できることがわかった。一方、抽出された摂動は、AEsをNEに回収するために使用できる。

関連論文リスト

Effort: Efficient Orthogonal Modeling for Generalizable AI-Generated Image Detection [66.16595174895802]
既存のAI生成画像(AIGI)検出手法は、しばしば限定的な一般化性能に悩まされる。本稿では、AIGI検出において、これまで見過ごされてきた重要な非対称性現象を同定する。
論文参考訳（メタデータ） (2024-11-23T19:10:32Z)
Eliminating Catastrophic Overfitting Via Abnormal Adversarial Examples Regularization [50.43319961935526]
SSAT(Single-step adversarial training)は、効率性と堅牢性の両方を達成する可能性を実証している。 SSATは破滅的なオーバーフィッティング(CO)に苦しむが、これは非常に歪んだ分類器に繋がる現象である。本研究では,SSAT学習ネットワーク上で発生するいくつかの逆の例が異常な振る舞いを示すことを観察する。
論文参考訳（メタデータ） (2024-04-11T22:43:44Z)
Small Object Detection via Coarse-to-fine Proposal Generation and Imitation Learning [52.06176253457522]
本稿では,粗粒度パイプラインと特徴模倣学習に基づく小型物体検出に適した2段階フレームワークを提案する。 CFINetは、大規模な小さなオブジェクト検出ベンチマークであるSODA-DとSODA-Aで最先端の性能を達成する。
論文参考訳（メタデータ） (2023-08-18T13:13:09Z)
Nowhere to Hide: A Lightweight Unsupervised Detector against Adversarial Examples [14.332434280103667]
敵対的な例は、わずかながら悪質に作られた摂動を良心的なイメージに追加することによって生成される。本稿では,AutoEncoderを用いたAdversarial Examples検出器を提案する。 AEAEは、最先端の攻撃に対して教師なしで安価であることを実証的に示す。
論文参考訳（メタデータ） (2022-10-16T16:29:47Z)
Be Your Own Neighborhood: Detecting Adversarial Example by the Neighborhood Relations Built on Self-Supervised Learning [64.78972193105443]
本稿では,予測に有効な新しいAE検出フレームワークを提案する。 AEの異常な関係と拡張バージョンを区別して検出を行う。表現を抽出し、ラベルを予測するために、既製の自己監視学習(SSL)モデルが使用される。
論文参考訳（メタデータ） (2022-08-31T08:18:44Z)
Do autoencoders need a bottleneck for anomaly detection? [78.24964622317634]
アイデンティティ関数を学習すると、異常検出にAEは役に立たない。本研究では,非ボツルネック型AEの値について検討する。無限大のAEを非ボトルネック型AEの極端な例として提案する。
論文参考訳（メタデータ） (2022-02-25T11:57:58Z)
What You See is Not What the Network Infers: Detecting Adversarial Examples Based on Semantic Contradiction [14.313178290347293]
敵対的な例(AE)は、ディープニューラルネットワーク(DNN)の安全クリティカルドメインへの応用に深刻な脅威をもたらす。本稿では,AEの本質に基づいた新しいAE検出フレームワークを提案する。 ContraNetは、特にアダプティブアタックにおいて、既存のソリューションよりも大きなマージンで優れていることを示す。
論文参考訳（メタデータ） (2022-01-24T13:15:31Z)
Probabilistic Robust Autoencoders for Anomaly Detection [7.362415721170984]
確率ロバストオートエンコーダ(PRAE)と呼ばれる新しいタイプのオートエンコーダを提案する。 PRAEは、同時に外れ値を取り除き、下降値サンプルの低次元表現を識別するように設計されている。 PRAEの解法がRAEの解と等価であることを証明し、PRAEが異常検出の最先端手法と同等であることを示す。
論文参考訳（メタデータ） (2021-10-01T15:46:38Z)
Discriminator-Free Generative Adversarial Attack [87.71852388383242]
生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
論文参考訳（メタデータ） (2021-07-20T01:55:21Z)
MixDefense: A Defense-in-Depth Framework for Adversarial Example Detection Based on Statistical and Semantic Analysis [14.313178290347293]
AE検出のための多層ディフェンス・イン・ディープス・フレームワーク(MixDefense)を提案する。入力から抽出した雑音の特徴を利用して、自然画像と改ざん画像の統計的差異を抽出し、AE検出を行う。提案したMixDefenseソリューションは,既存のAE検出技術よりもかなり優れていることを示す。
論文参考訳（メタデータ） (2021-04-20T15:57:07Z)
Selective and Features based Adversarial Example Detection [12.443388374869745]
Deep Neural Networks (DNN) を中継するセキュリティに敏感なアプリケーションは、Adversarial Examples (AE) を生成するために作られた小さな摂動に弱い。本稿では,マルチタスク学習環境における選択的予測,モデルレイヤの出力処理,知識伝達概念を用いた教師なし検出機構を提案する。実験の結果,提案手法は,ホワイトボックスシナリオにおけるテスト攻撃に対する最先端手法と同等の結果を得られ,ブラックボックスとグレーボックスシナリオの精度が向上した。
論文参考訳（メタデータ） (2021-03-09T11:06:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。