論文の概要: Towards an Accurate and Secure Detector against Adversarial
Perturbations
- arxiv url: http://arxiv.org/abs/2305.10856v2
- Date: Thu, 24 Aug 2023 06:33:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-25 17:50:17.258777
- Title: Towards an Accurate and Secure Detector against Adversarial
Perturbations
- Title(参考訳): 敵の摂動に対する高精度かつセキュアな検出器を目指して
- Authors: Chao Wang, Shuren Qi, Zhiqiu Huang, Yushu Zhang, Rushi Lan, Xiaochun
Cao
- Abstract要約: 敵の摂動に対するディープニューラルネットワークの脆弱性は、コンピュータビジョンコミュニティで広く認識されている。
現在のアルゴリズムは、通常、自然・人工データの識別的分解を通じて、敵対的なパターンを検出する。
本研究では,秘密鍵を用いた空間周波数判別分解に基づく,高精度かつセキュアな対向検波器を提案する。
- 参考スコア(独自算出の注目度): 58.02078078305753
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The vulnerability of deep neural networks to adversarial perturbations has
been widely perceived in the computer vision community. From a security
perspective, it poses a critical risk for modern vision systems, e.g., the
popular Deep Learning as a Service (DLaaS) frameworks. For protecting
off-the-shelf deep models while not modifying them, current algorithms
typically detect adversarial patterns through discriminative decomposition of
natural-artificial data. However, these decompositions are biased towards
frequency or spatial discriminability, thus failing to capture adversarial
patterns comprehensively. More seriously, successful defense-aware (secondary)
adversarial attack (i.e., evading the detector as well as fooling the model) is
practical under the assumption that the adversary is fully aware of the
detector (i.e., the Kerckhoffs's principle). Motivated by such facts, we
propose an accurate and secure adversarial example detector, relying on a
spatial-frequency discriminative decomposition with secret keys. It expands the
above works on two aspects: 1) the introduced Krawtchouk basis provides better
spatial-frequency discriminability and thereby is more suitable for capturing
adversarial patterns than the common trigonometric or wavelet basis; 2) the
extensive parameters for decomposition are generated by a pseudo-random
function with secret keys, hence blocking the defense-aware adversarial attack.
Theoretical and numerical analysis demonstrates the increased accuracy and
security of our detector with respect to a number of state-of-the-art
algorithms.
- Abstract(参考訳): 深層ニューラルネットワークの敵対的摂動に対する脆弱性は、コンピュータビジョンコミュニティで広く認識されている。
セキュリティの観点からは、一般的なディープラーニング・アズ・ア・サービス(DLaaS)フレームワークなど、現代のビジョンシステムにとって重要なリスクとなる。
既成の深層モデルを修正せずに保護するために、現在のアルゴリズムは通常、自然・人工データの識別的分解によって敵のパターンを検出する。
しかし、これらの分解は周波数や空間的識別性に偏りがあり、敵のパターンを包括的に捉えることができない。
より真面目な話として、(第二の)攻撃(すなわち、検出器を回避し、モデルを騙す)に成功した攻撃は、敵が検出器を完全に認識している(すなわち、ケルクホフの原理)という仮定の下で実用的である。
このような事実に触発されて,秘密鍵を用いた空間周波数判別分解に頼って,高精度かつセキュアな対向検波器を提案する。
上記の作品を2つの側面で拡張しています。
1) 導入したKrawtchoukベースにより、空間周波数の識別性が向上し、共通三角法やウェーブレット法よりも対向パターンの捕捉に適している。
2) 秘密鍵を持つ擬似ランダム関数により, 分解のための広範囲なパラメータが生成され, 防御的敵攻撃を阻止する。
理論的および数値解析により、多くの最先端アルゴリズムに対する検出器の精度と安全性が向上したことを示す。
関連論文リスト
- Investigating Human-Identifiable Features Hidden in Adversarial
Perturbations [54.39726653562144]
我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。
対人摂動における人間の識別可能な特徴を同定する。
画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
論文 参考訳(メタデータ) (2023-09-28T22:31:29Z) - Backdoor Attacks for Remote Sensing Data with Wavelet Transform [14.50261153230204]
本稿では,リモートセンシングデータに対するバックドア攻撃の系統的解析を行う。
そこで本研究では, 有害画像にトリガ画像を注入することで, 目に見えない攻撃を可能にする新しいウェーブレット変換ベースアタック(WABA)手法を提案する。
その単純さにもかかわらず、提案手法は攻撃成功率の高い最先端のディープラーニングモデルをかなり騙すことができる。
論文 参考訳(メタデータ) (2022-11-15T10:49:49Z) - TREATED:Towards Universal Defense against Textual Adversarial Attacks [28.454310179377302]
本稿では,様々な摂動レベルの攻撃に対して,仮定なしに防御できる汎用的対向検出手法であるTREATEDを提案する。
3つの競合するニューラルネットワークと2つの広く使われているデータセットの大規模な実験により、本手法はベースラインよりも優れた検出性能が得られることが示された。
論文 参考訳(メタデータ) (2021-09-13T03:31:20Z) - Adversarially Robust One-class Novelty Detection [83.1570537254877]
既存のノベルティ検出器は敵の例に感受性があることが示される。
本稿では, 新規性検知器の潜伏空間を制御し, 敵に対する堅牢性を向上する防衛戦略を提案する。
論文 参考訳(メタデータ) (2021-08-25T10:41:29Z) - Demotivate adversarial defense in remote sensing [0.0]
本研究は,この目的に対する対人防御として,対人訓練と対人正規化について検討する。
対角的堅牢性は地理的および過度に適合するロバスト性とは無関係と思われる公共のリモートセンシングデータセットについていくつかの実験を行った。
論文 参考訳(メタデータ) (2021-05-28T15:04:37Z) - No Need to Know Physics: Resilience of Process-based Model-free Anomaly
Detection for Industrial Control Systems [95.54151664013011]
本稿では,システムの物理的特性に反する逆スプーフ信号を生成するための新しい枠組みを提案する。
トップセキュリティカンファレンスで公表された4つの異常検知器を分析した。
論文 参考訳(メタデータ) (2020-12-07T11:02:44Z) - Learning to Separate Clusters of Adversarial Representations for Robust
Adversarial Detection [50.03939695025513]
本稿では,最近導入された非破壊的特徴を動機とした新しい確率的対向検出器を提案する。
本稿では,非ロバスト特徴を逆例の共通性と考え,その性質に対応する表現空間におけるクラスターの探索が可能であることを推定する。
このアイデアは、別のクラスタ内の逆表現の確率推定分布を導出し、その分布を確率に基づく逆検出器として活用する。
論文 参考訳(メタデータ) (2020-12-07T07:21:18Z) - From a Fourier-Domain Perspective on Adversarial Examples to a Wiener
Filter Defense for Semantic Segmentation [27.04820989579924]
ディープ・ニューラル・ネットワークは 敵の摂動に対して 強固ではない
本研究では,周波数領域の観点から,逆問題について検討する。
本稿では,よく知られたWienerフィルタに基づく対角防御手法を提案する。
論文 参考訳(メタデータ) (2020-12-02T22:06:04Z) - Temporal Sparse Adversarial Attack on Sequence-based Gait Recognition [56.844587127848854]
このような攻撃に対して,最先端の歩行認識モデルが脆弱であることを示す。
生成した対向ネットワークに基づくアーキテクチャを用いて、対向的な高品質な歩行シルエットやビデオフレームを意味的に生成する。
実験結果から, フレームの1分の1しか攻撃されない場合, 対象モデルの精度は劇的に低下することがわかった。
論文 参考訳(メタデータ) (2020-02-22T10:08:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。