論文の概要: Modelling Adversarial Noise for Adversarial Defense
- arxiv url: http://arxiv.org/abs/2109.09901v1
- Date: Tue, 21 Sep 2021 01:13:26 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-22 14:17:07.772917
- Title: Modelling Adversarial Noise for Adversarial Defense
- Title(参考訳): 対向防御のための対向騒音のモデル化
- Authors: Dawei Zhou, Nannan Wang, Tongliang Liu, Bo Han
- Abstract要約: 敵の防御は、通常、敵の音を除去したり、敵の頑強な目標モデルを訓練するために、敵の例を活用することに焦点を当てる。
逆データと自然データの関係は、逆データからクリーンデータを推測し、最終的な正しい予測を得るのに役立ちます。
本研究では, ラベル空間の遷移関係を学習するために, 逆方向の雑音をモデル化し, 逆方向の精度を向上させることを目的とした。
- 参考スコア(独自算出の注目度): 96.56200586800219
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks have been demonstrated to be vulnerable to adversarial
noise, promoting the development of defenses against adversarial attacks.
Traditionally, adversarial defenses typically focus on directly exploiting
adversarial examples to remove adversarial noise or train an adversarially
robust target model. Motivated by that the relationship between adversarial
data and natural data can help infer clean data from adversarial data to obtain
the final correct prediction, in this paper, we study to model adversarial
noise to learn the transition relationship in the label space for using
adversarial labels to improve adversarial accuracy. Specifically, we introduce
a transition matrix to relate adversarial labels and true labels. By exploiting
the transition matrix, we can directly infer clean labels from adversarial
labels. Then, we propose to employ a deep neural network (i.e., transition
network) to model the instance-dependent transition matrix from adversarial
noise. In addition, we conduct joint adversarial training on the target model
and the transition network to achieve optimal performance. Empirical
evaluations on benchmark datasets demonstrate that our method could
significantly improve adversarial accuracy in comparison to state-of-the-art
methods.
- Abstract(参考訳): ディープニューラルネットワークは敵の雑音に弱いことが示されており、敵の攻撃に対する防御の開発を促進する。
伝統的に、敵の防御は、敵のノイズを取り除くために敵の例を直接利用するか、敵の強固なターゲットモデルを訓練することに集中する。
本稿では, 逆ラベルを用いたラベル空間の遷移関係を学習し, 逆ラベルの精度を向上させるために, 逆データと自然データの関係が, 逆データから清潔なデータを推測し, 最終的な正しい予測を得るのに役立つことを動機とする。
具体的には、逆ラベルと真ラベルを関連付ける遷移行列を導入する。
遷移行列を利用することで、逆ラベルから直接クリーンラベルを推測できる。
そこで,提案するディープニューラルネットワーク(すなわちトランジッションネットワーク)を用いて,逆雑音からインスタンス依存の遷移行列をモデル化する。
さらに、最適性能を達成するために、ターゲットモデルと遷移ネットワークの連立対向訓練を行う。
ベンチマークデータセットの実証評価により,本手法は最先端手法と比較して,逆方向の精度を著しく向上できることが示された。
関連論文リスト
- How adversarial attacks can disrupt seemingly stable accurate
classifiers [80.2657717174889]
敵攻撃は、入力データに不連続な修正を加えることで、非正確な学習システムの出力を劇的に変化させる。
ここでは,これは高次元入力データを扱う分類器の基本的特徴であると考えられる。
実用システムで観測される重要な振る舞いを高い確率で発生させる、単純で汎用的なフレームワークを導入する。
論文 参考訳(メタデータ) (2023-09-07T12:02:00Z) - Advancing Adversarial Robustness Through Adversarial Logit Update [10.041289551532804]
敵の訓練と敵の浄化は最も広く認知されている防衛戦略の一つである。
そこで本稿では,新たな原則であるALU(Adversarial Logit Update)を提案する。
本手法は,幅広い敵攻撃に対する最先端手法と比較して,優れた性能を実現する。
論文 参考訳(メタデータ) (2023-08-29T07:13:31Z) - Robustness through Cognitive Dissociation Mitigation in Contrastive
Adversarial Training [2.538209532048867]
本稿では,新たなニューラルネットワークトレーニングフレームワークを提案する。
本稿では,データ拡張と対向的摂動の両面に一貫性のある特徴表現を学習することで,敵攻撃に対するモデルロバスト性を改善することを提案する。
我々は,CIFAR-10データセットを用いて,教師付きおよび自己教師付き対向学習法よりも頑健な精度とクリーンな精度を両立させる手法を検証する。
論文 参考訳(メタデータ) (2022-03-16T21:41:27Z) - Learning to Learn Transferable Attack [77.67399621530052]
転送逆行攻撃は非自明なブラックボックス逆行攻撃であり、サロゲートモデル上で敵の摂動を発生させ、そのような摂動を被害者モデルに適用することを目的としている。
本研究では,データとモデル拡張の両方から学習することで,敵の摂動をより一般化する学習可能な攻撃学習法(LLTA)を提案する。
提案手法の有効性を実証し, 現状の手法と比較して, 12.85%のトランスファー攻撃の成功率で検証した。
論文 参考訳(メタデータ) (2021-12-10T07:24:21Z) - Delving into Data: Effectively Substitute Training for Black-box Attack [84.85798059317963]
本稿では,知識盗むプロセスで使用されるデータの分散設計に焦点をあてた,新しい視点代替トレーニングを提案する。
これら2つのモジュールの組み合わせにより、代替モデルとターゲットモデルの一貫性がさらに向上し、敵攻撃の有効性が大幅に向上する。
論文 参考訳(メタデータ) (2021-04-26T07:26:29Z) - Stylized Adversarial Defense [105.88250594033053]
逆行訓練は摂動パターンを生成し、モデルを堅牢化するためのトレーニングセットにそれらを含む。
我々は、より強力な敵を作るために、機能空間から追加情報を活用することを提案する。
我々の対人訓練アプローチは、最先端の防御と比べて強い堅牢性を示している。
論文 参考訳(メタデータ) (2020-07-29T08:38:10Z) - Adversarial Self-Supervised Contrastive Learning [62.17538130778111]
既存の対数学習アプローチは、主にクラスラベルを使用して、誤った予測につながる対数サンプルを生成する。
本稿では,未ラベルデータに対する新たな逆攻撃を提案する。これにより,モデルが摂動データサンプルのインスタンスレベルのアイデンティティを混乱させる。
ラベル付きデータなしで頑健なニューラルネットワークを逆さまにトレーニングするための,自己教師付きコントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-13T08:24:33Z) - Class-Aware Domain Adaptation for Improving Adversarial Robustness [27.24720754239852]
学習データに敵の例を注入することにより,ネットワークを訓練するための敵の訓練が提案されている。
そこで本研究では,対人防御のための新しいクラスアウェアドメイン適応法を提案する。
論文 参考訳(メタデータ) (2020-05-10T03:45:19Z) - SAD: Saliency-based Defenses Against Adversarial Examples [0.9786690381850356]
逆例 ドリフトモデル予測は ネットワークの本来の意図から 離れている
本研究では, 対人攻撃の影響を受けやすいクリーニングデータに対する視覚的サリエンシに基づくアプローチを提案する。
論文 参考訳(メタデータ) (2020-03-10T15:55:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。