論文の概要: On the Effect of Adversarial Training Against Invariance-based Adversarial Examples

• arxiv url: http://arxiv.org/abs/2302.08257v1
• Date: Thu, 16 Feb 2023 12:35:37 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-17 13:58:41.403350
• Title: On the Effect of Adversarial Training Against Invariance-based Adversarial Examples
• Title（参考訳）: 非分散型逆例に対する敵意訓練の効果について
• Authors: Roland Rauter, Martin Nocker, Florian Merkle, Pascal Sch\"ottle
• Abstract要約: この研究は、畳み込みニューラルネットワーク(CNN)における不変性に基づく逆トレーニングの効果に対処する。 本研究は,非分散型および摂動型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型対向型を適用した場合,連続的でなく連続的に実施すべきであることを示す。
• 参考スコア（独自算出の注目度）: 0.23624125155742057
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial examples are carefully crafted attack points that are supposed to fool machine learning classifiers. In the last years, the field of adversarial machine learning, especially the study of perturbation-based adversarial examples, in which a perturbation that is not perceptible for humans is added to the images, has been studied extensively. Adversarial training can be used to achieve robustness against such inputs. Another type of adversarial examples are invariance-based adversarial examples, where the images are semantically modified such that the predicted class of the model does not change, but the class that is determined by humans does. How to ensure robustness against this type of adversarial examples has not been explored yet. This work addresses the impact of adversarial training with invariance-based adversarial examples on a convolutional neural network (CNN). We show that when adversarial training with invariance-based and perturbation-based adversarial examples is applied, it should be conducted simultaneously and not consecutively. This procedure can achieve relatively high robustness against both types of adversarial examples. Additionally, we find that the algorithm used for generating invariance-based adversarial examples in prior work does not correctly determine the labels and therefore we use human-determined labels.
• Abstract（参考訳）: 敵の例は、機械学習の分類を騙すような攻撃ポイントを慎重に作っている。 近年,人間には認識できない摂動を画像に加える摂動型対向学習の分野,特に摂動型対向学習の研究が盛んに研究されている。 敵の訓練はそのような入力に対して堅牢性を達成するために使用できる。 もう一つの逆数例は不変性に基づく逆数例であり、画像は、予測されたモデルのクラスが変化しないように意味的に修正されるが、人間によって決定されるクラスは変化しない。 この種の敵の例に対する堅牢性を確保する方法はまだ検討されていない。 本研究は,畳み込みニューラルネットワーク(cnn)における非分散型逆例を用いた逆訓練の効果について述べる。 非分散ベースおよび摂動ベースの逆例を用いた逆訓練が適用された場合、同時かつ連続して実施すべきでないことを示す。 この手法は両種類の逆例に対して比較的高い堅牢性が得られる。 さらに, 先行研究において, 不分散に基づく逆数例を生成するアルゴリズムは, ラベルを正しく決定できないため, 人為的ラベルを用いる。

関連論文リスト

• The Enemy of My Enemy is My Friend: Exploring Inverse Adversaries for Improving Adversarial Training [72.39526433794707]
  敵の訓練とその変種は、敵の例に対抗して最も効果的なアプローチであることが示されている。 本稿では,モデルが類似した出力を生成することを奨励する,新たな対角訓練手法を提案する。 本手法は,最先端のロバスト性および自然な精度を実現する。
  論文  参考訳（メタデータ） (2022-11-01T15:24:26Z)
• Balanced Adversarial Training: Balancing Tradeoffs between Fickleness and Obstinacy in NLP Models [21.06607915149245]
  本研究は, 標準的な対人訓練手法により, ファックル対人例に対してより脆弱なモデルが得られることを示す。 本研究では, 対外学習を取り入れて, 対外的対外的対外的対外的対外的対外的対外的対外的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対人的対
  論文  参考訳（メタデータ） (2022-10-20T18:02:07Z)
• Unrestricted Adversarial Samples Based on Non-semantic Feature Clusters Substitution [1.8782750537161608]
  モデルトレーニングで学習した突発的関係を利用して, 対向的なサンプルを生成する「制限なし」摂動を導入する。 具体的には,モデル判定結果と強く相関する非意味的特徴に特徴クラスタが存在する。 対象画像の対応する特徴クラスタを置き換えるために,それらを用いて対向サンプルを作成する。
  論文  参考訳（メタデータ） (2022-08-31T07:42:36Z)
• Identification of Attack-Specific Signatures in Adversarial Examples [62.17639067715379]
  異なる攻撃アルゴリズムは, その効果だけでなく, 被害者の質的な影響も示している。 以上の結果から, 予測的対人攻撃は, 模擬モデルにおける成功率だけでなく, 被害者に対するより深い下流効果によって比較されるべきであることが示唆された。
  論文  参考訳（メタデータ） (2021-10-13T15:40:48Z)
• Localized Uncertainty Attacks [9.36341602283533]
  深層学習モデルに対する局所的不確実性攻撃を示す。 我々は、分類器が不確実な入力の領域のみを摂動することで、逆例を作成する。 $ell_p$ ballやパーターブ入力を無差別に検出する機能攻撃とは異なり、ターゲットとする変更は認識できない。
  論文  参考訳（メタデータ） (2021-06-17T03:07:22Z)
• Towards Defending against Adversarial Examples via Attack-Invariant Features [147.85346057241605]
  ディープニューラルネットワーク(DNN)は敵の雑音に弱い。 敵の強靭性は、敵の例を利用して改善することができる。 目に見えない種類の敵の例に基づいて訓練されたモデルは、一般的に、目に見えない種類の敵の例にうまく一般化できない。
  論文  参考訳（メタデータ） (2021-06-09T12:49:54Z)
• Learning to Separate Clusters of Adversarial Representations for Robust Adversarial Detection [50.03939695025513]
  本稿では,最近導入された非破壊的特徴を動機とした新しい確率的対向検出器を提案する。 本稿では,非ロバスト特徴を逆例の共通性と考え,その性質に対応する表現空間におけるクラスターの探索が可能であることを推定する。 このアイデアは、別のクラスタ内の逆表現の確率推定分布を導出し、その分布を確率に基づく逆検出器として活用する。
  論文  参考訳（メタデータ） (2020-12-07T07:21:18Z)
• On the Transferability of Adversarial Attacksagainst Neural Text Classifier [121.6758865857686]
  テキスト分類モデルの逆例の転送可能性について検討する。 本稿では,ほとんどすべての既存モデルを騙すために,敵の例を誘導できるモデル群を見つける遺伝的アルゴリズムを提案する。 これらの逆例からモデル診断に使用できる単語置換規則を導出する。
  論文  参考訳（メタデータ） (2020-11-17T10:45:05Z)
• Semantics-Preserving Adversarial Training [12.242659601882147]
  逆行訓練は、訓練データに逆行例を含めることで、ディープニューラルネットワーク(DNN)の逆行性を改善する技術である。 本研究では,すべてのクラスで共有される画素の摂動を促すセマンティックス保存逆行訓練(SPAT)を提案する。 実験の結果,SPATは対向ロバスト性を向上し,CIFAR-10およびCIFAR-100の最先端結果を達成することがわかった。
  論文  参考訳（メタデータ） (2020-09-23T07:42:14Z)
• Fundamental Tradeoffs between Invariance and Sensitivity to Adversarial Perturbations [65.05561023880351]
  敵の例は誤分類を引き起こすために作られた悪意のある入力である。 本稿では, 相補的障害モード, 不変性に基づく逆数例について検討する。 感度に基づく攻撃に対する防御は、不変性に基づく攻撃に対するモデルの精度を積極的に損なうことを示す。
  論文  参考訳（メタデータ） (2020-02-11T18:50:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。