論文の概要: MPAT: Building Robust Deep Neural Networks against Textual Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2402.18792v1
• Date: Thu, 29 Feb 2024 01:49:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-01 16:22:34.282212
• Title: MPAT: Building Robust Deep Neural Networks against Textual Adversarial Attacks
• Title（参考訳）: mpat: テキスト逆攻撃に対する堅牢なディープニューラルネットワークの構築
• Authors: Fangyuan Zhang, Huichi Zhou, Shuangjiao Li, Hongtao Wang
• Abstract要約: 本稿では,敵対的攻撃に対する堅牢な深層ニューラルネットワーク構築のための悪質な摂動に基づく敵対的訓練法を提案する。 具体的には、悪意のある摂動を伴う敵例を生成するために、多段階の悪意のあるサンプル生成戦略を構築する。 本研究では, 目標達成のために, 目標達成のための新たな訓練目標関数を, 本来のタスクの性能を損なうことなく採用する。
• 参考スコア（独自算出の注目度）: 4.208423642716679
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks have been proven to be vulnerable to adversarial examples and various methods have been proposed to defend against adversarial attacks for natural language processing tasks. However, previous defense methods have limitations in maintaining effective defense while ensuring the performance of the original task. In this paper, we propose a malicious perturbation based adversarial training method (MPAT) for building robust deep neural networks against textual adversarial attacks. Specifically, we construct a multi-level malicious example generation strategy to generate adversarial examples with malicious perturbations, which are used instead of original inputs for model training. Additionally, we employ a novel training objective function to ensure achieving the defense goal without compromising the performance on the original task. We conduct comprehensive experiments to evaluate our defense method by attacking five victim models on three benchmark datasets. The result demonstrates that our method is more effective against malicious adversarial attacks compared with previous defense methods while maintaining or further improving the performance on the original task.
• Abstract（参考訳）: ディープニューラルネットワークは敵の例に弱いことが証明されており、自然言語処理タスクに対する敵の攻撃を防御する様々な方法が提案されている。 しかし、従来の防御方法は、元のタスクのパフォーマンスを確保しつつ、効果的な防御を維持するための制限がある。 本稿では,テキスト攻撃に対して頑健な深層ニューラルネットワークを構築するための,悪意のある摂動に基づく敵訓練手法(mpat)を提案する。 具体的には、モデルのトレーニングに元の入力の代わりに悪質な摂動を伴う敵の例を生成するために、多レベル悪質な例生成戦略を構築する。 また、新たな訓練目標関数を用いて、元のタスクにおける性能を損なうことなく、防衛目標を達成する。 3つのベンチマークデータセット上で5つの犠牲者モデルを攻撃し,防衛手法を評価するための総合的な実験を行った。 以上の結果から,本手法は従来の防御手法と比較して悪質な敵攻撃に対して有効でありながら,元のタスクの性能を維持・改善することが示唆された。

関連論文リスト

• GenFighter: A Generative and Evolutive Textual Attack Removal [6.044610337297754]
  自然言語処理(NLP)におけるTransformerモデルのような、ディープニューラルネットワーク(DNN)に対するアドリラルアタックは大きな課題となる。 本稿では,訓練分類分布の学習と推論によって敵の堅牢性を高める新しい防衛戦略であるGenFighterを紹介する。 我々は、GenFighterが攻撃および攻撃成功率の指標の下で、最先端の防御能力より優れていることを示す。
  論文  参考訳（メタデータ） (2024-04-17T16:32:13Z)
• Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
  本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
  論文  参考訳（メタデータ） (2023-12-20T05:06:01Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• TREATED:Towards Universal Defense against Textual Adversarial Attacks [28.454310179377302]
  本稿では,様々な摂動レベルの攻撃に対して,仮定なしに防御できる汎用的対向検出手法であるTREATEDを提案する。 3つの競合するニューラルネットワークと2つの広く使われているデータセットの大規模な実験により、本手法はベースラインよりも優れた検出性能が得られることが示された。
  論文  参考訳（メタデータ） (2021-09-13T03:31:20Z)
• Searching for an Effective Defender: Benchmarking Defense against Adversarial Word Substitution [83.84968082791444]
  ディープニューラルネットワークは、意図的に構築された敵の例に対して脆弱である。 ニューラルNLPモデルに対する敵対的単語置換攻撃を防御する様々な方法が提案されている。
  論文  参考訳（メタデータ） (2021-08-29T08:11:36Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)
• Mitigating Gradient-based Adversarial Attacks via Denoising and Compression [7.305019142196582]
  深層ニューラルネットワークに対する勾配に基づく逆攻撃は深刻な脅威となる。 それらは、任意のネットワークのテストデータに不可避な摂動を追加することでデプロイできる。 デノイジングと寸法減少は、そのような攻撃に対抗するために調査された2つの異なる方法である。
  論文  参考訳（メタデータ） (2021-04-03T22:57:01Z)
• Online Alternate Generator against Adversarial Attacks [144.45529828523408]
  ディープラーニングモデルは、実際の画像に準知覚可能なノイズを加えることによって合成される敵の例に非常に敏感である。 対象ネットワークのパラメータをアクセスしたり変更したりする必要のない,ポータブルな防御手法であるオンライン代替ジェネレータを提案する。 提案手法は,入力画像のスクラッチから別の画像をオンライン合成することで,対向雑音を除去・破壊する代わりに機能する。
  論文  参考訳（メタデータ） (2020-09-17T07:11:16Z)
• Robust Tracking against Adversarial Attacks [69.59717023941126]
  まず,ビデオシーケンス上に敵の例を生成して,敵の攻撃に対するロバスト性を改善する。 提案手法を最先端のディープトラッキングアルゴリズムに適用する。
  論文  参考訳（メタデータ） (2020-07-20T08:05:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。