論文の概要: Mind the Style of Text! Adversarial and Backdoor Attacks Based on Text Style Transfer

• arxiv url: http://arxiv.org/abs/2110.07139v1
• Date: Thu, 14 Oct 2021 03:54:16 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-15 12:51:56.654182
• Title: Mind the Style of Text! Adversarial and Backdoor Attacks Based on Text Style Transfer
• Title（参考訳）: テキストのスタイルに気をつけろ! テキストスタイルの伝達に基づく逆・バックドア攻撃
• Authors: Fanchao Qi, Yangyi Chen, Xurui Zhang, Mukai Li, Zhiyuan Liu, Maosong Sun
• Abstract要約: 我々は,テキストスタイルの転送をベースとして,敵対的かつバックドア攻撃を行うための最初の試みを行う。 実験結果から,一般的なNLPモデルは,テキストスタイルの転送に基づく逆行攻撃とバックドア攻撃の両方に対して脆弱であることが示唆された。
• 参考スコア（独自算出の注目度）: 49.67011295450601
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Adversarial attacks and backdoor attacks are two common security threats that hang over deep learning. Both of them harness task-irrelevant features of data in their implementation. Text style is a feature that is naturally irrelevant to most NLP tasks, and thus suitable for adversarial and backdoor attacks. In this paper, we make the first attempt to conduct adversarial and backdoor attacks based on text style transfer, which is aimed at altering the style of a sentence while preserving its meaning. We design an adversarial attack method and a backdoor attack method, and conduct extensive experiments to evaluate them. Experimental results show that popular NLP models are vulnerable to both adversarial and backdoor attacks based on text style transfer -- the attack success rates can exceed 90% without much effort. It reflects the limited ability of NLP models to handle the feature of text style that has not been widely realized. In addition, the style transfer-based adversarial and backdoor attack methods show superiority to baselines in many aspects. All the code and data of this paper can be obtained at https://github.com/thunlp/StyleAttack.
• Abstract（参考訳）: 敵対的攻撃とバックドア攻撃は、ディープラーニングを乗り越える2つの一般的なセキュリティ脅威である。 どちらも、その実装において、タスク非関連なデータの機能を利用する。 テキストスタイルは、ほとんどのNLPタスクとは自然に無関係な機能であり、敵やバックドア攻撃に適している。 本稿では,文の意味を保ちながら文のスタイルを変えることを目的とした,テキストスタイルの転送に基づく逆行攻撃とバックドア攻撃の実施を初めて試みる。 本研究では,敵攻撃法とバックドア攻撃法を設計し,その評価を行う。 実験の結果,一般的なnlpモデルでは,テキストスタイル転送に基づく攻撃とバックドア攻撃の両方に対して脆弱であることが判明した。 これは、広く実現されていないテキストスタイルの特徴を扱うためのNLPモデルの限界を反映している。 さらに,移動型対向攻撃法やバックドア攻撃法は,多くの点でベースラインに優越している。 この論文のコードとデータは、https://github.com/thunlp/StyleAttack.comで入手できる。

関連論文リスト

• Attention-Enhancing Backdoor Attacks Against BERT-based Models [54.070555070629105]
  バックドア攻撃の戦略を調べることは、モデルの脆弱性を理解するのに役立つだろう。 本稿では,注意パターンを直接操作することでトロイの木馬行動を向上させる新しいトロイの木馬注意損失(TAL)を提案する。
  論文  参考訳（メタデータ） (2023-10-23T01:24:56Z)
• NOTABLE: Transferable Backdoor Attacks Against Prompt-based NLP Models [17.52386568785587]
  プロンプトベースの学習は、バックドア攻撃に弱い。 我々はNOTABLEと呼ばれるプロンプトベースモデルに対するトランスファー可能なバックドア攻撃を提案する。 Notableは、特定の単語にトリガーをバインドするアダプタを利用して、PLMのエンコーダにバックドアを注入する。
  論文  参考訳（メタデータ） (2023-05-28T23:35:17Z)
• Rethink Stealthy Backdoor Attacks in Natural Language Processing [35.6803390044542]
  盗んだバックドア攻撃の能力は、バックドア攻撃に分類されると過大評価される。 クリーン状態と毒素状態モデルとのASR差を測定するASRD(Attack successful rate difference)と呼ばれる新しい指標を提案する。 本手法は,ステルスなバックドア攻撃に対する最先端の防御方法よりも優れた性能を実現する。
  論文  参考訳（メタデータ） (2022-01-09T12:34:12Z)
• Textual Backdoor Attacks Can Be More Harmful via Two Simple Tricks [58.0225587881455]
  本稿では,既存のテキストバックドア攻撃をより有害にするための2つの簡単な手法を見出す。 最初のトリックは、被害者モデルのトレーニング中に毒や清潔なデータを識別するための追加のトレーニングタスクを追加することです。 2つ目は、汚染データに対応する元のクリーンデータを削除するのではなく、すべてのクリーンなトレーニングデータを使用することである。
  論文  参考訳（メタデータ） (2021-10-15T17:58:46Z)
• Turn the Combination Lock: Learnable Textual Backdoor Attacks via Word Substitution [57.51117978504175]
  最近の研究では、ニューラルネットワーク処理(NLP)モデルがバックドア攻撃に弱いことが示されている。 バックドアを注入すると、モデルは通常、良質な例で実行されるが、バックドアがアクティブになったときに攻撃者が特定した予測を生成する。 単語置換の学習可能な組み合わせによって活性化される見えないバックドアを提示する。
  論文  参考訳（メタデータ） (2021-06-11T13:03:17Z)
• Hidden Killer: Invisible Textual Backdoor Attacks with Syntactic Trigger [48.59965356276387]
  本稿では,テキストバックドア攻撃の引き金として構文構造を用いることを提案する。 我々は、トリガーベースアタック法が同等のアタック性能を達成できることを示すため、広範囲な実験を行った。 また,本研究の結果から,テキストバックドア攻撃の重篤さと有害性も明らかとなった。
  論文  参考訳（メタデータ） (2021-05-26T08:54:19Z)
• ONION: A Simple and Effective Defense Against Textual Backdoor Attacks [91.83014758036575]
  バックドア攻撃は、ディープニューラルネットワーク(DNN)に対する創発的な訓練時間の脅威である 本論文では,ONION という,シンプルで効果的なテキストバックドア・ディフェンスを提案する。 実験では,5種類のバックドア攻撃に対するBiLSTMとBERTの防御効果を示す。
  論文  参考訳（メタデータ） (2020-11-20T12:17:21Z)
• Natural Backdoor Attack on Text Data [15.35163515187413]
  本論文では,NLPモデルに対するテキストバックドア攻撃を提案する。 テキストデータにトリガーを発生させ,修正範囲,人間認識,特殊事例に基づいて,さまざまな種類のトリガーを調査する。 その結果,テキスト分類作業において100%バックドア攻撃の成功率と0.83%の犠牲となる優れた性能を示した。
  論文  参考訳（メタデータ） (2020-06-29T16:40:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。