論文の概要: BAE: BERT-based Adversarial Examples for Text Classification

• arxiv url: http://arxiv.org/abs/2004.01970v3
• Date: Thu, 8 Oct 2020 00:41:43 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-16 23:11:29.978485
• Title: BAE: BERT-based Adversarial Examples for Text Classification
• Title（参考訳）: BAE:BERTによるテキスト分類の逆例
• Authors: Siddhant Garg, Goutham Ramakrishnan
• Abstract要約: 我々は,BERTマスマスキング言語モデルからコンテキスト摂動を用いて,敵の例を生成するブラックボックス攻撃であるBAEを提案する。 BAEは, 文法性やセマンティック・コヒーレンスを向上した逆例を生成することに加えて, より強力な攻撃を行うことを示す。
• 参考スコア（独自算出の注目度）: 9.188318506016898
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern text classification models are susceptible to adversarial examples, perturbed versions of the original text indiscernible by humans which get misclassified by the model. Recent works in NLP use rule-based synonym replacement strategies to generate adversarial examples. These strategies can lead to out-of-context and unnaturally complex token replacements, which are easily identifiable by humans. We present BAE, a black box attack for generating adversarial examples using contextual perturbations from a BERT masked language model. BAE replaces and inserts tokens in the original text by masking a portion of the text and leveraging the BERT-MLM to generate alternatives for the masked tokens. Through automatic and human evaluations, we show that BAE performs a stronger attack, in addition to generating adversarial examples with improved grammaticality and semantic coherence as compared to prior work.
• Abstract（参考訳）: 現代のテキスト分類モデルは、モデルによって誤って分類される人間によって認識できない原文の摂動バージョンである、敵対的な例に感受性がある。 NLPにおける最近の研究は、逆例を生成するためにルールベースの同義語置換戦略を使用している。 これらの戦略はコンテキスト外や不自然に複雑なトークン置換につながる可能性がある。 BERTマスマスキング言語モデルからコンテキスト摂動を用いて敵の例を生成するブラックボックス攻撃であるBAEを提案する。 BAEは、元のテキストにトークンを置き換えて挿入し、テキストの一部をマスキングし、BERT-MLMを利用してマスクされたトークンの代替品を生成する。 自動的, 人的評価により, BAEは, 文法的, 意味的コヒーレンスを向上した逆例を生成することに加えて, より強力な攻撃を行うことを示す。

関連論文リスト

• Arabic Synonym BERT-based Adversarial Examples for Text Classification [0.0]
  本稿では、アラビア語における敵対的攻撃に関する最初の単語レベル研究を紹介する。 我々は、現在最先端のテキスト分類モデルの頑健さを、アラビア語の敵対的攻撃に対して評価する。 新たに生成したアラビアの敵対的事例の様々なモデルへの転送可能性について検討し、防御機構の有効性について検討した。
  論文  参考訳（メタデータ） (2024-02-05T19:39:07Z)
• Verifying the Robustness of Automatic Credibility Assessment [79.08422736721764]
  テキスト分類法は信頼性の低い内容を検出する手段として広く研究されている。 入力テキストの無意味な変更は、モデルを誤解させることがある。 偽情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAを紹介する。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• Contrasting Human- and Machine-Generated Word-Level Adversarial Examples for Text Classification [12.750016480098262]
  我々は,入力テキスト中の単語の反復的な修正を人間に課すクラウドソーシング研究について報告する。 最近提案したTextFooler, Genetic, BAE, SememePSO 攻撃アルゴリズムとの比較を行った。
  論文  参考訳（メタデータ） (2021-09-09T16:16:04Z)
• Towards Variable-Length Textual Adversarial Attacks [68.27995111870712]
  データの離散性のため、自然言語処理タスクに対してテキストによる敵意攻撃を行うことは非自明である。 本稿では,可変長テキスト対比攻撃(VL-Attack)を提案する。 本手法は、iwslt14ドイツ語英訳で3,18$ bleuスコアを達成でき、ベースラインモデルより1.47$改善できる。
  論文  参考訳（メタデータ） (2021-04-16T14:37:27Z)
• Generating Adversarial Examples in Chinese Texts Using Sentence-Pieces [60.58900627906269]
  文片を用いた代用ジェネレータとして,中国語の逆例を作成できる事前学習型言語モデルを提案する。 生成した敵の例の置換は文字や単語ではなく「テキスト」であり、中国の読者にとって自然である。
  論文  参考訳（メタデータ） (2020-12-29T14:28:07Z)
• Contextualized Perturbation for Textual Adversarial Attack [56.370304308573274]
  逆例は自然言語処理(NLP)モデルの脆弱性を明らかにする。 本稿では,フロートおよび文法的出力を生成するContextualized AdversaRial Example生成モデルであるCLAREを提案する。
  論文  参考訳（メタデータ） (2020-09-16T06:53:15Z)
• BERT-ATTACK: Adversarial Attack Against BERT Using BERT [77.82947768158132]
  離散データ(テキストなど)に対するアドリアック攻撃は、連続データ(画像など)よりも難しい。 対戦型サンプルを生成するための高品質で効果的な方法である textbfBERT-Attack を提案する。 本手法は、成功率と摂動率の両方において、最先端の攻撃戦略より優れている。
  論文  参考訳（メタデータ） (2020-04-21T13:30:02Z)
• PALM: Pre-training an Autoencoding&Autoregressive Language Model for Context-conditioned Generation [92.7366819044397]
  自己指導型事前学習は、自然言語の理解と生成のための強力な技術として登場した。 本研究は,大規模未ラベルコーパス上で自己エンコーディングと自己回帰言語モデルを共同で事前学習する新しいスキームをPALMに提示する。 広範な実験により、PALMは様々な言語生成ベンチマークにおいて、新しい最先端の結果を達成することが示されている。
  論文  参考訳（メタデータ） (2020-04-14T06:25:36Z)
• Generating Natural Language Adversarial Examples on a Large Scale with Generative Models [41.85006993382117]
  生成モデルを用いて,テキストをスクラッチから効率的に生成するエンド・ツー・エンド・ソリューションを提案する。 具体的には,条件付き変分オートエンコーダを訓練し,さらに逆転損失を加えて,逆転例の生成を誘導する。 敵対的テキストの妥当性を向上させるために,識別器と生成的敵対的ネットワークの訓練枠組みを利用する。
  論文  参考訳（メタデータ） (2020-03-10T03:21:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。