論文の概要: Rewriting Meaningful Sentences via Conditional BERT Sampling and an application on fooling text classifiers

• arxiv url: http://arxiv.org/abs/2010.11869v1
• Date: Thu, 22 Oct 2020 17:03:13 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-04 04:44:54.946999
• Title: Rewriting Meaningful Sentences via Conditional BERT Sampling and an application on fooling text classifiers
• Title（参考訳）: 条件付きBERTサンプリングによる意味文の書き直しとテキスト分類法への応用
• Authors: Lei Xu, Ivan Ramirez, Kalyan Veeramachaneni
• Abstract要約: テキスト分類器を欺くように設計された敵攻撃法は、いくつかの単語や文字を変更することで、テキスト分類器の予測を変更する。 文レベルの言い直しに固有の難しさや、正統な書き直し基準を設定することの難しさから、文全体を書き換えて分類子を攻撃しようとする者はほとんどいない。 本稿では,文レベルの書き換えによる逆例作成の問題について検討する。 我々は文レベルの脅威モデルと呼ばれる新しい修正基準を提案し、この基準は単語レベルの変更と文レベルの変更の両方を可能にし、意味的類似性と2つの次元で独立に調整できる。
• 参考スコア（独自算出の注目度）: 11.49508308643065
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Most adversarial attack methods that are designed to deceive a text classifier change the text classifier's prediction by modifying a few words or characters. Few try to attack classifiers by rewriting a whole sentence, due to the difficulties inherent in sentence-level rephrasing as well as the problem of setting the criteria for legitimate rewriting. In this paper, we explore the problem of creating adversarial examples with sentence-level rewriting. We design a new sampling method, named ParaphraseSampler, to efficiently rewrite the original sentence in multiple ways. Then we propose a new criteria for modification, called a sentence-level threaten model. This criteria allows for both word- and sentence-level changes, and can be adjusted independently in two dimensions: semantic similarity and grammatical quality. Experimental results show that many of these rewritten sentences are misclassified by the classifier. On all 6 datasets, our ParaphraseSampler achieves a better attack success rate than our baseline.
• Abstract（参考訳）: テキスト分類器を欺くように設計されたほとんどの敵攻撃方法は、いくつかの単語や文字を変更してテキスト分類器の予測を変更する。 文レベルの書き換えに固有の困難と正当な書き直しの基準の設定の問題から、文全体を書き換えて分類器を攻撃する試みはほとんどない。 本稿では,文レベルの書き換えによる逆例作成の問題点について考察する。 そこで我々はParaphraseSamplerという新しいサンプリング手法を設計し,複数の方法で原文を効率よく書き換える。 次に,文レベルの脅威モデルと呼ばれる新しい修正基準を提案する。 この基準は単語レベルと文レベルの両方の変更を可能にし、意味的類似性と文法的品質という2次元で独立に調整することができる。 実験の結果,これらの書き換え文の多くは分類器によって誤分類されていることがわかった。 6つのデータセットすべてに対して、ParaphraseSamplerはベースラインよりも優れた攻撃成功率を実現しています。

関連論文リスト

• Attacking Misinformation Detection Using Adversarial Examples Generated by Language Models [0.0]
  テキスト分類アルゴリズムのロバスト性をテストするために,逆例を生成するという課題について検討する。 我々は、攻撃者が試すことができるクエリ数に現実的な制限を設定することで、コンテンツモデレーションのシミュレーションに焦点を当てる。
  論文  参考訳（メタデータ） (2024-10-28T11:46:30Z)
• Single Word Change is All You Need: Designing Attacks and Defenses for Text Classifiers [12.167426402230229]
  既存の手法によって生成された敵例のかなりの部分は、1つの単語だけを変える。 このシングルワード摂動脆弱性は、分類器の重大な弱点である。 本研究では,単一単語の摂動脆弱性を利用したSP-Attackを提案する。 また、学習にデータ拡張を適用してrhoを改善することを目的としたSP-Defenseを提案する。
  論文  参考訳（メタデータ） (2024-01-30T17:30:44Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• Towards Document-Level Paraphrase Generation with Sentence Rewriting and Reordering [88.08581016329398]
  文書レベルのパラフレーズ生成のためのCoRPG(Coherence Relation Guided Paraphrase Generation)を提案する。 グラフGRUを用いて、コヒーレンス関係グラフを符号化し、各文のコヒーレンス対応表現を得る。 我々のモデルは、より多様性とセマンティックな保存を伴う文書パラフレーズを生成することができる。
  論文  参考訳（メタデータ） (2021-09-15T05:53:40Z)
• Semantic-Preserving Adversarial Text Attacks [85.32186121859321]
  深層モデルの脆弱性を調べるために, Bigram と Unigram を用いた適応的セマンティック保存最適化法 (BU-SPO) を提案する。 提案手法は,既存手法と比較して最小の単語数を変更することで,攻撃成功率とセマンティックス率を最大化する。
  論文  参考訳（メタデータ） (2021-08-23T09:05:18Z)
• Improving Paraphrase Detection with the Adversarial Paraphrasing Task [0.0]
  パラフレーズデータセットは現在、単語の重複と構文に基づくパラフレーズの感覚に依存している。 パラフレーズ識別のための新しいデータセット生成法: 逆パラフレーズ処理タスク(APT)について紹介する。 APTは参加者に意味論的に等価(相互に意味的)であるが、語彙的にも構文的にも異なるパラフレーズを生成するよう要求する。
  論文  参考訳（メタデータ） (2021-06-14T18:15:20Z)
• Attacking Text Classifiers via Sentence Rewriting Sampler [12.25764838264699]
  general sentence rewriting sampler(srs)フレームワークは、条件付きで有意義な文を生成することができる。 本手法は,意味的類似度と文質を高く保ちつつ,複数の方法で原文を効果的に書き換えることができる。 提案手法は,7つのデータセットのうち4つで攻撃成功率を向上し,7つのデータセットの文質も大幅に向上した。
  論文  参考訳（メタデータ） (2021-04-17T05:21:35Z)
• ASSET: A Dataset for Tuning and Evaluation of Sentence Simplification Models with Multiple Rewriting Transformations [97.27005783856285]
  本稿では,英語で文の単純化を評価するための新しいデータセットであるASSETを紹介する。 ASSETの単純化は、タスクの他の標準評価データセットと比較して、単純さの特徴を捉えるのに優れていることを示す。
  論文  参考訳（メタデータ） (2020-05-01T16:44:54Z)
• Pseudo-Convolutional Policy Gradient for Sequence-to-Sequence Lip-Reading [96.48553941812366]
  唇読解は唇運動系列から音声内容を推測することを目的としている。 seq2seqモデルの伝統的な学習プロセスには2つの問題がある。 本稿では,これら2つの問題に対処するために,PCPGに基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-03-09T09:12:26Z)
• Fact-aware Sentence Split and Rephrase with Permutation Invariant Training [93.66323661321113]
  Sentence Split と Rephrase は、複雑な文をいくつかの単純な文に分解し、その意味を保存することを目的としている。 従来の研究では、パラレル文対からのSeq2seq学習によってこの問題に対処する傾向があった。 本稿では,この課題に対するSeq2seq学習における順序分散の効果を検証するために,置換訓練を導入する。
  論文  参考訳（メタデータ） (2020-01-16T07:30:19Z)
• Revisiting Paraphrase Question Generator using Pairwise Discriminator [25.449902612898594]
  文レベルの埋め込みを得るための新しい手法を提案する。 提案手法は, 意味的埋め込みを行い, パラフレーズ生成および感情分析タスクにおける最先端技術よりも優れる。
  論文  参考訳（メタデータ） (2019-12-31T02:46:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。