Fugu-MT 論文翻訳(概要): A Context Aware Approach for Generating Natural Language Attacks

論文の概要: A Context Aware Approach for Generating Natural Language Attacks

arxiv url: http://arxiv.org/abs/2012.13339v1
Date: Thu, 24 Dec 2020 17:24:54 GMT
ステータス: 処理完了
システム内更新日: 2021-04-25 08:20:14.376592
Title: A Context Aware Approach for Generating Natural Language Attacks
Title（参考訳）: 自然言語攻撃生成のための文脈対応アプローチ
Authors: Rishabh Maheshwary, Saket Maheshwary, Vikram Pudi
Abstract要約: 本研究では,意味的に類似した敵対例をテキスト分類と関連タスクに組み込む攻撃戦略を提案する。提案攻撃は,元の単語とその周囲の文脈の両方の情報を考慮し,候補語を見つける。
参考スコア（独自算出の注目度）: 3.52359746858894
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We study an important task of attacking natural language processing models in a black box setting. We propose an attack strategy that crafts semantically similar adversarial examples on text classification and entailment tasks. Our proposed attack finds candidate words by considering the information of both the original word and its surrounding context. It jointly leverages masked language modelling and next sentence prediction for context understanding. In comparison to attacks proposed in prior literature, we are able to generate high quality adversarial examples that do significantly better both in terms of success rate and word perturbation percentage.
Abstract（参考訳）: ブラックボックス設定で自然言語処理モデルを攻撃する重要な課題について検討する。本稿では,テキスト分類と包含タスクにおいて,意味的に類似した逆例を作成する攻撃戦略を提案する。提案攻撃は,元の単語とその周囲の文脈の両方の情報を考慮し,候補語を見つける。マスク付き言語モデリングとコンテキスト理解のための次の文予測を併用する。従来の文献で提案された攻撃と比較して, 成功率と単語摂動率の両面において, 高い品質の敵対例を生成することができる。

関連論文リスト

Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
論文参考訳（メタデータ） (2023-12-20T05:06:01Z)
Context-aware Adversarial Attack on Named Entity Recognition [15.049160192547909]
本研究では,文脈対応型対向攻撃法について検討し,モデルのロバスト性について検討する。具体的には、エンティティを認識するために最も情報に富む単語を摂動し、敵の例を作成することを提案する。実験と分析により,本手法は強いベースラインよりも間違った予測を下すのに有効であることが示された。
論文参考訳（メタデータ） (2023-09-16T14:04:23Z)
LimeAttack: Local Explainable Method for Textual Hard-Label Adversarial Attack [3.410883081705873]
本稿では,LimeAttackという新しいハードラベル攻撃アルゴリズムを提案する。 LimeAttackは既存のハードラベル攻撃と比較して攻撃性能が良いことを示す。 LimeAttackによって作られた敵の例は高度に伝達可能であり、敵の訓練におけるモデルロバスト性を効果的に改善する。
論文参考訳（メタデータ） (2023-08-01T06:30:37Z)
Keywords and Instances: A Hierarchical Contrastive Learning Framework Unifying Hybrid Granularities for Text Generation [59.01297461453444]
入力テキスト中のハイブリッドな粒度意味を統一する階層的コントラスト学習機構を提案する。実験により,本モデルがパラフレージング,対話生成,ストーリーテリングタスクにおいて,競争ベースラインより優れていることが示された。
論文参考訳（メタデータ） (2022-05-26T13:26:03Z)
Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
論文参考訳（メタデータ） (2022-03-29T04:33:06Z)
Learning-based Hybrid Local Search for the Hard-label Textual Attack [53.92227690452377]
我々は,攻撃者が予測ラベルにのみアクセス可能な,滅多に調査されていないが厳格な設定,すなわちハードラベル攻撃を考える。そこで本研究では,Learning-based Hybrid Local Search (LHLS)アルゴリズムという,新たなハードラベル攻撃を提案する。我々のLHLSは、攻撃性能と敵の品質に関する既存のハードラベル攻撃を著しく上回っている。
論文参考訳（メタデータ） (2022-01-20T14:16:07Z)
Adversarial GLUE: A Multi-Task Benchmark for Robustness Evaluation of Language Models [86.02610674750345]
AdvGLUE(Adversarial GLUE)は、様々な種類の敵攻撃の下で、現代の大規模言語モデルの脆弱性を調査し評価するための新しいマルチタスクベンチマークである。 GLUEタスクに14の逆攻撃手法を適用してAdvGLUEを構築する。テストしたすべての言語モデルとロバストなトレーニングメソッドは、AdvGLUEではパフォーマンスが悪く、スコアは明確な精度よりもはるかに遅れています。
論文参考訳（メタデータ） (2021-11-04T12:59:55Z)
Contrasting Human- and Machine-Generated Word-Level Adversarial Examples for Text Classification [12.750016480098262]
我々は,入力テキスト中の単語の反復的な修正を人間に課すクラウドソーシング研究について報告する。最近提案したTextFooler, Genetic, BAE, SememePSO 攻撃アルゴリズムとの比較を行った。
論文参考訳（メタデータ） (2021-09-09T16:16:04Z)
Generating Natural Language Attacks in a Hard Label Black Box Setting [3.52359746858894]
我々は、ハードラベルブラックボックス設定で自然言語処理モデルを攻撃する重要かつ困難なタスクを研究します。本研究では, テキスト分類と関連タスクにおいて, 質の高い対比例を作成する意思決定に基づく攻撃戦略を提案する。
論文参考訳（メタデータ） (2020-12-29T22:01:38Z)
Contextualized Perturbation for Textual Adversarial Attack [56.370304308573274]
逆例は自然言語処理(NLP)モデルの脆弱性を明らかにする。本稿では,フロートおよび文法的出力を生成するContextualized AdversaRial Example生成モデルであるCLAREを提案する。
論文参考訳（メタデータ） (2020-09-16T06:53:15Z)
Reevaluating Adversarial Examples in Natural Language [20.14869834829091]
我々は2つの最先端の同義語代用攻撃の出力を分析した。それらの摂動はしばしば意味論を保存せず、38%が文法的誤りを導入している。セマンティクスと文法性を改善するために制約が調整されたことにより、攻撃の成功率は70パーセント以上低下する。
論文参考訳（メタデータ） (2020-04-25T03:09:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。