Fugu-MT 論文翻訳(概要): Semantic Stealth: Adversarial Text Attacks on NLP Using Several Methods

論文の概要: Semantic Stealth: Adversarial Text Attacks on NLP Using Several Methods

arxiv url: http://arxiv.org/abs/2404.05159v1
Date: Mon, 8 Apr 2024 02:55:01 GMT
ステータス: 処理完了
システム内更新日: 2024-04-09 15:43:25.306748
Title: Semantic Stealth: Adversarial Text Attacks on NLP Using Several Methods
Title（参考訳）: セマンティックステルス:いくつかの手法を用いたNLPの逆テキスト攻撃
Authors: Roopkatha Dey, Aivy Debnath, Sayak Kumar Dutta, Kaustav Ghosh, Arijit Mitra, Arghya Roy Chowdhury, Jaydip Sen,
Abstract要約: テキスト敵攻撃は、入力テキストを意図的に操作することで、モデルの予測を誤解させる。本稿では,BERT,BERT-on-BERT,Fraud Bargain's Attack (FBA)について述べる。 PWWSは最も強力な敵として登場し、複数の評価シナリオで他のメソッドよりも一貫して優れています。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In various real-world applications such as machine translation, sentiment analysis, and question answering, a pivotal role is played by NLP models, facilitating efficient communication and decision-making processes in domains ranging from healthcare to finance. However, a significant challenge is posed to the robustness of these natural language processing models by text adversarial attacks. These attacks involve the deliberate manipulation of input text to mislead the predictions of the model while maintaining human interpretability. Despite the remarkable performance achieved by state-of-the-art models like BERT in various natural language processing tasks, they are found to remain vulnerable to adversarial perturbations in the input text. In addressing the vulnerability of text classifiers to adversarial attacks, three distinct attack mechanisms are explored in this paper using the victim model BERT: BERT-on-BERT attack, PWWS attack, and Fraud Bargain's Attack (FBA). Leveraging the IMDB, AG News, and SST2 datasets, a thorough comparative analysis is conducted to assess the effectiveness of these attacks on the BERT classifier model. It is revealed by the analysis that PWWS emerges as the most potent adversary, consistently outperforming other methods across multiple evaluation scenarios, thereby emphasizing its efficacy in generating adversarial examples for text classification. Through comprehensive experimentation, the performance of these attacks is assessed and the findings indicate that the PWWS attack outperforms others, demonstrating lower runtime, higher accuracy, and favorable semantic similarity scores. The key insight of this paper lies in the assessment of the relative performances of three prevalent state-of-the-art attack mechanisms.
Abstract（参考訳）: 機械翻訳、感情分析、質問応答といった現実世界の様々な応用において、NLPモデルによって重要な役割が演じられ、医療から金融まで、領域における効率的なコミュニケーションと意思決定プロセスが促進される。しかし、これらの自然言語処理モデルの頑健性には、テキストの敵対攻撃による大きな課題が生じる。これらの攻撃は、人間の解釈可能性を維持しながらモデルの予測を誤解させる入力テキストを意図的に操作することを含む。 BERTのような最先端のモデルが様々な自然言語処理タスクで達成した顕著な性能にもかかわらず、入力テキストの敵の摂動に弱いままであることがわかった。テキスト分類器の攻撃に対する脆弱性に対処するため,本論文では,BERT-on-BERT攻撃,PWWS攻撃,Fraud Bargain's Attack (FBA) の3つの異なる攻撃メカニズムを被害者モデルBERTを用いて検討した。 IMDB、AG News、SST2データセットを活用して、BERT分類器モデルにおけるこれらの攻撃の有効性を評価するために、徹底的な比較分析を行う。解析の結果, PWWSは最も強力な敵として出現し, 複数の評価シナリオにおいて他の手法よりも一貫して優れており, テキスト分類の逆例を生成する上での有効性を強調していることが明らかとなった。総合的な実験を通じて,これらの攻撃の性能を評価し,PWWS攻撃が他の攻撃よりも優れており,より低ランタイム,高い精度,良好な意味的類似性スコアが示されている。本論文の重要な洞察は,3つの最先端攻撃機構の相対的性能を評価することである。

関連論文リスト

MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
論文参考訳（メタデータ） (2024-06-13T15:55:04Z)
SA-Attack: Improving Adversarial Transferability of Vision-Language Pre-training Models via Self-Augmentation [56.622250514119294]
ホワイトボックスの敵攻撃とは対照的に、転送攻撃は現実世界のシナリオをより反映している。本稿では,SA-Attackと呼ばれる自己拡張型転送攻撃手法を提案する。
論文参考訳（メタデータ） (2023-12-08T09:08:50Z)
Fooling the Textual Fooler via Randomizing Latent Representations [13.77424820701913]
敵語レベルの摂動はよく研究され効果的な攻撃戦略である。本稿では、敵の例を生成する過程を複雑にすることを目的とする、軽量で攻撃に依存しない防御法を提案する。本稿では,AdvFoolerの対人的単語レベル攻撃に対する最先端のロバスト性を実証的に示す。
論文参考訳（メタデータ） (2023-10-02T06:57:25Z)
How do humans perceive adversarial text? A reality check on the validity and naturalness of word-based adversarial attacks [4.297786261992324]
敵対的攻撃は不正なアルゴリズムだ入力テキストを不当に修正してモデルに誤った予測をさせる 378人の被験者を対象に,最先端の手法によるテキスト対逆例の知覚可能性について調査した。以上の結果から,既存のテキスト攻撃は人間が関与する現実のシナリオでは実行不可能であることが示唆された。
論文参考訳（メタデータ） (2023-05-24T21:52:13Z)
In and Out-of-Domain Text Adversarial Robustness via Label Smoothing [64.66809713499576]
多様なNLPタスクの基本モデルにおいて,ラベルの平滑化戦略によって提供される対角的ロバスト性について検討する。実験の結果,ラベルのスムース化は,BERTなどの事前学習モデルにおいて,様々な攻撃に対して,逆方向の堅牢性を大幅に向上させることがわかった。また,予測信頼度とロバスト性の関係を解析し,ラベルの平滑化が敵の例に対する過度な信頼誤差を減少させることを示した。
論文参考訳（メタデータ） (2022-12-20T14:06:50Z)
Learning-based Hybrid Local Search for the Hard-label Textual Attack [53.92227690452377]
我々は,攻撃者が予測ラベルにのみアクセス可能な,滅多に調査されていないが厳格な設定,すなわちハードラベル攻撃を考える。そこで本研究では,Learning-based Hybrid Local Search (LHLS)アルゴリズムという,新たなハードラベル攻撃を提案する。我々のLHLSは、攻撃性能と敵の品質に関する既存のハードラベル攻撃を著しく上回っている。
論文参考訳（メタデータ） (2022-01-20T14:16:07Z)
Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
論文参考訳（メタデータ） (2021-08-13T11:49:09Z)
Evaluating Deception Detection Model Robustness To Linguistic Variation [10.131671217810581]
認知ニュース検出の設定における言語的変化に対するモデル堅牢性の解析を提案する。 2つの予測タスクを検討し,3つの最先端組込みを比較して,モデル性能の一貫した傾向を強調する。キャラクタあるいは混合アンサンブルモデルが最も効果的な防御であり,キャラクタ摂動に基づく攻撃戦術がより成功していることがわかった。
論文参考訳（メタデータ） (2021-04-23T17:25:38Z)
Adv-BERT: BERT is not robust on misspellings! Generating nature adversarial samples on BERT [95.88293021131035]
しかし、悪意のある敵のインスタンスがしばしば存在するのではなく、テクトナチュラルなシナリオでモデルがどのように機能するかは定かではない。この研究は、NLPにおける最先端のTransformerスタイルモデルであるBERTの、ノイズの多いデータを扱うための頑健さを体系的に探求する。
論文参考訳（メタデータ） (2020-02-27T22:07:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。