Fugu-MT 論文翻訳(概要): Identifying Adversarial Attacks on Text Classifiers

論文の概要: Identifying Adversarial Attacks on Text Classifiers

arxiv url: http://arxiv.org/abs/2201.08555v1
Date: Fri, 21 Jan 2022 06:16:04 GMT
ステータス: 処理完了
システム内更新日: 2022-01-24 13:30:42.536140
Title: Identifying Adversarial Attacks on Text Classifiers
Title（参考訳）: テキスト分類器における逆攻撃の同定
Authors: Zhouhang Xie, Jonathan Brophy, Adam Noack, Wencong You, Kalyani Asthana, Carter Perkins, Sabrina Reis, Sameer Singh and Daniel Lowd
Abstract要約: 本稿では,その生成にどの方法が使われたかを決定するために,逆テキストを解析する。最初のコントリビューションは、攻撃検出とラベル付けのための広範なデータセットです。第2のコントリビューションとして、このデータセットを使用して、攻撃識別のための多くの分類器を開発し、ベンチマークします。
参考スコア（独自算出の注目度）: 32.958568467774704
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: The landscape of adversarial attacks against text classifiers continues to grow, with new attacks developed every year and many of them available in standard toolkits, such as TextAttack and OpenAttack. In response, there is a growing body of work on robust learning, which reduces vulnerability to these attacks, though sometimes at a high cost in compute time or accuracy. In this paper, we take an alternate approach -- we attempt to understand the attacker by analyzing adversarial text to determine which methods were used to create it. Our first contribution is an extensive dataset for attack detection and labeling: 1.5~million attack instances, generated by twelve adversarial attacks targeting three classifiers trained on six source datasets for sentiment analysis and abuse detection in English. As our second contribution, we use this dataset to develop and benchmark a number of classifiers for attack identification -- determining if a given text has been adversarially manipulated and by which attack. As a third contribution, we demonstrate the effectiveness of three classes of features for these tasks: text properties, capturing content and presentation of text; language model properties, determining which tokens are more or less probable throughout the input; and target model properties, representing how the text classifier is influenced by the attack, including internal node activations. Overall, this represents a first step towards forensics for adversarial attacks against text classifiers.
Abstract（参考訳）: テキスト分類器に対する敵対的攻撃の状況は拡大を続けており、毎年新たな攻撃が開発され、TextAttackやOpenAttackといった標準ツールキットで利用できるようになった。これに反応して、堅牢な学習に関する作業が増えているため、これらの攻撃に対する脆弱性は減少するが、計算時間や精度は高くなる。 In this paper, we take an alternate approach -- we attempt to understand the attacker by analyzing adversarial text to determine which methods were used to create it. Our first contribution is an extensive dataset for attack detection and labeling: 1.5~million attack instances, generated by twelve adversarial attacks targeting three classifiers trained on six source datasets for sentiment analysis and abuse detection in English. As our second contribution, we use this dataset to develop and benchmark a number of classifiers for attack identification -- determining if a given text has been adversarially manipulated and by which attack. 第3の貢献として、テキストプロパティ、コンテンツのキャプチャ、テキストのプレゼンテーション、言語モデルプロパティ、入力を通してどのトークンが多かれ少なかれあり得るかを決定する言語モデルプロパティ、および、テキスト分類器が内部ノードのアクティベーションを含む攻撃によってどのように影響を受けるかを表すターゲットモデルプロパティの3つのクラスの有効性を示す。全体として、これはテキスト分類器に対する敵対的攻撃の法医学への第一歩である。

関連論文リスト

Semantic Stealth: Adversarial Text Attacks on NLP Using Several Methods [0.0]
テキスト敵攻撃は、入力テキストを意図的に操作することで、モデルの予測を誤解させる。本稿では,BERT,BERT-on-BERT,Fraud Bargain's Attack (FBA)について述べる。 PWWSは最も強力な敵として登場し、複数の評価シナリオで他のメソッドよりも一貫して優れています。
論文参考訳（メタデータ） (2024-04-08T02:55:01Z)
Forging the Forger: An Attempt to Improve Authorship Verification via Data Augmentation [52.72682366640554]
著者検証(英語: Authorship Verification, AV)とは、ある特定の著者によって書かれたか、別の人物によって書かれたのかを推測するテキスト分類タスクである。多くのAVシステムは敵の攻撃に弱いことが示されており、悪意のある著者は、その書体スタイルを隠蔽するか、あるいは他の著者の書体を模倣することによって、積極的に分類者を騙そうとしている。
論文参考訳（メタデータ） (2024-03-17T16:36:26Z)
Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
論文参考訳（メタデータ） (2023-03-14T16:11:47Z)
TextDefense: Adversarial Text Detection based on Word Importance Entropy [38.632552667871295]
NLPモデルの新たな逆例検出フレームワークであるTextDefenseを提案する。実験の結果,TextDefenseは異なるアーキテクチャ,データセット,アタックメソッドに適用可能であることがわかった。我々はNLPの敵攻撃と防衛方法の原理に対する洞察を提供する。
論文参考訳（メタデータ） (2023-02-12T11:12:44Z)
Object-fabrication Targeted Attack for Object Detection [54.10697546734503]
物体検出の敵攻撃は標的攻撃と未標的攻撃を含む。新たなオブジェクトファブリケーションターゲット攻撃モードは、特定のターゲットラベルを持つ追加の偽オブジェクトをファブリケートする検出器を誤解させる可能性がある。
論文参考訳（メタデータ） (2022-12-13T08:42:39Z)
TCAB: A Large-Scale Text Classification Attack Benchmark [36.102015445585785]
テキスト分類攻撃ベンチマーク (TCAB) は、テキスト分類器に対する敵対的攻撃を分析し、理解し、検出し、ラベル付けするためのデータセットである。 TCABには150万の攻撃インスタンスが含まれており、英語の感情分析と虐待検出のために6つのソースデータセットでトレーニングされた3つの分類器をターゲットにした12の敵攻撃によって生成される。攻撃の検出とラベリングの主要なタスクに加えて、Tabは攻撃のローカライゼーション、攻撃対象のラベリング、攻撃特性のキャラクタリゼーションにも使用できる。
論文参考訳（メタデータ） (2022-10-21T20:22:45Z)
Don't sweat the small stuff, classify the rest: Sample Shielding to protect text classifiers against adversarial attacks [2.512827436728378]
ディープラーニング(DL)はテキスト分類に広く使われている。攻撃者は、元の意味をそのままに保ちながら、分類器を誤解させる方法でテキストを変更する。サンプルシールドという,新規で直感的な防衛戦略を提案する。
論文参考訳（メタデータ） (2022-05-03T18:24:20Z)
Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
論文参考訳（メタデータ） (2022-03-29T04:33:06Z)
Learning-based Hybrid Local Search for the Hard-label Textual Attack [53.92227690452377]
我々は,攻撃者が予測ラベルにのみアクセス可能な,滅多に調査されていないが厳格な設定,すなわちハードラベル攻撃を考える。そこで本研究では,Learning-based Hybrid Local Search (LHLS)アルゴリズムという,新たなハードラベル攻撃を提案する。我々のLHLSは、攻撃性能と敵の品質に関する既存のハードラベル攻撃を著しく上回っている。
論文参考訳（メタデータ） (2022-01-20T14:16:07Z)
Towards Variable-Length Textual Adversarial Attacks [68.27995111870712]
データの離散性のため、自然言語処理タスクに対してテキストによる敵意攻撃を行うことは非自明である。本稿では,可変長テキスト対比攻撃(VL-Attack)を提案する。本手法は、iwslt14ドイツ語英訳で3,18$ bleuスコアを達成でき、ベースラインモデルより1.47$改善できる。
論文参考訳（メタデータ） (2021-04-16T14:37:27Z)
Universal Adversarial Attacks with Natural Triggers for Text Classification [30.74579821832117]
我々は、自然の英語のフレーズに近づきながら、分類システムを混乱させる敵攻撃を開発する。我々の攻撃は、従来のモデルよりも識別が困難でありながら、分類タスクのモデル精度を効果的に低下させる。
論文参考訳（メタデータ） (2020-05-01T01:58:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。