論文の概要: Token-Modification Adversarial Attacks for Natural Language Processing: A Survey

• arxiv url: http://arxiv.org/abs/2103.00676v2
• Date: Mon, 7 Aug 2023 03:25:37 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-09 01:38:48.111032
• Title: Token-Modification Adversarial Attacks for Natural Language Processing: A Survey
• Title（参考訳）: 自然言語処理におけるToken-Modification Adversarial Attacks: A Survey
• Authors: Tom Roth, Yansong Gao, Alsharif Abuadbba, Surya Nepal, Wei Liu
• Abstract要約: この調査は、新たな研究者をこの分野に誘導し、個別の攻撃成分に関するさらなる研究を促すことを目的としている。 我々は、攻撃非依存のフレームワークを使用して調査を構造化し、フィールドを効果的に分類する。
• 参考スコア（独自算出の注目度）: 28.395441989163768
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: There are now many adversarial attacks for natural language processing systems. Of these, a vast majority achieve success by modifying individual document tokens, which we call here a token-modification attack. Each token-modification attack is defined by a specific combination of fundamental components, such as a constraint on the adversary or a particular search algorithm. Motivated by this observation, we survey existing token-modification attacks and extract the components of each. We use an attack-independent framework to structure our survey which results in an effective categorisation of the field and an easy comparison of components. This survey aims to guide new researchers to this field and spark further research into individual attack components.
• Abstract（参考訳）: 現在、自然言語処理システムに対する多くの敵攻撃がある。 これらのうち、大半は個々のドキュメントトークンを変更することで成功をおさめています。 各トークン修飾攻撃は、敵または特定の検索アルゴリズムに対する制約など、基本コンポーネントの特定の組み合わせによって定義される。 この観察に動機づけられて,既存のトークン修飾攻撃を調査し,各コンポーネントを抽出した。 攻撃非依存のフレームワークを用いて調査を構造化し、フィールドの効果的な分類とコンポーネントの比較を容易にする。 この調査は、新たな研究者をこの分野に誘導し、個別の攻撃成分に関するさらなる研究を促すことを目的としている。

関連論文リスト

• Coarse-to-Fine: Hierarchical Multi-task Learning for Natural Language Understanding [51.31622274823167]
  本稿では,各タスクの下位レベルを全タスクに共有し,中間レベルを異なるグループに分割し,上位レベルを各タスクに割り当てる,粗大なパラダイムを持つ階層型フレームワークを提案する。 これにより、すべてのタスクから基本言語特性を学習し、関連するタスクのパフォーマンスを高め、無関係なタスクから負の影響を減らすことができる。
  論文  参考訳（メタデータ） (2022-08-19T02:46:20Z)
• Compositional Generalization in Grounded Language Learning via Induced Model Sparsity [81.38804205212425]
  グリッド環境における単純な言語条件のナビゲーション問題について考察する。 本研究では,オブジェクトの指示文と属性のスパース相関を助長するエージェントを設計し,それらを組み合わせて目的を導出する。 我々のエージェントは、少数のデモンストレーションから学習した場合でも、新しいプロパティの組み合わせを含む目標に対して高いレベルのパフォーマンスを維持している。
  論文  参考訳（メタデータ） (2022-07-06T08:46:27Z)
• FindIt: Generalized Localization with Natural Language Queries [43.07139534653485]
  FindItは、さまざまな視覚的グラウンドとローカライゼーションタスクを統合する、シンプルで汎用的なフレームワークである。 我々のアーキテクチャの鍵は、異なるローカライゼーション要求を統一する効率的なマルチスケール融合モジュールである。 エンドツーエンドのトレーニング可能なフレームワークは、幅広い参照表現、ローカライゼーション、検出クエリに柔軟かつ正確に対応します。
  論文  参考訳（メタデータ） (2022-03-31T17:59:30Z)
• Identifying Adversarial Attacks on Text Classifiers [32.958568467774704]
  本稿では,その生成にどの方法が使われたかを決定するために,逆テキストを解析する。 最初のコントリビューションは、攻撃検出とラベル付けのための広範なデータセットです。 第2のコントリビューションとして、このデータセットを使用して、攻撃識別のための多くの分類器を開発し、ベンチマークします。
  論文  参考訳（メタデータ） (2022-01-21T06:16:04Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)
• Compression, Transduction, and Creation: A Unified Framework for Evaluating Natural Language Generation [85.32991360774447]
  自然言語生成(NLG)は幅広いタスクにまたがっており、それぞれが特定の目的のために機能する。 NLGタスクにおける情報変化の性質に基づく統一的な視点を提案する。 我々は,異なるNLGタスクの重要な側面を評価するのに適した,解釈可能なメトリクスのファミリーを開発する。
  論文  参考訳（メタデータ） (2021-09-14T01:00:42Z)
• Robustness Tests of NLP Machine Learning Models: Search and Semantically Replace [2.0611838991750018]
  本稿では、自然言語処理(NLP)を含む機械学習モデルの堅牢性を評価する戦略を提案する。 全体的アプローチは、(1)テキストの重要な部分を識別する検索と、(2)重要な部分の置換を見つけ、置き換えられたトークンを意味的に類似した単語で制限するセマンティック置換という2つのステップからなる検索とセマンティック置換戦略に依存します。
  論文  参考訳（メタデータ） (2021-04-20T14:05:36Z)
• SAFCAR: Structured Attention Fusion for Compositional Action Recognition [47.43959215267547]
  我々は,物体検出からの情報を組み合わせた新しい自己注意機構(Structured Attention Fusion, SAF)を開発し, 検証する。 提案手法は, 従来の技術システムよりも, 新規な動詞合成を効果的に認識するものである。 我々は,Something-V2データセットの課題であるSomesing-Elseタスクに対するアプローチを検証する。
  論文  参考訳（メタデータ） (2020-12-03T17:45:01Z)
• CausalWorld: A Robotic Manipulation Benchmark for Causal Structure and Transfer Learning [138.40338621974954]
  CausalWorldは、ロボット操作環境における因果構造と伝達学習のベンチマークである。 タスクは、ブロックのセットから3D形状を構築することで構成される。
  論文  参考訳（メタデータ） (2020-10-08T23:01:13Z)
• Contextualized Perturbation for Textual Adversarial Attack [56.370304308573274]
  逆例は自然言語処理(NLP)モデルの脆弱性を明らかにする。 本稿では,フロートおよび文法的出力を生成するContextualized AdversaRial Example生成モデルであるCLAREを提案する。
  論文  参考訳（メタデータ） (2020-09-16T06:53:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。