Fugu-MT 論文翻訳(概要): Model Robustness with Text Classification: Semantic-preserving adversarial attacks

論文の概要: Model Robustness with Text Classification: Semantic-preserving adversarial attacks

arxiv url: http://arxiv.org/abs/2008.05536v2
Date: Fri, 14 Aug 2020 01:05:09 GMT
ステータス: 処理完了
システム内更新日: 2022-10-31 04:35:57.073447
Title: Model Robustness with Text Classification: Semantic-preserving adversarial attacks
Title（参考訳）: テキスト分類によるモデルロバストネス:セマンティック保存敵攻撃
Authors: Rahul Singh, Tarun Joshi, Vijayan N. Nair, and Agus Sudjianto
Abstract要約: テキスト分類問題におけるモデルロバスト性を評価するために,逆攻撃を生成するアルゴリズムを提案する。この攻撃は、ホワイトボックス設定でかなりの数のフリップを引き起こし、ブラックボックス設定で同じルールベースのものを使用することができる。
参考スコア（独自算出の注目度）: 12.31604391452686
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We propose algorithms to create adversarial attacks to assess model robustness in text classification problems. They can be used to create white box attacks and black box attacks while at the same time preserving the semantics and syntax of the original text. The attacks cause significant number of flips in white-box setting and same rule based can be used in black-box setting. In a black-box setting, the attacks created are able to reverse decisions of transformer based architectures.
Abstract（参考訳）: テキスト分類問題におけるモデルロバスト性を評価するアルゴリズムを提案する。オリジナルテキストのセマンティクスと構文を保存すると同時に、ホワイトボックスアタックとブラックボックスアタックを作成するために使用できる。この攻撃はホワイトボックス設定でかなりの数のフリップを引き起こし、ブラックボックス設定で同じルールベースが使用できる。ブラックボックスの設定では、生成された攻撃はトランスフォーマーベースのアーキテクチャの決定をリバースすることができる。

関連論文リスト

Ask, Attend, Attack: A Effective Decision-Based Black-Box Targeted Attack for Image-to-Text Models [29.1607388062023]
本稿では,攻撃者が最終出力テキストにのみアクセスし,標的攻撃を行うことを目的とした決定ベースのブラックボックス攻撃という,困難なシナリオに焦点を当てる。 3段階のプロセス textitAsk, Attend, Attack は textitAAA と呼ばれ、解決者と協調するために提案されている。 Transformer-basedおよびCNN+RNN-based image-to-text modelの実験結果から,提案したtextitAAAの有効性が確認された。
論文参考訳（メタデータ） (2024-08-16T19:35:06Z)
A Random Ensemble of Encrypted Vision Transformers for Adversarially Robust Defense [6.476298483207895]
ディープニューラルネットワーク(DNN)は、敵の例(AE)に弱いことがよく知られている。ホワイトボックス攻撃とブラックボックス攻撃の双方に対してロバスト性を高めるために,暗号化されたモデルのランダムアンサンブルである視覚変換器(ViT)を用いた新しい手法を提案する。実験では, 画像分類作業において, ホワイトボックス攻撃だけでなくブラックボックス攻撃に対しても頑健であることが実証された。
論文参考訳（メタデータ） (2024-02-11T12:35:28Z)
Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
論文参考訳（メタデータ） (2023-04-10T01:12:09Z)
Adversarial Text Normalization [2.9434930072968584]
逆テキスト正規化器は、少ない計算オーバーヘッドで攻撃されたコンテンツのベースライン性能を回復する。テキスト正規化は文字レベルの攻撃に対してタスクに依存しない防御を提供する。
論文参考訳（メタデータ） (2022-06-08T19:44:03Z)
Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
論文参考訳（メタデータ） (2022-03-29T04:33:06Z)
Parallel Rectangle Flip Attack: A Query-based Black-box Attack against Object Detection [89.08832589750003]
本稿では,攻撃領域近傍の準最適検出を回避するために,ランダム探索による並列矩形フリップ攻撃(PRFA)を提案する。提案手法は, アンカーベースやアンカーフリーなど, 様々な人気物体検出装置を効果的かつ効率的に攻撃し, 転送可能な対向例を生成する。
論文参考訳（メタデータ） (2022-01-22T06:00:17Z)
Meta Gradient Adversarial Attack [64.5070788261061]
本稿では,MGAA(Metaversa Gradient Adrial Attack)と呼ばれる新しいアーキテクチャを提案する。具体的には、モデル動物園から複数のモデルをランダムにサンプリングし、異なるタスクを構成するとともに、各タスクにおけるホワイトボックス攻撃とブラックボックス攻撃を反復的にシミュレートする。ブラックボックス攻撃における勾配方向とブラックボックス攻撃の差を狭めることにより、ブラックボックス設定における逆例の転送性を向上させることができる。
論文参考訳（メタデータ） (2021-08-09T17:44:19Z)
Towards Variable-Length Textual Adversarial Attacks [68.27995111870712]
データの離散性のため、自然言語処理タスクに対してテキストによる敵意攻撃を行うことは非自明である。本稿では,可変長テキスト対比攻撃(VL-Attack)を提案する。本手法は、iwslt14ドイツ語英訳で3,18$ bleuスコアを達成でき、ベースラインモデルより1.47$改善できる。
論文参考訳（メタデータ） (2021-04-16T14:37:27Z)
Can Targeted Adversarial Examples Transfer When the Source and Target Models Have No Label Space Overlap? [36.96777303738315]
我々は,攻撃者のソースモデルとターゲットブラックボックスモデルがラベルスペースとトレーニングデータセットを持つ可能性がある環境に対して,ブラックボックス転送に基づく標的攻撃を設計する。我々の方法論は、ホワイトボックスとブラックボックスラベルセットの間のクラス対応行列の構築から始まります。我々は,我々の転送攻撃が,クエリベースの手法と統合された場合,強力な敵前処理として機能することを示す。
論文参考訳（メタデータ） (2021-03-17T21:21:44Z)
Local Black-box Adversarial Attacks: A Query Efficient Approach [64.98246858117476]
アドリアックは、セキュリティに敏感なシナリオにおけるディープニューラルネットワークの適用を脅かしている。ブラックボックス攻撃における限られたクエリ内でのみクリーンな例の識別領域を摂動させる新しいフレームワークを提案する。攻撃成功率の高いブラックボックス摂動時のクエリ効率を大幅に改善できることを示すため,広範な実験を行った。
論文参考訳（メタデータ） (2021-01-04T15:32:16Z)
Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
論文参考訳（メタデータ） (2020-05-11T05:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。