論文の概要: Putting words into the system's mouth: A targeted attack on neural machine translation using monolingual data poisoning

• arxiv url: http://arxiv.org/abs/2107.05243v1
• Date: Mon, 12 Jul 2021 08:07:09 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-13 15:55:43.673439
• Title: Putting words into the system's mouth: A targeted attack on neural machine translation using monolingual data poisoning
• Title（参考訳）: 単語をシステムの口に入れる : 単言語データ中毒によるニューラルマシン翻訳への標的攻撃
• Authors: Jun Wang, Chang Xu, Francisco Guzman, Ahmed El-Kishky, Yuqing Tang, Benjamin I. P. Rubinstein, Trevor Cohn
• Abstract要約: 本稿では、悪意のある敵が、バックトランスレーションを用いて訓練されたシステムのトレーニングセットに、モノリンガルテキストの少量の有毒サンプルを挿入する中毒攻撃を提案する。 このサンプルは、パドリング誤報のような特定の標的となる翻訳行動を引き起こすように設計されている。 有毒な例を作るための2つの方法を示し、トレーニングセットの0.02%にしか満たない少数の事例しか、攻撃を成功させるには不十分であることを示した。
• 参考スコア（独自算出の注目度）: 50.67997309717586
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural machine translation systems are known to be vulnerable to adversarial test inputs, however, as we show in this paper, these systems are also vulnerable to training attacks. Specifically, we propose a poisoning attack in which a malicious adversary inserts a small poisoned sample of monolingual text into the training set of a system trained using back-translation. This sample is designed to induce a specific, targeted translation behaviour, such as peddling misinformation. We present two methods for crafting poisoned examples, and show that only a tiny handful of instances, amounting to only 0.02% of the training set, is sufficient to enact a successful attack. We outline a defence method against said attacks, which partly ameliorates the problem. However, we stress that this is a blind-spot in modern NMT, demanding immediate attention.
• Abstract（参考訳）: ニューラルマシン翻訳システムは、逆テスト入力に対して脆弱であることが知られているが、本論文で示すように、これらのシステムは、トレーニング攻撃にも脆弱である。 具体的には、悪意のある敵が、バックトランスレーションを用いて訓練されたシステムのトレーニングセットに、少量のモノリンガルテキストを挿入する中毒攻撃を提案する。 このサンプルは、誤った情報をペドリングするなど、特定の翻訳行動を引き起こすように設計されている。 有毒な例を作るための2つの方法を示し,わずか0.02%のトレーニングセットに留まらず,攻撃を成功させるのに十分であることを示す。 我々は、その攻撃に対する防御方法を概説し、問題の一部を改善した。 しかし、われわれはこれが現在のNMTの盲点であり、直ちに注意が必要であると強調する。

関連論文リスト

• NMT-Obfuscator Attack: Ignore a sentence in translation with only one word [54.22817040379553]
  我々はNMTモデルに対する新たなタイプの敵攻撃を提案する。 我々の攻撃は、NMTモデルに入力の第2部を50%以上のケースで無視させることに成功した。
  論文  参考訳（メタデータ） (2024-11-19T12:55:22Z)
• Targeted Adversarial Attacks against Neural Machine Translation [44.04452616807661]
  我々はNMTモデルに対する新たな敵攻撃を提案する。 私たちの攻撃は、75%以上の文の翻訳にキーワードを挿入することに成功しました。
  論文  参考訳（メタデータ） (2023-03-02T08:43:30Z)
• Adversarial Attacks are a Surprisingly Strong Baseline for Poisoning Few-Shot Meta-Learners [28.468089304148453]
  これにより、システムの学習アルゴリズムを騙すような、衝突する入力セットを作れます。 ホワイトボックス環境では、これらの攻撃は非常に成功しており、ターゲットモデルの予測が偶然よりも悪化する可能性があることを示す。 攻撃による「過度な対応」と、攻撃が生成されたモデルと攻撃が転送されたモデルとのミスマッチという2つの仮説を探索する。
  論文  参考訳（メタデータ） (2022-11-23T14:55:44Z)
• Traceback of Data Poisoning Attacks in Neural Networks [24.571668412312196]
  深層ニューラルネットワークに対する毒物攻撃のための法医学的トレースバックツールの開発における当社の取り組みについて述べる。 学習サンプルをトリムする新たな反復的クラスタリングおよびプルーニングソリューションを提案する。 筆者らは,3種類の汚泥(バックドア)中毒と3種類のクリーンラベル中毒に対して,本システムの有効性を実証的に実証した。
  論文  参考訳（メタデータ） (2021-10-13T17:39:18Z)
• Adversarial Examples Make Strong Poisons [55.63469396785909]
  従来は訓練済みのモデルに対する攻撃を意図していた敵の例は,近年の毒殺に特化して設計された手法よりも,データ中毒に有効であることを示す。 また,本手法は,データセットのセキュアなリリースにおいて,既存の中毒法よりも極めて効果的である。
  論文  参考訳（メタデータ） (2021-06-21T01:57:14Z)
• A Targeted Attack on Black-Box Neural Machine Translation with Parallel Data Poisoning [60.826628282900955]
  ブラックボックスNMTシステムに対する標的攻撃は、並列トレーニングデータのごく一部を毒殺することで実現可能であることを示す。 この攻撃は、システムのトレーニングデータを形成するために、クローリングされたWebドキュメントのターゲットの破損によって現実的に実現可能であることを示す。 大量の並列データで訓練された最先端のシステムでさえ、この攻撃は驚くほど低予算で(50%以上の成功率で)成功している。
  論文  参考訳（メタデータ） (2020-11-02T01:52:46Z)
• Concealed Data Poisoning Attacks on NLP Models [56.794857982509455]
  逆攻撃はテスト時間入力の摂動によってNLPモデル予測を変化させる。 我々は,入力に所望のトリガーフレーズが存在する場合,相手がモデル予測を制御できる新しいデータ中毒攻撃を開発した。
  論文  参考訳（メタデータ） (2020-10-23T17:47:06Z)
• Poison Attacks against Text Datasets with Conditional Adversarially Regularized Autoencoder [78.01180944665089]
  本稿では,自然言語推論(NLI)とテキスト分類システムにおいて致命的な脆弱性を示す。 我々はNLPモデルに対する「バックドア中毒」攻撃を提示する。
  論文  参考訳（メタデータ） (2020-10-06T13:03:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。