Fugu-MT 論文翻訳(概要): Poison Attacks against Text Datasets with Conditional Adversarially Regularized Autoencoder

論文の概要: Poison Attacks against Text Datasets with Conditional Adversarially Regularized Autoencoder

arxiv url: http://arxiv.org/abs/2010.02684v1
Date: Tue, 6 Oct 2020 13:03:49 GMT
ステータス: 処理完了
システム内更新日: 2022-10-10 04:53:22.297766
Title: Poison Attacks against Text Datasets with Conditional Adversarially Regularized Autoencoder
Title（参考訳）: 条件付き正規化オートエンコーダを用いたテキストデータセットに対する毒物攻撃
Authors: Alvin Chan, Yi Tay, Yew-Soon Ong, Aston Zhang
Abstract要約: 本稿では,自然言語推論(NLI)とテキスト分類システムにおいて致命的な脆弱性を示す。我々はNLPモデルに対する「バックドア中毒」攻撃を提示する。
参考スコア（独自算出の注目度）: 78.01180944665089
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper demonstrates a fatal vulnerability in natural language inference (NLI) and text classification systems. More concretely, we present a 'backdoor poisoning' attack on NLP models. Our poisoning attack utilizes conditional adversarially regularized autoencoder (CARA) to generate poisoned training samples by poison injection in latent space. Just by adding 1% poisoned data, our experiments show that a victim BERT finetuned classifier's predictions can be steered to the poison target class with success rates of >80% when the input hypothesis is injected with the poison signature, demonstrating that NLI and text classification systems face a huge security risk.
Abstract（参考訳）: 本稿では,自然言語推論(NLI)とテキスト分類システムにおいて致命的な脆弱性を示す。より具体的には、NLPモデルに対する「バックドア中毒」攻撃を示す。有毒化攻撃は条件付き対向正規化オートエンコーダ(cara)を用いて,潜在空間における有毒化による有毒化訓練サンプルを生成する。 1%の有毒データを追加するだけで, 被害者bertの分類器の予測は, 入力仮説に有毒署名を注入した場合, 80%以上の成功率で, 被毒ターゲットクラスに制御可能であることを示し, nliとテキスト分類システムが大きなセキュリティリスクに直面していることを実証した。

関連論文リスト

PoisonBench: Assessing Large Language Model Vulnerability to Data Poisoning [32.508939142492004]
我々は、好み学習中のデータ中毒に対する大規模言語モデルの感受性を評価するためのベンチマークであるPoisonBenchを紹介する。データ中毒攻撃は、隠れた悪意のあるコンテンツやバイアスを含むために、大きな言語モデルレスポンスを操作することができる。 8つの現実的なシナリオに2つの異なる攻撃タイプをデプロイし、21の広く使用されているモデルを評価します。
論文参考訳（メタデータ） (2024-10-11T13:50:50Z)
SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
論文参考訳（メタデータ） (2024-05-19T14:50:09Z)
Towards Building a Robust Toxicity Predictor [13.162016701556725]
本稿では, 有害なテキストサンプルを良性として予測するために, SOTAテキスト分類器に小さな単語レベルの摂動を導入し, 新たな逆攻撃であるtexttToxicTrapを提案する。 2つの新しい目標関数の設計により、ToxicTrapはマルチクラスおよびマルチラベルの有害言語検知器の弱点を特定することができる。
論文参考訳（メタデータ） (2024-04-09T22:56:05Z)
Amplifying Membership Exposure via Data Poisoning [18.799570863203858]
本稿では,データ中毒の第3タイプについて検討し,良心的トレーニングサンプルのプライバシー漏洩リスクを高めることを目的とした。そこで本研究では,対象クラスの加入者への露出を増幅するために,データ中毒攻撃のセットを提案する。この結果から,提案手法は,テスト時間モデルの性能劣化を最小限に抑えることで,メンバーシップ推定精度を大幅に向上させることができることがわかった。
論文参考訳（メタデータ） (2022-11-01T13:52:25Z)
Putting words into the system's mouth: A targeted attack on neural machine translation using monolingual data poisoning [50.67997309717586]
本稿では、悪意のある敵が、バックトランスレーションを用いて訓練されたシステムのトレーニングセットに、モノリンガルテキストの少量の有毒サンプルを挿入する中毒攻撃を提案する。このサンプルは、パドリング誤報のような特定の標的となる翻訳行動を引き起こすように設計されている。有毒な例を作るための2つの方法を示し、トレーニングセットの0.02%にしか満たない少数の事例しか、攻撃を成功させるには不十分であることを示した。
論文参考訳（メタデータ） (2021-07-12T08:07:09Z)
Adversarial Examples Make Strong Poisons [55.63469396785909]
従来は訓練済みのモデルに対する攻撃を意図していた敵の例は,近年の毒殺に特化して設計された手法よりも,データ中毒に有効であることを示す。また,本手法は,データセットのセキュアなリリースにおいて,既存の中毒法よりも極めて効果的である。
論文参考訳（メタデータ） (2021-06-21T01:57:14Z)
Defening against Adversarial Denial-of-Service Attacks [0.0]
データ中毒は、機械学習とデータ駆動技術に対する最も関連するセキュリティ脅威の1つです。我々は,dos有毒なインスタンスを検出する新しい手法を提案する。 2つのdos毒殺攻撃と7つのデータセットに対する我々の防御を評価し、毒殺事例を確実に特定できることを確認します。
論文参考訳（メタデータ） (2021-04-14T09:52:36Z)
DeepPoison: Feature Transfer Based Stealthy Poisoning Attack [2.1445455835823624]
DeepPoisonは、1つの発電機と2つの識別器の斬新な敵対ネットワークです。 DeepPoisonは最先端の攻撃成功率を91.74%まで達成できる。
論文参考訳（メタデータ） (2021-01-06T15:45:36Z)
RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models [93.151822563361]
事前訓練されたニューラルネットワークモデル(LM)は、安全なデプロイメントを妨げる人種差別的、性差別的、その他の有害な言語を生成する傾向にある。本研究では, 予め訓練したLMが有害な言語を生成できる範囲と, 有害な変性を防止するための制御可能なテキスト生成アルゴリズムの有効性について検討する。
論文参考訳（メタデータ） (2020-09-24T03:17:19Z)
Just How Toxic is Data Poisoning? A Unified Benchmark for Backdoor and Data Poisoning Attacks [74.88735178536159]
データ中毒は、モデル盗難から敵の攻撃まで、脅威の中で一番の懸念事項だ。データ中毒やバックドア攻撃は、テスト設定のバリエーションに非常に敏感である。厳格なテストを適用して、それらを恐れるべき程度を判断します。
論文参考訳（メタデータ） (2020-06-22T18:34:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。