論文の概要: Just How Toxic is Data Poisoning? A Unified Benchmark for Backdoor and Data Poisoning Attacks

• arxiv url: http://arxiv.org/abs/2006.12557v3
• Date: Thu, 17 Jun 2021 14:10:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2022-11-18 04:37:04.019434
• Title: Just How Toxic is Data Poisoning? A Unified Benchmark for Backdoor and Data Poisoning Attacks
• Title（参考訳）: データ中毒はどんなものか? バックドアとデータ中毒攻撃の統一ベンチマーク
• Authors: Avi Schwarzschild, Micah Goldblum, Arjun Gupta, John P Dickerson, Tom Goldstein
• Abstract要約: データ中毒は、モデル盗難から敵の攻撃まで、脅威の中で一番の懸念事項だ。 データ中毒やバックドア攻撃は、テスト設定のバリエーションに非常に敏感である。 厳格なテストを適用して、それらを恐れるべき程度を判断します。
• 参考スコア（独自算出の注目度）: 74.88735178536159
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Data poisoning and backdoor attacks manipulate training data in order to cause models to fail during inference. A recent survey of industry practitioners found that data poisoning is the number one concern among threats ranging from model stealing to adversarial attacks. However, it remains unclear exactly how dangerous poisoning methods are and which ones are more effective considering that these methods, even ones with identical objectives, have not been tested in consistent or realistic settings. We observe that data poisoning and backdoor attacks are highly sensitive to variations in the testing setup. Moreover, we find that existing methods may not generalize to realistic settings. While these existing works serve as valuable prototypes for data poisoning, we apply rigorous tests to determine the extent to which we should fear them. In order to promote fair comparison in future work, we develop standardized benchmarks for data poisoning and backdoor attacks.
• Abstract（参考訳）: データ中毒やバックドア攻撃は、推論中にモデルが失敗するようにトレーニングデータを操作します。 最近の業界実践者の調査によると、データ中毒は、モデル盗難から敵の攻撃まで、脅威の中で1番目に懸念されている。 しかし、同一の目的を持ったものであっても、一貫性のある、現実的な環境ではテストされていないことから、毒殺の方法がどの程度危険か、どの方法がより効果的かははっきりしない。 データ中毒やバックドア攻撃は、テスト設定のバリエーションに非常に敏感である。 さらに,既存の手法は現実的な設定に一般化できない可能性がある。 これらの既存の作業は、データ中毒の貴重なプロトタイプとして機能しますが、私たちはそれらを恐れるべき程度を決定するために厳密なテストを適用します。 今後の作業における公正な比較を促進するため,データ中毒とバックドア攻撃の標準ベンチマークを開発した。

関連論文リスト

• On the Adversarial Risk of Test Time Adaptation: An Investigation into Realistic Test-Time Data Poisoning [49.17494657762375]
  テスト時間適応(TTA)は、テストデータを使用して推論段階でモデルの重みを更新し、一般化を強化する。 既存の研究では、TTAが逆方向検体で更新されると、良性検体の性能が低下することが示されている。 そこで本研究では, 良性試料にアクセスすることなく, 有毒試料を効果的かつ現実的に生成する手法を提案する。
  論文  参考訳（メタデータ） (2024-10-07T01:29:19Z)
• Can We Trust the Unlabeled Target Data? Towards Backdoor Attack and Defense on Model Adaptation [120.42853706967188]
  本研究は, よく設計された毒物標的データによるモデル適応に対するバックドア攻撃の可能性を探る。 既存の適応アルゴリズムと組み合わせたMixAdaptというプラグイン・アンド・プレイ方式を提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:42:10Z)
• APBench: A Unified Benchmark for Availability Poisoning Attacks and Defenses [21.633448874100004]
  APBenchは、敵の毒殺攻撃の有効性を評価するためのベンチマークである。 APBenchは9つの最先端のアベイラビリティ・アベイラビリティ・アタック、8つの防御アルゴリズム、および4つの従来のデータ拡張技術で構成されている。 われわれの結果は、個人のプライバシーを守るために、既存の攻撃が不適切であることを明らかにしている。
  論文  参考訳（メタデータ） (2023-08-07T02:30:47Z)
• How to Sift Out a Clean Data Subset in the Presence of Data Poisoning? [22.014227948221727]
  データ中毒攻撃の有無でクリーンなデータを特定するために,自動化ツールと人間の検査がいかに正確かを検討する。 本手法は, 既存の攻撃による汚染サンプルが, クリーンなデータ分布から変化していくという知見に基づいている。 評価の結果,Meta-Siftは広範囲の毒素攻撃下で100%の精度でクリーンなベースセットをシフできることがわかった。
  論文  参考訳（メタデータ） (2022-10-12T18:18:21Z)
• Autoregressive Perturbations for Data Poisoning [54.205200221427994]
  ソーシャルメディアからのデータスクレイピングは、不正なデータの使用に関する懸念が高まっている。 データ中毒攻撃は、スクラップ対策として提案されている。 より広範なデータセットにアクセスせずに有毒なデータを生成できる自動回帰(AR)中毒を導入する。
  論文  参考訳（メタデータ） (2022-06-08T06:24:51Z)
• Accumulative Poisoning Attacks on Real-time Data [56.96241557830253]
  我々は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを示します。 我々の研究は、よく設計されたが簡単な攻撃戦略が、中毒効果を劇的に増幅できることを検証する。
  論文  参考訳（メタデータ） (2021-06-18T08:29:53Z)
• Defening against Adversarial Denial-of-Service Attacks [0.0]
  データ中毒は、機械学習とデータ駆動技術に対する最も関連するセキュリティ脅威の1つです。 我々は,dos有毒なインスタンスを検出する新しい手法を提案する。 2つのdos毒殺攻撃と7つのデータセットに対する我々の防御を評価し、毒殺事例を確実に特定できることを確認します。
  論文  参考訳（メタデータ） (2021-04-14T09:52:36Z)
• Property Inference From Poisoning [15.105224455937025]
  プロパティ推論攻撃は、トレーニングされたモデルにアクセスでき、トレーニングデータのグローバルな統計を抽出しようとする敵を考える。 本研究では,モデルの情報漏洩を増大させることが目的とする中毒攻撃について検討する。 以上より,毒殺攻撃は情報漏洩を著しく促進し,敏感なアプリケーションにおいてより強力な脅威モデルと見なされるべきであることが示唆された。
  論文  参考訳（メタデータ） (2021-01-26T20:35:28Z)
• Strong Data Augmentation Sanitizes Poisoning and Backdoor Attacks Without an Accuracy Tradeoff [57.35978884015093]
  CutMixのような強力なデータ拡張は、パフォーマンスを損なうことなく、中毒やバックドア攻撃の脅威を著しく減少させる可能性がある。 バックドアのコンテキストでは、CutMixは攻撃を大幅に軽減し、同時にバリデーションの精度を9%向上させる。
  論文  参考訳（メタデータ） (2020-11-18T20:18:50Z)
• Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching [56.280018325419896]
  Data Poisoning攻撃は、トレーニングデータを変更して、そのようなデータでトレーニングされたモデルを悪意を持って制御する。 我々は「スクラッチから」と「クリーンラベルから」の両方である特に悪意のある毒物攻撃を分析します。 フルサイズで有毒なImageNetデータセットをスクラッチからトレーニングした現代のディープネットワークにおいて、ターゲットの誤分類を引き起こすのは、これが初めてであることを示す。
  論文  参考訳（メタデータ） (2020-09-04T16:17:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。